19 	struct pci_epc *epc = ep->epc;  in dw_pcie_ep_linkup()  local
21 	pci_epc_linkup(epc);  in dw_pcie_ep_linkup()
27 	struct pci_epc *epc = ep->epc;  in dw_pcie_ep_init_notify()  local
29 	pci_epc_init_notify(epc);  in dw_pcie_ep_init_notify()
80 	funcs = pci->ep.epc->max_functions;  in dw_pcie_ep_reset_bar()
128 static int dw_pcie_ep_write_header(struct pci_epc *epc, u8 func_no,  in dw_pcie_ep_write_header()  argument
131 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_write_header()
205 static void dw_pcie_ep_clear_bar(struct pci_epc *epc, u8 func_no,  in dw_pcie_ep_clear_bar()  argument
208 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_clear_bar()
220 static int dw_pcie_ep_set_bar(struct pci_epc *epc, u8 func_no,  in dw_pcie_ep_set_bar()  argument
224 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_set_bar()
278 static void dw_pcie_ep_unmap_addr(struct pci_epc *epc, u8 func_no,  in dw_pcie_ep_unmap_addr()  argument
283 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_unmap_addr()
294 static int dw_pcie_ep_map_addr(struct pci_epc *epc, u8 func_no,  in dw_pcie_ep_map_addr()  argument
299 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_map_addr()
311 static int dw_pcie_ep_get_msi(struct pci_epc *epc, u8 func_no)  in dw_pcie_ep_get_msi()  argument
313 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_get_msi()
335 static int dw_pcie_ep_set_msi(struct pci_epc *epc, u8 func_no, u8 interrupts)  in dw_pcie_ep_set_msi()  argument
337 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_set_msi()
360 static int dw_pcie_ep_get_msix(struct pci_epc *epc, u8 func_no)  in dw_pcie_ep_get_msix()  argument
362 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_get_msix()
384 static int dw_pcie_ep_set_msix(struct pci_epc *epc, u8 func_no, u16 interrupts,  in dw_pcie_ep_set_msix()  argument
387 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_set_msix()
420 static int dw_pcie_ep_raise_irq(struct pci_epc *epc, u8 func_no,  in dw_pcie_ep_raise_irq()  argument
423 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_raise_irq()
431 static void dw_pcie_ep_stop(struct pci_epc *epc)  in dw_pcie_ep_stop()  argument
433 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_stop()
442 static int dw_pcie_ep_start(struct pci_epc *epc)  in dw_pcie_ep_start()  argument
444 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_start()
454 dw_pcie_ep_get_features(struct pci_epc *epc, u8 func_no)  in dw_pcie_ep_get_features()  argument
456 	struct dw_pcie_ep *ep = epc_get_drvdata(epc);  in dw_pcie_ep_get_features()
496 	struct pci_epc *epc = ep->epc;  in dw_pcie_ep_raise_msi_irq()  local
527 	aligned_offset = msg_addr_lower & (epc->mem->window.page_size - 1);  in dw_pcie_ep_raise_msi_irq()
530 	ret = dw_pcie_ep_map_addr(epc, func_no, ep->msi_mem_phys, msg_addr,  in dw_pcie_ep_raise_msi_irq()
531 				  epc->mem->window.page_size);  in dw_pcie_ep_raise_msi_irq()
537 	dw_pcie_ep_unmap_addr(epc, func_no, ep->msi_mem_phys);  in dw_pcie_ep_raise_msi_irq()
568 	struct pci_epc *epc = ep->epc;  in dw_pcie_ep_raise_msix_irq()  local
598 	aligned_offset = msg_addr & (epc->mem->window.page_size - 1);  in dw_pcie_ep_raise_msix_irq()
599 	ret = dw_pcie_ep_map_addr(epc, func_no, ep->msi_mem_phys,  msg_addr,  in dw_pcie_ep_raise_msix_irq()
600 				  epc->mem->window.page_size);  in dw_pcie_ep_raise_msix_irq()
606 	dw_pcie_ep_unmap_addr(epc, func_no, ep->msi_mem_phys);  in dw_pcie_ep_raise_msix_irq()
614 	struct pci_epc *epc = ep->epc;  in dw_pcie_ep_exit()  local
616 	pci_epc_mem_free_addr(epc, ep->msi_mem_phys, ep->msi_mem,  in dw_pcie_ep_exit()
617 			      epc->mem->window.page_size);  in dw_pcie_ep_exit()
619 	pci_epc_mem_exit(epc);  in dw_pcie_ep_exit()
683 	struct pci_epc *epc;  in dw_pcie_ep_init()  local
740 	epc = devm_pci_epc_create(dev, &epc_ops);  in dw_pcie_ep_init()
741 	if (IS_ERR(epc)) {  in dw_pcie_ep_init()
743 		return PTR_ERR(epc);  in dw_pcie_ep_init()
746 	ep->epc = epc;  in dw_pcie_ep_init()
747 	epc_set_drvdata(epc, ep);  in dw_pcie_ep_init()
749 	ret = of_property_read_u8(np, "max-functions", &epc->max_functions);  in dw_pcie_ep_init()
751 		epc->max_functions = 1;  in dw_pcie_ep_init()
753 	for (func_no = 0; func_no < epc->max_functions; func_no++) {  in dw_pcie_ep_init()
770 	ret = pci_epc_mem_init(epc, ep->phys_base, ep->addr_size,  in dw_pcie_ep_init()
777 	ep->msi_mem = pci_epc_mem_alloc_addr(epc, &ep->msi_mem_phys,  in dw_pcie_ep_init()
778 					     epc->mem->window.page_size);  in dw_pcie_ep_init()
798 	pci_epc_mem_free_addr(epc, ep->msi_mem_phys, ep->msi_mem,  in dw_pcie_ep_init()
799 			      epc->mem->window.page_size);  in dw_pcie_ep_init()
802 	pci_epc_mem_exit(epc);  in dw_pcie_ep_init()