29 struct bpf_prog;
99 	void (*map_poke_run)(struct bpf_map *map, u32 key, struct bpf_prog *old,
100 			     struct bpf_prog *new);
359 	bool (*allowed)(const struct bpf_prog *prog);
447 	int (*test_run)(struct bpf_prog *prog, const union bpf_attr *kattr,
455 			  const struct bpf_prog *prog);
461 				const struct bpf_prog *prog,
464 			    const struct bpf_prog *prog);
470 				  struct bpf_prog *prog, u32 *target_size);
488 	int (*prepare)(struct bpf_prog *prog);
489 	int (*translate)(struct bpf_prog *prog);
490 	void (*destroy)(struct bpf_prog *prog);
495 	struct bpf_prog		*prog;
553 	struct bpf_prog *progs[BPF_MAX_TRAMP_PROGS];
584 void notrace __bpf_prog_exit(struct bpf_prog *prog, u64 start);
635 	struct bpf_prog *extension_prog;
655 	struct bpf_prog *prog;
679 int bpf_trampoline_link_prog(struct bpf_prog *prog, struct bpf_trampoline *tr);
680 int bpf_trampoline_unlink_prog(struct bpf_prog *prog, struct bpf_trampoline *tr);
719 void bpf_dispatcher_change_prog(struct bpf_dispatcher *d, struct bpf_prog *from,
720 				struct bpf_prog *to);
730 static inline int bpf_trampoline_link_prog(struct bpf_prog *prog,  in bpf_trampoline_link_prog()
735 static inline int bpf_trampoline_unlink_prog(struct bpf_prog *prog,  in bpf_trampoline_unlink_prog()
751 					      struct bpf_prog *from,  in bpf_dispatcher_change_prog()
752 					      struct bpf_prog *to) {}  in bpf_dispatcher_change_prog()
808 	struct bpf_prog *dst_prog;
823 	struct bpf_prog **func;
831 	struct bpf_prog *prog;
898 	struct bpf_prog *prog;
906 	int (*update_prog)(struct bpf_link *link, struct bpf_prog *new_prog,
907 			   struct bpf_prog *old_prog);
1041 bool bpf_prog_array_compatible(struct bpf_array *array, const struct bpf_prog *fp);
1042 int bpf_prog_calc_tag(struct bpf_prog *fp);
1052 					struct bpf_prog *prog,
1071 	struct bpf_prog *prog;
1088 				struct bpf_prog *old_prog);
1091 			     struct bpf_prog *prog);
1096 			struct bpf_prog *exclude_prog,
1097 			struct bpf_prog *include_prog,
1103 		struct bpf_prog *_prog;			\
1154 		struct bpf_prog *_prog;			\
1240 struct bpf_prog *bpf_prog_get(u32 ufd);
1241 struct bpf_prog *bpf_prog_get_type_dev(u32 ufd, enum bpf_prog_type type,
1243 void bpf_prog_add(struct bpf_prog *prog, int i);
1244 void bpf_prog_sub(struct bpf_prog *prog, int i);
1245 void bpf_prog_inc(struct bpf_prog *prog);
1246 struct bpf_prog * __must_check bpf_prog_inc_not_zero(struct bpf_prog *prog);
1247 void bpf_prog_put(struct bpf_prog *prog);
1251 void bpf_prog_free_id(struct bpf_prog *prog, bool do_idr_lock);
1283 struct bpf_prog *bpf_prog_get_curr_or_next(u32 *id);
1313 int bpf_prog_new_fd(struct bpf_prog *prog);
1316 		   const struct bpf_link_ops *ops, struct bpf_prog *prog);
1338 typedef int (*bpf_iter_attach_target_t)(struct bpf_prog *prog,
1374 bool bpf_iter_prog_supported(struct bpf_prog *prog);
1375 int bpf_iter_link_attach(const union bpf_attr *attr, struct bpf_prog *prog);
1378 struct bpf_prog *bpf_iter_get_info(struct bpf_iter_meta *meta, bool in_stop);
1379 int bpf_iter_run_prog(struct bpf_prog *prog, void *ctx);
1422 int bpf_check(struct bpf_prog **fp, union bpf_attr *attr,
1443 			     struct bpf_prog *xdp_prog);
1459 struct bpf_prog *bpf_prog_get_type_path(const char *name, enum bpf_prog_type type);
1462 int bpf_prog_test_run_xdp(struct bpf_prog *prog, const union bpf_attr *kattr,
1464 int bpf_prog_test_run_skb(struct bpf_prog *prog, const union bpf_attr *kattr,
1466 int bpf_prog_test_run_tracing(struct bpf_prog *prog,
1469 int bpf_prog_test_run_flow_dissector(struct bpf_prog *prog,
1472 int bpf_prog_test_run_raw_tp(struct bpf_prog *prog,
1475 int bpf_prog_test_run_sk_lookup(struct bpf_prog *prog,
1479 		    const struct bpf_prog *prog,
1499 int btf_check_type_match(struct bpf_verifier_log *log, const struct bpf_prog *prog,
1502 struct bpf_prog *bpf_prog_by_id(u32 id);
1513 static inline struct bpf_prog *bpf_prog_get(u32 ufd)  in bpf_prog_get()
1518 static inline struct bpf_prog *bpf_prog_get_type_dev(u32 ufd,  in bpf_prog_get_type_dev()
1525 static inline void bpf_prog_add(struct bpf_prog *prog, int i)  in bpf_prog_add()
1529 static inline void bpf_prog_sub(struct bpf_prog *prog, int i)  in bpf_prog_sub()
1533 static inline void bpf_prog_put(struct bpf_prog *prog)  in bpf_prog_put()
1537 static inline void bpf_prog_inc(struct bpf_prog *prog)  in bpf_prog_inc()
1541 static inline struct bpf_prog *__must_check
1542 bpf_prog_inc_not_zero(struct bpf_prog *prog)  in bpf_prog_inc_not_zero()
1558 				 struct bpf_prog *prog)  in bpf_link_init()
1631 					   struct bpf_prog *xdp_prog)  in dev_map_generic_redirect()
1658 static inline struct bpf_prog *bpf_prog_get_type_path(const char *name,  in bpf_prog_get_type_path()
1664 static inline int bpf_prog_test_run_xdp(struct bpf_prog *prog,  in bpf_prog_test_run_xdp()
1671 static inline int bpf_prog_test_run_skb(struct bpf_prog *prog,  in bpf_prog_test_run_skb()
1678 static inline int bpf_prog_test_run_tracing(struct bpf_prog *prog,  in bpf_prog_test_run_tracing()
1685 static inline int bpf_prog_test_run_flow_dissector(struct bpf_prog *prog,  in bpf_prog_test_run_flow_dissector()
1692 static inline int bpf_prog_test_run_sk_lookup(struct bpf_prog *prog,  in bpf_prog_test_run_sk_lookup()
1703 static inline struct bpf_prog *bpf_prog_by_id(u32 id)  in bpf_prog_by_id()
1721 static inline struct bpf_prog *bpf_prog_get_type(u32 ufd,  in bpf_prog_get_type()
1730 bool bpf_prog_get_ok(struct bpf_prog *, enum bpf_prog_type *, bool);
1732 int bpf_prog_offload_compile(struct bpf_prog *prog);
1733 void bpf_prog_offload_destroy(struct bpf_prog *prog);
1735 			       struct bpf_prog *prog);
1746 bool bpf_offload_prog_map_match(struct bpf_prog *prog, struct bpf_map *map);
1756 bool bpf_offload_dev_match(struct bpf_prog *prog, struct net_device *netdev);
1761 int bpf_prog_offload_init(struct bpf_prog *prog, union bpf_attr *attr);
1776 static inline int bpf_prog_offload_init(struct bpf_prog *prog,  in bpf_prog_offload_init()
1803 int sock_map_prog_update(struct bpf_map *map, struct bpf_prog *prog,
1804 			 struct bpf_prog *old, u32 which);
1805 int sock_map_get_from_fd(const union bpf_attr *attr, struct bpf_prog *prog);
1812 				       struct bpf_prog *prog,  in sock_map_prog_update()
1813 				       struct bpf_prog *old, u32 which)  in sock_map_prog_update()
1819 				       struct bpf_prog *prog)  in sock_map_get_from_fd()
1919 	enum bpf_func_id func_id, const struct bpf_prog *prog);
1922   enum bpf_func_id func_id, const struct bpf_prog *prog);
1938 				struct bpf_prog *prog,
1956 					      struct bpf_prog *prog,  in bpf_sock_convert_ctx_access()
1979 				    struct bpf_prog *prog,
1988 				    struct bpf_prog *prog,
2001 						  struct bpf_prog *prog,  in bpf_tcp_sock_convert_ctx_access()
2016 						  struct bpf_prog *prog,  in bpf_xdp_sock_convert_ctx_access()