xref: /unit/src/nxt_router.c (revision 771)
120Sigor@sysoev.ru 
220Sigor@sysoev.ru /*
320Sigor@sysoev.ru  * Copyright (C) Igor Sysoev
420Sigor@sysoev.ru  * Copyright (C) Valentin V. Bartenev
520Sigor@sysoev.ru  * Copyright (C) NGINX, Inc.
620Sigor@sysoev.ru  */
720Sigor@sysoev.ru 
853Sigor@sysoev.ru #include <nxt_router.h>
9115Sigor@sysoev.ru #include <nxt_conf.h>
10431Sigor@sysoev.ru #include <nxt_http.h>
11743Smax.romanov@nginx.com #include <nxt_port_memory_int.h>
12743Smax.romanov@nginx.com #include <nxt_unit_request.h>
13743Smax.romanov@nginx.com #include <nxt_unit_response.h>
1420Sigor@sysoev.ru 
1520Sigor@sysoev.ru 
16115Sigor@sysoev.ru typedef struct {
17318Smax.romanov@nginx.com     nxt_str_t         type;
18507Smax.romanov@nginx.com     uint32_t          processes;
19507Smax.romanov@nginx.com     uint32_t          max_processes;
20507Smax.romanov@nginx.com     uint32_t          spare_processes;
21318Smax.romanov@nginx.com     nxt_msec_t        timeout;
22427Smax.romanov@nginx.com     nxt_msec_t        res_timeout;
23507Smax.romanov@nginx.com     nxt_msec_t        idle_timeout;
24318Smax.romanov@nginx.com     uint32_t          requests;
25318Smax.romanov@nginx.com     nxt_conf_value_t  *limits_value;
26507Smax.romanov@nginx.com     nxt_conf_value_t  *processes_value;
27133Sigor@sysoev.ru } nxt_router_app_conf_t;
28133Sigor@sysoev.ru 
29133Sigor@sysoev.ru 
30133Sigor@sysoev.ru typedef struct {
31133Sigor@sysoev.ru     nxt_str_t  application;
32115Sigor@sysoev.ru } nxt_router_listener_conf_t;
33115Sigor@sysoev.ru 
34115Sigor@sysoev.ru 
35423Smax.romanov@nginx.com typedef struct nxt_msg_info_s {
36423Smax.romanov@nginx.com     nxt_buf_t                 *buf;
37423Smax.romanov@nginx.com     nxt_port_mmap_tracking_t  tracking;
38423Smax.romanov@nginx.com     nxt_work_handler_t        completion_handler;
39423Smax.romanov@nginx.com } nxt_msg_info_t;
40423Smax.romanov@nginx.com 
41423Smax.romanov@nginx.com 
42167Smax.romanov@nginx.com typedef struct nxt_req_app_link_s nxt_req_app_link_t;
43141Smax.romanov@nginx.com 
44141Smax.romanov@nginx.com 
45318Smax.romanov@nginx.com typedef struct {
46431Sigor@sysoev.ru     uint32_t                 stream;
47431Sigor@sysoev.ru     nxt_app_t                *app;
48431Sigor@sysoev.ru     nxt_port_t               *app_port;
49431Sigor@sysoev.ru     nxt_app_parse_ctx_t      *ap;
50431Sigor@sysoev.ru     nxt_msg_info_t           msg_info;
51431Sigor@sysoev.ru     nxt_req_app_link_t       *ra;
52431Sigor@sysoev.ru 
53431Sigor@sysoev.ru     nxt_queue_link_t         link;     /* for nxt_conn_t.requests */
54318Smax.romanov@nginx.com } nxt_req_conn_link_t;
55318Smax.romanov@nginx.com 
56318Smax.romanov@nginx.com 
57167Smax.romanov@nginx.com struct nxt_req_app_link_s {
58318Smax.romanov@nginx.com     uint32_t             stream;
59425Smax.romanov@nginx.com     nxt_atomic_t         use_count;
60167Smax.romanov@nginx.com     nxt_port_t           *app_port;
61167Smax.romanov@nginx.com     nxt_port_t           *reply_port;
62167Smax.romanov@nginx.com     nxt_app_parse_ctx_t  *ap;
63423Smax.romanov@nginx.com     nxt_msg_info_t       msg_info;
64167Smax.romanov@nginx.com     nxt_req_conn_link_t  *rc;
65167Smax.romanov@nginx.com 
66427Smax.romanov@nginx.com     nxt_nsec_t           res_time;
67427Smax.romanov@nginx.com 
68425Smax.romanov@nginx.com     nxt_queue_link_t     link_app_requests; /* for nxt_app_t.requests */
69425Smax.romanov@nginx.com     nxt_queue_link_t     link_port_pending; /* for nxt_port_t.pending_requests */
70427Smax.romanov@nginx.com     nxt_queue_link_t     link_app_pending;  /* for nxt_app_t.pending */
71167Smax.romanov@nginx.com 
72167Smax.romanov@nginx.com     nxt_mp_t             *mem_pool;
73167Smax.romanov@nginx.com     nxt_work_t           work;
74345Smax.romanov@nginx.com 
75345Smax.romanov@nginx.com     int                  err_code;
76345Smax.romanov@nginx.com     const char           *err_str;
77167Smax.romanov@nginx.com };
78167Smax.romanov@nginx.com 
79167Smax.romanov@nginx.com 
80198Sigor@sysoev.ru typedef struct {
81198Sigor@sysoev.ru     nxt_socket_conf_t       *socket_conf;
82198Sigor@sysoev.ru     nxt_router_temp_conf_t  *temp_conf;
83198Sigor@sysoev.ru } nxt_socket_rpc_t;
84198Sigor@sysoev.ru 
85198Sigor@sysoev.ru 
86507Smax.romanov@nginx.com typedef struct {
87507Smax.romanov@nginx.com     nxt_app_t               *app;
88507Smax.romanov@nginx.com     nxt_router_temp_conf_t  *temp_conf;
89507Smax.romanov@nginx.com } nxt_app_rpc_t;
90507Smax.romanov@nginx.com 
91507Smax.romanov@nginx.com 
92427Smax.romanov@nginx.com struct nxt_port_select_state_s {
93427Smax.romanov@nginx.com     nxt_app_t           *app;
94427Smax.romanov@nginx.com     nxt_req_app_link_t  *ra;
95427Smax.romanov@nginx.com 
96427Smax.romanov@nginx.com     nxt_port_t          *failed_port;
97427Smax.romanov@nginx.com     int                 failed_port_use_delta;
98427Smax.romanov@nginx.com 
99507Smax.romanov@nginx.com     uint8_t             start_process;    /* 1 bit */
100427Smax.romanov@nginx.com     nxt_req_app_link_t  *shared_ra;
101427Smax.romanov@nginx.com     nxt_port_t          *port;
102427Smax.romanov@nginx.com };
103427Smax.romanov@nginx.com 
104427Smax.romanov@nginx.com typedef struct nxt_port_select_state_s nxt_port_select_state_t;
105427Smax.romanov@nginx.com 
106662Smax.romanov@nginx.com static void nxt_router_greet_controller(nxt_task_t *task,
107662Smax.romanov@nginx.com     nxt_port_t *controller_port);
108662Smax.romanov@nginx.com 
109427Smax.romanov@nginx.com static void nxt_router_port_select(nxt_task_t *task,
110427Smax.romanov@nginx.com     nxt_port_select_state_t *state);
111427Smax.romanov@nginx.com 
112427Smax.romanov@nginx.com static nxt_int_t nxt_router_port_post_select(nxt_task_t *task,
113427Smax.romanov@nginx.com     nxt_port_select_state_t *state);
114427Smax.romanov@nginx.com 
115507Smax.romanov@nginx.com static nxt_int_t nxt_router_start_app_process(nxt_task_t *task, nxt_app_t *app);
116343Smax.romanov@nginx.com 
117425Smax.romanov@nginx.com nxt_inline void
118425Smax.romanov@nginx.com nxt_router_ra_inc_use(nxt_req_app_link_t *ra)
119425Smax.romanov@nginx.com {
120425Smax.romanov@nginx.com     nxt_atomic_fetch_add(&ra->use_count, 1);
121425Smax.romanov@nginx.com }
122425Smax.romanov@nginx.com 
123425Smax.romanov@nginx.com nxt_inline void
124425Smax.romanov@nginx.com nxt_router_ra_dec_use(nxt_req_app_link_t *ra)
125425Smax.romanov@nginx.com {
126538Svbart@nginx.com #if (NXT_DEBUG)
127425Smax.romanov@nginx.com     int  c;
128425Smax.romanov@nginx.com 
129425Smax.romanov@nginx.com     c = nxt_atomic_fetch_add(&ra->use_count, -1);
130425Smax.romanov@nginx.com 
131425Smax.romanov@nginx.com     nxt_assert(c > 1);
132538Svbart@nginx.com #else
133538Svbart@nginx.com     (void) nxt_atomic_fetch_add(&ra->use_count, -1);
134538Svbart@nginx.com #endif
135425Smax.romanov@nginx.com }
136425Smax.romanov@nginx.com 
137425Smax.romanov@nginx.com static void nxt_router_ra_use(nxt_task_t *task, nxt_req_app_link_t *ra, int i);
138425Smax.romanov@nginx.com 
139139Sigor@sysoev.ru static nxt_router_temp_conf_t *nxt_router_temp_conf(nxt_task_t *task);
140198Sigor@sysoev.ru static void nxt_router_conf_apply(nxt_task_t *task, void *obj, void *data);
141198Sigor@sysoev.ru static void nxt_router_conf_ready(nxt_task_t *task,
142139Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf);
143139Sigor@sysoev.ru static void nxt_router_conf_error(nxt_task_t *task,
144139Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf);
145139Sigor@sysoev.ru static void nxt_router_conf_send(nxt_task_t *task,
146193Smax.romanov@nginx.com     nxt_router_temp_conf_t *tmcf, nxt_port_msg_type_t type);
14753Sigor@sysoev.ru 
148115Sigor@sysoev.ru static nxt_int_t nxt_router_conf_create(nxt_task_t *task,
149115Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf, u_char *start, u_char *end);
150133Sigor@sysoev.ru static nxt_app_t *nxt_router_app_find(nxt_queue_t *queue, nxt_str_t *name);
151133Sigor@sysoev.ru static nxt_app_t *nxt_router_listener_application(nxt_router_temp_conf_t *tmcf,
152133Sigor@sysoev.ru     nxt_str_t *name);
153198Sigor@sysoev.ru static void nxt_router_listen_socket_rpc_create(nxt_task_t *task,
154198Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf, nxt_socket_conf_t *skcf);
155198Sigor@sysoev.ru static void nxt_router_listen_socket_ready(nxt_task_t *task,
156198Sigor@sysoev.ru     nxt_port_recv_msg_t *msg, void *data);
157198Sigor@sysoev.ru static void nxt_router_listen_socket_error(nxt_task_t *task,
158198Sigor@sysoev.ru     nxt_port_recv_msg_t *msg, void *data);
159507Smax.romanov@nginx.com static void nxt_router_app_rpc_create(nxt_task_t *task,
160507Smax.romanov@nginx.com     nxt_router_temp_conf_t *tmcf, nxt_app_t *app);
161507Smax.romanov@nginx.com static void nxt_router_app_prefork_ready(nxt_task_t *task,
162507Smax.romanov@nginx.com     nxt_port_recv_msg_t *msg, void *data);
163507Smax.romanov@nginx.com static void nxt_router_app_prefork_error(nxt_task_t *task,
164507Smax.romanov@nginx.com     nxt_port_recv_msg_t *msg, void *data);
165359Sigor@sysoev.ru static nxt_socket_conf_t *nxt_router_socket_conf(nxt_task_t *task,
166359Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf, nxt_str_t *name);
167359Sigor@sysoev.ru static nxt_int_t nxt_router_listen_socket_find(nxt_router_temp_conf_t *tmcf,
168359Sigor@sysoev.ru     nxt_socket_conf_t *nskcf, nxt_sockaddr_t *sa);
16953Sigor@sysoev.ru 
17053Sigor@sysoev.ru static nxt_int_t nxt_router_engines_create(nxt_task_t *task,
17153Sigor@sysoev.ru     nxt_router_t *router, nxt_router_temp_conf_t *tmcf,
17253Sigor@sysoev.ru     const nxt_event_interface_t *interface);
173115Sigor@sysoev.ru static nxt_int_t nxt_router_engine_conf_create(nxt_router_temp_conf_t *tmcf,
174115Sigor@sysoev.ru     nxt_router_engine_conf_t *recf);
175115Sigor@sysoev.ru static nxt_int_t nxt_router_engine_conf_update(nxt_router_temp_conf_t *tmcf,
176115Sigor@sysoev.ru     nxt_router_engine_conf_t *recf);
177115Sigor@sysoev.ru static nxt_int_t nxt_router_engine_conf_delete(nxt_router_temp_conf_t *tmcf,
178115Sigor@sysoev.ru     nxt_router_engine_conf_t *recf);
179154Sigor@sysoev.ru static nxt_int_t nxt_router_engine_joints_create(nxt_router_temp_conf_t *tmcf,
180154Sigor@sysoev.ru     nxt_router_engine_conf_t *recf, nxt_queue_t *sockets,
181154Sigor@sysoev.ru     nxt_work_handler_t handler);
182313Sigor@sysoev.ru static nxt_int_t nxt_router_engine_quit(nxt_router_temp_conf_t *tmcf,
183313Sigor@sysoev.ru     nxt_router_engine_conf_t *recf);
184139Sigor@sysoev.ru static nxt_int_t nxt_router_engine_joints_delete(nxt_router_temp_conf_t *tmcf,
185139Sigor@sysoev.ru     nxt_router_engine_conf_t *recf, nxt_queue_t *sockets);
18653Sigor@sysoev.ru 
18753Sigor@sysoev.ru static nxt_int_t nxt_router_threads_create(nxt_task_t *task, nxt_runtime_t *rt,
18853Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf);
18953Sigor@sysoev.ru static nxt_int_t nxt_router_thread_create(nxt_task_t *task, nxt_runtime_t *rt,
19053Sigor@sysoev.ru     nxt_event_engine_t *engine);
191343Smax.romanov@nginx.com static void nxt_router_apps_sort(nxt_task_t *task, nxt_router_t *router,
192133Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf);
19353Sigor@sysoev.ru 
194315Sigor@sysoev.ru static void nxt_router_engines_post(nxt_router_t *router,
195315Sigor@sysoev.ru     nxt_router_temp_conf_t *tmcf);
196315Sigor@sysoev.ru static void nxt_router_engine_post(nxt_event_engine_t *engine,
197315Sigor@sysoev.ru     nxt_work_t *jobs);
19853Sigor@sysoev.ru 
19953Sigor@sysoev.ru static void nxt_router_thread_start(void *data);
20053Sigor@sysoev.ru static void nxt_router_listen_socket_create(nxt_task_t *task, void *obj,
20153Sigor@sysoev.ru     void *data);
20253Sigor@sysoev.ru static void nxt_router_listen_socket_update(nxt_task_t *task, void *obj,
20353Sigor@sysoev.ru     void *data);
20453Sigor@sysoev.ru static void nxt_router_listen_socket_delete(nxt_task_t *task, void *obj,
20553Sigor@sysoev.ru     void *data);
206313Sigor@sysoev.ru static void nxt_router_worker_thread_quit(nxt_task_t *task, void *obj,
207313Sigor@sysoev.ru     void *data);
20853Sigor@sysoev.ru static void nxt_router_listen_socket_close(nxt_task_t *task, void *obj,
20953Sigor@sysoev.ru     void *data);
21053Sigor@sysoev.ru static void nxt_router_thread_exit_handler(nxt_task_t *task, void *obj,
21153Sigor@sysoev.ru     void *data);
212359Sigor@sysoev.ru static void nxt_router_listen_socket_release(nxt_task_t *task,
213359Sigor@sysoev.ru     nxt_socket_conf_t *skcf);
21453Sigor@sysoev.ru 
215630Svbart@nginx.com static void nxt_router_access_log_writer(nxt_task_t *task,
216630Svbart@nginx.com     nxt_http_request_t *r, nxt_router_access_log_t *access_log);
217630Svbart@nginx.com static u_char *nxt_router_access_log_date(u_char *buf, nxt_realtime_t *now,
218630Svbart@nginx.com     struct tm *tm, size_t size, const char *format);
219630Svbart@nginx.com static void nxt_router_access_log_open(nxt_task_t *task,
220630Svbart@nginx.com     nxt_router_temp_conf_t *tmcf);
221630Svbart@nginx.com static void nxt_router_access_log_ready(nxt_task_t *task,
222630Svbart@nginx.com     nxt_port_recv_msg_t *msg, void *data);
223630Svbart@nginx.com static void nxt_router_access_log_error(nxt_task_t *task,
224630Svbart@nginx.com     nxt_port_recv_msg_t *msg, void *data);
225630Svbart@nginx.com static void nxt_router_access_log_release(nxt_task_t *task,
226630Svbart@nginx.com     nxt_thread_spinlock_t *lock, nxt_router_access_log_t *access_log);
227651Svbart@nginx.com static void nxt_router_access_log_reopen_completion(nxt_task_t *task, void *obj,
228651Svbart@nginx.com     void *data);
229631Svbart@nginx.com static void nxt_router_access_log_reopen_ready(nxt_task_t *task,
230631Svbart@nginx.com     nxt_port_recv_msg_t *msg, void *data);
231631Svbart@nginx.com static void nxt_router_access_log_reopen_error(nxt_task_t *task,
232631Svbart@nginx.com     nxt_port_recv_msg_t *msg, void *data);
233630Svbart@nginx.com 
234343Smax.romanov@nginx.com static void nxt_router_app_port_ready(nxt_task_t *task,
235343Smax.romanov@nginx.com     nxt_port_recv_msg_t *msg, void *data);
236343Smax.romanov@nginx.com static void nxt_router_app_port_error(nxt_task_t *task,
237343Smax.romanov@nginx.com     nxt_port_recv_msg_t *msg, void *data);
238343Smax.romanov@nginx.com 
239753Smax.romanov@nginx.com static void nxt_router_app_unlink(nxt_task_t *task, nxt_app_t *app);
240343Smax.romanov@nginx.com static void nxt_router_app_port_release(nxt_task_t *task, nxt_port_t *port,
241343Smax.romanov@nginx.com     uint32_t request_failed, uint32_t got_response);
242427Smax.romanov@nginx.com static nxt_int_t nxt_router_app_port(nxt_task_t *task, nxt_app_t *app,
243427Smax.romanov@nginx.com     nxt_req_app_link_t *ra);
244141Smax.romanov@nginx.com 
245425Smax.romanov@nginx.com static void nxt_router_app_prepare_request(nxt_task_t *task,
246343Smax.romanov@nginx.com     nxt_req_app_link_t *ra);
247743Smax.romanov@nginx.com static nxt_buf_t *nxt_router_prepare_msg(nxt_task_t *task, nxt_app_request_t *r,
248743Smax.romanov@nginx.com     nxt_port_t *port, const nxt_str_t *prefix);
249510Salexander.borisov@nginx.com 
250318Smax.romanov@nginx.com static void nxt_router_app_timeout(nxt_task_t *task, void *obj, void *data);
251507Smax.romanov@nginx.com static void nxt_router_adjust_idle_timer(nxt_task_t *task, void *obj,
252507Smax.romanov@nginx.com     void *data);
253507Smax.romanov@nginx.com static void nxt_router_app_idle_timeout(nxt_task_t *task, void *obj,
254507Smax.romanov@nginx.com     void *data);
255753Smax.romanov@nginx.com static void nxt_router_app_joint_release_handler(nxt_task_t *task, void *obj,
256507Smax.romanov@nginx.com     void *data);
257753Smax.romanov@nginx.com static void nxt_router_free_app(nxt_task_t *task, void *obj, void *data);
258431Sigor@sysoev.ru 
259431Sigor@sysoev.ru static const nxt_http_request_state_t  nxt_http_request_send_state;
260431Sigor@sysoev.ru static void nxt_http_request_send_body(nxt_task_t *task, void *obj, void *data);
261141Smax.romanov@nginx.com 
262753Smax.romanov@nginx.com static void nxt_router_app_joint_use(nxt_task_t *task,
263753Smax.romanov@nginx.com     nxt_app_joint_t *app_joint, int i);
264753Smax.romanov@nginx.com 
265119Smax.romanov@nginx.com static nxt_router_t  *nxt_router;
26620Sigor@sysoev.ru 
267743Smax.romanov@nginx.com static const nxt_str_t http_prefix = nxt_string("HTTP_");
268743Smax.romanov@nginx.com static const nxt_str_t empty_prefix = nxt_string("");
269743Smax.romanov@nginx.com 
270743Smax.romanov@nginx.com static const nxt_str_t  *nxt_app_msg_prefix[] = {
271743Smax.romanov@nginx.com     &http_prefix,
272743Smax.romanov@nginx.com     &http_prefix,
273743Smax.romanov@nginx.com     &empty_prefix,
274743Smax.romanov@nginx.com     &http_prefix,
275743Smax.romanov@nginx.com     &http_prefix,
276216Sigor@sysoev.ru };
277216Sigor@sysoev.ru 
278216Sigor@sysoev.ru 
279662Smax.romanov@nginx.com nxt_port_handlers_t  nxt_router_process_port_handlers = {
280662Smax.romanov@nginx.com     .quit         = nxt_worker_process_quit_handler,
281662Smax.romanov@nginx.com     .new_port     = nxt_router_new_port_handler,
282662Smax.romanov@nginx.com     .change_file  = nxt_port_change_log_file_handler,
283662Smax.romanov@nginx.com     .mmap         = nxt_port_mmap_handler,
284662Smax.romanov@nginx.com     .data         = nxt_router_conf_data_handler,
285662Smax.romanov@nginx.com     .remove_pid   = nxt_router_remove_pid_handler,
286662Smax.romanov@nginx.com     .access_log   = nxt_router_access_log_reopen_handler,
287662Smax.romanov@nginx.com     .rpc_ready    = nxt_port_rpc_handler,
288662Smax.romanov@nginx.com     .rpc_error    = nxt_port_rpc_handler,
289662Smax.romanov@nginx.com };
290662Smax.romanov@nginx.com 
291662Smax.romanov@nginx.com 
29220Sigor@sysoev.ru nxt_int_t
293141Smax.romanov@nginx.com nxt_router_start(nxt_task_t *task, void *data)
29420Sigor@sysoev.ru {
295141Smax.romanov@nginx.com     nxt_int_t      ret;
296662Smax.romanov@nginx.com     nxt_port_t     *controller_port;
297141Smax.romanov@nginx.com     nxt_router_t   *router;
298141Smax.romanov@nginx.com     nxt_runtime_t  *rt;
299141Smax.romanov@nginx.com 
300141Smax.romanov@nginx.com     rt = task->thread->runtime;
30153Sigor@sysoev.ru 
302*771Sigor@sysoev.ru #if (NXT_TLS)
303*771Sigor@sysoev.ru     rt->tls = nxt_service_get(rt->services, "SSL/TLS", "OpenSSL");
304*771Sigor@sysoev.ru     if (nxt_slow_path(rt->tls == NULL)) {
305*771Sigor@sysoev.ru         return NXT_ERROR;
306*771Sigor@sysoev.ru     }
307*771Sigor@sysoev.ru 
308*771Sigor@sysoev.ru     ret = rt->tls->library_init(task);
309*771Sigor@sysoev.ru     if (nxt_slow_path(ret != NXT_OK)) {
310*771Sigor@sysoev.ru         return ret;
311*771Sigor@sysoev.ru     }
312*771Sigor@sysoev.ru #endif
313*771Sigor@sysoev.ru 
314431Sigor@sysoev.ru     ret = nxt_http_init(task, rt);
31588Smax.romanov@nginx.com     if (nxt_slow_path(ret != NXT_OK)) {
31688Smax.romanov@nginx.com         return ret;
31788Smax.romanov@nginx.com     }
31888Smax.romanov@nginx.com 
31953Sigor@sysoev.ru     router = nxt_zalloc(sizeof(nxt_router_t));
32053Sigor@sysoev.ru     if (nxt_slow_path(router == NULL)) {
32153Sigor@sysoev.ru         return NXT_ERROR;
32253Sigor@sysoev.ru     }
32353Sigor@sysoev.ru 
32453Sigor@sysoev.ru     nxt_queue_init(&router->engines);
32553Sigor@sysoev.ru     nxt_queue_init(&router->sockets);
326133Sigor@sysoev.ru     nxt_queue_init(&router->apps);
32753Sigor@sysoev.ru 
328119Smax.romanov@nginx.com     nxt_router = router;
329119Smax.romanov@nginx.com 
330662Smax.romanov@nginx.com     controller_port = rt->port_by_type[NXT_PROCESS_CONTROLLER];
331662Smax.romanov@nginx.com     if (controller_port != NULL) {
332662Smax.romanov@nginx.com         nxt_router_greet_controller(task, controller_port);
333662Smax.romanov@nginx.com     }
334662Smax.romanov@nginx.com 
335115Sigor@sysoev.ru     return NXT_OK;
336115Sigor@sysoev.ru }
337115Sigor@sysoev.ru 
338115Sigor@sysoev.ru 
339343Smax.romanov@nginx.com static void
340662Smax.romanov@nginx.com nxt_router_greet_controller(nxt_task_t *task, nxt_port_t *controller_port)
341662Smax.romanov@nginx.com {
342662Smax.romanov@nginx.com     nxt_port_socket_write(task, controller_port, NXT_PORT_MSG_PROCESS_READY,
343662Smax.romanov@nginx.com                           -1, 0, 0, NULL);
344662Smax.romanov@nginx.com }
345662Smax.romanov@nginx.com 
346662Smax.romanov@nginx.com 
347662Smax.romanov@nginx.com static void
348507Smax.romanov@nginx.com nxt_router_start_app_process_handler(nxt_task_t *task, nxt_port_t *port,
349507Smax.romanov@nginx.com     void *data)
350167Smax.romanov@nginx.com {
351343Smax.romanov@nginx.com     size_t         size;
352343Smax.romanov@nginx.com     uint32_t       stream;
353430Sigor@sysoev.ru     nxt_mp_t       *mp;
354648Svbart@nginx.com     nxt_int_t      ret;
355343Smax.romanov@nginx.com     nxt_app_t      *app;
356343Smax.romanov@nginx.com     nxt_buf_t      *b;
357343Smax.romanov@nginx.com     nxt_port_t     *main_port;
358343Smax.romanov@nginx.com     nxt_runtime_t  *rt;
359343Smax.romanov@nginx.com 
360343Smax.romanov@nginx.com     app = data;
361167Smax.romanov@nginx.com 
362167Smax.romanov@nginx.com     rt = task->thread->runtime;
363240Sigor@sysoev.ru     main_port = rt->port_by_type[NXT_PROCESS_MAIN];
364167Smax.romanov@nginx.com 
365507Smax.romanov@nginx.com     nxt_debug(task, "app '%V' %p start process", &app->name, app);
366343Smax.romanov@nginx.com 
367343Smax.romanov@nginx.com     size = app->name.length + 1 + app->conf.length;
368343Smax.romanov@nginx.com 
369343Smax.romanov@nginx.com     b = nxt_buf_mem_ts_alloc(task, task->thread->engine->mem_pool, size);
370343Smax.romanov@nginx.com 
371343Smax.romanov@nginx.com     if (nxt_slow_path(b == NULL)) {
372343Smax.romanov@nginx.com         goto failed;
373167Smax.romanov@nginx.com     }
374167Smax.romanov@nginx.com 
375343Smax.romanov@nginx.com     nxt_buf_cpystr(b, &app->name);
376343Smax.romanov@nginx.com     *b->mem.free++ = '\0';
377343Smax.romanov@nginx.com     nxt_buf_cpystr(b, &app->conf);
378343Smax.romanov@nginx.com 
379753Smax.romanov@nginx.com     nxt_router_app_joint_use(task, app->joint, 1);
380753Smax.romanov@nginx.com 
381343Smax.romanov@nginx.com     stream = nxt_port_rpc_register_handler(task, port,
382343Smax.romanov@nginx.com                                            nxt_router_app_port_ready,
383343Smax.romanov@nginx.com                                            nxt_router_app_port_error,
384753Smax.romanov@nginx.com                                            -1, app->joint);
385343Smax.romanov@nginx.com 
386343Smax.romanov@nginx.com     if (nxt_slow_path(stream == 0)) {
387753Smax.romanov@nginx.com         nxt_router_app_joint_use(task, app->joint, -1);
388753Smax.romanov@nginx.com 
389343Smax.romanov@nginx.com         goto failed;
390343Smax.romanov@nginx.com     }
391343Smax.romanov@nginx.com 
392648Svbart@nginx.com     ret = nxt_port_socket_write(task, main_port, NXT_PORT_MSG_START_WORKER, -1,
393648Svbart@nginx.com                                 stream, port->id, b);
394648Svbart@nginx.com 
395648Svbart@nginx.com     if (nxt_slow_path(ret != NXT_OK)) {
396648Svbart@nginx.com         nxt_port_rpc_cancel(task, port, stream);
397753Smax.romanov@nginx.com 
398753Smax.romanov@nginx.com         nxt_router_app_joint_use(task, app->joint, -1);
399753Smax.romanov@nginx.com 
400648Svbart@nginx.com         goto failed;
401648Svbart@nginx.com     }
402343Smax.romanov@nginx.com 
403753Smax.romanov@nginx.com     nxt_router_app_use(task, app, -1);
404753Smax.romanov@nginx.com 
405343Smax.romanov@nginx.com     return;
406343Smax.romanov@nginx.com 
407343Smax.romanov@nginx.com failed:
408343Smax.romanov@nginx.com 
409648Svbart@nginx.com     if (b != NULL) {
410648Svbart@nginx.com         mp = b->data;
411648Svbart@nginx.com         nxt_mp_free(mp, b);
412648Svbart@nginx.com         nxt_mp_release(mp);
413648Svbart@nginx.com     }
414648Svbart@nginx.com 
415343Smax.romanov@nginx.com     nxt_thread_mutex_lock(&app->mutex);
416343Smax.romanov@nginx.com 
417507Smax.romanov@nginx.com     app->pending_processes--;
418343Smax.romanov@nginx.com 
419343Smax.romanov@nginx.com     nxt_thread_mutex_unlock(&app->mutex);
420343Smax.romanov@nginx.com 
421343Smax.romanov@nginx.com     nxt_router_app_use(task, app, -1);
422167Smax.romanov@nginx.com }
423167Smax.romanov@nginx.com 
424167Smax.romanov@nginx.com 
425753Smax.romanov@nginx.com static void
426753Smax.romanov@nginx.com nxt_router_app_joint_use(nxt_task_t *task, nxt_app_joint_t *app_joint, int i)
427753Smax.romanov@nginx.com {
428753Smax.romanov@nginx.com     app_joint->use_count += i;
429753Smax.romanov@nginx.com 
430753Smax.romanov@nginx.com     if (app_joint->use_count == 0) {
431753Smax.romanov@nginx.com         nxt_assert(app_joint->app == NULL);
432753Smax.romanov@nginx.com 
433753Smax.romanov@nginx.com         nxt_free(app_joint);
434753Smax.romanov@nginx.com     }
435753Smax.romanov@nginx.com }
436753Smax.romanov@nginx.com 
437753Smax.romanov@nginx.com 
438343Smax.romanov@nginx.com static nxt_int_t
439507Smax.romanov@nginx.com nxt_router_start_app_process(nxt_task_t *task, nxt_app_t *app)
440141Smax.romanov@nginx.com {
441343Smax.romanov@nginx.com     nxt_int_t      res;
442343Smax.romanov@nginx.com     nxt_port_t     *router_port;
443343Smax.romanov@nginx.com     nxt_runtime_t  *rt;
444343Smax.romanov@nginx.com 
445343Smax.romanov@nginx.com     rt = task->thread->runtime;
446343Smax.romanov@nginx.com     router_port = rt->port_by_type[NXT_PROCESS_ROUTER];
447343Smax.romanov@nginx.com 
448343Smax.romanov@nginx.com     nxt_router_app_use(task, app, 1);
449343Smax.romanov@nginx.com 
450507Smax.romanov@nginx.com     res = nxt_port_post(task, router_port, nxt_router_start_app_process_handler,
451343Smax.romanov@nginx.com                         app);
452343Smax.romanov@nginx.com 
453343Smax.romanov@nginx.com     if (res == NXT_OK) {
454343Smax.romanov@nginx.com         return res;
455318Smax.romanov@nginx.com     }
456318Smax.romanov@nginx.com 
457343Smax.romanov@nginx.com     nxt_thread_mutex_lock(&app->mutex);
458343Smax.romanov@nginx.com 
459507Smax.romanov@nginx.com     app->pending_processes--;
460343Smax.romanov@nginx.com 
461343Smax.romanov@nginx.com     nxt_thread_mutex_unlock(&app->mutex);
462343Smax.romanov@nginx.com 
463343Smax.romanov@nginx.com     nxt_router_app_use(task, app, -1);
464343Smax.romanov@nginx.com 
465343Smax.romanov@nginx.com     return NXT_ERROR;
466318Smax.romanov@nginx.com }
467318Smax.romanov@nginx.com 
468318Smax.romanov@nginx.com 
469351Smax.romanov@nginx.com nxt_inline void
470351Smax.romanov@nginx.com nxt_router_ra_init(nxt_task_t *task, nxt_req_app_link_t *ra,
471351Smax.romanov@nginx.com     nxt_req_conn_link_t *rc)
472167Smax.romanov@nginx.com {
473318Smax.romanov@nginx.com     nxt_event_engine_t  *engine;
474351Smax.romanov@nginx.com 
475318Smax.romanov@nginx.com     engine = task->thread->engine;
476167Smax.romanov@nginx.com 
477167Smax.romanov@nginx.com     nxt_memzero(ra, sizeof(nxt_req_app_link_t));
478167Smax.romanov@nginx.com 
479318Smax.romanov@nginx.com     ra->stream = rc->stream;
480425Smax.romanov@nginx.com     ra->use_count = 1;
481167Smax.romanov@nginx.com     ra->rc = rc;
482318Smax.romanov@nginx.com     rc->ra = ra;
483318Smax.romanov@nginx.com     ra->reply_port = engine->port;
484351Smax.romanov@nginx.com     ra->ap = rc->ap;
485167Smax.romanov@nginx.com 
486167Smax.romanov@nginx.com     ra->work.handler = NULL;
487318Smax.romanov@nginx.com     ra->work.task = &engine->task;
488167Smax.romanov@nginx.com     ra->work.obj = ra;
489318Smax.romanov@nginx.com     ra->work.data = engine;
490351Smax.romanov@nginx.com }
491351Smax.romanov@nginx.com 
492351Smax.romanov@nginx.com 
493351Smax.romanov@nginx.com nxt_inline nxt_req_app_link_t *
494351Smax.romanov@nginx.com nxt_router_ra_create(nxt_task_t *task, nxt_req_app_link_t *ra_src)
495351Smax.romanov@nginx.com {
496351Smax.romanov@nginx.com     nxt_mp_t            *mp;
497351Smax.romanov@nginx.com     nxt_req_app_link_t  *ra;
498351Smax.romanov@nginx.com 
499425Smax.romanov@nginx.com     if (ra_src->mem_pool != NULL) {
500425Smax.romanov@nginx.com         return ra_src;
501425Smax.romanov@nginx.com     }
502425Smax.romanov@nginx.com 
503351Smax.romanov@nginx.com     mp = ra_src->ap->mem_pool;
504351Smax.romanov@nginx.com 
505430Sigor@sysoev.ru     ra = nxt_mp_alloc(mp, sizeof(nxt_req_app_link_t));
506351Smax.romanov@nginx.com 
507351Smax.romanov@nginx.com     if (nxt_slow_path(ra == NULL)) {
508351Smax.romanov@nginx.com 
509351Smax.romanov@nginx.com         ra_src->rc->ra = NULL;
510351Smax.romanov@nginx.com         ra_src->rc = NULL;
511351Smax.romanov@nginx.com 
512351Smax.romanov@nginx.com         return NULL;
513351Smax.romanov@nginx.com     }
514351Smax.romanov@nginx.com 
515430Sigor@sysoev.ru     nxt_mp_retain(mp);
516430Sigor@sysoev.ru 
517351Smax.romanov@nginx.com     nxt_router_ra_init(task, ra, ra_src->rc);
518351Smax.romanov@nginx.com 
519351Smax.romanov@nginx.com     ra->mem_pool = mp;
520167Smax.romanov@nginx.com 
521167Smax.romanov@nginx.com     return ra;
522167Smax.romanov@nginx.com }
523167Smax.romanov@nginx.com 
524167Smax.romanov@nginx.com 
525423Smax.romanov@nginx.com nxt_inline nxt_bool_t
526423Smax.romanov@nginx.com nxt_router_msg_cancel(nxt_task_t *task, nxt_msg_info_t *msg_info,
527423Smax.romanov@nginx.com     uint32_t stream)
528423Smax.romanov@nginx.com {
529423Smax.romanov@nginx.com     nxt_buf_t   *b, *next;
530423Smax.romanov@nginx.com     nxt_bool_t  cancelled;
531423Smax.romanov@nginx.com 
532423Smax.romanov@nginx.com     if (msg_info->buf == NULL) {
533423Smax.romanov@nginx.com         return 0;
534423Smax.romanov@nginx.com     }
535423Smax.romanov@nginx.com 
536423Smax.romanov@nginx.com     cancelled = nxt_port_mmap_tracking_cancel(task, &msg_info->tracking,
537423Smax.romanov@nginx.com                                               stream);
538423Smax.romanov@nginx.com 
539423Smax.romanov@nginx.com     if (cancelled) {
540423Smax.romanov@nginx.com         nxt_debug(task, "stream #%uD: cancelled by router", stream);
541423Smax.romanov@nginx.com     }
542423Smax.romanov@nginx.com 
543423Smax.romanov@nginx.com     for (b = msg_info->buf; b != NULL; b = next) {
544423Smax.romanov@nginx.com         next = b->next;
545423Smax.romanov@nginx.com 
546423Smax.romanov@nginx.com         b->completion_handler = msg_info->completion_handler;
547423Smax.romanov@nginx.com 
548423Smax.romanov@nginx.com         if (b->is_port_mmap_sent) {
549423Smax.romanov@nginx.com             b->is_port_mmap_sent = cancelled == 0;
550423Smax.romanov@nginx.com             b->completion_handler(task, b, b->parent);
551423Smax.romanov@nginx.com         }
552423Smax.romanov@nginx.com     }
553423Smax.romanov@nginx.com 
554423Smax.romanov@nginx.com     msg_info->buf = NULL;
555423Smax.romanov@nginx.com 
556423Smax.romanov@nginx.com     return cancelled;
557423Smax.romanov@nginx.com }
558423Smax.romanov@nginx.com 
559423Smax.romanov@nginx.com 
560167Smax.romanov@nginx.com static void
561425Smax.romanov@nginx.com nxt_router_ra_update_peer(nxt_task_t *task, nxt_req_app_link_t *ra);
562425Smax.romanov@nginx.com 
563425Smax.romanov@nginx.com 
564425Smax.romanov@nginx.com static void
565425Smax.romanov@nginx.com nxt_router_ra_update_peer_handler(nxt_task_t *task, void *obj, void *data)
566167Smax.romanov@nginx.com {
567425Smax.romanov@nginx.com     nxt_req_app_link_t  *ra;
568425Smax.romanov@nginx.com 
569425Smax.romanov@nginx.com     ra = obj;
570425Smax.romanov@nginx.com 
571425Smax.romanov@nginx.com     nxt_router_ra_update_peer(task, ra);
572425Smax.romanov@nginx.com 
573425Smax.romanov@nginx.com     nxt_router_ra_use(task, ra, -1);
574425Smax.romanov@nginx.com }
575425Smax.romanov@nginx.com 
576425Smax.romanov@nginx.com 
577425Smax.romanov@nginx.com static void
578425Smax.romanov@nginx.com nxt_router_ra_update_peer(nxt_task_t *task, nxt_req_app_link_t *ra)
579425Smax.romanov@nginx.com {
580343Smax.romanov@nginx.com     nxt_event_engine_t   *engine;
581343Smax.romanov@nginx.com     nxt_req_conn_link_t  *rc;
582318Smax.romanov@nginx.com 
583425Smax.romanov@nginx.com     engine = ra->work.data;
584318Smax.romanov@nginx.com 
585343Smax.romanov@nginx.com     if (task->thread->engine != engine) {
586425Smax.romanov@nginx.com         nxt_router_ra_inc_use(ra);
587425Smax.romanov@nginx.com 
588425Smax.romanov@nginx.com         ra->work.handler = nxt_router_ra_update_peer_handler;
589318Smax.romanov@nginx.com         ra->work.task = &engine->task;
590318Smax.romanov@nginx.com         ra->work.next = NULL;
591318Smax.romanov@nginx.com 
592425Smax.romanov@nginx.com         nxt_debug(task, "ra stream #%uD post update peer to %p",
593318Smax.romanov@nginx.com                   ra->stream, engine);
594318Smax.romanov@nginx.com 
595318Smax.romanov@nginx.com         nxt_event_engine_post(engine, &ra->work);
596318Smax.romanov@nginx.com 
597318Smax.romanov@nginx.com         return;
598318Smax.romanov@nginx.com     }
599318Smax.romanov@nginx.com 
600425Smax.romanov@nginx.com     nxt_debug(task, "ra stream #%uD update peer", ra->stream);
601425Smax.romanov@nginx.com 
602425Smax.romanov@nginx.com     rc = ra->rc;
603425Smax.romanov@nginx.com 
604425Smax.romanov@nginx.com     if (rc != NULL && ra->app_port != NULL) {
605425Smax.romanov@nginx.com         nxt_port_rpc_ex_set_peer(task, engine->port, rc, ra->app_port->pid);
606425Smax.romanov@nginx.com     }
607425Smax.romanov@nginx.com 
608425Smax.romanov@nginx.com     nxt_router_ra_use(task, ra, -1);
609425Smax.romanov@nginx.com }
610425Smax.romanov@nginx.com 
611425Smax.romanov@nginx.com 
612425Smax.romanov@nginx.com static void
613425Smax.romanov@nginx.com nxt_router_ra_release(nxt_task_t *task, nxt_req_app_link_t *ra)
614425Smax.romanov@nginx.com {
615431Sigor@sysoev.ru     nxt_mp_t                *mp;
616431Sigor@sysoev.ru     nxt_req_conn_link_t     *rc;
617425Smax.romanov@nginx.com 
618425Smax.romanov@nginx.com     nxt_assert(task->thread->engine == ra->work.data);
619425Smax.romanov@nginx.com     nxt_assert(ra->use_count == 0);
620425Smax.romanov@nginx.com 
621343Smax.romanov@nginx.com     nxt_debug(task, "ra stream #%uD release", ra->stream);
622343Smax.romanov@nginx.com 
623343Smax.romanov@nginx.com     rc = ra->rc;
624343Smax.romanov@nginx.com 
625343Smax.romanov@nginx.com     if (rc != NULL) {
626423Smax.romanov@nginx.com         if (nxt_slow_path(ra->err_code != 0)) {
627431Sigor@sysoev.ru             nxt_http_request_error(task, rc->ap->request, ra->err_code);
628423Smax.romanov@nginx.com 
629423Smax.romanov@nginx.com         } else {
630423Smax.romanov@nginx.com             rc->app_port = ra->app_port;
631423Smax.romanov@nginx.com             rc->msg_info = ra->msg_info;
632423Smax.romanov@nginx.com 
633425Smax.romanov@nginx.com             if (rc->app->timeout != 0) {
634431Sigor@sysoev.ru                 rc->ap->timer.handler = nxt_router_app_timeout;
635615Smax.romanov@nginx.com                 rc->ap->timer_data = rc;
636431Sigor@sysoev.ru                 nxt_timer_add(task->thread->engine, &rc->ap->timer,
637425Smax.romanov@nginx.com                               rc->app->timeout);
638425Smax.romanov@nginx.com             }
639425Smax.romanov@nginx.com 
640423Smax.romanov@nginx.com             ra->app_port = NULL;
641423Smax.romanov@nginx.com             ra->msg_info.buf = NULL;
642423Smax.romanov@nginx.com         }
643343Smax.romanov@nginx.com 
644343Smax.romanov@nginx.com         rc->ra = NULL;
645343Smax.romanov@nginx.com         ra->rc = NULL;
646343Smax.romanov@nginx.com     }
647343Smax.romanov@nginx.com 
648343Smax.romanov@nginx.com     if (ra->app_port != NULL) {
649343Smax.romanov@nginx.com         nxt_router_app_port_release(task, ra->app_port, 0, 1);
650343Smax.romanov@nginx.com 
651343Smax.romanov@nginx.com         ra->app_port = NULL;
652167Smax.romanov@nginx.com     }
653167Smax.romanov@nginx.com 
654423Smax.romanov@nginx.com     nxt_router_msg_cancel(task, &ra->msg_info, ra->stream);
655423Smax.romanov@nginx.com 
656430Sigor@sysoev.ru     mp = ra->mem_pool;
657430Sigor@sysoev.ru 
658430Sigor@sysoev.ru     if (mp != NULL) {
659430Sigor@sysoev.ru         nxt_mp_free(mp, ra);
660430Sigor@sysoev.ru         nxt_mp_release(mp);
661351Smax.romanov@nginx.com     }
662167Smax.romanov@nginx.com }
663167Smax.romanov@nginx.com 
664167Smax.romanov@nginx.com 
665425Smax.romanov@nginx.com static void
666425Smax.romanov@nginx.com nxt_router_ra_release_handler(nxt_task_t *task, void *obj, void *data)
667425Smax.romanov@nginx.com {
668425Smax.romanov@nginx.com     nxt_req_app_link_t  *ra;
669425Smax.romanov@nginx.com 
670425Smax.romanov@nginx.com     ra = obj;
671425Smax.romanov@nginx.com 
672425Smax.romanov@nginx.com     nxt_assert(ra->work.data == data);
673425Smax.romanov@nginx.com 
674425Smax.romanov@nginx.com     nxt_atomic_fetch_add(&ra->use_count, -1);
675425Smax.romanov@nginx.com 
676425Smax.romanov@nginx.com     nxt_router_ra_release(task, ra);
677425Smax.romanov@nginx.com }
678425Smax.romanov@nginx.com 
679425Smax.romanov@nginx.com 
680425Smax.romanov@nginx.com static void
681425Smax.romanov@nginx.com nxt_router_ra_use(nxt_task_t *task, nxt_req_app_link_t *ra, int i)
682425Smax.romanov@nginx.com {
683425Smax.romanov@nginx.com     int                 c;
684425Smax.romanov@nginx.com     nxt_event_engine_t  *engine;
685425Smax.romanov@nginx.com 
686425Smax.romanov@nginx.com     c = nxt_atomic_fetch_add(&ra->use_count, i);
687425Smax.romanov@nginx.com 
688425Smax.romanov@nginx.com     if (i < 0 && c == -i) {
689425Smax.romanov@nginx.com         engine = ra->work.data;
690425Smax.romanov@nginx.com 
691425Smax.romanov@nginx.com         if (task->thread->engine == engine) {
692425Smax.romanov@nginx.com             nxt_router_ra_release(task, ra);
693425Smax.romanov@nginx.com 
694425Smax.romanov@nginx.com             return;
695425Smax.romanov@nginx.com         }
696425Smax.romanov@nginx.com 
697425Smax.romanov@nginx.com         nxt_router_ra_inc_use(ra);
698425Smax.romanov@nginx.com 
699425Smax.romanov@nginx.com         ra->work.handler = nxt_router_ra_release_handler;
700425Smax.romanov@nginx.com         ra->work.task = &engine->task;
701425Smax.romanov@nginx.com         ra->work.next = NULL;
702425Smax.romanov@nginx.com 
703425Smax.romanov@nginx.com         nxt_debug(task, "ra stream #%uD post release to %p",
704425Smax.romanov@nginx.com                   ra->stream, engine);
705425Smax.romanov@nginx.com 
706425Smax.romanov@nginx.com         nxt_event_engine_post(engine, &ra->work);
707425Smax.romanov@nginx.com     }
708425Smax.romanov@nginx.com }
709425Smax.romanov@nginx.com 
710425Smax.romanov@nginx.com 
711423Smax.romanov@nginx.com nxt_inline void
712521Szelenkov@nginx.com nxt_router_ra_error(nxt_req_app_link_t *ra, int code, const char *str)
713345Smax.romanov@nginx.com {
714423Smax.romanov@nginx.com     ra->app_port = NULL;
715423Smax.romanov@nginx.com     ra->err_code = code;
716423Smax.romanov@nginx.com     ra->err_str = str;
717345Smax.romanov@nginx.com }
718345Smax.romanov@nginx.com 
719345Smax.romanov@nginx.com 
720427Smax.romanov@nginx.com nxt_inline void
721427Smax.romanov@nginx.com nxt_router_ra_pending(nxt_task_t *task, nxt_app_t *app, nxt_req_app_link_t *ra)
722427Smax.romanov@nginx.com {
723427Smax.romanov@nginx.com     nxt_queue_insert_tail(&ra->app_port->pending_requests,
724427Smax.romanov@nginx.com                           &ra->link_port_pending);
725427Smax.romanov@nginx.com     nxt_queue_insert_tail(&app->pending, &ra->link_app_pending);
726427Smax.romanov@nginx.com 
727427Smax.romanov@nginx.com     nxt_router_ra_inc_use(ra);
728427Smax.romanov@nginx.com 
729427Smax.romanov@nginx.com     ra->res_time = nxt_thread_monotonic_time(task->thread) + app->res_timeout;
730427Smax.romanov@nginx.com 
731427Smax.romanov@nginx.com     nxt_debug(task, "ra stream #%uD enqueue to pending_requests", ra->stream);
732427Smax.romanov@nginx.com }
733427Smax.romanov@nginx.com 
734427Smax.romanov@nginx.com 
735425Smax.romanov@nginx.com nxt_inline nxt_bool_t
736425Smax.romanov@nginx.com nxt_queue_chk_remove(nxt_queue_link_t *lnk)
737425Smax.romanov@nginx.com {
738425Smax.romanov@nginx.com     if (lnk->next != NULL) {
739425Smax.romanov@nginx.com         nxt_queue_remove(lnk);
740425Smax.romanov@nginx.com 
741425Smax.romanov@nginx.com         lnk->next = NULL;
742425Smax.romanov@nginx.com 
743425Smax.romanov@nginx.com         return 1;
744425Smax.romanov@nginx.com     }
745425Smax.romanov@nginx.com 
746425Smax.romanov@nginx.com     return 0;
747425Smax.romanov@nginx.com }
748425Smax.romanov@nginx.com 
749425Smax.romanov@nginx.com 
750343Smax.romanov@nginx.com nxt_inline void
751343Smax.romanov@nginx.com nxt_router_rc_unlink(nxt_task_t *task, nxt_req_conn_link_t *rc)
752343Smax.romanov@nginx.com {
753425Smax.romanov@nginx.com     int                 ra_use_delta;
754343Smax.romanov@nginx.com     nxt_req_app_link_t  *ra;
755343Smax.romanov@nginx.com 
756343Smax.romanov@nginx.com     if (rc->app_port != NULL) {
757343Smax.romanov@nginx.com         nxt_router_app_port_release(task, rc->app_port, 0, 1);
758343Smax.romanov@nginx.com 
759343Smax.romanov@nginx.com         rc->app_port = NULL;
760343Smax.romanov@nginx.com     }
761343Smax.romanov@nginx.com 
762423Smax.romanov@nginx.com     nxt_router_msg_cancel(task, &rc->msg_info, rc->stream);
763423Smax.romanov@nginx.com 
764343Smax.romanov@nginx.com     ra = rc->ra;
765343Smax.romanov@nginx.com 
766343Smax.romanov@nginx.com     if (ra != NULL) {
767343Smax.romanov@nginx.com         rc->ra = NULL;
768343Smax.romanov@nginx.com         ra->rc = NULL;
769343Smax.romanov@nginx.com 
770425Smax.romanov@nginx.com         ra_use_delta = 0;
771425Smax.romanov@nginx.com 
772343Smax.romanov@nginx.com         nxt_thread_mutex_lock(&rc->app->mutex);
773343Smax.romanov@nginx.com 
774425Smax.romanov@nginx.com         if (ra->link_app_requests.next == NULL
775427Smax.romanov@nginx.com             && ra->link_port_pending.next == NULL
776427Smax.romanov@nginx.com             && ra->link_app_pending.next == NULL)
777425Smax.romanov@nginx.com         {
778425Smax.romanov@nginx.com             ra = NULL;
779343Smax.romanov@nginx.com 
780343Smax.romanov@nginx.com         } else {
781425Smax.romanov@nginx.com             ra_use_delta -= nxt_queue_chk_remove(&ra->link_app_requests);
782425Smax.romanov@nginx.com             ra_use_delta -= nxt_queue_chk_remove(&ra->link_port_pending);
783