112Sigor@sysoev.ru
212Sigor@sysoev.ru /*
312Sigor@sysoev.ru * Copyright (C) Igor Sysoev
412Sigor@sysoev.ru * Copyright (C) NGINX, Inc.
512Sigor@sysoev.ru */
612Sigor@sysoev.ru
712Sigor@sysoev.ru #include <nxt_main.h>
812Sigor@sysoev.ru
912Sigor@sysoev.ru
1012Sigor@sysoev.ru /*
1112Sigor@sysoev.ru * The event ports have been introduced in Solaris 10.
1212Sigor@sysoev.ru * The PORT_SOURCE_MQ and PORT_SOURCE_FILE sources have
1312Sigor@sysoev.ru * been added in OpenSolaris.
1412Sigor@sysoev.ru */
1512Sigor@sysoev.ru
1612Sigor@sysoev.ru
1712Sigor@sysoev.ru static nxt_int_t nxt_eventport_create(nxt_event_engine_t *engine,
1812Sigor@sysoev.ru nxt_uint_t mchanges, nxt_uint_t mevents);
1912Sigor@sysoev.ru static void nxt_eventport_free(nxt_event_engine_t *engine);
2012Sigor@sysoev.ru static void nxt_eventport_enable(nxt_event_engine_t *engine,
2112Sigor@sysoev.ru nxt_fd_event_t *ev);
2212Sigor@sysoev.ru static void nxt_eventport_disable(nxt_event_engine_t *engine,
2312Sigor@sysoev.ru nxt_fd_event_t *ev);
2412Sigor@sysoev.ru static nxt_bool_t nxt_eventport_close(nxt_event_engine_t *engine,
2512Sigor@sysoev.ru nxt_fd_event_t *ev);
2612Sigor@sysoev.ru static void nxt_eventport_enable_read(nxt_event_engine_t *engine,
2712Sigor@sysoev.ru nxt_fd_event_t *ev);
2812Sigor@sysoev.ru static void nxt_eventport_enable_write(nxt_event_engine_t *engine,
2912Sigor@sysoev.ru nxt_fd_event_t *ev);
3012Sigor@sysoev.ru static void nxt_eventport_enable_event(nxt_event_engine_t *engine,
3112Sigor@sysoev.ru nxt_fd_event_t *ev, nxt_uint_t events);
3212Sigor@sysoev.ru static void nxt_eventport_disable_read(nxt_event_engine_t *engine,
3312Sigor@sysoev.ru nxt_fd_event_t *ev);
3412Sigor@sysoev.ru static void nxt_eventport_disable_write(nxt_event_engine_t *engine,
3512Sigor@sysoev.ru nxt_fd_event_t *ev);
3612Sigor@sysoev.ru static void nxt_eventport_disable_event(nxt_event_engine_t *engine,
3712Sigor@sysoev.ru nxt_fd_event_t *ev);
3812Sigor@sysoev.ru static nxt_int_t nxt_eventport_commit_changes(nxt_event_engine_t *engine);
3912Sigor@sysoev.ru static void nxt_eventport_error_handler(nxt_task_t *task, void *obj,
4012Sigor@sysoev.ru void *data);
4112Sigor@sysoev.ru static void nxt_eventport_block_read(nxt_event_engine_t *engine,
4212Sigor@sysoev.ru nxt_fd_event_t *ev);
4312Sigor@sysoev.ru static void nxt_eventport_block_write(nxt_event_engine_t *engine,
4412Sigor@sysoev.ru nxt_fd_event_t *ev);
4512Sigor@sysoev.ru static void nxt_eventport_oneshot_read(nxt_event_engine_t *engine,
4612Sigor@sysoev.ru nxt_fd_event_t *ev);
4712Sigor@sysoev.ru static void nxt_eventport_oneshot_write(nxt_event_engine_t *engine,
4812Sigor@sysoev.ru nxt_fd_event_t *ev);
4912Sigor@sysoev.ru static void nxt_eventport_enable_accept(nxt_event_engine_t *engine,
5012Sigor@sysoev.ru nxt_fd_event_t *ev);
5112Sigor@sysoev.ru static nxt_int_t nxt_eventport_enable_post(nxt_event_engine_t *engine,
5212Sigor@sysoev.ru nxt_work_handler_t handler);
5312Sigor@sysoev.ru static void nxt_eventport_signal(nxt_event_engine_t *engine, nxt_uint_t signo);
5412Sigor@sysoev.ru static void nxt_eventport_poll(nxt_event_engine_t *engine,
5512Sigor@sysoev.ru nxt_msec_t timeout);
5612Sigor@sysoev.ru
5712Sigor@sysoev.ru
5812Sigor@sysoev.ru const nxt_event_interface_t nxt_eventport_engine = {
5912Sigor@sysoev.ru "eventport",
6012Sigor@sysoev.ru nxt_eventport_create,
6112Sigor@sysoev.ru nxt_eventport_free,
6212Sigor@sysoev.ru nxt_eventport_enable,
6312Sigor@sysoev.ru nxt_eventport_disable,
6412Sigor@sysoev.ru nxt_eventport_disable,
6512Sigor@sysoev.ru nxt_eventport_close,
6612Sigor@sysoev.ru nxt_eventport_enable_read,
6712Sigor@sysoev.ru nxt_eventport_enable_write,
6812Sigor@sysoev.ru nxt_eventport_disable_read,
6912Sigor@sysoev.ru nxt_eventport_disable_write,
7012Sigor@sysoev.ru nxt_eventport_block_read,
7112Sigor@sysoev.ru nxt_eventport_block_write,
7212Sigor@sysoev.ru nxt_eventport_oneshot_read,
7312Sigor@sysoev.ru nxt_eventport_oneshot_write,
7412Sigor@sysoev.ru nxt_eventport_enable_accept,
7512Sigor@sysoev.ru NULL,
7612Sigor@sysoev.ru NULL,
7712Sigor@sysoev.ru nxt_eventport_enable_post,
7812Sigor@sysoev.ru nxt_eventport_signal,
7912Sigor@sysoev.ru nxt_eventport_poll,
8012Sigor@sysoev.ru
8162Sigor@sysoev.ru &nxt_unix_conn_io,
8212Sigor@sysoev.ru
8312Sigor@sysoev.ru NXT_NO_FILE_EVENTS,
8412Sigor@sysoev.ru NXT_NO_SIGNAL_EVENTS,
8512Sigor@sysoev.ru };
8612Sigor@sysoev.ru
8712Sigor@sysoev.ru
8812Sigor@sysoev.ru static nxt_int_t
nxt_eventport_create(nxt_event_engine_t * engine,nxt_uint_t mchanges,nxt_uint_t mevents)8912Sigor@sysoev.ru nxt_eventport_create(nxt_event_engine_t *engine, nxt_uint_t mchanges,
9012Sigor@sysoev.ru nxt_uint_t mevents)
9112Sigor@sysoev.ru {
9212Sigor@sysoev.ru nxt_eventport_change_t *changes;
9312Sigor@sysoev.ru
9412Sigor@sysoev.ru engine->u.eventport.fd = -1;
9512Sigor@sysoev.ru engine->u.eventport.mchanges = mchanges;
9612Sigor@sysoev.ru engine->u.eventport.mevents = mevents;
9712Sigor@sysoev.ru
9812Sigor@sysoev.ru changes = nxt_malloc(sizeof(nxt_eventport_change_t) * mchanges);
9912Sigor@sysoev.ru if (changes == NULL) {
10012Sigor@sysoev.ru goto fail;
10112Sigor@sysoev.ru }
10212Sigor@sysoev.ru
10312Sigor@sysoev.ru engine->u.eventport.changes = changes;
10412Sigor@sysoev.ru
10512Sigor@sysoev.ru engine->u.eventport.events = nxt_malloc(sizeof(port_event_t) * mevents);
10612Sigor@sysoev.ru if (engine->u.eventport.events == NULL) {
10712Sigor@sysoev.ru goto fail;
10812Sigor@sysoev.ru }
10912Sigor@sysoev.ru
11012Sigor@sysoev.ru engine->u.eventport.fd = port_create();
11112Sigor@sysoev.ru if (engine->u.eventport.fd == -1) {
112*564Svbart@nginx.com nxt_alert(&engine->task, "port_create() failed %E", nxt_errno);
11312Sigor@sysoev.ru goto fail;
11412Sigor@sysoev.ru }
11512Sigor@sysoev.ru
11612Sigor@sysoev.ru nxt_debug(&engine->task, "port_create(): %d", engine->u.eventport.fd);
11712Sigor@sysoev.ru
11812Sigor@sysoev.ru if (engine->signals != NULL) {
11912Sigor@sysoev.ru engine->u.eventport.signal_handler = engine->signals->handler;
12012Sigor@sysoev.ru }
12112Sigor@sysoev.ru
12212Sigor@sysoev.ru return NXT_OK;
12312Sigor@sysoev.ru
12412Sigor@sysoev.ru fail:
12512Sigor@sysoev.ru
12612Sigor@sysoev.ru nxt_eventport_free(engine);
12712Sigor@sysoev.ru
12812Sigor@sysoev.ru return NXT_ERROR;
12912Sigor@sysoev.ru }
13012Sigor@sysoev.ru
13112Sigor@sysoev.ru
13212Sigor@sysoev.ru static void
nxt_eventport_free(nxt_event_engine_t * engine)13312Sigor@sysoev.ru nxt_eventport_free(nxt_event_engine_t *engine)
13412Sigor@sysoev.ru {
13512Sigor@sysoev.ru int port;
13612Sigor@sysoev.ru
13712Sigor@sysoev.ru port = engine->u.eventport.fd;
13812Sigor@sysoev.ru
13912Sigor@sysoev.ru nxt_debug(&engine->task, "eventport %d free", port);
14012Sigor@sysoev.ru
14112Sigor@sysoev.ru if (port != -1 && close(port) != 0) {
142*564Svbart@nginx.com nxt_alert(&engine->task, "eventport close(%d) failed %E",
143*564Svbart@nginx.com port, nxt_errno);
14412Sigor@sysoev.ru }
14512Sigor@sysoev.ru
14612Sigor@sysoev.ru nxt_free(engine->u.eventport.events);
14712Sigor@sysoev.ru
14812Sigor@sysoev.ru nxt_memzero(&engine->u.eventport, sizeof(nxt_eventport_engine_t));
14912Sigor@sysoev.ru }
15012Sigor@sysoev.ru
15112Sigor@sysoev.ru
15212Sigor@sysoev.ru static void
nxt_eventport_enable(nxt_event_engine_t * engine,nxt_fd_event_t * ev)15312Sigor@sysoev.ru nxt_eventport_enable(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
15412Sigor@sysoev.ru {
15512Sigor@sysoev.ru ev->read = NXT_EVENT_ACTIVE;
15612Sigor@sysoev.ru ev->write = NXT_EVENT_ACTIVE;
15712Sigor@sysoev.ru
15812Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, POLLIN | POLLOUT);
15912Sigor@sysoev.ru }
16012Sigor@sysoev.ru
16112Sigor@sysoev.ru
16212Sigor@sysoev.ru static void
nxt_eventport_disable(nxt_event_engine_t * engine,nxt_fd_event_t * ev)16312Sigor@sysoev.ru nxt_eventport_disable(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
16412Sigor@sysoev.ru {
16512Sigor@sysoev.ru if (ev->read != NXT_EVENT_INACTIVE || ev->write != NXT_EVENT_INACTIVE) {
16612Sigor@sysoev.ru
16712Sigor@sysoev.ru ev->read = NXT_EVENT_INACTIVE;
16812Sigor@sysoev.ru ev->write = NXT_EVENT_INACTIVE;
16912Sigor@sysoev.ru
17012Sigor@sysoev.ru nxt_eventport_disable_event(engine, ev);
17112Sigor@sysoev.ru }
17212Sigor@sysoev.ru }
17312Sigor@sysoev.ru
17412Sigor@sysoev.ru
17512Sigor@sysoev.ru /*
17612Sigor@sysoev.ru * port_dissociate(3):
17712Sigor@sysoev.ru *
17812Sigor@sysoev.ru * The association is removed if the owner of the association closes the port.
17912Sigor@sysoev.ru */
18012Sigor@sysoev.ru
18112Sigor@sysoev.ru static nxt_bool_t
nxt_eventport_close(nxt_event_engine_t * engine,nxt_fd_event_t * ev)18212Sigor@sysoev.ru nxt_eventport_close(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
18312Sigor@sysoev.ru {
18412Sigor@sysoev.ru ev->read = NXT_EVENT_INACTIVE;
18512Sigor@sysoev.ru ev->write = NXT_EVENT_INACTIVE;
18612Sigor@sysoev.ru
18712Sigor@sysoev.ru return ev->changing;
18812Sigor@sysoev.ru }
18912Sigor@sysoev.ru
19012Sigor@sysoev.ru
19112Sigor@sysoev.ru static void
nxt_eventport_enable_read(nxt_event_engine_t * engine,nxt_fd_event_t * ev)19212Sigor@sysoev.ru nxt_eventport_enable_read(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
19312Sigor@sysoev.ru {
19412Sigor@sysoev.ru nxt_uint_t events;
19512Sigor@sysoev.ru
19612Sigor@sysoev.ru if (ev->read != NXT_EVENT_BLOCKED) {
19712Sigor@sysoev.ru events = (ev->write == NXT_EVENT_INACTIVE) ? POLLIN
19812Sigor@sysoev.ru : (POLLIN | POLLOUT);
19912Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, events);
20012Sigor@sysoev.ru }
20112Sigor@sysoev.ru
20212Sigor@sysoev.ru ev->read = NXT_EVENT_ACTIVE;
20312Sigor@sysoev.ru }
20412Sigor@sysoev.ru
20512Sigor@sysoev.ru
20612Sigor@sysoev.ru static void
nxt_eventport_enable_write(nxt_event_engine_t * engine,nxt_fd_event_t * ev)20712Sigor@sysoev.ru nxt_eventport_enable_write(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
20812Sigor@sysoev.ru {
20912Sigor@sysoev.ru nxt_uint_t events;
21012Sigor@sysoev.ru
21112Sigor@sysoev.ru if (ev->write != NXT_EVENT_BLOCKED) {
21212Sigor@sysoev.ru events = (ev->read == NXT_EVENT_INACTIVE) ? POLLOUT
21312Sigor@sysoev.ru : (POLLIN | POLLOUT);
21412Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, events);
21512Sigor@sysoev.ru }
21612Sigor@sysoev.ru
21712Sigor@sysoev.ru ev->write = NXT_EVENT_ACTIVE;
21812Sigor@sysoev.ru }
21912Sigor@sysoev.ru
22012Sigor@sysoev.ru
22112Sigor@sysoev.ru /*
22212Sigor@sysoev.ru * eventport changes are batched to improve instruction and data
22312Sigor@sysoev.ru * cache locality of several port_associate() and port_dissociate()
22412Sigor@sysoev.ru * calls followed by port_getn() call.
22512Sigor@sysoev.ru */
22612Sigor@sysoev.ru
22712Sigor@sysoev.ru static void
nxt_eventport_enable_event(nxt_event_engine_t * engine,nxt_fd_event_t * ev,nxt_uint_t events)22812Sigor@sysoev.ru nxt_eventport_enable_event(nxt_event_engine_t *engine, nxt_fd_event_t *ev,
22912Sigor@sysoev.ru nxt_uint_t events)
23012Sigor@sysoev.ru {
23112Sigor@sysoev.ru nxt_eventport_change_t *change;
23212Sigor@sysoev.ru
23312Sigor@sysoev.ru nxt_debug(ev->task, "port %d set event: fd:%d ev:%04XD u:%p",
23412Sigor@sysoev.ru engine->u.eventport.fd, ev->fd, events, ev);
23512Sigor@sysoev.ru
23612Sigor@sysoev.ru if (engine->u.eventport.nchanges >= engine->u.eventport.mchanges) {
23712Sigor@sysoev.ru (void) nxt_eventport_commit_changes(engine);
23812Sigor@sysoev.ru }
23912Sigor@sysoev.ru
24012Sigor@sysoev.ru ev->changing = 1;
24112Sigor@sysoev.ru
24212Sigor@sysoev.ru change = &engine->u.eventport.changes[engine->u.eventport.nchanges++];
24312Sigor@sysoev.ru change->events = events;
24412Sigor@sysoev.ru change->event = ev;
24512Sigor@sysoev.ru }
24612Sigor@sysoev.ru
24712Sigor@sysoev.ru
24812Sigor@sysoev.ru static void
nxt_eventport_disable_read(nxt_event_engine_t * engine,nxt_fd_event_t * ev)24912Sigor@sysoev.ru nxt_eventport_disable_read(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
25012Sigor@sysoev.ru {
25112Sigor@sysoev.ru ev->read = NXT_EVENT_INACTIVE;
25212Sigor@sysoev.ru
25312Sigor@sysoev.ru if (ev->write == NXT_EVENT_INACTIVE) {
25412Sigor@sysoev.ru nxt_eventport_disable_event(engine, ev);
25512Sigor@sysoev.ru
25612Sigor@sysoev.ru } else {
25712Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, POLLOUT);
25812Sigor@sysoev.ru }
25912Sigor@sysoev.ru }
26012Sigor@sysoev.ru
26112Sigor@sysoev.ru
26212Sigor@sysoev.ru static void
nxt_eventport_disable_write(nxt_event_engine_t * engine,nxt_fd_event_t * ev)26312Sigor@sysoev.ru nxt_eventport_disable_write(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
26412Sigor@sysoev.ru {
26512Sigor@sysoev.ru ev->write = NXT_EVENT_INACTIVE;
26612Sigor@sysoev.ru
26712Sigor@sysoev.ru if (ev->read == NXT_EVENT_INACTIVE) {
26812Sigor@sysoev.ru nxt_eventport_disable_event(engine, ev);
26912Sigor@sysoev.ru
27012Sigor@sysoev.ru } else {
27112Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, POLLIN);
27212Sigor@sysoev.ru }
27312Sigor@sysoev.ru }
27412Sigor@sysoev.ru
27512Sigor@sysoev.ru
27612Sigor@sysoev.ru static void
nxt_eventport_disable_event(nxt_event_engine_t * engine,nxt_fd_event_t * ev)27712Sigor@sysoev.ru nxt_eventport_disable_event(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
27812Sigor@sysoev.ru {
27912Sigor@sysoev.ru nxt_eventport_change_t *change;
28012Sigor@sysoev.ru
28112Sigor@sysoev.ru nxt_debug(ev->task, "port %d disable event : fd:%d",
28212Sigor@sysoev.ru engine->u.eventport.fd, ev->fd);
28312Sigor@sysoev.ru
28412Sigor@sysoev.ru if (engine->u.eventport.nchanges >= engine->u.eventport.mchanges) {
28512Sigor@sysoev.ru (void) nxt_eventport_commit_changes(engine);
28612Sigor@sysoev.ru }
28712Sigor@sysoev.ru
28812Sigor@sysoev.ru ev->changing = 1;
28912Sigor@sysoev.ru
29012Sigor@sysoev.ru change = &engine->u.eventport.changes[engine->u.eventport.nchanges++];
29112Sigor@sysoev.ru change->events = 0;
29212Sigor@sysoev.ru change->event = ev;
29312Sigor@sysoev.ru }
29412Sigor@sysoev.ru
29512Sigor@sysoev.ru
29612Sigor@sysoev.ru static nxt_int_t
nxt_eventport_commit_changes(nxt_event_engine_t * engine)29712Sigor@sysoev.ru nxt_eventport_commit_changes(nxt_event_engine_t *engine)
29812Sigor@sysoev.ru {
29912Sigor@sysoev.ru int ret, port;
30012Sigor@sysoev.ru nxt_int_t retval;
30112Sigor@sysoev.ru nxt_fd_event_t *ev;
30212Sigor@sysoev.ru nxt_eventport_change_t *change, *end;
30312Sigor@sysoev.ru
30412Sigor@sysoev.ru port = engine->u.eventport.fd;
30512Sigor@sysoev.ru
30612Sigor@sysoev.ru nxt_debug(&engine->task, "eventport %d changes:%ui",
30712Sigor@sysoev.ru port, engine->u.eventport.nchanges);
30812Sigor@sysoev.ru
30912Sigor@sysoev.ru retval = NXT_OK;
31012Sigor@sysoev.ru change = engine->u.eventport.changes;
31112Sigor@sysoev.ru end = change + engine->u.eventport.nchanges;
31212Sigor@sysoev.ru
31312Sigor@sysoev.ru do {
31412Sigor@sysoev.ru ev = change->event;
31512Sigor@sysoev.ru ev->changing = 0;
31612Sigor@sysoev.ru
31712Sigor@sysoev.ru if (change->events != 0) {
31812Sigor@sysoev.ru nxt_debug(ev->task, "port_associate(%d): fd:%d ev:%04XD u:%p",
31912Sigor@sysoev.ru port, ev->fd, change->events, ev);
32012Sigor@sysoev.ru
32112Sigor@sysoev.ru ret = port_associate(port, PORT_SOURCE_FD,
32212Sigor@sysoev.ru ev->fd, change->events, ev);
32312Sigor@sysoev.ru
32412Sigor@sysoev.ru if (nxt_fast_path(ret == 0)) {
32512Sigor@sysoev.ru goto next;
32612Sigor@sysoev.ru }
32712Sigor@sysoev.ru
328*564Svbart@nginx.com nxt_alert(ev->task, "port_associate(%d, %d, %d, %04XD) failed %E",
329*564Svbart@nginx.com port, PORT_SOURCE_FD, ev->fd, change->events, nxt_errno);
33012Sigor@sysoev.ru
33112Sigor@sysoev.ru } else {
33212Sigor@sysoev.ru nxt_debug(ev->task, "port_dissociate(%d): fd:%d", port, ev->fd);
33312Sigor@sysoev.ru
33412Sigor@sysoev.ru ret = port_dissociate(port, PORT_SOURCE_FD, ev->fd);
33512Sigor@sysoev.ru
33612Sigor@sysoev.ru if (nxt_fast_path(ret == 0)) {
33712Sigor@sysoev.ru goto next;
33812Sigor@sysoev.ru }
33912Sigor@sysoev.ru
340*564Svbart@nginx.com nxt_alert(ev->task, "port_dissociate(%d, %d, %d) failed %E",
341*564Svbart@nginx.com port, PORT_SOURCE_FD, ev->fd, nxt_errno);
34212Sigor@sysoev.ru }
34312Sigor@sysoev.ru
34412Sigor@sysoev.ru nxt_work_queue_add(&engine->fast_work_queue,
34512Sigor@sysoev.ru nxt_eventport_error_handler,
34612Sigor@sysoev.ru ev->task, ev, ev->data);
34712Sigor@sysoev.ru
34812Sigor@sysoev.ru retval = NXT_ERROR;
34912Sigor@sysoev.ru
35012Sigor@sysoev.ru next:
35112Sigor@sysoev.ru
35212Sigor@sysoev.ru change++;
35312Sigor@sysoev.ru
35412Sigor@sysoev.ru } while (change < end);
35512Sigor@sysoev.ru
35612Sigor@sysoev.ru engine->u.eventport.nchanges = 0;
35712Sigor@sysoev.ru
35812Sigor@sysoev.ru return retval;
35912Sigor@sysoev.ru }
36012Sigor@sysoev.ru
36112Sigor@sysoev.ru
36212Sigor@sysoev.ru static void
nxt_eventport_error_handler(nxt_task_t * task,void * obj,void * data)36312Sigor@sysoev.ru nxt_eventport_error_handler(nxt_task_t *task, void *obj, void *data)
36412Sigor@sysoev.ru {
36512Sigor@sysoev.ru nxt_fd_event_t *ev;
36612Sigor@sysoev.ru
36712Sigor@sysoev.ru ev = obj;
36812Sigor@sysoev.ru
36912Sigor@sysoev.ru ev->read = NXT_EVENT_INACTIVE;
37012Sigor@sysoev.ru ev->write = NXT_EVENT_INACTIVE;
37112Sigor@sysoev.ru
37212Sigor@sysoev.ru ev->error_handler(task, ev, data);
37312Sigor@sysoev.ru }
37412Sigor@sysoev.ru
37512Sigor@sysoev.ru
37612Sigor@sysoev.ru static void
nxt_eventport_block_read(nxt_event_engine_t * engine,nxt_fd_event_t * ev)37712Sigor@sysoev.ru nxt_eventport_block_read(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
37812Sigor@sysoev.ru {
37912Sigor@sysoev.ru if (ev->read != NXT_EVENT_INACTIVE) {
38012Sigor@sysoev.ru ev->read = NXT_EVENT_BLOCKED;
38112Sigor@sysoev.ru }
38212Sigor@sysoev.ru }
38312Sigor@sysoev.ru
38412Sigor@sysoev.ru
38512Sigor@sysoev.ru static void
nxt_eventport_block_write(nxt_event_engine_t * engine,nxt_fd_event_t * ev)38612Sigor@sysoev.ru nxt_eventport_block_write(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
38712Sigor@sysoev.ru {
38812Sigor@sysoev.ru if (ev->write != NXT_EVENT_INACTIVE) {
38912Sigor@sysoev.ru ev->write = NXT_EVENT_BLOCKED;
39012Sigor@sysoev.ru }
39112Sigor@sysoev.ru }
39212Sigor@sysoev.ru
39312Sigor@sysoev.ru
39412Sigor@sysoev.ru static void
nxt_eventport_oneshot_read(nxt_event_engine_t * engine,nxt_fd_event_t * ev)39512Sigor@sysoev.ru nxt_eventport_oneshot_read(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
39612Sigor@sysoev.ru {
39712Sigor@sysoev.ru if (ev->read == NXT_EVENT_INACTIVE) {
39812Sigor@sysoev.ru ev->read = NXT_EVENT_ACTIVE;
39912Sigor@sysoev.ru
40012Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, POLLIN);
40112Sigor@sysoev.ru }
40212Sigor@sysoev.ru }
40312Sigor@sysoev.ru
40412Sigor@sysoev.ru
40512Sigor@sysoev.ru static void
nxt_eventport_oneshot_write(nxt_event_engine_t * engine,nxt_fd_event_t * ev)40612Sigor@sysoev.ru nxt_eventport_oneshot_write(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
40712Sigor@sysoev.ru {
40812Sigor@sysoev.ru if (ev->write == NXT_EVENT_INACTIVE) {
40912Sigor@sysoev.ru ev->write = NXT_EVENT_ACTIVE;
41012Sigor@sysoev.ru
41112Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, POLLOUT);
41212Sigor@sysoev.ru }
41312Sigor@sysoev.ru }
41412Sigor@sysoev.ru
41512Sigor@sysoev.ru
41612Sigor@sysoev.ru static void
nxt_eventport_enable_accept(nxt_event_engine_t * engine,nxt_fd_event_t * ev)41712Sigor@sysoev.ru nxt_eventport_enable_accept(nxt_event_engine_t *engine, nxt_fd_event_t *ev)
41812Sigor@sysoev.ru {
41912Sigor@sysoev.ru ev->read = NXT_EVENT_LEVEL;
42012Sigor@sysoev.ru
42112Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, POLLIN);
42212Sigor@sysoev.ru }
42312Sigor@sysoev.ru
42412Sigor@sysoev.ru
42512Sigor@sysoev.ru static nxt_int_t
nxt_eventport_enable_post(nxt_event_engine_t * engine,nxt_work_handler_t handler)42612Sigor@sysoev.ru nxt_eventport_enable_post(nxt_event_engine_t *engine,
42712Sigor@sysoev.ru nxt_work_handler_t handler)
42812Sigor@sysoev.ru {
42912Sigor@sysoev.ru engine->u.eventport.post_handler = handler;
43012Sigor@sysoev.ru
43112Sigor@sysoev.ru return NXT_OK;
43212Sigor@sysoev.ru }
43312Sigor@sysoev.ru
43412Sigor@sysoev.ru
43512Sigor@sysoev.ru static void
nxt_eventport_signal(nxt_event_engine_t * engine,nxt_uint_t signo)43612Sigor@sysoev.ru nxt_eventport_signal(nxt_event_engine_t *engine, nxt_uint_t signo)
43712Sigor@sysoev.ru {
43812Sigor@sysoev.ru int port;
43912Sigor@sysoev.ru
44012Sigor@sysoev.ru port = engine->u.eventport.fd;
44112Sigor@sysoev.ru
44212Sigor@sysoev.ru nxt_debug(&engine->task, "port_send(%d, %ui)", port, signo);
44312Sigor@sysoev.ru
44412Sigor@sysoev.ru if (port_send(port, signo, NULL) != 0) {
445*564Svbart@nginx.com nxt_alert(&engine->task, "port_send(%d) failed %E", port, nxt_errno);
44612Sigor@sysoev.ru }
44712Sigor@sysoev.ru }
44812Sigor@sysoev.ru
44912Sigor@sysoev.ru
45012Sigor@sysoev.ru static void
nxt_eventport_poll(nxt_event_engine_t * engine,nxt_msec_t timeout)45112Sigor@sysoev.ru nxt_eventport_poll(nxt_event_engine_t *engine, nxt_msec_t timeout)
45212Sigor@sysoev.ru {
45312Sigor@sysoev.ru int n, events, signo;
45412Sigor@sysoev.ru uint_t nevents;
45512Sigor@sysoev.ru nxt_err_t err;
45612Sigor@sysoev.ru nxt_uint_t i, level;
45712Sigor@sysoev.ru timespec_t ts, *tp;
45812Sigor@sysoev.ru port_event_t *event;
45912Sigor@sysoev.ru nxt_fd_event_t *ev;
46012Sigor@sysoev.ru nxt_work_handler_t handler;
46112Sigor@sysoev.ru
46212Sigor@sysoev.ru if (engine->u.eventport.nchanges != 0) {
46312Sigor@sysoev.ru if (nxt_eventport_commit_changes(engine) != NXT_OK) {
46412Sigor@sysoev.ru /* Error handlers have been enqueued on failure. */
46512Sigor@sysoev.ru timeout = 0;
46612Sigor@sysoev.ru }
46712Sigor@sysoev.ru }
46812Sigor@sysoev.ru
46912Sigor@sysoev.ru if (timeout == NXT_INFINITE_MSEC) {
47012Sigor@sysoev.ru tp = NULL;
47112Sigor@sysoev.ru
47212Sigor@sysoev.ru } else {
47312Sigor@sysoev.ru ts.tv_sec = timeout / 1000;
47412Sigor@sysoev.ru ts.tv_nsec = (timeout % 1000) * 1000000;
47512Sigor@sysoev.ru tp = &ts;
47612Sigor@sysoev.ru }
47712Sigor@sysoev.ru
47812Sigor@sysoev.ru nxt_debug(&engine->task, "port_getn(%d) timeout: %M",
47912Sigor@sysoev.ru engine->u.eventport.fd, timeout);
48012Sigor@sysoev.ru
48112Sigor@sysoev.ru /*
48212Sigor@sysoev.ru * A trap for possible error when Solaris does not update nevents
48312Sigor@sysoev.ru * if ETIME or EINTR is returned. This issue will be logged as
48412Sigor@sysoev.ru * "unexpected port_getn() event".
48512Sigor@sysoev.ru *
48612Sigor@sysoev.ru * The details are in OpenSolaris mailing list thread "port_getn()
48712Sigor@sysoev.ru * and timeouts - is this a bug or an undocumented feature?"
48812Sigor@sysoev.ru */
48912Sigor@sysoev.ru event = &engine->u.eventport.events[0];
49012Sigor@sysoev.ru event->portev_events = -1; /* invalid port events */
49112Sigor@sysoev.ru event->portev_source = -1; /* invalid port source */
49212Sigor@sysoev.ru event->portev_object = -1;
49312Sigor@sysoev.ru event->portev_user = (void *) -1;
49412Sigor@sysoev.ru
49512Sigor@sysoev.ru nevents = 1;
49612Sigor@sysoev.ru n = port_getn(engine->u.eventport.fd, engine->u.eventport.events,
49712Sigor@sysoev.ru engine->u.eventport.mevents, &nevents, tp);
49812Sigor@sysoev.ru
49912Sigor@sysoev.ru /*
50012Sigor@sysoev.ru * 32-bit port_getn() on Solaris 10 x86 returns large negative
50112Sigor@sysoev.ru * values instead of 0 when returning immediately.
50212Sigor@sysoev.ru */
50312Sigor@sysoev.ru err = (n < 0) ? nxt_errno : 0;
50412Sigor@sysoev.ru
50512Sigor@sysoev.ru nxt_thread_time_update(engine->task.thread);
50612Sigor@sysoev.ru
50712Sigor@sysoev.ru if (n == -1) {
50812Sigor@sysoev.ru if (err == NXT_ETIME || err == NXT_EINTR) {
50912Sigor@sysoev.ru if (nevents != 0) {
510*564Svbart@nginx.com nxt_alert(&engine->task, "port_getn(%d) failed %E, events:%ud",
511*564Svbart@nginx.com engine->u.eventport.fd, err, nevents);
51212Sigor@sysoev.ru }
51312Sigor@sysoev.ru }
51412Sigor@sysoev.ru
51512Sigor@sysoev.ru if (err != NXT_ETIME) {
516*564Svbart@nginx.com level = (err == NXT_EINTR) ? NXT_LOG_INFO : NXT_LOG_ALERT;
51712Sigor@sysoev.ru
51812Sigor@sysoev.ru nxt_log(&engine->task, level, "port_getn(%d) failed %E",
51912Sigor@sysoev.ru engine->u.eventport.fd, err);
52012Sigor@sysoev.ru
52112Sigor@sysoev.ru if (err != NXT_EINTR) {
52212Sigor@sysoev.ru return;
52312Sigor@sysoev.ru }
52412Sigor@sysoev.ru }
52512Sigor@sysoev.ru }
52612Sigor@sysoev.ru
52712Sigor@sysoev.ru nxt_debug(&engine->task, "port_getn(%d) events: %d",
52812Sigor@sysoev.ru engine->u.eventport.fd, nevents);
52912Sigor@sysoev.ru
53012Sigor@sysoev.ru for (i = 0; i < nevents; i++) {
53112Sigor@sysoev.ru event = &engine->u.eventport.events[i];
53212Sigor@sysoev.ru
53312Sigor@sysoev.ru switch (event->portev_source) {
53412Sigor@sysoev.ru
53512Sigor@sysoev.ru case PORT_SOURCE_FD:
53612Sigor@sysoev.ru ev = event->portev_user;
53712Sigor@sysoev.ru events = event->portev_events;
53812Sigor@sysoev.ru
53912Sigor@sysoev.ru nxt_debug(ev->task, "eventport: fd:%d ev:%04Xd u:%p rd:%d wr:%d",
54012Sigor@sysoev.ru event->portev_object, events, ev, ev->read, ev->write);
54112Sigor@sysoev.ru
54212Sigor@sysoev.ru if (nxt_slow_path(events & (POLLERR | POLLHUP | POLLNVAL)) != 0) {
543*564Svbart@nginx.com nxt_alert(ev->task, "port_getn(%d) error fd:%d events:%04Xud",
544*564Svbart@nginx.com engine->u.eventport.fd, ev->fd, events);
54512Sigor@sysoev.ru
54612Sigor@sysoev.ru nxt_work_queue_add(&engine->fast_work_queue,
54712Sigor@sysoev.ru nxt_eventport_error_handler,
54812Sigor@sysoev.ru ev->task, ev, ev->data);
54912Sigor@sysoev.ru continue;
55012Sigor@sysoev.ru }
55112Sigor@sysoev.ru
55212Sigor@sysoev.ru if (events & POLLIN) {
55312Sigor@sysoev.ru ev->read_ready = 1;
55412Sigor@sysoev.ru
55512Sigor@sysoev.ru if (ev->read != NXT_EVENT_BLOCKED) {
55612Sigor@sysoev.ru nxt_work_queue_add(ev->read_work_queue, ev->read_handler,
55712Sigor@sysoev.ru ev->task, ev, ev->data);
55812Sigor@sysoev.ru
55912Sigor@sysoev.ru }
56012Sigor@sysoev.ru
56112Sigor@sysoev.ru if (ev->read != NXT_EVENT_LEVEL) {
56212Sigor@sysoev.ru ev->read = NXT_EVENT_INACTIVE;
56312Sigor@sysoev.ru }
56412Sigor@sysoev.ru }
56512Sigor@sysoev.ru
56612Sigor@sysoev.ru if (events & POLLOUT) {
56712Sigor@sysoev.ru ev->write_ready = 1;
56812Sigor@sysoev.ru
56912Sigor@sysoev.ru if (ev->write != NXT_EVENT_BLOCKED) {
57012Sigor@sysoev.ru nxt_work_queue_add(ev->write_work_queue, ev->write_handler,
57112Sigor@sysoev.ru ev->task, ev, ev->data);
57212Sigor@sysoev.ru }
57312Sigor@sysoev.ru
57412Sigor@sysoev.ru ev->write = NXT_EVENT_INACTIVE;
57512Sigor@sysoev.ru }
57612Sigor@sysoev.ru
57712Sigor@sysoev.ru /*
57812Sigor@sysoev.ru * Reactivate counterpart direction, because the
57912Sigor@sysoev.ru * eventport is oneshot notification facility.
58012Sigor@sysoev.ru */
58112Sigor@sysoev.ru events = (ev->read == NXT_EVENT_INACTIVE) ? 0 : POLLIN;
58212Sigor@sysoev.ru events |= (ev->write == NXT_EVENT_INACTIVE) ? 0 : POLLOUT;
58312Sigor@sysoev.ru
58412Sigor@sysoev.ru if (events != 0) {
58512Sigor@sysoev.ru nxt_eventport_enable_event(engine, ev, events);
58612Sigor@sysoev.ru }
58712Sigor@sysoev.ru
58812Sigor@sysoev.ru break;
58912Sigor@sysoev.ru
59012Sigor@sysoev.ru case PORT_SOURCE_USER:
59112Sigor@sysoev.ru nxt_debug(&engine->task, "eventport: user ev:%d u:%p",
59212Sigor@sysoev.ru event->portev_events, event->portev_user);
59312Sigor@sysoev.ru
59412Sigor@sysoev.ru signo = event->portev_events;
59512Sigor@sysoev.ru
59612Sigor@sysoev.ru handler = (signo == 0) ? engine->u.eventport.post_handler
59712Sigor@sysoev.ru : engine->u.eventport.signal_handler;
59812Sigor@sysoev.ru
59912Sigor@sysoev.ru nxt_work_queue_add(&engine->fast_work_queue, handler,
60012Sigor@sysoev.ru &engine->task, (void *) (uintptr_t) signo, NULL);
60112Sigor@sysoev.ru
60212Sigor@sysoev.ru break;
60312Sigor@sysoev.ru
60412Sigor@sysoev.ru default:
605*564Svbart@nginx.com nxt_alert(&engine->task,
606*564Svbart@nginx.com "unexpected port_getn(%d) event: "
607*564Svbart@nginx.com "ev:%d src:%d obj:%p u:%p",
608*564Svbart@nginx.com engine->u.eventport.fd, event->portev_events,
609*564Svbart@nginx.com event->portev_source, event->portev_object,
610*564Svbart@nginx.com event->portev_user);
61112Sigor@sysoev.ru }
61212Sigor@sysoev.ru }
61312Sigor@sysoev.ru }
614