Несколько веб-сайтов делают вызов API одновременно
Прежде всего, извинения за мой плохой английский.
Я просто хочу уточнить вещи.
Если есть несколько пользователей веб-сайта (скажем, 1000) и пытаются получить доступ к конечной точке моего API (скажем, каждый имеет доступ к конечной точке регистрации) в одно и то же время (или, если не точно в одно и то же время, временной интервал в нано-секунды) , Что случится? Все ли получат одинаковое время ответа? или первый, кто получит к нему доступ, получит его быстрее, чем второй?
Основываясь на моих знаниях (да, я глупый), я думаю, что API будет обрабатывать его в очередях, поэтому, если вы 1000-й пользователь, вы получите ответ в течение гораздо более длительного времени. Если это правда. Есть ли способ уменьшить задержку?
Большое спасибо за ваше время, объясняющее вещи 🙂
Решение
Вы правы насчет очереди. Если к вашему API одновременно подключено 1000 пользователей, некоторые из них, скорее всего, будут ждать.
Вы можете точно настроить количество одновременных запросов, которые вы принимаете. Я предполагаю, что вы используете nginx или apache. Например, вам придется максимально увеличить количество рабочих и рабочих процессов в nginx, но убедитесь, что ваш сервер может их обработать.
Если вы хотите использовать больше серверов, вы можете использовать балансировщик нагрузки, который будет обслуживать запрос от сервера, который доступен в данный момент, или случайным образом, от одного из них.
Другие решения
Других решений пока нет …