Объяснение
Горизонтальное масштабирование требует вынести состояние или распределить его. Autoscaling реагирует с задержкой. Очередь сглаживает всплески, но сама нуждается в лимите и политике просрочки.
Задача для самостоятельного решения
Почему CPU-based scaling не помогает сервису, ожидающему БД?
Показать разбор ответа
CPU может оставаться низким. Используйте метрику очереди/latency, но сначала устраните ограничение БД: больше реплик может усилить конкуренцию.