Assistente ao vivo
Cada pergunta é transcrita enquanto é feita, e segundos depois aparece uma resposta curta que você pode dizer em voz alta.
Como funciona o assistente ao vivoOuvido na chamada
Como você projetaria um rate limiter para uma API com muito tráfego?
A YoodaAI sugerevisível só para você
- Eu usaria um token bucket por chave de API, guardado no Redis, para que todos os nós do gateway vejam a mesma contagem.
- O gateway aplica o limite e retorna um 429 com o header Retry-After, para os clientes saberem quando tentar de novo.
- Depois eu acompanharia a taxa de rejeição e daria aos endpoints mais caros limites próprios e mais rígidos.
Com base no que já foi dito na chamada