Assistant en direct
Chaque question est transcrite au moment où elle est posée, et une réponse courte, à dire à voix haute, s’affiche quelques secondes plus tard.
Comment fonctionne l’assistant en directEntendu pendant l’appel
Comment concevriez-vous un rate limiter pour une API à fort trafic ?
YoodaAI suggèrevisible par vous seul
- J’utiliserais un token bucket par clé d’API, stocké dans Redis pour que chaque nœud de la gateway voie le même compteur.
- La gateway l’applique et renvoie une 429 avec un en-tête Retry-After, pour que les clients sachent quand réessayer.
- Ensuite, je suivrais le taux de rejet et donnerais aux endpoints coûteux leurs propres limites, plus strictes.
D’après ce qui a été dit jusqu’ici pendant l’appel