Asistente en vivo
Cada pregunta se transcribe mientras la hacen, y segundos después aparece una respuesta breve que puedes decir en voz alta.
Cómo funciona el asistente en vivoEscuchado en la llamada
¿Cómo diseñarías un limitador de peticiones para una API con mucho tráfico?
YoodaAI sugieresolo lo ves tú
- Usaría un token bucket por cada clave de API, guardado en Redis para que todos los nodos del gateway vean el mismo recuento.
- El gateway lo aplica y devuelve un 429 con una cabecera Retry-After, para que los clientes sepan cuándo volver a intentarlo.
- Después, haría seguimiento de la tasa de rechazos y daría a los endpoints más costosos sus propios límites, más estrictos.
Según lo que se ha dicho hasta ahora en la llamada