Limits de taux
On this page
Les limites de demande sont appliquées par clé, de sorte qu'une intégration bruyante ne peut pas dépenser le budget d'une autre.
| Limite | La valeur | Ce qu'elle protège |
|---|---|---|
| Par clé API | 600 demandes par minute | L'équité entre les clients. Excédant, il revient 429. |
| Par adresse IP | 2 000 demandes par minute | Un sol d'abus appliqué avant l'authentification, assez généreux pour un NAT corporatif partagé. |
| Opérations lourdes | 3 à la fois, partagés dans le service | L'analyse, l'évaluation et la synthèse se déroulent trois fois sur la capacité partagée par tous les comptes. Au-delà de cela, les demandes attendent leur tour; elles ne sont jamais rejetées uniquement pour la concomitance. |
| Demande de délai | 300 secondes | Le plafond pour chaque appel. Le travail qui le dépasse est rendu 504. |
La latence typique
Mesurés sur la production:
| L'opération | La latence typique |
|---|---|
| Détection du langage | En moins d'une seconde |
| Traduction | En moins d'une seconde |
| Résumé de l'entretien (transcription) | 15 à 20 secondes |
| Partage CV | 40 à 90 secondes par document |
| Évaluation | 30 à 60 secondes |
Définissez le délai de votre client en conséquence. Une pause de 30 secondes HTTP va abandonner les appels qui auraient réussi. Gardez un délai de demande supérieur à cinq minutes pour les opérations de documentation.
Résultats
Parce que le travail lourd fonctionne sur une capacité partagée, le débit varie avec la charge sur le service. Selon les estimations, le débit durable est d'environ 2 à 4 CV par minute. Une requête en file d'attente doit encore se terminer dans le délai de 300 secondes, donc une longue file d'attente apparaît comme des réponses plus lentes et puis 504.
Pour les arriérés et les longues enregistrements, utilisez la voie asynchrone , qui ne garde pas votre connexion ouverte. Si vous avez besoin d'un débit matériellement plus élevé, ou si vous vous attendez à des milliers de documents en lot, dites-nous la forme de la charge de travail et nous vous confirmerons le plan avant de construire.
Traitement 429 et 503
Essayez à nouveau 429 et 503 avec le backoff. Sur 429, honorez l'en-tête Retry-After en présence. Voir Erreurs.
Updated