Ratenbegrenzung

Warum es passiert

API-Anbieter und Abonnementagenten erzwingen ihre eigenen Anforderungs-, Token-, Ausgaben- und Parallelitätsbeschränkungen. Das aktive Limit hängt vom Anbieter, Modell, der Kontostufe und der aktuellen Nutzung ab. Überprüfen Sie daher das Anbieter-Dashboard, anstatt sich auf eine feste Tageszahl zu verlassen.

• Zu viele Token: Selbst wenn Sie sich im Kontextfenster befinden, kann der Anbieter die Gesamtzahl der Token pro Tag/Stunde für kostenlose Stufen begrenzen.
• Zu viele Anfragen: Auch das Senden von Anfragenbündeln kann eine Drosselung auslösen.

Lösungen

• Lesen Sie den Zeitpunkt des Zurücksetzens des Fehlers ab und warten Sie dann, bevor Sie es erneut versuchen.
• Führen Sie ein Upgrade auf einen kostenpflichtigen API-Schlüssel durch, damit der Anbieter Ihr Kontingent erhöht. Die Rechnung wird Ihnen direkt vom Anbieter in Rechnung gestellt. Überwachen Sie daher die Nutzung auf dessen Dashboard.
• Verwenden Sie ein anderes konfiguriertes Modell oder einen anderen Abonnementagenten, während das Limit abklingt.
• Verwenden Sie den manuellen Kontext oder den ausgewogenen Smart Context, um nur die für die Aufgabe erforderlichen Dateien zu senden.

Benötigen Sie umfassendere Tipps? Schauen Sie sich das an Leitfaden zur Optimierung der Modellnutzung .