Kann ich die API-Latenz reduzieren?
Kann ich die API-Latenz reduzieren?
Die umfassendsten und aktuellsten Informationen zur Reduzierung der Latenz finden Sie in unseren Best Practices zur Latenzoptimierung.
Über die API können Sie den generativen Prozess der KI auch mit dem Parameter optimize_streaming_latency optimieren. Dieser ist jedoch veraltet und wir empfehlen seine Verwendung nicht mehr. Weitere Informationen finden Sie in unserer API-Dokumentation.