ElmonyDokumente

Führer

Kundenspezifische Modelle

Fügen Sie einen Anbieter hinzu, der eine OpenAI-kompatible API bereitstellt, und registrieren Sie dann die Modellkennungen, die Elmony in seiner Modellauswahl anzeigen soll.

Bevor Sie beginnen

  • Bestätigen Sie, dass der Endpunkt eine OpenAI-kompatible Chat-API unterstützt.
  • Kopieren Sie die API-Basis-URL und die genauen Modell-IDs aus der Anbieterdokumentation.
  • Erstellen Sie einen API-Schlüssel, wenn der Endpunkt einen erfordert. Halten Sie Anmeldeinformationen von Eingabeaufforderungen und Projektquelldateien fern.

Fügen Sie einen Anbieter hinzu

  1. Offen Einstellungen und auswählen Modellanbieter.
  2. Klicken Sie Benutzerdefinierten Anbieter hinzufügen.
  3. Füllen Sie die Felder unten aus und klicken Sie dann auf Anbieter hinzufügen.

Anbieter-ID

Ein eindeutiger Bezeichner ohne Leerzeichen. Es kann nach der Erstellung des Anbieters nicht mehr bearbeitet werden. Wählen Sie daher einen stabilen Wert.

Anzeigename

Die in den Einstellungen und in der Modellauswahl angezeigte Anbieterbezeichnung.

API-Basis-URL

Der OpenAI-kompatible Basisendpunkt des Anbieters, üblicherweise mit der Endung /v1. Nutzen Sie den Wert aus der Dokumentation dieses Anbieters, anstatt ihn zu erraten.

Umgebungsvariable (optional)

Der Name der Umgebungsvariablen, die beispielsweise den API-Schlüssel enthält MY_PROVIDER_API_KEY. Sie können stattdessen einen Schlüssel auf der Seite „Einstellungen“ des Anbieters speichern, sofern dies unterstützt wird.

Registrieren Sie ein Modell

  1. Öffnen Sie unter Modellanbieter die neue Anbieterkarte.
  2. Speichern Sie den API-Schlüssel, wenn der Endpunkt eine Authentifizierung erfordert.
  3. In Modelle, klicken Benutzerdefiniertes Modell hinzufügen.
  4. Geben Sie die Modellfelder ein und klicken Sie Modell hinzufügen.
  • Modell-ID: Muss genau mit der von der Anbieter-API erwarteten Kennung übereinstimmen.
  • Name: Das freundliche Etikett in Elmony.
  • Description: Optionale Hinweise zum Verwendungszweck des Modells.
  • Max. Ausgabetoken und Kontextfenster: Optionale numerische Grenzwerte. Verwenden Sie vom Anbieter dokumentierte Werte, wenn Sie diese festlegen.

Auswählen und testen

Kehren Sie zum Builder-Chat zurück, öffnen Sie die Modellauswahl, erweitern Sie den benutzerdefinierten Anbieter und wählen Sie das Modell aus. Beginnen Sie mit einer kleinen „Ask“- oder „Simple“-Anfrage. Eine 401- oder 403-Antwort weist normalerweise auf Anmeldeinformationen oder Anbieterberechtigungen hin; Ein 404-Fehler bedeutet oft, dass die Basis-URL oder Modell-ID nicht mit der Anbieter-API übereinstimmt.

Kompatibilitätshinweis

„OpenAI-kompatible“ Implementierungen sind nicht immer identisch. Streaming, Toolaufrufe, strukturierte Ausgabe, Bildeingabe oder Token-Limits können unterschiedlich sein. Wenn der normale Chat funktioniert, ein spezialisierter Modus jedoch fehlschlägt, prüfen Sie, ob der Endpunkt die von diesem Modus verwendete Funktion unterstützt.