Guide
Modelli personalizzati
Aggiungi un provider che esponga un'API compatibile con OpenAI, quindi registra gli identificatori del modello che desideri che Elmony mostri nel suo selettore di modelli.
Prima di iniziare
- Conferma che l'endpoint supporti un'API di chat compatibile con OpenAI.
- Copia l'URL di base dell'API e gli ID modello esatti dalla documentazione del fornitore.
- Crea una chiave API se l'endpoint ne richiede una. Mantenere le credenziali lontane dalle richieste e dai file di origine del progetto.
Aggiungi un fornitore
- Aperto Impostazioni e seleziona Fornitori di modelli.
- Fare clic Aggiungi provider personalizzato.
- Compila i campi sottostanti, quindi clicca Aggiungi fornitore.
Identificativo del fornitore
Un identificatore univoco senza spazi. Non può essere modificato dopo la creazione del provider, quindi scegli un valore stabile.
Nome visualizzato
L'etichetta del fornitore visualizzata in Impostazioni e nel selettore modello.
URL di base dell'API
L'endpoint di base compatibile con OpenAI del provider, che comunemente termina con /v1. Utilizza il valore della documentazione di quel provider invece di indovinarlo.
Variabile d'ambiente (opzionale)
Il nome della variabile d'ambiente che contiene la chiave API, ad esempio MY_PROVIDER_API_KEY. Puoi invece salvare una chiave dalla pagina Impostazioni del provider, se supportato.
Registra un modello
- Apri la nuova scheda fornitore in Fornitori di modelli.
- Salva la relativa chiave API se l'endpoint richiede l'autenticazione.
- Dentro Modelli, fare clic Aggiungi modello personalizzato.
- Immettere i campi del modello e fare clic Aggiungi modello.
- ID modello: Deve corrispondere esattamente all'identificatore previsto dall'API del provider.
- Name: L'etichetta amichevole mostrata in Elmony.
- Description: Note facoltative sulla destinazione d'uso del modello.
- Token di output massimi e finestra di contesto: Limiti numerici opzionali. Utilizza valori documentati dal provider se li imposti.
Selezionalo e provalo
Torna alla chat di Builder, apri il selettore di modelli, espandi il provider personalizzato e seleziona il modello. Inizia con una piccola domanda o richiesta semplice. Una risposta 401 o 403 solitamente indica credenziali o autorizzazioni del provider; un 404 spesso significa che l'URL di base o l'ID modello non corrisponde all'API del provider.
Nota di compatibilità
Le implementazioni "compatibili con OpenAI" non sono sempre identiche. Lo streaming, le chiamate agli strumenti, l'output strutturato, l'input di immagini o i limiti dei token possono variare. Se la chat normale funziona ma una modalità specializzata fallisce, verifica che l'endpoint supporti la funzionalità utilizzata da quella modalità.
