Benutzerdefiniert

Der Benutzerdefiniert-Provider ermöglicht das Einrichten eines OpenAI-API-kompatiblen benutzerdefinierten KI-Dienstes. Dies kann beispielsweise der Fall sein, wenn Sie selbst hosten oder einen externen Anbieter mit einem solchen Angebot verwenden. Je nach Dienst müssen Sie die folgenden Informationen erfassen und eingeben:

• Name der KI-Verbindung: Dieser Name wird immer verwendet, wenn eine bestimmte KI-Verbindung verwendet wird.
• API-URL (OpenAI-kompatibel): Dies ist die URL, die für die Verbindung zu Ihrem Anbieter erforderlich ist und in der Regel mit /v1/chat/completions endet – bitte geben Sie die vollständige URL ein.
• Bearer-Token: Optionales API-Schlüssel- oder Bearer-Token zur Authentifizierung von Anfragen an den benutzerdefinierten Endpunkt.
• System-Prompt: Ein voreingestellter System-Prompt, der die KI anweist, mit einem bestimmten Verhalten zu antworten.
• Modell: Der optionale Modellname, auf den Sie bei Ihrem Anbieter zugreifen möchten.
• Maximale Kontextlänge (Tokens): Maximale Anzahl von Tokens (Eingabe und Ausgabe zusammen), die das Modell verarbeiten kann. Eine Überschreitung kann zu Fehlern oder Kürzungen führen.