Ollama

Ollama ist eine speziell gehostete KI-Plattform für persönliche Unterhaltungen mit KI-Technologie. Die folgenden Einstellungen können hier vorgenommen werden:

  • Name der KI-Verbindung: Dieser Name wird immer verwendet, wenn eine bestimmte KI-Verbindung verwendet wird.
  • URL zur Ollama API: Die API-URL, die für Anfragen verwendet werden soll. Bitte lesen Sie https://ollama.ai für weitere Informationen.
  • Ollama-Modell: Das Modell, das für Anfragen verwendet werden soll. Bitte prüfen Sie, welche Modelle für Sie verfügbar sind.

Installation von Ollama

Ollama muss in Ihrer eigenen Umgebung installiert werden, um verwendet werden zu können. Das ermöglicht es, Anfragen an eine KI zu stellen, die sich in einer von Ihnen kontrollierten Umgebung befindet. Die allgemeinen Schritte, um dies zu erreichen, sind:

  • Laden Sie Ollama von https://ollama.ai herunter und installieren Sie es.
  • Installieren Sie ein Modell, z.B. Mistral mit: ollama run mistral
    • Dies kann ein wenig dauern, je nach Geschwindigkeit Ihrer Internetverbindung.
  • Verwenden Sie http://localhost:11434/api/generate als Verbindungs-URL, wenn Sie lokal laufen.