agao LogoDocs

Model Configuration

Konfigurieren Sie KI-Modelle und Anbieter-Zugangsdaten für Ihre Plattform.

Überblick

Der Model Configuration-Bereich ermöglicht das Hinzufügen und Verwalten von KI-Modellen, auf die Benutzer in Ihrer Plattform zugreifen können. Sie können Modelle von verschiedenen Anbietern konfigurieren oder eigene Modelle mit benutzerdefinierten Endpunkten hinzufügen.

Verfügbare Modell-Anbieter

ProviderModels AvailableAccess Method
OpenAIGPT-5, GPT-4.1, GPT-4.1-mini, GPT-4o, GPT-4o-minivia Microsoft Azure
MetaLlama 4 Scout, Llama 4 Maverick,Llama 3.1 405B, Llama 3.3 70Bvia Microsoft Azure / via Ionos
MistralMistral-Large, Ministral 8Bvia Mistral
OpenAI Open Sourcegpt-oss-120bMicrosoft Azure / via Ionos
DeepSeekDeepSeek R1, DeepSeek V3via Microsoft Azure
xAIGrok 3, Grok 3 Minivia Microsoft Azure
MicrosoftPhi-4, Phi-4-minivia Microsoft Azure / via Ionos

Modelle verwalten

Neues Modell hinzufügen

  1. Klicken Sie auf "Add Model"
  2. Füllen Sie die erforderlichen Informationen aus:
    • Name: Der Anzeigename, den Benutzer in Modell-Auswahl-Dropdowns sehen (z.B. "GPT-4 Turbo", "Claude 3 Sonnet")
    • Model: Die genaue Modell-Kennung/Slug, die vom API-Endpunkt oder der bereitgestellten Ressource verwendet wird (z.B. "gpt-4-turbo-preview", "claude-3-sonnet-20240229", "llama-2-70b-chat")
    • Provider: Wählen Sie aus unterstützten Anbietern oder "Custom"
    • Credentials: Konfigurieren Sie anbieter-spezifische Authentifizierung
  3. Konfigurieren Sie optionale Einstellungen:
    • Max Tokens: Token-Limit für Antworten festlegen
    • Accepts Images: Bild-Eingabe-Fähigkeit aktivieren/deaktivieren
    • Smartness Score: Intelligenz bewerten (1-10) zur Benutzerführung
    • Price Score: Kosteneffizienz bewerten (1-10) zur Benutzerführung
    • Description: Details zu den Modell-Fähigkeiten hinzufügen

Modelle bearbeiten

  • Klicken Sie auf eine beliebige Modellzeile in der Tabelle, um die Konfiguration zu bearbeiten
  • Aktualisieren Sie Zugangsdaten, Einstellungen oder Metadaten nach Bedarf
  • Änderungen werden nach dem Speichern sofort angewendet

Modelle löschen

  • Öffnen Sie ein Modell zur Bearbeitung und klicken Sie auf Delete
  • Geben Sie den genauen Modellnamen zur Bestätigung ein
  • Diese Aktion kann nicht rückgängig gemacht werden

Anbieter-Konfiguration

Azure OpenAI

Konfigurieren Sie Azure OpenAI-Modelle mit Ihrem Azure-Deployment. Unterstützt sowohl Textgenerierungs- als auch Bildgenerierungsmodelle.

Erforderliche Zugangsdaten:

  • API Endpoint: Ihr Azure OpenAI-Service-Endpunkt (z.B. https://your-resource.openai.azure.com/)
  • Instance Name: Name Ihrer Deployment-Instanz
  • API Key: Ihr Azure OpenAI API-Schlüssel
  • API Version: API-Version

Setup-Anweisungen:

  1. Erstellen Sie eine Azure OpenAI-Ressource
  2. Stellen Sie Ihre gewünschten Modelle bereit
  3. Kopieren Sie Endpunkt, Deployment-Name und API-Schlüssel in Ihre Modellkonfiguration

Unterstützte Modelltypen:

  • Text Generation: GPT-4, GPT-3.5 und andere Chat-Modelle
  • Image Generation: DALL-E 3 und GPT-Image-Gen (GPT-4o basierte Bildgenerierung)

Mistral AI

Konfigurieren Sie Mistral AI-Modelle mit der Mistral API.

Erforderliche Zugangsdaten:

  • API Key: Ihr Mistral API-Schlüssel

Setup-Anweisungen:

  1. Registrieren Sie sich bei Mistral AI
  2. Generieren Sie einen API-Schlüssel
  3. Fügen Sie den API-Schlüssel zu Ihrer Modellkonfiguration hinzu

IONOS Cloud

Konfigurieren Sie IONOS LLM-Modelle mit IONOS Cloud-Services.

Erforderliche Zugangsdaten:

  • Token: Ihr IONOS API-Token
  • Base URL: IONOS-Inferenz-Endpunkt (Standard: https://openai.inference.de-txl.ionos.com/v1)

Setup-Anweisungen:

  1. Erstellen Sie ein IONOS Cloud-Konto
  2. Generieren Sie ein API-Token
  3. Konfigurieren Sie Token und Endpunkt in Ihren Modelleinstellungen

Custom Provider

Konfigurieren Sie jeden OpenAI-kompatiblen API-Endpunkt.

Erforderliche Zugangsdaten:

  • API Key: Authentifizierungsschlüssel für Ihren Service
  • Endpoint: Basis-URL für Ihre API (z.B. https://api.example.com/v1)

Setup-Anweisungen:

  1. Stellen Sie sicher, dass Ihre API OpenAI-kompatibel ist
  2. Erhalten Sie Ihre API-Zugangsdaten von Ihrem Anbieter
  3. Konfigurieren Sie Endpunkt-URL und API-Schlüssel