Benutzerdefinierter LLM

Last Updated Mai 18, 2026

Kurzübersicht

Standardmäßig werden die KI-Funktionen von WalkMe auf von WalkMe verwalteten großen Sprachmodellen (LLMs) ausgeführt, die derzeit von Azure OpenAI unterstützt werden. Dies ist die empfohlene Einrichtung für die meisten Unternehmen: Sie ist vollständig für die WalkMe KI optimiert, auf Leistung validiert und erfordert keine zusätzliche Konfiguration.

Wenn Ihr Unternehmen strenge interne Compliance-Anforderungen hat, um einen bestimmten, genehmigten LLM zu verwenden, können Sie sich für Custom LLM (früher als BYOLLM bezeichnet) qualifizieren. Dies ist eine Ausnahme, nicht der Standard und ist nur in bestimmten, seltenen Fällen relevant.

Ist benutzerdefinierter LLM das Richtige für Sie?

Benutzerdefinierter LLM ist eine benutzerdefinierte Konfigurationsoption, keine Standardprodukt-SKU. Es ist für Unternehmen mit einer obligatorischen internen Anforderung konzipiert, mit einem bestimmten, vorab genehmigten LLM zu arbeiten.

Es ist zu beachten, dass WalkMe keine Modelle mit Ihren Daten trainiert und bei der gesamten Verarbeitung sichere Protokolle verwendet werden. Wenn Ihr Anliegen in erster Linie den Datenschutz oder die Residenz betrifft, ist die Überprüfung der Dokumentation zur Sicherheit und Datenhandhabung von WalkMe ein guter erster Schritt, da das verwaltete LLM von WalkMe diese Anforderungen möglicherweise bereits erfüllt.

Wenn Ihr Unternehmen nach der Überprüfung der Dokumentation immer noch ein compliance-orientiertes Bedürfnis hat, Ihr eigenes LLM zu verwenden, wenden Sie sich an Ihren Customer Success Manager, um zu besprechen, ob Custom LLM auf Ihre Situation anwendbar ist.

Funktionsweise

Benutzerdefiniertes LLM verwendet ein hybrides Bereitstellungsmodell. In dieser Einrichtung werden Abfragen an Ihren LLM weitergeleitet, der in Ihrer eigenen Umgebung ausgeführt wird. Für Abfragen nach KI-Antworten speichert der WalkMe Crawler Inhalte innerhalb Ihrer Umgebung und zieht daraus, bevor er Abfragen an Ihren LLM sendet.

Überwachung der Nutzung

Sobald das benutzerdefinierte LLM konfiguriert ist, können Sie Ihren KI-Verbrauch über das KI-Nutzungs-Dashboard überwachen. Das Dashboard bietet Ihnen Einblick in die Nutzung der KI-Funktionen von WalkMe in Ihrem Konto, einschließlich Abfragevolumen und Nutzungstrends.

Dies ist besonders nützlich, wenn Sie eine benutzerdefinierte LLM-Konfiguration ausführen, da es Ihnen hilft, den Verbrauch im Vergleich zur Kapazität und den Kosten Ihres eigenen Modells zu verfolgen.

Vollständige Details zum Dashboard:

AI Usage Dashboard (Custom LLM)

Standard vs. Benutzerdefinierter LLM

WalkMe Managed LLM (Standard) Benutzerdefinierter LLM
Einrichtung Sofort einsatzbereit Erfordert die Koordination mit dem Produktteam von WalkMe
Optimierung Vollständig optimiert für WalkMe AI Hängt von Ihrem Modell ab; nicht garantiert
Unterstützte Modelle GPT-4o, ausgewählte GPT-5-Modelle Azure KI-Schnittstellen und Modelle
Datenschutz Sichere Verarbeitung; WalkMe trainiert nicht mit Ihren Daten Wird gemäß den Richtlinien Ihres LLM-Anbieters behandelt
Für wen es gedacht ist Die meisten Organisationen Organisationen mit einer obligatorischen Compliance-Anforderung, ein bestimmtes LLM zu verwenden
Risiko Niedrig Latenz, Zeitüberschreitungen und verschlechterte Erfahrung, wenn das Modell nicht validiert wird

Technische Hinweise

  • Unterstützter Anbieter: Nur Azure AI. Andere LLM-Anbieter werden derzeit nicht unterstützt
  • Bereitstellungsmodell: Nur Hybrid. Anfragen werden über den KI-Manager von WalkMe an Ihr LLM weitergeleitet, das in Ihrer Umgebung läuft.
  • Nicht Self-Service: Die Aktivierung von benutzerdefiniertem LLM erfordert die Abstimmung mit dem Produktteam von WalkMe und wird als benutzerdefinierte Konfiguration behandelt
  • ARM-Vorlage erforderlich: Die Konfiguration der Endpunktverbindung zwischen Ihrem LLM und WalkMe erfordert einen ARM-Vorlagen-Bereitstellungsleitfaden, der von Ihrem WalkMe-Kontakt zur Verfügung gestellt wird
  • Ratenbegrenzungen gelten weiterhin: Der KI-Manager von WalkMe verwaltet weiterhin Ratenbegrenzungen und Nutzungsbegrenzungen, auch wenn ein benutzerdefiniertes LLM verwendet wird.
  • Modellvalidierung: WalkMe testet unterstützte Modelle auf Latenz, Zuverlässigkeit und Echtzeit-Workflow-Leistung. Modelle, die nicht von WalkMe validiert wurden, können instabile Ergebnisse produzieren

War dies hilfreich?

Vielen Dank für Ihr Feedback!

Be part of something bigger.

Engage with peers, ask questions, share ideas

Ask the Community
×