Wissensdatenbank für generierte Antworten und Einstellungen für KI Agenten
Ressourcen sind die Quellen für KI Agenten. In der Knowledge Base abgelegte Informationen bilden die Grundlage für die Antworten, die Agenten in der Kundenkommunikation geben. Das Ressourcenmanagement und die Steuerung der Agenten erfolgt im moinAI Hub.
- Ressourcenmanagement - Hinzufügen der Ressourcen
- Ressourcenmanagement - Aktualisierungsintervall
- Ressourcenmanagement - Ressourcen und Agents verknüpfen
- Funktionsbeschreibungen - Retrieval Augmented Generation
Ressourcenmanagement - Hinzufügen der Ressourcen
Das Hinzufügen erfolgt im Bereich Knowledge Base Management. Das Aufrufen erfolgt im Hub über den Menüpunkt Knowledge Base.
In diesem Bereich liegen alle Ressourcen, die von den spezifischen Agenten sowie dem Standard KI Agent genutzt werden.
Über den Button Hinzufügen öffnet sich eine Eingabemaske. Es erfolgt die Auswahl der Quellenart und sodann das Hinzufügen durch einfügen der URL bzw. PDF/CSV oder das Erstellen des Textdokuments/des Frage-Antwort-Paars. Es gibt zwei Wege, die Eingabemaske zu öffnen:
1. Klick auf den Button in der oberen rechten Ecke:
2. Klick auf RAG und dann auf den Button Hinzufügen in der Kachel Wissensabruf:
Über den Toggle Expertenoptionen besteht die Möglichkeit, konkrete Anweisungen zum Webseiten-Scraping im JSON-Format zu ergänzen.
Soll eine Ressource vollständig entfernt werden, erfolgt die Auswahl dieser über ein gesetztes Häkchen auf der linken Seite. Anschließend erscheint ein Feld Löschen, über das die Ressource dauerhaft entfernt werden kann.
Ressourcenmanagement - Aktualisierungsintervall
Das Aktualisierungsintervall ermöglicht das Einstellen regelmäßiger Zyklen zur (neu-)Überprüfung einer hinterlegten URL. Einstellbar sind Zyklen von 7, 14 und 30 Tagen.
Die Einstellung ermöglicht so, dass Änderungen auf der Webseite automatisiert in die Knowledgebase übertragen werden und die Agenten in ihren Antworten stets die aktuellste Version der Webseite berücksichtigen.
Um das Intervall zu bestimmten, muss der Button mit den drei Punkten rechts neben der Quelle geklickt werden. Mit Klick auf den Button Plan bearbeiten öffnet sich die Eingabemaske, über die die Einstellung des Aktualisierungsintervalls erfolgt.
Ressourcenmanagement - Ressourcen und Agenten verknüpfen
Die Verknüpfung von Agent und Quelle erfolgt durch die Auswahl des gewünschten Agenten über das Auswahl-Menü in der oberen rechten Ecke und das Aktivieren der Ressource für den gewählten Agent. Die Aktivierung erfolgt über den Toggle in der Spalte Verwendet?.
Sofern eine Ressource nicht mehr aktuell ist, ist das Ersetzen bzw. Deaktivieren dieser empfohlen, um das Ausspielen von veralteten Informationen zu verhindern. Im ersten Schritt ist auch hier die Auswahl des Agenten über das Auswahl-Menü notwendig. Sodann erfolgt das Deaktivieren über den Toggle in der Spalte Verwendet?.
Soll die Ressource vollständig entfernt werden, muss diese entsprechend des oben beschriebenen Vorgehens gelöscht werden.
Eine Ressource muss nicht zwingend gelöscht werden. Das Aufheben der Verknüpfung mit dem Agent reicht aus, damit der Agent nicht mehr auf die Ressource zugreift.
Wird die Ressource an anderer Stelle wieder relevant, reicht es aus, die Verknüpfung neu zu aktivieren.
Funktionsbeschreibungen - Retrieval Augmented Generation
Der Aufruf des Bereichs erfolgt über den Button RAG.
Über die hier gebotenen Einstellungsmöglichkeiten können die Antworten der KI Agenten bzw. die generative KI gesteuert werden.
- Wissensabruf: Ermöglicht das Hinzufügen relevanter Ressourcen.
- Wissensprüfung: Im Rahmen der Wissensüberprüfung erfolgt eine Überprüfung des Inhalts der Ressourcen für die Generierung von Antworten. Nur wenn ausreichend Fakten enthalten sind, um eine sinnvolle Antwort zu erstellen, antwortet der KI Agent auf die Anfrage der Nutzer:innen. Schlägt die Wissensüberprüfung fehl, sind also nicht genügend Informationen vorhanden, erfolgt die Ausgabe der Nicht-Verstanden-Nachricht im Chat. Die Wissensüberprüfung ist ein Schutz vor Halluzination und Nicht-vollständig-korrekten Antworten der Generativen KI. Das (De-)Aktivieren der Einstellung erfolgt durch das Setzen des entsprechenden Hakens. Die Einstellung gilt nach dem Speichern unmittelbar für die Preview. Damit die Einstellung auch für die Live-Umgebung greift, ist das Veröffentlichen notwendig (Wolken-Button oben neben dem Button RAG).
Ist die Wissensüberprüfung aktiviert, sinkt ggf. die Automatisierungsrate. Das bedeutet konkret: Die Rate an Nicht-Verstandenen Anfragen steigt möglicherweise punktuell, weil Grenzfälle keine Antwort erhalten.
- Instruktionen: Instruktionen (Prompts) weisen den Agenten an, bei der Antwortgenerierung konkrete, inhaltsbezogene Anweisungen zu beachten. Es handelt sich dabei um inhaltliche Vorgaben und keine Anweisungen zum Tone of Voice / allgemeine Kommunikationsrichtlinien. Das Einfügen der Instruktionen erfolgt im Textfeld. Nach dem Speichern sind die Instruktionen in der Preview aktiv, nicht aber in der Live-Umgebung. Damit die Instruktionen auch für den Live-Chatbot gelten, ist das Veröffentlichen der Anpassungen notwendig (Wolken-Button oben neben dem Button RAG).
- Antwortgenerierung: Auswahl des verwendeten Large Language Models (LLM), welches die technische Grundlage für die Textgenerierung bildet. Da unterschiedliche LLMs unterschiedliche Fähigkeiten haben, dient die Auswahl eines spezifischen LLMs der bestmöglichen Use-Case bezogenen Funktionalität des jeweiligen KI Agenten. Die Einstellung greift, wenn sie gespeichert und veröffentlicht wurde.
Das Customer Success Management steht beratend zur Seite und informiert über Vor- und Nachteile eines bestimmten LLMs in Bezug auf den spezifischen Chatbot und Use-Case.
- Datenextraktion: Die Datenextraktion ermöglicht es, Informationen zu speichern. Diese gespeicherten Informationen können dann in folgenden Aktionen in der Unterhaltung verwendet werden. Bei den Daten handelt es sich z.B. um Produktbezeichnungen, E-Mail-Adressen oder Kundennummern, die in Nutzeranfragen enthalten sind. Das Extrahieren der Daten wirkt sich positiv auf die User-Experience aus. Sobald die Einstellungsmöglichkeit für die Datenextraktion im moinAI Hub zur Verfügung steht, informieren wir über die konkrete Einstellung.
- Actions & Follow-up: Mit Aktionen können KI Agenten zusätzlich zu der Antwortgenerierung eine Handlung durchführen bzw. in einem Dritt-System eine Aktion anstoßen. Mit dieser Möglichkeit können demnächst eine Vielzahl an spannenden Anwendungsfällen für die Automatisierung der Kundenkommunikation im Chat aufgesetzt werden.