Die Fähigkeiten generativer Sprachmodelle wie ChatGPT von OpenAI lassen Benutzer aktuell staunen. Im Unternehmenskontext werfen solche Modelle jedoch noch viele Fragen auf: Sie halluzinieren und erfinden Fakten, sie haben keine Kenntnis über unternehmensinterne Informationen, Prozesse und IT-Systeme und personenbezogene Daten, wie auch vertrauliche, interne Informationen werden häufig (wie im Fall von ChatGPT) auf Servern in den USA verarbeitet. Verlässliche und aktuelle Informationen, reproduzierbare Dialoge und eine DSGVO-konforme Datenverarbeitung sind für Unternehmen aber besonders wichtig. ChatGPT und Co. können daher einen anliegen-basierten KI-Chatbot nicht ersetzen. Dafür können sie bei der Erstellung eines solchen unterstützen und dem Chatbot-Trainer Zeit sparen. Wie das geht, zeigen wir im Folgenden.

NLP steht für Natural Language Processing und bezieht sich auf die Verarbeitung von natürlicher Sprache durch Computer, heutzutage typischer Weise mithilfe von Künstlicher Intelligenz. Computer sollen durch Sprachmodelle lernen, menschliche Sprache zu interpretieren, indem sie Algorithmen und/oder statistische Modelle verwenden, um Texte in maschinenlesbare Formate zu übersetzen und dann Muster und Zusammenhänge in der Sprache zu erkennen. Sowohl ChatGPT als auch der assono KI-Chatbot sind Beispiele für solche Sprachverarbeitungsmodelle.

Der assono KI-Chatbot setzt auf die KI-Technologie des IBM Watson Assistant, um die Fragen von Benutzen im Detail zu verstehen und passende Antworten zu liefern. Jede Benutzereingabe wird mit dem Sprachmodell des Chatbots abgeglichen, um eine passende, vorbereitete Antwort auszugeben oder einen Dialog zu starten. Damit dies gelingt, lernt der Chatbot pro Anliegen etwa zehn Beispielformulierungen. Dank der IBM Watson-Technologie benötigt der Chatbot nur einen kleinen Datensatz an möglichen Benutzerfragen, um verschiedene Formulierungsvarianten für Kundenanliegen richtig zu erfassen. Er analysiert, wie Probleme formuliert werden und kann so auch auf Frageformulierungen reagieren, die er zuvor nicht gelernt hat.

ChatGPT ist kein Chatbot im herkömmlichen Sinne, sondern ein generisches Sprachmodell, das Texte anhand von sogenannten Prompts generiert. Ein Prompt ist eine Frage oder ein Befehl des Benutzers an ChatGPT, um einen Text zu erzeugen. Das Modell wurde auf eine riesige Menge frei zugänglicher Texte trainiert. Gibt man ChatGPT einen Text oder eine Frage vor, wird diese anschließend von ChatGPT beantwortet, indem es den Text vervollständigt, also statistisch ausrechnet, welches Wort im Text wahrscheinlich als Nächstes kommt. ChatGPT versteht die Frage nicht, findet aber eine wahrscheinliche Fortführung des Textes, die häufig die Frage beantwortet. Während ChatGPT bei der Generierung von Texten beeindrucken mag, weist es dennoch eine Reihe von Schwächen auf, wenn es in der Kundenkommunikation eines Unternehmens eingesetzt wird.

Eine bekannte Einschränkung von ChatGPT stellt die Datenaktualität dar, immerhin ist das Training sehr aufwändig. Das dahinterliegende Sprachmodell wurde nur mit Daten bis Ende 2021 trainiert und ChatGPT ist bislang nicht an das Internet angebunden, was OpenAI auch zu Beginn des Chats offen gegenüber dem Benutzer kommuniziert. ChatGPT weist demnach eine große Wissenslücke auf und kann insbesondere nicht mit aktuellen Informationen dienen. Unter Umständen kommt es sogar dazu, dass falsche Informationen ausgegeben werden. Fragt man ChatGPT beispielsweise nach dem aktuellen CEO von Twitter, erhält man „Parag Agrawal“ als Antwort. Dass seit Oktober 2022 aber Elon Musk CEO des Konzerns ist, lässt sich in den Trainingsdaten nicht finden.

Im Gegensatz zu ChatGPT greift der assono KI-Chatbot, wie anfangs erläutert, auf vorab definierte Anliegen zurück. Das jeweilige Unternehmen kann die Inhalte seines Chatbots somit eigenständig erstellen und pflegen. Die Dialogverwaltung ist schnell und intuitiv über das Dashboard für den assono KI-Chatbot möglich und kann vom Kunden selbst übernommen werden. Mit wenigen Klicks können dem Chatbot dort neue Fragen antrainiert werden oder gezielt Informationen aus den Antworten aktualisiert werden. Zu Beginn der Coronapandemie beispielsweise war es für Chatbots von öffentlichen Einrichtungen essenziell, aktuelle Informationen an die Bürgerinnen und Bürger herauszugeben und Fragen zu sich gefühlt täglich ändernden Regelungen wie Maskenpflicht, Kontaktbeschränkungen, etc. korrekt zu beantworten.

Dass generative Sprachmodelle wie ChatGPT mit riesigen Datenmengen, zum Beispiel aus dem Internet, trainiert sind, haben wir bereits erläutert. Welche Daten in das Modell mit eingeflossen sind und wie viele Falschinformationen darunter sind, kann niemand überprüfen. Zum einen können sich Falschinformationen bereits in den Trainingsdaten befinden. Zum anderen können die Modelle Trainingsdaten aus dem Zusammenhang reißen und Informationen erfinden. Diese erfundenen Fakten – sogenannte Halluzinationen – werden z. B. von ChatGPT oft sehr plausibel dargestellt, sodass für Benutzer nicht direkt ersichtlich ist, was wahr und was ausgedacht ist. Zudem sind die Antworten, die ChatGPT ausgibt, nicht konsistent und nicht reproduzierbar. Derselbe Prompt ergibt häufig zwei völlig unterschiedliche Texte. Beispielsweise für den Einsatz im Kundenservice kann das problematisch sein.

Bei einem anliegen-basierten Chatbot dagegen hat das jeweilige Unternehmen die volle Kontrolle über die Inhalte sowie die Dialogstruktur des Chatbots. Auf diese Weise ist gewährleistet, dass Benutzer nur Informationen erhalten, die der Wahrheit, dem Ziel und den Werten des Unternehmens entsprechen. Über Vorschläge in Form von Schaltflächen kann der Chatbot außerdem mögliche nächste Schritte oder verwandte Themen vorschlagen und somit das Gespräch schneller zum Ziel führen. Zudem kann ein KI-Chatbot von assono über die Anbindung an IT-Systeme auf Datenbanken oder Programmierschnittstellen (APIs) zugreifen und Informationen daraus als Antworten ausgeben oder Benutzereingaben an diese Systeme senden. Es gibt also die Möglichkeit, Unternehmensinformationen über den Chatbot bereitzustellen und Prozesse abzubilden. Auf Wunsch können beispielsweise Funktionen zur Terminbuchung mit Kalenderintegration, Paketverfolgung, Zählerstandmeldung oder Änderung von Stammdaten integriert werden. Für Verwaltungen sind Anbindungen an die Dienstleistungsportale interessant – zum einen, um Informationen bereitzustellen, zum anderen, um Onlineservices wie die Anmeldung zur Hundesteuer direkt über einen Chatbot anzubieten.

Damit sich Benutzer gerne mit einem Chatbot unterhalten, muss das Dialogdesign je nach Anwendungsbereich auf die Zielgruppe abgestimmt werden. Ein Chatbot ist ein virtueller Repräsentant des Unternehmens, welches er in den Gesprächen mit den Kunden vertritt. Ist die Sprache des KI-Chatbots auf die Wertvorstellung und die Corporate Language angepasst, kann der Benutzer sich einfacher mit dem Unternehmen identifizieren. ChatGPT bietet jedoch keine Möglichkeit, ein individuelles Dialogdesign zu entwickeln. Dieses kann anhand eines Prompt-Designs angepasst, aber nicht vollständig kontrolliert werden.

Der assono KI-Chatbot verfügt über eine eigene Persönlichkeit, welche optimal auf das jeweilige Unternehmen zugeschnitten ist. Im Persona-Workshop werden zunächst gemeinsam die Anforderungen der Zielgruppe an den Chatbot erarbeitet, um davon eine Persönlichkeit für den Chatbot abzuleiten. Aus den Nutzerbedürfnissen und der Chatbot-Persönlichkeit wird anschließend ein passender Sprachstil sowie ein individueller Avatar entwickelt. Ein angepasstes Dialogdesign an die Unternehmenssprache ist nicht nur ein nettes Extra, sondern entscheidend, um die Benutzer zu begeistern und gute Kundenbeziehungen aufzubauen.

Antworten zu formulieren und Dialoge zu gestalten und diese für die Spracherkennung mit einigen Beispielformulierungen auszustatten, bleibt weiterhin eine wichtige Aufgabe, wenn es darum geht, KI-Chatbots für Unternehmen zu entwickeln.

Beim Einsatz eines Chatbots sollten keine Kompromisse beim Datenschutz gemacht werden. Gerade bei großen Anbietern von generativen Sprachmodellen gibt es zurzeit keine Möglichkeit, dass die Daten in der EU gespeichert werden. So wird ChatGPT aktuell ausschließlich auf amerikanischen Servern gehostet. Die im Chatbot erhoben Daten werden folglich in die USA übermittelt – ein Land, das aufgrund des Datenschutzniveaus zurzeit als ein unsicheres Drittland gilt. Zudem besteht das Risiko, dass Daten mit Personenbezug in den generierten Antworten von ChatGPT verwendet werden. Das bedeutet, dass die Benutzer möglicherweise personenbezogene Daten in den Chat eingeben, welche wiederum vom KI-Dienst genutzt werden, um vielleicht Jahre später in ganz anderen Dialogen neue Antworten mit diesen personenbezogenen Informationen zu generieren.

Als deutsches IT-Unternehmen legen wir bei assono großen Wert auf Datenschutz. Der assono KI-Chatbot kann auf eigenen Servern betrieben werden, sodass die jeweiligen Kundenunternehmen die volle Kontrolle über die verarbeiteten Daten haben. Zur Sprachanalyse setzt der assono KI-Chatbot auf den KI-Dienst von IBM Watson, der sich DSGVO-konform einsetzen lässt (Rechenzentrum in Frankfurt). Außerdem existieren eine Reihe von Funktionen, die bei der Umsetzung der Datenschutzgrundverordnung (DSGVO) unterstützen. Über ein Menü im Chatfenster können Benutzer beispielsweise ihr Gesprächsprotokoll jederzeit herunterladen. Zudem können die Kunden als Betreiber alle erfassten Daten bequem im Dashboard einsehen und löschen.

Zusammenfassend kann man sagen: Für die Kommunikation mit Kunden, Bürgern oder anderen Zielgruppen sind anliegen-basierte Chatbots weiterhin das Mittel der Wahl. Die komplette Kontrolle über die ausgegebenen Inhalte und Daten sind dafür ein unschlagbares Argument. Dennoch gibt es sehr gute Anwendungsfälle für ChatGPT und Co. – und zwar nicht als Ersatz für anliegen-basierte Chatbots, sondern als zusätzliche Unterstützung für Trainer von anliegen-basierten Chatbots. Generative Sprachmodelle können zeitaufwändige Aufgaben beim Training oder beim Schreiben von Dialogen zu einem gewissen Grad beschleunigen. Einige Beispiele:

• Generative Sprachmodelle können Beispielformulierungen als Trainings-Grundlage für anliegen-basierte Chatbots erzeugen. So kann das Anfangstraining eines Chatbots teilautomatisiert beschleunigt werden.
• Stichpunkte können zu einer Antwort im Sprachstil des Chatbots ausformuliert werden und können im Anschluss von einer Person überprüft werden.
• Umfangreiche Texte aus unternehmensinternen Quellen können zu einer chatbot-typischen Antwort verarbeitet werden. Auch hier gibt es eine große Einsparung bei der redaktionellen Arbeit am Chatbot, da lediglich redigiert werden muss.

Die oben genannten Funktionen haben wir bereits für den assono KI-Chatbot umgesetzt, sodass die Unternehmens-Chatbots unserer Kunden unmittelbar von den Fähigkeiten generativer Sprachmodelle profitieren können. Trotzdem bleibt der assono KI-Chatbot im Kern ein anliegen-basierter Chatbot – mit allen dazugehörigen Vorteilen.

Weitere Informationen zu diesem Thema finden Sie in der 33. Folge des Podcasts „Chatbots und KI“. Thomas Bahn wirft in dieser Folge einen praxisorientierten Blick auf das Thema ChatGPT und diskutiert unter anderem, wie ChatGPT funktioniert, welche Herausforderungen im Unternehmenskontext auftreten und warum ChatGPT nicht als Unternehmens-Chatbot geeignet ist.

Die komplette Episode finden Sie bei Spotify, Apple Podcast oder direkt hier im Webplayer.

Sie würden gerne unverbindlich mehr darüber erfahren, inwiefern ein KI-Chatbot bei ihrem individuellen Anwendungsfall Ihr Unternehmen unterstützen kann? Gerne beraten wir Sie dazu in einem kostenlosen Erstgespräch. Vereinbaren Sie doch einfach einen Termin über unsere Webseite. Telefonisch erreichen Sie uns unter +49 4307 900 407.

Oder nutzen Sie die Chance und seien Sie beim nächsten Demo-Termin dabei! In regelmäßigen Abständen führen wir Online-Präsentationen durch, bei denen sich unsere Chatbot-Experten und ca. 5–15 externe Teilnehmer aus derselben Branche über konkrete Anwendungsfälle austauschen. Wir sprechen über die Vorteile eines KI-Chatbots speziell für Ihre Branche, teilen Erfahrungswerte aus der Praxis und zeigen Ihnen eine Live-Demo. Nächste Demo-Termine finden Sie hier. Wir freuen uns auf Sie!