Das zeigt uns direkt das nächste Problem, und zwar die Möglichkeit, falsche oder unzuverlässige Informationen zurückzubekommen. ChatGPT dichtet sich nämlich gerne selber Fakten zusammen, indem sie in den Trainingsdaten aus dem Zusammenhang gerissen werden. So ist es beispielsweise in der Lage, eine komplette wissenschaftliche Arbeit mit Quellenangaben zu verfassen. Geht man den Quellen aber genauer nach, stehen die genannten Informationen nicht mit den Quellen in Verbindung.
Außerdem gibt es eine rechtliche Grauzone, was das Urheberrecht der Texte angeht, die ChatGPT für einen schreibt. Nicht alle Texte im Internet sind automatisch gemeinfrei. Auch nach Veröffentlichung können Autoren die Nutzungsrechte begrenzen. Wurden solche Texte dann für die Generierung der persönlichen Antwort von ChatGPT verwendet, würde man bei Weiterverwendung gegen das Urheberrecht verstoßen. Daher sollten zukünftig Quellenangaben über die Herkunft der Informationen zur Verfügung gestellt werden, damit man so ggf. die Rechte und Vertrauenswürdigkeit der Informationen überprüfen kann.
Mit gutem Beispiel vorangeht da Perplexity. Hier werden zu den entsprechenden Quellen, aus denen die Antwort entstand, eine Fußnote eingefügt, die bei Bedarf ausgeklappt werden kann. Eine schöne Lösung, die man sich in der Zukunft auch bei ChatGPT vorstellen könnte.
Der wichtigste Aspekt jedoch, warum ChatGPT einen Chatbot mit vorgegebenen Antworten und Dialogen wie den assono KI-Chatbot nicht ersetzen kann, ist, dass es keine Möglichkeit bietet, um eigene, firmeninterne Informationen mitzugeben. Dazu gehören Fragen wie „Wie lange haben Sie heute geöffnet?“, „Ist Produkt XY aktuell noch vorrätig?“ oder „Wo kann ich mein Produkt reklamieren?“. Solche spezifischen Informationen ließen sich zum derzeitigen Zeitpunkt mit ChatGPT nicht realisieren, weil sich ChatGPT Antworten einfach ausdenken würde. Antworten und Dialoge zu schreiben und für diese für die Spracherkennung mit einigen Beispielformulierungen auszustatten, bleibt also weiterhin eine wichtige Aufgabe, wenn es darum geht, KI-Chatbots für Unternehmen zu entwickeln.