Nun würde man meinen, dass ein Chatbot besser funktioniert, je mehr Beispielformulierungen man ihm beibringt. Das ist jedoch nicht der Fall. Zu viele Daten können sich sogar negativ auf dessen Leistung auswirken und dazu führen, dass der Chatbot die Benutzer nicht mehr gut versteht. Dies geschieht vor allem dann, wenn sich Formulierungen zu stark im Aufbau ähneln oder wenn sie sich innerhalb eines Anliegens zu stark thematisch unterscheiden. Dieses Problem wird Overfitting (dt. Überanpassung) genannt.
Nicht nur bei Chatbots, sondern bei Machine-Learning-Modellen im Allgemeinen tritt das Phänomen des Overfitting häufig auf. Dabei lernen die Modelle Details in den Trainingsdaten in einem so starken Ausmaß, dass diese sich negativ auf die Verallgemeinerungsfähigkeit bei neuen Daten auswirken. Die Modelle sind dann nicht mehr in der Lage, neue Daten korrekt zu verarbeiten.