Sprach-KIs wie ChatGPT reden viel Unsinn. Das wird auch so bleiben. KI-Entwickler können die Ursachen und Hintergründe nicht mit noch mehr Daten und noch größeren Rechenzentren wegskalieren. Stattdessen müssen Nutzer die Fehlbarkeit der Sprachmodelle in ihren Anwendungen berücksichtigen.

Aufgrund der ökonomischen Randbedingungen werden generative Sprachmodelle auch in Zukunft Fehlerquoten in der Größenordnung von 20 Prozent und mehr produzieren. Dies schränkt ihren Nutzen massiv ein. Sie gehören nicht in Bereiche, in denen es auf hohe Genauigkeit ankommt und bei kleinsten Fehlern enorme Schäden drohen, wie in der Medizin oder beim Betrieb von Kernkraftwerken. Stattdessen benötigt man dort Expertensysteme, die den Profis verlässliche Informationen mit definierten Fehlermargen geben.