Unerfreuliches Fazit: Durch KI generierte Texte sind nicht justizfest zu entlarven.

Forschende gehen von einem Wettlauf zwischen KI-Systemen zur Erzeugung und solchen zur Entdeckung künstlicher Texte aus (Heidt 2023).

Die meisten Forscher halten es je­doch für eine trügerische Hoffnung, dass die Herkunft eines mit Künstlicher Intel­ligenz (KI) generierten Textes technisch leicht erkennbar bleibt.

Mike Sharples hält den Kampf gegen KI-Texte mit technischen Mitteln für vergeblich: «Jedes hinreichend leistungsfähige Programm, das feststellen kann, ob ein Text von einem Menschen oder einer Maschine geschrieben wurde, kann von einem ebenso leistungsfähigen KI-Textgenerator in einem sinnlosen rechnerischen Wettrüsten überlistet werden.»

Der Untergang der klassischen Ghostwriter-Szene und der Anbieter von Plagiaterkennungssoftware ist wohl schon eingeläutet. Ein unvorstellbar mächtiges KI-Sprachmodell mit 175 Milliarden Parametern und dem sperrigen Namen „Generative Pretrained Transformer Model“ (kurz: GPT) von OpenAI aus San Francisco zeigt seine Sprengkraft immer deutlicher (aktuelle Version 3).

Leider wird es noch schlimmer: Um die Detektoren vollständig auszuhebeln, gibt es inzwischen KI-Humanizer. Diese kontrollieren kostenlos Ihren durch KI generierten Text, um zu prüfen, ob er durch einen Detektor entlarvt werden kann. Dreimal dürfen Sie raten, wie das Ergebnis aussieht. Richtig. Denn danach bietet man Ihnen sogleich an, Ihren Text (jetzt kostenpflichtig) so zu optimieren, dass er nicht mehr als künstlicher zu erkennen ist.

Die Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können.

Besonders problematisch ist, dass KI-Prüfsoftware manchmal Texte als Fälschung bewertet, die Schüler ehrlich und ohne KI-Hilfe erstellt haben. Eine Studie unter Beteiligung der Berliner Plagiatsforscherin Debora Weber-Wulff fällt deshalb kein gutes Urteil über KI-Detektoren. Manche maschinelle Auswertung sei zwar brauchbar, Sicherheit jedoch biete sie in keinem Fall. »Die Hoffnung, dass es eine einfache Softwarelösung zum Enttarnen von KI-Texten gibt, wird sich nicht erfüllen«, so Weber-Wulffs Urteil.

Doch die andere Seite rüstet ebenso technisch auf. So wie es KI-Detektoren gibt, gibt es auch KI-Verschleierer, Humanisierer genannt, sie heißen etwa Humbot oder BypassGPT. »Vermenschlichen Sie Ihre Inhalte, um sie nicht nachweisbar zu machen«, wirbt rewritify.ai. Solche Dienste nehmen lediglich kleine Textänderungen vor und lassen sie dann so lange von unterschiedlichen KI-Detektoren prüfen, bis sie als »menschlich« eingestuft werden. KI-Detektoren gegen KI-Humanisierer: »Das ist wie ein Katz-und- Maus-Spiel«, sagt Tlok.

Wenn aber ein Algorithmus in der Lage ist, automatisch zu erkennen, ob ein Text von einem Menschen oder von einer Maschine geschrieben wurde, dann ist es auch möglich, eine Maschine zu bauen, die ihre Texte so formuliert, dass ein Detektor keinen Unterschied bemerkt. Ähnliche Funktionen sind bereits in die oben genannten Marketing-Tools integriert. Sie haben einen automatischen Plagiat-Checker an Bord. Dieser prüft die generierten Texte daraufhin, ob sie nicht Wort für Wort irgendwo anders abgeschrieben worden sind. Per KI lassen sich Texte daraufhin so lange umformulieren, bis der Plagiat-Checker grünes Licht gibt.

Da sich die Qualität künstlich generierter Medien stetig verbessert, sind wir Menschen nicht mehr in der Lage, Deepfakes ohne Weiteres als solche zu erkennen, weshalb die Investition in KI-basierte Erkennungsprogramme durchaus sinnvoll ist. Doch dieser Ansatz hat natürlich auch seine Tücken. Die Erfassung von Deepfakes ist ein sich ständig weiterentwickelndes Katz-und-Maus-Spiel. Denn ebenso wie die Erkennungsprogramme werden natürlich auch Deepfakes immer besser. Rein theoretisch könnte die Qualität synthetisch generierter Medien sogar so gut werden, dass deren Erfassung unmöglich wird. Ob es wirklich so weit kommt, wird sich noch zeigen.

Wird es künftig möglich sein, menschliche und KI-generierte Texte zu unterscheiden? Die Erwartung, dass das Kriterium sprachlicher Unvorhersehbarkeit zur Unterscheidung beitragen könnte (Hannes Bajohr), erweist sich als trügerisch. Erstens beruht sämtliche Prosa auf „wiederholter Rede“, die erfahrene Schreiber durch einige regelhaft beschreibbare Analogien und Deviationen anreichern. Zweitens sind LLMs auch kreativen Sprachgebrauchs fähig. Es wäre falsch anzunehmen, wie in den Medien häufig durch das Bild des stochastischen Papageis suggeriert wurde, dass LLMs lediglich Wörter nach ihrer Auftretenswahrscheinlichkeit kombinieren; vielmehr können sie auch Konstruktionen analysieren und auf dieser Basis akzeptable neue Formen erzeugen.