Ziel dieses Kapitels ist es zum einen, ein grundlegendes Verständnis von der Funktionsweise generativer KI zu schaffen und in diesem Kontext auch mit Mythen aufzuräumen, die sich teilweise hartnäckig halten. Zum anderen thematisiere ich Herausforderungen von generativer KI auf technischer, ethischer, politischer, ökologischer, datenschutzrechtlicher, kognitiver und epistemischer Ebene, die bei jeder Nutzung von KI zumindest im Hintergrund eine Rolle spielen.

Mit diesem Kapitel möchte ich Ihnen das nötige Hintergrundwissen über die Funktionsweise von generativer KI vermitteln, das es erleichtert, die von KI-Tools erzeugten Texte zu beurteilen und mit ihnen weiterzuarbeiten (Knowles, 2024, S. 4). Wie in der Einleitung schon erwähnt, bin ich weder selbst Informatikerin, noch schreibe ich dieses Buch für Informatikstudierende. Die folgenden Ausführungen befinden sich daher auf einem solchen Niveau und sind so formuliert, dass Sie sie auch als Nicht-Informatikerin, Nicht-Mathematikerin etc. verstehen können.

In Kapitel 2.1 werden zunächst grundlegende und für dieses Buch relevante Begriffe im Bereich generativer KI eingeführt und definiert. Kapitel 2.2 erklärt die Funktionsweise generativer KI, insbesondere sog. Large Language Models. Anschließend befasst sich Kapitel 2.3 mit dem Phänomen der Halluzinationen bei generativer KI, erläutert deren Entstehung und weist so auf die Grenzen von KI-Tools hin. Kapitel 2.4 beleuchtet schließlich die Herausforderungen beim Einsatz von KI-Tools aus verschiedenen Perspektiven. Es werden technische Aspekte, ethische Fragen, politische Implikationen, ökologische Folgen, datenschutzrechtliche Bedenken, kognitive Herausforderungen und epistemische Risiken von KI-Tools thematisiert.

Erst ein solides Grundwissen über KI befähigt Sie dazu, KI-Tools kompetent und professionell beim wissenschaftlichen Schreiben einzusetzen. Wenn Sie noch über kein oder nur wenig Wissen über die technischen Hintergründe von KI-Tools und auch über mit der Nutzung einhergehende Herausforderungen verfügen, lade ich Sie deshalb dazu ein, Kapitel 2 zu lesen. In diesem setze ich mich zunächst mit den verschiedenen Begrifflichkeiten im KI-Bereich auseinander (Large Language Models, maschinelles Lernen, Chatbots etc.), ehe ich auf die Funktionsweise der sog. generativen KI eingehe und das Problem der Halluzinationen, also inhaltlich falschen Erzeugnissen beleuchte. Keine Sorge: Ich bin selbst Sprachwissenschaftlerin und damit Nicht-Informatikerin. Deshalb erkläre ich die grundlegenden technischen Prinzipien so, dass auch Personen ohne tiefere mathematische und informatikspezifische Kenntnisse etwas damit anfangen können. Am Ende von Kapitel 2 erfahren Sie außerdem etwas über die Herausforderungen des Einsatzes von KI-Tools oder, pessimistischer ausgedrückt, über deren Schattenseiten. Kapitel 2 hat somit den Anspruch, Ihnen ein Grundverständnis von generativer KI zu vermitteln, sodass Sie im tatsächlichen Gebrauch der Tools informiertere Entscheidungen treffen können.