explainable AI

BiblioMap

Diese SVG-Grafik fensterfüllend anzeigen

Synonyme

explainable AI, erklärbare künstliche Intelligenz, XAI

Bemerkungen

Derzeit läuft eine Debatte um »erklärbare KI«, also die Forderung, KI-Systeme so zu bauen, dass ihre Entscheidungen für Menschen nachvollziehbar sind. Es gibt bereits einiges an Forschung dazu, und in vielen Fällen lassen sich Systeme tatsächlich entsprechend gestalten. Doch Plattformen haben oft ein ebenso geringes Interesse, ihr Query-Regime offenzulegen wie ihre Algorithmen zugänglich zu machen. Viele Systeme sind mit Absicht opak ausgelegt, oder zumindest wird ihre Undurchsichtigkeit nicht als Mangel angesehen, sondern als Feature.22 Zu Transparenz kommt es daher nur durch Druck von außen.

Von Michael Seemann im Buch Die Macht der Plattformen (2021) im Text Kontrollregimes

Häufig co-zitierte Personen

Katharina
Simbeck

dek
Datenethikkommission

Sarah
Fischer

Kate
Crawford

Murray
Shanahan

John
Brockman

Hannah
Fry

Jürgen
Schmidhuber

Frank
Pasquale

Gerd
Gigerenzer

Katharina A.
Zweig

Andrew D.
Selbst

Statistisches Begriffsnetz

Zitationsgraph

Diese SVG-Grafik fensterfüllend anzeigen

Zitationsgraph (Beta-Test mit vis.js)

Zeitleiste

36 Erwähnungen

So denkt die KI - Verfahren findet Denkkonzepte wie beim Menschen in neuronalen Netzen (Arne Grävemeyer)
The Dark Secret at the Heart of AI (Will Knigh) (2017)
Horizonte Nr. 116 (2018)
Diskriminierungsrisiken durch Verwendung von Algorithmen - Eine Studie, erstellt mit einer Zuwendung der Antidiskriminierungsstelle des Bundes. (Carsten Orwat) (2019)
The Democratization of Artificial Intelligence - Net Politics in the Era of Learning Algorithms (Andreas Sudmann) (2019)
Gutachten der Datenethikkommission (dek Datenethikkommission) (2019)
Herausforderungen der künstlichen Intelligenz - Bericht der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» an den Bundesrat (Interdepartementale Arbeitsgruppe künstliche Intelligenz) (2019)
AI Ethics (Mark Coeckelbergh) (2020)
Intelligenztest für KI - Wie sich KI-Entscheidungen überprüfen lassen (Arne Grävemeyer) (2020)
Die Macht im Computer - Schwerpunktthema der Zeitschrift c't 8/2020 (2020)
Von Schleimpilzen, die denken und Maschinen, die Lernen (Georg Trogemann) (2020)
Kritik der Digitalität (Jan Distelmeyer) (2021)
- 3. Programm und Alltag
Wenn KI, dann feministisch - Impulse aus Wissenschaft und Aktivismus (netzforma* e.V) (2021)
Die Macht der Plattformen - Politik in Zeiten der Internetgiganten (Michael Seemann) (2021)
- 4. Kontrollregimes
AI – Limits and Prospects of Artificial Intelligence (Peter Klimczak, Christer Petersen) (2021)
DELFI 2021 (Andrea Kienle, Andreas Harrer, Jörg M. Haake, Andreas Lingnau) (2021)
- Intelligente Lehr-/Lernsysteme im Lichte alter und neuer KI (Heinz Ulrich Hoppe)
Klick - Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen (Gerd Gigerenzer) (2021)
Kompetenzmodelle für den Digitalen Wandel - Orientierungshilfen und Anwendungsbeispiele (Ralf Knackstedt, Jürgen Sander, Jennifer Kolomitchouk) (2022)
- 7. Ethische Kompetenzen für den digitalen Wandel (Thomas Mandl, Stefan Dreisiebner)
Machine Learning for Teachers - Evaluation und Entwicklung von Lehr- und Lernmaterialien zum Thema Künstliche Intelligenz für Lehrpersonen ab Sekundarstufe 1 (Thomas Zurfluh) (2022)
Algorithmen und Autonomie - Interdisziplinäre Perspektiven auf das Verhältnis von Selbstbestimmung und Datenpraktiken (Dan Verständig, Christina Kast, Janne Stricker, Andreas Nürnberger) (2022)
WiPSCE '22 - The 17th Workshop in Primary and Secondary Computing Education, Morschach, Switzerland, 31 October 2022 - 2 November 2022 (Mareen Grillenberger, Marc Berges) (2022)
- 1. Computational Thinking 2.0 (Matti Tedre) (2022)
«Angstmacherei ist nicht der Weg» (Andreas Krause, Joachim Laukenmann) (2023)
The Future of AI in Education - 13 Things We Can Do to Minimize the Damage (Arran Hamilton, Dylan Wiliam, John Hattie) (2023)
Die KI war's! - Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz (Katharina A. Zweig) (2023)
Künstliche Intelligenz in der Bildung (Claudia de Witt, Christina Gloerfeld, Silke Elisabeth Wrede) (2023)
- Erklärbare Künstliche Intelligenz im Kontext von Bildung und Lernen (Katharina Weitz)
Digital ist besser?! - Psychologie der Online- und Mobilkommunikation (Markus Appel, Fabian Hutmacher, Christoph Mengelkamp, Jan-Philipp Stein, Silvana Weber) (2023)
- Künstliche Intelligenz (Jan-Philipp Stein, Tanja Messingschlager, Fabian Hutmacher)
AI Report - by the European Digital Education Hub’s Squad on Artificial Intelligence in Education (European Digital Education Hub) (2024)
9 Mythen über generative KI in der Hochschulbildung (Julius-David Friedrich, Jens Tobor, Martin Won) (2024)
Alles überall auf einmal - Wie Künstliche Intelligenz unsere Welt verändert und was wir dabei gewinnen können (Miriam Meckel, Léa Steinacker) (2024)
- 9. Das ethische Spiegelkabinett - Wenn KI Werte nachahmt
Warum KI kein Hype ist und die Medienpädagogik sich damit befassen sollte (Thomas Knaus) (2024)
Künstliche Intelligenz für Lehrkräfte - Eine fachliche Einführung mit didaktischen Hinweisen (Ulrich Furbach, Emanuel lKitzelmann, Tilman Michaeli, Ute Schmid) (2024)
- Erklärbarkeit (Ute Schmid)
- Verantwortung (Lukas Höper, Carsten Schulte, Christoph Benzmüller)
DELFI 2024 (Sandra Schulz, Natalie Kiesler) (2024)
- Sicherer Einsatz von xAI in der Bildung - Erkennung von LLM-Halluzinationen bei der Generierung von Lehr- und Lernmaterialien (Benjamin Ledel, Tabea Schwarz) (2024)
Generative KI – jenseits von Euphorie und einfachen Lösungen (Judith Simon, Indra Spiecker gen. Döhmann, Ulrike von Luxburg) (2024)
Wissenschaftliches Schreiben mit KI (Isabella Buck) (2025)
- 2. Was ich über KI wissen sollte
Digitale Lernplattformen in der Volksschule - Überlegungen zu Potenzialen, Herausforderungen und Einflüssen auf das Lehren und Lernen (Beat Döbeli Honegger, Michael Hielscher, Lennart Schalk, Michael Seemann) (2026)
- 3. Exkurs: (generative) Machine-Learning-Systeme (2026)