Ethiklabor: KI vor Gericht

Ablauf der Lektion

1. 1

   Schritt 1: Einführung

   Heute schlüpfen die Schüler*innen in die Rolle von KI-Ethiker*innen: Sie untersuchen, ob künstliche Intelligenz fair und verantwortungsvoll handelt. Sie erforschen, wie KI voreingenommene oder unfaire Entscheidungen treffen kann. Zunächst betrachten sie Situationen aus dem Alltag, in denen KI-Anwendungen unterschiedliche Folgen für Schüler*innen, Gemeinschaften und Kreative haben. Dabei beschreiben sie die Schlüsselbegriffe fair, gerecht und ethisch. Mit eigenen Zeichnungen veranschaulichen sie diese Begriffe.

   Anschließend beurteilen die Schüler*innen mithilfe ihrer Beschreibungen Fallakten zum Verhalten von KI. Sie entscheiden, ob die jeweilige Entscheidung fair, gerecht oder ethisch war. Ihr Urteil zeigen sie mit den Richtungsfarbcodes von Ozobot. Außerdem denken sie darüber nach, wie Voreingenommenheit in KI-Systemen sichtbar wird, warum das wichtig ist und wie Menschen Technologie so verbessern können, dass sie alle besser berücksichtigt.

2. 2

   Schritt 2: Einstieg

   Teile Arbeitsblatt 1 aus und weise die Schüler*innen auf das Einstiegsszenario hin. Lies das Szenario vor oder lass sie es still lesen. Lass sie die Reflexionsfragen selbstständig schriftlich beantworten oder zunächst mit einer anderen Person aus der Klasse besprechen. Besprich die Fragen anschließend mit der ganzen Klasse.

   Szenario: Wer steht im Rampenlicht?

   Ein Unternehmen namens VibeSpark entwickelt eine KI-Anwendung, die jungen YouTuber*innen hilft, Aufmerksamkeit zu bekommen. Die KI schaut zum Beispiel, wie oft ein Video angesehen wird und wie viele Likes und Kommentare es erhält. Danach entscheidet sie, welche Videos auf der Seite „Im Rampenlicht“ der App erscheinen. Dort gezeigt zu werden, ist sehr wichtig: Viel mehr Menschen sehen deine Videos, du bekommst mehr Follower*innen und kannst sogar mehr Geld verdienen.

   Nach ein paar Wochen fällt einigen Schüler*innen auf, dass immer dieselben Arten von Kanälen vorgestellt werden. Meist sind sie laut und lustig: Die Videomacher*innen spielen Streiche, spielen rasante Computerspiele oder drehen Reaktionsvideos mit übertriebenen, albernen Grimassen. Andere Arten von Kanälen werden neuen Zuschauer*innen dagegen nicht gezeigt, zum Beispiel:

   • Ein*e Schüler*in, die*der in Ruhe spannende naturwissenschaftliche Experimente zeigt, die du zu Hause machen kannst
   • Ein*e Künstler*in, die*der leise spricht und beruhigende Zeichenlektionen veröffentlicht
   • Eine Gruppe von Freund*innen, die durchdachte kleine Theaterstücke mit Kostümen und geschriebenen Texten aufführt

   Diese Videos bekommen nicht sofort so viele Likes oder Kommentare. Deshalb entscheidet die KI, dass sie weniger beliebt sind, und zeigt sie keinen neuen Menschen mehr.

   Gesprächsfragen:

   • Warum wählt die KI deiner Meinung nach immer dieselben Arten von Videomacher*innen aus?
   • Ist die KI unfair, oder tut sie nur, was ihr aufgetragen wurde?
   • Wie könnten sich die anderen Videomacher*innen dadurch fühlen?
   • Was könnte helfen, damit die KI mehr Arten von Videos wahrnimmt?

   Betone: KI ist nicht absichtlich unfair, kann aber trotzdem unfair handeln. Das hängt davon ab, wie sie trainiert wurde und was sie misst. Heute untersuchen wir, wie du unfaire KI-Entscheidungen erkennst. Wir überlegen wie Problemlöser*innen, wie Technologie ethisch handeln und die Auswirkungen auf alle berücksichtigen kann.

   Begriffe erklären

   Erkläre den Schüler*innen, dass sie gerade genau das getan haben, was echte KI-Ethiker*innen tun: erkennen, was sich unfair anfühlt, und darüber nachdenken, wen das betrifft. KI-Ethiker*innen stellen wichtige Fragen wie:

   • Behandelt diese Technologie Menschen fair und gerecht?
   • Für wen kann es unterschiedliche Folgen haben: Wer wird unterstützt, ausgeschlossen oder unfair beurteilt?
   • Was muss sich ändern, damit das System für alle ethischer wird?

   Verweise die Schüler*innen auf die Begriffstabelle auf Arbeitsblatt 2. Zu jedem Begriff machen sie Folgendes:

   1. Schreibe auf, was der Begriff bedeutet.
   2. Zeichne ein Bild, das zeigt, was das Wort für dich bedeutet.

   Erinnere die Schüler*innen daran, dass man Fairness oder ethisches Verhalten auf mehr als eine Weise zeigen kann.

3. 3

   Schritt 3: Untersuchen

   Schritt 1: Lass die Schüler*innen ihren Evo oder Ari einschalten. Mit Evo können sie anschließend direkt mit Farbcodes arbeiten; sie müssen keine Menüoptionen auswählen. Auf Ari tippen sie auf Informatik (Computer Science) und danach auf Farbcodes (Color Codes). Während der Lektion programmieren sie mit Farbcodes.

   Schritt 2: Teile Arbeitsblatt 3 mit den Anweisungen für Schüler*innen und Arbeitsblatt 5 mit der Farbcode-Strecke aus.

   Erkläre den Schüler*innen, dass sie nun als KI-Ethiker*innen verschiedene Szenarien zum Einsatz von KI beurteilen. Ihre Aufgabe ist es, zu untersuchen, wie verschiedene KI-Systeme Entscheidungen getroffen haben und ob diese Entscheidungen fair, gerecht und ethisch waren. Anschließend überlegen die Schüler*innen, was sich in Szenarien ändern ließe, in denen die KI schädliche oder unfaire Auswirkungen auf Menschen hatte.

   Schritt 3: Gib jeder Person oder jeder Gruppe eine Szenariokarte. Erkläre, dass dies ihre erste „Fallakte“ ist. Lass sie die Karte mit Klebeband an der Stelle für Fallakte 1 auf ihrer Strecke befestigen.

   So beurteilst du eine Fallakte. Die Schüler*innen finden diese Schritte auf den Arbeitsblättern 2 und 3.

   Geht als Team bei jeder Fallakte diese Schritte durch:

   1. Lest das Szenario gemeinsam laut vor. Stellt sicher, dass alle verstehen, was die KI getan hat.
   2. Legt die Szenariokarte auf die Strecke.
   3. Besprecht und entscheidet: War das eine ethische KI-Entscheidung? Fragt euch: War diese Entscheidung fair? Wem wurde geholfen? Für wen waren die Auswirkungen anders oder wer wurde unfair behandelt? Muss sich etwas ändern?
   4. Setzt einen Farbcode auf den Entscheidungsstreifen, um eure Bewertung zu zeigen. Mit dem Farbcode programmiert ihr Ozobot so, dass deutlich wird, was ihr als KI-Ethiker*innen denkt.

   Erkläre den Schüler*innen, dass sie ihre Entscheidung und ihre Gründe Mitschüler*innen oder der ganzen Klasse mündlich erläutern können sollen. Dabei verwenden sie die Begriffe fair und ethisch.

   Hinweis für die Lehrkraft: Erkläre den folgenden Punkt deutlich, mit diesen oder deinen eigenen Worten: Diese vereinfachte Version zeigt, wie echte KI-Systeme aus früheren Daten oder Mustern „lernen“. Wenn Daten fehlen oder verzerrt sind, kann das zu unfairen Ergebnissen führen. Die heutigen Fallakten beruhen auf echten Problemen, die KI-Forschende entdeckt haben. Sie wurden lediglich vereinfacht, damit wir sie gemeinsam untersuchen können.

   Hinweise für die Lehrkraft zu den Szenariokarten:

   • Fallakte 1 – Der Bücherroboter
     Art der Verzerrung: historische Verzerrung in den Trainingsdaten
     Herausforderung: Verschiedene Gruppen von Leser*innen sind nicht gleichermaßen vertreten
     Schwierigkeitsgrad der Beurteilung: mittel
   • Fallakte 2 – Flurwache 3000
     Art der Voreingenommenheit: unbewusste Voreingenommenheit bei der Interpretation von Verhalten
     Herausforderung: ungerechte Folgen für Schüler*innen aufgrund ihres Aussehens oder ihrer Bewegungsweise
     Schwierigkeit der Bewertung: hoch
   • Fallakte 3 – Der Roboter in der Mittagessensschlange
     Art der Voreingenommenheit: Voreingenommenheit gegenüber Menschen mit Behinderung; Effizienz hat Vorrang vor Gerechtigkeit
     Herausforderung: gerechter Zugang für Schüler*innen mit unterschiedlichen Bedürfnissen
     Schwierigkeit der Bewertung: mittel
   • Fallakte 4 – Kunstroboter
     Art der Voreingenommenheit: kulturelle Voreingenommenheit in den Trainingsdaten
     Herausforderung: Wessen Kreativität wird anerkannt?
     Schwierigkeit der Bewertung: hoch
   • Fallakte 5 – Die KI-Hausaufgabenhilfe
     Art der Voreingenommenheit: keine eindeutige Voreingenommenheit
     Herausforderung: Ist unterschiedliche Unterstützung trotzdem gerecht?
     Schwierigkeit der Bewertung: niedrig
   • Fallakte 6 – Die KI-Lesebegleitung
     Art der Voreingenommenheit: teilweise Voreingenommenheit aufgrund von Sprache oder Akzent
     Herausforderung: ungerechte Folgen für mehrsprachige Menschen
     Schwierigkeit der Bewertung: mittel
4. 4

   Schritt 4: Erklären

   Kommt wieder zu einem Klassengespräch zusammen. Mögliche Gesprächsfragen:

   • Welche KI-Entscheidungen waren am einfachsten zu bewerten? Warum?
   • Welche Entscheidungen waren schwieriger? Was machte sie schwierig?
   • Haben wir Muster bei den ungerechten oder unethischen Entscheidungen erkannt?
   • Waren bestimmte Menschen oder Gruppen häufiger von unterschiedlichen Folgen oder ungerechter Behandlung betroffen?
   • Was bedeutet es eigentlich, wenn KI ethisch handelt?
5. 5

   Schritt 5: Vertiefung

   Vertiefen (optionale Erweiterung)

   1. Die Schüler*innen wählen eines der KI-Systeme aus, die sie bewertet haben, und schlagen eine Verbesserung vor. Sie können ihren Vorschlag schriftlich mit einer Behauptung, Belegen und einer Begründung ausarbeiten.
   2. Achte zu Hause auf eine KI-Anwendung, die du nutzt, zum Beispiel YouTube, TikTok oder ein Computerspiel. Frage dich: Wer profitiert am meisten davon, wie diese KI Entscheidungen trifft? Wer wird möglicherweise ausgeschlossen? Erzähle deiner Familie, was dir aufgefallen ist.
6. 6

   Schritt 6: Auswerten

   Besprecht: Stell dir vor, du würdest später KI für Schulen oder soziale Medien entwickeln. Welche Regeln würdest du festlegen, damit alle gerecht behandelt werden?

   Die Schüler*innen füllen die Abschlusskarte auf Arbeitsblatt 4 aus.

   Abschlusskarte:

   1. Wie kann Voreingenommenheit in einem KI-System sichtbar werden? Erkläre es in eigenen Worten und nenne ein Beispiel aus der heutigen Aktivität.
   2. Wie kann eine KI-Entscheidung für verschiedene Menschen unterschiedliche Folgen haben? Verwende ein Beispiel von heute.
   3. Was würdest du jemandem aus deinem Freundeskreis darüber erzählen, wie KI unfair sein kann?