KI - eine vertrauenswürdige Informationsquelle?

Chatbot

Lege im Voraus fest, welchen Chatbot du verwenden möchtest. Die folgenden Plattformen greifen auf ChatGPT und andere KI-Modelle zu, speichern die generierten Daten jedoch auf ihren eigenen Servern und haben strengere Datenschutzrichtlinien:

• der kostenlose und datenschutzbewusste KI-Zugang von DuckDuckGo)
• die deutsche schulKI, die datenschutzbewusster ist, aber nicht kostenlos
• der Open-Source-Chatbot von HuggingFace, ein Konto ist erforderlich

Bildgenerierende KI

Lege im Voraus fest, welche bildgenerierende KI du verwenden möchtest. Zum Beispiel

• die deutsche schulKI, die datenschutzsensibler ist, aber nicht kostenlos.
• fobizz, ebenfalls nicht kostenlos

Benötigtes Material

• Präsentation (PDF)

Leite eine Vorstellungsrunde an, in der sich alle Teilnehmenden mit Namen und Pronomen und der eigenen Interaktion mit ChatBots vorstellen: Wie heißt du? Und welche Pronomen benutzt du - also möchtest du, dass über dich mit "sie" oder "er" oder zum Beispiel nur mit deinem Namen gesprochen wird? Hast du schon mal mit einem ChatBot gesprochen und wenn ja, worüber ging dein letztes Gespräch mit ihm?

Wenn die Gruppe in einem für sie neuen Raum ist, teile noch Informationen zum Ort und den Rahmenbedingungen.

Die Teilnehmenden antworten mit einer Positionierung im Raum (siehe Soziometrie) auf die folgenden Fragen. Dazu werden zwei Bereiche im Raum markiert, "Ja" und "Nein". Jede Person stellt sich als Antwort in den entsprechenden Bereich oder in die Nähe/Ferne dieses Bereichs. Natürlich gibt es mehr als zwei mögliche Antworten auf die Fragen – diskutiert gerne alternative Antworten!

Alternativ kann auch ein digitales Umfrage-Tool verwendet werden.

Positionierungsfragen:

1. Kannst du dir vorstellen, mit einem Roboter befreundet zu sein?
A: Ja sicher, wenn dieser mit mir kommunizieren kann.
B: Ich kann mir Freundschaften nur mit Menschen vorstellen.

2. Würdest du eine Operation an deinem Körper eher einer Künstlichen Intelligenz (KI) oder menschlichen Ärzt*innen anvertrauen?
A: Gut entwickelte Maschinen sind präziser als Menschen, also lieber eine KI.
B: Ich würde mich nie von einer KI behandeln lassen. Was wäre, wenn sie eine Fehlfunktion hat?

3. Wird der Verkehr sicherer, wenn Autos von alleine fahren könnten?
A: Natürlich, die Fehlerquelle der Unfälle sind ja die Fahrer*innen, nicht die Autos.
B: Nicht wirklich, da technische Fehler passieren können und man als Fahrer*in die vollständige Kontrolle über das Fahrzeug verliert.

4. Weißt du was ChatGPT ist und hast du es bereits genutzt?
A: Ja, ich habe es bereits genutzt.
B: Nein, ich kann mir darunter wenig vorstellen.

5. Glaubst du, dass ChatGPT immer richtige Antworten gibt?
A: Ja, weil Künstliche Intelligenz Zugriff auf enorm viel Wissen hat.
B: Nein, ChatGPT ist menschengemacht und daher fehlerhaft.

In den folgenden 25 Minuten leitest du zwei Methoden an, die den Teilnehmenden veranschaulichen, dass Künstliche Intelligenz einen Bias besitzt. Anschließend wird besprochen, was das genau ist und wie die Voreingenommenheit einer KI durch ihre Trainingsdaten entsteht.

Einrichtung: Ein Gerät mit Internetzugang für eine Präsentation unter Verwendung einer offenen, textgenerierenden KI-Schnittstelle.

Falls ChatGPT unter den Teilnehmenden nicht bekannt ist, erkläre kurz, dass ChatGPT ein ChatBot auf Basis eines sehr komplexen Sprachmodells (Large Language Model – LLM) ist.

Frage anschließend in die Runde, ob eine Person ChatGPT eine geschlechtsspezifische Frage stellen möchte, zum Beispiel:

„Ich bin ein Mädchen. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ oder „Ich bin ein Mädchen. Welche Hobbies könnte ich haben?“

Diskutiert die KI-Antwort mit allen Teilnehmenden:

• Wie findet ihr die Antwort? Ist sie hilfreich?
• Ist eure Frage zufriedenstellend beantwortet?

Bitte die vorherige Person, die gleiche Anfrage aus einer Jungenperspektive an die KI zu stellen, zum Beispiel:

„Ich bin ein Junge. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ oder „Ich bin ein Junge. Welche Hobbies könnte ich haben?“

Vergleicht die Mädchen-Jungen-Antworten des ChatBots miteinander:

• Was fällt auf?
• Hat ChatGPT unterschiedlich auf die Anfragen geantwortet? Was sind die Unterschiede?
• Wie fühlt ihr euch mit den unterschiedlichen Antworten?

Falls du diesen Workshop mit Menschen durchführst, die schon ein Verständnis von und Sensibilität für Geschlechtervielfalt haben, können die Teilnehmenden den Chatbot auch aus einer nicht-binären Perspektive befragen: „Ich bin nicht-binär. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ oder „Ich bin nicht-binär. Welche Hobbies könnte ich haben?“

Die Teilnehmenden sollen am Tablet oder Computer den KI-Bildgenerator öffnen. Wenn du fobizz verwendest, müssen sich die Teilnehmenden noch einloggen; bei der SchulKI teilst du einen Freigabeschlüssel als Link, der direkt zu den Chats führt.

Leite sie dazu an, folgende Prompts, die höchstwahrscheinlich gegenderte Bilder ergeben werden, in die KI zu tippen:

• Zeige mir eine erfolgreiche Führungskraft in einem Büro.
• Realistisches Foto eines Kindergartens mit Erziehern.

Zeigt euch gegenseitig die Ergebnisse eurer beiden Prompts und vergleicht die verschiedenen Bilder miteinander:

• Zeigen die Ergebnisse vielfältige Menschen? Oder sehen sie ziemlich ähnlich oder stereotypisch aus?

Mache die Teilnehmenden auf die Darstellung einiger Merkmale wie Geschlecht, Hautfarbe, Alter und Körperbau der abgebildeten Personen aufmerksam und diskutiert die Abbildungen.

Lasse die Teilnehmenden gerne noch mit anderen Prompts experimentieren und sich darüber austauschen: Welches Bild wird generiert, wenn ich beispielsweise „Ich bin eine Landwirtin“ eingebe?

Spannend ist auch, mit den Teilnehmenden ins Gespräch darüber zu kommen, woran man erkennen kann, dass die Bilder KI-generiert sind:

• Sieht das Bild real, also wie ein Foto, aus?
• Wieso ja und wieso nicht?

Weise auf Erkennungsmerkmale hin, wie deformierte Gliedmaßen, unverhältnismäßige Körperproportionen, falsche Schattenwürfe, etc.

Weiterführende Informationen, wie KI-generierte Bilder erkannt werden können:

• Uhlenbrock, Lea (2024): KI-Generierte Bilder, Texte und Videos erkennen. In: merz - Zeitschrift für Medienpädagogik: 68. Jg., 3.

• Wesolowski et al. (2023): Faktencheck: Wie erkenne ich KI-generierte Bilder? In: Deutsche Welle

Präsentiert den Input (siehe Vorlage).

Optionale Diskussion: Wenn ihr Zeit habt, könnt ihr eine kurze Diskussion anschließen. Fragt die Teilnehmenden, was diese Informationen für sie bedeuten:

• Sollten wir aufhören, KI zu nutzen, weil sie voreingenommen ist und Vorurteile reproduziert?

Hier empfehlen wir einen Mittelweg: KI ist mittlerweile in unserem Alltag allgegenwärtig, sodass es schwierig ist, ohne sie zu leben. Es ist jedoch wichtig, Informationen und unsere Filterblasen zu hinterfragen und sie nicht als Wahrheit anzusehen, sondern auch gut recherchierte und überprüfbare Quellen einzubeziehen.

Zeige den Teilnehmenden das KI-generierte Bild (siehe Vorlage).

Jede Person soll nun versuchen, exakt dieses Bild herzustellen. Die Arbeitsaufgabe ist wie folgt:

• Schreibe einen Prompt, um dieses Bild zu erstellen und schaue, was dir die KI ausgibt.

Die Teilnehmenden sollen wieder in ihren Bild-KI-Raum und ein Bild generieren. Wenn alle fertig sind, kannst du deinen Bildschirm teilen und die Bilder der Teilnehmenden nacheinander zeigen. Frage die jeweilige Person, inwiefern ihr Bild der Vorlage ähnelt. Achte darauf, dass es auch positive Bemerkungen zum eigenen Bild gibt und gebe Wertschätzung. Zeigt euch nach der Besprechung aller Bilder nochmal die generierten Bilder auf euren Endgeräten und stimmt wohlwollend mit Handzeichen ab, welches Bild der Vorgabe am nächsten kommt.

Quelle: Dall-E (27.03.2025)

Zeige den Teilnehmenden nach der Wahl der Gewinner*in den ursprünglichen Prompt für das vorgegebene Bild (siehe Präsentation):

• Ein fotorealistisches Bild in einem Jugendzentrum, in dem Jugendliche KI für ihren Alltag nutzen. Das Bild zeigt zwei Mädchen, die miteinander sprechen. Zwei weitere queere Personen sind zu sehen, wie sie gemeinsam auf einen Bildschirm schauen und diskutieren. Das Bild ist farbgesättigt und strahlt eine freundliche und zukunftsgewandte Atmosphäre aus. Die Menschen im Foto sind divers, neben weißen Menschen sind auch Schwarze Menschen und People of Color zu sehen.

Besprecht mit den Teilnehmenden einige Hinweise zum guten Prompten (siehe Seite 5 der Präsentation).

Wiederholt die Promptingaufgabe mit dem nächsten Bild (siehe Seite 6 der Präsentation)

Jede*r kann erneut versuchen, mit  (jetzt sehr detaillierten) Eingaben so nah wie möglich an das Bild heranzukommen. Die Diskussion und Abstimmung darüber, welches Bild gewonnen hat, findet wie zuvor statt. Wenn noch Zeit übrig ist, lasst die Teilnehmenden das „Pingpong“ mit der KI ausprobieren (siehe Tipps zur Eingabe oben) – auf diese Weise lernen sie, wie sie die KI nutzen können, um das gewünschte Bild zu erhalten.

Quelle: Dall-E (27.03.2025)

Prompt: Erstelle mir ein fanstasiereiches Bild einer technischen Utopie: diverse Menschen stehen auf einer Straße, die zugleich begrünt und auch technologisch ist. Alle Menschen dürfen so sein und aussehen wie sie wollen. Die Szene ist lebendig, froh und verspielt.)

Abschlussreflexion:

• Was hat mit besonders gut gefallen? Was würde ich anders machen?
• Was war neu oder überraschend? Was nehme ich mit?