Session 6. Summa summarum: Worauf es in Sachen KI in einer (guten) Schule an- und wie man dort hinkommt …

KI-Thinktank. Session 6. Ein letztes Mal im genialen Dachgeschoß des evangelischen Mörike in Stuttgart. Auf der Agenda diesmal: Den Sack zumachen. Was haben wir gelernt seit unserem ersten Meeting vor über einem halben Jahr? Was meinen wir verstanden zu haben? Was können wir empfehlen? Unsere Quellen und Ressourcen: Wir als „Community-of-practice“, die nicht nur nachgedacht, diskutiert und gelesen, sondern vor allem viel selbst ausprobiert und aus diesen Erfahrungen ihre Schlüsse gezogen hat. Insofern: Für unsere Ergebnisse, denen in der Folge Raum gegeben wird, stehen wir gerade!

Runde 1: Das Ganze und seine Teile

Die erste Phase des Tages widmeten wir dem „Nach-Denken“ der bisherigen fünf Sessions mit dem Arbeitsauftrag: Welcher Aspekt, welche Facette, die gleichzeitig einen Blick aufs Ganze ermöglicht, ist für dich besonderes wichtig geworden? Das Ergebnis ist in folgendem Foto zu bestaunen. Und um dieses auch verstehen und nachvollziehen zu können …

… folgt nun eine doppelte Zusammenfassung: Einmal eine Ultrakurzfassung; und im Anschluss daran der Versuch, unsere Erkenntnisse in Form eines Manifests zu bringen (ChatGPT hat prototypisch ein wenig geholfen; anschließend wurde die Punktation redaktionell verbessert):

Die wesentlichen Lehren aus aus dem KI-Thinktank:

  1. Es hilft sehr, sich gemeinsam Gedanken zu machen.
  2. Die Lernkultur wird sich erst ändern, wenn man das Lernen selbst zum Thema macht.
  3. Das Wichtigste beim Einsatz vom KI im schulischen Lernen ist der Fokus auf der Beziehungskultur, denn der Mensch wird am Du zum Ich und Lernen ist Beziehungssache.

Mit anderen Worten: Wir laden alle ein, sich gemeinsam auf den Denk-, Probier- und Entwicklungsweg zu machen. Wir haben es selbst erlebt, möchten diese Erfahrung nicht missen und wissen, was wir dem kontinuierlichen Austausch zu verdanken haben. Und: Keine falschen Hoffnungen! Die Technologie wird’s nicht „automatisch“ richten – die Lernkultur der gesamten Schulgemeinschaft wird sich erst und nur dann weiterentwickeln, wenn sie explizit zum Thema gemacht wird. Last, but not least: KI in der Bildung ist etwas anderes als (beispielsweise) KI in der Wirtschaft. Das Gras wächst nicht schneller, wenn man daran zieht. Und ein Erfolgsindikator für die erfolgreiche Implementierung von KI an der Schule könnte – vorschlagsweise – die merkbare Zunahme von Muße (altgriechisch: σχολή | scholé) sein. (Aber nur, wenn man bewusst darauf achtet – sonst rast man noch schneller als zuvor im Hamsterrad der „Effizienzmaschine“ – oder des „Zeitfressers“? – IT!)

KI und Schule – worauf es wirklich ankommt!

Die nächste Passage bringt eine etwas ausführlichere Darstellung dieser summa summarum – diesmal (versuchsweise) in Form eines Manifests to whom it may concern

Der Einsatz von KI in der Schule stellt eine Chance dar, sowohl die Lern- als auch die Lehrkultur weiterzuentwickeln, wobei die individuelle Förderung, die Pflege der (Schul-)Gemeinschaft und das Menschliche stets im Fokus bleiben müssen. Unser Appell: Nehmen wir uns die Zeit, uns gemeinsam Gedanken zu machen. Lasst uns gemeinsam und ausdrücklich an einer zukunftsfähigen Lernkultur arbeiten, die menschliche Beziehungen, Muße und Kreativität, Eigenständigkeit und Chancengerechtigkeit in den Mittelpunkt stellt!

  1. Lernen ist Beziehungssache
    Der Mensch wird am „Du“ zum „Ich“. Lernen basiert auf Beziehung und Vertrauen. Das Erste beim Einsatz von KI muss immer der Fokus auf der Beziehungskultur sein.
  2. Der Mensch im Mittelpunkt
    Bildung mit KI bedeutet, den Fokus auf den Menschen zu legen – Schüler:innen, Lehrer:innen und ihre Interaktion stehen im Zentrum. KI ist keine Lösung an sich.
  3. Individualisierung und Chancengerechtigkeit
    KI ermöglicht personalisiertes Lernen, das auf individuelle Bedürfnisse eingeht. Gleichzeitig muss sichergestellt werden, dass der Zugang zu KI für alle möglich ist, um Bildungsgerechtigkeit zu gewährleisten; das braucht auch entsprechende Budgets.
  4. Kreativität und Eigenständigkeit fördern
    Schüler:innen sollen ermutigt werden, eigenständig zu denken und zu lernen. KI darf nicht zur Abhängigkeit führen, sondern soll für kreatives und selbstorganisiertes Lernen nützlich sein.
  5. Die Balance finden
    Zukunftsfähige Bildung erfordert ein ausgewogenes Verhältnis zwischen digitalem und analogem Lernen. Die Frage „Wie viel Digitalität ist gut für die Entwicklung?“ muss stets kritisch betrachtet werden.
  6. Klare Strategien und rechtliche Grundlagen
    Für eine erfolgreiche Integration von KI in Schulen bedarf es klarer Strategien, geklärter rechtlicher Rahmenbedingungen, Aufklärung über Chancen und Grenzen und eindeutiger Leitlinien für Schulleitungen und Kollegien.
  7. Feedbackkultur pflegen, spielerisch erforschen und iterativ vorgehen
    In der konkreten Einführung von KI darf, ja muss es „spielerisch“ und „experimentell“ zugehen. Erfahrungen machen, Reflexionen anstellen, Rückmeldungen einholen, Prozesse anpassen und neue Ansätze ausprobieren – so gelangt man Versuch für Versuch zu immer besseren Ergebnissen.
  8. Lehrkräfte und Schüler:innen lernen gemeinsam
    Der gemeinsame Umgang mit KI bietet eine Chance für Austausch und Beziehung sowie für den Abbau von (Berührungs-)Ängsten. Lehrer:innen und Schüler:innen können voneinander lernen und gemeinsam die Möglichkeiten der Technologie – beispielsweise als „Push“ für selbstorganisiertes Lernen – entdecken. Damit wird auch ein Beitrag zur Weiterentwicklung der schulischen Lernkultur geleistet.
  9. Medienkompetenz als Grundlage von Demokratien
    Der Umgang mit KI erfordert Medienkompetenz. Diese ist eine zentrale Fähigkeit, um in einer digitalen Welt eigenständig, kritisch und politisch verantwortungsbewusst handeln zu können.
  10. Mut zur Veränderung
    Die Rolle von Lehrer:innen bekommt neue Akzente: weniger Wissensvermittler:innen – mehr Mentor:innen. KI bietet die Möglichkeit, Arbeit zu erleichtern, Reflexionszeit zu vermehren, Lernprozesse zu bereichern sowie inklusiver zu gestalten.
  11. Verantwortung übernehmen
    KI-Einsatz muss immer eingebettet und verantwortet werden. Technologie alleine ist keine Lösung – sie braucht menschliches Denken und ethisches Bewusstsein.
  12. Lernen für die Zukunft
    Schulen müssen Schüler:innen auf eine Welt mit KI vorbereiten. Dazu gehört nicht nur der Umgang mit der Technologie, sondern auch die Förderung von Fähigkeiten, die KI nicht ersetzen kann: kritisches Denken, Kreativität und soziale Kompetenz.
  13. Über den Tellerrand blicken
    Partnerschaften mit Betrieben und ein Blick über den Tellerrand fördern praktische Kompetenzen und ermöglichen Einblicke in die Anwendung von KI in Gesellschaft und Wirtschaft.
  14. Leistungsverständnis überdenken
    KI fordert uns heraus, Leistungsmessung und Feedback neu zu denken. Dies bietet die Chance, den Fokus auf individuelle Fortschritte und Potenziale zu legen.

Runde 2: Wie man zu einer guten Schule mit KI hinkommt

Es ist eine Sache, zu wissen, worauf es ankommt. Und es ist nochmals eine andere Sache, zu verstehen, wie man dort hinkommt. Den zweiten Teil des Vormittags sowie den größten Teil des Nachmittags haben wir versucht, Wege zu einer guten Schule mit KI zu skizzieren und mögliche Meilensteine auf dem Weg zu nennen. Dabei haben wir mit folgender Hintergrundfolie – siehe Bild 1 der Slideshow im Anschluss – gearbeitet, die wiederum den folgenden kurzen Denkweg widerspiegelt:

  1. Eine gute Schule ist eine lernförderliche Schule mit zeitgemäßer, zukunftsfähiger Lernkultur.
  2. Als „old school“ kann man eine Schule bezeichnen, in der „Einzelkämper:innen“ agieren. Bestmöglich ist eine Schule, in der das Kollegium von „gemeinsamer Wirksamkeitserwartung“ (Hattie: collective teacher efficacy) getragen und gefördert ist. (Dazu mehr beispielsweise hier und hier.)
  3. Dieser Weg ist ein mehr- oder besser: vieljähriger – und Schulen sind auf ihm unterschiedlich weit fortgeschritten. Je nach Entwicklungsstand der Schule werden unterschiedliche Impulse bzw. „Interventionen“ weiterhelfen. Anders gesagt: Alle Fortbildungsangebote müssen sich als Hilfestellungen auf einem Entwicklungsweg verstehen – und ihr Ergebnis wird maßgeblich davon abhängen, wie sehr sie kontinuierliches Lernen und veränderte Praxis im Alltag und zwischen möglichen Workshops auslösen.
  4. Hauptverantwortlich für diesen kontinuierlichen Entwicklungsweg ist die Schulleitung – und ihre Arbeit bzw. Erfolgschance hängt wesentlich von der Unterstützung durch den Schulträger und dessen Verständnis ab.

Mit dieser Theorie im Hintergrund machten wir uns in fünf Gruppen parallel an die Arbeit. Die folgenden fünf Bilder sind Ergebnis dieser Überlegungen und werden im Anschluss an die folgende Bildgalerie kurz kommentiert.

Bild 1 skizziert zum einen im Hintergrund den Weg von der „old school“ (links auf der Tafel) zur bestmöglichen Schule (rechter Tafelrand), wie eben beschrieben. (Zu den eingeringelten Ziffern dann mehr im Anschluss weiter unten.) Der Start in den Entwicklungsprozess muss durch einen eindeutig erkennbaren Impuls gesetzt werden, dem laufende Investitionen in Verständnis, Einsicht und Akzeptanz der angegangenen Entwicklung folgen müssen. Wie immer führt der Weg dann über Personen (mit Rückhalt von und im Auftrag der Schulleitung!), die ausprobieren, Erprobtes an Multiplikator:innen weitergeben und so letztlich ans gesamte Kollegium andocken. All das führt dann früher oder später (und iterativ über mehrere, laufend verbesserte Prototypen) zu einem Curriculum, das dem Thema KI verantwortet, bewusst und umfassend gerecht wird.

Bild 2 legt den Fokus auf die Medienkompetenz der Lehrenden und Lernenden. Diese sind mit Voraussetzung für lernförderlichen und reflektierten KI-Einsatz; Aufgabe der Personalentwicklung ist die verlässliche Sicherstellung von ausreichender Medienkompetenz im kompletten Kollegium; für Aufbau und Überprüfung der Medienkompetenzen der Schüler:innen wiederum ist das schuleigene Mediencurriculum verantwortlich. Dieses muss – zB von den Fachschaften – auch laufend aktualisiert und angepasst werden. Insofern Papier geduldig ist, gilt, wie so oft: The proof of the pudding is in the eating. Und der „Ernstfall“ der Medienkompetenz ist deren tatsächliches Vorhanden- und Angewandtsein in der Praxis. Medienkompetentes Tun braucht, wie jede „gute Gewohnheit“, entsprechendes Training – und das kontinuierlich. Nicht zuletzt ist mit einer kritisch-konstruktiven Rückkopplung der steigenden Medienkompetenz auf die Fachdidaktik/en zu rechnen.

Bild 3 wiederum beleuchtet den Entwicklungsweg aus einer generellen Perspektive des Veränderungsmanagements und hier – insbesondere – mit Rücksicht auf die auftretenden Widerstände sowie dem Umgang damit. Veränderung bedeutet für die allermeisten allermeistens immer zusätzliche Anstrengung und ist daher selten willkommen. Diesem Widerstand muss man nicht nur mit Geduld und Konsequenz, sondern auch mit guten Argumenten begegnen. Die wichtigsten und überzeugungskräftigsten erwachsen wohl aus der Frage, für welche Herausforderungen der Zukunft Schüler:innen vorzubereiten wären. Hinsichtlich dieser Fragen sollte wohlbegründete und breite Einsicht herstellbar sein (bzw. ist unbedingt anzustreben), was wiederum ausreichende Motivation für die Mühen des Lernweges zeitigen sollte. Dazu noch zwei Einsichten: (1) Gute Lehrpersonen zeichnen sich nicht nur durch Wissen, sondern (insbesondere) durch ihre Vorbildwirkung als Lernende aus! (2) Auch wenn die technische Ausstattung einer Schule möglicherweise nichts zu wünschen übrig lässt: Die Lernkultur hat sich durch kontinuierliche technische Innovation noch nicht notwendigerweise mit entwickelt – ihr muss extra und explizit Aufmerksamkeit gewidmet werden.

Bild 4 gleicht aufs Erste dem vorhergegangenen, unterscheidet sich aber durch einen das Thema von Bild 3 wesentlich weiterführenden Entwicklungsschritt – nämlich eine konkrete Strategie. Entwicklungswege gibt es viele – und viele richtige. Aber keine Schule kann alle möglichen Wege gleichzeitig verfolgen; dazu fehlt die erforderliche Energie und Zeit. Man muss auswählen, entscheiden, Prioritäten setzen. Bild 4 illustriert also den möglichen Entwicklungsweg einer Schule, die auf den Hebel „Selbstorganisiertes Lernen (SOL“ setzt, und den Weg mit einer (Projekt-)Woche des individuellen Lernens startet, um dann schrittweise zu einer Lernkultur zu gelangen, die letztlich die Qualitäten hochschulischen Lernens zeigt, ohne dass die Schüler:innen dafür schon im Hochschulalter sein müssten.

Bild 5 fasst gewissermaßen alles bisher in diesem Artikel beschriebenen Aspekte, Wege, Entscheidungsnotwendigkeiten und Prozesse in ein generisches Schaubild.

Fazit: Was weiterhilft

Geht’s vielleicht noch konkreter? Ja – zumindest soll dieser letzte Abschnitt des Blogbeitrags ein solcher Versuch sein. Noch konkreter heißt: Wer hätte was zu tun bzw. zu veranlassen? Wer könnte was anbieten bzw. in Bewegung setzen? Was liegt alles im „Werkzeugkasten“ der Schulentwicklung?

Die folgende Darstellung, die im Anschluss darunter erläutert wird, spiegelt eine doppelte „Ownership“ wider: Einerseits beschreibt sie einen Ansatz, beispielsweise fürs Evangelische Schulwerk (oder andere Verbände oder Träger), zu konzipieren bzw. zu formulieren, was man den Schulen (bzw. Trägern), für die man arbeitet, anbieten könnte bzw. müsste. Andererseits ist die Liste auch ein Bündel von Maßnahmen, die (zu mindest in weiten Teilen) auch von einer individuellen Schulleitung selbst konkret ergriffen und veranlasst bzw. beauftragt werden könnten – oder schlicht und einfach nur wahrgenommen werden müssten …

  1. Whitepaper: Der schulentwicklerische Umgang mit KI ist keine „Raketenwissenschaft“, vorausgesetzt, man hat sich die Zeit genommen, sich damit auseinanderzusetzen. Um diese Zeit abzukürzen und Erfahrungen (beispielsweise die des Thinktank) strukturiert weiterzugeben, wird das Evangelische Schulwerk in den nächsten Wochen ein Whitepaper entwickeln, das Anfang 2025 wesentliches Führungs- und Leitungswissen in Sachen KI&Bildung für alle Interessierten (und Lesewilligen 😉 so knapp wie möglich zusammenfassen und erschließen wird.
  2. Pädagogische Tage: Jede Schule hat welche. Jede Schule braucht Themen dafür. Das Evangelische Schulwerk bietet Schulen bereits seit gut zwei Jahren Pädagogische Tage als Einstiegspunkte und Impulse ins Thema an. Das Projekt Aufs Ganze gesehen ermöglicht es, dieses Angebot für die Schulen kostenlos zu halten. Der Schwerpunkt KI hat aktuell ganz, ganz große Nachfrage. Und wir bemühen uns nach besten Kräften und durch ausführliche, penible Vorbereitung, die Pädagogischen Tage maßgeschneidert so zu gestalten, dass diese als produktive Impulse auf dem je unterschiedlichen Entwicklungsweg einer Schule wahrgenommen werden und wirken können.
  3. Spielen, Spielanleitungen, Spielleiter:innen: Spielen? Ja, spielen! Wie soll man sonst wissen, wie etwas „funktioniert“, von dem man noch nicht – evtl. schon jahrelang – nachlesen kann, wie’s geht?! Genau das ist aktuell der Fall mit KI. Der kommt man nur „spielerisch“ auf die Schliche. Wichtig zu beachten ist dabei Folgendes: Es ist ein eher kleiner Teil der Menschheit, der sich – zumal in erwachsenem Alter – mit Freude daran macht, das Unbekannte zu erforschen und im Neuland Muster, Möglichkeiten und Spielregeln bzw. -anleitungen zu entdecken. Es wäre völlig unrealistisch, diese spielerische Haltung von allen (Erwachsenen) zu erwarten. Ergo: Schätze und schütze deine Pionierinnen und Pioniere, liebe Leitungsperson! Umgekehrt gilt aber auch: Achtet und respektiert diejenigen, die Tag für Tag die „Mühen der Ebene“ auf sich nehmen. Und kommt ihnen zum gegebenen Zeitpunkt mit Spielanleitungen und als Spielleiter:innen entgegen! Die wenigsten können neue Spiele erfinden – aber Mitspielen (mit Anleitung und Animation) können alle! Wir verraten hier übrigens kein großes Geheimnis, dass der Erfolg des KI-Thinktanks wesentlich von der Tatsache abhing, dass Schulwerk und Schulstiftung hier versuchten, genau solche Menschen (eben diejenigen, die neue Spiele erfinden) zusammenzubringen …
  4. Professionelle Lerngemeinschaften: Von der collective teacher efficacy, also der überaus großen Lernförderlichkeit der gemeinsamen Wirksamkeitserwartung, war in diesem Artikel schon weiter oben hier und hier die Rede. Das vorzügliche Entwicklungsinstrument auf diesem Entwicklungsweg ist die sog. Professionelle Lerngemeinschaft (hier eine aktuelle, umfassende Publikation zu dem Thema), die in „freier Wildbahn“ allerdings mit durchaus unterschiedlichen Etiketten auftaucht. Unter Professionellen Lerngemeinschaften versteht man regelmäßige, nicht allzu zeitaufwändige Arbeits- und Entwicklungstreffen von Lehr-, aber auch von Leitungskräften. Und in dieser Regelmäßigkeit liegt schon fast das ganze Geheimnis des Erfolges: Nicht der gelungene Pädagogische Tag – so wichtig er als initialer Impuls sein mag! – entscheidet über den Lern- und Entwicklungserfolg einer Schule, sondern der kontinuierliche Lernweg zwischen den Pädagogischen Tagen. Also: Entweder Sie haben welche, oder Sie brauchen welche: Professionelle Lerngemeinschaften! (Wie auch immer die im Detail dann heißen und arbeiten mögen.) Selbstredend, dass deren Einrichtung und konsequente Verfolgung und Förderung vornehmste Domäne der Schulleitung ist.
  5. Netzwerktreffen, Fachtage, Hackathons, Thinktanks: Pionier:innen und Leitungskräfte sowie besonders Interessierte brauchen sie gleichermaßen: Die Gelegenheiten zum lustvollen, inspirierten, gemeinsamen Voraus- bzw. Weiterdenken sowie zum vorausschauenden Planen. Und selbstredend bieten wir solche Gelegenheiten laufend an. Anbieter solcher Gelegenheiten gibt es aber viele – und insofern liegt es auch in der Verantwortung von Schulleitungen und Trägern, solche Gelegenheiten aktiv zu schaffen oder aber nach ihrer Wahl aufzusuchen.
  6. Materialien (Beispieltexte, didaktische Muster, Software): Alles zu seiner Zeit. Und ist die Grundlage des Problembewusstseins gelegt und Überzeugungsarbeit geleistet, dann braucht man an allen Ecken und Enden auch konkrete Materialien. Und die muss man nicht alle selbst entwickeln. Die Sammlung unserer lernwirksamen KI-Muster werden wir stark ausweiten. Ebenso Handreichungen beispielsweise zum rechtskonformen KI-Einsatz oder rund um die Thematik der Prüfungskultur. Wichtig zu wissen ist bei diesem Bereich jedenfalls: Fast alles ist im Netz bereits irgendwo zu finden. Und der Aufwand fürs Adaptieren von bereits Vorhandenem ist in der Regel kleiner als das Neuentwickeln. In dem Sinn: Lieber den Fokus aufs Überzeugen und Mitnehmen von Menschen legen, weil … siehe oben.
  7. Förderung von (Teacher)-Leadership: Angebote für Leitungskräfte (wie das Digitale Update) standen am Anfang des Projekts Aufs Ganze gesehen. Und über die zentrale Rolle von Leitungskräften muss hier nicht weiter gesprochen werden; wer mehr dazu lesen möchte, ist beispielsweise hiermit bestens beraten. Faktum ist aber, dass das Neue nicht durch Leitungskräfte und -teams alleine realisiert wird, sondern darüber hinaus Menschen braucht, die an den jeweils unterschiedlichen Stellen in unterschiedlichen Rollen ihren Teil der Führungsarbeit „wagen“ und sich für die Weiterentwicklung „aus dem Fenster lehnen“. Gerne spricht man hier von teacher leadership – einiges dazu nachzulesen gibt es hier. Und – so viel Teaser darf sein – wir im Schulwerk denken aktuell darüber nach, was uns noch einfallen könnte, diese conditia sine quo non der Schulentwicklung unsererseits aktiv zu fördern.
  8. Crashkurs KI für Leitungskräfte: Nur mal so dahin gedacht: Angenommen, es würde ein Tag (oder Halbtag) speziell für Leitungskräfte stattgefinden, in dessen Rahmen die Inhalte des Whitepapers (siehe oben) vermittelt und erlebbar gemacht werden: Würden Sie sich die Zeit nehmen und hinkommen? Finden wir’s ‚raus! Sobald wir den Ablauf ausgetüftelt haben, wird das Schulwerk Ihnen ein Angebot machen – mehr dazu in einer der nächsten Ausgaben von Schulwerk Aktuell.
  9. Netzwerktreffen: Im Unterschied zu den beiden vorangegangenen, zugegeben: noch im Werden begriffenen Ideen, ist dieser abschließende Punkt konkrete und gelebte Realität: zB in den Fachgruppen oder den Schulwerks-Veranstaltungen wie dem Konvent oder dem Jahresempfang. Diese Angebote funktionieren so gut, wie sie besucht und wahrgenommen werden. In diesem Sinne noch ein abschließender Appell: Kommen Sie hin, machen Sie mit, seien Sie dabei!

Schlussendlich: DANKE!

Mehr als ein halbes Jahr intensiver Arbeit liegt hinter uns. Es war spannend, inspirierend, erkenntnisreich – und hat auch viel Spaß gemacht. DANKE allen, die kontinuierlich oder als Gäste dabei waren: Alexander Auer, Andrea Herrmann, Anna Vollmar, Annette Frech, Beatrice Kirschner, Bettina Fauser-Loeffler, Birte Platow, Claudia Fromm, Claudia Sauter, Cornelia Schaal, Daniel Steiner, Dorothea Kühner, Gunnar Horn, Ina Schäfer, Jan-Christopher Schmid, Karin Bogoczek, Klaus Neundlinger, Lara Knak, Larissa Lehmann, Marinela Seitz, Martin Holler, Max Schulyok, Michaela Straub, Nina Andacic, Patrick Albus, Peter Steiner, Sandra Schellhammer, Sören Rojan, Stefan Willbold, Steffen Rosskopf, Sven Heckele, Thomas Nárosy, Wolfgang Harsch. DANKE insb. dem Mörike für die Gastfreundschaft. Und DANKE unseren Auftraggebern, dem Evangelischen Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart für die Möglichkeit, hier einen Beitrag in Sachen Schulentwicklung leisten zu dürfen.

Von Fußball, Mustern und Leitplanken: KI-Einsatz – ganz praktisch und lernwirksam

Ohne Zweifel hinkt der Vergleich, aber in gewisser Hinsicht ist es mit dem Lernen und Lehren wie mit dem Fußballspielen: Aus wenigen „Standardsituationen“ heraus – vom Anstoß über den Einwurf bis zum Elfmeter und dem Schiedsrichterball und einigen mehr – entwickeln sich unendlich viele unterschiedliche Spielverläufe. Diese „Muster“ könnte man noch in Form von eingeübten Spielzügen bis hin zur „Mikroebene“ des Doppelpasses oder des „Tricks“ fortspinnen.

So scheint es auch beim Lernen zu sein. Ein Impulsvortrag und eine anschließende Diskussion; eine interessengeleitete Nachfrage bei einer wissenden Person, an die anschließend eines zum nächsten führt; die mehrfache Lektüre eines Textes und das Verfassen von Notizen und (vielfärbige) Unterstreichen von Passagen; das Prüfen des Gelernten mit Fragen – mündlich oder schriftlich … es sind die großen und kleinen „Standardsituationen“, die Lernen anregen bzw. auslösen oder, anders gesagt, die „Muster“, in denen sich das Lernen und Lehren ereignet und – mehr oder weniger gut gelingend – entfaltet. Wir lernen diese Muster im Laufe unseres Lebens Schritt für Schritt kennen, üben sie Versuch für Versuch ein, variieren sie und wenden sie im Laufe der Zeit auch (möglicherweise meisterlich) an.

Im Rahmen unserer KI Thinktank-Session am 23.10.2024 machten wir uns also auf die Suche nach Standardsituationen bzw. Mustern des Lehrens und Lernens mit KI, die man als lernförderlich bezeichnen kann. Genauer:

  • in denen wir selbst als Lehrende (wenn auch vielleicht „nur“ in der Vorbereitung),
  • in der Beobachtung und Reflexion von Lernenden oder …
  • als selbst Lernende die Erfahrung gemacht hatten, dass man ohne KI nicht zu diesem oder jenem Aspekt der Lernförderlichkeit gelangt wäre.

Learning Patterns – „Standardsitutionen des Lernens“

Systematisch orientierten wir uns hier an den „Learning Patterns“ von Takashi Iba, die man sich in aller Kürze so vorstellen kann:

  • Die Learning Patterns – also so etwas wie „Standardsituationen des Lernens“ – und das sich darum herum entwickelnde „Sprachspiel“ der „Pattern Language“ wurden entwickelt, um implizites Wissen rund ums Lernen zu vergemeinschaften, besprech- und diskutierbar und damit wirksamer zu machen. Und um an dieser Stelle nochmals den Vergleich mit dem Fußball zu strapazieren: Gemeinsame Kenntnis der Muster hilft dem flüssigen Spielverlauf. (An dieser Stelle hinkt der Fußball-Vergleich ein wenig auffallender: Während nämlich die „Standardsitutionen“ im Fußball – insbesondere diejenigen, die auch in Regeln gegossen sind – nur sehr selten verändert werden, ist das beim Lernen grundsätzlich sehr viel flexibler und in die Hand derjenigen gelegt, die in einem gemeinsamen Lernkontext werken. Beim genaueren Blick auf die Muster des Lehrens und Lernens – zumal in der Schule – ist auch hier eine gewisse „Trägheit“ unübersehbar. Eine Trägheit, der man am besten mit Reflexion, Geduld und langem Atem begegnet …)
  • Diese Muster des Lehrens und Lernens folgen alle dem gleichen Schema: Einer möglichst griffigen Überschrift folgt die Beschreibung des Problems und Kontexts, in dem sich die „Lernherausforderung“ stellt; es folgen die Lösung und Hinweise für die Umsetzung sowie ein abschließend ein möglichst instruktives Beispiel, das das Muster besser vorstellbar macht.
  • Ein – allen wohl aus eigener Erfahrung bestens bekanntes – Beispiel, das noch dazu direkt in die KI-Thematik einführen kann, soll das Gemeinte kurz illustrieren. Es sei vorweggenommen, dass dieses gewählte Beispiel gleichzeitig – ein klein wenig ironisch – demonstriert, dass „Standardsituationen“ sich auch überleben können:
    • Überschrift: Wer zusammenfassen kann, hat verstanden
    • Problem und Kontext: Es hat sich menschheitsgeschichtlich bewährt, Konzepte, Wissen, Geschichten, Erkenntnisse etc. in Buchform bzw. längeren Artikeln oder Protokollen zu publizieren. Wie löst man als Lehrperson (zeitsparend) das Problem, einerseits Verständnis und Wissen zu fördern, andererseits auch das Ergebnis der Lektüre zu kontrollieren?
      Kontext: Lernende ab dem Alter von ca. 10 bis 11 Jahren.
    • Lösung: Man lässt die Lernenden je individuell eine Zusammenfassung schreiben.
    • Hinweis: Wer eine gute Zusammenfassung schreiben kann, hat damit in der Regel sowohl Verständnis als auch Bearbeitung des Verstandenen bewiesen. Mit KI ist dieses – eigentlich schlichte und gleichzeitig geniale – Muster in die Krise gekommen. Denn KI kann ziemlich gut zusammenfassen und erspart dem Lernenden damit Schreib- und Denkarbeit, aber (möglicherweise) auch die Mühe und Anstrengung, die letztlich für das eigenständige Verarbeiten des „Stoffes“ notwendig ist.
    • Beispiel: In einer kontrollierten Präsenzsituation haben die Lernenden die Aufgabe, in relativ kurzer Zeit handschriftlich und aus dem Gedächtnis in zehn Zeilen etwas (beispielsweise ein Drama wie Faust 1) zusammenzufassen und dabei die menschheitsgeschichtlich zeitlosen Themen herauszuarbeiten. Diese Zusammenfassungen könnten als individuelle Prüfungsleistung dienen, können aber auch den Ausgangspunkt für eine intensivere, gemeinsame Diskussion darstellen.

KI „lernseits“

Methodisch nahmen wir uns am 23.10. bei unserer „quest for patterns“ vor, nicht zu „theoretisieren“, sondern von den von uns selbst ausgelösten oder angeregten bzw. ganz konkret selbst beobachteten Fallbeispielen des Lernens auszugehen. Also nicht (wie so oft): Welches Potential hat KI „theoretisch“, sondern: Welche Phänomene der Lernförderlichkeit (aus unserer Sicht) haben wir tatsächlich beobachtet?

Die Fülle der Beispiele – hier der Link zu drei beispielhaft aufbereiteten Mustern – hat uns einen ersten „Steinbruch der Möglichkeiten“ geliefert: Gezählte sechsundzwanzig haben wir insgesamt in unserer Session skizzenhaft zusammengetragen, die wir nun demnächst auch ausarbeiten und publizieren wollen. Beispiel gefällig?

  • Überschrift: Flipped Summary
  • Problem & Kontext: Die Zusammenfassung anspruchsvoller (Fach-)Texte bzw. die Beantwortung von Fragen zu diesen Texten soll sicherstellen, dass man die darin behandelten Inhalte und Konzepte verstanden hat. Dem stehen zB Hindernisse wie mangelnde Sprachkenntnisse bzw. die „Verlockung“, sich die Denk- und Verständnisarbeit von KI abnehmen zu lassen, entgegen.
    Kontext: Alle ab Klasse 9 (evtl. schon darunter). Insbesondere Klassen mit einem hohen Anteil an Schüler:innen mit anderer als deutscher Erstsprache.
  • Lösung: Statt die Zusammenfassung und die beantworteten Fragen zum Endpunkt der Arbeit mit dem Text zu machen, stellt eine von den Schüler:innen mit Hilfe von KI jeweils selbstgenerierte Zusammenfassung sowie eine erste Fassung von Antworten den Ausgangspunkt dar. Damit ist der Text grundsätzlich verstanden und eingeführt und man geht anschließend in die gemeinsame Diskussion und Auseinandersetzung mit dem Ausgangstext und dessen Details. Ziel ist, dass jede:r – ausgehend von der KI-generierten Zusammenfassung – den Originaltext gelesen und verstanden hat und eine je persönliche Version der Zusammenfassung (ggf. mit einer kurzen Reflexion zum Denkweg und den Erkenntnissen) und der Antworten auf die Fragen verfasst hat.
  • Hinweise: Als App können für diese Aufgabe zB die Fobizz-Tools verwendet werden; es braucht auch das Vorwissen, dass eine KI-generierte Zusammenfassung jedenfalls kontrolliert und ggf. revidiert werden muss.
  • Beispiel: Für drei Vertretungsstunden wurden von der Fachlehrkraft ein achtseitiger Text sowie Fragen dazu hinterlassen. Statt Text und Fragen den Schüler:innen „einfach“ weiterzugeben, wurde die Auseinandersetzung damit nach dem obigen Muster gestaltet.

Uns ist natürlich bewusst, dass der „Erfahrungsraum“ der Thinktank-Mitglieder ein eingeschränkter ist. Aber das lässt sich einerseits im Laufe der Zeit sicherlich durch Beteiligung weiterer Interessierter ausgleichen und damit auch die Zahl der Muster ausweiten. Vielleicht ist „Vollständigkeit“ andererseits bei der von uns gewählten Zugangsmethode auch gar nicht das Thema, sondern vielmehr die Methode selbst eine empfehlens-, erlernens- und einübenswerte. Eine Methode, die von der beobachteten Wirkung auf die Lernenden ausgeht; eine Methode, die hohe pädagogische und professionelle Ansprüche an die Lehrenden stellt; letztlich eine Methode, die, ist sie einmal vertraut, jede Lehrperson in die Lage versetzt, durch genaue Beobachtung unterschiedlicher Lernherausforderungen und aus eigener Erfahrung und (kollegialer) Reflexion heraus lernförderlichen von lernhinderlichem KI-Einsatz unterscheiden zu lernen, damit in den didaktisch-pädagogischen Diskurs eintreten zu können und – darauf kommt es vor allem an – Schritt für Schritt und Versuch für Versuch KI immer besser lernförderlich einsetzen zu können. Und gleichzeitig auch zu wissen, wo man – im Interesse des Lernens – lieber die Finger weglässt von KI 😉

PS: Und wenn man uns KI wieder wegnehmen würde?

Dieses PS hat sich tatsächlich erst im Nachgang des Thinktanks ereignet, soll aber an dieser Stelle – aus gleich nachvollziehbaren Gründen – nicht vorenthalten werden.

Im Laufe des Thinktanks haben wir ja gelernt, dass KI im schulischen Bildungs- und Lernkontext anders zu beurteilen und einzusetzen ist als beispielsweise in einem Software-Unternehmen, das seine Code-Produktion durch KI umstellt. KI kann nämlich ziemlich gut „Code“ generieren, was die Entwicklungsgeschwindigkeit in einem Unternehmen deutlich erhöhen kann. Beim Lernen von Kindern und Heranwachsenden, so haben wir uns im KI-Thinktank erarbeitet, ist das aber anders. Das Gras wächst ja auch nicht schneller, wenn man daran zieht – und Lernen in der Schule braucht Zeit und muss insbesondere altersadäquat erfolgen. Wenn man also in der Schule – theoretisch, weil praktisch ist der Zug abgefahren – wieder auf KI verzichten würde: Welcher Schaden und welcher Nachteil würde den Lernenden dabei erwachsen?

Genau diesem Gedankenexperiment stellten Andrea Herrmann und ich uns eines Abends. Und wir identifizierten (informiert und motiviert durch unsere Diskussionen zum Thema KI, insbesondere im Thinktank) zwei Aspekte, die aus unserer Sicht Nutzen und Vorteil von KI (richtig eingesetzt) für Lernende auf den Punkt bringen:

  • KI hat großes inklusives Potential – und kann (wenn andere Parameter auch passen) einen Beitrag zur Bildungsgerechtigkeit leisten.
  • KI hat (wiederum: richtig und klug eingesetzt!) das Potential zur „Zeitvermehrung“ bzw. „Entschleunigung“: beispielsweise in Richtung der Förderung von mehr Diskurs und Diskussion (vgl. das Beispiel „Flipped Summary“ im Download dieses Beitrags) mit den Lernenden; beispielsweise aber auch in der Entlastung bei Routinetätigkeiten und Unterrichtsvorbereitungen.

Diese Liste hat keinen Anspruch auf Vollständigkeit, kann und soll aber Ausgangspunkt für weitere Überlegungen sein, inwiefern KI lernförderlich zum Einsatz kommen kann.

4. KI und Menschenbild oder: Die richtigen Prioritäten setzen

Denn das Bild des Menschen, das wir für wahr halten, wird selbst ein Faktor unseres Lebens. Er entscheidet über die Weisen unseres Umgangs mit uns selbst und mit den Mitmenschen, über Lebensstimmung und Wahl der Aufgaben. Karl Jaspers

Dieses Zitat eröffnet ein ungemein lesenswertes Buch (Fuchs, Thomas. (2020). Verteidigung des Menschen. Suhrkamp.) (auch) zum Thema KI und bringt den Fokus unserer 4. Thinktank-Session vom 25. September auf den Punkt: Je nach dem Bild vom Menschen, das wir haben (Mängelwesen; Bio-Computer; leibliches Geschöpf; egoistisches Genmaterial im Wettbewerb ums Überleben etc.), werden wir auch KI so oder anders verstehen bzw. (nicht) einsetzen. Es sind die angenommenen – und selten bewussten bzw. bewusst reflektierten! – Selbstverständlichkeiten (man kann diese auch als „Glaubenssätze“ verstehen), die in vielem unsere Wahrnehmung, Aufmerksamkeit und unser Handeln bestimmen. In diesem Sinn lautete unser Programm, unsere Bilder vom Menschen explizit zu machen, zu reflektieren, vielleicht auch zu revidieren oder weiterzuentwickeln. Und schließlich ging es darum, davon ausgehend zu überlegen, welche Fragen sich daraus für KI, deren Rahmenbedingungen und Einsatz ergeben sowie zu versuchen, aus all dem Eckpunkte für den KI-Einsatz im Bildungsbereich abzuleiten. 

Eine Thinktank-Halbzeitbilanz …

Bei unserer Arbeit unterstützten und begleiteten uns diesmal (ganz im Sinne der zuletzt schon gepflegten, erfolgreichen Vernetzung mit dem universitären Diskurs) Dr. Birte Platow und Dr. Klaus Neundlinger. Nicht zuletzt um diesen beiden die Möglichkeit zu geben, die Thinktank-Mitglieder und deren bisherige Arbeit kennenzulernen, starteten wir mit einer Runde, in der jede:r eingeladen war, das bisherige Highlight der gemeinsamen Entwicklungsarbeit vorzustellen. Genannt wurden: Das generelle (sich) Aufmachen (in) der Diskussion; die Arbeit im Workshop gemeinsam mit Schüler:innen; die Frage, wie man mit KI wirksam beim Lernen unterstützen könne; alternative Prüfungsformate; die grundsätzliche Frage, was KI in der Schule mit uns „macht“; die Inspiration, die man für die eigene Arbeit mitnimmt sowie die Kompetenz, die man aufbaut – und weitergibt; die Einblicke in die Chancen, Grenzen, Gefahren und Möglichkeiten, die sich durchs kontinuierliche Dabeisein und Mitdenken eröffnen; die ganz praktische Vernetzung; immer wieder die Vergewisserung, dass die Auseinandersetzung mit KI unverzichtbar ist: Wir alle – und insbesondere die Kinder – stecken hier mitten drinnen, ob wir wollen oder nicht; und nicht zuletzt die Tatsache, einfach Zeit zur Reflexion und zum Denken zu haben.

… und zwei Stichworte: Zeit und Denken

Zeit und Denken also: zwei Begriffe, die uns im Verlauf des Tages nicht mehr loslassen sollten:

  • Zur Zeit: Einerseits die Frage, ob man sich überhaupt Zeit zum Denken und zur Reflexion nimmt. Andererseits die Tatsache, dass nur das, wofür man sich Zeit nimmt, auch wirklich Priorität bekommt und sich im Handeln niederschlagen wird.
  • Zum Denken: Warum ist dem so große Bedeutung zuzumessen? Kann man das Nachdenken nicht einfach den Intellektuellen überlassen? Ist die Qualität der Ergebnisse nicht eine Sache des IQ und der akademischen Bildung? Wie ist es um den Zusammenhang zwischen Denken, dessen Verweigerung (nennen wir sie „Dummheit“) und dem Menschenbild bestellt? Das Zitat von Karl Jaspers, das diesen Artikel einleitet, und das auch am Anfang unseres gemeinsamen Weiterdenkens stand, versucht ja, die wesentliche Bedeutung des Menschenbildes als Ausgangspunkt des Umgangs mit uns selbst und mit den Mitmenschen, (der)  Lebensstimmung und Wahl der Aufgaben zu verdeutlichen.

Was Kant mit seinem Aufruf, Mut zu haben, sich seines eigenen Verstandes zu bedienen, anspricht (und in seiner Kritik der Urteilskraft lang und breit ausführt; ich lehne mich insofern regelmäßig daran an, als ich „Denken“ in vielen Vorträgen als die wichtigste „digitale“ Kompetenz bezeichne), kommt bei Hannah Arendt in einem Audiobeitrag des Deutschlandfunks (am Extremfall aufgezeigt und zum Nachhören in nicht ganz zwei Minuten von Timecode 1:30:26 bis 1:32:12) zum Ausdruck. In einem Interview legt Arendt aus, wie sie den von ihr geprägten Begriff der „Banalität des Bösen“ verstanden wissen will. Mit der „Banalität des Bösen“ versucht Arendt zu bezeichnen, wieso gebildete, kluge Menschen wie Adolf Eichmann zu den Verbrechern gegen die Menschlichkeit werden konnten, zu denen sie wurden. Und welche Rolle die „Dummheit“ im Sinne der Verweigerung zu „denken“ dabei spielen kann. Arendt zitiert dazu die kleine Geschichte eines Bauern in Nazideutschland. Dieser hatte – direkt aus den KZ-artigen Kriegsgefangenenlagern von Sowjet-Soldaten, in denen diese zu Millionen umkamen ­– einige Halbverhungerte als Arbeiter auf seinen Hof zugewiesen bekommen. Und diese stürzten sich zuallererst einmal auf das Schweinefutter, um wieder einmal etwas in den Magen zu bekommen und weiterzuleben. Der Bauer dazu: „Na dass das Untermenschen wie Vieh sind, das kann man ja sehen – sie fressen den Schweinen das Futter weg!“ Arendt charakterisiert die empörende „Dummheit“ (nämlich nicht zu erkennen, dass es sich hier um Menschen handelt, die am Verhungern sind), die in diesem Vorfall deutlich wird, als den „Unwille(n), sich je vorzustellen, was eigentlich mit dem anderen ist.“

Warum das Menschenbild und dessen Entwicklung entscheidende Konsequenzen hat

Und genau hier haben wir ihn: den innigen Zusammenhang zwischen dem eigenen Menschenbild, dem Selbstdenken (als Absage an „Dummheit“) und der Bedeutung der Beziehungsfähigkeit: Sehe ich in Menschen „Vieh“, wird das mein Handeln in anderer Weise beeinflussen, als wenn mein Menschenbild sich aus der Erfahrung und Bedeutung der Beziehungsfähigkeit heraus entwickeln kann und möglicherweise auch normativ davon geprägt ist. Martin Buber formuliert: Der Mensch wird am Du zum ich. (Und die Bibel ist voll mit einschlägigen Textpassagen.) Für Menschenbildung wäre also insbesondere der direkte Kontakt mit anderen Menschen notwendig. Und in diesem Sinne darf sich niemand das Denken und den Aufbau von Urteilskraft versagen …

Eine kleine Geschichte, die mir unlängst widerfuhr, kann vielleicht dabei helfen, unserer anfänglichen „Denk-Kurve“ einen weiteren Akzent zu geben: Eine Freundin, die an der Uni arbeitet, fragte mich, was man sagen könne, wenn Studierende fragten, wozu man noch Sachen lernen müsse, wenn das ohnehin die KI könne (zB Texte zusammenfassen, Literatur recherchieren, etwas auswendig lernen …). Meine Antwort ging in die Richtung, dass wir uns – mal ganz abgesehen von der in Frage zu stellenden Verlässlichkeit von Maschinenergebnissen und der eigenen menschlichen Verantwortung für unser Tun – mit dieser Haltung grundsätzlich den Leistungen von Maschinen als unserem Maß unterwerfen würden. Theologisch weitergedacht könnte man fragen, ob der Mensch damit nicht drauf und dran ist, seine „Gottebenbildlichkeit“ (Gen 1,26) gegen die „Maschinenebenbildlichkeit“ zu tauschen? Und damit wären wir ein weiteres mal mittendrin beim Nachdenken über die Frage, was KI mit dem Menschenbild – zumal im christlichen Kontext! – zu tun hat …

Eigentlich ist es ganz einfach …

Unseren weiteren Denkweg nahmen wir dann entlang der folgenden Wegmarken:

Schritt 1: Wir versuchten, unser Menschenbild und die damit verbundenen Tugenden und Werte für uns sichtbar zu machen. Ungefähr 100 Post-its verschafften uns einen gemeinsamen Eindruck davon, wie sich unser Menschenbild konturiert und profiliert.

Schritt 2: Dem Zusammenhang zwischen KI und Menschenbild versuchten wir mit folgender „Formel“ auf den Grund zu gehen: WENN uns dieses Menschenbild mit jenen Tugenden und Werten wichtig ist, DANN werden wir mit KI so uns so umgehen.

Dieser Denkfigur nachzugehen erwies sich alles andere als leicht; aber im Zusammenhang unserer unterschiedlichen Überlegungen ergab sich dann ein verblüffend einfacher und unserer Ansicht auch praktikabler Ansatz, den die folgenden Grafik zusammenfasst.

  • In der Mitte unserer Prioritäten muss (auch und gerade in Zeiten von KI) der Fokus auf und die Zeit für Beziehungskultur und deren Pflege liegen. Dieser Akzent wird beispielsweise im Vergleich zu einem Satz in der unlängst (am 10.10.2024) erschienen, m.E. wirklich gelungenen Handlungsempfehlung für die Bildungsverwaltung zum Umgang mit künstlicher Intelligenz in schulischen Bildungsprozessen der KMK deutlich. Hier heißt es auf S. 3: „Gleichzeitig findet schulische Bildung immer im sozialen Raum und in zwischenmenschlicher Interaktion statt. Deswegen soll der Einsatz von KI-Anwendungen nicht zur Abschwächung des gemeinsamen Lernens (Hervorhebung von mir) führen.“ Wir sagen: Konzentriert euch gerade in Zeiten von KI auf die Beziehungskultur und fragt euch, mit welchem Zeiteinsatz und mit welchen Methoden ihr dieses Menschwerden am du realisiert. Wir vermuten auch, dass dieser Fokus und diese Priorität auch gewissermaßen zur „Immunisierung“ vor den unerwünschten Begleiterscheinungen von KI stark beitragen könnte. Vielleicht kann man hier auch in der Tradition von Augustinus, der Jahrhunderten formulierte, denken: „Liebe, und tue, was du willst.“
  • Dann – und dem – folgt der kritische und bildungsgerechte Umgang mit KI von und bei allen. No excuses. Das muss einfach sein.
  • Last, but not least (und für christliche Schulen gewissermaßen oben) steht die Aufgabe der Thematisierung der religiösen bzw. transzendenten Dimension. Die im Text weiter oben erzählte, kleine Geschichte aus dem Uni-Bereich (Maschinen- oder Gottebenbildlichkeit?) kann illustrieren, zu welchen Fragen und Überlegungen einen das führen kann, nimmt man die eigenen christlichen Wurzeln ernst …

Diese Leitlinie ist keine Handlungsvorschrift fürs letzte Detail – und so ein Ergebnis wäre eigentlich auch ein „schwieriges“, weil viel zu starres. Aber die Leitlinie setzt klare Prioritäten, die man beispielsweise im Bezug auf den alles entscheidenden Faktor Zeit auch evaluieren bzw. steuern kann: Wieviel Zeit nehmen wir uns ganz konkret für die Gestaltung der Beziehungskultur und deren laufender Pflege? Und wieviel Zeit bekommt der Umgang mit KI und dessen Erforschung und Erprobung. Das Ergebnis muss in beiden Fällen ungleich null und „operationalisierbar“ sein; und das Beziehungsthema muss klar überwiegen. Die Bedeutung der christlichen Identität wird sich am Vorhandensein der Thematisierung dieser Themen im Sinne einer „Theologie der christlichen Schule in Zeiten von KI“ ablesen lassen – oder eben nicht …

Abschließend und weiterführend

Vier weitere Beiträge bzw. Denkanstöße aus dieser Thinktank-Session sollen diesen Beitrag beschließen.

  1. Warum noch Fremdsprachen lernen? Weil sich darin für uns Welten erschließen. (Wer schon mal verliebt war und sich deshalb in eine neue Sprache gestürzt hat, weiß, wovon die Rede ist.) KI als Übersetzungshilfe ist definitiv hilfreich, ersetzt aber nicht das eigene „leibliche“ Eintauchen in die Möglichkeiten, die sich einem durch den Spracherwerb erschließen.
  2. Je jünger der Mensch (bzw. das Kind), desto weniger Simulation und desto mehr Gruppe/Dorf.
  3. Neurowissenschaft ist keine Erkenntnistheorie. (Klaus Neundlinger)
  4. Wie wäre es, in der Produktion von Lernsoftware (und deren Methoden, Lernen sichtbar zu machen), nicht defizitorientiert (nach dem Motto: Eigentlich solltest du das und jenes können – kannst du aber nicht – also arbeite an deiner Minderwertigkeit!), sondern der christlichen Überzeugung des unbedingten Erlöstseins folgend „positiv“ vorzugehen? (Birte Platow)

Post scriptum

Lust zum Selberdenken bekommen? Die Struktur dieser unserer 4. Thinktank-Session kann man recht geradlinig für einen Workshop oder Pädagogischen Tag an der eigenen Schule bzw. in der eigenen Institution übernehmen. Inhaltlich dabei helfen können auch weitere Zitate aus dem eingangs genannten Buch von Thomas Fuchs, die hier heruntergeladen werden können … Wir wünschen erhellende Lektüre!

Runde 3. Den Weg zu beschreiben ist wichtiger, als das Ziel zu fotografieren

Buchstäblich und sprichwörtlich im Schweiße unseres Angesichts haben wir sechs Stunden lang fast nonstop im Stuttgarter Sommerwetter geschuftet. Wir – diesmal ein erweiterter Kreis von 25 Personen: Thinktank-Kernteam, dazu einige Lehrkräfte und Schüler:innen als Gäste, nochmals verstärkt durch Dr. Patrick Albus, Psychologe und wissenschaftlicher Mitarbeiter der Abteilung Lehr-Lernforschung der Uni Ulm. Thema unseres KI-Thinktanks war diesmal der KI-Einsatz in der Oberstufe, der gerade im Kontext von Facharbeiten oder anderen schriftlichen Aufgaben fast durchgängig große Aufmerksamkeit erfährt – wenn auch etwas einseitig im Schlaglicht der Fragen des Schummelns, Plagiierens, Zitierens (und evtl. Verbietens).

Das Ergebnis unserer Arbeit in einem Satz zusammengefasst: Den Weg zu beschreiben ist wichtiger, als das Ziel zu fotografieren. In diesem Sinn: der Reihe nach. Welchen Weg haben wir eingeschlagen, um uns den in der Folge umrissenen Ergebnissen der 3. Thinktank-Klausur am 10. Juli 2024 anzunähern …

(Und bevor Sie weiterlesen: Intensive Arbeit mit substantiellen Ergebnissen führt zu langen Texten! Aber die ca. zwanzigminütige Lektüre ist die Zeit wert, die Sie da jetzt investieren werden. Versprochen!)

Eine stärken- und problemorientierte Arbeitsweise

Schritt 1. Unser Thinktank lebt von dem, was alle darin einbringen. Gerade durch die Kombination diversen Wissens und heterogener Expertisen und Sichtweisen entsteht Neues und wächst das Verständnis. Die Vorstellrunde zu Beginn war daher mit der Frage verbunden: ICH und das BESTE zum Thema des Tages. Mit dem „Besten“ waren sowohl Quellen als auch Erfahrungen und Ratschläge gemeint.

Schritt 2. Dann wurde gesammelt. Entlang der Leitfrage „Was ist das Problem, für das unser Ergebnis heute die Lösung sein wird?“ haben wir an die 80 einzelne Probleme fein säuberlich auf Post-its notiert und im Anschluss zu sechs Problemclustern gebündelt.

Schritt 3. Arbeitsgruppen. Je nach Lust, Laune und Berufung haben wir uns im Anschluss den sechs Themenbündeln gewidmet, um diese dann abschließend …

Schritt 4. … einander vorzustellen, zu diskutieren, zu komplettieren. Wer an den „Rohergebnissen“ interessiert ist: Die gibt’s hier im Detail nachzulesen: https://t1p.de/forum-3

Schritt 5. Last, but not least, am Tag danach haben wir dem Thinktank-Forum als Resonanzgruppe das Erarbeitete vorgestellt und festgestellt, dass wir mit den Ergebnissen sehr zufrieden sein können.
Stichwort Ergebnisse: Was genau haben wir also erarbeitet?

Das Beste zum Thema des Tages: Quellen und Horizonte

Schon in der ersten Runde zeigte sich: Dem Thema KI wird man nur gerecht, wenn man auch Zeit dafür investiert. Und das hatten alle Teilnehmer:innen des Tages reichlich auch schon im Vorfeld unseres Treffens getan. Welcher Horizont sich in Schritt 1 unseres Vorgehens gezeigt hat, vor dem wir dann die spätere Arbeit geleistet haben, das sollen hier ein paar Statements der Teilnehmenden aufzeigen:

  • KI kann „lügen“ – und wir haben es also mit einem eminent ethischen Thema zu tun.
  • Nach dem vierten Plagiatsfall haben wir an unserer Schule verstanden: Wir müssen etwas unternehmen – aber zusammen und nicht gegeneinander.
  • Die Kurzprosa von ChatGPT war echt nicht gut … eher: schlecht …
  • Im Vorfeld gründlich und gut eingeführt war das Arbeiten mit KI ok.
  • Ich nütze für meine Unterrichtsvorbereitung gerne KI – aber es ist ein Tool und nicht die Lösung: VERSTEHEN ist mehr!
  • KI kann aktivierend und reflexionsfördernd sein.
  • Mit Abschlussarbeiten gibt es zum Teil die größten Probleme; es ist wichtig zu lernen KI zu nutzen, um damit sauber weiterarbeiten zu können.
  • Ist KI ein Tabu-Thema? Na klar haben die Schüler:innen Erfahrung damit und natürlich nützen sie KI. Also reden wir darüber!
  • Die Erfahrungen mit KI sind gemischt. Je komplizierter das Thema wird, desto weniger hat KI dabei „zu sagen“.
  • Die Korrektur von Programmcode funktioniert mit KI sehr gut.
  • KI bitte nicht verteufeln … und es kommt auf die Frage der Fairness an: Wer kann sich KI leisten? Wie können alle Zugang bekommen?

Vielleicht hast du da, wo KI dir helfen kann, gar kein Problem?

Zusätzlich seien hier noch drei Quellen – stellvertretend für die Fülle, die der Thinktank schon zusammengetragen hat – explizit hervorgehoben:

  • Das Multimedia Kontor Hamburg hat eine empfehlenswerte Linksammlung auf ihrer Themenseite zu KI in der Hochschullehre kuratiert.
  • Im Schweizer HEP-Verlag ist kürzlich ein eigenes Buch zum Thema KI bei schriftlichen Arbeiten clever nutzen erschienen: Es macht Klick.
  • Und das Thema des verantwortlichen Einsatzes von ChatGPT verdeutlicht die folgende Grafik einfach und unmissverständlich:

Vom Problem zur Lösung: Mit sechs Themenfeldern zur KI-Strategie

Eine halbe Stunde später und um ca. 80 Post-its reicher war dann die Frage zu klären: Auf wie wenig Themenblöcke können wir diese Fülle reduzieren? Eines hatte sich zu diesem Zeitpunkt schon klar herausgestellt: Das Tagesthema – KI-Einsatz in der Oberstufe – ist nicht auf eine Handreichung zum Thema Zitat und Plagiat zu reduzieren. Nach einigen Überlegungen – schließlich hängt ja alles mit allem zusammen: aber was kann man als Querschnittsmaterie guten Gewissens „mitmeinen“, und was muss explizit in die erste Ebene gehoben werden, damit nicht Wesentliches verloren geht? – haben wir uns dann entschlossen, mit den folgenden sechs Themenfeldern (siehe Grafik im Anschluss) in die Arbeitsgruppen zu gehen. Eine Entscheidung, die sich im Laufe der Zeit als richtig herausstellen sollte …

Auch wenn in der Folge mit dem Thema auf der Grafik ganz oben, dem Erwerb von KI-Kompetenzen, der Anfang gemacht wird: Die kreisförmige Anordnung der sechs Aspekte in der Grafik soll andeuten, dass alle sechs Themenfelder gleich wichtig sind. In einer Aufzählung muss man halt irgendwo anfangen, auch wenn bewusst auf eine Nummerierung verzichtet wird …

Alle erwerben KI-Kompetenzen – Lehrkräfte und Schüler:innen

Für die Arbeitsgruppe ist klar, dass sich dem Thema KI niemand entziehen kann – weder Lehrkraft noch Schüler:in. Hier sind alle gleichermaßen Lernende, was auch gleich einmal zur Idee führte, diese gemeinsame Lernpflicht bewusst als gemeinsame Lernchance bzw. –gelegenheit zu verstehen und zu nützen. Vielleicht im Rahmen von Oberstufen-Fortbildungen, die gemeinsam von Lehrer:innen wie Schüler:innen vorbereitet und besucht werden? Darüber hinaus bieten sich natürlich eine Fülle weiterer Formate an:

  • Für Lehrkräfte: Fortbildungen; pädagogische Tage; Austausch-Formate zu Erfahrungen im Unterricht …
  • Für Schüler:innen: „KI-Führerscheine“; spezifische Unterrichtseinheiten; systematische (und gut eingeführte bzw. vorbereitete) Anwendung in allen Unterrichtsfächern; spezifisches Methodentraining (zB speziell für Facharbeiten) oder ganze „KI-Tage“.

Im Bewusstsein, dass diese Kompetenzfelder natürlich noch auszudifferenzieren sind, hat die Gruppe auch einen ersten Anlauf in Richtung KI-Kompetenzen genommen, und dabei die folgenden vier definiert:

  1. Ich verstehe die Grundlagen von KI.
    (Was ist KI? Wie funktioniert KI?)
  2. Ich bin in der Lage, die Möglichkeiten und Grenzen von KI zu erkennen.
    (Zur Verbesserung des Schulalltags)
  3. Ich verstehe die ethischen und die gesellschaftlichen Auswirkungen von KI.
    (Bewertung von Daten, und Ergebnissen; Gesellschaft, Recht, Demokratie, Arbeitswelt)
  4. Ich kann KI-Tools anwenden.
    (Im Schulalltag)

Thematisiert müsse KI bereits in der Grundschule werden – mit besonderer Aufmerksamkeit hinsichtlich altersrelevanter Aspekte, wozu auch altersrelevante Gefahren gehören! Und es gilt in diesem Bereich der schnell voranschreitenden Entwicklungen jedenfalls: Dran bleiben! Weiterlernen! Nach dem Lernen ist vor dem Lernen.

Unterstützungspotenziale von KI erschließen

Inklusion also: Als Querschnittsthema betrachten und „mitmeinen“? Oder als eigenes Thema hervorheben? Hervorheben lautete die Entscheidung – und der Verlauf der Überlegungen hat diese unseres Erachtens mehr als gerechtfertigt.

Die Gruppe, die an diesem Themencluster arbeitete, hat sich vorab für folgende, durchaus breite Definition von Inklusion entschieden (siehe dazu auch die folgende Quelle):

Inklusion ist ein Prozess, bei dem alle Schülerinnen und Schüler unabhängig von ihren individuellen Fähigkeiten, Bedürfnissen oder sozialen Hintergründen gemeinsam in einer Schulumgebung lernen. Dieses Verständnis geht über den Fokus auf Behinderung hinaus.

Im Zuge der weiteren Überlegungen wurden zwei große Bereiche unterschieden:

  • Allgemeine und Individualisierungsaspekte
  • Prüfungsrelevante Aspekte

Zu den allgemeinen sowie Individualisierungsaspekten gehören …

  • der Abbau von Bildungsbarrieren (zB bei Schüler:innen aus bildungsfernen Familien) durch Coaching und Feedback durch KI);
  • Inklusions- und Rehabilitationsbedarfe, insbesondere bei folgenden Förderschwerpunkten: Sehen (KI, die Bilder beschreibt); Hören (Voice-to-Text; Gebärdenavatare); Verstehen (Erklärungen in einfacher Sprache); Sprechen (Text-to-Voice – Voice-to-Text; Rechtschreibkorrektur und Textverbesserung, sinnzusammenhängendes Schreiben – zB für den Förderschwerpunkt Lernen, bei Leserechtschreibschwächen (LRS), Autismus oder bei „einfachen“ körperlichen Handycaps wie einer Lähmung oder einem gebrochenen Arm);
  • Sprachbarrieren (zB im Falle anderer Bildungssprachen als Deutsch durch: Übersetzung, Textverbesserung; Hilfe beim Verständnis von fachlichen Angaben; Vokabellernen);
  • adaptive Lernprogramme;
  • Unterstützung im Überwinden von Lernstrategiebarrieren (durch KI als Lerncoach; Unterstützung bei der Zeit- und Themeneinteilung);
  • Hilfe gegen Motivationsbarrieren (Starthilfe mit niedriger Barriere und erleichterter Einstieg: „Erklär mir: Was gehört zu …?“; „Entwickle mir spannende Aufgaben zu …“; „Frag‘ mich zu folgenden Themen ab …“; Schreibhemmung);
  • Arbeitserleichterung und Zeitersparnis (Zusammenfassungen, Strukturierungen, Überarbeitungen von Texten und Inhalten, um diese für Menschen mit Inklusionsbedarf anzupassen).

Hinsichtlich prüfungsrelevanter Aspekte wurde herausgearbeitet:

  • Es wäre zu überlegen (und ggf. dafür zu lobbyieren), KI als Nachteilsausgleich (NTA) zu erlauben – bislang ist das nicht der Fall. Aber man sollte über KI durchaus in den Kategorien von „Brillen“ bzw. „Taschenrechnern“ denken, die ja auch erlaubt sind …
  • Weiters stellt sich – u.a. auch im Kontext von KI – die Frage des Lebensweltbezugs von Prüfungen.
  • Bei Facharbeiten bzw. gleichwertigen Feststellungen von Schülerleistungen (GFS) bietet sich ein breites Spektrum an Aspekten an: NTA bei GFS in Falle von – beispielsweise – starkem Stottern durch Text-to-Voice oder einem Video anstatt einer Präsentation; KI als Brainstorming-Tool oder für die strukturelle und sprachliche Überarbeitung im Falle von Sprachbarrieren – natürlich mit entsprechender Dokumentation des Prozesses sowie dessen Reflexion; KI als „Sparringpartner“ bei der inhaltlichen Verbesserung oder als Hilfestellung für die Prüfungsvorbereitung.
  • Last, but not least, bietet KI die grundsätzliche Möglichkeit zur Entwicklung urheberrechtsfreier Bilder und Grafiken.

Die letzten Punkte machen den Zusammenhang mit anderen Themenclustern deutlich, aber – wie gesagt – uns schien es mehr als gerechtfertigt, dem Inklusions- und Unterstützungsaspekt von KI gebührende und eigenständige Aufmerksamkeit zu widmen. Nicht zuletzt, weil – und das ist nun ein Aha-Moment, das alle mitgenommen haben – nicht alle, die sich in akademischen Fertigkeiten üben, im weiteren Verlauf ihres Lebens akademische Karrieren anstreben; KI gibt aber Chancen mit auf den Weg, besser voran und weiter zu kommen, als das ohne diese Hilfe möglich wäre.

Last, but not least: Im Zusammenhang mit KI muss – einmal mehr – dem Thema Sprache gebührend Aufmerksamkeit geschenkt werden: Lesefähigkeit. Die Kompetenz, Fragen zu stellen und insbesondere Diskurs- und Kritikfähigkeit, die letztlich gerade auch mündlich ihr bevorzugtes Element finden. Im Themencluster Reflexion und Prozessdokumentation wird davon nochmals ausführlich die Rede sein …

Regeln im Umgang mit KI entwickeln

Wie bereits erwähnt haben wir in einer heterogenen Runde gemeinsam mit Schüler:innen gearbeitet. Und das hat, wie erhofft, auch Perspektiven zum Vorschein gebracht, die sonst vielleicht weniger bewusst gewesen wären. Regeln im Umgang mit KI bedeuten jedenfalls mehr als richtig zitieren und nicht schummeln. Da wäre also anzumerken:

  • Transparenz: Wichtig wären gemeinsame Vorstellungen des Kollegiums, wie mit KI umgegangen wird, auf die sich Schüler:innen dann auch verlassen können. In diesem Zusammenhang wäre beispielsweise die Einführung der Folgenden „Stufenleiter“ des KI-Einsatzes möglich, die Lehrkräften Optionen an die Hand gibt, die sie im Rahmen ihres Unterrichts dann jeweils vorgeben bzw. anstreben könnten. Beschlossene Regeln müssen einheitlich sowohl an Lehrkräfte als auch an Schüler:innen vermittelt werden.
  • Verlässliche Einführung in die Nutzung von KI: Solche Bildungsvorgänge sollten für alle in der Schule gut vorbereitet durchgeführt werden. Zu einer solchen Einführung gehört auch die Vermittlung von Kenntnissen zur Adaptation und Kontextualisierung von KI (was wiederum direkt ins Thema der KI-Kompetenzen führt).
  • KI-Verwendung für Lehren, Lernen, schriftliche Arbeiten etc.: Hier ist man letztlich bei den konkreten und praktischen Fragen des alltäglichen Einsatzes von KI angelangt: Wie und wofür kann KI zur Recherche außerhalb des Unterrichts verwendet werden? Gibt es Zugang zu „eingeschränkten“ KIs, die keine vollständigen Lösungen erbringen, aber hilfreiche Unterstützung für den Lernprozess bieten? Welche Inhalte und Medien darf ich von einer KI erstellen lassen – und wie werden die gekennzeichnet? Welche Art von KI darf verwendet werden? Und wie bzw. von wem kann diese Verwendung ggf. adaptiert/eingeschränkt werden? Wie wird KI zitiert? Wie wird die Überarbeitung von KI-generierten Inhalten gekennzeichnet? (Gut zu wissen, dass diese Diskussion auch auf universitärem Boden eine laufende und keineswegs entschiedene ist!) Wie wird mit Fragen des Urheberrechts umgegangen? Auch die Frage des KI-Zugangs für alle ist hier zu betonen!
  • Letztlich Regelverstöße und Täuschungsversuche: Wie wird damit umgegangen?

Dieser erste Wurf eines möglichen regulatorischen Rahmens zeigt einerseits, dass hier sicherlich noch Leerstellen zu füllen und Details zu entwickeln sind (das erfordert ohnedies auch die laufende Entwicklung im Feld); andererseits macht er auch deutlich, dass es unverzichtbar ist, dass sich jede Schule für sich im Zusammenhang mit KI ihres Verhaltens bewusst werden und KI in ihre Schulkultur inkludieren muss. Hier hilft kein copy-paste der Ergebnisse anderer (diese können bestenfalls inspirieren und orientieren):

Nur selber denken macht (KI-)schlau!

Die Haltung, gemeinsam lebensbegleitend Lernende zu sein, kann durch die Auseinandersetzung mit KI elementare Impulse bekommen. Haltung kann man aber eben nicht „herunterladen“, sondern muss kontinuierlich durch (gemeinsame) Reflexion und Auseinandersetzung eingeübt werden.

Prüfungsformate adaptieren

Bill Clinton wurde mit dem Slogan „It’s the economy, stupid.“ 1992 Präsident. Was Schulentwicklung betrifft, könnte einem die Variante „It’s the examination, stupid.“ einfallen. Alles Gerede von 21st century skills, Fehlerkultur etc. wird Makulatur, wenn die Prüfungsformate (allen voran das Abitur) sich nicht entsprechend ändern. Denn die normative Kraft der faktischen Prüfungen trumpft im Endeffekt alles.

Möglicherweise … nein: Höchstwahrscheinlich sind Prüfungsformate und deren Adaptation der Schlüssel zur Weiterentwicklung – auch in Sachen KI. Und aus diesem Grund haben wir den (sic!) Schlüsselsatz unseres letzten Treffens auch aus Überschrift dieser Dokumentation gewählt:

Den Weg zu beschreiben ist wichtiger, als das Ziel zu fotografieren.

Dieser Fokus auf Prozessbeschreibung wird schulrechtlich nochmals gestützt durch die Vorgabe des KM, dass Leistungen nur bei zweifelsfreiem Nachweis von ungerechtfertigtem KI-Einsatz aberkannt werden dürfen. Dieser Nachweis ist de facto nicht zu erbringen. Also: Besser auf anderes konzentrieren!

Natürlich darf KI im Prozess des Lernens und auf dem Weg zur Leistungserbringung – entsprechend der vereinbarten Regeln, selbstverständlich – definitiv zum Einsatz kommen. Auch das Stichwort „Fehlerkultur“ macht die vermehrte Konzentration auf „formatives Assessment“ wünschenswert. Um eine entsprechende Kultur Schritt für Schritt zu etablieren, empfiehlt es sich, hiermit in den Fächern ohne Klassenarbeiten zu starten. Das Lernen wird dann also mehr und mehr entlang von Kriterien, mit einem Fokus auf bessere Aufgabenstellungen (Lebensweltbezug!), auf neue Methoden (SCRUM) oder gleichwertige Feststellungen von Schülerleistungen (GFS) erfolgen. Eine entsprechende Befreiung vom Notendruck wäre eine schöne Begleiterscheinung.

Aufgrund der Relevanz des Themas hat sich unmittelbar nach dem Thinktank bereits eine kleine Arbeitsgruppe in dieser Sache (noch vor und während der Ferien) an die Arbeit gemacht. Und selbstverständlich werden wir uns hier auch mit Akteuren wie dem Institut für zeitgemäße Prüfungskultur und deren Community in Verbindung setzen bzw. an deren Arbeit orientieren! Ziel: Eine Liste alternativer Prüfungsformate inklusive allgemeingültiger bzw. anpassbarer Kritieren sowie ein Prozessdokumentationsbogen für Schüler:innen und Lehrkräfte – evtl. nach Klassenstufen differenziert.

Reflexion und Prozessdokumentation realisieren

Wie im obigen Themencluster ausgeführt, muss die Sache der Lernprozesse fixer Bestandteil von Prüfungen werden. Nun ist aber nicht jeder Lernprozess schon mit einer Prüfung verbunden. Und jeder Leitfaden zum Thema KI, der etwas auf sich hält, beginnt mit dem Hinweis auf Reflexions- und Urteilsfähigkeit. Insofern ist der Thematik Reflexion und Prozessdokumentation (im Bewusstsein aller Zusammenhänge und Redundanzen) ein eigener Bereich gewidmet.

Meilensteine und Wegweiser auf diesem Weg sind beispielsweise die folgenden:

  • Selbstreflektiertes Lernen, Reflexionsfähigkeit und metakognitive Kompetenzen müssen laufend als Ziele bedacht, kommuniziert und konkret verfolgt werden.
  • Anhand von Lehrplanbeispielen kann die KI-Nutzung schrittweise erklärt und gleichzeitig fachlich reflektiert werden.
  • Es braucht jedenfalls gemeinsames, sicheres Vorwissen über Grundlagen und Wissensstrukturen auf einer mittleren Ebene, da sonst KI-Ergebnisse nicht bewertet und eingeordnet werden können.
  • Und natürlich stellt KI-Einsatz auch Ansprüche auf der Medienkompetenz-Ebene.

Die folgenden Fragen machen deutlich, was einerseits mit Prozess- und andererseits mit Reflexionsdokumentation konkret gemeint ist – wir verdanken sie, wie die Grafik oben, Dr. Patrick Albus von der Uni Ulm.

Reflexionsdokumentation:

  • Was war mein Ziel?
  • Habe ich das Ziel erreicht?
  • Was hat gut funktioniert, was weniger?
  • Welche Aufgabe hatte die KI, welche ich?
  • War die Zusammenarbeit mit der KI effizient? Und effektiv?
  • Welche Kompetenzen habe ich gebraucht/genutzt, um mit der KI zu arbeiten?
  • Was habe ich dazugelernt? Über den Inhalt? Über die KI? Über mich?
  • Was würde ich beim nächsten Mal (anders) machen?

Prozessdokumentation:

  • Welche Tools habe ich benutzt? In welcher Reihenfolge?
  • Welche Prompts habe ich gegeben?
  • Welche Informationen habe ich der KI zur Verfügung gestellt?
  • Wie habe ich die Prompts verbessert?
  • Wie habe ich den Output (weiter)verarbeitet?
  • Habe ich andere Quellen hinzugezogen?

Abschließend: Der Weg zur Reflexionskompetenz der Schüler:innen führt über die Reflexionskompetenz der Lehrkräfte. In dem Maße sich Lehrkräfte in ihren Vorbereitungen und Analysen auf neue Wege begeben, werden ihnen die Schüler:innen in der Regel „automatisch“ nachfolgen.

Haltung, Ethik, Gesellschaft: Ein KI-Leitbild schreiben

KI fordert Schule auf allen Ebenen heraus. Und die Schule ist hier keine Insel, sondern Teil der Gesellschaft, zu der sie sich auch verhalten muss – typischerweise in einem Leitbild.

Eine Arbeitsgruppe aus dem Mörike-Gymnasium (teilweise in der Formulierung unterstützt durch Überarbeitungen von ChatGPT – in kursiven Absätzen deutlich gemacht) hat uns dankenswerterweise gleich ein konkretes Textbeispiel geliefert, wie ein solches Leitbild aussehen und was es enthalten könnte.

KI-basierte Apps sind in unserer Schule ein zugelassenes Hilfsmittel, weil wir die Präsenz von KI in unserer Lebenswelt anerkennen und den Kompetenzen im Umgang mit KI als wichtig erachten für Abgänger:innen, um in der heutigen bzw. zukünftigen akademischen und Arbeitswelt erfolgreich zu sein.
Die richtige Nutzung erlernen die Schüler:innen im Laufe ihrer Schullaufbahn. Richtig bedeutet für uns, dass ein reflektierter Umgang mit KI Tools vermittelt wird. Wir wissen, dass die KI nur ein Hilfsmittel beim Erstellen von Ergebnissen ist; das Denken muss von uns selbst übernommen werden. Zum einen erfordern dies die immer noch in Frage zu stellenden Ergebnisse von KI-Tools, zum anderen die in der Schulzeit bei jungen Menschen immer noch laufend stattfindende "Hirnentwicklung" (...). Wir lernen mit der KI, nicht die KI für uns. 
Darüber hinaus ist es uns ein Anliegen, dass Schüler:innen lernen, die Grenzen und Möglichkeiten von KI zu erkennen. Dies beinhaltet sowohl das Verständnis technischer Aspekte als auch die Fähigkeit, die Ergebnisse kritisch zu bewerten und gegebenenfalls alternative Lösungen zu suchen. Durch Projekte, in denen KI-Tools eingesetzt werden, fördern wir ein praxisnahes Lernen, das die Schüler:innen auf zukünftige berufliche Anforderungen vorbereitet.
Auch im Unterricht selbst wird der Einsatz von KI kontinuierlich reflektiert und diskutiert. In verschiedenen Fächern werden die Schüler:innen ermutigt, eigene Projekte zu entwickeln, in denen KI eine Rolle spielt, und diese im Klassenverband vorzustellen. So lernen sie nicht nur die Anwendung von KI, sondern auch, ihre Ergebnisse zu präsentieren und zu verteidigen.
Die Integration von KI in den Schulalltag trägt dazu bei, dass unsere Schüler:innen nicht nur passiv Wissen aufnehmen, sondern aktiv an ihrer Bildung und Zukunftsgestaltung teilnehmen. Durch den bewussten Einsatz und die kritische Auseinandersetzung mit KI schaffen wir eine Lernumgebung, die Innovation und Eigenständigkeit fördert. (kursiv - Überarbeitung durch ChatGPT)
Ein weiterer wichtiger Aspekt unserer Bildung ist die Förderung der Kreativität im Umgang mit KI, aber auch ohne sie. Unsere Schüler:innen werden ermutigt (aber nie gezwungen), KI als Werkzeug zur Umsetzung ihrer eigenen kreativen Ideen zu nutzen. Ob es sich um die Entwicklung innovativer Lösungen für alltägliche Probleme, das Erstellen von Kunstwerken oder die Gestaltung neuer Technologien handelt – die Möglichkeiten sind grenzenlos und werden durch die KI-Anwendungen erweitert. Durch kreative Projekte lernen die Schüler:innen nicht nur technische Fertigkeiten, sondern auch, wie sie ihre Fantasie und Innovationskraft in die Realität umsetzen können. Andererseits ist die analoge Arbeit mit „der Hand“ ebenso weiterhin wichtig und wird bewusst durchgeführt.
Unsere Lehrkräfte sind kompetente KI-Nutzer:innen, erkennen ihre zentralen Bedeutung an und bilden sich stetig fort.
Dennoch wird es in der Schule auch viele weitere Ziele geben, die ohne KI ablaufen (müssen und dürfen!).
# Persönlichkeitsentwicklung, die in der Schule weiterhin zentral ist, findet nur bei reflektierter Eigenleistung statt - Feedback beinhaltet immer auch eine persönliche Dimension - dazu müssen persönliche Beziehungen aufgebaut werden, und dessen sind wir uns bewusst. 
# Eine moralische Entwicklung der jungen Menschen kann außerdem nicht von einer KI übernommen werden, hier wird persönliches kritisches Denken weiterhin zentral gelernt und weiterentwickelt. Auch KI Ergebnisse müssen angesichts ihrer moralisch-ethischen Dimension hinterfragt werden.
# Eine Chancengleichheit für alle Schüler:innen wird garantiert, indem alle Zugriff auf eine geeignete KI-App haben. Wir unterstützen auch im Hardware-Bereich, damit die Arbeit in der Schule und zu Hause gleichermaßen möglich ist.
# Unseren Eltern ist unsere Haltung zum Thema KI bekannt, sie fühlen sich gut informiert und einbezogen in relevante Entscheidungen.

Der folgende Hinweis darf auch hier nicht fehlen: Lebendige Leitbilder, die nicht in Schubladen verstauben, brauchen die lebhafte Auseinandersetzung möglichst aller Stakeholder einer Schule mit den darin vorfindlichen wesentlichen Leitgedanken. In diesem Sinn ist das obige Beispiel keine copy/paste-Vorlage, sondern soll die jeweils schulspezifischen, eigenen Gedanken dazu inspirieren.

Ein paar weiterführende Gedanken

An diesem Punkt der Überlegungen angekommen, hat es sich bewährt, sich folgende Frage zu stellen:

Was fehlt?

Jedes Ergebnis ist gleichzeitig auch immer „nur“ ein Zwischenergebnis auf dem weiteren Denk- und Entwicklungsweg. Für uns als KI-Thinktank haben sich ja schon bisher einige Fragen gestellt, die sich durch die Arbeit an diesem Thema nicht erübrigt haben. Gleichzeitig zeitigt jeder neue Denkprozess ein paar neue wesentliche Gedanken. Und in diesem Sinn soll dieser Beitrag mit einigen weiterführenden Gedanken abschließen:

  • KI und Arbeitswelt: Was „schwappt“ aus der Arbeitswelt sinnvollerweise in die Schule hinein? Und wo kann man bewusst „entspannt“ sein und sich um Themen kümmern, die nur die Schule bearbeiten kann?
  • KI und Ethik: Angesichts unbekannter wirtschaftlicher, moralischer sowie klimatischer Auswirkungen (zB sei der exorbitante Stromverbrauch hier stellvertretend (vergleiche auch evangelische und katholische Statements dazu) muss man sich ernsthaft die Frage stellen, in welchem Ausmaß und von welchen Anbietern man KI verwendet.
  • KI und Menschenbild: Die aktuellen KI-Entwicklungen lassen jahrtausendealte Fragen nach dem Menschen und seiner „Eigenart“ neu „hochkommen“ – eine Chance, das expressive Wesen des Menschens aufgrund seines Leibseins neu zu entdecken. (So nachzulesen bei Käte Meyer-Drawe S. 184, die hier einen Gedanken von Helmuth Plessner aufgreift.)
  • KI ist (zu mindest ein wenig) wie Corona, nur anders. Eine Disruption, die einen – ob man will, oder nicht, zur Auseinandersetzung zwingt. Es empfiehlt sich, hier nicht in ein „Wettrüsten“ einzusteigen, sondern die Gelegenheit zu nützen, den eigenen Fokus als Schule zu stärken.
  • Zum Stichwort „Fokus“ ein abschließender Gedanke: KI (und das gilt stellvertretend eigentlich für vieles (alles?), was die Digitalisierung in die Schule gebracht hat) wird ja gerne mit dem (Verkaufs?)-Argument „korreliert“, dass man dadurch Zeit für Wesentliches „einsparen/gewinnen“ könne. Nun habe ich in mehreren Jahrzehnten Digitalisierung diese eher als „Zeitfresser“ denn als „Zeitbringer“ erlebt. Aber man könnte ja am obigen Gedanken (Zeit für Wesentliches gewinnen) ansetzen und nicht von der Technologie her denken/suchen/erproben, sondern vom „Wesentlichen“ aus. Dann würde die Frage lauten: Was ist uns in der Schule wesentlich? Und wie nützen wir Technologie, uns zu entlasten? Damit hätte man auch ein „smartes“, messbares Ziel bei der KI-Anwendung: nämlich nachgewiesen mehr Zeit für Wesentliches! 

2. Runde: KI-Flash!

Was passiert, wenn man sich intensiv mit KI zu beschäftigen beginnt? Man sieht überall nur mehr KI … Und man denkt neu über den Menschen und übers Lernen nach. So eine der häufigeren Feststellungen am 5. Juni im Rahmen der zweiten Thinktank-Runde.

KI-Flash – unter diesem Motto stand das Treffen diesmal. Darunter kann man sich all das vorstellen, was einen bislang in Sachen KI „geflasht“ hat – positiv, negativ … egal. Hauptsache: „Überwältigend-irre-megacool-wahnsinnig-unsäglich-unpackbar-zukunftsverdächtig-unglaublich-horizonterweiternd etc.“

Der Tag hat gezeigt, wie gewinnbringend für die Arbeit des KI-Thinktanks es war, einander gegenseitig in diesem Sinne KI-„Gipfelmomente“ ebenso wie „Tiefpunkte“: also Horizonterweiterungen und Geistesblitze aller Art mitzuteilen. Dieser Blog-Beitrag möchte in einige der Diskussionen, die sich entsponnen haben, ein Stück weit mitnehmen und anregen, sich eigenen Gedanken dazu zu machen. Und darüber hinaus gibt es eine lange Liste an Beobachtungen, die fürs weitere Vorgehen von Bedeutung für den Thinktank sein werden.

Vom Nutzen und Nachteil des Taschenrechners fürs Lernen

Gretchenfrage: Hat der Taschenrechner sich eher positiv oder negativ auf die Mathe-Kompetenzen ausgewirkt? Irgendetwas geht ja um Laufe der Zeit immer verloren (beispielsweise die breit gestreute Fähigkeit, mit der Hand Kühe zu melken …) – aber wie wichtig ist das, was verloren geht, tatsächlich?

Seit der Einführung von Schulbüchern (die vermutlich von dem einen oder anderen Seufzen über den Verlust von Merkfähigkeit bei den Schüler:innen begleitet war) ist der Taschenrechner die nächstgrößte technologische Innovation in den Klassenzimmern. Und damit vielleicht ein gutes Anschauungs- und Nachdenkbeispiel für das, was mit der breitflächigen Einführung von KI gewonnen (und verloren) werden könnte.

Höchstwahrscheinlich liegt die Antwort hier – wie so oft – in der Gestaltung einer neuen Kultur, die bewusst Nachdenken und Kopfrechnen mit den Möglichkeiten der Technologie verknüpft. Ich denke hier an meinen verstorbenen Physiklehrer, dessen Praxis darin bestand, den Fokus auf den rechnerischen Formelansatz zu legen, im Berechnen dann aber großzügig (nach dem Motto: 1=2=PI) zu kürzen, weil im Maßstab des Universums ohnehin nur die Größenordnungen, sprich: Zehnerpotenzen von Bedeutung wären … Für unsere Denkfähigkeit und unser Verständnis hat seine Methode jedenfalls tolle Beiträge geleistet (zumindest bei den meisten …).

Jedenfalls führten diese Überlegungen schnurstracks zur Frage, wie konkret kritisches Denken und Urteilsfähigkeit geübt und die Kultur des richtigen Maßes im Kontext von KI erreicht werden könnte. Diese „Aushandlung“ findet nicht an grünen Tischen, sondern in Wirklichkeit schon tagtäglich in vielen Klassenzimmern (mehr oder weniger bewusst) statt. Und wer sich diese Thematik in weniger als einer halben Stunde vor Augen führen möchte, ist mit diesem Video (Danke für den Tipp in die Thinktank-Runde!) sehr gut beraten.

Auch der Thinktank wird sich mit diesem Thema noch ausführlich auseinandersetzen. Aber davon weiter unten mehr.

KI „halluziniert“ immer! Oder was/wem man eigentlich noch glauben kann

Themenwechsel. In seinem ungemein klugen (und ungemein lesbaren) Buch Homo cyber. Ein Bericht aus Digitalien. stellt der österreichische Informatiker Peter Reichl (S. 47f) lapidar fest:

„ChatGPT halluziniert aus Prinzip, immer und überall, und deshalb kann und sollte man sich darauf nicht, niemals und nirgendwo verlassen.“

Wir wären also beim Thema Vertrauen angelangt. Und beim Aufbau dieses Vertrauens. Damit ist auch eine der Schwachstellen des Großteils der aktuell geführten KI-Debatten angesprochen, die sich meist um den Umgang von mündigen Erwachsenen mit KI drehen. Wie sieht es aber mit Minderjährigen, Unmündigen, Heranwachsenden, Orientierung erst Erarbeitenden aus?

Jedes Kind ist zuerst einmal darauf angewiesen, demjenigen bzw. denjenigen, die im etwas beibringen, zu vertrauen. Erst allmählich bildet sich ein „Rahmen“ und ein „methodisches Repertoire“ heraus, auf dessen Basis man dann Urteile fällen und Kritik üben bzw. neu und selbstständig Einordnen kann. Nicht zuletzt aus diesem Grund wird in jeder einigermaßen seriösen Debatte über die Sache auch immer wieder festgestellt, dass man im bzw. zum Umgang mit KI gar nicht genug wissen könne, um die Technologie verantwortungsbewusst einsetzen zu können. In ebendiesen Debatten wird regelmäßig KI als personalisierter Lernhelfer und möglicherweise „große ausgleichende Kraft“ für sozial Benachteiligte vorgestellt. Aber – siehe oben – wenn man ihr nicht vertrauen kann, der KI? Oder – etwas positiver gewendet – welcher KI kann man unter welchen Umständen vertrauen und sie tatsächlich als zeit- und ressourcensparende, ermöglichende „Hilfs-Lehrkraft“ zum Lernen einsetzen?

Mittlerweile ist ja nicht nur die „Halluzination“ von Chatbots ein hinlänglich bekanntes Phänomen; darüber hinaus muss man feststellen, dass KI „lügt und betrügt“. (Gedankenstrich: Kann Technologie „lügen und betrügen“? Beides wäre ja mit Intention verbunden. Was wiederum Personen auszeichnet. Eine Maschine ist aber keine Person, oder? Aber davon gleich mehr im folgenden Absatz …) Die vom ZDF recherchierte Geschichte der KI Cicero des Konzerns Meta zeichnet nach, wie – wider die Intentionen seiner Programmierer – die KI sich „foul play“ antrainiert hat, um zu gewinnen. Die Sorgen, sich von der KI die Kontrolle nicht aus der Hand nehmen zu lassen – zuletzt auch vom Papst im Rahmen des G7-Gipfels geäußert, sind also wohl nicht aus der Luft gegriffen.

Die Würde des Menschen ist unantastbar – und warum tut KI dann so, als wäre sie eine Person?

ChatGPT tut es. Gemini tut es. Siri und Alexa tun es schon lange. You und Perplexitiy sind da etwas zurückhaltender. My IA von Snapchat tut es besonders aufdringlich. Diese KI-Bots befleißigen sich einer Sprache und eines Auftretens, das eigentlich nur einer Person zukommen würde. „Wie kann ich dir heute helfen?“ „Ich hoffe, die Zeichnung entspricht deinen Vorstellungen.“ Wie kommt die Technologie eigentlich dazu, sich als „Ich“ zu bezeichnen? Bzw. – genauer gefragt – was führt deren Programmierer und Finanziers dazu, Technik im sprachlichen Gewand von Menschen auftreten zu lassen? Und missachtet dieses „Mimikri-Verhalten“ letztlich vielleicht sogar die menschliche Würde und verstößt damit – long shot, aber vielleicht eine interessante juristische Frage – gegen das deutsche Grundgesetz?

Solche Beobachtungen führen schnurstracks zur Frage der Zusammenhänge von KI mit den Menschenbildern der Macher, aber auch der Anwender:innen von KI. Sehr aufschlussreich ist beispielsweise der Ted-Talk von Mustafa Suleyman, der tief ins Weltverständnis eines wesentlichen KI-Protagonisten blicken lässt. Technikgläubigkeit vom Feinsten. Völlige Ignoranz aller Nebenwirkungen und offenen, demokratiepolitischen Fragen. Eine „toolgetriebene“ Sicht auf die Weltgeschichte, in der Begriffe wie Verantwortung, Erkenntnis, Denken, Verstand einfach nicht vorkommen. Bis hin – auf der Suche, nach passenden Metaphern, die KI erklären können – zum Satz: „AI isn’t seperate – AI is us: all of us.“ Wie bitte? Danke, aber nein danke. Ich persönlich zumindest will mich nicht einer Philosophie anschließen, die KI quasi „zur Seele“ der Menschheit erklärt. Und außerdem will ich mich von KI auch nicht duzen lassen. (Fragt sich nur: Wie „spricht“ man dann mit diesen Dingern?! Und ist diese meine persönliche Sensiblität vielleicht einfach ein Generationen- oder Altersthema?)

Die September-Session des KI-Thinktanks wird jedenfalls solchen und ähnlichen Fragen gewidmet sein. Und wir freuen uns darauf, bei dieser Gelegenheit gemeinsam mit Prof. Birte Platow, Religionspädagogin und Mitglied des Vorstands eines KI-Projekts der TU Dresden, nachdenken zu dürfen.

Große Worte gelassen aussprechend. Und Verschiedenes darüber hinaus …

Metacognition. Prozess- und Reflexionskompetenz. Urteilsfähigkeit. Autorschaft … Sechs Stunden intensiver Diskussion sind unmöglich in voller Länge in einem Blogbeitrag, der auch noch einigermaßen lesbar bleiben möchte, nachzuzeichnen. Aber abschließend soll zumindest aufgelistet werden, was „sonst noch“ bewegt hat und besprochen worden ist:

  • KI muss als Leitungsthema erkannt werden. Schulleitung darf das Thema nicht ignorieren. Das ist leicht gesagt. Aber wie konkret gehe ich damit um? Der Thinktank überlegt, mit Ende des Jahres genau hier eine Strategie vorzuschlagen.
  • KI ist – möglicherweise – auch ein Thema in der Schulverwaltung. Hier mehr Effizienz und Zeitersparnis zu Gunsten der Pädagogik zu erwirtschaften, klingt verlockend. Aber wie genau?
  • Es muss noch viel geschehen – in Sachen Bildungs- und Chancengerechtigkeit.
  • Die 4As von Doris Weßels (Aufklären – Ausprobieren – Akzeptieren – Aktiv werden) könnten ein handfester Beitrag zur mündigen Auseinandersetzung mit KI sein.
  • Es ist die Mühe wert, mit Schüler:innen (und Kolleg:innen) in die kritische Auseinandersetzung mit KI zu gehen. Die KI-Ergebnisse blenden nicht selten beim ersten Hinsehen. Der zweite Blick und eine Runde gemeinsames Nachdenken führen tatsächlich weiter …
  • Auch Baden-Württemberg hat mittlerweile ambitionierte KI-Unternehmen: Beispielsweise die Heilbronner IPAI oder die Heidelberger Aleph Alpha.
  • KI ist mehr als ChatGPT – es ist notwendig, auch ein paar Grundbegriffe und Grundverständnis über das technische Funktionieren von KI aufzubauen.
  • Welche (politischen und finanziellen) Forderungen müsste man an die Schulverwaltungen richten? Wäre ethisch vertretbare KI nicht auch eine Frage der Eigentümerschaft und damit der digitalen Souveränität?
  • Christliche Schulen betrachten Einzigartigkeit als Vielfalt und Bildungsgerechtigkeit als verpflichtende Aufgabe. Was hieße das in Zeiten von KI?
  • Für die rasche (und einführende) Lektüre zwischendurch empfiehlt sich Silke Müllers neuer Bestseller: Wer schützt unsere Kinder? Wie künstliches Intelligenz Familien und Schulen verändert und was jetzt zu tun ist.
  • Und, last, but not least, es ist unglaublich, was KI beispielsweise im sonderpädagogischen Bereich an Möglichkeiten der Teilhabe und Selbstwirksamkeit generieren kann.

KI-Thinktank – der weitere Fahrplan

Und so geht’s weiter mit den kommenden Thinktank-Treffen.

  • Das Meeting am 10. Juli wird der KI-Anwendung in der Oberstufe gewidmet sein. Insbesondere für Schüler:innen ab 16 führt kein Weg mehr vorbei an KI. Erstens sind die Jugendlichen ohnehin schon damit zugange. Zweitens werden sie sich als Erwachsene in einer Welt mit KI zurechtfinden müssen. Und drittens sind alle Schulen und Lehrkräfte gut beraten, einen konstruktiven und überlegten Umgang mit KI – zum Beispiel im Zusammenhang mit Abschlussarbeiten – zu finden. Der Termin wird sich – das Team ist diesmal verstärkt durch Oberstufen-Lehrkräfte, einige Schüler:innen sowie einigen Vertreter:innen von Unis mit einem Fokus auf Hochschuldidaktik – der konkreten Entwicklung einer (bestmöglichen) Handreichung und Vorgehensempfehlung widmen; mittlerweile kann man ja hier auf vielen, guten Vorarbeiten aufbauen.
  • Am 25. September wird, wie schon weiter oben erwähnt, das Thema KI und Menschenbild im Fokus stehen. Wir schauen gemeinsam gewissermaßen unter die Oberfläche des alltäglichen „Kennst-du-schon-hast-du-schon-probiert?“ und überlegen, was einen christlichen Standpunkt gegenüber und Umgang mit KI bestimmen und auszeichnen könnte.
  • Der 23. Oktober ist der Frage des Lernens mit, über und ohne KI gewidmet. Und zwar mit einem Fokus auf Grundstufe und Sekundarstufe 1 – der Oberstufe wird ja der 10. Juli gewidmet sein. Eine Überlegung geht in die Richtung, sich beispielsweise Unterrichtsvorschlägen mit Ki, die ja mittlerweile reichlich kursieren, kritisch zuzuwenden und zu überlegen, was genau und wie genau diese eigentlich zum Lernen führen. Und welche Theorien und Aspekte von Lernen hier angesprochen, besonders unterstützt oder aber auch elegant ignoriert werden. Diese Session soll und insbesondere zu Kriterien und Argumenten führen, wann und warum bzw. wann und warum nicht welcher KI-Einsatz für wen in Frage kommen kann. Nicht zuletzt um Fragen der Lern- und Prüfungskultur wird es hier gehen müssen.
  • Das Finale am 4. Dezember lassen wir uns aktuell noch offen. Zum einen werden wir natürlich versuchen (siehe oben: KI-Strategie für Schulleitungen), Themen zu adressieren und zu finalisieren, die uns am gemeinsamen Denkweg schon begegnet bzw. entgegen gekommen sind. Zum anderen möchten wir uns auch Zeit freihalten für das, was wir bislang noch nicht verstanden, bedacht oder überhaupt in den Blick bekommen haben. Wir werden hier berichten. Und Sie können im Rahmen der Thinktank-Foren online live mit dabei sein.

Denn: Jedem Thinktank-Treffen folgt am Tag danach ein Thinktank-Forum online via Zoom. Die nächsten Foren finden also statt: 11. Juli, 26. September, 24. Oktober sowie 5. Dezember 2024, jeweils von 17:00 – 18:30. Interessiert? Melden Sie sich hier an – wir schicken Ihnen dann den Teilnahme-Link zu.

Im Übrigen hat die Gruppe eine Taskcards-Pinwand angelegt, die laufend erweitert wird. Beiträge, Fragen und Wünsche – auch ganz generelle zur Arbeit des Thinktank – richten Sie gerne an: aufsganze@esw-bw.de.

KI-Thinktank: Erste Runde – erste Fragen

Donnerstagabend, 18.4.2024, von 17:00 – 18:30 Uhr bekam eine erste Gruppe von sechzehn Interessierten die Möglichkeit, die Ergebnisse der ersten KI-Thinktank-Klausur am 17.4. kennenzulernen und die eigenen Fragen und Überlegungen in den weiteren Verlauf der Entwicklung einzubringen.

Zum Einstieg wurde ein Überblick über die Arbeitsweise des KI-Thinktanks und die damit verbundenen, offenen Thinktank-Foren gegeben. Sechs ganztägige Klausuren werden jeweils von offenen Online-Foren für alle Interessierten begleitet.

Die Arbeitsweise des KI-Thinktanks: Auf die sechs Klausuren des Kernteams folgt am Tag danach jeweils ein offenes Thinktank-Forum für alle Interessierten.

Fragen? Fragen! Fragen …

Die erste Klausur am 17.4. hat das KI-Thinktank-Kernteam zum persönlichen Kennenlernen und zum Kennenlernen der im Thinktank in seinen Mitgliedern versammelten Expertise genützt. Und insbesondere zur Formulierung von Fragen, die das weitere Tun informieren und anleiten könnten:

  • Lernen mit KI muss vielmehr, als das im laufenden Diskurs der Fall ist, im entwicklungspsychologischen Kontext gesehen werden: Kinder sind keine urteilsfähigen Erwachsene!
  • Welche Sinnkrisen können durch den Vormarsch von KI entstehen? Und wie kann diesen begegnet werden? (Beispielsweise “Warum noch lernen, wenn der Computer eh alles besser kann …“)
  • Welche KI hilft wem tatsächlich wie ganz konkret? (KI ist mehr als bloß ChatGPT!)
  • Wie kann KI die Bildung besser machen, und nicht bloß Geschäft für die KI-Eigentümer generieren?
  • Schüler:innenpartizipation im Transformationsprozess – wie kann das gelingen?
  • Wie kann das ganze Kollegium mitgenommen werden?
  • Wie balancieren wir die Erwartung der Wirtschaft/Gesellschaft mit dem Bildungsauftrag der Schule? Bildung ist nicht gleich Ausbildung.
  • Es heißt immer, man müsse sich in Zeiten von KI mehr auf den Lernprozess konzentrieren. Aber wie schafft man diesen Kulturwandel?

Seine nächste Klausur wird das Thinktank-Kernteam insbesondere dazu verwenden, aus der Fülle der Möglichkeiten diejenigen Probleme auszuwählen, die für die Community der Auftraggeber-Schulen von Bedeutung sind und für deren Lösung das Team die entsprechenden Ressourcen hat. Dabei kommt es auch darauf an, sich möglichst bewusst mit anderen KI-Initiativen zu vernetzen und einander wechselweise zu ergänzen.

… und noch mehr Fragen

Das Thinktank-Forum am 18.4. bot dann Gelegenheit, diese ersten Ergebnisse vorzustellen, sich Resonanz und Feedback zu holen und den Katalog an Fragen einerseits zu bestätigen und andererseits zu ergänzen. Die folgenden Fragen und Wünsche haben sich dabei zu den bereits oben angeführten hinzugesellt:

  • Wie können Datenschutz und Bildungsgerechtigkeit im schulischen Kontext ernstgenommen werden?
  • Wie könnte es gelingen, das vielfältige Wissen rund um KI in der Schule zu ordnen und zu erschließen?
  • Wie kann man mit KI erstellte „Aufgaben“ bzw. „Abgaben“ bewerten?
  • Was muss insbesondere aus Schulleitungssicht berücksichtig und bedacht werden?
  • Und wie könnten Orientierungspunkte für eine klare, ethisch begründete Haltung gegenüber KI aussehen?
  • Wie schaffe ich es, Kinder mit eher „kleinerem“ Horizont beim Nachdenken zu helfen?
  • Wie könnte eine Verfahrensanleitung zur sinnvollen und legalen Nutzung von KI in Baden-Württemberg aussehen?
  • Wie kann man als reflektierter Mensch mit KI umgehen, wenn man sich jeden Tag fragen muss: „Was ist hier echt?“
  • Wofür habe ich im Unterricht als Lehrperson tatsächlich Verantwortung und wofür nicht? Und wie steht es um meine Verantwortung als Mitbürger:in und Mitmensch im Kontext von KI?

Als Ausgangsbasis für die weitere Arbeit hat die Gruppe eine Taskcards-Pinwand angelegt, die laufend erweitert wird. Beiträge, Fragen und Wünsche – auch ganz generelle zur Arbeit des Thinktank – richten Sie gerne an: aufsganze@esw-bw.de.

Die Termine der weiteren Thinktank-Foren stehen nunmehr fest und finden statt an den folgenden Donnerstagen: 6. Juni, 11. Juli, 26. September, 24. Oktober sowie 5. Dezember 2024, jeweils von 17:00 – 18:30.
Interessiert? Melden Sie sich hier an – wir schicken Ihnen dann den Teilnahme-Link zu.

Zwei Lesetipps zum Abschluss:

  • Jöran Muuß-Merholz hat hier https://www.joeran.de/ki-nicht-nur-ein-werkzeug/ Überlegungen in einem Poster von Per Axbom übersetzt und für die weitere Verwendung aufbereitet. Kernaussagen: Die „Ethik-Bilanz“ von KI ist in vielen Fällen mehr als zweifelhaft – und man sollte sich die Aussage, dass KI „nur“ ein Werkzeug wäre, aus sehr guten Gründen lieber verkneifen.
  • Miriam Metze hat im österreichischen Falter einen wunderbaren kurzen Text geschrieben, der – ausgehend von der jüdischen Legende des Golem – über Menschlichkeit im Vergleich zu KI reflektiert. Schlüsselfrage: Wer und was kontrolliert KI?

KI-Thinktank: Kickoff 17.4.2024

Mit KI stellt eine Herausforderung – wieder einmal und mehr denn je – die Schule vor die Sinnfrage. Was ist ihr Auftrag? Was macht sie unersetzbar? Große Fragen – große Themen!

Wenn manche Themen für einzelne zu groß sind, dann tut man sich zusammen und nützt die “Weisheit der vielen” – beispielsweise im Rahmen eines Thinktanks oder des erweiterten Kreises eines Thinktank-Forums.

Was vor einem Jahr zu den wertvollen Ergebnissen des Thinktank 2.0 geführt hat (die Ergebnisse sind auf dieser Website dokumentiert), erlebt ab 17.4.2024 mit dem Thema KI seine nächste Auflage. Für die Konsolidierung der dringenden und wichtigen Fragen sowie für die Entwicklung strategischer Antworten und Szenarien für Schulen und Träger starten die Stiftung Katholische Freie Schule der Diözese Rottenburg Stuttgart gemeinsam mit dem Evangelischen Schulwerk Baden und Württemberg einen KI-Thinktank. Die Mitglieder des Kernteams arbeiten hier in sechs Klausuren in Präsenz und werden die Ergebnisse mit Jahresende 2024 vorstellen.

Für alle, die keine Möglichkeit zur Teilnahme an den Präsenztreffen haben, gibt es immer am darauf folgenden Donnerstag, 17:00-18:30 Uhr, ein Thinktank-Forum in Webinar Form. Das erste Forum findet statt am 18.04. um 17:00-18:30 Uhr. Anmeldung für den 18.04. unter Microsoft Forms.

Dimensionen|Wegweiser|Perspektiven – Erläuterungen zur Verwendung

Alle drei Tools stehen jeweils für sich sowie gesammelt in einer Broschüre zum Download im PDF- und im DOCX-Format zur Weiterbearbeitung zur Verfügung.

Der Charakter der drei Werkzeuge ist unterschiedlich: Diskursives Wort. Orientierendes Analyseinstrument. Inspirierendes Bild.

  • Diskursiv – die DIMENSIONEN: Thesen und Leitfragen zur Weiterentwicklung „christlicher Digitalität“ wollen die Auseinandersetzung mit der Frage fördern und anleiten, wie ein spezifisch christliches Profil im Kontext der Digitalität aussehen kann. Grundsatzdokumente evangelischer und katholischer Schule sind die Basis, auf der sowohl Thesen als auch Leitfragen formuliert worden sind. Exemplarische Bibelstellen weisen darauf hin, dass jeder Standpunkt und jede Antwort, die man auf diese Fragen geben kann, ihre Begründung in Schrift und Tradition verankern können sollten. Thesen und Leitfragen sowie Bibelstellen haben Vorschlagscharakter, allerdings mit einem gewissen abgerundeten Anspruch: die Gruppe des Thinktanks ist aus guten, inhaltlichen Gründen zu genau diesen Dimensionen gelangt.
  • Orientierend ­– der WEGWEISER: Kriterien zur Standortbestimmung und Entwicklungsplanung der schulischen Digitalisierung ist ein kategoriales, kriterienorientiertes Reifegradmodell zur Statuserhebung technisch-organisatorischer Digitalisierung bzw. digitaler Transformation einer Schule. Diese Matrix orientiert sich an der aktuell möglichen, guten Praxis jedweder (und nicht nur christlicher) Schule und formuliert in sechs Kategorien Zielbilder für die Digitalisierung. Der Wegweiser setzt damit begründete und wissenschaftlich informierte Benchmarks, an denen man die eigene Schule messen und zu denen man die eigene Praxis in Beziehung setzen sollte. Der Wegweiser ist in diesem Sinne ein Werkzeug, das sich der Beliebigkeit entgegensetzt. Gleichzeitig werden damit aber auch Argumente für gelungene, möglicherweise (mittelfristig) abgeschlossene Entwicklungsarbeit (genug ist genug!) an die Hand gegeben, was wiederum Ressourcen für andere Entwicklungsbereiche an einer Schule gut begründet freimachen kann: Digitalisierung mit Maß und Ziel! Und Maß und Ziel zu finden – dabei unterstützt der Wegweiser.
  • Inspirierend – die PERSPEKTIVEN: Impulsbild zur gemeinsamen Visionsarbeit haben kreativ-animierenden Charakter. Im Mittelpunkt steht ein von einer Illustratorin, Frauke Krüger-Lehn, kreiertes „Wimmelbild“ christlicher Schule im 21. Jahrhundert. Entwickelt wurde das Bild auf Basis eines kollaborativ erarbeiteten Briefings im Rahmen des Thinktank-Forums im März 2022. Hier wird der Blick aufs „diklusive“ (= digitale + inklusive) Ganze der Schule im Kontext der sie umgebenden Umwelten geweitet. Hinter diesem Bild steht die Überzeugung, dass es die gemeinsam entwickelten Visionen von christlicher Schule sind (und braucht!), die nachhaltige und positive Entwicklung fördern.

Die Reihenfolge, in der mit den drei Werkzeugen gearbeitet wird, (oder deren spezifische Auswahl) hängt ganz von der Situation und dem Bedarf am jeweiligen Standort und dessen Entwicklungsgeschichte ab. Sind die technischen und organisatorischen Gegebenheiten der Digitalisierung gut entwickelt, ist möglicherweise ein anstehender Schritt die Frage nach einer tragfähigen, mittelfristigen Vision. Vielleicht muss aber auch die christliche Profilierung reformuliert und aktualisiert werden. In jedem Fall geht es aber darum, im Kontext der Digitalisierung als grundlegender Transformation Lernen für das 21. Jahrhundert zur verlässlichen Praxis in unseren Schulen zu machen.

Die innere Logik aus Sicht des Thinktanks, die die drei Werkzeuge verbindet, die bei dieser Aufgabe unterstützten sollen, ist jedenfalls die folgende:

  1. Man muss das „Handwerkszeug“ der Digitalisierung bzw. der digitalen Transformation beherrschen und seine technischen und organisatorischen „Hausaufgaben“ gemacht haben, um Schule am Stand der Zeit zu entwickeln. (WEGWEISER)
  2. Man muss visionär (in) die Zukunft der Schule des 21. Jahrhunderts denken. (PERSPEKTIVEN)
  3. Und als christliche Schule muss man überdies in der Lage sein, „christliche Digitalität“ als Lebenskultur in einer von Digitalisierung und digitaler Transformation geprägten Welt zu entwickeln; das umfasst Ethik, Didaktik, schulisches Leitbild etc. (DIMENSIONEN)

Die Einsatzmethoden sind so vielfältig, wie die Kreativität der Einsetzenden reicht. Um die Nutzung der Werkzeuge auszuprobieren und – in der Folge – zu erleichtern, wurden einige Methoden entwickelt und angewandt, die auch in den folgenden, einleitenden Gebrauchsanweisungen zu jedem Werkzeug dokumentiert sind. Damit sei gleichzeitig darauf hingewiesen, dass die drei Werkzeuge im vergangenen Jahr (und teilweise noch viel länger zurück) bereits eingehend erprobt sind: sich also in der Praxis als hilfreich und zielführend bewährt haben.

Die drei Werkzeuge haben keinen Anspruch auf Vollständigkeit. Christliche Schulen haben mit der Digitalisierung eine, aber nicht die einzige Aufgabe zu bewältigen. Nachhaltigkeit, Verteilungsgerechtigkeit, Friede, zeitgemäße Glaubensvermittlung usw. sind weitere große Entwicklungsthemen auf den Agenden. Insofern decken die hier vorliegenden drei Werkzeuge nicht alle Zukunftsthemen ab – ihr Fokus liegt, dem Auftrag des Thinktanks entsprechend, auf dem Kontext der Digitalisierung; sie sind aber in alle Richtungen anschlussfähig und möglicherweise auch strukturell vorbildlich.

Thinktank – Freiraum und Freizeit zum Denken. Insbesondere möchten wir für alle genannten (und nicht genannten) Entwicklungsthemen den Modus des Thinktanks wärmstens und dringend weiterempfehlen. Hannah Arendt hat formuliert: „Will man die Menschen daran hindern, dass sie in Freiheit handeln, so muss man sie daran hindern, zu denken, zu wollen, herzustellen, weil offenbar all diese Tätigkeiten das Handeln und damit auch Freiheit in jedem, auch dem politischen Verstande implizieren.“ Im Umkehrschluss bedeutet Thinktank Freiheit und Muße zum Denken und Wollen, um daraus handelnde Freiheit zu gewinnen.

Dimensionen|Wegweiser|Perspektiven: Ergebnis-Download

Mit dieser Website veröffentlicht der ökumenische Thinktank des Evangelisches Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart seine Ergebnisse: Drei Entwicklungswerkzeuge für die Orientierungs-, Diskussions- und Visionsarbeit an Schulen. Zwischen Anfang 2021 und Ende 2022 haben mehr als ein Dutzend Personen aus den beiden Verbänden – professionell moderiert – daran gearbeitet. Zweimal wurden sie dabei durch eine Gruppe von insgesamt gut fünfzig Freiwilligen, Interessierten, im Rahmen der beiden Thinktank-Foren im März und Oktober 2022 als „kritische Freunde“ unterstützt, herausgefordert, bestätigt, ermutigt, inspiriert.

Diese Website trägt den Titel Christliche Schulen als Lern- und Lebensorte im 21. Jahrhundert: DIMENSIONEN | WEGWEISER | PERSPEKTIVEN. Und genau das bzw. genau dafür will das Ganze gut sein: Christlichen Schulen sollen Werkzeuge an die Hand gegeben werden, die sie dabei unterstützen, ihren eigenen Denk- und Entwicklungsweg zu gehen. Die DIMENSIONEN bieten Thesen und Leitfragen zur Weiterentwicklung „christlicher Digitalität“. Der WEGWEISER liefert Kriterien zur Standortbestimmung und Entwicklungsplanung der schulischen Digitalisierung. Und die PERSPEKTIVEN sind ein Impulsbild zur gemeinsamen Visionsarbeit. Jedes Werkzeug wird darüber hinaus durch eine ausführliche Gebrauchsanweisung eingeleitet.

Jeder Denk- und Entwicklungsweg ist speziell, und das (mindestens) in zweierlei Hinsicht: Jeder Entwicklungsweg will und muss – erstens – selbst gegangen werden. Man kann das nicht delegieren. In diesem Sinn will der Thinktank mit seinen Ergebnissen „zu denken geben“, kann und will die Gedanken- und Entwicklungswege anderer aber nicht vorwegnehmen. Aus diesem Grund werden die Entwicklungswerkzeuge auch – zweitens – unter eine CC BY 4.0-Lizenz veröffentlicht. Man darf das Material nicht nur teilen, vervielfältigen und weiterverbreiten; man darf es auch remixen, verändern und darauf aufbauen, und zwar für beliebige Zwecke, auch kommerzielle. Die Bedingung dafür ist die angemessene Nennung von Urheber- und Rechteangaben, ein Link zur Lizenz und die Angabe, ob Änderungen vorgenommen wurden. Diese Angaben dürfen in jeder angemessenen Art und Weise gemacht werden, allerdings nicht so, dass der Eindruck entsteht, der Lizenzgeber unterstütze gerade Sie oder Ihre Nutzung besonders. Damit sollen Sie bestmöglich in die Lage versetzt werden, sich diese Materialien im besten Sinne „anzueignen“.

  • Christliche Schulen als Lern- und Lebensorte im 21. Jahrhundert: DIMENSIONEN | WEGWEISER | PERSPEKTIVEN.
    Alle Ergebnisse in einer Broschüre. Mit weiterführenden Literaturhinweisen, zur Verfügung gestellt vom Deutschen Schulportal der Robert Bosch Stiftung | PDF 19,7 MB | DOCX 47,2 MB | CC BY 4.0 Thinktank des Evangelischen Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart (2023), wo nicht anders angegeben.
  • DIMENSIONEN: Thesen und Leitfragen zur Weiterentwicklung „christlicher Digitalität“
    Mit Erläuterungen zur Verwendung | PDF 2,4 MB | DOCX 4,6 MB | CC BY 4.0 Thinktank des Evangelischen Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart (2023)
  • WEGWEISER: Kriterien zur Standortbestimmung und Entwicklungsplanung der schulischen Digitalisierung
    Mit Erläuterungen zur Verwendung | PDF 0,9 MB | DOCX 2,5 MB | CC BY 4.0 Thinktank des Evangelischen Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart (2023)
  • PERSPEKTIVEN (Erläuterungen): Impulsbild zur gemeinsamen Visionsarbeit
    Die Erläuterungen zur Verwendung | PDF 1,1 MB | DOCX 4,3 MB | CC BY 4.0 Thinktank des Evangelischen Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart (2023)
  • PERSPEKTIVEN (Poster): Impulsbild zur gemeinsamen Visionsarbeit
    Poster A1 | PDF 4,8 MB | CC BY 4.0 Thinktank des Evangelischen Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart (2023)
  • PERSPEKTIVEN (Einzelteile): Impulsbild zur gemeinsamen Visionsarbeit
    Alle Einzelteile sowie der Hintergrund zur weiteren Bearbeitung | ZIP 3,2 MB | CC BY 4.0 Thinktank des Evangelischen Schulwerks Baden und Württemberg und der Stiftung Katholische Freie Schulen der Diözese Rottenburg-Stuttgart (2023)

Making of – vom Thinktank zum Thinktank-Forum

Der Weg zu dieser Website und ihren Ergebnissen war ein „agiler“; man könnte ihn gut und gern auch „unvorhersehbar“ nennen. Am Anfang des Prozesses (bereits im Jahr 2019) stand die Mutmaßung, nein: Gewissheit der Initiatoren, dass die Digitalisierung zu relevanten Entwicklungs-, Veränderungs- und Transformationsprozessen im Schulwesen führen würde, ja führen müsse. Welche, darüber wäre gut nachzudenken. Am besten gemeinsam in geeigneter Runde mit entsprechend viel Zeit: in einem Thinktank also. Ab der ersten Session in Obermarchtal im November 2019 wurde den Personen des Thinktanks für ihre Arbeit freie Hand, ja nachgerade der Auftrag zum „wilden Denken“ mit auf den Weg gegeben.

Die Frage „Was ist das Problem, für das diese Gruppe die Lösung ist?“ führte nach einem Nachmittag, einer Nacht und einem Vormittag zu folgender Zielformulierung, die über die gesamte Laufzeit des Thinktanks Bestand haben sollte:

Über die Entwicklung guter Medienpläne hinaus geht es im Thinktank im Auftrag des Schulwerks und der Schulstiftung darum, im Kontext der Digitalisierung als grundlegender Transformation Lernen für das 21. Jahrhundert zur verlässlichen Praxis in unseren Schulen zu machen. Diskurs und Ko-Kreation mit allen Beteiligten (insb. Schüler/innen, Kollegien, Eltern, Schulpartnern) sind hierfür unverzichtbare Elemente auf dem Weg. Letzten Endes möchten wir wissen und herausarbeiten, was es bedeutet, eine christliche Schule als Lernort für das 21. Jahrhundert zu sein. Als im Netzwerk vertretene Personen möchten wir auf diesem Weg sowohl unsere Schulen weiterbringen und uns dafür wertvolle Impulse und Austausch holen; gleichzeitig möchten wir einen Beitrag zur Weiterentwicklung des evangelischen und katholischen Schulwesens leisten.

Und dann kam Corona – und alles war anders. Corona machte es unmöglich, die ursprüngliche Planung weiterzuverfolgen. Gleichzeitig, so stellten wir fest, hatte diese Krise im Bildungsbereich vermutlich in zwei Monaten mehr bewegt, als der Thinktank bei erfolgreichster Arbeit in zwei Jahren an Breitenwirkung, Aufmerksamkeit und Experimentierbereitschaft für das Lehren und Lernen im Kontext der Digitalisierung erzielen hätte können. Man könnte – zugespitzt – sagen, dass Corona einen guten Teil der Thinktank-Arbeit „einfach so nebenbei“ erledigt und – im guten Hegelschen Sinn – „aufgehoben“ hat: erstens erübrigt und – zweitens „gut aufgehoben“ – auf einen, drittens, „next level“ gebracht. Thinktank 2.0 also – und zwar zwischen Januar 2021, dem Thinktank-Auftakt, und Dezember 2022, der die Fertigstellung dieser Publikation sah.

Der Weg zu diesem Ergebnis erfolgte in sechs großen Schritten und über zwei Jahre verteilt – und zwar im Rahmen von sechs ca. 24stündigen Klausuren, in denen die konzeptionelle Arbeit geleistet wurde. Ergänzt wurden die Klausuren durch entsprechende Vorbereitungs- und Nacharbeitsphasen zwischendrin. Am Anfang stand die Realisierung der (fachlichen, geistigen, mentalen) Ressourcen sowie Erfahrungen der Gruppe: Was gemeinsam in die Arbeit eingebracht werden konnte – nicht mehr, nicht weniger –, das war der „Stoff“, aus dem die „Ergebnisse“ sein würden. Welche das sein sollten, wurde im Laufe der Klausuren No. 2 und 3 (bis Ende 2021) herausgearbeitet bzw. eingegrenzt, die dann in den Klausuren 4, 5 und 6 (2022) Schritt für Schritt ausdifferenziert, diskutiert, erprobt, korrigiert, wieder verbessert und – unterstützt von den 50 engagierten Teilnehmenden der beiden Thinktank-Foren im März und Oktober 2022 – in die hier vorliegende Form gebracht wurden.

Diese Publikation ist kein Schlusspunkt, sondern ein Bindestrich; vielleicht ein Semikolon. Ein Werkzeugkasten, der jetzt darauf wartet, gebraucht und – ja – auch adaptiert, verbessert, vielleicht ergänzt zu werden. Nur selber denken macht klüger – und nur selber gehen bringt einen weiter! Wir, der Thinktank, haben darüber nachgedacht, was es bedeutet, im Kontext der Digitalisierung eine christliche Schule im 21. Jahrhundert zu sein. Wir hoffen, Ihnen mit diesen Gedanken und Werkzeugen eine Anregung und Unterstützung auf Ihren (Denk-)Weg mitgeben zu können.

Stichwort (Denk-)Weg: In der abschließenden Phase des Projekts kam uns nochmals der Zufall in Form eines Adventskalenders entgegen. Anfang 2019 hatten wir unsere Arbeit mit einer breit angelegten Literaturrecherche begonnen und quasi unser je persönliches „best-of“ kollektiv auf einen Bücherstapel gelegt, der unsere folgende Arbeit wissenschaftlich informierte und begleitete. Seitdem ist einiges Wasser den Rhein, den Neckar und die Donau ins Meer geronnen – und neue, spannende, wichtige Literatur ist am Buchmarkt erschienen. Das Deutsche Schulportal der Robert Bosch Stiftung hat eine Auswahl von 24 Büchern getroffen, die wir Ihnen hiermit allesamt ans Herz legen und ebenfalls publizieren. Mögen diese Bücher ihr Denken bereichern und ihr Handeln inspirieren – und den Umgang mit den Werkzeugen des Thinktanks entsprechend vertiefen.

Ergebnisse des 1. Thinktank-Forums (15. März 2022 | PDF | 3,92 MB)

Bildgalerie vom 1. Thinktank-Forum

Ergebnisse des 2. Thinktank-Forums (25. Oktober 2022 | PDF | 1,88 MB)

Bildgalerie vom 2. Thinktank-Forum