Rechtliche Grundlagen für die Schule

Bildquelle: Mit KI erstellt (CoPilot)

1. Die neue KI-Verordnung (KI-VO)

Die europäische KI-Verordnung (KI-VO) ist am 1. August 2024 in Kraft getreten. Ziel ist die sichere und verantwortungsvolle Nutzung von KI-Systemen. Die Regelungen werden schrittweise eingeführt, seit dem 2. Februar 2025 gelten die ersten Bestimmungen.

2. Was ist in Schulen verboten?

Bestimmte KI-Praktiken sind seit dem 2. Februar 2025 explizit untersagt:

• Emotionsanalyse von Schüler*innen durch KI-Systeme.
• Manipulative KI-Techniken, die unbewusst beeinflussen.
• Profiling zur Vorhersage von Verhalten oder Leistungen.
• Ungezielte Gesichtserkennung aus Online-Daten.

3. Hochrisiko-KI: Was bedeutet das für Lehrkräfte?

Bestimmte KI-Anwendungen gelten als „Hochrisiko“ und unterliegen strengen Anforderungen:

• KI-gestützte Benotung: Eine KI darf nicht allein über Schülerleistungen entscheiden. Die finale Bewertung muss durch Lehrkräfte erfolgen.
• KI-gestützte Lernplattformen: Dürfen nicht zur Leistungsbewertung oder Verhaltensüberwachung eingesetzt werden.
• KI-Chatbots: Müssen klar als KI erkennbar sein und dürfen keine sensiblen personenbezogenen Daten verarbeiten.

4. Datenschutz: Was müssen Lehrkräfte beachten

• Keine Eingabe personenbezogener Daten in KI-Systeme (z. B. Schüler*innen-Namen, Hausaufgabeninhalte, die handschriftlich angefertigt wurden).
• Verbot der verpflichtenden Nutzung von kommerziellen KI-Tools für Schüler*innen.
• Transparenzpflicht: Schüler*innen und Eltern müssen über den Einsatz von KI informiert werden.

5. Konsequenzen für den Unterricht

• KI-Unterstützung ja, aber mit Bedacht! KI kann als Hilfsmittel genutzt werden, muss aber von Lehrkräften überprüft werden.
• KI-generierte Hausaufgaben: Dürfen nicht ohne Kennzeichnung abgegeben werden. Verstöße können als Täuschungsversuch gewertet werden.
• Lehrkräfte müssen sich fortbilden: Schulen sollten Schulungen zur KI-Verordnung und KI-Nutzung anbieten.
• Schüler*innen müssen ebenfalls geschult werden.

6. Empfehlungen für Schulen

• Interne Richtlinien festlegen: Welche KI-Tools dürfen verwendet werden?
• Aufsichtspflicht beachten: KI-Nutzung sollte reguliert und überprüft werden.
• Datenschutz einhalten: Zusammenarbeit mit Datenschutzbeauftragten.

Fazit: Die KI-Verordnung bringt neue Herausforderungen, aber auch Chancen. Lehrkräfte sollten sich aktiv mit der Thematik auseinandersetzen, um KI verantwortungsvoll im Unterricht sinnvoll zu nutzen.

Verwendete Literatur:
https://ai-act-law.eu/de/