Die (Untranslated) des künstlichen Intelligenz im Bildungswesen

Im Auftrag des Ministeriums für Bildung, Kultur und Wissenschaft hat Dialogic die Auswirkungen untersucht, die der Einsatz von künstlicher Intelligenz auf das Bildungswesen in den Niederlanden haben kann. Ziel der Untersuchung ist es, Einblicke darin zu gewinnen, wie künstliche Intelligenz derzeit im Bildungswesen eingesetzt wird (und wie sie in Zukunft eingesetzt werden könnte) (Was ist möglich?), sowie welche rechtlichen Aspekte bei diesem Einsatz eine Rolle spielen (Was ist erlaubt?). Das Forschungsprojekt soll auch die fünf größten Risiken und Chancen identifizieren, die mit diesem Einsatz verbunden sind (Was wollen wir erreichen?).

Was ist möglich: welche relevanten Anwendungen von KI im Bildungswesen gibt es?

Es ist nicht einfach, eine einzige Definition von KI zu geben, insbesondere wenn es um Anwendungen im Bildungswesen geht. Aus unserer Studie geht hervor, dass insbesondere bei Anwendungen, die (1) kognitive Aufgaben automatisieren und (2) dabei große Datenmengen und datengesteuerte Methoden verwenden, interessante noch ungelöste Fragen bestehen. Im Bildungsprozess treffen Lehrer kontinuierlich Entscheidungen nach eigenem Ermessen in Bezug auf (unter anderem) die verwendete Methode, den Lehrstoff, die Art und Weise, wie ein Schüler angesprochen wird usw. Letztendlich treffen Lehrer auch einige formelle Entscheidungen: Welche Note bekommt ein Schüler und darf ein Kind in die nächste Klasse übergehen? KIs können Lehrern auf verschiedene Weisen bei diesen Entscheidungen unterstützen. Wir identifizieren vier Szenarien, die in den nächsten 5-8 Jahren am wahrscheinlichsten sind: (1) eine KI als Bildungsassistent, (2) KI für Lernanalytik, (3) KI für die Personalisierung des Unterrichts und (4) KI für Prüfungen.

Kann eine KI einen Lehrer vollständig ersetzen? Nicht in naher Zukunft.

Wenn KI so intelligent geworden ist, dass sie den Lehrer ersetzen kann, könnte dies die Bildungstheorie stark verbessern: Jeder Schüler könnte dann individuell unterrichtet werden. Aber so weit ist es noch nicht: Es wird erwartet, dass KIs mit einer derartigen allgemeinen Intelligenz (bei der eine KI das Niveau der menschlichen Intelligenz erreicht) noch mindestens einige Jahrzehnte auf sich warten lässt. Dies bedeutet jedoch nicht, dass weniger intelligente KIs, die heute bereits verfügbar sind, den Lehrer so unterstützen können, dass dieser mehr Zeit pro Schüler aufwenden kann oder effizienter arbeiten kann.

Was ist erlaubt: welche rechtlichen Herausforderungen ergeben sich bei der Anwendung von KI im Bildungswesen?

Der Einsatz von KI im Bildungswesen berührt verschiedene allgemeine Regelungen. Einige dieser Regelungen sind ergänzendes Recht, was bedeutet, dass sie leicht und in der Regel vertraglich abgeändert werden können, wie z.B. die Regelungen des Urheberrechts und des Datenbankrechts. Die Flexibilität der genannten privatrechtlichen Regelungen findet sich bei den Regelungen des öffentlichen Rechts, wie den Regeln zu Offenheit und Wiederverwendung von Verwaltungs- bzw. Regierungsinformationen, viel weniger wieder. Die Anwendbarkeit dieser Regelungen kann Entwickler davon abhalten, Kooperationen mit Einrichtungen einzugehen, wenn dies bedeuten würde, dass ihr Wissen öffentlich zugänglich wird. Zusätzliche Verträge über geistiges Eigentum können hier teilweise helfen. Man sollte jedoch darauf achten, dass die Zusammenarbeit mit Marktteilnehmern letztendlich keine Machtpositionen schafft, die im Widerspruch zu Wettbewerbsregeln stehen. Entscheidungen, die Einrichtungen treffen, unterliegen natürlich vollständig den allgemeinen Regeln des Verwaltungsrechts, einschließlich der allgemeinen Prinzipien ordnungsgemäßer Verwaltung. Die Anwendung dieser Prinzipien auf KI-Anwendungen kann schwierig sein, da sie grundsätzlich mit der Blackbox kollidieren, die KI nun einmal erzeugt. Dennoch scheint dies kein unlösbares Problem zu sein. Die Regeln zum Schutz personenbezogener Daten (DSGVO) könnten jedoch ein Hindernis darstellen. Die Art der personenbezogenen Daten im Bildungswesen und die Eigenschaften von KI passen (juristisch gesehen) sehr schlecht zusammen, und es erscheint sehr schwer vorstellbar, dass der großflächige Einsatz von KI ohne gesetzliche Regelung gestattet ist. Dies ändert sich natürlich, wenn die zu verwendenden Daten keine personenbezogenen Daten mehr sind. Wenn etwas schief geht, scheinen bei der Anwendung der Haftungsregeln keine nennenswerten Probleme aufzutreten. Dieses Regelwerk ist sehr offen und flexibel, sodass diejenigen, die durch KI-Anwendungen geschädigt werden, nicht im Regen stehen bleiben müssen. Die bildungsspezifischen sektoralen Regeln lassen an sich viel Freiraum und enthalten keine harten Verbote. Es muss jedoch immer im Geiste und im Buchstaben der Grundsätze des Bildungsrechts gehandelt werden. Hinzu kommt, dass die Interessen des Kindes stets einen zentralen und ethischen Maßstab bilden müssen und die Frage immer sein wird, ob dies bei KI der Fall ist. In praktischer Hinsicht ist die sektorale Regelung jedoch ein Hindernis: Es gibt kein starkes Arrangement für die inhaltliche Steuerung der Bildung von oben nach unten, ganz zu schweigen davon, dass dies sehr sensibel ist. Auch die Bewegung von unten nach oben ist schwierig: Zwar können in einzelnen Einrichtungen Initiativen entstehen, aber das Poldermodell und die Vielfalt der verschiedenen Regelungen auf institutioneller Ebene werden wahrscheinlich einer groß angelegten Bewegung im Wege stehen. Dies ganz zu schweigen von der möglichen Abneigung der Lehrer (und Einrichtungen), deren Interessen und Position durch den Einsatz von KI direkt betroffen sein können.

Was wollen wir: welche sind die wichtigsten Chancen und Risiken bei der Anwendung von KI im Bildungswesen?

Chancen von KI-Anwendungen im Bildungswesen

Die Anwendung von KI im Bildungswesen bietet laut der Studie Möglichkeiten, um die folgenden positiven Effekte zu erzielen:

• Reduzierung des Arbeitsdrucks für Lehrer durch den Einsatz von KI zur Unterstützung bei (administrativen) Aufgaben.
• Personalisiertes Lernen: das Bildungswesen besser an die Schüler anpassen, mit sowohl besseren Ergebnissen als auch einem besseren Lernprozess.
• Unterstützung des Lehrers mit ganzheitlichen, fundierten Erkenntnissen (Lernanalytik).
• Verbesserung der Prüfungsmethoden.
• Steigerung der Effektivität digitaler Lernmittel, auch im Einklang mit anderen Technologien wie VR und Serious Games.

Risiken

Aus der Untersuchung geht hervor, dass die Anwendung von KI im Bildungsbereich zu den folgenden möglicherweise negativen Auswirkungen führen könnte, wenn keine Gegenmaßnahmen ergriffen werden:

• Einige Bildungsziele könnten durch KI gefährdet sein, wenn der Fokus auf Technik und dem Aspekt der 'Wissensvermittlung' zu stark ist.
• Voreingenommenheiten bei Menschen werden auf Daten übertragen, die dann von KI übernommen werden.
• Verschlechterte Zukunftsaussichten für den Beruf des 'Lehrers' (für aktuelle und zukünftige Lehrer).
• Abhängigkeit von Black-Box-Modellen (unerklärliche KI) gegenüber der Verantwortung des Lehrers.
• Anwendung von KI, während andere Grundvoraussetzungen noch nicht erfüllt sind.
• Ein Machtverschiebung bei den Produzenten von Lehrmaterial.

Empfehlungen

Um die Anwendung von KI im Bildungswesen zu fördern, gibt es einige Aspekte, auf denen Politik gestaltet werden kann und/oder auf die politische Entscheidungsträger (insbesondere das Ministerium für Bildung, Kultur und Wissenschaft) reagieren können:

1. Förderung der Akzeptanz von KI im Bildungswesen durch Lehrer, Schüler und Eltern.
2. Steigerung der digitalen Kompetenzen des Lehrpersonals.
3. Einrichtung einer Dateninfrastruktur.
4. Unterstützung von Experimenten mit dem Einsatz von KI im Bildungswesen.
5. Förderung eines multidisziplinären Ansatzes bei der Entwicklung von KI.
6. Entwicklung eines Gütesiegels für die verantwortungsvolle Anwendung von KI im Bildungswesen.
7. Initiierung weiterer Forschungsarbeiten zu KI im Bildungswesen.