Die neuseeländische Regierung möchte KI-Technologie in Klassenzimmern einsetzen, um jedem Schüler einen eigenen KI-Tutor zur Seite zu stellen. Während sich das Konzept weiterentwickelt, wirft es Fragen über seine möglichen Auswirkungen auf Lehrer, Lernende und ethische Überlegungen auf.

Die Einführung von KI als Unterrichtsmittel ist keine neue Idee. Die jüngsten Fortschritte haben jedoch die Diskussion über die Vorteile und Risiken neu entfacht. Das Hauptziel besteht darin, Zugang zu personalisiertem Lernen zu ermöglichen, aber wer stellt die Vertrauenswürdigkeit der Daten und die Fähigkeiten der KI sicher?

KI-Tutoren: Vorteile und Risiken

Ein KI-Tutor fungiert als Stellvertreter eines menschlichen Tutors und bietet Unterstützung durch „Scaffolding“ beim Lernen der Schüler. Der Begriff „Scaffolding“ bezieht sich auf die Lücke zwischen dem, was ein Lernender eigenständig tun kann, und dem, was er mit der Anleitung einer sachkundigeren Person erreichen kann. Dieser Ansatz ermöglicht es Studenten, von einem intelligenten System zu lernen, das ihnen helfen könnte, von ihren aktuellen Fähigkeiten zur nächsten Stufe der benötigten Unterstützung zu gelangen.

Theoretisch könnte ein KI-Tutor diese Rolle übernehmen, aber das birgt eine Reihe von Risiken in sich.

So beruht die Intelligenz des KI-Mentors auf Daten, mit denen er trainiert wurde. Daher hängt seine Zuverlässigkeit stark von der Genauigkeit und Fairness der Trainingsdaten ab. Wenn die Daten voreingenommen oder ungenau sind, kann dies zu fehlerhaften Entscheidungen führen, Stereotypen verstärken oder bestimmte Perspektiven unterbewerten.

Für indigene Völker kann dies ihre Datensouveränität verletzen und ihr kulturelles und geistiges Erbe missbrauchen. Dieser Missbrauch kann die Ungleichheit verstärken und die Rechte und Beiträge indigener Gemeinschaften aushöhlen.

Eine häufig vorgeschlagene Lösung für dieses Problem ist das Training von KI-Systemen anhand sorgfältig ausgewählter Daten. Diese Methode hat jedoch erhebliche Nachteile, da sie die Inhalte auf das beschränkt, was vom Anbieter ausgewählt und genehmigt wurde.

Künstliche Intelligenz ist heute in den Schulen weit verbreitet, so dass es wichtig ist, die Schüler auf eure Nutzung vorzubereiten. Anstatt sich nur auf bestimmte Tools zu konzentrieren, sollte der Schwerpunkt auf der Entwicklung von Technologiekompetenz im gesamten Bildungsbereich liegen.

Die Forschung widmet sich der Definition dieser Kompetenz und ihrer Rolle bei der Förderung des kritischen Denkens und des verantwortungsvollen Umgangs mit der Technologie, um sicherzustellen, dass die Technologie die menschlichen Lehrer unterstützt und nicht ersetzt.

Die Auswirkungen der übermäßigen Nutzung sozialer Medien durch junge Menschen auf die psychische Gesundheit haben bei Forschern und politischen Entscheidungsträgern an Aufmerksamkeit gewonnen.

Eine wichtige Stimme in dieser Diskussion, der U.S. Surgeon General Dr. Vivek Murthy, hat Gesundheitswarnungen auf Social Media-Plattformen gefordert, um die Nutzer vor den potenziellen Risiken zu warnen, insbesondere für jüngere Bevölkerungsgruppen.

Die Haltung des Surgeon General

Dr. Murthy äußerte sich besorgt über den Zusammenhang zwischen einer längeren Nutzung sozialer Medien und einer Zunahme von Angstzuständen und Depressionen bei Jugendlichen.

Er plädiert für Gesundheitswarnungen, ähnlich denen auf Tabakprodukten, und betont die Notwendigkeit von Vorsichtsmaßnahmen, während weitere Forschungen laufen, um diese Erkenntnisse genauer zu untersuchen.

Dr. Murthy wies auf beunruhigende Statistiken hin und stellte fest, dass amerikanische Teenager in der Regel etwa 4,8 Stunden pro Tag auf sozialen Medienplattformen verbringen.

Dieses Maß an Engagement wird mit einem fast doppelt so hohen Risiko für die Entwicklung psychischer Probleme in dieser Altersgruppe in Verbindung gebracht, was auf einen dringenden Bedarf an Interventionen hinweist.

Die Reaktion der medizinischen Gemeinschaft

Die von Dr. Murthy geäußerten Bedenken waren auch ein Schwerpunkt auf der Jahreshauptversammlung (AGM) der Organisation im April, wo sie mit großer Bedeutung aufgenommen wurden.

Prof. Matthew Sadlier, Vorsitzender des Beraterausschusses und beratender Psychiater, schloss sich diesen Worten an.

Als prominente Persönlichkeit in der medizinischen Gemeinschaft betonte Prof. Sadlier, wie wichtig es ist, diese Risiken zu erkennen und sich für Schutzmaßnahmen einzusetzen, während die laufende Forschung versucht, die vollen Auswirkungen der sozialen Medien auf die psychische Gesundheit junger Menschen zu klären.

Parallel dazu erörterte Professor Brendan Kelly, eine angesehene Persönlichkeit der Psychiatrie am Trinity College Dublin und beratender Psychiater am Tallaght University Hospital, die Notwendigkeit eines verantwortungsvollen Umgangs mit sozialen Medien.

Professor Kelly betonte das kritische Gleichgewicht zwischen Vorsicht und Anpassung, um junge Nutzer vor den Schäden eines übermäßigen digitalen Engagements zu bewahren, und empfahl einen moderateren Umgang mit sozialen Medien als Teil eines gesunden Lebensstils.

Mit Blick auf die Zukunft wird sowohl von Gesundheitsexperten als auch von politischen Entscheidungsträgern die Entwicklung strengerer Richtlinien und Aufklärungsprogramme gefordert, um die negativen Auswirkungen sozialer Medien auf Jugendliche zu mildern.

Künftige Initiativen könnten eine gründlichere Forschung, eine bessere Aufklärung der Nutzer über die Risiken für die psychische Gesundheit und möglicherweise neue Richtlinien umfassen, die einen gesünderen Umgang mit digitalen Plattformen fördern.