Liebe Ute, welche Chancen bietet uns Künstliche Intelligenz? Und welche Risiken sind beim Einsatz von KI zu beachten?

Die vielen in den letzten Jahren entstandenen neuen und leistungsstarken Methoden, insbesondere Deep Learning und generative KI, bieten Chancen in vielen Bereichen – von Bildung über Medizin, Produktion und Verwaltung bis Umwelt- und Klimaschutz. Beispielsweise können KI-Anwendungen helfen, Nutzpflanzen gezielt zu überwachen und mögliche Gefährdungen durch Trockenstress oder Schädlinge frühzeitig zu identifizieren. Im Bildungsbereich können Anwendungen großer Sprachmodelle in Kombination mit intelligenten Tutorsystemen gezielt Lernen im Problemlösekontext unterstützen. Bildbasierte Diagnostik kann in der Medizin, aber auch in der industriellen Qualitätskontrolle eingesetzt werden, um Krankheitsbilder oder Anomalien effizienter zu erkennen. Im Prinzip können KI-Methoden einen Beitrag zu allen 17 OECD-Nachhaltigkeitszielen leisten.

Allerdings kann der Einsatz von KI auch negative und unerwünschte Effekte haben. Risiken können durch fehlende Robustheit, fehlende Genauigkeit oder unerwünschte Biases der Modelle selbst entstehen. Hier kann einerseits eine entsprechende Qualitätskontrolle auf Seiten der Modellentwicklung und andererseits mehr Nutzungskompetenz bei den Anwenderinnen und Anwendern helfen. Unerwünschte Auswirkungen können aber auch aus der sozio-technischen Einbettung von KI-Methoden folgen. Das können der Verlust relevanter Kompetenzen oder auch soziale oder emotionale Probleme sein. Beispielsweise könnte intelligente Robotik, wenn sie weit genug entwickelt ist, in der Pflege helfen, um etwa einen Menschen zu füttern – ohne Hektik, Löffelchen für Löffelchen. Während deutlich einfachere digitale Angebote, die gemeinsames Spielen oder Reden ersetzen, zur Vereinsamung beitragen würden.

In welchen Bereichen KI-Systeme wie sinnvoll eingesetzt werden sollen, muss meiner Meinung nach in einem breiten demokratischen Diskurs unter Einbeziehung aller relevanten Stakeholder ausgehandelt werden. Dafür ist aber ein Grundverständnis davon nötig, was KI-Systeme generell leisten können und was nicht.

Foto: Jürgen Schabel / Universität Bamberg
 

Wie gelingt es, KI-Kompetenzen in der Gesellschaft zu stärken? Wie können wir lernen, souverän mit KI umzugehen?

Zunächst einmal wäre zu klären, welche Personengruppen welche Art von KI-Kompetenzen benötigen. Ein Grundschulkind benötigt sicher andere Kompetenzen als Schülerinnen und Schüler im Wahlfach Informatik in der Sekundarstufe. Fachpersonal benötigt andere Kompetenzen als Endverbrauchende.

Allgemein gehe ich aber davon aus, dass ein zumindest sehr allgemeines grundlegendes Verständnis davon, wie Modelle mittels maschinellen Lernens aufgebaut werden und wie generative KI-Ansätze trainiert und Ausgaben erzeugt werden, Voraussetzung sowohl für eine sichere und souveräne Nutzung von KI-Werkzeugen als auch zur kritischen Bewertung von Ausgaben solcher Systeme – sei es eine Klassifikation oder ein generierter Text – notwendig sind. Grundverständnis und Nutzungserfahrungen gemeinsam sind dann Voraussetzung für eine Reflexion der möglichen Auswirkungen von KI-Systemen auf das eigene Leben, Gesellschaft und Umwelt.

Die große Herausforderung ist es, didaktisch sinnvoll an die Zielgruppe angepasste und gleichzeitig fachlich korrekte Lernangebote bereitzustellen. Hier hat der KI-Campus bereits sehr viel zu bieten. Es gibt Online-Kurse für Zielgruppen ohne Informatik- und KI-Hintergrund genauso wie sehr spezielle vertiefende Angebote. Es gibt Angebote, die KI direkt im Kontext verschiedener Anwendungsfelder einführen, etwa Schule oder Medizin. Aus meinem Team an der Universität Bamberg haben wir zwei Kurse beigesteuert: Der Kurs „Erklärbares Maschinelles Lernen für Ingenieurwissenschaften“ bietet einen vertieften Einblick in verschiedene Methoden dieses Forschungsgebiets. Der Kurs „Data Literacy für die Grundschule“ richtet sich dagegen an Grundschullehrkräfte und ist völlig voraussetzungsfrei.

Möchte man sich allgemeiner zu aktuellen Themen im Bereich KI informieren, bieten verschiedene Podcast-Angebote eine gute Möglichkeit. Das Bamberger Zentrum für KI (BaCAI) bietet hier die Podcast-Serie „Servus KI“ an. In jeweils etwa dreißigminütigen Folgen stellen KI-Professorinnen und -Professoren ihr jeweiliges Forschungsgebiet dar und diskutieren aktuelle Fragestellungen und Anwendungspotenziale. Diese fachspezifischen Folgen werden durch eine interdisziplinäre Perspektive erweitert und es kommen Professorinnen und Professoren aus den Sprachwissenschaften und der Psychologie zu Wort.

Ab welchem Alter empfiehlst du eine Beschäftigung mit KI?

Digitale Angebote dringen immer mehr bereits in die kindliche Lebenswelt ein. Diese Angebote werden in Zukunft auch vermehrt KI-Komponenten enthalten. Entsprechend sollte ein elementares Verständnis von KI bereits ab dem Grundschulalter, ausgewählte Aspekte auch schon in der frühkindlichen Bildung vermittelt werden. Ich komme auf meine schon geäußerte These zurück, dass Bedienkompetenz auf einem grundlegenden Verständnis der darunterliegenden Technologien basieren muss.

Um KI-Grundkompetenzen zu vermitteln, muss zunächst ein Grundverständnis von elementaren Informatikkompetenzen aufgebaut werden, insbesondere wie Informationen digital gespeichert werden und wie deren Verarbeitung auf Basis von Algorithmen mittels Programmen erfolgt. Da die meisten KI-Anwendungen auf maschinellem Lernen basieren, wird zudem eine grundlegende Datenkompetenz benötigt. Diese vermittelt der oben bereits genannte KI-Campus-Kurs „Data Literacy für die Grundschule“, der auch ein Modul zu maschinellem Lernen enthält. Wichtig ist, dass bereits Kinder verstehen, dass die Programme und Apps, die KI nutzen, nicht vom Himmel fallen, sondern von Menschen gemacht werden. Damit wird auch eine erste Idee vom Berufsfeld Informatik sowie Data Science vermittelt. Zudem können bereits Kindern die Unterschiede zwischen menschlichem Denken und KI nahegebracht werden. So kann verhindert werden, dass Kinder KI-Systemen unzutreffende Eigenschaften zuschreiben – was ja aktuell auch viele Erwachsene tun.
 

Wie stehst du zu KI-Leitlinien im Bildungsbereich: Sollte der Umgang mit KI reguliert werden und wenn ja, wie?

Regulierung kann dafür sorgen, dass methodisch sauber umgesetzte, sichere und datenschutzkonforme KI-Tools für Lehrende wie Lernende entwickelt und eingesetzt werden. Ich begrüße den AI Act der EU ausdrücklich. Allerdings hoffe ich, dass wir aus der Zeit der Umsetzung der Datenschutzgrundverordnung gelernt haben und nicht zu viel Bürokratie aufbauen.

Bei so neuen Technologien würde ich bei offenen Punkten auch eher nicht direkt Verbote aussprechen, sondern ein kritisches Monitoring empfehlen. Wieder gilt, dass ein Grundverständnis von KI-Methoden wesentlich ist, um den Nutzen und mögliche negative Auswirkungen des Einsatzes bestimmter Systeme möglichst realistisch bewerten zu können.

Für die meisten Menschen ist KI eine Black Box, die nur schwer einschätzbar ist. Wie können wir vertrauenswürdige KI-Systeme entwickeln?

Eine Expertenkommission der Europäischen Union hat sieben Anforderungen an vertrauenswürdige KI-Systeme herausgearbeitet. Diese sind: Menschliche Kontrolle und Aufsicht, Robustheit und Sicherheit, Datenschutz und Qualitätsmanagement, Transparenz und Nachvollziehbarkeit, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht. 

Einige dieser Anforderungen betreffen allgemeine technische Aspekte, rechtliche Aspekte und allgemeine gesellschaftspolitische Aspekte. Andere verlangen eine Weiterentwicklung von KI-Methoden und sind damit aus meiner Sicht ein wichtiger Impuls für die KI-Forschung selbst. Dies betrifft Methoden der erklärbaren KI, wie wir sie in unserem oben genannten KI-Campus-Kurs vorstellen. Methoden, um unfaire Biases zu vermeiden oder immerhin zu reduzieren, sowie Methoden zur interaktiven Korrektur und Anpassung von KI-Modellen.
 

Besonders spannend finde ich, dass du dich als Informatikerin und Psychologin mit KI beschäftigst. Wie bewertest du KI aus Sicht der Psychologie?

Die Themen Erklärbarkeit, menschliche Kontrolle und Aufsicht können nur sinnvoll umgesetzt werden, wenn die Schnittstellen zwischen KI-Systemen und Menschen passend gestaltet sind. Das betrifft weniger Fragen der Usability, sondern vor allem der kognitiven Passung. Damit Mensch und KI-System partnerschaftlich zusammenarbeiten können, muss die für den jeweiligen Kontext passende Information in passender Modalität und in passendem Detaillierungsgrad gegeben werden. Entsprechend gehört zur Gestaltung vertrauenswürdiger KI-Systeme Psychologie, insbesondere die Kognitionspsychologie, unverzichtbar dazu.

In meiner Forschung zum erklärbaren und interaktiven maschinellen Lernen kann ich Informatik und Psychologie entsprechend direkt sinnvoll kombinieren, um neue, menschzentrierte Ansätze zu entwickeln. Auch bei der Entwicklung von KI-Systemen für die Bildung hilft mir mein Hintergrund in Psychologie. Beispielsweise nutze ich kognitive Theorien zum analogen Problemlösen und Lernen, um gezielte Rückmeldungen an Lernende zu geben. Anstelle eines einfachen Abgleichs einer Lernendenantwort mit einer Musterlösung entwickele ich Methoden, die das einer fehlerhaften Antwort zugrundeliegende Fehlkonzept identifizieren. Statt dann einfach die korrekte Antwort zurückzumelden, liefern unsere Tutorsysteme analoge Beispiele. Damit kann Lernen im Problemlösekontext umgesetzt werden und der Aufbau eines tieferen Verständnisses eines Problembereichs unterstützt werden.
 

Herzlichen Dank für das Interview!