Blog

KI-Analyse zeigt: Diese Skills sind bei Unternehmen gefragt

Jan Mackensen, Raffael Ruppert — Tue, 07 Jan 2025 15:00:00 +0000

Mit diesen Fragen haben sich Jan Mackensen und Raffael Ruppert in einer Kooperation zwischen dem Forschungs- und Innovationszentrum KODIS des Fraunhofer IAO und dem KI-Campus-Hub Baden-Württemberg beschäftigt. Sie haben dafür eine Methodik zur Analyse von Unternehmenswebseiten und Stellenbeschreibungen erarbeitet. Das Besondere daran: Generative KI wurde als Werkzeug eingesetzt, um die gefragten Kompetenzen rund um KI zu ermitteln. Zentrale Ergebnisse stellen sie in diesem Blogbeitrag vor, das entstandene Whitepaper findet ihr auf der Seite des Fraunhofer IAO.

1. Zentrale Ergebnisse unserer KI-Analyse

Die Methode bietet eine detaillierte Übersicht, ob und in welchem Umfang KI bereits in Unternehmen eingesetzt wird. Gleichzeitig zeigt die Studie auf, welche Anforderungen Unternehmen derzeit an Arbeitnehmer:innen im Bereich KI stellen.

Ergebnisse der Unternehmensanalyse:

KI-Reifegrad: Die Auswertung der Webseiten von 446 großen Unternehmen in Baden-Württemberg ergab, dass rund ein Drittel KI bereits aktiv nutzt. Insbesondere das verarbeitende Gewerbe hebt sich hervor, da hier häufig digitale Technologien zum Einsatz kommen und KI oft zur Optimierung der Lieferketten oder zur prädiktiven Wartung eingesetzt wird. Hingegen zeigte das Gesundheitswesen einen geringeren Einsatz von KI, was den Entwicklungsbedarf in dieser Branche verdeutlicht.
Häufige Anwendungsfälle: Prädiktive Analysen (z. B. zur Vorhersage von Wartungsbedarf), Qualitätskontrolle und industrielle Automatisierung sind die wichtigsten Use-Cases in der Industrie. Im Dienstleistungsbereich werden KI-gestützte Systeme häufig im Kundenservice eingesetzt, während im Gesundheitswesen erst ein begrenztes Spektrum an KI-Anwendungen vorkommt.

Ergebnisse der Analyse der Stellenbeschreibungen:

Technische Kompetenzen: Python ist die gefragteste Programmiersprache, gefolgt von Java und C++. Zu den meistgeforderten Frameworks zählen SQL, GIT und TensorFlow, was darauf hinweist, dass Unternehmen nicht nur spezifische KI-Kompetenzen, sondern auch umfassende Programmier- und Datenbankkenntnisse schätzen.
Kompetenzen zum Thema KI: Unternehmen verwenden häufig Schlagworte wie Maschinelles Lernen und Künstliche Intelligenz, ohne die genauen Anforderungen zu spezifizieren – sei es, um mehr Bewerber anzuziehen, sei es, weil sie selbst nicht genau wissen, welche Kompetenzen in ihrem Unternehmen benötigt werden. Besonders nachgefragt werden Kompetenzen in den Bereichen Natural Language Processing (NLP) und generative KI, was auf Fortschritte bei großen Sprachmodellen zurückzuführen ist.
Soft Skills: Neben den technischen Fähigkeiten werden Teamfähigkeit, Kommunikationskompetenz und Selbstständigkeit erwartet, um die digitale Transformation in Unternehmen aktiv mitgestalten zu können. Unternehmen suchen demnach nicht nur Spezialist:innen, sondern auch Führungspersönlichkeiten, die das Thema KI im Unternehmenskontext vorantreiben.

Die Ergebnisse unterstreichen den Bedarf an KI-Kompetenzen und Future Skills für die Arbeitswelt. Die Allianz für Future Skills des Stifterverbandes hat diesen Bedarf ebenfalls erkannt und es sich zum Ziel gesetzt, den Anteil der Hochschulen, die KI-Kompetenzen und Future Skills fest in ihr Bildungsangebot aufnehmen, signifikant zu erhöhen.

2. Generative KI für die Arbeitsmarktanalyse: Vorgehen und Methode

Das Whitepaper beschreibt eine Methode, die auf generativer KI basiert und Unternehmenswebseiten sowie Stellenangebote systematisch auswertet, um Qualifikationsbedarfe im Bereich KI zu identifizieren. Diese Methode ist speziell auf große, unstrukturierte Textmengen zugeschnitten und zielt darauf ab, relevante Informationen direkt aus den Texten zu extrahieren, um sie anschließend gebündelt zu analysieren.

Die Methode umfasst folgende Schritte:

Analyse von Unternehmenswebseiten: Mithilfe generativer KI-Modelle wie LLama3-8b-Instruct werden Informationen zu potenziellen KI-Use-Cases und Kompetenzanforderungen aus den Webseiten extrahiert und anschließend analysiert. Das Modell scannt die Webseiten nach relevanten Inhalten, entscheidet welche Webseiten als nächstes besucht werden und analysiert die gesammelten Informationen nach vorgegebenen Kriterien.
Analyse von Stellenbeschreibungen: Zusätzlich analysiert die Methode Stellenangebote der Bundesagentur für Arbeit nach Kompetenzen, die in der KI-Arbeitswelt relevant sind. In den durch gezielte API-Anfragen schon vorausgewählten Stellenangeboten wird mit generativen KI-Modellen der Kompetenzbedarf automatisch erfasst. In einem weiteren Schritt werden die Inhalte gefiltert, um spezifische Anforderungen an Fähigkeiten und Soft Skills in KI-Positionen zu identifizieren.
Clustering-Verfahren: Die Ergebnisse der beiden Analysen werden anschließend durch ein Clustering-Verfahren weiterverarbeitet. Hierbei gruppiert das KI-Modell ähnliche Kompetenzbedarfe und Anwendungsfälle, wodurch klarere Trends für die benötigten Kompetenzen in verschiedenen Branchen sichtbar werden.

Limitationen und Ausblick

Die Untersuchung zeigt, dass generative KI-basierte Analysemethoden einen vielversprechenden Weg darstellen, um den dynamischen Kompetenzbedarf in der KI-Arbeitswelt besser zu verstehen. Die Methode erlaubt es, den Fortschritt in verschiedenen Branchen zu verfolgen, und hilft, neue Kompetenzbedarfe gezielt zu erkennen.

Gleichzeitig birgt der Einsatz von generativer KI in der Forschung auch Risiken. So besteht die Gefahr, dass die Ergebnisse durch Halluzinationen oder Biases im Modell verfälscht werden. Dies ist besonders kritisch zu betrachten, da in komplexen Systemen wie generativen Modellen solche Fehler schwer zu entdecken und noch schwerer nachzuvollziehen sind. Hier muss in Zukunft durch weitere Forschung nachgebessert werden, um generative KI zuverlässig als Analysewerkzeug einsetzen zu können.

Langfristig könnten weitere Analysen mit generativer KI jedoch dazu beitragen, die Arbeitsmarktforschung noch präziser zu gestalten und so den Weg für eine nachhaltige Integration von KI in Unternehmen zu ebnen.

Zur Publikation „Qualifizierungsbedarfe und Künstliche Intelligenz“

Jan Mackensen

Wissenschaftlicher Mitarbeiter

Fraunhofer IAO | Forschungs- und Innovationszentrum Kognitive Dienstleistungssysteme (KODIS)

Jan Mackensen studierte Cognitive Science an der TU Darmstadt mit den Schwerpunkten Künstliche Intelligenz und Maschinelles Lernen. Als wissenschaftlicher Mitarbeiter am Fraunhofer IAO KODIS beschäftigt er sich hauptsächlich mit der Frage, wie große Sprachmodelle für die Analyse von Webdaten genutzt werden können. Seine Expertise liegt dabei nicht nur in der Anwendung großer Sprachmodelle, sondern auch in deren Evaluierung und Erprobung im Anwendungskontext.

Raffael Ruppert

Senior Research und Data Manager

Stifterverband

Raffael Ruppert betreut die Datenarbeit und Begleitforschung des KI-Campus beim Stifterverband. Er hat Politikwissenschaft an der Sciences Po in Paris und der Freien Universität in Berlin (M.A.) studiert. Sein Fokus liegt auf der Aufarbeitung von Daten für die nutzerzentrierte Weiterentwicklung des KI-Campus' sowie der Untersuchung von Lernendenverhalten.

Gamechanger generative KI? So unterstützt das Prompt-Labor Hochschullehrende

Malte Persike, Stefan Göllner, Malte Miram — Tue, 10 Dec 2024 09:11:45 +0000

Generative KI-Tools schreiben und optimieren Texte, erstellen Bilder, erzeugen Präsentationen, kreieren Videos und Sounds. Dadurch entstehen vielfältige Möglichkeiten für die Vorbereitung, Durchführung und Evaluation von Lehrveranstaltungen. Die Hochschulbildung befindet sich auf direktem Weg in die KI-Revolution und das „Prompt-Labor Hochschullehre 2.0“ begleitet euch dabei.

Der neue Online-Kurs vom KI-Campus und dem Hochschulforum Digitalisierung (HFD) unterstützt Dozierende, Hochschulmitarbeitende und Studierende, die Potenziale generativer KI umfassend zu verstehen und verantwortungsvoll einzusetzen.

Nach dem erfolgreichen Start des ersten Prompt-Labors im Jahr 2023, das als Live-Workshopserie konzipiert war, folgt nun die zweite Auflage. Über 600 Teilnehmende haben damals gemeinsam Prompts entwickelt und Strategien des Promptings kennengelernt. Dieser Erfolg hat uns motiviert, das Prompt-Labor als Kurs auf dem KI-Campus neu aufzulegen, die rasanten Entwicklungen im KI-Bereich aufzugreifen und den Lernprozess noch zugänglicher und umfassender zu gestalten.

Hochwertige Lernressourcen für den optimalen Lernerfolg

Der Kurs bietet mehr als nur trockene Theorie. Mit über 20 Lernvideos in Studioqualität und insgesamt über 300 Minuten Videomaterial könnt ihr in die Welt der generativen KI eintauchen. Interaktive Lern- und Assessmentformate, wie die über 100 Quizfragen und die Abschlussprüfung, sorgen dafür, dass das neu erworbene Wissen direkt angewandt und gefestigt wird. Es kann ein Leistungsnachweis ausgestellt werden, der die erworbenen Kompetenzen sichtbar macht.

Ein besonderes Highlight sind die mehr als 600 Seiten offen lizenzierte Foliensätze. Diese Materialien können von den Teilnehmenden uneingeschränkt verwendet und an die Bedürfnisse der eigenen Lehre angepasst werden. Ergänzt wird das Angebot durch zahlreiche praktische Prompt-Beispiele und umfangreiche Linksammlungen zu weiteren wertvollen Ressourcen.

Kursstruktur und Inhalte

Der Kurs ist als Selbstlerneinheit konzipiert, um maximale Flexibilität zu bieten. Die Teilnehmer:innen starten mit einer Einführung in generative KI, lernen die Basics und komplexen Strategien des Promptings kennen und wenden diese direkt auf praxisnahe Szenarien an. Besonders im Fokus steht die Anwendung von KI zur Unterstützung in der Lehre und bei Prüfungen.

Die Qualitätssicherung für eigene Prompts ist ein zentraler Bestandteil des Kurses. Hier lernen die Teilnehmer:innen, wie sie die Qualität ihrer Prompts kontinuierlich verbessern können. Dies ist besonders wichtig, um sicherzustellen, dass die entwickelten Prompts zuverlässig funktionieren und effektiv eingesetzt werden können, insbesondere im Kontext von Prüfungen. Der KI-Campus stellt auf chat.ki-campus.org mit dem „HAWKI“-Interface eine eigene kostenfreie Testumgebung zur Verfügung, in der die Prompts mit verschiedenen KI-Modellen ausprobiert werden können.

Die Teilnahme am Prompt-Labor bietet die Möglichkeit, Teil einer engagierten Community zu werden. Im Forum können Fragen gestellt, Beiträge kommentiert und Erfahrungen geteilt werden. Dieser kontinuierliche Austausch hilft, auf dem neuesten Stand zu bleiben und von den Erfahrungen anderer zu profitieren.

Interaktiver Austausch in den Prompt-Retros

Ein Highlight des Kurses ist der interaktive Austausch in sogenannten Prompt-Retros, zu denen das Hochschulforum Digitalisierung alle zwei Wochen einlädt. In diesen digitalen Meetings wird jeweils ein „Prompt der Woche” von wechselnden Autor:innen vorgestellt, der dann von den Teilnehmenden in Breakout-Räumen getestet, weiterentwickelt und diskutiert wird. Die aktuellen Termine und die Anmeldung zu den Prompt-Retros findet ihr hier.

Prompt-Katalog

Mit dem Prompt-Katalog bieten der KI-Campus und das HFD eine offene Ressource, um Prompts, die sich in der eigenen Anwendung als nützlich erwiesen haben, mit der Community zu teilen. Der Katalog liefert Inspirationen für die Retro-Termine und ermöglicht die Vernetzung mit weiteren Prompt-Expert:innen. Gleichzeitig werden hier wichtige Prompts aus den Kurseinheiten übersichtlich und thematisch filterbar zur Verfügung gestellt.

Jetzt Prompt-Profi werden

Das „Prompt-Labor Hochschullehre 2.0“ ist mehr als nur ein Kurs – es ist eine Chance, Teil einer dynamischen Lern- und Lehrgemeinschaft zu werden und die Zukunft der Hochschulbildung aktiv mitzugestalten. Meldet euch noch heute an und erweitert eure Kompetenzen im Umgang mit generativer KI. Wir sehen uns im Prompt-Labor!

Malte Persike

Wissenschaftlicher Leiter

RWTH Aachen

Malte Persike ist Wissenschaftlicher Leiter des Centers für Lehr- und Lernservices (CLS) der RWTH. Er ist Kernteammitglied im Hochschulforum Digitalisierung und im Auftrag der DFG als Vorsitzender der AG Digitales Lehren, Lernen und Vernetzen der Schwerpunktinitiative Digitale Information der deutschen Wissenschaftsorganisationen tätig. Seine Forschungsthemen umfassen die evidenzbasierte Wirkungsforschung im Hochschulwesen sowie Learning Analytics zur Optimierung von Lehr-/Lernprozessen.

Stefan Göllner

Innovation Manager

Stifterverband

Stefan Göllner ist Innovation Manager für den KI-Campus beim Stiferverband. Er entwickelt Vernetzungs- und Kommunikationsformate und engagiert sich für den Community Aufbau in den zentralen Themenfeldern des Projekts.

Malte Miram

Programmmanager Qualifizierung

Hochschulforum Digitalisierung

Malte Miram ist Programmmanager beim Stifterverband in Berlin. Im Hochschulforum Digitalisierung (HFD) entwickelt und koordiniert er Qualifizierungsangebote für Lehrende, Mitarbeitende in Unterstützungsstrukturen von Lehre und Infrastruktur sowie Wissenschaftsmanager:innen. Aktuell steht bei diesen Angeboten der Umgang mit KI im Fokus.

KI-Campus goes GenAI – Generative KI-Tools auf dem KI-Campus

Raffael Ruppert, Cornelia Gamst — Tue, 26 Nov 2024 11:30:00 +0000

Der KI-Campus ist eine Lernplattform für Künstliche Intelligenz. In unserer Arbeit setzen wir uns für die Entwicklung kostenloser, digitaler Lernangebote ein, die von allen Menschen – besonders aber von Hochschulen und Bildungseinrichtungen – für den Aufbau und die Stärkung von KI-Kompetenzen genutzt werden können.

Selbstverständlich spielen dabei auch offene und generative KI-Technologien eine wichtige Rolle. Die Inhalte unserer Lernangebote wurden in den letzten zwei Jahren sukzessive an die rasanten Entwicklungen angepasst und auch technologisch hat sich der KI-Campus weiterentwickelt.

Im Rahmen unserer Forschungs- und Entwicklungsprojekte wurden seit 2019 KI-Systeme durch Partner wie das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) und das Hasso-Plattner-Institut (HPI) erprobt und an unterschiedlichen Stellen punktuell in unserem Kursangebot eingesetzt.

Wir haben unter anderem bereits seit mehreren Jahren einen durch das HPI entwickelten einfachen FAQ-Chatbot in unserem Learning Management System (LMS) implementiert, der auch einfache Kursempfehlungen geben kann, über generative KI-Fähigkeiten verfügte dieser jedoch nicht.

Abb. 1: Alter Chatbot (ohne generative KI)

Zusammen mit den KI- und Datenexperten der Scieneers arbeiten wir daher seit Herbst 2023 auch an weitergehenden, direkt in unser Portal und unser LMS integrierten Lösungen. Im Rahmen der Partnerschaft haben wir zwei Chatbot-Varianten entwickelt, die durch den Einsatz von Large Language Models (LLMs) und Retrieval-Augmented Generation (RAG) unterstützt werden. Die Chatbots wurden im November 2024 offiziell eingeführt und versprechen, die Interaktion und Unterstützung für unsere Nutzenden deutlich zu verbessern.

Neuer FAQ-Chatbot

Der neue generative KI-Chatbot beantwortet übergreifende Fragen rund um den KI-Campus, zu Kursinhalten aber auch allgemeine Supportanfragen. Er greift auf alle Inhalte der Website zu und kann so die Fragen von Nutzenden bedarfsgerecht beantworten und Interessierten passende Lernangebote aus unserem umfangreichen Portfolio an Kursen, Videos, Podcasts etc. empfehlen. Dabei wird eine Antwort in natürlicher Sprache mit der direkten Verlinkung von Quellen kombiniert (siehe Screenshot).

Abb. 2: Neuer FAQ-Chatbot

Neuer KI-Kurstutor

Innerhalb von Kursen in unserer Moodle-Lernumgebung¹ könnt ihr als Nutzende den Chatbot sogar für inhaltliche Fragen, Aufgabengenerierung zu einzelnen Modulen oder zur Hilfestellung in eurem Lernprozess nutzen. Leider funktioniert der Bot in der ersten Entwicklungsstufe nicht in allen Kursen gleich gut, da die Qualität der Antworten stark von der Menge und Qualität der zur Verfügung stehenden Daten abhängt. Eine große Herausforderung im Training war z. B., alle unterschiedlichen didaktisch sinnvollen Elemente maschinenlesbar zu machen, was noch nicht immer perfekt gelungen ist.

Wir freuen uns, wenn ihr mit dem Chatbot experimentiert und uns Feedback gebt, was gut und was noch nicht so gut funktioniert. Helft uns, das Tool schrittweise immer besser zu machen!

Abb. 3: Neuer KI-Kurstutor

Neue KI-Sandbox

Für ein umfassendes GenAI-Angebot arbeiten wir mit Partnern zusammen, die bereits großartige Lösungen entwickelt haben. Zusätzlich zu den bei uns direkt integrierten Bots haben wir mit einer Kombination aus dem (Open-Source-)Interface-Tool „HAWKI“ der HAWK Hildesheim und den vom KI-Servicezentrum „KISSKI“ der GWDG in Göttingen gehosteten Sprachmodellen einen niedrigschwelligen Zugang zu verschiedenen großen Sprachmodellen für alle unsere Lernenden geschaffen. Dies soll als Spielwiese bzw. Playground dienen, um die Möglichkeiten der generativen Sprach-KI frei und spielerisch zu erkunden. Alle registrierten Nutzenden des KI-Campus können mit ihrem Account über chat.ki-campus.org direkt darauf zugreifen, im „Prompt-Labor Hochschullehre 2.0“ wird der Chat z. B. schon genutzt.

Abb. 4: KI-Sandbox (basiert auf "HAWKI")

Im Folgenden gehen wir etwas ausführlicher darauf ein, wie wir den neuen FAQ-Chatbot implementiert haben, welche Technologie er nutzt und wie wir ihn getestet haben. Im Anschluss beschreiben wir das HAWKI-System als KI-Playground noch genauer.

Was ist RAG?

RAG steht für „Retrieval-Augmented Generation“. Vereinfacht ausgedrückt kombiniert diese Technologie zwei wesentliche Ansätze: das Abrufen von relevanten Informationen aus einer Datenbank (Retrieval) und das Generieren von textbasierten Antworten durch KI (Generation). In unserem Fall bedeutet das, dass der Chatbot auf spezifische Inhalte zugreift, die auf unserer Plattform zur Verfügung stehen. Basierend auf einem Sprachmodell (Large Language Model) sucht er nach den relevanten Inhalten zu euren Fragen und formuliert eine hilfreiche Antwort.

Der Aufbau unseres Chatbots

Um den Chatbot für unsere Website mit relevanten Informationen zu füttern, haben wir verschiedene Datenquellen eingebunden. Dazu zählen alle Unterseiten unserer Webseite, einschließlich des dort direkt hinterlegten Kurses „Stadt | Land | DatenFluss“, der Learning Nuggets sowie des gesamten Kurs-Contents, des Blogs und unserer Publikationen. Diese Daten helfen dem Chatbot, allgemeine Fragen zum KI-Campus möglichst präzise zu beantworten und auch auf grundlegende Fragen zu KI-Themen Antworten zu geben.

Darüber hinaus haben wir die Inhalte in unserem LMS in Moodle „vektorisiert“, das heißt die Transkripte der Videos und sämtliche Textformate wurden in die Vektordatenbank des RAG-Systems geladen. Dies ermöglicht es dem Chatbot, detaillierte Fragen zu einzelnen Kursinhalten zu beantworten und Lernende während ihrer Kurse zu begleiten. Eine Herausforderung dabei war, dass weitere Lernaktivitäten, wie z. B. H5P-Übungsaufgaben, die derzeit eine große Rolle in vielen unserer Kurse spielen, nur sehr schwierig in das notwendige Format zu bringen sind.

Zur Orchestrierung des RAG-Prozesses wurde das Open Source Framework LlamaIndex verwendet. Die Bot-App wird auf der Cloud-Computing-Plattform Microsoft Azure gehostet und per API zur Einbindung in die KI-Campus-Webseite und das KI-Campus-LMS zur Verfügung gestellt. Die LLMs selbst werden über Microsoft Azure (GPT-4) und den LLM-Service der Gesellschaft für Wissenschaftliche Dienstleistungen in Göttingen mbH (GWDG) bezogen.

Testing unterschiedlicher Sprachmodelle und erste Erfahrungen

Abb. 5: Testing-Frontend

Beim Testen der Chatbots haben wir eine separate Testumgebung genutzt und die Qualität der Antworten des Bots unter Verwendung von vier verschiedenen Sprachmodellen getestet: GPT-4, Mistral, Llama3 und Qwen2. Dabei wurden Standardfragen in drei Kategorien gestellt: Content-Empfehlungen, klassischer Support und inhaltliche Fragen zu Kursen. Ein menschliches Review-Team bewertete die Antworten anschließend nach folgenden Kriterien: Korrektheit, Konsistenz, Kontextbewusstsein, Ton(alität) und Schnelligkeit. Für jedes Kriterium wurde ein Punkt vergeben, wenn die Antwort in der Kategorie zufriedenstellend war.

Insgesamt wurden drei Testrunden durchgeführt und das System iterativ angepasst, z. B. wurde der System-Prompt (quasi die Grundeinstellung des Chatbots) variiert oder die Dokumente, die in die Vektordatenbank geladen wurden, wurden neu strukturiert und verbessert. Konkrete Probleme waren beispielsweise, dass die LLMs gelegentlich in andere Sprachen wechselten oder falsche Antworten gaben, wenn keine Informationen vorlagen (Halluzination).

Insgesamt ergab das Testing über alle Runden hinweg, dass GPT-4 am leistungsstärksten war. Durch schrittweise Anpassungen war es uns jedoch möglich, auch mit der durch die GWDG zur Verfügung gestellten Version von Llama3 ausreichend gute Antworten zu generieren. Für die Implementierung war uns im Ergebnis der Open-Source-Ansatz wichtiger als der beste Output. Aber wir haben viel dabei gelernt und gerade im letzten Halbjahr auch viele Verbesserungen gesehen.

KI-Sandbox: HAWKI-Interface

Das Interface-Tool HAWKI wurde von der Hochschule Hildesheim-Göttingen entwickelt und umfasst eine Open-Source-Benutzeroberfläche für GenAI-Chatbots. Diese Benutzeroberfläche haben wir in unserer Implementierung mit den bereits erwähnten, von der GWDG in Göttingen gehosteten Sprachmodellen kombiniert und direkt mit dem KI-Campus-Account für alle registrierten Lernenden nutzbar gemacht.

Das Tool wurde entwickelt, um Studierenden und Lernenden den praktischen Umgang mit KI-Technologien zu ermöglichen, der zentral für den handlungsorientierten Erwerb von KI-Kompetenzen ist.

Im Rahmen von ausgewählten Kursen auf dem KI-Campus sollen Teilnehmende den HAWKI-Chat nutzen können, um praktische Kompetenzen, z. B. im Prompting, auszubauen und experimentell die Funktionsweise großer Sprachmodelle zu erleben. Es stehen verschiedene Modelle und vorgeschlagene Prompting-Situationen zur Auswahl, so dass sehr niedrigschwellig mit unterschiedlichen Modellen vergleichend experimentiert werden kann. Hiermit schaffen wir einen Zugang zu praktischen Erfahrungen und Tools ohne Paywall und ohne dass personenbezogenen Daten an große KI-Unternehmen übermittelt werden.

Herausforderungen und nächste Schritte

Insgesamt lässt sich aus dem doch langen Entwicklungsprozess ein positives Fazit ziehen: Die Implementierung der Chatbots war für uns ein wichtiger Schritt in das KI-gestützte Lernen, auch wenn einige manuelle Anpassungen nötig waren und viele Sprachmodelle nicht die gewünschte Performanz erbracht haben. Wir sind froh, dass wir durch den Mehraufwand Open-Source-Angebote im Mittelpunkt stehen haben.

In Zukunft möchten wir unsere Chatbots kontinuierlich verbessern und sie von ersten generativen Chatsystemen zu einer umfassenden Lernbegleitung weiterentwickeln, z. B. auch im Sinne individualisierter Lernpfade über einzelne Kurse oder Learning-Nuggets hinweg.

Feedback needed!

Jetzt seid ihr gefragt: Probiert die Chatbots aus und gebt uns Feedback, wie ihr die Tools nutzt, was schon gut klappt und was noch verbessert werden sollte. Wir freuen uns auf eure Rückmeldungen!

¹Einer der Gründe für den vollständigen Umzug aller unserer Kurse auf Moodle bis Ende 2024 sind die bessere Möglichkeiten zur Weiterentwicklung und KI-Integration, die Moodle bietet.

Raffael Ruppert

Senior Research und Data Manager

Stifterverband

Cornelia Gamst

Produktmanagerin

Stifterverband

Cornelia Gamst ist Produktmanagerin beim KI-Campus. Zuvor war sie beim KI-Campus für die Curriculumsentwicklung und bei Kiron Open Higher Education für die Entwicklung des digitalen Studiengangs Informatik verantwortlich. Aus ihren Erfahrungen bringt sie konsequent die Perspektive der Lernenden in den Diskurs um alternative Bildungsangebote im Bereich der MINT-Fächer ein.

EU AI Act: Wie wird Deutschland KI-kompetent?

Dr. Till Klein, Florian Rampelt, Mike Bernd — Tue, 19 Nov 2024 09:00:00 +0000

Ziel des AI Acts ist die Einführung von menschenzentrierter und vertrauenswürdiger Künstlicher Intelligenz. KI-Systeme sollen sicher, transparent und ethisch eingesetzt werden. Der AI Act unterscheidet dabei zwischen verschiedenen Risikostufen von KI-Systemen und legt für jede Stufe spezifische Anforderungen fest. Des Weiteren befasst er sich mit Aspekten der Transparenzpflicht sowie auch mit KI-Kompetenzen und Schulungen, die einen kompetenten Umgang mit KI-Systemen sicherstellen sollen.

Grundsätzlich verfolgt der AI Act einen Risiko-basierten Ansatz, das heißt „je höher das Risiko eines KI-Systems, desto umfassender die Anforderungen”. Der wesentliche Faktor ist dabei die so genannte Risikoklasse eines jeden KI-Systems, mit den vier Abstufungen (inakzeptables Risiko, hohes Risiko, mittleres Risiko, geringes Risiko).

Je nach Risikoklasse hat der AI Act Auswirkungen auf die Entwicklung und den Betrieb von KI-Systemen. Egal ob Unternehmen oder Bildungseinrichtung, wer KI-Systeme anbietet oder betreibt muss die Regelungen künftig berücksichtigen.¹

Übergreifend enthält der AI Act in Artikel 4 darüber hinaus auch eine allgemeine Anforderung an alle Anbieter und Betreiber von KI-Systemen zum Aufbau von KI-Kompetenz oder „AI Literacy“.

Dieser Beitrag adressiert folgende Fragen zu KI-Kompetenzen im AI Act:

Warum ist KI-Kompetenz im AI Act wichtig?
Was bedeutet KI-Kompetenz (engl. AI Literacy)?
Wer soll „kompetent” sein?
Was machen wir jetzt?

AI Act / KI-Verordnung, Artikel 4
KI-Kompetenz
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.

Warum ist KI-Kompetenz im AI Act wichtig?

Im Sinne des AI Acts soll in der EU ein menschenzentriertes KI-Ökosystem basierend auf Vertrauen und Exzellenz entstehen, in dem die unterschiedlichen Akteure entlang des Lebenszyklus von KI-Systemen zusammenarbeiten und Informationen austauschen.

Dazu zählen zum Beispiel, Anbieter und Nutzer von KI-Systemen, aber auch Personen, die durch den Einsatz von KI betroffen sind. Die verschiedenen Rollen haben durch die Regelungen des AI Acts spezifische Pflichten und Rechte, wodurch bestimmte Maßnahmen, Entscheidungen oder Informationsbedarfe entstehen, die insbesondere dann effektiv erfüllt werden können, wenn die jeweiligen Personen entsprechend kompetent sind.

In der einführenden Begründung des AI Acts (Erwägungsgrund 20) ist KI-Kompetenz aus drei zentralen Gründen wichtig:

Fundierte Entscheidungen über KI-Systeme treffen:

„Um den größtmöglichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig die Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu ermöglichen, sollte die KI-Kompetenz Anbieter, Betreiber und betroffene Personen mit den notwendigen Konzepten ausstatten, um fundierte Entscheidungen über KI-Systeme zu treffen.”

Einhaltung der Verordnung sicherstellen:

„Im Zusammenhang mit der Anwendung dieser Verordnung sollte die KI-Kompetenz allen einschlägigen Akteuren der KI-Wertschöpfungskette die Kenntnisse vermitteln, die erforderlich sind, um die angemessene Einhaltung und die ordnungsgemäße Durchsetzung der Verordnung sicherzustellen.”

Arbeitsbedingungen verbessern & Innovation unterstützen:

„Darüber hinaus könnten die umfassende Umsetzung von KI-Kompetenzmaßnahmen und die Einführung geeigneter Folgemaßnahmen dazu beitragen, die Arbeitsbedingungen zu verbessern und letztlich die Konsolidierung und den Innovationspfad vertrauenswürdiger KI in der Union unterstützen.”

Was bedeutet KI-Kompetenz (engl. AI Literacy)?

Im AI Act ist der Begriff “KI-Kompetenz” wie folgendermaßen definiert:

AI Act / KI-Verordnung, Artikel 3 (56)
KI-Kompetenz
Die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

Liest man diese Definition im Kontext der Intention von Artikel 4, lassen sich daraus generische Lernziele ableiten. Eine “kompetente Person” ist in der Lage,

1. sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

2. KI-Systeme sachkundig einzusetzen.

3. fundierte Entscheidungen über KI-Systeme zu treffen.

Allgemein zusammengefasst lässt sich dies in Anlehnung an Laupichler et al. (2023) in drei Dimensionen einordnen:

1. Grundverständnis von KI
Ein Verständnis der grundlegenden Funktionsweisen von KI. Dieses Grundwissen zu KI ist notwendige Grundlage für den sachkundigen Einsatz und eine kritische Einordnung von KI-Systemen, um eine fundierte Entscheidung für und gegen ihre Anwendung und auch für ihre souveräne, praktische Anwendung zu treffen.

2. Kritische Einordnung von KI
Die kritische Einordnung von KI-Systemen und ihren Outputs inklusive Chancen, Risiken und möglicher Schäden. Im Kontext der Zielsetzungen der EU könnte dies auch eine Berücksichtigung ethischer Fragestellungen beinhalten – auch wenn dies in Artikel 4 nicht explizit erwähnt wird.

3. Praktische Anwendung von KI
Konkrete, praktische Anwendungskompetenzen im Einsatz von KI-Systemen. Diese sind abhängig vom jeweiligen Kontext und unterscheiden sich entsprechend auch je nach Anwendungsfall. Sachkundigkeit betrifft dabei sowohl das notwendige Grundverständnis der KI-Systeme als auch ihres jeweiligen anwendungsspezifischen Kontextes.

Wer soll „kompetent” sein?

Die Anforderungen zu KI-Kompetenz richten sich an verschiedene, zum Teil überlappende Gruppen:

Im Kern (Art. 4):

1. Anbieter und Betreiber von KI-Systemen, und insbesondere „ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind”

Zusätzlich (Erwägungsgrund 20):

2. Betroffene Personen (...) um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden
3. Alle einschlägigen Akteure der KI-Wertschöpfungskette

Wichtig ist dabei: Die Anforderung zu KI-Kompetenz gilt für alle KI-Systeme, unabhängig von der Risikogruppe.

Im Folgenden werden die drei Zielgruppen genauer betrachtet.

1. Anbieter und Betreiber und deren Personal

Wer ist ein Anbieter oder Betreiber?

Anbieter sind Organisationen oder Personen, die KI-Systeme entwickeln oder entwickeln lassen, dabei den Verwendungszweck des KI-Systems festlegen oder KI-Systeme unter ihrem Namen in Verkehr bringen, ob gegen Bezahlung oder ohne.

AI Act / KI-Verordnung, Artikel 3 (3)
Anbieter
„Anbieter“ [ist] eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;

Betreiber sind Organisationen oder Personen, die KI-Systeme in eigener Verantwortung nutzen, außer wenn es sich um eine persönliche, nicht berufliche Tätigkeit handelt.

AI Act / KI-Verordnung, Artikel 3 (4)
Betreiber
„Betreiber“ [ist] eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;

Wer zählt zum Personal und Personen, die mit KI befasst sind?

Kompetenz entsteht auf der Ebene von Personen, die im Zusammenhang mit KI-Tätigkeiten ausüben oder Entscheidungen treffen. Daher bezieht sich Artikel 4 auf KI-Kompetenzen des „Personal(s) und andere(r) Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind”. Dies kann Unternehmen umfassen genauso wie Behörden oder – auch öffentliche - Bildungseinrichtungen.

Beispiele:

Personal von Anbietern (Software-Entwickler:innen und Data Scientists; weitere technische Rollen des ML-Lebenszyklus; Projektmanager:innen, Product Owner, Geschäftsführung)
Personal von Betreibern (Personen die für die Einführung von KI verantwortlich sind, z. B. Führungskräfte; Personen, die KI operativ für einen konkreten Use Case nutzen, z. B. Mitarbeitende in der Verwaltung, in der industriellen Anwendung oder Lehrende an Hochschulen oder Schulen)
Personen, die mit dem KI-System befasst sind (z. B. IT-Abteilungen, die das KI-System hosten und warten; IT-Administrator:innen, die das KI-System mit anderen Systemen verbinden; Beschäftigte, die das KI-System beschaffen; Beschäftigte im Qualitätsmanagement, die interne Richtlinien zu KI erstellen und überwachen; Rechtsabteilung, die die Konformität zum AI Act und zu anderen Regularien verantwortet)

2. Betroffene Personen

Wer könnte eine betroffene Person sein?

Der AI Act fordert auch KI-Kompetenzen für sogenannte betroffene Personen, jedoch nicht über den Artikel 4 an sich, sondern im einleitenden Erwägungsgrund 20. Demnach sollen betroffene Personen die notwendigen Kompetenzen haben, um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden.

Der Begriff „betroffene Person” (engl. affected person) ist im AI Act nicht definiert. Nach dem Verständnis der Autoren handelt es sich im Sinne des AI Act dabei um natürliche Personen in der EU, die das KI-System nicht rein privat nutzen und durch die Nutzung von KI-Systemen betroffen sind. Das ist insbesondere der Fall, wenn die Ergebnisse von einem KI-System Entscheidungen oder Maßnahmen unterstützen oder gar autonom durchführen, die Menschen betreffen.

Mögliche Beispiele:

Patient:innen: Bei der Nutzung von KI im Rahmen des Gesundheitssystems, z. B. im Krankenhaus oder bei Ärzt:innen zur Diagnose, sind Patient:innen ggf. betroffene Personen.
Student:innen: Bei der Nutzung eines KI-Tools, das durch die Hochschule für das Studium zur Verfügung gestellt wird oder einer Lernumgebung, die z. B. KI-basiert Lernempfehlungen gibt, sind sie ggf. betroffene Personen.
Schüler:innen: Bei der Nutzung von KI-Tools im Schulunterricht sind sie ggf. betroffene Personen.
Kund:innen: Bei der Nutzung von KI im kommerziellen Sektor, z. B. im (Online-) Handel oder bei Dienstleistungen etwa im Finanzsektor, sind Kund:innen ggf. betroffene Personen.
Bürger:innen: Bei der Nutzung von KI im öffentlichen Sektor, z. B. auf Ämtern oder in Kommunen, sind Bürgerinnen ggf. betroffene Personen.
Mitarbeiter:innen: Bei der Nutzung von KI in Unternehmen, z. B. in der Produktion, Administration oder Logistik, sind Mitarbeitende ggf. betroffene Personen.

3. Akteure der KI-Wertschöpfungskette

Der Begriff der KI-Wertschöpfungskette ist im AI Act nicht definiert. Behelfsweise dient das “verwandte” Konzept des KI-Lebenszyklus, das zwar auch nicht im AI Act definiert ist, aber zu dem es ein zunehmend etabliertes Verständnis in der Praxis gibt (siehe dazu z. B. die Konzepte von appliedAI oder von der International Organization for Standardization).

appliedAI Institute for Europe gGmbh

Dieser iterative und komplexe Prozess (hier vereinfacht dargestellt) wird zunehmend von unterschiedlichen Akteuren umgesetzt, die sich auf bestimmte Aspekte spezialisieren. Dadurch wird ein einzelnes KI-System nicht mehr von einen oder wenigen Akteuren entwickelt und betrieben, sondern von einem “Collaboration Network”, das Informationen austauschen muss, damit jeder seinen Anforderungen aus dem AI Act nachkommen kann.

appliedAI Institute for Europe gGmbh

Zum Beispiel: Wenn ein Datenhändler die Trainingsdaten zur Verfügung stellt, übernimmt er ggfs. wichtige Aktivitäten, die für die Konformität mit Artikel 10 zu Data Governance relevant sind. In diesem Fall müsste der Datenhändler entsprechende Kompetenzen aufbauen.

Rollen in der KI-Wertschöpfungskette (Beispiele):

Phase im KI-Lebenszyklus	Akteure in der KI-Wertschöpfungskette
Scoping	SW-Dienstleister, IT-Integrator
Data Engineering	Datenhändler, Annotation-Dienstleister
Modeling	Model-Anbieter, inkl. Basismodelle
Deployment	Cloud-Anbieter, Betreiber von Rechenzentrum, Speicher-Betreiber, Netzwerk-Betreiber

Was machen wir jetzt?

Timeline

Die Anforderungen zu KI-Kompetenz gelten laut Artikel 113 ab dem 2. Februar 2025.

Ab diesem Datum müssen KI-Anbieter und -Betreiber “nach besten Kräften” sicherstellen, dass die oben genannten Zielgruppen mit Blick auf die jeweiligen KI-Systeme “kompetent” sind. Die Missachtung dieser Anforderung ist insbesondere im Schadensfall problematisch, also wenn durch den Einsatz eines KI-Systems durch nicht-kompetente Personen ein Schaden entsteht.

Es gilt daher zu klären, wie ein ausreichendes Maß an KI-Kompetenz gestärkt und schrittweise bzw. anwendungsspezifisch vertieft werden kann.

Vorgehensweise

1. Grundverständnis von KI bei allen Mitarbeitenden stärken:

Es gibt sehr niedrigschwellige, teils auch kostenlose Möglichkeiten, Mitarbeitenden allgemeine Grundlagen von KI zu vermitteln. Dies kann über Materialsammlungen für unterschiedliche Bedarfe (Informationsmaterialien, Videos, Podcasts, Kurse) erfolgen und erfüllt ggf. erste Mindestanforderungen an KI-kompetente Mitarbeitende.

Auf dieser Grundlage sollte dann, besonders beim Einsatz von KI-Systemen in höheren Risikokategorien, schrittweise mit Partnern ein zielgruppenspezifisches Angebot aufgebaut werden.

2. Zielgruppenspezifisch KI-Kompetenzen stärken:

Maßnahme	Beschreibung
Bedarf an KI-Kompetenz ermitteln	Der konkrete Bildungsbedarf ist abhängig von dem Zweck und dem Kontext des KI-Systems, inkl. Risikoklasse, z. B. bei Hochrisiko-KI-Systemen ist der mögliche Schaden größer dem Vorwissen und den Fähigkeiten der jeweiligen Personen, z. B. manche Personen verfügen über Vorwissen im Bereich KI-Technologie und/oder in der Domain der jeweiligen Anwendung Der Bedarf sollte sich also einerseits aus den konkreten Use Cases in der Organisation ergeben und andererseits aus übergreifenden Abfragen des Kompetenzstandes.
Bildungsmaßnahmen definieren und Inhalte bereitstellen	Mögliche Bildungsmaßnahmen ableiten, z. B. asynchrone Online-Kurse, synchrone / angeleitete Präsenz- oder Online-Trainings, Demonstrationen, Praxisworkshops, … Hierbei kann die Zusammenarbeit mit erfahrenen Partnern und/oder Dienstleistern helfen, um Ressourcen zu sparen und Synergien zu heben.
Bewusstsein und Interesse schaffen	Vor den eigentlichen Maßnahmen gilt es Mitarbeitende niedrigschwellig abzuholen und ihr Interesse am Kompetenzaufbau zu wecken. Die Relevanz von KI-Kompetenz gerade bei Betreibern bzw. Nutzern von KI-Systemen sollte dabei aus dem unmittelbaren Praxisbezug heraus vermittelt werden.
Schulungen durchführen und dokumentieren	Basierend auf dem Bildungsbedarf werden die entsprechenden Maßnahmen (pro Zielgruppe) durchgeführt. Zum Beispiel erhalten im Fall von “KI in der Hochschule” Lehrende ein anderes Training als die IT-Abteilung oder Verwaltungsmitarbeitende. Relevant für den AI Act: Eine gute Dokumentation der Trainings bietet für einen Schadensfall einen wichtigen Nachweis.
Governance-Prozesse	Die Organisation stellt sicher, dass ein KI-System nur von nachweislich kompetenten Personen genutzt wird und dokumentiert dies in einer übergreifenden Strategie. Zum Beispiel könnte der Zugang zu einem KI-System (Login und Passwort) mit einem erfolgreichen Training verknüpft sein.
Kompetenz erhalten und ausbauen	Wann ist ein erneuter Wissens- oder Kompetenzaufbau und entsprechende Angebote oder Schulungen nötig? Mögliche Auslöser dafür sind z. B.: eine Änderung des KI-Systems, z. B. der Nutzeroberfläche oder der Leistung Beteiligung zusätzlicher oder neuer Personen, etwas wenn ein weiterer Mitarbeitender ein KI-System nutzt oder wenn eine neue Personengruppe betroffen ist. Hierfür ist eine KI-Kompetenzstrategie mit regelmäßigen Überarbeitungszyklen wünschenswert.

Insgesamt ist zu begrüßen, dass die neuen Anforderungen an KI-Systeme die Bedeutung von KI-Kompetenzen so deutlich betonen. Unternehmen, Bildungseinrichtungen und andere Akteure sollten dies als einen hilfreichen Anstoß dafür nutzen, übergreifend notwendige technologische Kompetenzen in der eigenen Organisation zu stärken und attraktive Bildungsangebote für ihre Mitarbeitenden zur Verfügung zu stellen.

Dabei gibt es zahlreiche passende Inhalte und gute Anbieter sowohl auf dem privatwirtschaftlichen Markt als auch im Non-Profit-Bereich. Organisationen sollten hier gezielt das zu ihren Kompetenzanforderungen passende Angebot suchen und schrittweise ausbauen.

Das appliedAI Institute for Europe und der KI-Campus setzen sich aktiv zur Stärkung von KI-Kompetenzen in Deutschland und Europa ein!

¹Hilfreiche Unterstützung bieten zum Beispiel der Umsetzungsleitfaden der Bitkom und die Compliance Journey des appliedAI Institute for Europe

Referenzen

KI-Servicestelle Österreich: https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/ki-kompetenz.de.html

https://www.rdv-online.com/shop/1349/merkblatt-ki-kompetenz

https://www.rdv-online.com/print/ausgabe-5-2024/konzepte-umsetzung-ki-kompetenz-unternehmen-zwischen-ki-vo-ds-gvo/

Spannende Kurse auf dem KI-Campus für deinen Einstieg in die Welt der KI

Einführung in die KI von appliedAI

KI für Alle 1: Einführung in die Künstliche Intelligenz von der Heinrich Heine Universität Düsseldorf

KI für Alle 2: Verstehen, Bewerten, Reflektieren von der Heinrich Heine Universität Düsseldorf

Schule macht KI von den Jungen Tüftlern und dem Fraunhofer IAIS

Dr. med. KI - Basics von der Charité Universitätsmedizin Berlin und dem Stifterverband

Prompt-Labor Hochschullehre 2.0 von der RWTH Aachen, dem KI-Campus und dem Hochschulforum Digitalisierung

Dr. Till Klein

Head of AI Regulation

Applied AI Institute for Europe

Dr. Till Klein ist verantwortlich für das Thema KI-Regulierung bei der gemeinnützigen appliedAI Institute for Europe gGmbH und verfolgt das Ziel, vertrauenswürdige KI im großen Maßstab zu beschleunigen. Bei appliedAI setzt er sich für die praxisorientierte Entwicklung von Schulungen, Methoden und Tools für die Operationalisierung neuer KI-Regularien und Standards ein. Die Erkenntnisse aus der praktischen Anwendung dieser Angebote bringt er in den Gesetzgebungsprozess auf europäischer und nationaler, europäischer und internationaler Ebene ein. Till hat mehrere Jahre Industrieerfahrung in hoch-regulierten High-Tech Sektoren, insbesondere Medizinprodukte und Drohnen, wo er stets an der Schnittstelle zwischen Innovation und Regulierung tätig war. Im Rahmen seiner Promotion an der Swinburne University of Technology in Melbourne, Australien, untersuchte er die Evolution von "collaboration networks" im Kontext des Wissenstransfers zwischen Forschung und Industrie. Zu seinen Forschungsinteressen gehören neben KI Regulierung auch Wirtschaftsgeografie, soziale Netzwerke und Innovationsmanagement.

Florian Rampelt

Leiter der Geschäftsstelle

Stifterverband

Florian Rampelt ist Programmleiter Digitale Bildung & Future Skills sowie Geschäftsstellenleiter des KI-Campus beim Stifterverband in Berlin. Zuvor war er stellvertretender Geschäftsstellenleiter des Hochschulforums Digitalisierung, Director of Education bei dem gemeinnützigen Start-up Kiron Open Higher Education und wissenschaftlicher Mitarbeiter am Zentrum für Lehrerbildung an der Universität Passau. Florian Rampelt hat Staatswissenschaften (B. A.), Lehramt an Mittelschulen (1. Staatsexamen) und Bildungs- und Erziehungswissenschaften (M. Ed.) studiert. Der Bildungs- und Erziehungswissenschaftler arbeitet an einer zukunftsfähigen Aus- und Weiterbildung für die digitale Transformation. Seine Forschung fokussiert sich derzeit auf Wissen, Kompetenzen und Qualifikationen zu Künstlicher Intelligenz und Fragen der Anerkennung.

Mike Bernd

Teamleitung Lernangebote

Stifterverband

Mike Bernd koordiniert beim KI-Campus den Bereich Lernangebote und Ideenwettbewerbe. Zuvor war er als Manager für Qualitätssicherung bei Kiron Open Higher Education sowie als Instructional Designer an der HAW Hamburg tätig. Während seiner Zeit als Stellvertretender Projektleiter an der University of Shanghai for Science & Technology entwickelte er hybride Kursformate im Kontext der digitalisierten Lehre. Mike Bernd studierte u.a. Sozial- und Kulturanthropologie an der Freien Universität Berlin und Sinologie an der Humboldt Universität zu Berlin.

Keeping up with AI – TikTok als Wissensquelle für die KI-Generation?

Johanna Thietje, Kristina Laube — Thu, 31 Oct 2024 12:13:25 +0000

TikTok als Wissensplattform? Ja, unbedingt!

TikTok hat sich längst über Tanzvideos und Kurzclips hinaus als Plattform etabliert, auf der sich täglich Millionen Menschen informieren. Hier setzen der Bundeswettbewerb Künstliche Intelligenz und der KI-Campus des Stifterverbandes an, um Jugendliche direkt dort anzusprechen, wo sie sich online bewegen. Mit dem neuen Kanal „@keepingupwith_ai“ wollen wir DEN deutschsprachigen Kanal zum Thema KI etablieren – frisch, modern und nah an der Lebenswelt der Jugendlichen. Fragen wie „Wie kann ich KI beim Lernen nutzen?“, „Wie beeinflusst KI demokratische Prozesse?“ oder „Wie erkenne ich Fake News?“ werden in wöchentlichen Updates aufgegriffen und einfach erklärt.

Das Team hinter „@keepingupwith_ai“ setzt sich zusammen aus den Hosts des Kanals, Linos Ullmann, Johanna Thietje und Chiara Obermüller, sowie Vincent Schläger und Kristina Laube.

Niedrigschwelliger Zugang zu KI-Themen

Der Kanal „@keepingupwith_ai“ wird zu einer vertrauenswürdigen Informationsquelle rund um Künstliche Intelligenz. Hier soll KI-Wissen so aufbereitet werden, dass es Spaß macht und Neugier weckt. Auf einfache und verständliche Weise vermittelt der Kanal Anwendungsbeispiele, Tools und spannende News aus der Welt der KI. Für Schüler:innen, Studierende und alle anderen Interessierten bietet er einen Einstieg auf Augenhöhe und beantwortet praxisnahe Fragen zu KI im eigenen Leben – immer mit einem klaren Ziel: Die Nutzenden fit für die Zukunft zu machen, ohne dass sie sich „k. o.“ fühlen. „Lieber KI als k. o.“ lautet daher das Motto des neuen Kanals.

@keepingupwith_ai So sieht Ski Aggu ohne Brille aus?! KI macht es möglich 🤖 #SkiAggu #Friesenjung #Deutschland #LernenMitTikTok #KünstlicheIntelligenz #ArtificialIntelligence #Photoshop #SkiAgguOhneBrille #GenerativeAI #KICampus ♬ Originalton - Keeping up with AI

Warum solltet ihr „@keepingupwith_ai“ folgen?

Für alle, die bei den neusten Entwicklungen in Sachen KI am Ball bleiben wollen oder einfach neugierig sind, was KI mit ihrem Alltag zu tun hat, ist „@keepingupwith_ai“ genau das Richtige. Unser Kanal verbindet Wissensvermittlung mit einem frischen Look. Künstliche Intelligenz betrifft uns alle und mit „@keepingupwith_ai“ könnt ihr sicher sein, dass ihr nicht nur mitreden, sondern auch von den Möglichkeiten profitieren könnt, die KI bietet. Also besser schnell folgen und weitersagen! Wir freuen uns über euer Feedback und Vorschläge für zukünftige Inhalte!

Über den Bundeswettbewerb Künstliche Intelligenz (BWKI)
Mit dem jährlich stattfindenden BWKI sollen Schüler:innen motiviert werden, eigene Ideen mithilfe von Künstlicher Intelligenz umzusetzen. Der Wettbewerb wurde 2018 am Tübingen AI Center - einer Forschungseinrichtung der Universität Tübingen und des Max-Planck-Instituts für Intelligente Systeme – ins Leben gerufen und ist Mitglied der AG Bundesweite Schülerwettbewerbe. Die Carl-Zeiss-Stiftung ist seit 2020 Hauptförderer des BWKI. Damit fördert sie auch Projekte der Wissenschaftskommunikation für eine junge Zielgruppe, darunter diesen TikTok-Kanal.

Johanna Thietje

Junior Communications Managerin

Stifterverband

Johanna Thietje arbeitet im Kommunikationsteam des KI-Campus beim Stifterverband und unterstützt bei der Öffentlichkeitsarbeit. Sie studierte Kulturwissenschaften und Wirtschaftspsychologie an der Leuphana Universität Lüneburg (B.A.).

Kristina Laube

Wissenschaftskommunikatorin Tübingen AI Center / BWKI

Kristina Laube ist gelernte Journalistin und als Wissenschaftskommunikatorin am Tübingen AI Center rund um den Bundeswettbewerb Künstliche Intelligenz für eine junge Zielgruppe tätig. Zuvor war sie in Berlin als Redakteurin und Reporterin für den Auslandsrundfunk Deutsche Welle und das Arte-Wissensmagazin Xenius im Einsatz.

Ute Schmid im Interview: Was KI-Systeme leisten können und was nicht

Lucas Laux — Thu, 19 Sep 2024 12:57:28 +0000

Liebe Ute, welche Chancen bietet uns Künstliche Intelligenz? Und welche Risiken sind beim Einsatz von KI zu beachten?

Die vielen in den letzten Jahren entstandenen neuen und leistungsstarken Methoden, insbesondere Deep Learning und generative KI, bieten Chancen in vielen Bereichen – von Bildung über Medizin, Produktion und Verwaltung bis Umwelt- und Klimaschutz. Beispielsweise können KI-Anwendungen helfen, Nutzpflanzen gezielt zu überwachen und mögliche Gefährdungen durch Trockenstress oder Schädlinge frühzeitig zu identifizieren. Im Bildungsbereich können Anwendungen großer Sprachmodelle in Kombination mit intelligenten Tutorsystemen gezielt Lernen im Problemlösekontext unterstützen. Bildbasierte Diagnostik kann in der Medizin, aber auch in der industriellen Qualitätskontrolle eingesetzt werden, um Krankheitsbilder oder Anomalien effizienter zu erkennen. Im Prinzip können KI-Methoden einen Beitrag zu allen 17 OECD-Nachhaltigkeitszielen leisten.

Allerdings kann der Einsatz von KI auch negative und unerwünschte Effekte haben. Risiken können durch fehlende Robustheit, fehlende Genauigkeit oder unerwünschte Biases der Modelle selbst entstehen. Hier kann einerseits eine entsprechende Qualitätskontrolle auf Seiten der Modellentwicklung und andererseits mehr Nutzungskompetenz bei den Anwenderinnen und Anwendern helfen. Unerwünschte Auswirkungen können aber auch aus der sozio-technischen Einbettung von KI-Methoden folgen. Das können der Verlust relevanter Kompetenzen oder auch soziale oder emotionale Probleme sein. Beispielsweise könnte intelligente Robotik, wenn sie weit genug entwickelt ist, in der Pflege helfen, um etwa einen Menschen zu füttern – ohne Hektik, Löffelchen für Löffelchen. Während deutlich einfachere digitale Angebote, die gemeinsames Spielen oder Reden ersetzen, zur Vereinsamung beitragen würden.

In welchen Bereichen KI-Systeme wie sinnvoll eingesetzt werden sollen, muss meiner Meinung nach in einem breiten demokratischen Diskurs unter Einbeziehung aller relevanten Stakeholder ausgehandelt werden. Dafür ist aber ein Grundverständnis davon nötig, was KI-Systeme generell leisten können und was nicht.

Foto: Jürgen Schabel / Universität Bamberg

Wie gelingt es, KI-Kompetenzen in der Gesellschaft zu stärken? Wie können wir lernen, souverän mit KI umzugehen?

Zunächst einmal wäre zu klären, welche Personengruppen welche Art von KI-Kompetenzen benötigen. Ein Grundschulkind benötigt sicher andere Kompetenzen als Schülerinnen und Schüler im Wahlfach Informatik in der Sekundarstufe. Fachpersonal benötigt andere Kompetenzen als Endverbrauchende.

Allgemein gehe ich aber davon aus, dass ein zumindest sehr allgemeines grundlegendes Verständnis davon, wie Modelle mittels maschinellen Lernens aufgebaut werden und wie generative KI-Ansätze trainiert und Ausgaben erzeugt werden, Voraussetzung sowohl für eine sichere und souveräne Nutzung von KI-Werkzeugen als auch zur kritischen Bewertung von Ausgaben solcher Systeme – sei es eine Klassifikation oder ein generierter Text – notwendig sind. Grundverständnis und Nutzungserfahrungen gemeinsam sind dann Voraussetzung für eine Reflexion der möglichen Auswirkungen von KI-Systemen auf das eigene Leben, Gesellschaft und Umwelt.

Die große Herausforderung ist es, didaktisch sinnvoll an die Zielgruppe angepasste und gleichzeitig fachlich korrekte Lernangebote bereitzustellen. Hier hat der KI-Campus bereits sehr viel zu bieten. Es gibt Online-Kurse für Zielgruppen ohne Informatik- und KI-Hintergrund genauso wie sehr spezielle vertiefende Angebote. Es gibt Angebote, die KI direkt im Kontext verschiedener Anwendungsfelder einführen, etwa Schule oder Medizin. Aus meinem Team an der Universität Bamberg haben wir zwei Kurse beigesteuert: Der Kurs „Erklärbares Maschinelles Lernen für Ingenieurwissenschaften“ bietet einen vertieften Einblick in verschiedene Methoden dieses Forschungsgebiets. Der Kurs „Data Literacy für die Grundschule“ richtet sich dagegen an Grundschullehrkräfte und ist völlig voraussetzungsfrei.

Möchte man sich allgemeiner zu aktuellen Themen im Bereich KI informieren, bieten verschiedene Podcast-Angebote eine gute Möglichkeit. Das Bamberger Zentrum für KI (BaCAI) bietet hier die Podcast-Serie „Servus KI“ an. In jeweils etwa dreißigminütigen Folgen stellen KI-Professorinnen und -Professoren ihr jeweiliges Forschungsgebiet dar und diskutieren aktuelle Fragestellungen und Anwendungspotenziale. Diese fachspezifischen Folgen werden durch eine interdisziplinäre Perspektive erweitert und es kommen Professorinnen und Professoren aus den Sprachwissenschaften und der Psychologie zu Wort.

Ab welchem Alter empfiehlst du eine Beschäftigung mit KI?

Digitale Angebote dringen immer mehr bereits in die kindliche Lebenswelt ein. Diese Angebote werden in Zukunft auch vermehrt KI-Komponenten enthalten. Entsprechend sollte ein elementares Verständnis von KI bereits ab dem Grundschulalter, ausgewählte Aspekte auch schon in der frühkindlichen Bildung vermittelt werden. Ich komme auf meine schon geäußerte These zurück, dass Bedienkompetenz auf einem grundlegenden Verständnis der darunterliegenden Technologien basieren muss.

Um KI-Grundkompetenzen zu vermitteln, muss zunächst ein Grundverständnis von elementaren Informatikkompetenzen aufgebaut werden, insbesondere wie Informationen digital gespeichert werden und wie deren Verarbeitung auf Basis von Algorithmen mittels Programmen erfolgt. Da die meisten KI-Anwendungen auf maschinellem Lernen basieren, wird zudem eine grundlegende Datenkompetenz benötigt. Diese vermittelt der oben bereits genannte KI-Campus-Kurs „Data Literacy für die Grundschule“, der auch ein Modul zu maschinellem Lernen enthält. Wichtig ist, dass bereits Kinder verstehen, dass die Programme und Apps, die KI nutzen, nicht vom Himmel fallen, sondern von Menschen gemacht werden. Damit wird auch eine erste Idee vom Berufsfeld Informatik sowie Data Science vermittelt. Zudem können bereits Kindern die Unterschiede zwischen menschlichem Denken und KI nahegebracht werden. So kann verhindert werden, dass Kinder KI-Systemen unzutreffende Eigenschaften zuschreiben – was ja aktuell auch viele Erwachsene tun.

Wie stehst du zu KI-Leitlinien im Bildungsbereich: Sollte der Umgang mit KI reguliert werden und wenn ja, wie?

Regulierung kann dafür sorgen, dass methodisch sauber umgesetzte, sichere und datenschutzkonforme KI-Tools für Lehrende wie Lernende entwickelt und eingesetzt werden. Ich begrüße den AI Act der EU ausdrücklich. Allerdings hoffe ich, dass wir aus der Zeit der Umsetzung der Datenschutzgrundverordnung gelernt haben und nicht zu viel Bürokratie aufbauen.

Bei so neuen Technologien würde ich bei offenen Punkten auch eher nicht direkt Verbote aussprechen, sondern ein kritisches Monitoring empfehlen. Wieder gilt, dass ein Grundverständnis von KI-Methoden wesentlich ist, um den Nutzen und mögliche negative Auswirkungen des Einsatzes bestimmter Systeme möglichst realistisch bewerten zu können.

Für die meisten Menschen ist KI eine Black Box, die nur schwer einschätzbar ist. Wie können wir vertrauenswürdige KI-Systeme entwickeln?

Eine Expertenkommission der Europäischen Union hat sieben Anforderungen an vertrauenswürdige KI-Systeme herausgearbeitet. Diese sind: Menschliche Kontrolle und Aufsicht, Robustheit und Sicherheit, Datenschutz und Qualitätsmanagement, Transparenz und Nachvollziehbarkeit, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht.

Einige dieser Anforderungen betreffen allgemeine technische Aspekte, rechtliche Aspekte und allgemeine gesellschaftspolitische Aspekte. Andere verlangen eine Weiterentwicklung von KI-Methoden und sind damit aus meiner Sicht ein wichtiger Impuls für die KI-Forschung selbst. Dies betrifft Methoden der erklärbaren KI, wie wir sie in unserem oben genannten KI-Campus-Kurs vorstellen. Methoden, um unfaire Biases zu vermeiden oder immerhin zu reduzieren, sowie Methoden zur interaktiven Korrektur und Anpassung von KI-Modellen.

Besonders spannend finde ich, dass du dich als Informatikerin und Psychologin mit KI beschäftigst. Wie bewertest du KI aus Sicht der Psychologie?

Die Themen Erklärbarkeit, menschliche Kontrolle und Aufsicht können nur sinnvoll umgesetzt werden, wenn die Schnittstellen zwischen KI-Systemen und Menschen passend gestaltet sind. Das betrifft weniger Fragen der Usability, sondern vor allem der kognitiven Passung. Damit Mensch und KI-System partnerschaftlich zusammenarbeiten können, muss die für den jeweiligen Kontext passende Information in passender Modalität und in passendem Detaillierungsgrad gegeben werden. Entsprechend gehört zur Gestaltung vertrauenswürdiger KI-Systeme Psychologie, insbesondere die Kognitionspsychologie, unverzichtbar dazu.

In meiner Forschung zum erklärbaren und interaktiven maschinellen Lernen kann ich Informatik und Psychologie entsprechend direkt sinnvoll kombinieren, um neue, menschzentrierte Ansätze zu entwickeln. Auch bei der Entwicklung von KI-Systemen für die Bildung hilft mir mein Hintergrund in Psychologie. Beispielsweise nutze ich kognitive Theorien zum analogen Problemlösen und Lernen, um gezielte Rückmeldungen an Lernende zu geben. Anstelle eines einfachen Abgleichs einer Lernendenantwort mit einer Musterlösung entwickele ich Methoden, die das einer fehlerhaften Antwort zugrundeliegende Fehlkonzept identifizieren. Statt dann einfach die korrekte Antwort zurückzumelden, liefern unsere Tutorsysteme analoge Beispiele. Damit kann Lernen im Problemlösekontext umgesetzt werden und der Aufbau eines tieferen Verständnisses eines Problembereichs unterstützt werden.

Herzlichen Dank für das Interview!

Lucas Laux

Communications Manager

Stifterverband

Lucas Laux betreut die Öffentlichkeitsarbeit des KI-Campus beim Stifterverband. Er studierte Medienwissenschaft an der Humboldt-Universität zu Berlin (M.A.) und an der Universität Passau (B.A.). Sein Fokus liegt auf Themen an der Schnittstelle von Technologie, Kultur und Innovation.

U:FF 2024 Rückblick: Highlights der KI-Campus-Stage

Dr. Britta Leusing — Wed, 10 Jul 2024 08:00:00 +0000

KI an Hochschulen als konkretes Umsetzungsthema

Im Vergleich zum letzten Jahr, in dem noch viel über das „Was“ und das „Ob überhaupt“ von KI gesprochen wurde, lag der Schwerpunkt auf der diesjährigen KI-Campus-Stage auf dem „Wie“: Wie werden notwendige Infrastrukturen zur KI-Nutzung zur Verfügung gestellt? Wie werden Lernassistenzsysteme entwickelt und wie wirken sie? Wie zieht KI als Unterrichtsfach in die hochschulische Lehre ein? Die Keynotes, Panels und Workshops boten konkrete Einblicke in den Einsatz und die notwendigen Ressourcen für KI in der Hochschulbildung. Es wurde klar, dass KI nicht mehr nur ein theoretisches Konzept ist, sondern aktiv in den Hochschulalltag integriert wird.

Lernassistenzen im Fokus

Ein besonderes Highlight war das Thema Lernassistenzen. Gerd Kortemeyer von der ETH Zürich sowie Quintus Stierstorfer und Felix Schiessl von der IU Internationalen Hochschule demonstrierten in ihren eindrucksvollen Keynotes, welche Ressourcen erforderlich sind, um effektive Lernassistenzsysteme zu entwickeln. Dabei wurde u. a. die Akzeptanz sowohl bei Studierenden als auch bei Lehrenden intensiv diskutiert.

Auch Interfaces zur Nutzung von LLMs (Large Language Models) in der Bildung, rechtliche und ethische Fragen, die Rolle der Hochschulen für den KI-Innovationsschub in Deutschland, ihre Funktion als Brückenbauer für KI-Talente, Responsible AI sowie Chatbots für den Studierendenservice wurden thematisiert.

Parallel zum Programm auf der Bühne ermöglichte der Workshop-Space im Außenbereich der Maschinenfabrik interaktive Austauschformate bei strahlendem Sonnenschein. Eine weitere tolle Ergänzung ergab die KI-Ausstellung mit aktuellen Projekten und Exponaten aus dem Heilbronner KI-Ökosystem und von überregionalen Partnern. Beliebtestes Selfie-Motiv war eindeutig der humanoide Roboter-Kopf der Hochschule der Medien Stuttgart (HdM). In Interviews und Kurz-Statements konnten wir von unseren Speaker:innen persönliche Einschätzungen zur Bedeutung von KI für Hochschulen erfragen.

An alle Studierende: The U:FF-Stage is yours!

Unser besonderes Anliegen war es in diesem Jahr, auf der KI-Campus-Stage die Stimmen der Studierenden bei der Diskussion von Hochschulgestaltung lauter zu machen und stärker zu integrieren. Wir freuen uns, dass Studierende der HdM und der TUM mit anregenden Keynotes zur Zukunft der Hochschule dabei waren.

Mit Spannung haben wir außerdem die Ergebnisse unseres Student Calls erwartet. Drei Studierendenteams pitchten ihre innovativen KI-Ideen für den Hochschulbereich und stellten sich dem Publikumsvoting. Mete Saltik und Malisa Caliskan von der Uni Stuttgart gingen mit ihrem Projekt einer KI-Schreibwerkstatt als Gewinner:innen aus der Abstimmung hervor. Peter Hottum vom Karlsruher Institut für Technologie (KIT) moderierte den Pitch und steht dem Sieger-Team mit seinen Erfahrungen zu KI-Start-ups als Coach an der Seite. Ihr werdet bald mehr von Metes und Malisas Schreibwerkstatt hören!

Gemeinsam sind wir stärker!

Das Festival war geprägt von intensiven Diskussionen, viel Lachen, inspirierenden Momenten und einem starken Gefühl, gemeinsam an konkreten Lösungen für den Hochschulbereich zu arbeiten. Studierende, Hochschullehrende und -leitungen, Unternehmen, Kreative sowie Vertreter:innen aus Ministerien und Initiativen tauschten sich untereinander aus. Der Spontaneität waren keine Grenzen gesetzt: Aus einem Prompting-Workshop mit Stefan Göllner vom Stifterverband traten aus dem Publikum drei Freiwillige auf die Bühne und inszenierten einen geprompteten Dialog zwischen einem Chatbot, einem Lernenden und einem Lehrenden zur Frage, wer der bessere Dozent sei.

KI und Kreativität

Und auch die Kreativität darf bei KI nicht fehlen! Zur Netzwerkveranstaltung durften wir von Wayne Götz, einem Absolventen der Folkwang Universität der Künste, ein multimediales „Physical Theatre“ zur Interaktion zwischen Mensch und Maschine erleben.

Der internationale „AI Song Contest“ beteiligte sich mit einem Wettbewerbsteilnehmer der Polytechnischen Universität Madrid. Adrian Garcia Griber hat eigens für das U:FF in Heilbronn mithilfe von KI aus Weltalldaten und Bachs fünfter Symphonie einen kurzen Jingle produziert. Damit war in der Maschinenfabrik immer klar hörbar, wann die nächste Session begann. Wie der Jingle entstanden ist, erfahrt ihr im Making-of-Video.

Takeaway

Das große Interesse und der lebhafte Austausch haben einmal mehr gezeigt, wie relevant KI und neue Technologien für Hochschulen sind. Die inspirierenden Vorträge, vielfältigen Workshops, spannenden KI-Exponate und zahlreichen Gespräche klingen jetzt noch nach: Es haben sich nachhaltige Projektideen aus dem U:FF ergeben, an deren Umsetzung aktuell gearbeitet wird. Die Formate, die Location, das einmalige Wetter und natürlich die Menschen waren für das U:FF in Heilbronn „the perfect match“. Ein großes Dankeschön an alle, die dabei waren und dieses Event ermöglicht haben!

💡 Ihr habt das Festival verpasst oder möchtet Beiträge der KI-Campus-Stage noch einmal ansehen? In unserer YouTube-Playlist findet ihr alle Mitschnitte. Viele schöne Fotos gibt es in unserer Flickr-Galerie.

Über das University:Future Festival

Das U:FF wurde vom Hochschulforum Digitalisierung (HFD) sowie von der Stiftung Innovation in der Hochschullehre (StIL) organisiert und vom Stifterverband unterstützt. Der KI-Campus gestaltete das Programm der Partnerbühne "KI-Campus-Stage" in Heilbronn und online im Livestream.

Über den KI-Campus in Heilbronn

Unter Leitung des Stifterverbandes baut der KI-Campus mit Förderung der Dieter Schwarz Stiftung einen regionalen Hub für Baden-Württemberg in Heilbronn auf. Der Hub stärkt den KI-Innovationsstandort Baden-Württemberg mit digitalen Lernangeboten zum Thema Künstliche Intelligenz und vielfältigen Community-Aktivitäten.

Der Hub ist Teil eines übergreifenden KI-Ökosystems, das mit dem Innovationspark für Künstliche Intelligenz (Ipai) derzeit in Heilbronn entsteht. Als Partner für die Bildungsaktivitäten des KI-Campus sind in Heilbronn unter anderem die Duale Hochschule Baden-Württemberg (DHBW), die Hochschule Heilbronn, die Technische Universität München (TUM) und das Forschungs- und Innovationszentrum KODIS des Fraunhofer IAO beteiligt.

Dr. Britta Leusing

Stellv. Leiterin der Geschäftsstelle

Stifterverband

Britta Leusing ist stellv. Geschäftsstellenleiterin des KI-Campus beim Stifterverband Berlin. Die promovierte Betriebswirtin verantwortet den Aufbau der regionalen Hubs insb. in Heilbronn und den Bereich Community. Ihre Arbeits- und Interessensschwerpunkte reichen von Academic Franchising über regionalökonomische Effekte von Hochschulen bis zur Tech-Qualifizierung in Studium und Arbeitswelt.

Bereit für sprachbasierte KI? Eine Trainingsplattform hilft, Sprachassistenzen effektiv einzusetzen

Maximilian Baumann, André Markus — Thu, 27 Jun 2024 08:00:00 +0000

Mit Hilfe von Künstlicher Intelligenz sind Sprachassistenzen wie Alexa, Siri und Co. in der Lage uns Menschen zu verstehen und uns im Alltag zu unterstützen. Verfahren wie Natural Language Processing (NLP) machen die Interpretation menschlicher Sprache möglich. Da diese Prozesse komplex und für Laien oft schwer nachvollziehbar sind, kommt es häufig zu Missverständnissen und Fehlvorstellungen über die tatsächlichen Fähigkeiten sprachbasierter KI-Systeme. Ein mangelndes Verständnis über die Funktionsweise sprachbasierter KI-Systeme kann jedoch ein Risiko für die Nutzung darstellen. Dies kann dazu führen, dass das Potenzial der Sprachassistenzen nicht voll ausgeschöpft wird und Sprachbefehle der Nutzenden von den Systemen missverstanden werden, was zu Enttäuschung und Frustration führt.

Auch die Dialogfähigkeit sprachbasierter KI-Systeme birgt die Gefahr, dass Nutzer:innen unbewusst beeinflusst werden. Durch die Verwendung menschlicher Sprache werden Sprachassistenzen in der Interaktion oft als eine Art Freund oder Familienmitglied wahrgenommen. Auch wenn dies positive Effekte auf die Nutzenden haben kann, verleitet es häufig dazu, mehr private Informationen mit den Systemen zu teilen und eher deren Empfehlungen zu folgen. In dieser Konsequenz können Sprachassistenzen auf mehr Informationen über die Nutzenden zugreifen, womit sie Nutzungsverhalten und Entscheidungen beeinflussen können. Daher wird die selbstbestimmte Interaktion dieser sprachbasierten KI-Systeme auch durch die Möglichkeit der unbewussten Beeinflussung und gefährdeten Privatsphäre eingeschränkt.

Um allen Menschen einen selbstbestimmten Umgang mit sprachbasierten KI-Systemen zu ermöglichen, sind gezielte Maßnahmen erforderlich, um die individuellen Risiken zu minimieren und die Möglichkeiten dieser Systeme vollumfänglich zu nutzen.

Das Digital Interaction Literacy Modell

Hierzu hat das Projektteam MOTIV der Universität Würzburg das Digital Interaction Literacy Model entwickelt (kurz: DIL-Modell). Ausgehend von Interviews mit Expert:innen verschiedener Disziplinen (z. B. Psychologie, Pädagogik, Verbraucherschutz und Design) wurde ein Kompetenzrahmen für die selbstbestimmte Interaktion mit sprachbasierten KI-Systemen erarbeitet. In Ergänzung mit wissenschaftlicher Literatur lassen sich drei zentrale Kompetenzdimensionen ableiten:

1. Verständnis der Funktionsprinzipien
Neben dem Wissen über die internen Prozesse bei der Verarbeitung von Sprachbefehlen durch sprachbasierte KI-Systeme ist auch ein Verständnis für eine effiziente Handhabung von Bedeutung. Hinzu kommt ein Bewusstsein der zugrunde liegenden Algorithmen sowie Kenntnisse zu Lernprozessen von KI-Systemen.

2. Achtsamer Umgang
Die Fähigkeit, die eigenen Interaktionen mit sprachbasierten KI-Systemen kritisch zu hinterfragen und zu planen, ist ein essenzieller Bestandteil. Besonders relevant sind das Verständnis von Datenschutzrisiken, die Umsetzung entsprechender Schutzmaßnahmen für die Privatsphäre und das Erkennen sozialer Einflüsse durch die KI-Systeme. Dies trägt zu einer reflektierten und kontrollierten Nutzung bei, in deren Folge Fehlannahmen zu den Systemen reguliert und zukünftige Interaktionen selbstbestimmt gestaltet werden können.

3. Zielgruppenspezifische Kompetenzen
Diese Kompetenzen sind je nach Interessen und Verantwortlichkeiten nur für spezifische Gruppen an Nutzenden relevant. Entwicklungskompetenzen (z. B. Programmierkenntnisse) sind für Personen wichtig, die die Systemfunktionen an ihre Bedürfnisse anpassen wollen. Kommunikationskompetenzen sind für Erziehungsberechtigte und Lehrende essenziell, um das Wissen über die sprachbasierten KI-Systeme verständlich zu vermitteln.

Trainings zur Förderung der digitalen Interaktionskompetenz

Sprachgesteuerte KI-Technologien wie LLM-basierte Sprachassistenzen oder generative KI-Chatbots wie ChatGPT durchdringen immer mehr unseren privaten und beruflichen Alltag. Deshalb können alle Menschen von grundlegenden KI-Kompetenzen profitieren, um die sprachbasierten KI-Systeme selbstbestimmt und effektiv zu nutzen. Um die einzelnen Kompetenzen trainieren und vertiefen zu können, hat das Projektteam MOTIV eine Online-Trainingsplattform entwickelt.

Aufbau und Inhalte der Trainingsplattform

Die Online-Trainingsplattform umfasst insgesamt sechs Trainingsmodule. Diese decken ein breites Themenspektrum ab, von der Funktionsweise von Sprachassistenzen über Lernprozesse von KI-Systemen bis hin zur sozialen Beeinflussung durch Sprachassistenzen. Damit die Nutzenden ein tiefergehendes Verständnis der einzelnen Bereiche erlangen können, beinhaltet jedes Modul drei aufeinander aufbauende Trainingseinheiten.

Die Trainingseinheiten bestehen aus Lerntexten sowie Lernvideos, welche mediendidaktisch und instruktionspsychologisch optimiert sind, um ein positives Lernerlebnis zu ermöglichen. Jedes Trainingsmodul beginnt mit einem thematischen Überblick, der im Laufe des Trainings vertieft wird. Lernende können nach Abschluss eines Trainingsmodules ihr erworbenes Wissen anhand interaktiver Aufgaben festigen und testen. Hierzu stehen verschiedene Aufgabentypen wie Multiple-Choice, Lückentexte, Zuordnungsaufgaben und Lernspiele bereit. Integrierte Gamification-Elemente wie Feedback und Lob fördern die Motivation während des Lernprozesses. Zudem wird ein edukativer Chatbots entwickelt, der Fragen zum Trainingsthema beantwortet und Lerninteresse weckt. Nach dem Training bekommen die Lernenden eine Rückmeldung und können falsch gelöste Aufgaben wiederholen.

Die Trainings sind online und kostenlos zugänglich. Darüber hinaus wurde jede Trainingseinheit wissenschaftlich auf ihre Wirksamkeit untersucht, um den Lernerfolg sicherzustellen. Somit können alle Interessierten eigenständig lernen und dabei ihre digitale Interaktionskompetenzen erweitern.

Maßgeschneiderter Trainingserlebnisse

Die Trainingsplattform ermöglicht ein hohes Maß an personalisierten Lernerfahrungen. So können die Lernenden beispielsweise ihr Lerntempo selbst bestimmen und die Lerneinheiten nach ihren persönlichen Interessen auswählen. Ergänzend kann ein Interessenstest mit 36 Fragen beantwortet werden, auf dessen Basis ein Empfehlungssystem individuell passende Trainingsmodule vorschlägt. Auch können Teilnehmende die Nutzungsdaten ihrer Sprachassistenzen bereitstellen, auf deren Basis Trainingsvorschläge abgeleitet werden. Dabei werden die Daten auf bestimmte Schlüsselwörter hin analysiert, womit die personalisierte Empfehlung der Trainingsmodule auf Basis des Nutzungsverhaltens verfeinert wird. Die Freigabe der Daten ist freiwillig und die genaue Verfahrensweise mit den Daten wird den Nutzenden erklärt. Auch ohne die Freigabe der Nutzungsdaten können alle Trainingsinhalte in vollem Umfang genutzt werden und die Trainingsqualität bleibt unverändert.

Sofern Lernende ihre Nutzungsdaten geteilt haben, erhalten sie als Ergebnis der Analyse ein individuelles Nutzungsprofil mit interessanten Informationen (z. B. Anzahl und Art der verwendeten Sprachbefehle). Auch die Privatsphäre der Nutzenden wir vollumfänglich gewahrt, da alle geteilten Daten ausschließlich lokal auf dem PC der Lernenden verarbeitet werden und nicht auf der Trainingsplattform gespeichert werden.

Fazit

Sprachbasierte KI-Systeme sind heute allgegenwärtig. Daher ist es wichtig, unsere Fähigkeiten im Umgang mit diesen Technologien zu verbessern. Das DIL-Modell bietet eine wertvolle Grundlage für die Entwicklung von Schlüsselkompetenzen, die für eine selbstbestimmte Interaktion mit modernen KI-Systemen erforderlich sind. Es bereitet uns sowohl auf den Umgang mit heutigen Sprachassistenzen als auch auf zukünftige Generationen von Sprachassistenzen vor. Wie der KI-Campus mit seinen vielfältigen Lernangeboten unterstützt auch die Trainingsplattform von MOTIV mit gezielten Trainingsmodulen dabei, den Umgang mit Sprachassistenzen zu optimieren und die damit verbundenen Chancen und Herausforderungen bestmöglich zu meistern.

Maximilian Baumann

Universität Würzburg

Maximilian Baumann ist seit November 2023 als wissenschaftlicher Mitarbeiter am Lehrstuhl für Medienpsychologie der Universität Würzburg tätig und ist im bidt-Projekt „MOTIV - Digitale Interaktionskompetenz: Monitor, Training und Sichtbarkeit“ involviert. Er absolvierte sein Bachelorstudium der Medienkommunikation an der Julius-Maximilians-Universität Würzburg, an der er das konsekutive Masterstudium „Psychologie digitaler Medien“ abschließt.

André Markus

Universität Würzburg

André Markus ist wissenschaftlicher Mitarbeiter im bidt-Projekt „MOTIV - Digitale Interaktionskompetenz: Monitor, Training und Sichtbarkeit“ und arbeitet an der Professur für Psychologie Intelligenter Interaktiver Systeme der Universität Würzburg. Seine Forschungsinteressieren liegen im Bereich User Experience, Gaming-Psychologie und psychologische Interaktionsparadigmen digitaler KI-Entitäten. Er hat einen M.Sc. in Psychologie sowie Medien- und Instruktionspsychologie und ist freiberuflich als wissenschaftlicher Redakteur und Instruktionsdesigner für Wissensmedien tätig.

Wir müssen reden! – Vielleicht auf der Learning AID?

Jonas Leschke — Wed, 22 May 2024 07:00:00 +0000

In aktuellen Diskussionsrunden in Workshops, im Anschluss von Vorträgen oder individuellen Sprechstunden zu generativer KI in der Hochschullehre kann bisweilen der Eindruck entstehen, dass die anwesenden Expert:innen keine konkreten Antworten auf Fragen von Lehrenden zu ihren jeweiligen Lehrveranstaltungen geben wollen oder können. Häufig stellen sie nämlich Gegenfragen wie beispielsweise: Wie ist das didaktische Design Ihrer Lehrveranstaltung? Welche Möglichkeiten erlaubt Ihre Prüfungsordnung? Was sind Ihre Lernziele? Doch was wie ein Ausweichmanöver wirkt, spiegelt uns doch eines wider: Lehre ist komplex und muss im Gesamtkontext betrachtet werden. Individuelle Lehrberatungen brauchen Zeit und auch in Zeiten der breiten Verfügbarkeit generativer KI ist das bekannte hochschuldidaktische Fragenportfolio aktueller denn je. Wenn Lehrende gerade in Veranstaltungen mit vielen Teilnehmenden aber ohnehin keine konkreten Antworten auf ihre Fragen bekommen, wieso sollten sie dann überhaupt an solchen Angeboten teilnehmen?

Ich sehe was, was du nicht siehst: Ausgangslage

Expert:innen für generative KI nehmen – so wie im wissenschaftlichen Kontext üblich – eine bestimmte Perspektive auf das Thema ein. Die Perspektive hängt meist von ihrer wissenschaftlichen Affiliation ab. Hochschuldidaktiker:innen schauen mit einer hochschuldidaktischen Perspektive auf das Thema, Datenschützer:innen mit einer datenschutzrechtlichen Perspektive, Ethiker:innen mit einer ethischen Perspektive, Schreibdidaktiker:innen mit einer schreibdidaktischen Perspektive, Techniker:innen mit einer technischen Perspektive, Forscher:innen mit einer Forschungsperspektive, Hochschulleitungen mit einer Perspektive der Hochschulleitung...

All diese Perspektiven sind wichtig, da generative KI noch immer und auch zukünftig viele Unbekannte für die Hochschullehre mit sich bringt, deren Diskussion aus all diesen Perspektiven erfolgen muss. Denn nur so kann im Spannungsfeld universitären Lehrens und Lernens ein Gesamtbild gezeichnet werden. Doch weil die intensive Diskussion um generative KI in der Hochschullehre noch jung ist, sind sich sogar Expert:innen mit der gleichen Perspektive auf das Themenfeld – häufiger als in wissenschaftlichen Diskussionen üblich – nicht einig, welche Konsequenzen für die Hochschullehre eigentlich zu ziehen sind.

Was all diese unterschiedlichen Expert:innen aber gemeinsam haben, ist, dass sie generative KI in der Hochschullehre zwar aus ihrer Perspektive, aber allgemein für eine breite Zielgruppe diskutieren – ein konkreter Fach- oder Veranstaltungsbezug wird höchstens exemplarisch gegeben. Die Bedarfe der ratsuchenden Lehrenden sind aber genau diese: Sie wollen Antworten zu Fragen an ihrer Hochschule, in ihrem Fach, zu ihrer Lehrveranstaltung, für ihre aktuellen Studierenden.

Überspitzt formuliert: Hochschullehrende sehen ihre Lehrveranstaltung; Expert:innen sehen generative KI im Kontext ihres Themas.

Mit der Darstellung in diesem Abschnitt möchte ich keinesfalls zum Ausdruck bringen, dass Hochschullehrende naive Wünsche haben oder Expert:innen ihre Expertise überschätzen bzw. eine ignorante Haltung einnehmen. Zur Problemdarstellung, Reflexionsanregung und als Anregung zum transparenten Umgang mit der eigenen Perspektive erlaube ich mir diese Überspitzung.

Tauziehen: Informationsphase

Was ich im vorherigen Abschnitt beschrieben habe, ist im Grunde nicht überraschend oder im wissenschaftlichen Kontext überhaupt besonders erwähnenswert. Eigentlich ist die Diskussion und Forschung um (generative) KI auch nicht gänzlich neu, in ihrer Intensität und akuten Praxisbedeutung aber schon. Wir können in der Diskussion daher Effekte und Mechanismen neu aufkommender Forschungs- und Praxisfelder beobachten, indem beispielsweise First Mover eine ungewöhnlich große Sichtbarkeit und Einfluss auf das Feld haben. Dadurch tritt ihre Sichtweise mindestens kurzzeitig in den Vordergrund der Diskussion. Dieser Effekt ist wichtig, damit der notwendige diskursive Raum entstehen kann, in dem Expert:innen mit weniger repräsentierten Sichtweisen das Bedürfnis haben, einen Gegenpol in der Diskussion zu bilden. So entwickelt sich im besten Fall ein produktives Tauziehen um die Deutungshoheit im sich entwickelnden Feld.

In der Diskussion um generative KI in der Hochschullehre lässt sich beispielsweise anhand der Debatten zur Bedeutung spezieller KI-Kompetenzen oder zur Durchführung von unüberwachten Prüfungsleistungen beobachten, dass wir mittlerweile die zweite Phase der zuvor beschriebenen Entwicklung erreichen. Immer mehr Personen arbeiten sich in das Themenfeld generativer KI in der Hochschullehre ein und befruchten mit ihrer Perspektive durch wichtige neue Impulse die Diskussion.

Puzzeln: Erörterung

Doch auch wenn sich die notwendigen Diskussionen ausbilden, gibt es noch kaum wissenschaftlich gesicherte Erkenntnisse. Aktuelle Metastudien zu Effekten von generativer KI auf das Lehren und Lernen an Hochschulen beschreiben die Aussagekraft der dargestellten Ergebnisse als limitiert. Es fehlt an (empirischer) Forschung, auf deren Basis ein wissenschaftlich fundierter Praxistransfer möglich ist. In der Zwischenzeit können lehrunterstützende Einrichtungen nur mit einer gewissen Unsicherheit beraten, was jedoch nicht heißt, dass eine solche Beratung nicht fundiert wäre. Immerhin ist anzunehmen, dass sich auch durch generative KI die kognitiven, biologischen Prozesse des Lernens nicht ändern, sodass beispielsweise hochschuldidaktische Modelle oder Erkenntnisse aus der pädagogischen Psychologie im Allgemeinen auch im Kontext von generativer KI noch Bestand haben.

Dennoch sind Lehrende mehr denn je angehalten, sich mit den unterschiedlichen Perspektiven auf generative KI in der Hochschullehre auseinanderzusetzen und die jeweiligen allgemeinen Empfehlungen auf ihren individuellen Kontext zu übertragen. Sie müssen Fragen beantworten wie beispielsweise: Welchen Einfluss nimmt generative KI auf das didaktische Design meiner Lehre? Was erlaubt mir die Prüfungsordnung, um in Zeiten generativer KI weiterhin mit hoher Güte zu prüfen? Was sind meine Lernziele und welche Bedeutung hat generative KI für diese?

Spielebörse: eine Empfehlung und eine Einladung

Ich empfehle Lehrenden daher, aktuell möglichst viele Perspektiven auf generative KI in der Hochschullehre kennenzulernen. Hochschuldidaktische Grundmodelle, wie das Constructive Alignment, können dafür Orientierung bieten. Vorträge, (aufgezeichnete) Themenreihen, Informationsveranstaltungen und -material, Diskussionsrunden, Workshops und selbstverständlich auch Selbstlernkurse zu generativer KI gibt es bereits diverse. Nutzen Sie die Vielfalt dieser Angebote und gehen Sie dabei gerne auch mal aus Ihrer thematischen Komfortzone heraus.

Wir vom Team der Learning AID möchten Sie dafür zur diesjährigen Learning AID am 2. und 3. September 2024 an der Ruhr-Universität in Bochum einladen, bei der auch der KI-Campus einer der Partner ist. Die Learning AID ist die zentrale Tagung im deutschsprachigen Raum zu Learning Analytics und generativer KI in der Hochschulbildung und bietet Ihnen die Möglichkeit, sich über die verschiedenen zuvor skizzierten Perspektiven zu informieren, zu vernetzen und natürlich Fragen zu stellen. Die Tagung richtet sich gleichermaßen an Praktiker:innen und Forschende und bringt Lehrende und Expert:innen in den direkten Austausch miteinander. Über die Tagungswebsite können Sie sich jetzt für Ihre Teilnahme registrieren.

Ich freue mich darauf, dort auch über diesen Blogbeitrag mit Ihnen zu sprechen und natürlich Ihre eigene Perspektive auf generative KI in der Hochschullehre kennenzulernen.

Jonas Leschke

Ruhr-Universität Bochum

Jonas Leschke ist Leiter der Stabsstelle für Strategische Lehrprojekte am Zentrum für Wissenschaftsdidaktik der Ruhr-Universität Bochum. In seiner vorherigen Rolle als Projektkoordinator des Projekts KI:edu.nrw hat er zusammen mit Peter Salden die Learning AID ins Leben gerufen.

Kollegin KI macht weiter Furore

Francesca Hermani — Tue, 07 May 2024 14:00:00 +0000

Künstliche Intelligenz (KI) können alle, die Texte oder Bilder erstellen möchten, über frei verfügbare Online-Applikationen, über kostenpflichtige Angebote großer Anbieter oder durch den Einsatz von Plug-ins verwenden. Für Unternehmen, insbesondere für kleine und mittlere, stellt generative KI – also Anwendungen zur Erzeugung von neuen Inhalten insbesondere in Form von Texten und Bildern – eine vielversprechende Investition für mehr Output, zielgruppenspezifische Beiträge und rundum bessere Ergebnisse dar – so die Hoffnung.

KI hat das Potenzial, viele Aufgaben im Tagesgeschäft z. B. in den Unternehmensbereichen von Marketing über Recruiting bis Social Media zu vereinfachen. Beispiele hierfür sind etwa die blitzschnelle Erstellung umfangreicher Textpassagen durch Textgeneratoren, die Anpassung von Unternehmenspräsentationen im Corporate Design oder die Erstellung kompletter Redaktionspläne durch besonders geschickt formulierte Prompts (die Auftragsformulierung an eine generative KI) innerhalb weniger Sekunden.

Adieu zähe Ideenfindung und aufwendige Bildbearbeitung, es lebe Kollegin KI! Doch was bedeutet dieser Wandel für Beschäftigte?

Wer KI bedienen kann, ist klar im Vorteil

Die Digitalisierung erzwingt schon seit einiger Zeit einen Kompetenzwandel. Mit der rasanten Entwicklung im Bereich der KI müssen Kompetenzprofile noch schneller angepasst werden. Und die Folgen am Arbeitsmarkt? Unklar. Einige prognostizieren revolutionäre Potenziale, andere sorgen sich um ihren Job. Wird die Schere zwischen besser qualifizierten Arbeitskräften und unterqualifizierten einfach weiter auseinanderklaffen? Denn um KI-Systeme zu steuern, bedarf es entsprechender Qualifikationen.

Zu den Schlüsselqualifikationen bei der Nutzung generativer KI gehören der planvolle Umgang mit Daten sowie die Fähigkeit zur Kollaboration und zum digitalen Lernen. Außerdem Selbstkompetenz, also die Fähigkeit, in der Vielfalt der Informationen zu navigieren und dabei auch auf die eigenen Bedürfnisse zu achten. Zusammenfassen lässt sich das als ‚Digital Literacy‘ (digitale Kompetenz). Darunter fällt die Fähigkeit, digitale Geräte und vernetzte Technologien sicher und angemessen zu verwenden, auf digitale Informationen zugreifen zu können, diese zu verwalten, zu verstehen, zu integrieren, zu kommunizieren, zu bewerten und erstellen zu können.¹ Für die Zukunftsfähigkeit von Unternehmen stellt mangelndes Know-how und unzureichendes Verständnis für die Möglichkeiten von Künstlicher Intelligenz seitens der Mitarbeitenden ein Problem dar.

„Am Ball bleiben“ heißt die Devise.

Wer generative KI benutzt, sollte das nicht blauäugig tun

Mit dem AI Act der Europäischen Union, der am 13. März 2024 in Kraft getreten ist, adressiert die EU einige regulative Herausforderungen, die mit der Nutzung generativer KI einhergehen. Ein zentraler Punkt ist, dass urheberrechtlich geschützte Werke immer das Produkt menschlicher Kreativität sein müssen. Doch was passiert, wenn KI mit urheberrechtlich geschütztem Material trainiert wird? Die Verantwortung für etwaige Urheberrechtsverletzungen liegt dann bei den Nutzenden, falls sie die Inhalte kommerziell verwenden wollen.

Fernab der juristischen Perspektive lohnen jedoch auch die Fragen, ob das, was die KI produziert, überhaupt einen Wert hat und ob von einem Schöpfungsakt die Rede sein kann.

Die Philosophin Catrin Misselhorn betrachtet KI in diesem Zusammenhang als Werkzeug, nicht als eigenständige Schöpferin. Sie führt aus: „Es wäre unangebracht, künstlichen Systemen gegenüber, reaktive Einstellungen wie Anerkennung oder Kritik an den Tag zu legen. Sie verfügen über Handlungsfähigkeit in einem funktionalen Sinn, jedoch ist es Handeln ohne Verantwortung.“²

Unser Tipp ist, die Nutzungspraxis korrekt zu „framen“. Das heißt, ein Text oder Bild wurde nicht von, sondern mit KI erstellt.

Denn auch die Verantwortung für den Einsatz und die Gestaltung der Inhalte bleibt menschlich. Hier bietet sich die Chance, Vorurteile und stereotype Darstellungen zu hinterfragen und auszuschließen. Verwendetes Material bedarf also einer durch Menschen umgesetzten Prüfung. Darstellungen, die von einer technischen Verzerrung aufgrund falscher oder veralteter Trainingsdaten (Bias genannt) betroffen sind, sollte keine Bühne geboten werden.

Lassen Sie sich nicht stressen!

In der Zusammenarbeit mit der neuen Kollegin KI macht das menschliche Team ganz unterschiedliche Erfahrungen und fast wie beim Onboarding neuer menschlicher Mitarbeitender gibt es zahlreiche Gefühlslagen zu reflektieren: Von Begeisterung über die tolle Unterstützung, über Verwunderung über die Leistungsfähigkeit bis hin zu einer gewissen Beunruhigung hinsichtlich der eigenen Kompetenz. Zusammen mit der oft vorhandenen Scheu vor Veränderungen und vor Neuem kann die Einbindung von KI bei Beschäftigten durchaus auch Stress erzeugen.

Was früher die Rückenbeschwerden waren, ist heute der Burnout. Stress ist längst zur Volkskrankheit geworden. Dass KI die routinemäßigen Aufgaben übernehmen kann, wird als Heilsbringer angepriesen. Aber kann der Mensch acht Stunden am Tag kreative, strategische und damit fordernde Aufgaben lösen?

Neben der Beschleunigung gibt es viele weitere Gefahren, die im EU AI Act als „High Risk“ eingeschätzt werden: Kontrolle, Leistungsvergleiche oder sonstige Tools zu Überwachung. KI-Anwendungen bieten also Möglichkeiten, die am Arbeitsplatz oder in der Gesellschaft auf Ablehnung stoßen.

Eine umfassende Bildungsstrategie, die nicht nur technische Fähigkeiten, sondern auch ethische Überlegungen, interdisziplinäre Zusammenarbeit und lebenslanges Lernen einschließt, ist erforderlich, um auf die KI-geprägte Zukunft gut vorbereitet zu sein. Ein menschenzentrierter Ansatz, also ein Ansatz, bei dem der Mensch und nicht die Technik im Zentrum der Überlegungen steht, ist dabei von großer Bedeutung. In zahlreichen öffentlich geförderten Projekten werden daher die Mitarbeitenden in den Fokus genommen.

Die vom Bundesministerium für Arbeit und Soziales (BMAS) geförderten Zukunftszentren beispielsweise sollen Unternehmen, Arbeitnehmende und (Solo-)Selbstständige befähigen, den Wandel der Arbeit aktiv mitzugestalten. In Trägerverbünden werden „Regionale Zukunftszentren” (RZ) in verschiedenen Bundesländern realisiert, wobei jedes Zentrum gezielt auf die lokalen Bedürfnisse ausgerichtet ist. Auch die vom Bundesministerium für Wirtschaft und Klima (BMWK) geförderten Mittelstanddigitalzentren unterstützen kleine und mittlere Unternehmen praxisnah. Als Start der Entdeckungsreise bietet sich aber natürlich besonders auch der vom Bundesministerium für Bildung und Forschung (BMBF) geförderte KI-Campus an.

Anmerkung der Autorin: Dieser Text wurde ChatGPT-4 zur Verbesserung vorgelegt. Alles, was sich als Stil oder persönliche Note beschreiben ließe, wurde in der Überarbeitung durch die KI gelöscht. Wir haben uns für das Original entschieden. Sorry, Kollegin KI.

¹UNESCO. (2018). Global framework of reference on digital literacy skills for indicator 4.4.2: Percentage of youth/ adults who have achieved at least a minimum level of proficiency in digital literacy skill (Draft Report). Paris: UNESCO. ip51-global-framework-reference-digital-literacy-skills-2018-en.pdf (unesco.org)

²Misselhorn, Catrin: Künstliche Intelligenz – das Ende der Kunst?; 2023 erschienen bei Reclam

Francesca Hermani

Forschungsinstitut Betriebliche Bildung

Francesca Hermani ist wissenschaftliche Mitarbeiterin am Forschungsinstitut Betriebliche Bildung (f-bb) gGmbH. Für das Projekt „Zukunftszentrum Berlin – digitale Arbeitswelten gestalten“ verantwortet sie die Öffentlichkeitsarbeit und experimentiert täglich mit generativer KI. In unterschiedlichen Formaten unterstützt sie Berliner Betriebe bei den Themen Darstellung im (digital-)öffentlichen Raum und KI-unterstützte Öffentlichkeitsarbeit.