In unserer Kursreihe für eine sozialverantwortliche KI-Gestaltung widmet sich diese Lerneinheit gezielt den Methoden und Praktiken zur Bias-Reduktion in Entwicklung und Nutzung von KI. Das heißt, Sie lernen methodische Werkzeuge kennen, die es ermöglichen, stereotype Verzerrungen, unfaire oder diskriminierende Inhalte und Vorgehensweisen zu identifizieren und zu vermeiden. 
Denn die meisten Menschen möchten sich fair, verantwortlich und gerecht verhalten. Oft wissen sie jedoch nicht genau, welche konkreten Ansätze sie nutzen können, um eine KI so zu gestalten und zu nutzen, dass sie diesen Werten entspricht. Wie können wir also Biases, also stereotype Verzerrungen, identifizieren und reduzieren? 

In diesem Kurs lernen Sie bewährte De-Biasing-Methoden kennen. Diese umfassen sowohl ganz spezifische Praktiken, welche konkret auf Produktebene wirksam sind, als auch ganzheitliche Methoden, die auf der Prozess- oder Organisationsebene nachhaltig Biases vermeiden. Diese wissenschaftlich fundierten Methoden werden bereits in vielen Bereichen erfolgreich eingesetzt, um sicherzustellen, dass KI-Systeme nicht nur technisch leistungsfähig, sondern auch sozialverantwortlich und gerecht sind. 

Anhand von praxisnahen Beispielen und kleinen Übungen erwerben Sie in diesem Kurs einen Werkzeugkoffer, mit dem Sie KI-Systeme aktiv und verantwortungsvoll mitgestalten und nutzen können – und so sicherstellen, dass sie den Prinzipien der Fairness, Transparenz und Inklusivität entsprechen.

• Diversity Personas – Entwicklung diverser und bias-freier Personenprofile in der Gestaltung von KI-Technologien 

• De-Biasing durch Prompting – Identifikation und Reduktion von Biases in der Nutzung generativer KI 

• Role Models – Sichtbarkeit lokaler Rollenmodelle stärken für weniger Biases in Organisationsstrukturen und -prozessen 

• KI gestalten – gemeinsam und iterativ – Ganzheitlich, reflektiert und nachhaltig Biases in Organisationen entgegenwirken 

Bei Abschluss des Kurses sind Sie in der Lage

• Beispiele für mögliche Biases zu generieren und gezielte Lösungsansätze zu entwickeln.
• die wissenschaftlichen Hintergründe zu den verschiedenen Methoden der Bias-Reduktion zu benennen, aus denen eine sozialverantwortliche KI-Gestaltung resultiert.
• die passenden Bereiche im Unternehmen zu identifizieren, die durch Methoden zur Bias-Reduktion optimiert werden können. 
• die verschiedenen Praktiken schrittweise in Unternehmensalltag selbständig umzusetzen. 

Es werden keine spezifischen Voraussetzungen benötigt. Die Kurse „Sozialverantwortliche KI-Gestaltung“ und „Teampraktiken sozialverantwortlicher KI-Gestaltung“ sind optional.  

Prof. Dr. Nicola Marsden arbeitet gemeinsam mit ihrem Team im Lab für Sozioinformatik in nationalen und internationalen Forschungsprojekten an der Entwicklung und Umsetzung partizipativer und nutzungszentrierter Methoden der Gestaltung von KI und einer chancengerechten Digitalisierung.  

Sie engagiert sich in verschiedenen Rollen für Diversität im MINT-Bereich, z. B. als stellvertretende Vorsitzende des Kompetenzzentrums Technik – Diversity – Chancengleichheit oder als Expertin für die Deutsche UNESCO-Kommission zum Thema „KI als Chance für mehr Geschlechtergerechtigkeit“.