Vom Digitalen zum Sozialen – Wie sich KI und Gesellschaft gegenseitig beeinflussen
Nicola Marsden hat den Online-Kurs „Sozialverantwortliche KI-Gestaltung“ auf dem KI-Campus entwickelt. Sie erklärt, wie KI die traditionellen Grenzen zwischen technischen und nicht-technischen Bereichen aufweichen könnte – und warum das gut für eine klischeefreie Berufswahl ist.
KI hat das Potenzial, unsere Gesellschaft tiefgreifend zu verändern. Deshalb ist es von entscheidender Bedeutung, dass wir einen verantwortungsvollen Rahmen für die Gestaltung und Implementierung dieser Technologien schaffen. Das Rahmenmodell für sozialverantwortliche KI-Gestaltung bietet einen solchen Ansatz, indem es den Prozess in vier zentrale Quadranten unterteilt: Produkt, Gesellschaft, Personen und Prozesse. Das Modell erkennt an, dass die Entwicklung und Anwendung von KI nicht isoliert von den sozialen Strukturen und Prozessen erfolgt, in denen sie eingebettet ist, sondern vielmehr eine Ko-Konstruktion von Gesellschaft und KI-Produkten darstellt.
Rahmenmodell für eine sozialverantwortliche KI-Gestaltung
Quadrant 1 – Produkt: Im ersten Quadranten liegt der Fokus auf den KI-Systemen selbst. Die Herausforderung besteht darin, KI so zu gestalten, dass sie gerecht ist und aktiv dazu beiträgt, Diskriminierungen zu identifizieren und zu verhindern, anstatt sie zu verstärken. Indem KI-Systeme entwickelt werden, die auf Ungleichbehandlungen aufmerksam machen und Stereotype nicht reproduzieren, können sie als Werkzeuge dienen, die Geschlechtergerechtigkeit und soziale Gerechtigkeit fördern. Dies erfordert ein tiefes Verständnis der potenziellen Bias in Daten und Algorithmen und die Entwicklung von Mechanismen, die diese Bias erkennen und korrigieren.
Quadrant 2 – Gesellschaft: Der zweite Bereich fokussiert die gesellschaftlichen Normen und Erwartungen, die unser Zusammenleben prägen. Hier geht es darum, durch Bildung und Sensibilisierung gegen Geschlechterstereotype anzukämpfen und eine Kultur der Gleichberechtigung zu fördern. Initiativen wie #Frauwirktdigital zeigen, wie wichtig es ist, Geschlechtergerechtigkeit in den Fokus zu rücken und konkrete Handlungsempfehlungen für die gleichberechtigte Teilhabe an der Nutzung und Entwicklung von KI-Systemen zu bieten.
Quadrant 3 – Personen: Die Menschen hinter der Technologie spielen eine entscheidende Rolle bei der Gestaltung von KI. Diverse Teams, die ein breites Spektrum an Perspektiven und Erfahrungen einbringen, sind unerlässlich, um KI-Systeme zu entwickeln, die gerecht und inklusiv sind. Der dritte Quadrant betont die Bedeutung von Gleichstellung und Teilhabe in den Entwicklungsteams. Die Förderung von Diversität in diesen Teams ist nicht nur eine Frage der sozialen Gerechtigkeit, sondern auch ein Schlüssel zu kreativeren und innovativeren KI-Lösungen.
Quadrant 4 – Prozesse: Der vierte Quadrant widmet sich den Prozessen und Methoden, die bei der Gestaltung von KI zum Einsatz kommen. Ein menschenzentrierter Ansatz, der die Nutzer:innen einbezieht und die Fairness der verwendeten Daten gewährleistet, ist hier von zentraler Bedeutung. Die Transparenz und Erklärbarkeit von KI-Systemen zu fördern, ähnlich der Auskunftspflicht über Inhaltsstoffe in der Lebensmittelindustrie, ist ein wichtiger Schritt hin zu einer sozialverantwortlichen KI.
Durch die gezielte Intervention in diesen vier Bereichen können wir nicht nur Diskriminierungen vermeiden, sondern auch einen positiven Beitrag zur Gesellschaft leisten. Die Implementierung dieses Rahmenmodells erfordert das Engagement aller Beteiligten, von den Führungskräften bis hin zu den Entwicklungsteams. Die bewusste Gestaltung unserer Arbeitsumgebungen und -prozesse, angefangen bei der Zusammensetzung unserer Teams, ist dabei der erste Schritt.
Diversität als Innovationsmotor
Diversität fördert Innovation – diese Erkenntnis ist inzwischen weit verbreitet und durch zahlreiche Studien belegt. Im Kontext von KI ist die Vielfalt der Perspektiven und Kompetenzen entscheidend, um Systeme zu entwickeln, die ethisch verantwortungsvoll, sozial akzeptabel und innovativ sind. Die Zusammenarbeit von Menschen unterschiedlichen Alters, Geschlechts und unterschiedlicher disziplinärer Hintergründe trägt dazu bei, blinde Flecken zu minimieren und Lösungen zu entwickeln, die eine breite Palette menschlicher Bedürfnisse und Erfahrungen widerspiegeln. Denn allzu oft sind die Teams, die unsere Zukunft gestalten, eher homogen aufgestellt hinsichtlich Alter und Geschlecht und könnten von mehr Vielfalt profitieren.
Die Notwendigkeit eines interdisziplinären Ansatzes
Aber es stellt sich auch die Frage nach einer weiteren Vielfalt: der Vielfalt der Kompetenzen und Disziplinen. Ein interdisziplinärer Ansatz in der KI-Entwicklung ermöglicht es, komplexe Probleme umfassender zu verstehen und realitätsnahe Lösungen zu entwickeln. Die Berücksichtigung von Aspekten der menschlichen Psychologie, Kultur und Gesellschaft ist unerlässlich, um Technologien zu schaffen, die von den Nutzenden akzeptiert und effektiv eingesetzt werden. Die Integration von Kompetenzen aus den Geistes- und Sozialwissenschaften, Kunst und Design sowie aus den empirischen Wissenschaften bereichert den Entwicklungsprozess und führt zu kreativeren und inklusiveren KI-Anwendungen.
Verschmelzung der Kompetenzen
Im KI-Bereich ist es nicht nur so, dass es die Zusammenarbeit zwischen den verschiedenen Disziplinen braucht. Für den KI-Bereich scheint auch die Zuordnung des Fachs zu einer Disziplin zunehmend schwierig. Die traditionelle Trennung zwischen technischen und nicht-technischen Aspekten wird im KI-Bereich immer unschärfer. Die Grundlagen selbstlernender KI-Systeme finden sich im Curriculum der Psychologie, während Sprachkompetenz ein Indikator für die Fähigkeit zum Programmieren sein kann.
Studien haben gezeigt, dass Sprachkompetenz ein besserer Prädiktor ist, um vorherzusagen, wie gut jemand Programmieren lernt, als mathematische Fähigkeiten. Ein Großteil der empirischen Sozialwissenschaften beschäftigt sich mit Data Science. Und das Strukturieren und Verfassen von klaren Texten, wie sie für das Erstellen von Prompts benötigt werden, wird in der Germanistik gelehrt. Diese Beispiele verdeutlichen die zunehmende Vermischung von technischen und nicht-technischen Fähigkeiten. Es besteht die Chance, dass die Grenzziehung zwischen technisch und nicht-technisch immer mehr verschwindet, je mehr KI in unseren Alltag und in sämtliche Bereiche unserer Gesellschaft integriert wird.
Geschlechterstereotype überwinden
Das Überwinden der traditionellen Trennung zwischen technischen und nicht-technischen Bereichen bietet uns als Gesellschaft eine wichtige Chance. Technische Felder gelten traditionell als männlich, während nicht-technische Bereiche als weiblich angesehen werden. Diese Einteilung führt zu einer „Vergeschlechtlichung“ der Berufsfelder, die Geschlechterungleichheiten verstärkt: Jungen werden oft technische Fähigkeiten zugesprochen, Mädchen hingegen soziale Kompetenzen. Das hat zur Folge, dass Mädchen seltener Fächer wie Informatik wählen, teilweise aus berechtigter Sorge, dass sie dort vereinzelt sind und ihre Kompetenz häufiger hinterfragt wird.
Die im Zeitalter von KI nicht mehr angemessene Einteilung in technische und nicht-technische Felder hätte also weitreichende Konsequenzen. Wenn es uns allen, die wir diese stereotype Assoziation von klein auf gelernt haben, gelingt, diese Dichotomie und die damit einhergehende Vergeschlechtlichung hinter uns zu lassen, dann ermöglicht dies nicht nur KI-Systeme, die ethisch verantwortlich, gesellschaftlich akzeptiert und auf vielfältige Weise innovativ sind. Vielmehr machen wir einen bedeutenden Schritt hin zu mehr Geschlechtergerechtigkeit. Wir bewegen uns auf eine Welt zu, in der sowohl Mädchen als auch Jungen frei von Geschlechterstereotypen ihren beruflichen Weg wählen können.
