Station 8: Bias und KI
Worum geht es hier?
KI-generierte Inhalte sind zwangsläufig immer Bias-behaftet, denn KI-Tools reproduzieren die Vergangenheit, weil sie auf einer Datenbasis aus der Vergangenheit stammen. Stereotype, Diskriminierungen und Vorurteile, die es in den letzten Jahrzehnten in unserer Gesellschaft gab und weiterhin gibt, finden sich vor diesem Hintergrund in den Trainingsdaten und damit auch im Output der vorherrschenden KI-Tools wieder. Wer mit KI-Tools arbeitet, muss dazu einen Umgang finden.
Was können wir nutzen?
Um sich Bias in KI bewusst zu machen, sind Bildgenerierungstools ein guter Einstieg zum Erkunden. Du kannst zum Beispiel den Prompt nutzen: Eine Person, die auf einer Konferenz redet. Wahrscheinlich wirst du in diesem Fall überwiegend Bilder von weißen, redenden Männern erhalten. Denn das sind die Personen, die es in den Trainingsdaten überwiegend redend auf Konferenzen gibt.
Wir haben aber natürlich den Anspruch, dass auch Frauen, Schwarze Menschen oder Menschen im Rollstuhl redende Personen auf einer Konferenz sein sollten. Und wir möchten gerne, dass dieses Ziel (was oft ja auch schon eine reale Möglichkeit ist) in Bildern entsprechend dargestellt wird, um z.B. auch entsprechende Vorbilder zu bieten.
Der einfachste Umgang mit dieser Schwierigkeit ist deshalb, in den Eingaben gezielt auf Vielfalt hinzuwirken, z.B. in dem ich in dem Beispiel schreiben würde: eine Schwarze Frau, die auf einer Konferenz redet. Oft hilft auch der Beisatz 'divers'.
Alle Probleme sind damit aber nicht gelöst, denn manchmal gibt es in den Trainingsdaten schlichtweg so wenig Inhalte, dass trotz entsprechendem Prompting das KI-Modell auf die Mehrheits-Darstellung zurückfällt. Diese Herausforderung habe ich im Blogbeitrag Besseres Prompting hilft nur bedingt gegen Bias vorgestellt.
Wie können wir vorgehen?
Macht eigene Erkundungen zu KI und Bias. In Sprachmodellen könnt ihr z.B. beobachten, mit welchen Eigenschaften Frauen und mit welchen Eigenschaften Männer in Texten überwiegend dargestellt werden. All das geschieht sehr subtil. Der erste Schritt zur Veränderung ist ein bewusster Umgang damit. Eine abschließende Lösung gibt es zu dieser Herausforderung nicht.
Viel Erfolg bei der kritischen Auseinandersetzung mit Bias und KI! 🙂