Keine Medien-Innovationen, Events und Startups mehr verpassen? Abonniere den Innovation Loveletter des Media Lab Bayern! Will ich haben!

Mithilfe von KI in eine gleichberechtigte Zukunft

12. Juli 2022

Mithilfe von KI in eine gleichberechtigte Zukunft

Künstliche Intelligenz (KI) kann Zeit und Kosten bei der Verarbeitung von großen Datenmengen sparen und Arbeitsabläufe automatisieren. KI-Methoden wie Machine Learning, Computer Vision und Natural Language Processing werden in verschiedenen Bereichen eingesetzt – jetzt auch in den Medien. Ein Blick auf Chancen und Risiken.

Ein Gastbeitrag von Ilka Dorothea Schnelle

Obwohl KI schon lange existiert, ist der Begriff immer noch ein absolutes Buzzword. Immer mehr Medienhäuser machen sich die Technologie zu Nutzen: Der Bayerische Rundfunk hat eigens ein Team eingerichtet, das sich mit KI auseinandersetzt, das AI + Automation Lab. John Micklethwait, Chefredakteur der Nachrichtenagentur Bloomberg News, gab 2019 bei der Digitalkonferenz DLD an, dass die Agentur ungefähr ein Drittel der Nachrichten mit Hilfe von KI generiere und verbreite. Gerade mit diesen Entwicklungen im Hinterkopf ist ein genauerer Blick auf KI wichtig.

Künstliche Intelligenz diskriminiert

KI wirkt objektiv, schließlich handelt es sich um eine Technologie. Doch verschiedene Vorkommnisse zeigen: Die Anwendung von KI  kann zu reproduzierter und zum Teil sogar verstärkter Diskriminierung führen.

  • Ein von Microsoft eingesetzter Chatbot musste 2016 wieder abgeschaltet werden, weil er rassistische und extremistische Inhalte twitterte.
  • Genauso erging es einer KI-Software, die Amazon zur Bewerber*innenauswahl verwendete: Das Programm hatte konsequent Frauen benachteiligt.
  • In Köln wurde 2018 ein Mann bei der Wohnungssuche wegen seines arabisch klingenenden Nachnamens von einer KI-Anwengung im Kredit-Scoring diskriminiert.


KI ist voller Bias und kann damit großen Schaden anrichten. Aber im Gegensatz zur Darstellung in Filmen wie „Transcendence“ aus dem Jahr 2014 oder „I, Robot“ aus dem Jahr 2004 ist sie nicht per se böse. Es handelt sich schlicht und ergreifend um ein - von Menschen entwickeltes- Werkzeug, mit dem gewisse Risiken einhergehen, anhand dessen aber auch Fortschritte erzielt werden können. Medien können sich diese Chancen zu eigen machen, müssen aber die Risiken im Blick behalten.

Medien als Spiegel der Gesellschaft

Medien sollen im normativen Verständnis als Spiegel der Wirklichkeit dienen. Dazu gehört auch, alle Teile der Gesellschaft zu repräsentieren. Medien müssen unterschiedliche Sichtweisen innerhalb einer Gesellschaft repräsentieren und vielfältige Perspektiven aufgreifen, um ein breites Publikum anzusprechen. Um das zu erreichen, müssen Verbesserungen auf zwei verschiedenen Ebenen stattfinden: Die Medienschaffenden müssen diverser werden und auch die Berichterstattung.

In der Berichterstattung zeigen sich bis heute deutliche Defizite. So sind nach Ergebnissen einer Fülle von Studien, die bis in die 1970er Jahre zurückgehen, Frauen und Minderheiten deutlich unterrepräsentiert. Männliche Namen kommen in der untersuchten Berichterstattung, die einen Zeitraum von 40 Jahren umfasst, drei Mal häufiger vor als Frauennamen. Fokussiert man sich nur auf die aktuellere Berichterstattung, vergrößert sich die Diskrepanz sogar: Das Verhältnis liegt fast bei fünf zu eins.

Das größte Problem dieser Unterrepräsentation von Frauen und Minderheiten in der Berichterstattung ist, dass dadurch nicht nur Stereotype reproduziert werden und somit überproportional lange in der Sprachverwendung verbleiben, sondern dies auch zu deren Manifestation beiträgt. So werden eigentlich überholte Rollenbilder und Identitäten weitergetragen.

Warum sind Frauen und Minderheiten unterrepräsentiert?

Für diese Diskriminierung und Unterrepräsentation liegen mehrere Ursachen vor. Die traditionellen Medien sind unter anderem an journalistische Normen gebunden, wie etwa, dass hauptsächlich über Top-Polititker*innen, öffentliche Personen, Geschäftsleute, Sportler*innen oder Entertainer*innen berichtet werden soll. Da diese relevanten Personen in der überwiegenden Mehrheit männlich sind, sind die Möglichkeiten der Journalist*innen,  zu gleichen Teilen über Männer und Frauen zu berichten, in einem solchen traditionellen Mediensystem limitiert. Die ungleiche Berichterstattung ist somit zu Teilen ein Spiegel gesellschaftlicher Zu- oder eben Missstände.

Bei einer Google-Search nach Toppolitikern und Toppolitikerinnen in Deutschland werden zunächst ähnlich Ergebnisse angezeigt, weil der Google-Algorithmus schlussfolgert, dass man auch bei Toppolitikerinnen eigentlich nach Toppolitikern sucht.

 

Die nicht-diverse Berichterstattung existiert also und hat Einfluss auf die gesellschaftliche Entwicklung. Medien tragen aktiv zur Ungleichheit bei. Schreiten die Entwicklungen der Gleichberechtigung im gleichen Tempo voran wie die letzten Jahre, wird es auf kurze Sicht keine großen Veränderungen geben. Deswegen bietet es sich an, durch den Einsatz von zur Verfügung stehender Technologien wie KI die Entwicklung zu beschleunigen.

Künstliche Intelligenz als Booster

Im neuesten Bericht des Digital News Projects des Reuters Institute for the Study of Journalism und der University of Oxford wurden Entscheidungsträger*innen in Medienunternehmen zu KI befragt. Über zwei Drittel der 227 befragten Entscheidungsträger*innen sehen KI als wichtigste Technologie für Innovation und Digitalisierung der nächsten fünf Jahre.

Im deutschsprachigen Raum verwenden zwar einige Medienunternehmen KI, allerdings nur wenige mit dem Ziel der diversifizierten Berichterstattung. Erste Ansätze hat das AIJO-Projekt der London School of Economics and Political Science untersucht. Das Projekt ist eine globale Kollaboration acht großer Medienunternehmen, die verschiedene KI-Konzepte zum Aufdecken von Gender und Racial Bias entwickelt haben. Medienunternehmen können solche KI-Anwendungen nutzen, um ihren Output diverser und gleichberechtigter zu gestalten.

Aktuell bringt vor allem die Möglichkeit, große Datenmengen anhand von KI zu analysieren, einen Mehrwert. Medienunternehmen können so zum Beispiel ein bestimmtes Geschlechterverhältnis im Output untersuchen. Gleichzeitig entspricht eine binäre Aufteilung von Geschlechteridentitäten nicht unbedingt dem Anspruch, diverser und gleichberechtigter zu sein. Auch die Einordnung in die Kategorien „männlich“ und „weiblich“ anhand von optischen Markern ist nicht zeitgemäß. Vielmehr liegt das Potenzial hier zum Beispiel in der Textanalyse. Zuschreibungen wie beispielsweise Pronomen können helfen, Geschlechteridentitäten zu kategorisieren.

Anwendungen, die sich zum Beispiel auf ethnische Minderheiten beziehungsweise migrantisierte Menschen in der Berichterstattung fokussieren, existieren aktuell nicht. Auch gibt es keine KI-Anwendungen die zusätzlich den Kontext untersuchen, in dem Personen gezeigt oder genannt werden. Außerdem sind die meisten Anwendungen für englischsprachige Publikationen entwickelt worden. Die argentinische Tageszeitung „La Nación“ arbeitet aber zum Beispiel daran, ein Tool für spanischsprachige Publikationen zu entwickeln.

Beteiligung, Transparenz und Zusammenarbeiten für eine diversere Zukunft

All diese Punkte lassen schließen: Transparenz und Kollaboration sind wichtige Stichpunkte in Bezug auf KI und vor allem bei Anwendungen, die für mehr Gleichberechtigung und Diversität eingesetzt werden sollen. Hier wäre es noch problematischer als bei anderen KI-Anwendungen, wenn der Algorithmus selber zu verstärkter Diskriminierung führen würde.

Deswegen sollten auch Medienunternehmen im Blick behalten: Je mehr Menschen mit verschiedenen Hintergründen schon bei der Entwicklung beteiligt sind, aber auch zu einem späteren Zeitpunkt die Möglichkeit haben, sich einzubringen, desto höher ist die Wahrscheinlichkeit, dass die KI-Anwendung möglichst frei von Bias ist. Transparenz sorgt dafür, dass nachvollziehbar ist, warum welche Entscheidungen getroffen worden sind oder auch wie es zu einem bestimmten Ergebnis kommt. Damit KI-Anwendungen insgesamt einen diverseren Output bieten können, muss in diese Richtungen noch einiges passieren.

Ilka hat nun das Förderprogramm für Abschlussarbeiten durchlaufen. Mehr zum Programm gibt es hier!


Ilka Dorothea Schnelle

Ilka Dorothea Schnelle beendet dieses Jahr ihr Journalistik-Studium an der Katholischen Universität Eichstätt-Ingolstadt. Dort war sie unter anderem Chefredakteurin der Jubiläumsausgabe von Einsteins, dem jährlich erscheinenden crossmedialen Magazin der Eichstätter Journalistik. In ihrem Auslandssemester in Dänemark hat sie Internationale Berichterstattung studiert. In ihrer Freizeit engagiert sie sich bei der Grünen Jugend und betreut die bayerische Ausgabe des Mitgliedermagazins.

Dein Kommentar dazu:

Bitte rechnen Sie 9 plus 7.