Diskriminierung durch KI? – Von antimuslimischen Algorithmen, Verantwortung und dem Kampf um Sichtbarkeit

Wie gehen Menschen damit um, wenn ihnen eine KI bzw. AI
unterstellt, sich für extremistische Inhalte zu interessieren, nur
weil Merkmale wie «muslimisch» und «arabisch-sprechend» auf sie
zutreffen? Wieso sind Passfoto-Automaten immer dann «kaputt», wenn
eine Frau mit Kopftuch Fotos machen möchte? Und wer steht
eigentlich hinter den Entscheidungen von Künstlicher Intelligenz?
Die Religionswissenschaftlerin Maike Sieler hat im Rahmen ihrer
Forschung mit Menschen gesprochen, die von antimuslimischer
Stellvertreterdiskriminierung durch KI betroffen sind, und
berichtet, wie sie damit umgehen. Sieler spricht über den Bias von
Algorithmen, die Verantwortung von Programmierer:innen und über die
Tricks, die angewendet werden, um KI zu überlisten. Wie erfolgreich
das sein kann, haben die Fans einer K-Pop-Band bewiesen. Maike
Sieler (www.trf.uzh.ch/de/personen/sieler.html) arbeitet am
Religionswissenschaftlichen Seminar der UZH und am Zentrum für
Religion, Wirtschaft und Politik (ZRWP). Sie forscht u.a. zu
antimuslimischem Rassismus und KI, zu Digital Religion und zum
Mediendiskurs Islam. Weiterführende Informationen: Blogbeitrag zu
«Antimuslimischem Rassismus und AI»:
https://www.religion.ch/blog/antimuslimischer-rassismus-und-ai/
Artikel zum Nutzen von Künstlicher Intelligenz für die
Gesellschaft:
https://www.trf.uzh.ch/de/aktuell/facultativ/2023/god-like_AI.html