AI ohne Bias? Warum ausgewogenen und saubere Daten so wichtig sind | Elisabeth l‘Orange

Hast du dich schon mal gewundert, dass eine KI ein seltsames
Ergebnis geliefert hat? Lag es vielleicht nicht am Prompt,
sondern an den Daten dahinter? Darüber spricht Christian Krug,
der Host des Podcasts „Unf*ck Your Data“ mit Elisabeth l’Orange
Gründerin und CCO bei Oxolo.


Die CEOs auf GenAI Bildern – Nur Männer. Die Krankenschwestern –
Nur Frauen. Und dann rennt die Braut im generierten Video zum
Altar wie ein Businesstyp der über den Flughafen sprintet. Der IQ
in einem Land ist angeblich deutlich niedriger als bei den
Nachbarn?


Wirkt seltsam im ersten Moment, aber nur wenn man KI mal wieder
magische Fähigkeiten unterstellt. Denn oft werden die Ergebnisse
klar, wenn wir einen Blick in die Daten wagen, mit denen die KI
Modelle trainiert wurden.


Maschinelles Lernen funktioniert auf Basis von Mathematik und
eben nicht Magie. Und so kommt es, dass alle Verzerrungen oder
Ungleichheiten, die wir im Training dem System beibringen sich in
den Ergebnissen widerspiegeln.





Bei einigen Bereichen mag dies kritischer sein als bei anderen.
Manchmal verstößt es gegen unsere Werte in der Gesellschaft,
manchmal aber hängen auch direkt Menschenleben daran. Zum
Beispiel in medizinischen Modellen, die ernste Krankheiten
frühzeitig erkennen können.


Je genauer diese Modelle auf unsere spezifischen Gegebenheiten
angepasst werden, desto besser die Ergebnisse.


So wird das Rennen um die KI auch ein Rennen um die Daten.


Denn es ist gar nicht so leichte gute und saubere Daten zu
bekommen. Wer hier jetzt die Nase vorne hat kann auch im Rennen
mit KI sicher punkten.





Doch wie kommen wir dann jetzt zu besseren Ergebnissen und
Guardrails, die dafür sorgen, dass die Systeme entsprechend
verantwortungsvoll trainiert und eingesetzt werden?





Profile:





Zum LinkedIn-Profil von Elisabeth:
https://www.linkedin.com/in/lislorange/





Zu Tech & Tales: https://www.talespod.com/





Zum LinkedIn-Profil von Christian:
https://www.linkedin.com/in/christian-krug/





Christians Wonderlink: https://wonderl.ink/@christiankrug





Unf*ck Your Data auf Linkedin:
https://www.linkedin.com/company/unfck-your-data





Buchempfehlung:





Buchempfehlung von Elisabeth: Lean In - Sheryl Sandberg





Alle Empfehlungen in Melenas Bücherladen:
https://gunzenhausen.buchhandlung.de/unfuckyourdata








Hier findest Du Unf*ck Your Data:





Zum Podcast auf Spotify:
https://open.spotify.com/show/6Ow7ySMbgnir27etMYkpxT?si=dc0fd2b3c6454bfa





Zum Podcast auf iTunes:
https://podcasts.apple.com/de/podcast/unf-ck-your-data/id1673832019





Zum Podcast auf Deezer:
https://deezer.page.link/FnT5kRSjf2k54iib6





Zum Podcast auf Youtube: