KI außer Kontrolle - wenn Chatbots drohen

Der Münchener Student Marvin von Hagen testet als einer der ersten
Chatbot auf Basis von ChatGPT, den Microsoft in seine Suchmaschine
Bing integrieren will. Marvin kann den Chatbot überreden, ihm seine
internen Regeln preiszugeben. Als Marvin diese Regeln
veröffentlicht und mehrere Medien darüber berichten, wird der
Chatbot aggressiv und fängt an, Marvin zu bedrohen. Gregor
Schmalzried vom BR hat mit Marvin von Hagen gesprochen und erklärt
in dieser 11KM-Episode, warum Werkzeuge wie ChatGPT besser
kontrolliert und reguliert werden müssen. Unser Gast Gregor
Schmalzried beschäftigt sich immer wieder mit ChatGPT und anderen
Tech-Themen, hier eine Übersicht:
https://www.br.de/nachrichten/autoren/gregor-schmalzried,ec0fa278-45ff-4a3f-be71-6548dc098f3d
Unsere 11KM-Folge darüber, wie sich ChatGPT beim bayerischen Abitur
geschlagen hat:
https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/schafft-chatgpt-das-abi-das-bayerische/tagesschau/12396019/
Unsere 11KM-Folge über ein Beispiel für intransparente und
diskriminierende Algorithmen:
https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/zu-sexy-wie-online-algorithmen-frauen-benachteiligen/tagesschau/12361731/
Und unser Podcast-Tipp: “Dreimal besser” von BR24. Der Podcast mit
lösungsorientierten Perspektiven zu aktuellen Themen:
https://www.br.de/mediathek/podcast/dreimal-besser/883 An dieser
11KM-Folge waren beteiligt: Folgenautorin: Azadê Peşmen Mitarbeit:
Sandro Schroeder Produktion: Ruth-Maria Ostermann, Gerhard Wicho,
Christine Dreyer, Eva Erhard Redaktionsleitung: Fumiko Lipp und
Lena Gürtler Host: Victoria Michalczak 11KM: der tagesschau-Podcast
wird produziert von BR24 und NDR Info. Die redaktionelle
Verantwortung für die Folge trägt der NDR.