Plausibler Bullshit – Wie gefährlich ist ChatGPT für Wissenschaft und Medien?

Es gibt Dinge, die wissen selbst Jens und Christian nicht auf
Anhieb. Also was tun? Entweder man hofft, dass im richtigen
Moment der richtige Experte für eine knifflige Archäologie-Frage
anruft oder man fragt einfach ChatGPT. In letzterem Fall sollte
man sich aber auf eine Antwort gefasst machen, die zwar
sicherlich sehr plausibel aber höchstwahrscheinlich auch
ziemlicher Bullshit ist. Wie so eine Künstliche Intelligenz
funktioniert und warum unsere Nerds lieber selber nachdenken und
kreativ werden, erfahrt ihr in dieser Folge, die übrigens
garantiert ohne Zuhilfenahme von Künstlicher Intelligenz erstellt
wurde.
_
Quellen:
Deutschlandfunk Kommentar von Roberto Simanowski:
https://www.deutschlandfunkkultur.de/kommentar-chatbot-chatgpt-100.html


KI-Bild gewinnt Foto-Preis (“Die Elektrikerin” von Boris
Eldagsen):
https://www.spiegel.de/kultur/boris-eldagsen-foto-preis-fuer-mit-ki-erzeugtes-werk-a-5a942d19-f229-432b-a879-d196e7dce361


Foto gewinnt KI-Preis ("F L A M I N G O N E" von Miles Astray):
https://www.chip.de/news/kuenstliche-intelligenz/foto-skandal-mal-anders-echtes-foto-gewinnt-ki-wettbewerb_65184f1f-8d6c-48bb-a4f3-a780dcd5f4a1.html


Halluzinierte Zitationen:
Fehlerrate schwankt von 6 bis 60 % – wie soll man da jemals
wissen können, ob man eine echte Zitation hat?
https://cpa.ca/docs/File/Students/MindPad/MindPad_Winter2023.pdf


ChatGPT und vergleichbare Modelle werden *weniger*
zuverlässig.
Über die Zeit nimmt die ausgedrückte Unsicherheit ab, und die
Rate an Fehlern nimmt zu – ChatGPT wird also immer schlechter:
https://www.nature.com/articles/s41586-024-07930-y

Wie sehr vertrauen wir Chat-GPT?
Leute fanden KI-generierten Text klarer und interessanter, aber
sonst keine Unterschiede, auch nicht in Kompetenz oder
Vertrauenswürdigkeit: https://arxiv.org/pdf/2309.02524
_

Für Bild zum Ton folgt dem Podcast @nerdsatwork_podcast auf
Instagram und TikTok!

NERDS AT WORK ist eine Produktion der bildundtonfabrik.

Von und mit: Jens Foell und Christian Scharun
Sounddesign: Christian Pössnicker
weiteres Sounddesign: Azhar Syed
Schnitt: Laura Thiem
Produktion: Désirée Klein
Cover-Foto: Leon Adam
Cover-Design: Julian Lausen
mit den Stimmen von Mai Thi Nguyen-Kim und Hannah Pfeiffer.