Deepfakes erkennen und verstehen - wie Forschung gegen Manipulation hilft

Der Enkeltrick 2.0, die vorgetäuschte Videokonferenz oder die
Beeinflussung der öffentlichen Meinung in Wahlkampfzeiten –
Deepfakes sind riskant. Und das für jeden Einzelnen, für
Unternehmen und für die Gesellschaft. Die Expertinnen und Experten
der Fraunhofer-Gesellschaft verfügen bereits heute über Methoden,
Audio- und Videomanipulationen verlässlich zu entlarven – und zwar
wiederum mittels KI. Wie das funktioniert, erklärt der
Sicherheitsexperte Dr. Nicolas Müller vom Fraunhofer-Institut für
Angewandte und Integrierte Sicherheit AISEC. Mit Annette Weiß
spricht er über Sicherheitsprüfungen und Schutzmaßnahmen, um Betrug
auszuhebeln, aber auch über die Potentiale der KI im Audiobereich
für die Kreativwirtschaft und den Gesundheitssektor. Prof. Dr.
Martin Steinebach vom Fraunhofer-Institut für Sichere
Informationstechnologie SIT zeigt auf, wie brandgefährlich Bild-
und Videomanipulationen beispielsweise bei politischen Konflikten
sind. Der Mediaforensiker erklärt, wie auch hier Algorithmen
eingesetzt werden, um gefälschte Bilder und Videos zu erkennen. Die
Links zu dieser Folge:
https://www.aisec.fraunhofer.de/de/das-institut/wissenschaftliche-exzellenz/Deepfakes.html
https://www.sit.fraunhofer.de/de/itforensics/ Hier geht es zur
Demo, ob ihr echte von synthetisierten Stimmen unterscheiden könnt:
https://deepfake-demo.aisec.fraunhofer.de/ Mehr zum Thema Deepfakes
gibt es im aktuellen Fraunhofer-Magazin ab S. 38:
https://www.fraunhofer.de/s/ePaper/Magazin/2024/02/index.html#0
Fragen, Anregungen, Kritik? Schreibt uns eine E-Mail an:
podcast@zv.fraunhofer.de Den Fraunhofer-Newsletter gibt es hier:
https://www.fraunhofer.de/de/presse/newsletter/presse-newsletter-anmeldung.html
Alle weiteren Informationen findet ihr unter: www.fraunhofer.de