#21 Karl Olsberg: Unkontrollierte bösartige KIs erwarte ich eher als die Lösung des Alignment-Problems

In seinen Romanen beschreibt der Science-Fiction-Autor Karl von
Wendt (Pseudonym Karl Olsberg) zukünftige Welten, in den Menschen
mit moderner Technik konfrontiert sind. Er zeigt, wie ihnen die
Kontrolle über diese Technik entgleitet - bis hin zur Gefahr der
völligen Vernichtung unserer Spezies. Anders als in seinen
Romanen lässt sich in unsere realen Welt jedoch kein Held
hineintexten, der die Menschheit vor dem Untergang retten kann.
Karl von Wendt blickt mit Sorge auf zukünftige KI-Entwicklungen,
insbesondere auf die Herausforderungen des Alignments von KI an
verschiedenartige Wertekonzepte unterschiedlicher
Menschengruppen. Seine Romane sollen die Leser zwar unterhalten,
aber auch mahnen. So erzählt er auch, warum er das Moratorium zum
6-monatigen KI-Entwicklungsstopp des Future of Life Institutes
mitunterzeichnet hat. 


Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann


In dieser Episode genannte Quellen:


Aktuelles Buch von Karl Olsberg: Virtua


Website von Karl Olsberg (aka Karl von Wendt).


Das Moratorium zum 6-monatigen Stopp der
KI-Entwicklung des Future of Life Institute.


Der kanadische Informatiker und KI-Forscher Yoshua Bengio.


8 Schreibregeln des US-amerikanischen
Science-Fiction-Schriftstellers Kurt Vonnegut.


Wie ist es, eine Fledermaus zu sein? Vom US-amerikanischen
Philosophen Thomas Nagel.


Der Film Matrix in der International Movie Database
IMDb.


Das Jugendbuch Infernia von Karl Olsberg, in welchem die
Figuren im Videospiel ein Bewusstsein haben.


Der Open-AI Gründer Sam Altman.


Die KI AlphaFold, die die Faltungsstruktur von Proteinen
vorhersagen kann.