I hope you are not concerned - ChatGPT und die Emergenz einer Theory Of Mind

Als die Astronauten auf dem Weg zum Jupiter erfahren, dass ihr
Supercomputer HAL 9.000 fatale Fehler machen könnte, sagt er genau
diesen Satz:"I hope you are not concerned about this!" Wer Stanley
Kubricks legendären Film "2001 - A Space Odyssee" kennt, weiß, was
danach passiert: Der überhaupt nicht harmlose sondern in aller
Stille psychopathisch durchgeknallte HAL 9000 versucht die ganze
Besatzung auszulöschen. Dabei spielt ein Detail eine wichtige
Rolle, nämlich dass er die Fähigkeit entwickelt hatte, von den
Lippen abzulesen - etwas, womit niemand gerechnet hatte. "Emergenz"
nennt man dieses in der Wissenschaft wohlbekannte Prinzip, dass
Systeme mit zunehmender Größe und Komplexität Eigenschaften
ausbilden, die man nicht vorhersehen kann, mit denen man einfach
nicht rechnet. Wir meinen: Irgendwie ähnlich verhält es sich
heutzutage mit unseren neuen Gefährten, den generativen Large
Language Models. Was meint wohl ChatGPT, wenn man ihn/sie/es fragt,
ob damit zu rechnen sei, dass er/sie/es spontan bestimmte
Fähigkeiten entwickeln könnte, an die seine/ihre Entwickler nicht
gedacht hätten? Die niemand so geplant habe? Die nicht mehr zu
kontrollieren seien? Ja nun, das könne sehr wohl sein, wird
eingeräumt. Aber man rät zu Sorgfalt und Augenmaß bei der Erprobung
neuer Versionen, dann werde schon nichts passieren. I hope, you are
not concerned ... Gut. Wir geben zu, jetzt haben wir ziemlich dick
aufgetragen. Trotzdem stellen wir in dieser Folge die Frage: Haben
Large Language Models wie ChatGPT die magische Grenze zum "echten"
Denken durchbrochen? Mehr noch: Können Sie uns durchschauen - oder
gar manipulieren? Ist so etwas überhaupt vorstellbar? Um es gleich
zu sagen: Wir kommen zu keinem eindeutigen Ergebnis. Doch die
Tatsache, dass es immer schwieriger wird, das Dialogverhalten von
Large Language Systemen vollständig und sicher als Denk-Attrappen,
als seelenloses Gefasel von Algorithmen zu erklären, ist für sich
betrachtet schon sehr beunruhigend. Wir haben ChatGPT natürlich
auch zu diesem Thema befragt und, was sollen wir sagen: Er/sie/ss
war unserer Meinung ... Hier geht's zu den Shownotes in unserem
Blog Zum Episodenbild: Wir können der Versuchung nicht widerstehen,
die allerklassischste aller Geschichten zum Freisetzen ungeahnter
Kräfte für unser Episodenbild heranzuziehen: die Büchse der
Pandora. Sie brachte das Unglück über die Welt, weil sie der
Versuchung nicht widerstehen konnte, ein Gefäß zu öffnen, in dem
alles Leid und Laster der Menschheit eingeschlossen waren. Ein
Racheakt von Zeus an der Menschheit - dafür, dass Prometheus
(Pandoras Schwager) den Göttern das Feuer gestohlen hatte. Unser
Bild wurde 1871 von Dante Gabriel Rossetti gemalt. Rossetti war
mitnichten ein italienischer Renaissancekünstler, wie der Name
nahelegt, sondern ein britischer Dichter und Maler. Er war die
treibende Kraft der Schule der Präraffaeliten, die sich in ihrer
Arbeit an den großen Malern der Renaissance - namentlich Raffael -
orientierten. Bildquelle
https://commons.wikimedia.org/wiki/File:Dante_Gabriel_Rossetti_-_Pandora.jpg