"What did Ilya see?", Ray Kurzweil und die Künstliche Superintelligenz (Teil 1)

Der Weg nach KAI – Episode 19: "What did Ilya see?", Ray Kurzweil
und die Künstliche Superintelligenz (Teil 1)

In dieser Folge geht es um die Gründung des neuen Unternehmens
"Safe Superintelligence Inc." (SSI) durch den renommierten
KI-Forscher Ilya Sutskever. 
Sutskever war bis vor kurzem Chief Scientist bei OpenAI und
maßgeblich an der Entwicklung von Technologien beteiligt, die
hinter Systemen wie ChatGPT stehen. Im November 2023 war
Sutskever an der kurzfristigen Entlassung von OpenAI-CEO Sam
Altman beteiligt. Das daraufhin entstandene Meme "What did Ilya
see?" ist bis heute Ausdruck der Spekulationen, dass er
möglicherweise etwas Beunruhigendes bei OpenAI gesehen haben
könnte. Nur einen Monat nach seinem Ausscheiden im Mai 2024
konzentriert er sich nun auf die Entwicklung einer sicheren
Superintelligenz.
Im weiteren Verlauf vergleichen wir die Konzepte der Künstlichen
Allgemeinen Intelligenz (KAI) und der Künstlichen
Superintelligenz (ASI). Eine ASI würde menschliche Fähigkeiten
weit übertreffen, was ethische und sicherheitsrelevante Bedenken
aufwirft und besonders das Kontrollproblem ("Alignment")
adressiert.
Die Begriffe KAI/AGI und ASI haben eine lange Geschichte, geprägt
durch Persönlichkeiten wie Alan Turing, John McCarthy, Irving
John Good und Nick Bostrom. Wir vertiefen die
Entstehungsgeschichte und bereiten den Weg für die erstaunlichen
Erfindungen eines Ray Kurzweil, dessen technologischen
Vorhersagen bis heute eine omnipräsente Position in der Welt der
KI spielen.