KI und Haftung: Wer steht ein für die Fehler Künstlicher Intelligenz?

Risiken, die vom KI-Einsatz ausgehen, werden breit diskutiert.
Beispiele reichen von möglichen Fehldiagnosen in der medizinischen
Behandlung über Diskriminierung bei der Jobsuche bis hin zu
Gefahren für demokratische Systeme oder Verletzung der
Menschenwürde. Vor allem existenzielle Bedrohungen, die
insbesondere von generativer KI ausgehen sollen und die ihre
Hersteller selbst nicht müde werden, zu betonen, sorgen für hitzige
Debatten. KI-Systeme entstehen und agieren aber nicht von selbst:
An ihrer Entwicklung, ihrer Verbreitung und ihrem Einsatz sind
zumindest im Moment immer Menschen beteiligt, und Menschen tragen
nach wie vor Verantwortung dafür, wie die Systeme aufgebaut sind,
was sie tun und was mit den Ergebnissen geschieht. Aber haften sie
auch, wenn Fehler passieren? Wer verantwortlich gemacht wird, wenn
durch ein KI-System ein konkreter Schaden entsteht, ist nicht
leicht zu entscheiden und unsere Rechtslage hat auf diese Frage
noch keine klaren Antworten. Das soll sich bald ändern: Die EU ist
gerade dabei, mit dem AI Act eine Produkthaftung für KI zu
etablieren. Was sind Punkte, mit denen sich Anwält:innen und
Gesetzgeber:innen bei Haftungsfragen des KI-Einsatzes
auseinandersetzen müssen? Und wie gut knüpft entstehendes KI-Recht
an unsere bestehende Rechtsauffassung an? Carsten Gerner-Beuerle
ist Professor of Commercial Law am University College London. Der
Rechts- und Wirtschaftswissenschaftler ist Experte für
internationales Gesellschafts-, Privat- und Kapitalmarktrecht und
hat Regulierungsvorhaben der EU Kommission und des EU Parlaments
unterstützt. Im Digitalgespräch schildert er die unklare
Haftungslage, in der KI zum Einsatz kommt und wie sie sich auf die
Praxis auswirkt, erklärt die rechtlichen Hintergründe für diese
komplexe Situation, beschreibt, wie unterschiedliche Rechtssysteme
mit Risiken durch KI-Einsatz umgehen und zeigt die Strategie auf,
die die EU mit dem AI Act verfolgt. Mit den Gastgeberinnen Marlene
Görger und Petra Gehring diskutiert Gerner-Beuerle, worin die
Eigenschaften von KI bestehen, die sie von „gewöhnlichen“ Produkten
unterscheiden, worin typische Risiken beim Einsatz von KI-Systemen
bestehen und wie weit das Konzept der Haftung auch als Instrument
der Regulierung funktionieren könnte. Link zum Originalbeitrag:
https://zevedi.de/digitalgespraech-047-carsten-gerner-beuerle