Problemfall Entscheidungsalgorithmen

In Episode 55 des c't-Datenschutz-Podcasts wagen sich Redakteur
Holger Bleich und Verlagsjustiziar Joerg Heidrich an ein großes
Thema: Immer mehr Entscheidungen werden in unserer Gesellschaft
nicht mehr von Menschen, sondern von Algorithmen getroffen. Dabei
geht es um banale Dinge wie den Preis des Joghurts im Supermarkt
genauso wie um Berwerbungsverfahren oder Scorings von Bürgerinnen
und Bürgern für die öffentliche Sicherheit. ADM-Systeme
(Algorithmic Decision Making) haben sich in den Alltag
eingeschlichen, ohne dass sie ethisch und datenschutzrechtlich
ausreichend beachtet werden, so die Ausgangsthese. Rechtsanwalt
Peter Hense hat sich intensiv mit diesen Problematiken beschäftigt
und ordnet als Gast in dieser Episode die Dinge ein: "Vieles von
dem, was uns als KI untergejubelt wird, beruht heruntergebrochen
auf reiner Statistik", erklärt er und kritisiert, dass
Entscheidungen, die auf maschinellem Lernen beruhen, oftmals völlig
verdeckt getroffen werden. Eine benennbare Verantwortung fehlt, es
mangelt an "Accountability" bei vielen KI-Systemen. Dies wird laut
Hense besonders problematisch, wenn Entscheidungen voll
automatisiert, ohne Überwachung und Eingriffsmöglichkeit von
Menschen fallen - Die Algorithmen sind oftmals gut gehütete
Geheimnisse in privatrechtlicher Hand, was zu Blackboxes führt.
Konsens in der Runde ist: Gesetzgeber tun sich schwer, ADM-Systeme
einzuordnen und zu regulieren. Als Beispiel dient der einschlägige
Art. 22 der DSGVO, dessen Regelungsumfang ziemlich unklar ist und
der laut Hense als Konzession an die US-Konzerne für härtere
Vorschriften in anderen Bereichen gesehen werden muss; und noch
dazu unzureichend in die offizielle deutsche Version der DSGVO
übersetzt wurde. Ähnlich verhält es sich mit dem von der
EU-Kommission vorgeschlagenen "AI Act" und dem Digital Services
Act. Hense plädiert dafür, hier unbedingt aktiver und auch
restriktiver zu werden. Viele System agieren intransparent, autonom
und fehlerhaft - die Algorithmen reproduzieren Unzulänglichkeiten,
die ihnen ihre menschliche Ersteller mitgeben.