Bridge Over Troubled Water – AI-Act und KI-Governance

Am 28.11.2024 fand der 2. HÄRTING KI-Tag statt. Ein buntes Programm
mit Praxisberichten zum täglichen KI-Einsatz in Unternehmen und
Vorträgen zu den rechtlichen Aspekten. Daraus haben wir zwei
Podcastfolgen gemacht. In (Sonder-) Folge 61 geht es um zunächst um
den Status Quo der KI-Entwicklung und die Frage, ob KI wirklich
alle Probleme löst. Danach ist der Schwerpunkt die neue
KI-Verordnung und unterschiedliche Ansätze von KI-Governance. Wir
sprechen mit Dr. Maria Börner (Westernacher Solutions), Vitorio
Dimov (HÄRTING), Rebekka Weiß (Microsoft), Fabio Vigliar (Merantix
Momentum) und - quasi ein Selbstgespräch - mit Marlene Schreiber
(HÄRTING). Den Anfang macht Dr. Maria Börner, die Leiterin des AI
Competence Center bei Westernacher Solutions ist. Sie gab einen
Überblick darüber, was alles mit KI geht und warf auch die
kritische Frage auf, ob es wirklich immer KI sein muss, die alle
Unternehmensprobleme löst. Häufig sind es auch kleinere
Anwendungen, die mit deutlich weniger Ressourcen auskommen und
effizientere Lösungen bieten. Vitorio Dimov ist Associate bei
HÄRTING und unser AI Officer. Er gab einen Einblick in den AI Act
und die aktuellen rechtlichen Fragen, die sich in der Anwendung
stellen. Gesprochen hat er über den Unterschied zwischen KI-Modell
und KI-System und auch die Definition, die die KI-Verordnung für
KI-Systeme vorsieht. Anschließend unterschied er verbotene und
hochriskante KI-Systeme von allen anderen Systemen und stellte die
Unterschiede und Rechtsfolgen dar. Schließlich sprach er über
typische Hochrisikosysteme in Unternehmen. Rebekka Weiß ist Senior
Managerin Government Affairs bei Microsoft Deutschland und
verantwortet dort unter anderen den Bereich künstliche Intelligenz.
Sie sprach über KI-Governance in Unternehmen und zwar sowohl aus
Sicht eines internationalen Großkonzerns (also
KI-Governance-Strukturen bei Microsoft) und die Providersicht (also
vor allem Transparenz gegenüber unternehmerischen Nutzern von
Microsofts KI-Produkten). Rebekka hat konkret berichtet, welche
Bausteine Microsoft zur Umsetzung der KI-Prinzipien einsetzt und
was das Office of Responsible AI tut. Merantix Momentum berät
Unternehmen bei der Einführung und Integration von KI-Lösungen.
Fabio Vigliar leitet deren AI Strategy Team und hat in seinem Talk
über die Verbindung von KI-Integration und KI-Governance
gesprochen. Konkret hat er sein schlankes Modell eines
KI-Governance-Projekts gesprochen. Fabio hat auch hervorgehoben,
dass bestehende Governance Strukturen genutzt werden können und das
Rad nicht neu erfunden werden muss. Schließlich berichtete Marlene
Schreiber aus unserer Praxis größerer und kleinerer
AI-Governance-Projekte und darüber wie wir diese gemeinsam mit den
Mandanten normalerweise angehen. Dabei sprach sie auch über
KI-Kompetenz und die Anforderungen aus Art. 4 KI-VO und die Frage,
wo KI-Kompetenz in Unternehmen am sinnvollsten angedockt sein
sollte.