Von Dr. Heinz-Hermann Peitz
Die Macht der Künstlichen Intelligenz ist erwünscht und gefürchtet zugleich. Nun hat das EU-Parlament einen weltweit einzigartigen Versuch gestartet, diese Technologie zu regulieren. „Das KI-Gesetz ist der allererste Rechtsrahmen, der sich mit den Risiken der KI befasst und Europa in die Lage versetzt, weltweit eine führende Rolle zu spielen”, so die Europäische Kommission auf der entsprechenden Website über die “Gestaltung der digitalen Zukunft Europas”. In der Reihe „Nachgefragt” diskutierten wir am 13. Juni 2024 mit der Informatikerin Doris Aschenbrenner Inhalte und Auswirkungen des AI-Acts.
Unter diesem Link - er führt Sie zu YouTube - finden Sie die Aufzeichnung des Abends.
Und hier eine kurze tabellarische, von KI erstellte Zusammenfassung:
- Die Definition von KI und die Einteilung in Risikokategorien war eine zentrale und schwierige Aufgabe für den AI-Act der EU Es ging darum, klare Regeln dafür aufzustellen, welche KI-Anwendungen erlaubt, eingeschränkt oder verboten sind.
- Unterschiedliche Akteure wie die EU, USA, China und private Unternehmen haben teils sehr unterschiedliche Interessen bei der KI-Regulierung verfolgt.
- Der Fokus lag darauf, dass der Mensch die Kontrolle über KI-Systeme behalten soll („menschliche Letztentscheidung”). Dabei sind organisatorische Faktoren wie Arbeitsabläufe und Regeln in Unternehmen/Institutionen entscheidend.
- Methoden wie partizipatives Design und „User-Centered Design” sollen helfen, KI-Systeme nutzerfreundlich und kontrollierbar zu gestalten.
- Insgesamt ist der AI-Act sehr umfangreich und wird von verschiedenen Seiten teilweise als zu streng, teilweise als zu lasch kritisiert.
Die Referentin des Abends:
Prof. Dr. Doris Aschenbrenner hat Informatik (Diplom) studiert und zu Fernwartung von Industrierobotern promoviert. Seit 2021 ist sie W3-Professorin für „Digitale Methoden in der Produktion“ der Hochschule Aalen. Sie ist Mitgründerin des Startups „Awesome Technologies“, welches in den Bereichen Augmented, Virtual und Mixed Reality, Industrie 4.0, Smart Home sowie Telemedizin tätig ist. Inzwischen leitet Aschenbrenner die Forschungsgruppe „Human in Command“ in Aalen, darin das vom Bundesministerium für Arbeit und Soziales (BMAS) angestoßene Projekt „KI-Cockpit“, dem es um menschliche Kontrolle der KI geht.
Leseempfehlungen:
Michael Brendel: ChatGPT, Generative KI und wir – Kreative Künstliche Intelligenz verantwortungsvoll nutzen. Edition Wortverein, 2024.
