Heute leite ich eine Schulung in Landsberg am Lech gemäß EU-AI-Act für Kolleginnen und Kollegen der Verwaltung.
„Create a photo of a classroom in which a teacher with short dark grey mottled hair and moustache is teaching a group of young female and male humanoid robots.“
Erstellt hat das Bild die Leonardo-App mit Lucid Realism.
Ich sollte heute mal was zum EU-AI-Act (Verordnung über künstliche Intelligenz) sagen. Man kann über Details dieses Gesetzes sicherlich diskutieren. Aber die EU ist der erste Wirtschaftsraum, der den Versucht wagt, Regeln für eine KI aufzustellen.
Wie komme ich auf den EU-AI-Act? Ganz einfach: Artikel 4 fordert, dass Anwender geschult werden. Das tue ich gerade. In Vorbereitung auf Teil 2 der Weiterbildung fragte ich meine Liebste nach Anwendungen im beruflichen Kontext, die ihr so einfallen. Keine! Aber Strickmuster wären cool! Also habe ich ChatGPT ein Strickmuster erstellen lassen. Die Meisterin der Nadeln war mit geringen Abstrichen begeistert.
Mit leonardo.ai und Phoenix habe ich das heutige Bild erstellt. Mein Prompt war simpel: „Create a photo of a male humanoid robot knitting a pullover.“
Männliche Gesichtszüge und Stricken fügt das Datenmodell nicht so richtig zusammen. Die Trainingsdaten mal wieder, vermute ich. Bei Flux sieht der Roboter männlicher aus, dafür sieht man keine Nadeln im Bild.
In beiden Fällen sind die Westen schon ziemlich der Hammer!
Die EU, das Vereinigte Königreich und die USA haben sich final am 5. September 2024 auf einen rechtlich bindenden Vertrag zur Regulierung von KI geeinigt. Nach dem EU-AI-Act ist das ein weiterer Schritt im Hinblick auf die Beantwortung der Frage: Wie wollen wir mit KI umgehen und welche sinnvollen Grenzen wollen wir setzen?
Alle Aktivitäten im gesamten Lebenszyklus von KI-Systemen müssen mit Menschenrechten, Demokratie und Rechtsstaatlichkeit vereinbar sein. Die Legislativen schaffen einen entsprechenden rechtlichen Rahmen. Dies gilt sowohl für private, als auch für staatliche Bereiche.
Ein KI-System ist ein maschinenbasiertes System, das auf Basis von Eingaben arbeitet. Es gibt Vorhersagen, Empfehlungen oder Entscheidungen, die sowohl die physische oder auch eine virtuelle Umgebung beeinflussen kann.
Als schützenswert gelten die Menschenrechte Betroffener, die Privatsphäre und der Schutz personenbezogener Daten.
KI-Systeme dürfen die Integrität, Unabhängigkeit und Effektivität demokratischer Institutionen und Prozesse nicht untergraben. Auch dazu müssen gesetzliche Rahmenbedingungen geschaffen werden.
Die Entwickler und Betreiber von KI-Systemen müssen die Achtung der Menschenwürde und der individuellen Autonomie, Transparenz und Aufsicht, Rechenschaftspflicht und Verantwortung sowie Gleichheit und Nichtdiskriminierung garantieren.
Der zu schaffende rechtliche Rahmen muss es zulassen, Informationen zu KI-Systemen einzuholen und getroffene Entscheidungen anzufechten.
Die Risiken, die von KI-Systemen ausgehen, müssen identifiziert und bewertet werden. Risiken sind auf dieser Grundlage zu verhindern und zu mindern. Gleichzeitig soll eine sichere Innovation gefördert sichergestellt werden.
Die Legislativen müssen mindestens einen Mechanismus zur Überwachung der Einhaltung der Verpflichtungen dieses Abkommens einrichten. Dieser Mechanismus muss unabhängig und unparteiisch arbeitet. Er muss über die dafür notwendigen Ressourcen verfügen.
Dabei tauschen sich die Vertragspartner regelmäßig zum Stand, zu Ergebnissen und zu getroffenen Maßnahmen aus und fördern einen internationalen Diskurs.
Wir erleben hier gerade einen weiteren Schritt zur Regulierung von KI-Systemen nach dem EU-AI-Act. Das Konzept ist dynamisch, stellt das Individuum mit seinen Rechten ins Zentrum. Großartig!