Nach drei zähen Verhandlungstagen hat sich die EU auf schärfere Regeln für künstliche Intelligenz geeinigt. Damit soll der KI-Technologie Grenzen gesetzt werden. Als besonders riskant wird KI dort eingestuft, wo sie Schadenspotenzial für Gesundheit, Demokratie, Umwelt oder Sicherheit hat. Gestritten haben die EU-Parlamentarier darüber, wie KI bei Gesichtserkennung eingesetzt werden soll und ob man Sprachmodelle wie ChatGPT regulieren sollte.
Gesichtserkennung und ChatGPT – das sind die neuen KI-Regeln der EU
Bestimmte KI-Anwendungen zur biometrischen Gesichtserkennung, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden, werden künftig verboten. Auch ungezieltes Auslesen von Bildern aus dem Internet oder aus Überwachungskameras für Gesichtserkennungsdatenbanken soll nicht erlaubt sein.
Allerdings wird es Ausnahmen für biometrische Gesichtserkennung im öffentlichen Raum in Echtzeit geben: wenn etwa die Gefahr eines Terroranschlags besteht oder bei der gezielten Suche von Opfern von Menschenhandel.
KI im Alltag: Wir zeigen euch 5 Beispiele
Die EU hat auch den Umgang mit den sogenannten Basismodellen der KI geregelt. Das sind beispielsweise leistungsfähige Sprachmodelle, die mit einem breiten Satz an Daten trainiert wurden – wie ChatGPT, Gemini oder Llama 2. Diese Programme dienen als Basis, auf denen Firmen Chatbots für den Kundendienst oder digitale Assistenten für Ärzte entwickeln können.
Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben. Dann müssen Entwickler der KI-Modelle technische Dokumentationen erstellen, die Aufschluss über Trainings- und Testverfahren geben.
Warum braucht es ein Gesetz für künstliche Intelligenz?
KI gilt als Technologie, die in Zukunft praktisch alle Aspekte in der Wirtschaft, im Alltag und auch in der Arbeitswelt betreffen kann. Experten vermuten, dass sich viele Jobs verändern oder auch verschwinden werden. KI gilt auch als Technologie, die Gefahren birgt. So warnte etwa der Chef des ChatGPT-Erfinders OpenAI, Sam Altman, vor Falschinformationen mit Hilfe Künstlicher Intelligenz und sprach sich deshalb für eine Regulierung aus. Fotos oder Videos können durch KI leicht manipuliert werden. Als Problem gilt auch, dass KI teilweise mit verzerrten Datensätzen trainiert wurden und damit Personen diskriminiert werden. Auch der Einsatz in der Kriegsführung wird für möglich gehalten.
SWR3-Report Künstliche Intelligenz: Nutzen und Risiken für uns
- Dauer
SWR3-Reporter Nils Dampz hat sich in Kalifornien umgehört, um herauszufinden, was mit künstlicher Intelligenz heute bereits möglich ist – und wie wichtig der Faktor Mensch heute und in Zukunft sein wird. Mit Abstechern nach Hollywood, in die Musikbranche und ins SWR3-Radiostudio, wo SWR3-Moderator Volker Janitz KI-Tools zum Klonen menschlicher Stimmen im Selbstversuch getestet hat. Wie das klingt, hört ihr in dieser Ausgabe des SWR3-Report.
Reaktionen auf das neue KI-Gesetz
Die EU selbst hat sich nach den erfolgreichen Verhandlungen zu den KI-Regeln gefeiert. „Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt“, schrieb EU-Binnenmarktkommissar Thierry Breton auf X.
EU-Kommissionspräsidentin Ursula von der Leyen begrüßte das Gesetz als „historischen Moment“. Bis das Gesetz vollständig in Kraft trete, würden Unternehmen und Entwickler dabei unterstützt, „sich auf die neuen Vorschriften einzustellen“.
Nachrichten EU einigt sich auf erstes KI-Gesetz weltweit – Einordnung und Reaktionen
- Dauer
Die Europäische Union hat sich auf das weltweit erste Gesetz zur
Regulierung Künstlicher Intelligenz geeinigt. In Zukunft sollen strengere
Regeln gelten und die KI-Systeme in verschiedene Risikogruppen eingeteilt
werden.
Verbraucherschützer kritisieren die Regeln als nicht ausreichend. Virtuelle Assistenten oder KI-gesteuerte Spielzeuge müssten weiter als Hochrisikosysteme eingestuft werden.
Kritik an dem Gesetz kam vom Bundesverband der Deutschen Industrie (BDI). Mit dem erzielten Kompromiss drohe Europa, bei der „für die digitale Transformation zentralen Schlüsseltechnologie Künstliche Intelligenz ins Hintertreffen zu geraten“, erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung.
Zunächst müssen EU-Staaten und Europaparlament dem Vorhaben noch offiziell zustimmen. Das gilt aber als Formsache.
