Stand
AUTOR/IN
Cornelia Stenull
Cornelia Stenull (Foto: SWR3)

Die EU hat weltweit die ersten Regeln für den Umgang mit künstlicher Intelligenz aufgestellt. Jetzt werden der KI wie ChatGPT Grenzen gesetzt.

Nach drei zähen Verhandlungstagen hat sich die EU auf schärfere Regeln für künstliche Intelligenz geeinigt. Damit soll der KI-Technologie Grenzen gesetzt werden. Als besonders riskant wird KI dort eingestuft, wo sie Schadenspotenzial für Gesundheit, Demokratie, Umwelt oder Sicherheit hat. Gestritten haben die EU-Parlamentarier darüber, wie KI bei Gesichtserkennung eingesetzt werden soll und ob man Sprachmodelle wie ChatGPT regulieren sollte.

‼️We got it!We have a deal on #AIAct.🤝 As #chatGPT said: sit back, relax and let the #AI Act be the bouncer at the innovation party, letting in only the coolest, safest & most responsible AIs. #ArtificialIntelligenceFinal #trilogueThank you @IoanDragosT @brandobenifei pic.twitter.com/Q4UMbP369O

Gesichtserkennung und ChatGPT – das sind die neuen KI-Regeln der EU

Bestimmte KI-Anwendungen zur biometrischen Gesichtserkennung, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden, werden künftig verboten. Auch ungezieltes Auslesen von Bildern aus dem Internet oder aus Überwachungskameras für Gesichtserkennungsdatenbanken soll nicht erlaubt sein.

Allerdings wird es Ausnahmen für biometrische Gesichtserkennung im öffentlichen Raum in Echtzeit geben: wenn etwa die Gefahr eines Terroranschlags besteht oder bei der gezielten Suche von Opfern von Menschenhandel.

Die EU hat auch den Umgang mit den sogenannten Basismodellen der KI geregelt. Das sind beispielsweise leistungsfähige Sprachmodelle, die mit einem breiten Satz an Daten trainiert wurden – wie ChatGPT, Gemini oder Llama 2. Diese Programme dienen als Basis, auf denen Firmen Chatbots für den Kundendienst oder digitale Assistenten für Ärzte entwickeln können.

Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben. Dann müssen Entwickler der KI-Modelle technische Dokumentationen erstellen, die Aufschluss über Trainings- und Testverfahren geben.

Warum braucht es ein Gesetz für künstliche Intelligenz?

KI gilt als Technologie, die in Zukunft praktisch alle Aspekte in der Wirtschaft, im Alltag und auch in der Arbeitswelt betreffen kann. Experten vermuten, dass sich viele Jobs verändern oder auch verschwinden werden. KI gilt auch als Technologie, die Gefahren birgt. So warnte etwa der Chef des ChatGPT-Erfinders OpenAI, Sam Altman, vor Falschinformationen mit Hilfe Künstlicher Intelligenz und sprach sich deshalb für eine Regulierung aus. Fotos oder Videos können durch KI leicht manipuliert werden. Als Problem gilt auch, dass KI teilweise mit verzerrten Datensätzen trainiert wurden und damit Personen diskriminiert werden. Auch der Einsatz in der Kriegsführung wird für möglich gehalten.

Mensch und künstliche Intelligenz (Foto: SWR)

SWR3-Report Künstliche Intelligenz: Nutzen und Risiken für uns

Dauer

SWR3-Reporter Nils Dampz hat sich in Kalifornien umgehört, um herauszufinden, was mit künstlicher Intelligenz heute bereits möglich ist – und wie wichtig der Faktor Mensch heute und in Zukunft sein wird. Mit Abstechern nach Hollywood, in die Musikbranche und ins SWR3-Radiostudio, wo SWR3-Moderator Volker Janitz KI-Tools zum Klonen menschlicher Stimmen im Selbstversuch getestet hat. Wie das klingt, hört ihr in dieser Ausgabe des SWR3-Report.

Reaktionen auf das neue KI-Gesetz

Die EU selbst hat sich nach den erfolgreichen Verhandlungen zu den KI-Regeln gefeiert. „Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt“, schrieb EU-Binnenmarktkommissar Thierry Breton auf X.

Historic!The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race. The best is yet to come! 👍 pic.twitter.com/W9rths31MU

EU-Kommissionspräsidentin Ursula von der Leyen begrüßte das Gesetz als „historischen Moment“. Bis das Gesetz vollständig in Kraft trete, würden Unternehmen und Entwickler dabei unterstützt, „sich auf die neuen Vorschriften einzustellen“.

Logo SWR3 (Foto: SWR, SWR)

Nachrichten EU einigt sich auf erstes KI-Gesetz weltweit – Einordnung und Reaktionen

Dauer

Die Europäische Union hat sich auf das weltweit erste Gesetz zur
Regulierung Künstlicher Intelligenz geeinigt. In Zukunft sollen strengere
Regeln gelten und die KI-Systeme in verschiedene Risikogruppen eingeteilt
werden.

Verbraucherschützer kritisieren die Regeln als nicht ausreichend. Virtuelle Assistenten oder KI-gesteuerte Spielzeuge müssten weiter als Hochrisikosysteme eingestuft werden.

Kritik an dem Gesetz kam vom Bundesverband der Deutschen Industrie (BDI). Mit dem erzielten Kompromiss drohe Europa, bei der „für die digitale Transformation zentralen Schlüsseltechnologie Künstliche Intelligenz ins Hintertreffen zu geraten“, erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung.

Zunächst müssen EU-Staaten und Europaparlament dem Vorhaben noch offiziell zustimmen. Das gilt aber als Formsache.

Unsere Quellen

Transparenz ist uns wichtig! Hier sagen wir dir, woher wir unsere Infos haben!

Die dpa ist eine Nachrichtenagentur. Dort arbeiten Journalisten, Kameraleute, Fotografen. Sie sind in Deutschland und weltweit bei wichtigen Ereignissen dabei. Informationen, Bilder und Videos stellen sie anderen zur Verfügung. Das hat den Vorteil, dass Zeitungen, Sender und Online-Portale über Themen berichten können, bei denen sie keine eigenen Leute vor Ort hatten. Weitere Nachrichtenagenturen, mit denen wir arbeiten, sind zum Beispiel Reuters, AFP, AP und SID.

Die AFP (Agence France-Presse) ist eine Nachrichtenagentur. Dort arbeiten Journalisten, Kameraleute, Fotografen. Sie sind in Deutschland und weltweit bei wichtigen Ereignissen dabei. Informationen, Bilder und Videos stellen sie anderen zur Verfügung. Das hat den Vorteil, dass Zeitungen, Sender und Online-Portale über Themen berichten können, bei denen sie keine eigenen Leute vor Ort hatten. Weitere Nachrichtenagenturen, mit denen wir arbeiten, sind zum Beispiel dpa, Reuters, AP und SID.

X ist ein soziales Netzwerk aus den USA und wird häufig von Politikern oder Journalisten genutzt. Bis zu seiner Umbenennung hieß das Netzwerk Twitter. Auch Unternehmen und Vereine sind auf X aktiv. Sie schreiben Beiträge (früher: Tweets) mit wichtigen Infos über sich selbst. Ein solcher Beitrag kann dadurch zu einer Nachrichtenquelle für uns werden. Wir prüfen natürlich, ob das Profil und der Beitrag echt sind. Seit Elon Musk das soziale Netzwerk gekauft hat, ist das allerdings schwieriger geworden. Deshalb sind wir sehr vorsichtig mit Informationen, die ausschließlich über X verbreitet werden.

Meistgelesen

  1. Wird Essen gehen jetzt teurer? Mehrwertsteuer-Erhöhung: Wie geht es den Gastronomen damit?

    Nach vielen Diskussionen wurde die Mehrwertsteuer in der Gastronomie zum 1. Januar 2024 wieder auf 19 Prozent angehoben. Wie geht es den Gastronomen damit? Bleiben die Kunden aus?

  2. Kiel

    Tatort-Kritik aus Kiel: „Borowski und der Wiedergänger“ Check hier, ob der Tatort am Sonntag was für dich ist!

    Kommissar Borowski und seine junge Kollegin ermitteln bei einer schwerreichen Unternehmer-Familie, weil der Ehemann der Firmenchefin verschwunden ist.