Stand
AUTOR/IN
Cornelia Stenull
Cornelia Stenull

Die EU hat weltweit die ersten Regeln für den Umgang mit künstlicher Intelligenz aufgestellt. Jetzt werden der KI wie ChatGPT Grenzen gesetzt.

Nach drei zähen Verhandlungstagen hat sich die EU auf schärfere Regeln für künstliche Intelligenz geeinigt. Damit soll der KI-Technologie Grenzen gesetzt werden. Als besonders riskant wird KI dort eingestuft, wo sie Schadenspotenzial für Gesundheit, Demokratie, Umwelt oder Sicherheit hat. Gestritten haben die EU-Parlamentarier darüber, wie KI bei Gesichtserkennung eingesetzt werden soll und ob man Sprachmodelle wie ChatGPT regulieren sollte.

‼️We got it!We have a deal on #AIAct.🤝 As #chatGPT said: sit back, relax and let the #AI Act be the bouncer at the innovation party, letting in only the coolest, safest & most responsible AIs. #ArtificialIntelligenceFinal #trilogueThank you @IoanDragosT @brandobenifei pic.twitter.com/Q4UMbP369O

Gesichtserkennung und ChatGPT – das sind die neuen KI-Regeln der EU

Bestimmte KI-Anwendungen zur biometrischen Gesichtserkennung, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden, werden künftig verboten. Auch ungezieltes Auslesen von Bildern aus dem Internet oder aus Überwachungskameras für Gesichtserkennungsdatenbanken soll nicht erlaubt sein.

Allerdings wird es Ausnahmen für biometrische Gesichtserkennung im öffentlichen Raum in Echtzeit geben: wenn etwa die Gefahr eines Terroranschlags besteht oder bei der gezielten Suche von Opfern von Menschenhandel.

Die EU hat auch den Umgang mit den sogenannten Basismodellen der KI geregelt. Das sind beispielsweise leistungsfähige Sprachmodelle, die mit einem breiten Satz an Daten trainiert wurden – wie ChatGPT, Gemini oder Llama 2. Diese Programme dienen als Basis, auf denen Firmen Chatbots für den Kundendienst oder digitale Assistenten für Ärzte entwickeln können.

Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben. Dann müssen Entwickler der KI-Modelle technische Dokumentationen erstellen, die Aufschluss über Trainings- und Testverfahren geben.

Warum braucht es ein Gesetz für künstliche Intelligenz?

KI gilt als Technologie, die in Zukunft praktisch alle Aspekte in der Wirtschaft, im Alltag und auch in der Arbeitswelt betreffen kann. Experten vermuten, dass sich viele Jobs verändern oder auch verschwinden werden. KI gilt auch als Technologie, die Gefahren birgt. So warnte etwa der Chef des ChatGPT-Erfinders OpenAI, Sam Altman, vor Falschinformationen mit Hilfe Künstlicher Intelligenz und sprach sich deshalb für eine Regulierung aus. Fotos oder Videos können durch KI leicht manipuliert werden. Als Problem gilt auch, dass KI teilweise mit verzerrten Datensätzen trainiert wurden und damit Personen diskriminiert werden. Auch der Einsatz in der Kriegsführung wird für möglich gehalten.

Mensch und künstliche Intelligenz

SWR3-Report Künstliche Intelligenz: Nutzen und Risiken für uns

Dauer

SWR3-Reporter Nils Dampz hat sich in Kalifornien umgehört, um herauszufinden, was mit künstlicher Intelligenz heute bereits möglich ist – und wie wichtig der Faktor Mensch heute und in Zukunft sein wird. Mit Abstechern nach Hollywood, in die Musikbranche und ins SWR3-Radiostudio, wo SWR3-Moderator Volker Janitz KI-Tools zum Klonen menschlicher Stimmen im Selbstversuch getestet hat. Wie das klingt, hört ihr in dieser Ausgabe des SWR3-Report.

Reaktionen auf das neue KI-Gesetz

Die EU selbst hat sich nach den erfolgreichen Verhandlungen zu den KI-Regeln gefeiert. „Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt“, schrieb EU-Binnenmarktkommissar Thierry Breton auf X.

Historic!The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race. The best is yet to come! 👍 pic.twitter.com/W9rths31MU

EU-Kommissionspräsidentin Ursula von der Leyen begrüßte das Gesetz als „historischen Moment“. Bis das Gesetz vollständig in Kraft trete, würden Unternehmen und Entwickler dabei unterstützt, „sich auf die neuen Vorschriften einzustellen“.

Logo SWR3

Nachrichten EU einigt sich auf erstes KI-Gesetz weltweit – Einordnung und Reaktionen

Dauer

Die Europäische Union hat sich auf das weltweit erste Gesetz zur
Regulierung Künstlicher Intelligenz geeinigt. In Zukunft sollen strengere
Regeln gelten und die KI-Systeme in verschiedene Risikogruppen eingeteilt
werden.

Verbraucherschützer kritisieren die Regeln als nicht ausreichend. Virtuelle Assistenten oder KI-gesteuerte Spielzeuge müssten weiter als Hochrisikosysteme eingestuft werden.

Kritik an dem Gesetz kam vom Bundesverband der Deutschen Industrie (BDI). Mit dem erzielten Kompromiss drohe Europa, bei der „für die digitale Transformation zentralen Schlüsseltechnologie Künstliche Intelligenz ins Hintertreffen zu geraten“, erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung.

Zunächst müssen EU-Staaten und Europaparlament dem Vorhaben noch offiziell zustimmen. Das gilt aber als Formsache.

Projekt muss pausieren Deine Fotos als Training für die KI von Meta? Erst einmal nicht!

Meta wollte seine KI mit Fotos trainieren – und zwar auch mit deinen! Wer seine Daten schützen wollte, hätte den Plänen widersprechen müssen. Aber: Jetzt wird das Projekt pausiert.

Unsere Quellen

Transparenz ist uns wichtig! Hier sagen wir dir, woher wir unsere Infos haben!

Die dpa ist eine Nachrichtenagentur. Dort arbeiten Journalisten, Kameraleute, Fotografen. Sie sind in Deutschland und weltweit bei wichtigen Ereignissen dabei. Informationen, Bilder und Videos stellen sie anderen zur Verfügung. Das hat den Vorteil, dass Zeitungen, Sender und Online-Portale über Themen berichten können, bei denen sie keine eigenen Leute vor Ort hatten. Weitere Nachrichtenagenturen, mit denen wir arbeiten, sind zum Beispiel Reuters, AFP, AP und SID.

Die AFP (Agence France-Presse) ist eine Nachrichtenagentur. Dort arbeiten Journalisten, Kameraleute, Fotografen. Sie sind in Deutschland und weltweit bei wichtigen Ereignissen dabei. Informationen, Bilder und Videos stellen sie anderen zur Verfügung. Das hat den Vorteil, dass Zeitungen, Sender und Online-Portale über Themen berichten können, bei denen sie keine eigenen Leute vor Ort hatten. Weitere Nachrichtenagenturen, mit denen wir arbeiten, sind zum Beispiel dpa, Reuters, AP und SID.

X ist ein soziales Netzwerk aus den USA und wird häufig von Politikern oder Journalisten genutzt. Bis zu seiner Umbenennung hieß das Netzwerk Twitter. Auch Unternehmen und Vereine sind auf X aktiv. Sie schreiben Beiträge (früher: Tweets) mit wichtigen Infos über sich selbst. Ein solcher Beitrag kann dadurch zu einer Nachrichtenquelle für uns werden. Wir prüfen natürlich, ob das Profil und der Beitrag echt sind. Seit Elon Musk das soziale Netzwerk gekauft hat, ist das allerdings schwieriger geworden. Deshalb sind wir sehr vorsichtig mit Informationen, die ausschließlich über X verbreitet werden.

Meistgelesen

  1. Am Wochenende noch nichts vor? 7 Insider-Tipps für Ausflüge in SWR3Land!

    Schon alles gesehen? Ganz bestimmt nicht! Hier kommen sieben Ausflugstipps, die einen Besuch wert sind. Außerdem sammeln wir eure Lieblingsplätze! Einfach im Artikel kommentieren.

  2. Stiftung Warentest Kein Bock auf Sonnenbrand? Diese Sonnencremes schützen dich am besten!

    Stiftung Warentest mit Sonnencreme zeigt, welche Produkte am besten vor Sonne & UV-Strahlung schützen. Der Preis ist nicht entscheidend. Hier die aktuellen Testergebnisse ansehen!

  3. Nach dem Rücktritt der RLP-Ministerpräsidentin Malu Dreyer: vom größten Tag bis zur dunkelsten Stunde

    Die Ministerpräsidentin von Rheinland-Pfalz, Malu Dreyer, hat ihren Rückzug angekündigt – wir zeigen die wichtigsten Stationen eines Politikerinnenlebens in Bildern.

  4. Hat er wirklich im Stadion übernachtet? Nach ein paar Bieren eingeschlafen: Britischer EM-Fan besteht auf seiner Version

    Auf Tiktok geht das Video viral: Ein Fußball-Fan zeigt, wie er nachts im Stadion aufwacht. Ist das echt oder fake? Jetzt hat der Mann nochmal versichert, dass er die Wahrheit gesagt hat.

  5. Freiburg

    Von Alle Farben, YouNotUs bis Lari Luke Wir laden euch ein! Gewinnt Tickets fürs Sea You Festival in Freiburg!

    Es ist eines der schönsten Festivals Deutschlands: das Sea You am Tunisee bei Freiburg. Erfahrt, welche Acts dieses Jahr dabei sind und sichert euch eure Tickets für 2024!