Künstliche Intelligenz, News, zAufi

Geteiltes Echo auf KI-Gesetz der EU

Bosch und die Konsortialpartner von "progressivKI" wollen künftig "Künstliche Intelligenzen" einsetzen. um immer komplexere Autoelektronik zu entwerfen. Da KI auch für die Steuerung autonomer und vernetzter Fahrzeuge benötigt wird, kann das in letzter Instanz dazu führen, dass die KI immer neue Tochter-KIs entwirft. Grafik: Bosch

Grafik: Bosch

Wirtschaft hofft auf mehr Rechtssicherheit, stark risikobasierte Sicht auf Künstliche Intelligenz bleibt umstritten

Berlin/Brüssel, 4. Februar 2024. Die Einigung auf ein neues KI-Gesetz (AI Act) der EU, dem nun auch Deutschland zugestimmt hat, ist in Wirtschaft und Politik auf ein geteiltes Echo gestoßen. Tenor: Mit der Einigung ist zumindest mehr Rechtssicherheit in Sicht. Allerdings dürfe Künstliche Intelligenz (KI) nicht nur als Risiko, sondern auch als Chance gesehen werden, an der Deutschland besser mitwirken sollte.

Ampel-Minister: Balance ist gelungen

„Die KI-Verordnung soll dafür sorgen, dass wir in Europa das enorme Potenzial von KI heben und gleichzeitig auch Risiken in den Blick nehmen“, erklärte Bundeswirtschaftsminister Robert Habeck (Grüne). „Mit der KI-Verordnung ist diese Balance gelungen.“ Dies meint auch Justizminister Marco Buschmann (FDP) und ergänzte: „International ist dieser Rechtsrahmen ein Novum – Europa wird damit zum Pionier.“

Bitkom: In gegenwärtiger Form bringt AI Act kaum mehr Rechtssicherheit

„In seiner gegenwärtigen Form wird der AI Act kaum für mehr Rechtssicherheit bei Entwicklung und Einsatz von KI sorgen“, kritisiert hingegen der deutsche Digitalverband „Bitkom“ aus Berlin. „Entscheidend ist, wie die Vorgaben des AI Acts sowohl auf europäischer als auch auf nationaler Ebene ausgelegt und angewendet werden. Hier muss neben einer Risikoeinschätzung immer auch eine Abwägung der Chancen Künstlicher Intelligenz stattfinden. KI muss auch künftig in Deutschland und Europa erfolgreich entwickelt und eingesetzt werden können. Nur wenn das gelingt, kann der AI Act ein Erfolg werden.“

Eco: AI Act konnte Bremsklotz für Europa werden

Aktuell sei noch nicht einmal klar, welche Maßnahmen Unternehmen ergreifen müssen, um die im Gesetzentwurf formulierten Risiken von KI zu minimieren, argumentierte Vorstandsvorsitzender Oliver Süme vom Eco-Verband der Internetwirtschaft aus Berlin. „Hier muss die EU dringend nachbessern und für Klarheit sorgen. Ansonsten wird der AI Act zum Bremsklotz für KI getriebene Innovation in ganz Europa und verzerrt die internationale Wettbewerbsfähigkeit.“

TÜV-Prüfer: Risikobasierte Ansatz fördert Vertrauen

Dagegen begrüßte der TÜV-Verband die nun erfolgte Zustimmung der EU-Mitgliedsstaaten zum Gesetzentwurf, nachdem Deutschland und Frankreich zunächst Vorbehalte geäußert hatten. „Ein Scheitern des AI Acts hätte zur Folge gehabt, dass KI-Systeme auf absehbare Zeit unreguliert – und damit unsicher – geblieben wären“, meint Geschäftsführer Joachim Bühler vom TÜV-Verband in Berlin. Der von der EU gewählte risikobasierte Ansatz fördert Sicherheit und Vertrauen insbesondere in hockriskante KI-Systeme.

KI-Verband: Scheitern des AI Acts könnte „zu größeren Kollateralschäden führen“

„Mit einiger Verwunderung“ hatte zuvor der KI-Bundesverband „die aktuelle Dynamik um die
Zustimmung der Bundesregierung zum AI Act zur Kenntnis genommen“. Es stelle sich jedoch die Frage, „ob ein mögliches Scheitern des AI Act nicht letztlich zu größeren Kollateralschäden führen könnte.“ Die Folgen könnten beispielsweise „monatelanger Unsicherheit bei der Implementierung von KI-Produkten in der konventionellen Wirtschaft“ sein. Zwar wünsche sich die KI-Industrie eine innovationsfreundliche Regulierung. Doch es sei zu „riskant, den Weg der Ablehnung zu gehen“.

Sozialpunkte à la China verboten

Zu den bis zuletzt umstrittenen Punkten hatte unter anderem gehört, ob und welche KI-Anwendungen die EU ganz verbietet und wie stark große KI-Modelle, auf denen zum Beispiel ChatGPT und Dall-E basieren, reguliert werden. Minister Habeck sieht da nun deutsche Positionen berücksichtigt: Der Entwurf stelle beispielsweise klar, „dass es sich bei der KI-Verordnung um eine Produktregulierung handelt, die sich nicht auf Forschungs- und Entwicklungsaktivitäten bezieht.“ Automatische „Sozialpunkte“ wie in China und eine KI-basierte flächendeckende Kameraüberwachung werde verboten. „Social Scoring mithilfe Künstlicher Intelligenz und Emotionserkennung am Arbeitsplatz wird es in Europa nicht geben. Zur biometrischen Fernidentifikation enthält die Verordnung strenge und einschränkende Vorgaben und beugt einer flächendeckenden biometrischen Überwachung vor.“

Strengere Auflagen für große KI-Modelle

Mit Blick auf die „großen“ KI-Modelle gilt: „Besondere Vorschriften wird es zudem für generative KI geben, namentlich sogenannte KI-Modelle mit allgemeinem Verwendungszweck, darunter auch solche, die Inhalte wie Texte und Bilder generieren. Dabei unterliegen besonders wirkmächtige KI-Modelle mit systemischem Risiko strengeren Auflagen.“ Hier verfolgt die EU weiter ihren Zensurkurs im Internet. Dies begrüßt auch der TÜV-Verband ausdrücklich: „Insbesondere leistungsstarke KI-Modelle können für Fake News, Deepfakes oder die Manipulation vulnerabler Gruppen genutzt werden und bergen damit große Risiken für Sicherheit und Demokratie“, argumentierte Geschäftsführer Bühler.

Autor: Heiko Weckbrodt

Quellen: BMWK, TÜV-Verband, Bitkom, Eco

Repro: Oiger, Original: Madeleine Arndt