Künstliche Intelligenz: Der französische Staatsrat äußert sich zur künftigen KI-Verordnung.

ter anderem an, die Befugnisse der Commission Nationale de l’Informatique et des Libertés (CNIL) zu stärken und ihre Rolle auszubauen, um sie zur nationalen Aufsichtsbehörde zu machen, zuständige für die in der künftigen EU-Verordnung vorgesehene Regulierung von KI-Systemen.

KI im Dienste der öffentlichen Verwaltung: Vertrauen schaffen!

In seiner im Auftrag des ehemaligen Premierministers Jean Castex erstellten Studie erkennt der Staatsrat an, dass künstliche Intelligenz zwar immer noch Ängste hervorruft, aber spektakuläre technologische Fortschritte macht, die es ermöglichen, den Menschen bei sehr vielen Aufgaben zu unterstützen. Er stellt insbesondere fest, dass ihr Einsatz zur Unterstützung der Verwaltung die Qualität der öffentlichen Dienstleistungen für die Nutzer konkret verbessern könnte.

Auch wenn KI heute von öffentlichen Akteuren nur in begrenzten Bereichen eingesetzt wird (Verwaltung der Straßenbeleuchtung, Autoverkehr, Verteidigung und Sicherheit, Bekämpfung von Steuerhinterziehung usw.), bekräftigt der Staatsrat dass es keinen Bereich der öffentlichen Verwaltung gebe, in dem die Systeme der künstlichen Intelligenz keine Rolle spielen.

Der Staatsrat plädiert daher für die Umsetzung einer proaktiven Politik zur Einführung künstlicher Intelligenz im Dienste des öffentlichen Interesses und der öffentlichen Leistungsfähigkeit. Zur Durchführung dieser Strategie betont er, wie wichtig es ist, über angemessene personelle und technische Ressourcen zu verfügen. Die Studie empfiehlt auch eine Verstärkung der Mittel für folgende Strukturen: für Etalab, für die Interministeriellen Direktion für Digitales (DINUM), welche für die Koordinierung der Konzeption und Umsetzung der staatlichen Strategie im Bereich der Daten zuständig ist sowie für den nationalen Koordinator für künstliche Intelligenz in Verbindung mit der Agence nationale de la cohésion des territoires (ANCT) anvertraut werden.

Verwaltung der künftigen KI-Verordnung: Eine Aufgabe für die CNIL.

Die Studie des Staatsrats blickt auch auf den künftigen Rechtsrahmen für KI, der derzeit auf europäischer Ebene ausgearbeitet wird. In diesem Zusammenhang betont sie „die sehr starke Haftung zwischen der [künftigen] Regulierung von KI-Systemen und der Regulierung von Daten, insbesondere von personenbezogenen Daten“.

Um die Verknüpfung dieser beiden Regelungen zu gewährleisten, empfiehlt der Staatsrat, dass die CNIL die nationale Aufsichtsbehörde für KI-Systeme im Rahmen der Verordnung wird, und schließt sich damit der Stellungnahme an, die die CNIL und ihre Amtskollegen im Juni 2021 abgegeben haben.

Die öffentliche Institution hebt auch hervor, wie wichtig es ist, dass die künftige Kontrollbehörde als Koordinierungs- und Aufsichtsbehörde fungiert und somit die Vernetzung eines umfangreichen Netzwerks öffentlicher Einrichtungen gewährleistet: bestehende Marktaufsichtsbehörden (ANSM, DGCCRF usw.), Regulierungsbehörden für Netzindustrien (ARCEP, CRE, ART usw.), Regulierungsbehörden mit horizontaler Ausrichtung (ADLC, AMF, ACPR usw.) oder auch sektorspezifische Regulierungsbehörden (ANJ, ARCOM usw.).

Schließlich argumentiert der Staatsrat, dass die CNIL „einen tiefgreifenden Wandel“ vollziehen müsse, um diese ehrgeizige Rolle erfüllen zu können. In der Studie heißt es, dass sie ihre Kapazitäten erweitern müsse. Zu diesem Zweck werden sofortige, weitreichende und entschlossene Investitionen (insbesondere in das Personal) empfohlen, um die Glaubwürdigkeit der Behörden bei der Entwicklung von KI-Systemen zu gewährleisten.

Quelle : Commission Nationale de l’Informatique et des Libertés