Europäische Kommission richtet KI-Amt ein

Führungsrolle der EU im Bereich der sicheren und vertrauenswürdigen Künstlichen Intelligenz stärken
Ein Referat für Regulierung soll die einheitliche Anwendung und Durchsetzung des KI-Gesetzes in der gesamten Union erleichtern

Die Europäische Kommission hat das in der Kommission angesiedelte KI-Amt vorgestellt. Das Amt soll dafür sorgen, dass die KI künftig so entwickelt, eingeführt und genutzt werden kann, dass ihr gesellschaftlicher und wirtschaftlicher Nutzen gesteigert, Innovationen vorangetrieben und gleichzeitig die Risiken verringert werden. Es wird eine Schlüsselrolle bei der Durchführung des KI-Gesetzes spielen, insbesondere in Bezug auf KI-Modelle mit allgemeinem Verwendungszweck. Zudem wird es sich dafür einsetzen, die Forschung und Innovation im Bereich der vertrauenswürdigen KI zu fördern und die EU in der internationalen Debatte führend zu positionieren.

Das KI-Amt besteht aus folgenden Referaten:

>> Referat für Regulierung und Einhaltung, das die Regulierung koordiniert, um – in enger Zusammenarbeit mit den Mitgliedstaaten – die einheitliche Anwendung und Durchsetzung des KI-Gesetzes in der gesamten Union zu erleichtern. Es wird an Untersuchungen mitwirken, gegen mögliche Verstöße vorgehen und etwaige Sanktionen verwalten.

>> Referat für KI-Sicherheit, das sich vor allem mit der Ermittlung systemischer Risiken, die von sehr leistungsfähigen KI-Modellen mit allgemeinem Verwendungszweck ausgehen, möglichen Risikominderungsmaßnahmen sowie Ansätzen für die Bewertung und Erprobung befassen wird.

>> Referat für Exzellenz in KI und Robotik, das die Forschung und Entwicklung unterstützen und finanzieren wird, um ein Ökosystem der Exzellenz zu fördern. Es wird auch die Initiative GenAI4EU koordinieren und die Entwicklung neuer Modelle und ihre Integration in innovative Anwendungen fördern.

>> Referat für KI für das Gemeinwohl, das sich mit der Gestaltung und Umsetzung der internationalen Aufgaben des KI-Amts im Interesse einer KI für das Wohl der Menschen befassen wird, wozu z. B. Anwendungen wie Wettermodellierung, Krebsdiagnose und digitale Zwillinge für den Wiederaufbau von Gebäuden gehören.

>> Referat für KI-Innovation und Politikkoordinierung, das die Umsetzung der KI-Strategie der EU begleitet, Trends und Investitionen beobachtet, auf die Einführung von KI mithilfe eines Netzes europäischer digitaler Innovationszentren hinwirkt, die Einrichtung von KI-Fabriken vorantreibt und das Entstehen eines innovativen Ökosystem durch Unterstützung von Reallaboren und von Erprobungen unter realen Bedingungen fördert.

An der Spitze des Amts wird der Leiter/die Leiterin des KI-Amts stehen. Arbeiten wird es unter der Federführung eines wissenschaftlichen Leiters/einer wissenschaftlichen Leiterin, um wissenschaftliche Exzellenz bei der Bewertung von Modellen und innovativen Ansätzen sicherzustellen, sowie eines Beraters/einer Beraterin für internationale Angelegenheiten, um die Zusage der engen Zusammenarbeit mit internationalen Partnern im Bereich der vertrauenswürdigen KI einzulösen.

Aufbau und Aufgaben des KI-Amts
Um seine Aufgaben wahrzunehmen, wird das KI-Amt mehr als 140 Mitarbeiterinnen und Mitarbeiter beschäftigen. Dazu gehören Technikspezialisten, Verwaltungsassistenten, Juristen, Politikexperten und Ökonomen.

Das KI-Amt wird für eine kohärente Durchführung des KI-Gesetzes sorgen. Dabei wird es die betreffenden Leitungsstellen in den Mitgliedstaaten unterstützen. Das KI-Amt wird auch für die direkte Durchsetzung der für KI-Modelle mit allgemeinem Verwendungszweck geltenden Vorschriften zuständig sein. In Zusammenarbeit mit KI-Entwicklern, Wissenschaftlern und anderen Beteiligten wird es die Ausarbeitung von Verhaltenskodizes auf dem neuesten Stand der Technik koordinieren, KI-Modelle mit allgemeinem Verwendungszweck testen und bewerten, Informationen anfordern und erforderlichenfalls Sanktionen verhängen.

Im Interesse einer fundierten Entscheidungsfindung wird das KI-Amt mit den Mitgliedstaaten und breiteren Expertenkreisen im Rahmen spezieller Foren und Expertengruppen zusammenarbeiten. Auf EU-Ebene wird das KI-Amt eng mit dem Europäischen Ausschuss für künstliche Intelligenz zusammenarbeiten, der sich aus Vertretern der Mitgliedstaaten zusammensetzt. Das Wissenschaftliche Gremium unabhängiger Sachverständiger wird enge Verbindungen zur Wissenschaftsgemeinschaft pflegen. Weitere Sachkenntnis wird in einem Beratungsforum zusammengeführt, das sich aus ausgewogen ausgewählten Interessenträgern aus der Branche, von Start-up-Unternehmen und KMU, aber auch von Hochschulen, Denkfabriken und aus der Zivilgesellschaft, zusammensetzt.

Das KI-Amt wird ein innovatives EU-Ökosystem für vertrauenswürdige KI fördern. Dazu wird es Beratung zu bewährten Verfahren bereitstellen und den Zugang zu KI-Reallaboren, zu Erprobungen unter realen Bedingungen und zu anderen europäischen Unterstützungsstrukturen für die KI-Einführung wie den Test- und Versuchsanlagen für KI, den europäischen digitalen Innovationszentren und den KI-Fabriken ermöglichen. Es wird Forschungs- und Innovationstätigkeiten im Bereich der KI und der Robotik unterstützen und Initiativen wie GenAI4EU umsetzen, um dafür zu sorgen, dass KI-Modelle mit allgemeinem Verwendungszweck, die in Europa entwickelt und mit EU-Supercomputern trainiert werden, fein abgestimmt in neuartige Anwendungen in der gesamten Wirtschaft integriert werden, wodurch auch Investitionen angeregt werden.

Schließlich soll das KI-Amt ein strategisches, kohärentes und wirksames europäisches KI-Konzept auf internationaler Ebene vertreten und so zu einem weltweiten Bezugspunkt werden.

Die oben dargelegten organisatorischen Änderungen sind zum 16. Juni wirksam geworden. Die erste Sitzung des KI-Ausschusses soll bis Ende Juni stattfinden. Das KI-Amt arbeitet derzeit an Leitlinien zur Definition von KI-Systemen und zu den KI-Verboten, die beide innerhalb von sechs Monaten nach dem Inkrafttreten des KI-Gesetzes vorzulegen sind. Außerdem bereitet sich das Amt darauf vor, die Aufstellung von Verhaltenskodizes im Hinblick auf die für KI-Modelle mit allgemeinem Verwendungszweck geltenden Verpflichtungen zu koordinieren, die neun Monate nach dem Inkrafttreten des KI-Gesetzes fällig sind.

Hintergrund
Im April 2021 schlug die Kommission das KI-Gesetz der EU und einen neuen mit den Mitgliedstaaten koordinierten Plan vor, um die Sicherheit und die Grundrechte der Menschen und von Unternehmen zu gewährleisten und gleichzeitig die Investitionen und Innovationen in der gesamten EU zu steigern. Über das KI-Gesetz der EU erzielten die beiden gesetzgebenden Organe im Dezember 2023 eine vorläufige Einigung. Es ist das weltweit erste umfassende Gesetz über künstliche Intelligenz. Das KI-Gesetz dürfte nun Ende Juli 2024 in Kraft treten.

Im Januar 2024 brachte die Kommission ein Maßnahmenpaket zur Unterstützung europäischer Start-up-Unternehmen und KMU bei der Entwicklung einer vertrauenswürdigen künstlichen Intelligenz auf den Weg. Im Zuge dieser Maßnahmen nahm die Kommission auch ihren Beschluss zur Einrichtung des KI-Amts an. (Europäische Kommission: ra)

eingetragen: 11.07.24
Newsletterlauf: 04.09.24

Meldungen: Europäische Kommission