Im März hat die Europäische Union das weltweit erste Gesetz zur Regulierung der Entwicklung und Nutzung von künstlicher Intelligenz (KI) verabschiedet. Eine Reihe ähnlicher Initiativen wird in anderen Ländern diskutiert, und auch Russland arbeitet an der Einführung von KI-Gesetzen. Juristen bewerten das europäische Gesetz als sehr detailliert, aber unklar, glauben aber gleichzeitig, dass es nur eine Frage der Zeit ist, bis in Russland ein KI-Gesetz verabschiedet wird. Marktteilnehmer sind der Ansicht, dass viele Fragen im Zusammenhang mit KI ethischer Natur sind und von den Unternehmen selbst gelöst werden können, während die Regulierung auf realen Risiken und nicht auf Phobien basieren sollte.
Im März stimmte das Europäische Parlament mehrheitlich für das Gesetz über künstliche Intelligenz, auf das sich die Vertreter der 27 EU-Mitgliedstaaten im Dezember 2023 geeinigt hatten. 523 Abgeordnete stimmten dafür, 46 dagegen, 49 enthielten sich. Damit ist das weltweit erste Gesetz zur Regulierung von KI offiziell verabschiedet. Nach den EU-Verfahren kann es frühestens im kommenden Jahr in Kraft treten.
Das Gesetz teilt alle KI-basierten Systeme in Risikostufen ein – von gering bis inakzeptabel. Es verbietet den Einsatz von Gesichtserkennungssystemen und anderen biometrischen Echtzeit-Fernerkennungslösungen an öffentlichen Orten sowie von Systemen zur Emotionserkennung. Der Polizei ist es untersagt, prädiktive Analysesysteme zur Verhinderung von Straftaten einzusetzen.
Unter anderem sieht das Gesetz Einschränkungen für den Einsatz von generativer KI (wie dem neuronalen Netzwerk ChatGPT) und „KI-basierten Hochrisikosystemen“ vor, zu denen unbemannte Fahrzeuge und medizinische Geräte zählen.
„Sobald das Gesetz in Kraft tritt, wird es höchstwahrscheinlich zu einem Vorbild für viele andere Jurisdiktionen werden, die es als Grundlage für die Schaffung ihrer eigenen Regeln nutzen könnten“, sagt Spartak Chulchatschijew, leitender Anwalt im Bereich geistiges Eigentum bei der Anwaltskanzlei EBR.
Das Gesetz zur Regulierung von KI in der EU sei rechtzeitig verabschiedet worden, da ohne ein solches Gesetz die weitere technologische Entwicklung entweder zum Stillstand kommen könnte oder die Gefahr von Menschenrechtsverletzungen bestehe, sagt Wladislav Jeltowsky, Leiter der Abteilung für digitales Recht und geistiges Eigentum bei Seamless Legal. „Dieses Gesetz enthält die vielleicht detaillierteste Regulierung von KI, basierend auf einem risikobasierten Ansatz und unabhängig davon, wie KI eingesetzt wird“, sagte er.
Das EU-Gesetz sei ein Durchbruch in der KI-Regulierung, sagte Anna Botwinkina, Anwältin bei Digital & Analogue Partners, aber einige Experten seien der Meinung, dass es den Anforderungen der Menschenrechte nicht vollständig gerecht werde. „Zum Beispiel verbietet das Gesetz nicht vollständig den Einsatz von Technologien zur Erkennung von Emotionen und zur biometrischen Fernidentifizierung in Echtzeit an öffentlichen Orten“, so die Anwältin.
Auch Andrei Nesnamow, Generaldirektor des Zentrums für menschenzentrierte KI der Sberbank, weist auf die Zweideutigkeit des Gesetzes hin. „Ideen für ein einheitliches, horizontales KI-Gesetz gibt es nur in wenigen Ländern, und sie werden von der Technologie-Gemeinschaft heftig kritisiert. Insbesondere EU-Unternehmen haben sich letzten Sommer gegen das KI-Gesetz ausgesprochen. Eine ähnliche Situation gab es in Kanada während der Diskussionen über ein ähnliches Gesetz“, sagte der Sber-Vertreter.
Boris Jedidin, stellvertretender Vorsitzender der Kommission für rechtliche Unterstützung der digitalen Wirtschaft der Moskauer Niederlassung der Russischen Juristenvereinigung, ist der Ansicht, dass die Gesetzgebungspraxis der Europäischen Union die Entwicklung neuer Technologien generell stark einschränke. „Infolgedessen hat Europa nie seine eigenen wettbewerbsfähigen Suchmaschinen, audiovisuellen Dienste und Messenger geschaffen. Der Gesetzesentwurf des Europäischen Parlaments ist sicherlich interessant, aber es ist wichtig, die Entwicklung der KI zu regulieren, Regeln für ihre Nutzung aufzustellen und dabei den Grad der potenziellen Gefahr zu berücksichtigen. Einige Technologien sollten nur unter der Kontrolle der Öffentlichkeit oder des Staates entwickelt werden – in diesem Bereich könnten einige Elemente der Initiative von den russischen Gesetzgebern akzeptiert werden“, meint der Experte.
Im vergangenen Oktober unterzeichnete US-Präsident Joe Biden ein Dekret, das in Bezug auf die Transparenzanforderungen für Entwickler von KI-Systemen dem europäischen Gesetz ähnelt. US-Unternehmen müssen der Regierung nun Daten über die Ergebnisse von Sicherheitstests und andere wichtige Informationen zur Verfügung stellen, bevor die Entwicklung auf den Markt kommt. Das National Institute of Standards and Technology wurde beauftragt, entsprechende Kriterien zu entwickeln, und das US-Handelsministerium wurde beauftragt, Leitlinien für die Kennzeichnung von KI-generierten Inhalten zu erarbeiten. Besonderes Augenmerk wurde auf die Verbesserung der Sicherheit personenbezogener Daten gelegt.
China hat bereits im Sommer vorläufige Maßnahmen ergriffen, um KI-Entwickler für alle generierten Inhalte haftbar zu machen.
Die Regeln führten ein Verbot von Inhalten ein, die sozialistische Werte untergraben oder zum Umsturz des Staatssystems aufrufen. Der Entwickler ist für die persönlichen Daten der Nutzer und für die Einhaltung der Rechte an geistigem Eigentum verantwortlich. Die Regeln legen auch fest, dass verhindert werden muss, dass Kinder und Jugendliche von der Nutzung generativer KI abhängig werden.
In Russland gibt es noch keinen systematischen Rechtsrahmen für die Regulierung von KI. Seit letztem Jahr arbeitet „Einiges Russland“ an einem Gesetzesentwurf, der die Verantwortung der Entwickler definieren und den Einsatz von KI zu betrügerischen Zwecken verhindern soll. „Gemeinsam mit den Ministerien planen wir, die Veränderungen auf dem Arbeitsmarkt im Zusammenhang mit der Verbreitung von KI-Lösungen zu bewerten. Heute versuchen Technologien, die Menschen von unnötiger körperlicher Arbeit befreien sollten, stattdessen die Lösung kreativer Aufgaben zu übernehmen“, kommentierte Anton Gorelkin, stellvertretender Vorsitzender des Staatsduma-Ausschusses für Informationspolitik, auf dem Telegram-Kanal der Partei Einiges Russland. Von einem Verbot neuronaler Netze ist dem Bericht zufolge nicht die Rede.
Im Dezember vergangenen Jahres hatte die Regierung der Staatsduma einen Gesetzentwurf vorgelegt, der KI-Entwickler, die in einem experimentellen Rechtssystem arbeiten, verpflichtet, sich gegen mögliche Schäden an Leben, Gesundheit oder Eigentum bei der Nutzung der Technologie zu versichern. Eine wichtige Neuerung dieser Initiative ist die vorgeschlagene Verkürzung des Zeitrahmens für die Prüfung von Anträgen auf Teilnahme an der EPR. Es ist noch unklar, welchen Weg die russische Gesetzgebung genau einschlagen wird.
Die Ausarbeitung des Gesetzesentwurfs und die Koordination mit den interessierten Akteuren – Regierungsbehörden, Entwicklungsunternehmen – kann viel Zeit in Anspruch nehmen, sagt Boris Jedidin: „Zum Beispiel dauerte es mehr als zwei Jahre, bis eine Initiative zur Regulierung einer verwandten Technologie – Empfehlungsdienste ¬ verabschiedet wurde. Die Diskussion über die Regulierung von Big Data dauerte mehr als fünf Jahre. Das liegt vor allem daran, dass man einen Mittelweg finden musste, um die Rechte und Interessen des Staates und der Nutzer zu schützen, ohne die technologische Entwicklung zu behindern und die Entstehung von Innovationen einzuschränken“, so der Experte.
Dmitry Machlin, Partner und Entwicklungsleiter bei HRlink, ist zuversichtlich, dass das Gesetz in Russland in den nächsten eineinhalb bis zwei Jahren in Kraft treten wird. „Wichtig ist, dass es den Bedürfnissen und dem Entwicklungsstand des Marktes entspricht“, betont er und fügt hinzu, dass sich die Gesetzgeber wahrscheinlich an den Erfahrungen der Europäischen Union und Chinas orientieren werden. Die Initiative kommt genau zum richtigen Zeitpunkt“, sagt Machlin, „Künstliche Intelligenz beginnt sich von einer ausgereiften Innovation zu einer nachhaltigen Technologie zu entwickeln, die von Massenkonsumenten genutzt wird. Wenn man jetzt beginnt, den Markt zu regulieren, kann man viele Probleme in der Zukunft vermeiden.
Die Pressestelle von Yandex weist darauf hin, dass es bei der Regulierung von KI wichtig sei, „der Realität nicht vorzugreifen“ und auf reale Risiken zu reagieren, aber nicht auf Phobien, die auf der Praxis der Technologieanwendung beruhen, die sich erst allmählich aufbaut. „Die wichtigsten Fragen, die sich heute im Zusammenhang mit der KI stellen, betreffen die Ethik und den verantwortungsvollen Umgang mit der Technologie, sowohl bei den Entwicklern als auch bei den Nutzern. Die Unternehmen sind sich dessen bewusst und schlagen Maßnahmen zur Selbstregulierung vor: die Einführung von Kodizes, Erklärungen und Industriestandards. Gleichzeitig entwickelt sich die Technologie in einem günstigen Umfeld weiter und die Nutzer erhalten die nützlichsten Dienste“, so die Unternehmen.
„Russland hat mit dem nationalen KI-Ethikkodex bereits einen einzigartigen und praktikablen Mechanismus für die Interaktion zwischen Staat und Markt geschaffen. In diesem Rahmen werden Ansätze für eine zukünftige Regulierung erprobt. Ein gutes Beispiel ist die Zusammenarbeit bei der Regulierung von Empfehlungsdiensten, bei der die gesetzlichen Regelungen um eine Ethik für solche Dienste ergänzt wurden“, so Andrei Nesnamov.
Iwan Melnikow, Leiter der Produktentwicklung von Robin bei SL Soft, hält die Initiativen zur Regulierung künstlicher Intelligenz in der Russischen Föderation für wichtig. „Der Einsatz von KI ist mit einer Vielzahl von Risiken verbunden, die von möglichen „Halluzinationen“ über ungenaue Antworten bis hin zu ethischen Fragen reichen. Regulierungsinitiativen kommen daher zur rechten Zeit. Die Einführung von Regulierungsmaßnahmen sollte darauf abzielen, die Zahl der Fälle unlauteren Missbrauchs von KI-Technologien zu verringern. Das wird das Vertrauen von Bürgern und Unternehmen stärken und den Einsatz von KI in wichtigen Branchen wie der Medizin oder der Datenverarbeitung erleichtern“, vermutet Melnikow.
[hrsg/russland.NEWS]
COMMENTS