Künstliche Intelligenz (KI) ist einer der wesentlichen Faktoren der Digitalisierung. Sie bietet schon heute viele Chancen – mit enormer Relevanz für Wirtschaft und Gesellschaft. Trotzdem kann KI auch Risiken mit sich bringen - v. a. für Demokratie, Grundrechte und den Rechtstaat. Mit europäischen und internationalen Gesetzesinitiativen schaffen wir einen Rechtsrahmen für mehr Vertrauen.
Künstliche Intelligenz (KI) ist treibende Kraft für Innovation, Digitalisierung und Forschung - die Entwicklung in diesem Bereich ist rasant. Damit gehen große Chancen einher - etwa in der medizinischen Diagnostik und der Landwirtschaft. Hier kann KI zum frühzeitigen Erkennen von Krankheiten und einem effizienten Umgang mit Umweltressourcen beitragen.
Sie verändert aber auch das Zusammenleben und vor allem die Berufswelt und das wirtschaftliche Verhalten. Solche Veränderungen lösen bei vielen Menschen Ängste und Sorgen aus. Fehlende Nachvollziehbarkeit und Transparenz von KI-Anwendungen können Gefühle des Ausgeliefertseins hervorrufen. Außerdem kann KI auch missbräuchlich dafür eingesetzt werden, um unsere gemeinsamen Werte in Deutschland und Europa – Demokratie, Grundrechte und Rechtstaatlichkeit – zu untergraben. Denkt man etwa an daten- und algorithmenbasierte Meinungssteuerung im Wahlkampf (sog. Microtargeting).
Es ist deshalb erforderlich, KI-Anwendungen einen rechtlichen Rahmen zu geben und damit das Vertrauen in diese Technologie zu stärken.
Weltweit wird an zahlreichen Ansätzen gearbeitet, den Umgang mit Künstlicher Intelligenz vertrauenswürdig auszugestalten. Zwei Regelungsinitiativen stechen dabei durch ihren bindenden Rechtscharakter heraus: Die sog. KI-Verordnung der Europäischen Union und der Vorschlag für die sog. KI-Konvention des Europarates.
Übergeordnetes Ziel der KI-Verordnung ist: Geeignete Rahmenbedingungen und Schutzstandards für den KI-Einsatz zu gewährleisten, die im Einklang mit den Europäischen Grundrechten stehen.
Die KI-Verordnung verfolgt einen horizontalen, d. h. sektorübergreifenden Regulierungsansatz. Vom Anwendungsbereich sind die Entwicklung, das in Umlaufbringen und auch Nutzungen von KI-Systemen durch private und staatliche Handelnde gleichermaßen erfasst. Die KI-Verordnung reguliert dabei umso strenger, je größer das Risiko eines KI-Systems ist (risikobasierter Regulierungsansatz). Es sind vier Risikostufen vorgesehen: Verbote, Qualitätsanforderungen an Hochrisiko-KI-Systeme, Kennzeichnungspflichten, freiwillige Selbstverpflichtung.
Mit der KI-Konvention des Europarates wird der erste globale und rechtsverbindliche Mindeststandard für KI geschaffen. An dem Verhandlungsprozess waren nicht nur die 46 Mitgliedstaaten des Europarates beteiligt, sondern auch die Europäische Union sowie Beobachterstaaten wie die USA, Kanada, Japan, Israel und Mexiko, Australien, Argentinien, Uruguay, Peru und Cosa Rica. Staaten, die sich diesem Standard verpflichten, geben damit zu erkennen, dass die dort entwickelte und eingesetzte KI vertrauenswürdig ist. Dadurch kann ein international gültiger, rechtlich bindender Standard für vertrauenswürdige KI gesetzt werden.
Inhaltlich stellt die KI-Konvention allgemeine Anforderungen an Design, Entwicklung und Einsatz von KI-Systemen auf und soll die Grundprinzipien für den Einsatz von KI festlegen. Mögliche Gefahren bei der Nutzung dieser Technologie werden aufgezeigt, wie z. B. mögliche Diskriminierung und Voreingenommenheit, und Mittel zur Vermeidung der Gefahren geregelt, etwa die Schaffung von Rechenschaftspflichten und das Festlegen von Verantwortungsgrundsätzen.
Weiter wird die Durchführung einer Risikobewertung vorgesehen. Diese soll den relevanten Akteuren helfen, die mit der Entwicklung oder dem Einsatz eines KI-Systems verbundenen Risiken für Menschenrechte, Demokratie und Rechtsstaatlichkeit zu identifizieren und zu bewerten. Außerdem sollen bestimmte KI-Praktiken verboten werden, die ein nicht mehr hinnehmbares Risiko für Menschenrechte, Demokratie und Rechtsstaatlichkeit mit sich bringen.
Mit Annahme der KI-Konvention am 17. Mai 2024 im Ministerkomitee des Europarates konnten die intensiven Verhandlungen erfolgreich abgeschlossen werden. Die KI-Konvention tritt in Kraft, sobald sie von 5 Staaten ratifiziert worden ist (3 davon müssen Mitgliedstaaten des Europarates sein). Die Bundesregierung war in den Verhandlungen durch das BMJ und das Auswärtige Amt (AA) vertreten.
