EU verabschiedet Gesetz zur künstlichen Intelligenz

Das neue KI-Gesetz der Europäischen Union, das am 21. Mai 2024 endgültig beschlossen wurde, führt schärfere Regeln für den Einsatz von Künstlicher Intelligenz (KI) in der EU ein. Das Gesetz bzw. besser die EU-Verordnung gilt in allen Mitgliedstaaten unmittelbar, ist allerdings erst ab Frühjahr 2026 verpflichtend anwendbar. Die Neuregelung, der das EU-Parlament bereits im März zugestimmt hatte, soll die Nutzung Künstlicher Intelligenz in der Europäischen Union sicherer zu machen.

Auch wenn die Zielrichtung der neuen Regelungen vor allem auf den Schutz von Einzelnen gegen heimliche Überwachung, automatisierte Datensammlung oder unerkannte KI-Produkte ausgerichtet ist, ist davon auszugehen, dass Unternehmen und Arbeitgeber einige digitale Prozesse in den eigenen betrieblichen Abläufen auf den Prüfstand stellen und ggf. auch korrigieren müssen, um nicht in die Gefahr von Vorwürfen oder gar Strafzahlungen zu kommen.

Hier sind einige wichtige Inhalte der KI-Verordnung, die aus anwaltlicher Sicht für Unternehmen relevant sein werden:

➡ Transparenz und Nachvollziehbarkeit: KI-Systeme müssen transparent sein, sodass ihre Funktionsweise nachvollziehbar ist. Entwickler müssen Texte, Töne und Bilder, die von KI generiert werden, kennzeichnen, um Menschen nicht in die Irre zu führen. Dies gilt auch für die Bereiche Marketing, Vertrieb und Recruiting.

➡ Verbot bestimmter Anwendungen: Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sind nun ganz verboten. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten (“Social Scoring”).

➡ Gesichtserkennung im öffentlichen Raum: Die Gesichtserkennung im öffentlichen Raum ist grundsätzlich nicht erlaubt. Ausnahmen gelten jedoch, wenn eine richterliche Anordnung vorliegt, z. B. zur Verfolgung von Straftaten.

➡ Umweltfreundlichkeit und Sicherheit: KI-Systeme müssen umweltfreundlich und sicher sein. Risikoreiche Anwendungen in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen müssen strenge Anforderungen erfüllen.

Sprechen Sie uns gerne an, wenn Sie Fragen zu den Inhalten oder den erforderlichen Umsetzungsschritten der Verordnung zur Künstlichen Intelligenz haben.