Seit dem 1. August 2024 gilt mit der EU-KI-Verordnung (Verordnung (EU) 2024\/1689) erstmals ein europaweiter Rechtsrahmen f\u00fcr die Entwicklung und Nutzung von K\u00fcnstlicher Intelligenz (KI). Ziel der Verordnung ist es, Innovationen zu f\u00f6rdern, die Sicherheit und Grundrechte der B\u00fcrger zu sch\u00fctzen sowie Vertrauen in KI-Technologien zu schaffen. Der risikobasierte Ansatz dieser Verordnung bringt gestaffelte Pflichten und Anforderungen mit sich. Seit dem 2. Februar 2025 sind nun auch bereits erste Vorschriften zu beachten. Wir m\u00f6chten Ihnen im Folgenden einen kurzen \u00dcberblick \u00fcber die wichtigsten Punkte der KI-Verordnung geben.<\/p>\n\n\n\n
Kurz erkl\u00e4rt:<\/u><\/strong><\/p>\n\n\n\n Hintergrund und Zielsetzung<\/strong><\/p>\n\n\n\n Die KI-Verordnung schafft erstmals spezifische rechtliche Anforderungen f\u00fcr KI-Systeme in der EU. Sie orientiert sich dabei an der OECD-Definition von KI-Systemen, die autonom, anpassungsf\u00e4hig und in der Lage sind, Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorzubringen, die physische oder virtuelle Umgebungen beeinflussen k\u00f6nnen. Die Regulierung betrifft jedoch nicht s\u00e4mtliche Anwendungsbereiche: Nationale Sicherheitsaspekte, milit\u00e4rische Nutzung und private Zwecke bleiben au\u00dfen vor.<\/p>\n\n\n\n Adressaten der KI-Verordnung<\/strong><\/p>\n\n\n\n Die KI-VO richtet sich prim\u00e4r an Anbieter und Betreiber von KI-Systemen. Anbieter sind diejenigen, die ein KI-System entwickeln oder unter ihrem Namen in Verkehr bringen. Betreiber hingegen setzen KI-Systeme eigenverantwortlich ein. Die meisten Unternehmen in der EU werden in die Kategorie der Betreiber fallen, denn der Betreiber wird in Art. 3 Nr. 4 KI-VO als nat\u00fcrliche oder juristische Person, Beh\u00f6rde, Einrichtung oder sonstige Stelle definiert, die ein KI-System in eigener Verantwortung verwendet (Ausnahme: privater Gebrauch).<\/p>\n\n\n\n Unternehmen sind damit als Betreiber erfasst, wenn sie bestehende KI-Technologien nutzen, beispielsweise f\u00fcr Marketing, Automatisierung oder Kundeninteraktionen. Es ist jedoch nicht undenkbar, dass auch ein einfaches Unternehmen als Anbieter im Sinne der KI-VO einzuordnen w\u00e4re (z. B. durch Finetuning), dann gelten h\u00f6here Anforderungen. Auf die genaue Unterscheidung und die sich daraus ergebenden Konsequenzen, werden wir in einem n\u00e4chsten News-Beitrag n\u00e4her eingehen.<\/p>\n\n\n\n Kategorien und Pflichten der KI-Verordnung<\/u><\/strong><\/p>\n\n\n\n Die KI-VO unterscheidet zwischen vier Risikokategorien von KI-Systemen: unannehmbares Risiko, hohes Risiko, geringes Risiko und minimales Risiko.<\/p>\n\n\n\n Unannehmbares Risiko \u2013 Verbotene Praktiken<\/strong><\/p>\n\n\n\n Seit dem 2. Februar 2025<\/strong> gelten strikte Verbote f\u00fcr KI-Praktiken, die ein unannehmbares Risiko f\u00fcr Grundrechte und Sicherheit darstellen. Dazu geh\u00f6ren Systeme mit Manipulations- und T\u00e4uschungstechniken, Social Scoring und emotionale Erkennungssysteme am Arbeitsplatz. Unternehmen sind verpflichtet, alle eingesetzten oder geplanten KI-Systeme auf verbotene Praktiken nach Art. 5 KI-VO zu \u00fcberpr\u00fcfen und sicherzustellen, dass solche Anwendungen unterlassen werden.<\/p>\n\n\n\n Hochrisiko-KI-Systeme<\/strong><\/p>\n\n\n\n KI-Systeme, die ein hohes Risiko f\u00fcr Gesundheit, Sicherheit oder Grundrechte bergen, unterliegen strengen Anforderungen und umfangreichen Verpflichtungen. Unternehmen, die solche Systeme nutzen oder anbieten, m\u00fcssen Governance-Strukturen etablieren, Datenschutz-Folgenabsch\u00e4tzungen durchf\u00fchren und eine detaillierte Dokumentation gew\u00e4hrleisten. Beispielhaft genannt sei der Einsatz von KI im Personalmanagement, insbesondere bei Recruiting-Prozessen.<\/p>\n\n\n\n Hochrisiko-KI-Systeme m\u00fcssen ab dem 2. August 2026<\/strong> konform betrieben werden.<\/p>\n\n\n\n Minimales und geringes Risiko<\/strong><\/p>\n\n\n\n F\u00fcr KI-Systeme mit minimalem (z. B. Spam-Filter) oder geringem Risiko (z. B. einfache Chatbots) gelten vor allem Transparenzpflichten. Es muss klar erkennbar sein, wenn Nutzer mit einer KI statt einem Menschen interagieren. Dies betrifft unter anderem Online-Shops und Webseitenbetreiber. Die Transparenzpflichten sind ab dem 2. August 2026<\/strong> zu beachten.<\/p>\n\n\n\n KI-Systeme mit allgemeinem Verwendungszweck<\/strong><\/p>\n\n\n\n F\u00fcr besonders leistungsstarke und vielseitig einsetzbare KI-Systeme, wie z. B. ChatGPT von OpenAI, gelten spezifische zus\u00e4tzliche Verpflichtungen ab dem 2. August 2025<\/strong>. Unternehmen, die diese Systeme anbieten, m\u00fcssen besonders hohe Compliance-Standards erf\u00fcllen.<\/p>\n\n\n\n KI-Kompetenz nach Artikel 4 KI-VO<\/strong><\/p>\n\n\n\n Ein weiterer zentraler Punkt, der schon jetzt unbedingt zu beachten ist, ist die Verpflichtung zur Sicherstellung von KI-Kompetenz bei Mitarbeitern<\/strong> (seit 2. Februar 2025<\/u><\/strong>). Dies bedeutet, dass Anbieter und Betreiber von KI-Systemen gew\u00e4hrleisten m\u00fcssen, dass ihre Besch\u00e4ftigten \u00fcber ausreichendes Fachwissen und Verst\u00e4ndnis f\u00fcr technische, soziale, ethische und rechtliche Aspekte der KI verf\u00fcgen. Unternehmen sollten daher interne Richtlinien entwickeln, regelm\u00e4\u00dfige Schulungen und Weiterbildungen durchf\u00fchren sowie m\u00f6glicherweise einen internen KI-Beauftragten einsetzen, der die Einhaltung der Standards koordiniert.<\/p>\n\n\n\n Governance und Aufsicht<\/strong><\/p>\n\n\n\n Zur \u00dcberwachung der KI-Verordnung m\u00fcssen alle EU-Mitgliedstaaten nationale KI-Aufsichtsbeh\u00f6rden einrichten. Zus\u00e4tzlich existiert ein Europ\u00e4ischer Ausschuss f\u00fcr K\u00fcnstliche Intelligenz sowie ein Amt f\u00fcr KI innerhalb der Europ\u00e4ischen Kommission, welches die Einhaltung der Verordnung bei allgemeinen KI-Modellen \u00fcberwacht. In Deutschland wird dies voraussichtlich die Bundesnetzagentur \u00fcbernehmen. Hierzu muss Deutschland noch bis 2. August 2025 ein Durchf\u00fchrungsgesetz erlassen.<\/p>\n\n\n\n