{"id":862,"date":"2025-07-23T14:41:39","date_gmt":"2025-07-23T12:41:39","guid":{"rendered":"https:\/\/g-lorenzen.de\/?p=862"},"modified":"2025-07-23T14:41:44","modified_gmt":"2025-07-23T12:41:44","slug":"die-zukunft-der-ki-unter-eu-regulierung-was-unternehmen-erwartet","status":"publish","type":"post","link":"https:\/\/www.g-lorenzen.de\/index.php\/2025\/07\/23\/die-zukunft-der-ki-unter-eu-regulierung-was-unternehmen-erwartet\/","title":{"rendered":"Die Zukunft der KI unter EU-Regulierung: Was Unternehmen erwartet"},"content":{"rendered":"\n<h2 class=\"wp-block-heading\"><\/h2>\n\n\n\n<p>Die Europ\u00e4ische Union hat am <strong>1. August 2024 einen historischen Meilenstein<\/strong> erreicht, indem die <strong>weltweit erste umfassende Regulierung von k\u00fcnstlicher Intelligenz (KI)<\/strong> in Kraft trat. Dies hat weitreichende Konsequenzen f\u00fcr Unternehmen, die KI-Systeme entwickeln oder nutzen. Bereits <strong>ab dem 2. Februar 2025 werden bestimmte KI-Praktiken verboten<\/strong>, und bis August desselben Jahres treten weitere Vorschriften f\u00fcr General-Purpose-AI-(GPAI-)Modelle sowie neue Governance-Regeln in Kraft. Unternehmen stehen nun unter Zugzwang, sich innerhalb dieses engen Zeitrahmens vorzubereiten, um drohende Sanktionen zu vermeiden.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Warum die KI-Regulierung notwendig ist<\/h3>\n\n\n\n<p>Die <strong>rasante Entwicklung von KI-Systemen<\/strong> in den letzten zehn Jahren, insbesondere mit dem Aufkommen gro\u00dfer Sprachmodelle wie ChatGPT im Herbst 2022, hat die Wahrnehmung und das Vertrauen in diese Technologie stark beeinflusst. Die <strong>EU-KI-Verordnung zielt darauf ab, den Einsatz von KI sicher und ethisch zu gestalten<\/strong>, indem sie klare Regeln und Standards f\u00fcr die Entwicklung und Anwendung von KI-Technologien innerhalb der EU festlegt. Das \u00fcbergeordnete Ziel ist es, den technologischen Fortschritt zu nutzen, ohne dabei die Sicherheit und die Rechte der EU-B\u00fcrger zu gef\u00e4hrden.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Der risikobasierte Ansatz: Vier Kategorien der KI-Systeme<\/h3>\n\n\n\n<p>Die KI-Verordnung verfolgt einen <strong>risikobasierten Ansatz<\/strong>: Je gr\u00f6\u00dfer das prognostizierte Risiko eines KI-Systems, desto strenger sind die Anforderungen an dessen Einsatz. Einige KI-Praktiken oder -Systeme sind sogar vollst\u00e4ndig verboten. Die Verordnung unterteilt KI-Systeme in vier Risikokategorien:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Inakzeptables Risiko (Verboten)<\/strong>:\n<ul class=\"wp-block-list\">\n<li>Hierzu geh\u00f6ren KI-Praktiken, die als derart riskant eingestuft werden, dass sie in der EU vollst\u00e4ndig untersagt sind.<\/li>\n\n\n\n<li>Beispiele sind Systeme, die <strong>manipulatives Verhalten verzerren<\/strong>, Schwachstellen ausnutzen oder die Entscheidungsfreiheit einer Person beeintr\u00e4chtigen, sowie solche, die bewusst auf Menschen in verletzlichen Situationen abzielen.<\/li>\n\n\n\n<li><strong>Social Scoring<\/strong> (Bewertung von Menschen anhand ihres sozialen Verhaltens mit unfairen Konsequenzen) ist ebenfalls verboten.<\/li>\n\n\n\n<li>Das <strong>wahllose Sammeln von Bildern aus dem Internet oder von \u00dcberwachungskameras<\/strong> zur Erstellung von Gesichtserkennungsdatenbanken ist untersagt.<\/li>\n\n\n\n<li>Der Einsatz von <strong>Emotionserkennungssystemen in sensiblen Bereichen<\/strong> wie Arbeitspl\u00e4tzen oder Schulen ist verboten, es sei denn, es dient medizinischen oder sicherheitsrelevanten Zwecken.<\/li>\n\n\n\n<li><strong>Echtzeit-Fernbiometriesysteme in \u00f6ffentlichen R\u00e4umen<\/strong> sind streng reglementiert und nur in Ausnahmef\u00e4llen (z.B. Suche nach vermissten Personen, Abwehr schwerer Bedrohungen) erlaubt.<\/li>\n<\/ul>\n<\/li>\n\n\n\n<li><strong>Hohes Risiko (Umfassende Auflagen)<\/strong>:\n<ul class=\"wp-block-list\">\n<li>Diese KI-Systeme sind grunds\u00e4tzlich erlaubt, k\u00f6nnen aber <strong>erhebliche Auswirkungen auf Sicherheit, Gesundheit, Grundrechte oder die Umwelt<\/strong> haben.<\/li>\n\n\n\n<li>Beispiele sind:\n<ul class=\"wp-block-list\">\n<li><strong>Biometrische Systeme<\/strong> (sofern erlaubt, nicht f\u00fcr reine Identit\u00e4ts\u00fcberpr\u00fcfung) und <strong>Emotionserkennungssysteme<\/strong> (au\u00dfer medizinisch\/sicherheitsrelevant).<\/li>\n\n\n\n<li><strong>KI in kritischen Infrastrukturen<\/strong> (z.B. als Sicherheitskomponenten in der Energie- oder Wasserversorgung, Verkehrssystemen).<\/li>\n\n\n\n<li>KI-Systeme im <strong>Bildungs- und Berufsbildungswesen<\/strong>, die Zugang oder Bewertungen bestimmen.<\/li>\n\n\n\n<li>KI-Systeme bei der <strong>Rekrutierung oder im Arbeitsplatzmanagement<\/strong>.<\/li>\n\n\n\n<li>KI-Systeme f\u00fcr den <strong>Zugang zu wesentlichen Dienstleistungen<\/strong> (z.B. Gesundheitsversorgung, Kreditw\u00fcrdigkeit).<\/li>\n\n\n\n<li>KI-Systeme in der <strong>Strafverfolgung<\/strong> (z.B. Risikobewertung, Beweisanalyse).<\/li>\n<\/ul>\n<\/li>\n\n\n\n<li>Die KI-Verordnung legt <strong>umfangreiche Anforderungen und Pflichten<\/strong> fest, die sowohl die technische Funktionsweise als auch die Verantwortung der beteiligten Akteure (Anbieter, Betreiber, Importeure, H\u00e4ndler) betreffen. Dazu z\u00e4hlen:\n<ul class=\"wp-block-list\">\n<li><strong>Datenqualit\u00e4t und Daten-Governance<\/strong> zur Minimierung von Verzerrungen.<\/li>\n\n\n\n<li><strong>Transparenz<\/strong> gegen\u00fcber Nutzern und <strong>menschliche Aufsicht<\/strong>.<\/li>\n\n\n\n<li>F\u00fchrung von <strong>technischer Dokumentation und Protokollen<\/strong>.<\/li>\n\n\n\n<li><strong>Cybersicherheitsma\u00dfnahmen<\/strong> sowie Mechanismen zur <strong>Genauigkeit und Robustheit<\/strong>.<\/li>\n<\/ul>\n<\/li>\n\n\n\n<li>Ein <strong>umfassendes Risikomanagementsystem<\/strong> ist eine zentrale Forderung, das Risiken identifizieren, bewerten, verwalten und \u00fcberwachen muss. Das <strong>NIST AI Risk Management Framework<\/strong> kann hier als Orientierung dienen.<\/li>\n\n\n\n<li>Bei Nichteinhaltung drohen <strong>hohe Geldbu\u00dfen<\/strong>: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes bei schwerwiegenden Verst\u00f6\u00dfen, oder bis zu 15 Millionen Euro bzw. 3 % bei weniger gravierenden Verst\u00f6\u00dfen, wobei KMU niedrigere Strafen erhalten k\u00f6nnen.<\/li>\n<\/ul>\n<\/li>\n\n\n\n<li><strong>Begrenztes Risiko (Transparenz-Verpflichtungen)<\/strong>:\n<ul class=\"wp-block-list\">\n<li>Diese KI-Systeme, die direkt mit Menschen interagieren, m\u00fcssen <strong>klar darauf hinweisen, dass es sich um eine KI handelt<\/strong>, es sei denn, dies ist offensichtlich.<\/li>\n\n\n\n<li>Von KI-Systemen generierte oder manipulierte Inhalte (synthetische Texte, Videos, Bilder) m\u00fcssen <strong>deutlich als solche gekennzeichnet<\/strong> sein, maschinenlesbar und erkennbar.<\/li>\n\n\n\n<li>KI-Systeme, die biometrische Kategorisierung oder Emotionserkennung verwenden, m\u00fcssen die Betroffenen informieren und die Daten gem\u00e4\u00df Datenschutzvorschriften verarbeiten.<\/li>\n<\/ul>\n<\/li>\n\n\n\n<li><strong>Minimales oder kein Risiko (Keine Auflagen)<\/strong>:\n<ul class=\"wp-block-list\">\n<li>Systeme, von denen nur ein minimales oder kein Risiko f\u00fcr die Gesellschaft oder Dritte ausgeht, fallen in diese Kategorie und unterliegen keinen besonderen Bestimmungen.<\/li>\n\n\n\n<li>Trotz fehlender strenger gesetzlicher Vorgaben f\u00f6rdert die EU die Entwicklung von <strong>Verhaltenskodizes<\/strong>, die Unternehmen freiwillig anwenden k\u00f6nnen, um betriebliche Risiken zu minimieren und Vertrauen zu st\u00e4rken. Diese Kodizes sollen bis zum 2. Mai 2025 fertiggestellt sein.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">Risikokategorien navigieren<\/h3>\n\n\n\n<p>Unternehmen haben die M\u00f6glichkeit, das Design ihrer KI-Systeme so anzupassen, dass sie in eine niedrigere Risikokategorie fallen und somit weniger Auflagen erf\u00fcllen m\u00fcssen. Eine Herabstufung ist m\u00f6glich, wenn das KI-System eine eng begrenzte prozedurale Aufgabe erf\u00fcllt, menschliche Entscheidungen verbessert, Muster oder Abweichungen erkennt, ohne menschliche Bewertungen zu ersetzen, oder vorbereitende Aufgaben \u00fcbernimmt. Allerdings wird ein in Anhang III genanntes KI-System immer als Hochrisikosystem eingestuft, wenn es ein Profiling nat\u00fcrlicher Personen durchf\u00fchrt.<\/p>\n\n\n\n<p>F\u00fcr produktbezogene Hochrisikosysteme gibt es diese Herabstufungsm\u00f6glichkeit nicht. Die Einstufung erfordert oft eine <strong>Einzelfallbewertung<\/strong>, und Unternehmen werden voraussichtlich auf spezialisierte Rechtshilfe zur\u00fcckgreifen m\u00fcssen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Governance der KI-Verordnung<\/h3>\n\n\n\n<p>Die Koordinierung der Umsetzung der KI-Verordnung erfolgt durch das <strong>neu eingerichtete KI-B\u00fcro<\/strong> und den <strong>Europ\u00e4ischen Rat f\u00fcr k\u00fcnstliche Intelligenz<\/strong>.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Das <strong>KI-B\u00fcro<\/strong> unterst\u00fctzt die Mitgliedstaaten und die Europ\u00e4ische Kommission bei der Entwicklung von Fachwissen und der Umsetzung der Verordnung.<\/li>\n\n\n\n<li>Der <strong>Europ\u00e4ische Rat f\u00fcr k\u00fcnstliche Intelligenz<\/strong>, bestehend aus Vertretern der Mitgliedstaaten und Beobachtern wie dem Europ\u00e4ischen Datenschutzbeauftragten, sorgt f\u00fcr Harmonisierung und Koordination zwischen nationalen Beh\u00f6rden.<\/li>\n\n\n\n<li>Zus\u00e4tzlich wird ein <strong>Beratungsgremium<\/strong> aus Vertretern der Industrie, Zivilgesellschaft und Wissenschaft eingerichtet, das das KI-B\u00fcro und den Rat fachlich ber\u00e4t. Ein <strong>wissenschaftliches Gremium unabh\u00e4ngiger Experten<\/strong> begleitet die Verordnung mit technischen Bewertungen.<\/li>\n\n\n\n<li><strong>Nationale Beh\u00f6rden<\/strong> m\u00fcssen \u00fcber ausreichende Ressourcen und Fachkenntnisse verf\u00fcgen, um die Verordnung durchzusetzen, und ein <strong>einheitlicher Ansprechpartner<\/strong> in jedem Mitgliedstaat soll die Kommunikation sicherstellen.<\/li>\n<\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">Fazit und Ausblick<\/h3>\n\n\n\n<p>Unternehmen stehen vor der Herausforderung, bestehende und zuk\u00fcnftige KI-Services und -Produkte gem\u00e4\u00df der neuen Verordnung zu evaluieren. Dies erfordert geeignete Strukturen, Prozesse und Know-how innerhalb der Organisationen. Die Situation wird durch die lange Vorlaufzeit strategischer Entscheidungen und das Fehlen klarer offizieller Verhaltenskodizes erschwert.<\/p>\n\n\n\n<p>Trotz dieser Herausforderungen bieten bestehende Frameworks wie das <strong>NIST AI Risk Management Framework<\/strong> eine solide Grundlage zur Erf\u00fcllung vieler EU-Vorgaben. Die KI-Verordnung bietet Unternehmen auch die Chance, sich langfristig besser am Markt zu positionieren: Durch die (teilweise) \u00dcbernahme der verpflichtenden Ma\u00dfnahmen f\u00fcr Hochrisiko-KI-Systeme kann die <strong>Qualit\u00e4t der eigenen KI-Systeme nachhaltig gesteigert<\/strong> werden, was betriebliche Risiken senkt und f\u00fcr verl\u00e4sslichere KI-Produkte und -Services sorgen wird. Es bleibt abzuwarten, welche Unternehmen diese Chance nutzen und daraus einen Wettbewerbsvorteil ziehen werden.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Die Europ\u00e4ische Union hat am 1. August 2024 einen historischen Meilenstein erreicht, indem die weltweit&hellip;<\/p>\n","protected":false},"author":1,"featured_media":863,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"class_list":["post-862","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-it-audit"],"_links":{"self":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/862","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/comments?post=862"}],"version-history":[{"count":1,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/862\/revisions"}],"predecessor-version":[{"id":864,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/862\/revisions\/864"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/media\/863"}],"wp:attachment":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/media?parent=862"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/categories?post=862"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/tags?post=862"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}