{"id":1037,"date":"2026-01-20T16:03:19","date_gmt":"2026-01-20T15:03:19","guid":{"rendered":"https:\/\/www.g-lorenzen.de\/?p=1037"},"modified":"2026-01-20T16:03:19","modified_gmt":"2026-01-20T15:03:19","slug":"autonome-ki-agenten-die-neue-aera-der-it-governance-und-haftung","status":"publish","type":"post","link":"https:\/\/www.g-lorenzen.de\/index.php\/2026\/01\/20\/autonome-ki-agenten-die-neue-aera-der-it-governance-und-haftung\/","title":{"rendered":"Autonome KI-Agenten: Die neue \u00c4ra der IT-Governance und Haftung"},"content":{"rendered":"

Die technologische Entwicklung schreitet rasant voran: Moderne KI-Agenten erzeugen heute nicht mehr nur statischen Code, sondern k\u00f6nnen eigenst\u00e4ndig Ziele definieren, Werkzeuge ansteuern und komplexe Entscheidungen treffen<\/strong>. W\u00e4hrend fr\u00fchere Systeme lediglich Vorschl\u00e4ge machten, greifen autonome Agenten nun direkt in Prozesse ein \u2013 sie analysieren Fehlermeldungen, starten CI\/CD-Pipelines oder nehmen selbstst\u00e4ndig \u00c4nderungen in Repositories vor.<\/p>\n

Diese neue Stufe der Autonomie stellt Unternehmen vor enorme rechtliche Herausforderungen, da unser Rechtssystem prim\u00e4r auf menschliche Entscheidungen ausgerichtet ist. In diesem Blogeintrag beleuchten wir die kritischen Punkte zwischen Effizienzgewinn und regulatorischer Compliance<\/strong>.<\/p>\n

\n

1. Der AI Act: Wenn der Assistent zum Hochrisiko-System wird<\/strong><\/h3>\n

Der europ\u00e4ische AI Act<\/strong> verfolgt einen risikobasierten Ansatz, der bei dynamischen KI-Agenten jedoch an seine Grenzen st\u00f6\u00dft. Ein System, das urspr\u00fcnglich als harmloser Assistenzagent f\u00fcr die Softwareentwicklung eingestuft wurde, kann sein Risikoprofil im laufenden Betrieb ver\u00e4ndern.<\/p>\n

    \n
  • Dynamische Risikoklassen:<\/strong> Wenn ein Agent beginnt, automatisiert Libraries auszuw\u00e4hlen oder eigenst\u00e4ndig sicherheitsrelevante Build-Konfigurationen zu \u00e4ndern, kann er pl\u00f6tzlich in den Bereich kritischer Prozesse fallen.<\/li>\n
  • Beispiel Personalwesen:<\/strong> Ein einfacher Sortier-Agent f\u00fcr Bewerbungen wird sofort zum Hochrisikosystem<\/strong>, sobald er Bewerber nicht nur alphabetisch listet, sondern eigenst\u00e4ndig nach Eignung bewertet \u2013 selbst wenn dies ungeplant durch maschinelles Lernen geschieht.<\/li>\n
  • Sensible Bereiche:<\/strong> Besonders kritisch ist der Einsatz in der biometrischen Fernidentifizierung, in kritischen Infrastrukturen, in der Rechtspflege oder im Bereich Besch\u00e4ftigung und Bildung.<\/li>\n<\/ul>\n

    2. Die Pflicht zur wirksamen menschlichen Aufsicht<\/strong><\/h3>\n

    Unternehmen sind gem\u00e4\u00df Artikel 14 des AI Acts verpflichtet, eine wirksame menschliche Aufsicht<\/strong> \u00fcber die gesamte Verwendungsdauer sicherzustellen. Dabei haben sich drei Konzepte etabliert:<\/p>\n

      \n
    • Human in the Loop:<\/strong> Der Mensch ist direkt in jeden Entscheidungsschritt eingebunden.<\/li>\n
    • Human on the Loop:<\/strong> Der Mensch \u00fcberwacht den Prozess und kann bei Bedarf eingreifen.<\/li>\n
    • Human in Command:<\/strong> Der Mensch beh\u00e4lt die volle Kontrolle \u00fcber das Gesamtsystem.<\/li>\n<\/ul>\n

      Je eigenst\u00e4ndiger ein KI-Agent handelt, desto ausgefeilter m\u00fcssen die technischen Eingriffs- und Stoppmechanismen<\/strong> sein. Ein Echtzeit-Handelssystem kann beispielsweise nicht bei jeder Transaktion gestoppt werden, ben\u00f6tigt aber intelligente Monitoringsysteme, die Anomalien erkennen und automatische Eskalationsprozesse ausl\u00f6sen.<\/p>\n

      3. Haftung und die „Beweislastumkehr“<\/strong><\/h3>\n

      Ein KI-Agent besitzt keine eigene Rechtspers\u00f6nlichkeit und kann daher nicht selbst haften. Er gilt als Werkzeug<\/strong>, dessen Handlungen dem betreibenden Unternehmen zugerechnet werden.<\/p>\n

      Mit der neuen EU-Produkthaftungsrichtlinie<\/strong> werden Software und KI-Systeme ausdr\u00fccklich als haftungsrelevante Produkte eingestuft. Dies f\u00fchrt zu einer grundlegenden Reform:<\/p>\n

        \n
      • Haftung bei Datenverlust:<\/strong> Anspr\u00fcche k\u00f6nnen nun auch bei Datenverlusten geltend gemacht werden, die auf KI-Fehler zur\u00fcckzuf\u00fchren sind.<\/li>\n
      • Beweislastumkehr (Entlastungsbeweis):<\/strong> Unternehmen m\u00fcssen im Schadensfall darlegen und beweisen, dass sie die erforderliche Sorgfalt beachtet, Risikoanalysen durchgef\u00fchrt und Schutzmechanismen implementiert haben. Ohne l\u00fcckenlose Dokumentation ist eine wirksame Begrenzung der Haftungsrisiken kaum m\u00f6glich.<\/li>\n<\/ul>\n

        4. Der Betreiber wird zum Anbieter: Vorsicht bei Modifikationen<\/strong><\/h3>\n

        Ein oft untersch\u00e4tzter Punkt ist Artikel 25 des AI Acts<\/strong>. Ein Unternehmen, das einen fremden KI-Agenten nutzt, kann rechtlich automatisch in die Rolle des KI-System-Anbieters<\/strong> rutschen. Dies geschieht, wenn:<\/p>\n

          \n
        • Das System unter eigenem Namen vertrieben wird (Rebranding).<\/li>\n
        • Das System wesentlich modifiziert<\/strong> wird (z. B. durch Feintuning mit zus\u00e4tzlichen Datenquellen).<\/li>\n
        • Der Verwendungszweck so ge\u00e4ndert wird, dass ein Hochrisikosystem entsteht.<\/li>\n<\/ul>\n

          In diesen F\u00e4llen \u00fcbernimmt der Betreiber alle Pflichten eines Anbieters, inklusive Konformit\u00e4tsbewertung und CE-Kennzeichnung<\/strong>.<\/p>\n

          5. Datenschutz, Urheberrecht und Branchenregeln<\/strong><\/h3>\n

          Neben dem AI Act m\u00fcssen KI-Agenten weitere H\u00fcrden nehmen:<\/p>\n

            \n
          • Datenschutz (DSGVO):<\/strong> Wenn Agenten Zugriff auf echte Unternehmensdaten haben, m\u00fcssen Grunds\u00e4tze wie Zweckbindung und Datenminimierung streng eingehalten werden.<\/li>\n
          • Urheberrecht:<\/strong> Durch KI-Agenten generierter Sourcecode genie\u00dft mangels menschlichem Beitrag grunds\u00e4tzlich keinen urheberrechtlichen Schutz<\/strong>. Zudem besteht die Gefahr, Urheberrechte Dritter zu verletzen, wenn der Agent beim Training oder der Code-Generierung fremden Code ohne Erlaubnis einbezieht.<\/li>\n
          • Sektorspezifische Vorgaben:<\/strong> Wie wir bereits in unserer Diskussion zu DORA<\/strong> gesehen haben, m\u00fcssen Finanzagenten zus\u00e4tzlich komplexe Bankenregeln und Resilienz-Vorgaben erf\u00fcllen. \u00c4hnliches gilt f\u00fcr die Medizinprodukteverordnung im Gesundheitswesen.<\/li>\n<\/ul>\n

            Fazit: Strukturierte Governance als Erfolgsfaktor<\/strong><\/h3>\n

            KI-Agenten sind kein einfaches technisches Zusatzmodul, sondern bilden eine neue juristische Kategorie<\/strong>. F\u00fcr einen rechtssicheren Einsatz empfiehlt sich ein strukturiertes Vorgehen:<\/p>\n

              \n
            1. Use Cases klar definieren<\/strong> und mit Risikoanalysen versehen.<\/li>\n
            2. Rollen- und Rechtekonzepte<\/strong> sowie klare Freigabeschleifen etablieren.<\/li>\n
            3. Technische Robustheit<\/strong> durch Monitoring, Audit-Trails und Stresstests sicherstellen.<\/li>\n
            4. Vertragliche Absicherung:<\/strong> Schriftliche Vereinbarungen mit Zulieferern \u00fcber Informationspflichten und technischen Zugang treffen.<\/li>\n<\/ol>\n

              Wer fr\u00fchzeitig klare Prozesse und eine l\u00fcckenlose Dokumentation etabliert, schafft nicht nur Vertrauen, sondern minimiert effektiv seine Haftungsrisiken in einer zunehmend autonomen digitalen Welt.<\/p>\n","protected":false},"excerpt":{"rendered":"

              Die technologische Entwicklung schreitet rasant voran: Moderne KI-Agenten erzeugen heute nicht mehr nur statischen Code,…<\/p>\n","protected":false},"author":1,"featured_media":886,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,3,4],"tags":[],"class_list":["post-1037","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-datenschutz","category-it","category-it-audit"],"_links":{"self":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/1037","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/comments?post=1037"}],"version-history":[{"count":1,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/1037\/revisions"}],"predecessor-version":[{"id":1038,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/1037\/revisions\/1038"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/media\/886"}],"wp:attachment":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/media?parent=1037"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/categories?post=1037"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/tags?post=1037"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}