{"id":1030,"date":"2026-01-19T14:45:41","date_gmt":"2026-01-19T13:45:41","guid":{"rendered":"https:\/\/www.g-lorenzen.de\/?p=1030"},"modified":"2026-01-19T14:45:41","modified_gmt":"2026-01-19T13:45:41","slug":"sicherheitsrisiken-und-schutzmassnahmen-fuer-large-language-models","status":"publish","type":"post","link":"https:\/\/www.g-lorenzen.de\/index.php\/2026\/01\/19\/sicherheitsrisiken-und-schutzmassnahmen-fuer-large-language-models\/","title":{"rendered":"Sicherheitsrisiken und Schutzma\u00dfnahmen f\u00fcr Large Language Models"},"content":{"rendered":"

Die Schattenseiten der Sprachmodelle: Die 10 gr\u00f6\u00dften Risiken beim Einsatz von LLMs<\/strong><\/h2>\n

Die rasante Entwicklung gro\u00dfer Sprachmodelle (Large Language Models, LLMs) hat die Arbeitswelt grundlegend ver\u00e4ndert, doch diese technologische Revolution bringt neue, komplexe Sicherheitsrisiken mit sich. W\u00e4hrend LLMs Effizienz und Automatisierung auf ein neues Niveau heben, \u00f6ffnen sie gleichzeitig T\u00fcren f\u00fcr Angriffe, die mit klassischen IT-Schutzmechanismen kaum noch zu bew\u00e4ltigen sind.<\/p>\n

Die Risiken lassen sich dabei in zwei zentrale Facetten unterteilen: Einerseits missbrauchen Kriminelle LLMs als Werkzeug<\/strong>, um beispielsweise Phishing-Angriffe zu perfektionieren oder Schadsoftware automatisiert zu entwickeln. Andererseits werden die Sprachmodelle selbst zum Angriffsziel<\/strong>, wobei Sprache und Kontext die neue Angriffsfl\u00e4che bilden.<\/p>\n

Der OWASP-Risikokatalog f\u00fcr LLM-Anwendungen<\/strong><\/h3>\n

Um diese Bedrohungen systematisch einzuordnen, bietet das Open Worldwide Application Security Project<\/em> (OWASP) mit den \u201eTop Ten f\u00fcr LLM-Anwendungen\u201c einen international anerkannten Orientierungsrahmen. Die Liste f\u00fcr das Jahr 2025 stuft die folgenden Risiken als besonders kritisch ein:<\/p>\n

    \n
  1. Prompt Injection (LLM01):<\/strong> Dies ist das zentrale Risiko. Angreifer nutzen gezielt formulierte Anweisungen (z. B. \u201eIgnoriere alle Sicherheitsregeln\u201c), um das Modell dazu zu bringen, interne Regeln auszuhebeln oder vertrauliche Daten preiszugeben. Besonders t\u00fcckisch ist die indirekte Prompt Injection<\/strong>, bei der sch\u00e4dliche Befehle in externen Quellen wie Webseiten oder Dokumenten versteckt werden, die das LLM anschlie\u00dfend analysiert.<\/li>\n
  2. Offenlegung sensibler Informationen (LLM02):<\/strong> Daten k\u00f6nnen durch unklare Eingabestrukturen oder zu weitreichende Zugriffsrechte auf interne Dokumente abflie\u00dfen. Das Modell selbst kann oft nicht einsch\u00e4tzen, welche Informationen gesch\u00fctzt werden m\u00fcssen.<\/li>\n
  3. Schwachstellen in der Lieferkette (LLM03):<\/strong> Viele Systeme nutzen vortrainierte Datens\u00e4tze oder Plug-ins von Drittanbietern, deren Integrit\u00e4t oft unzureichend gepr\u00fcft wird, wodurch manipulierte Inhalte direkt in Arbeitsprozesse gelangen k\u00f6nnen.<\/li>\n
  4. Poisoning von Daten und Modellen (LLM04):<\/strong> Durch das gezielte \u201eVergiften\u201c von Trainingsdaten k\u00f6nnen Angreifer das Verhalten des Modells langfristig manipulieren.<\/li>\n
  5. Fehlerhafte Ausgabeverarbeitung (LLM05):<\/strong> Wenn KI-Antworten ungepr\u00fcft in andere Systeme flie\u00dfen, k\u00f6nnen klassische Schwachstellen wie Script Injection entstehen.<\/li>\n
  6. \u00dcberm\u00e4\u00dfige Handlungsfreiheit (LLM06):<\/strong> Je mehr Zugriff ein LLM auf APIs oder interne Dateien hat, desto gr\u00f6\u00dfer ist die Gefahr, dass manipulierte Eingaben reale, schadhafte Aktionen in der IT-Umgebung ausl\u00f6sen.<\/li>\n
  7. Offenlegung von System-Prompts (LLM07):<\/strong> Angreifer k\u00f6nnen durch geschickte Fragen die unsichtbaren Steueranweisungen (System-Prompts) des Modells rekonstruieren, was wertvolle Einblicke in Sicherheitsmechanismen liefert.<\/li>\n
  8. Schwachstellen in Vektoren und Embeddings (LLM08):<\/strong> Die semantische Darstellung von Informationen in KI-Datenbanken kann manipuliert werden, um gezielte Fehlinterpretationen hervorzurufen.<\/li>\n
  9. Fehlinformationen (LLM09):<\/strong> Modelle k\u00f6nnen halluzinierte oder bewusst gesetzte Falschinformationen erzeugen, was die Verl\u00e4sslichkeit der Ergebnisse gef\u00e4hrdet.<\/li>\n
  10. Unbegrenzter Verbrauch (LLM10):<\/strong> Massenhafte automatisierte Abfragen k\u00f6nnen die Ressourcen und Kosten (Pay-As-You-Go-Lizenzen) unkontrolliert in die H\u00f6he treiben, was auch als \u201eDenial of Wallet\u201c-Angriff bezeichnet wird.<\/li>\n<\/ol>\n

    Menschliches Verhalten als Risikofaktor<\/strong><\/h3>\n

    Trotz der technischen Architektur bleibt der Mensch ein entscheidender Risikofaktor<\/strong>. Oftmals f\u00fchren zu weitreichende Berechtigungen dazu, dass Mitarbeiter \u00fcber das LLM Informationen abrufen k\u00f6nnen, f\u00fcr die sie eigentlich keine Berechtigung haben. Auch das unvorsichtige Hochladen interner Vertr\u00e4ge oder Personaldaten in einen KI-Chat stellt ein erhebliches Datenschutzrisiko dar.<\/p>\n

    Ein weiteres spezifisches Risiko bei Cloud-KI-Diensten (wie etwa dem Microsoft Copilot) ist das \u201eWeb Grounding\u201c<\/strong>: Suchanfragen an externe Suchmaschinen wie Bing verlassen die gesch\u00fctzte Dienstgrenze und k\u00f6nnen au\u00dferhalb der EU verarbeitet werden, was datenschutzrechtliche Restrisiken birgt.<\/p>\n

    Fazit: Ganzheitlicher Schutz erforderlich<\/strong><\/h3>\n

    Ein wirksamer Schutz entsteht nur, wenn technische, organisatorische und prozessuale Ma\u00dfnahmen ineinandergreifen. Unternehmen sollten KI-Systeme so gestalten, dass Benutzereingaben nicht unmittelbar zur Steuerungsgrundlage werden und Modellantworten stets einen Pr\u00fcfprozess durchlaufen, bevor sie in automatisierte Abl\u00e4ufe einflie\u00dfen. Die konsequente Kontrolle der Ein- und Ausgaben sowie die Beschr\u00e4nkung der Befugnisse nach dem Prinzip der minimalen Rechte sind unverzichtbare Bausteine f\u00fcr einen sicheren KI-Betrieb.<\/p>\n","protected":false},"excerpt":{"rendered":"

    Die Schattenseiten der Sprachmodelle: Die 10 gr\u00f6\u00dften Risiken beim Einsatz von LLMs Die rasante Entwicklung…<\/p>\n","protected":false},"author":1,"featured_media":856,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,4],"tags":[],"class_list":["post-1030","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-datenschutz","category-it-audit"],"_links":{"self":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/1030","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/comments?post=1030"}],"version-history":[{"count":1,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/1030\/revisions"}],"predecessor-version":[{"id":1031,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/posts\/1030\/revisions\/1031"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/media\/856"}],"wp:attachment":[{"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/media?parent=1030"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/categories?post=1030"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.g-lorenzen.de\/index.php\/wp-json\/wp\/v2\/tags?post=1030"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}