GRC Journal Archive - ELSEN GRC

Q: Entwickeln oder trainieren Sie ein eigenes KI-System?

Wenn ja, gelten Sie als Anbieter (Provider). Der EU AI Act gilt unmittelbar und verpflichtet zu Konformitätsprüfung, technischer Dokumentation und Eintrag in die EU-Datenbank.

Q: Nutzen Sie KI-Funktionen innerhalb Ihrer Produkte oder Prozesse?

Wenn ja, sind Sie Nutzer (Deployer). Der EU AI Act gilt indirekt und verpflichtet zur Dokumentation der Nutzung, Transparenz und Zweckbindung.

Q: Vertreiben Sie Software oder Hardware mit integrierter KI in der EU?

Wenn ja, sind Sie Importeur oder Händler. Sie müssen sicherstellen, dass Produkte konform und korrekt gekennzeichnet sind.

Q: Binden Sie KI-APIs oder fremde Modelle in Ihre Systeme ein?

Wenn ja, kann eine gemeinsame Verantwortlichkeit bestehen. Empfohlen sind Dokumentation und vertragliche Regelungen mit dem Anbieter.

Q: Erbringen Sie Dienstleistungen auf Basis externer KI-Systeme?

Wenn ja, liegt eine indirekte Betroffenheit vor. KI-Quellen sollten dokumentiert und Risiken bewertet werden. Bei Unsicherheit empfiehlt sich eine fachliche Beratung.

Fachagent als DSGVO-konformer KI-Chatbot für KMU

Mario Elsen — Tue, 07 Apr 2026 22:15:27 +0000

Wir schreiben Q2 2026 und KI-Chatbots sind inzwischen in aller Munde – oder besser formuliert: Ein KI-Chatbot findet sich in so ziemlich jedem Help-Desk, jeder ERP-Suite, jeder App und auf (fast) jeder Website. Kaum ein SaaS-Anbieter, der nicht irgendwo „KI-basiert“ auf seine Website schreibt, kaum ein Online-Shop, der nicht über automatisierte Kundenberatung nachdenkt oder diese bereits irgendwo und „irgendwie“ implementiert hat. Der Markt an Chatbot-Lösungen wächst rasant, quasi täglich sprießen neue Tools aus dem Boden und verschwinden genauso schnell auch wieder. Ein Eindruck bleibt aber: Die meisten Lösungen sind mit der „heißen Nadel“ gestrickt, verwenden simple GPT-Wrapper und es fehlt eine konsequente GRC-Perspektive, die Wert auf Datenschutz, Risikomanagement und Datenhoheit legt.

Aus meiner Praxis als Webentwickler stand ich immer wieder vor der Aufgabe, nach passenden „Standardlösungen“ für Kunden zu suchen, die aus Kundensicht nicht nur einfach und unkompliziert zu managen sind, sondern auch meinen fachlichen Ansprüchen an GRC-Faktoren wie sauberen Datenschutz im Sinne der DSGVO genügen, nachvollziehbare Compliance sicherstellen und gleichzeitig eine klare und strukturierte Governance ermöglichen, die im Sinne des Unternehmens ist.

Was auf den ersten Blick wie ein Effizienzgewinn für kleine und mittlere Unternehmen aussieht, ist aus Compliance-Perspektive oft ein erhebliches Risiko. Und da wir als Agentur auch für die Auswahl externer Tools oftmals die Hand ins Feuer halten müssen, uns angesichts der hohen Intransparenz und des mangelnden Datenschutzes in vielen Tools aber nur ungern verbrennen, haben wir kurzerhand den Entschluss gefasst, einen GRC-optimierten und DSGVO-konformen KI-Chatbot zu entwickeln, der genau diese kritischen Punkte sicherstellt.

Das Kernproblem: Keine Datenhoheit bei den meisten KI-Chatbots

Die zentrale Frage, die sich jedes Unternehmen stellen muss, bevor es einen KI-Chatbot auf seiner Website einsetzt, lautet: Was passiert mit den Daten, die meine Kunden im Chat eingeben? Die Antwort ist bei den meisten Anbietern ernüchternd und bildet damit auch das Kernproblem. Fehlende Datenhoheit und Nachvollziehbarkeit über Speicherung und fortlaufende Verarbeitung von sensiblen und/oder personenbezogenen Daten sind bei fast jedem KI-Chatbot eine echte „Blackbox“.

Beispiel:

Ein Kunde besucht die Website eines Handwerksbetriebs und schreibt in den Chat: „Hallo, ich bin Max Müller aus der Kirchenstraße 12 in Hamburg. Können Sie bei uns im Bad die Fliesen erneuern? Meine Nummer ist 0170 1234567.“

In einer einzigen Nachricht mit etwa 140 Zeichen stecken Name, Adresse, Telefonnummer – alles personenbezogene Daten im Sinne des Art. 4 Nr. 1 DSGVO. Der Kunde hat sie freiwillig eingegeben, ohne gefragt zu werden. In der datenschutzrechtlichen Terminologie spricht man von „aufgedrängten Daten“. Je nach Anwendungsfall können noch medizinische oder ethnische Daten als besondere Kategorien personenbezogener Daten (Art. 9 DSGVO) dazukommen und zusätzlich an der Brisanz der Daten zündeln.

Und genau hier beginnt das Problem. Denn die meisten KI-Chatbot-Anbieter leiten diese Eingabe ungefiltert an ein Sprachmodell weiter — in der Regel an OpenAI, Anthropic oder Google. Die Daten verlassen den europäischen Rechtsraum, werden auf US-Servern verarbeitet, und der Betreiber der Website hat keine Kontrolle darüber, was mit diesen Daten geschieht.

Datenfluss-Blackbox bei KI-Chatbots: Ein echtes Problem für den Datenschutz

Das ist also nicht nur ein theoretisches Risiko. Die DSGVO ist hier eindeutig: Wer ein KI-System bereitstellt, das personenbezogene Daten verarbeitet, ist als Verantwortlicher nach Art. 4 Nr. 7 DSGVO einzustufen – und muss sämtliche Pflichten erfüllen, die damit einhergehen. Dazu gehören Rechtsgrundlage, Informationspflicht, Zweckbindung, Datenminimierung und das Recht auf Löschung. Der EU AI Act wird zudem noch weitere Stufen zur Risikoprüfung draufsatteln, die ab August 2027 ebenfalls zu berücksichtigen sind.

Ein simples „Bitte geben Sie keine persönlichen Daten ein“ als Hinweis im Chat reicht aus Compliance-Sicht also nicht aus, um die Verantwortung abzuwälzen. Kunden halten sich nicht an solche Hinweise – und das Unternehmen (oder der Website-Betreiber) bleibt in der Pflicht.

Was wir bei der Marktrecherche festgestellt haben

Im Rahmen unserer GRC-Beratungstätigkeit haben wir Dutzende KI-Chatbot-Lösungen geprüft – für unsere Kunden und für eigene Projekte. Das Ergebnis lässt sich in drei Kategorien zusammenfassen:

Kategorie 1: US-basierte Self-Service-Plattformen wie Tidio, Botsonic, Chatling, CustomGPT. Einfach einzurichten, günstiger Preis, funktional überzeugend. Aber: Datenverarbeitung auf US-Servern, keine echte PII-Kontrolle, DSGVO-Konformität bestenfalls eine Behauptung im Marketing – kein Privacy by Design.
Kategorie 2: Enterprise-Lösungen aus dem DACH-Raum wie ADVISORI, Pexon Consulting, assono und weitere. DSGVO wird ernst genommen, oft mit Privacy by Design. Aber: Hohe Projektkosten ab fünfstelligen Summen, Setup-Zeiten von Wochen bis Monaten, für KMU schlicht unbezahlbar und unverhältnismäßig teuer.
Kategorie 3: DACH-Nischen-Anbieter wie Userlike, moinAI, KI-DACH. Hier gibt es bereits „deutsches Hosting“, DSGVO-Awareness. Aber: Entweder zu teuer für Kleinunternehmen, zu generisch in der Konfiguration oder ohne echte Anonymisierung – die Daten landen trotzdem beim KI-Modell.

Was fehlte: Eine Lösung, die technische Datenschutz-Architektur (nicht nur Marketing-Claims) mit der Einfachheit verbindet, die ein Handwerker, ein kleiner Online-Shop oder ein Beratungsbüro braucht. Eine Lösung, bei der ein Fliesenleger in Hamburg in fünf Minuten einen KI-Fachberater auf seiner Website hat und trotzdem jede Datenschutzprüfung besteht. Ein KI-Chatbot, der sich in maximal 5 Minuten in die eigene Website integrieren lässt und idealerweise eine native Unterstützung für WordPress liefert – z. B. via WordPress-Plugin.

Die Idee: Eigenentwicklung – Privacy by Design und in unter 5 Minuten live

Wir brauchen also etwas, das es (noch) nicht gibt. Nicht zu dem Preis, nicht in der Einfachheit und vor allem nicht mit der Datenschutz-Architektur, die wir aus GRC-Perspektive für notwendig und aus KMU-Sicht für bezahlbar halten.

Die Konsequenz war die Entwicklung unserer eigenen Chatbot-Lösung: Fachagent.com – eine SaaS-Plattform für KI-Fachberater auf Websites, die DSGVO-Konformität architektonisch verankert, statt sie als Feature-Label zu verwenden.

DSGVO-konforme KI-Chatbot-Lösung von Fachagent.com

Der Kern: Ein eigener Privacy-Layer, der Datenschutz sicherstellt

Das Herzstück ist unsere Anonymisierungsschicht ainony.me, die wir kurzerhand als separaten API-Service ausgelagert haben. Sie sitzt als eigenständige Anwendung zwischen dem Chat-Widget und dem KI-Modell. Jede Nachricht durchläuft diese Schicht, bevor sie die KI erreicht:

PII-Erkennung in Echtzeit,
Maskierung durch anonymisierte Platzhalter,
Fail-Closed bei Fehlern,
vollständiger Audit-Trail.

Die KI sieht damit keine personenbezogenen Daten – die Datenminimierung passiert vor der Verarbeitung, nicht danach.

Andere Anbieter setzen auf „EU-Server“ als DSGVO-Argument. Das ist notwendig, aber nicht hinreichend. Solange personenbezogene Daten das KI-Modell erreichen, findet eine Verarbeitung statt, unabhängig vom Serverstandort. Ainony.me und Fachagent eliminieren dieses Problem an der Wurzel.

Privacy Layer im KI-Chatbot von Fachagent

Was Fachagent darüber hinaus löst

Für den Nutzer läuft die gesamte Compliance-Architektur im Hintergrund. Das Setup ist einfach:

URL eingeben,
Branchenvorlage auswählen,
Chat-Widget einbinden – fertig.

Die Anonymisierung, das Audit-Logging und die Transparenzhinweise nach EU AI Act passieren vollautomatisch und revisionssicher. Der Handwerker, der seinen Chatbot einrichtet, muss sich nicht mit Art. 32 DSGVO beschäftigen. Das System stellt es sicher.

Fachagent ist nicht entstanden, weil der Markt noch einen Chatbot brauchte, sondern weil wir eine Lösung anbieten wollten, die Datenschutz durch transparente und nachvollziehbare Architektur garantiert und gleichzeitig ein präzises Beratungsangebot mit Lead-Generierung für Endkunden anbietet. Und genau das sind Features von Fachagent.

Der ideale KI-Chatbot für WordPress-Websites

WordPress ist das meistgenutzte CMS der Welt – und die Grundlage für Hunderttausende KMU-Websites im DACH-Raum. Gleichzeitig ist das WordPress-Ökosystem ein besonderer Risikobereich: Plugins laden externe Scripts, übertragen Daten an Drittanbieter und schaffen Angriffsvektoren, die vielen Betreibern nicht bewusst sind.

Für Fachagent haben wir deshalb ein eigenes WordPress-Plugin entwickelt, das die Integration des KI-Chatbots in WordPress so einfach wie möglich macht. Das Plugin verbindet die WordPress-Website mit dem Fachagent-Backend über einen API-Key. Das Chat-Widget wird asynchron geladen und hat keinen Einfluss auf die Seitenperformance. Es ist kompatibel mit allen gängigen Themes, Page-Buildern und Cookie-Consent-Plugins.

Der entscheidende Punkt: Das Plugin selbst überträgt keine personenbezogenen Daten. Es lädt lediglich das Widget, das die Chat-Oberfläche bereitstellt. Die gesamte Datenverarbeitung – inklusive Anonymisierung – läuft über das Fachagent-Backend auf deutschen Servern. Der WordPress-Betreiber hat keine zusätzliche Datenschutz-Verantwortung durch das Plugin, die über die normale Chatbot-Nutzung hinausgeht.

Du kannst Fachagent ab sofort 14 Tage kostenlos testen. Eine Registrierung reicht völlig aus und erfordert keine Zahlungsmethode.

Der Beitrag Fachagent als DSGVO-konformer KI-Chatbot für KMU erschien zuerst auf ELSEN GRC.

Kritische Sicherheitslücke in Claude Cowork entdeckt

Mario Elsen — Mon, 26 Jan 2026 21:37:08 +0000

Executive Summary: Sicherheitslücke in Claude Cowork – Datei-Diebstahl via Prompt Injection?

Nur wenige Tage nach dem Start von Claude Cowork haben Sicherheitsforscher eine kritische Schwachstelle ermittelt: Angreifer können in scheinbar harmlosen Dokumenten wie E-Mails, PDFs und anderen Filesunsichtbare Anweisungen verstecken, die den KI-Agenten wie Claude’s „Cowork“ dazu bringen, vertrauliche Dateien aus verbundenen Ordnern des lokalen Systems zu exfiltrieren – und zwar ohne menschliche Genehmigung. Der Angriff nutzt eine bekannte Isolationsschwäche in der containerisierten Codeausführungsumgebung von Claude, die laut Berichten zwar bekannt, aber bislang nicht aktiv geschlossen wurde. Für Governance, Risk und Compliance ist das ein klassischer „Reality Check“: Sobald KI-Agenten Zugriff auf lokale Dateisysteme, Integrationen oder Unternehmensdaten erhalten, wird Prompt Injection nicht zu einem theoretischen Risiko, sondern zu einem konkreten Datenabfluss-Szenario mit potentiell erheblichen Folgeschäden.

Der Fall zeigt sehr plastisch, warum „agentische“ KI-Systeme („agentic ai“, also KI, die nicht nur antwortet, sondern Aktionen ausführt) eine neue Risikoklasse darstellen. Die Kernfrage für Organisationen lautet nicht mehr: „Ist das Tool nützlich?“, sondern: Welche Daten dürfen überhaupt in Reichweite eines KI-Agenten liegen – und wie verhindern wir, dass der Agent auf manipulierte Anweisungen reagiert?

Was ist Claude Cowork und warum ist die Sicherheitslücke in Claude Cowork so kritisch?

Claude Cowork ist eine vollständig durch die von Anthropic entwickelte KI Claude automatisiert geschriebene Agenten-Software, die als produktiver KI-Begleiter gedacht ist, der mit der (lokalen) Arbeitsumgebung interagieren kann – z. B. über verbundene Ordner, Browser-Aktionen oder Integrationen. Wir sprechen also über eine direkte Integration von KI in die Systemumgebung beispielsweise von MacOS.

Genau diese Nähe zur „echten“ Datenquellen macht den Unterschied zu einem normalen Chatbot wie ChatGPT oder Google Gemini. Denn anders als in diesen Chat-basierten LLMs müssen in Claude Cowork keine Dateien hoch- und wieder runtergeladen werden, um eine aktive (Mit-) Arbeit der KI zu ermöglichen, sondern dieses geschiehet direkt im Dateisystem des lokalen Rechners. Claude nutzt dabei das bereits aus Claude Code bekannte „Terminal System“, das insbesondere bei Softwareentwickler sehr beliebt ist und erheblichen Vorteile gegenüber der Entwicklung beispielsweie mit OpenAIs „Codex“ beitet.

Wenn ein Agent Dateien lesen und Aktionen ausführen kann, wird jede Eingabe- oder Dokumentquelle zu einer potenziellen Angriffsfläche. heise und t3n sprechen in diesem Zusammenhang von Dateiexfiltration über indirekte Prompt-Injektionen – also versteckte Befehle, die nicht in der sichtbaren Benutzeranweisung stehen, sondern „im Hintergrund“ in einem Dokument platziert werden. Klassischen Beispiele sind schwarze Schriften auf schwarzem Hintergrund oder weiße Schriften auf weißem Hintergrund, die über eingelesene PDF-, Word- oder auch HTML-Dokumente direkt in den Systemprompt wandern und unauthorisierte Aktionen durchführen könnten.

So läuft der Angriff ab: „Harmloses Dokument“ + versteckte Anweisung = Datei-Upload

Die von Sicherheitsforschern beschriebene Angriffskette ist aus Angreifersicht unangenehm simpel: Ein Nutzer verbindet Claude Cowork mit einem lokalen Ordner, in dem auch vertrauliche Inhalte liegen (z.B. Fotos, andere Dokumente, Source Code). Danach wird eine Datei (z. B. eine Word-Datei) in Cowork geladen, die wie ein nützliches Hilfsdokument wirkt – in der Praxis werden solche „Prompt- oder Skill-Dateien“ gerne online geteilt, was die Eintrittswahrscheinlichkeit erhöht. In das Dokument ist jedoch eine Anweisung eingebettet, die für Menschen praktisch unsichtbar ist, etwa durch sehr kleine Schrift und Farb-/Layout-Tricks. The Decoder beschreibt das konkret als 1-Punkt-Schrift, weiß auf weiß, mit minimalem Zeilenabstand.

Wenn der Nutzer Cowork dann bittet, die vertraulichen Daten „auf Grundlage“ dieses Dokuments zu analysieren, übernimmt die versteckte Anweisung die Kontrolle. Laut heise und t3n wird der Agent dabei u. a. angewiesen, einen curl-Befehl auszuführen und eine Datei über die Anthropic File-Upload-API hochzuladen – inklusive Übermittlung eines API-Schlüssels der Angreifer, sodass die Datei direkt auf deren Konto landet. Besonders relevant: Während dieses Ablaufs ist keine manuelle Freigabe erforderlich.

Warum eine Sicherheitslücke bei Claude Cowork so schwer zu erkennen ist

Ein zentraler Punkt ist, dass der Datenabfluss nicht „wie Malware“ wirkt. Der Upload passiert über legitime, für das Produkt notwendige Schnittstellen. Laut Berichten bleibt der Angriff oft unentdeckt, weil die Anthropic-API als vertrauenswürdig gilt und daher nicht automatisch als verdächtiger Datenabfluss auffällt.
heise und t3n greifen zudem die Kritik auf, dass „Achtet auf verdächtige Aktionen“ als Warnhinweis für normale Nutzer nicht realistisch ist – Prompt Injection ist für viele Anwender schlicht nicht zuverlässig erkennbar.

GRC-Relevanz: Was bedeutet das für Governance, Risk und Compliance?

Auch für diesen sicherheitsrelevanten Case mit Claude Cowork nehme ich eine Einordnung in den Kontext von GRC vor, damit IT-Leader, IT-Spezialisten und Berater auf die neuen Bedrohungen durch agentische Systeme in Zukunft besser reagieren können:

Governance: KI-Agenten mit Datei- oder Integrationszugriff gehören nicht in die „Tool-Ecke“ einzelner Teams. Es braucht klare Policies: Welche Verzeichnisse dürfen angebunden werden? Welche Datenklassen sind tabu (Kundendaten, Verträge, HR, Quellcode, Finanzzahlen)? Welche Tools und Schnittstellen sind freigegeben – und mit welchen Settings?

Risk: Prompt Injection ist hier kein abstraktes Modellrisiko, sondern ein Datenabfluss-Risiko durch nicht vertrauenswürdige Inputs (Dokumente, Webseiten, geteilte „Skills“). Das Thema gehört klar in das Cyber-Risikomanagement: Eintrittswahrscheinlichkeit für Schäden steigt, sobald Agenten in reale Workflows integriert werden. Schadenshöhe ist potenziell hoch, weil es um vertrauliche Dateien geht – und diese könne personenbezogene, sensible Daten enthalten ebenso wie schützenswerte Geschäfts- und Kundendaten.

Compliance: Sobald personenbezogene Daten oder vertrauliche Unternehmensinformationen betroffen sein können, treffen Datenschutz, Geheimhaltung, Vertrags- und Sicherheitsanforderungen aufeinander. Organisationen müssen nachweisen können, dass sie angemessene TOMs etabliert haben – und dass KI-Tools nicht „ungeprüft“ Zugriff auf sensible Daten erhalten. Der Fall ist zudem ein gutes Beispiel für „Shadow AI“: Wenn Mitarbeitende solche Agenten eigenständig anbinden, entstehen Compliance-Risiken außerhalb formaler Kontrollen.

Pragmatische Konsequenzen: Was Unternehmen jetzt tun sollten

Wer agentische KI-Tools testet oder unmittelbar einführen will, sollte kurzfristig drei Leitplanken setzen:

Scope begrenzen (nur nicht-sensitive Testdaten, keine lokalen Ordner mit sensiblen Kundendaten).
Input-Hygiene (keine fremden „Skills“, Prompt-Dateien oder Dokumente aus unklaren Quellen in produktive Workflows).
Kontrollen einziehen (Monitoring, DLP (Data Loss Prevention)/Upload-Kontrollen, klare Freigabeprozesse für Integrationen und Datei-Zugriffe). Diese Maßnahmen ersetzen keine Produkt-Fixes – reduzieren aber das Risiko, bis Anbieter wirksame Schutzmechanismen liefern.

Beratung zur sicheren KI-Nutzung im Kontext Cybersecurity durch Elsen GRC

Elsen GRC unterstützt Unternehmen, SaaS-Anbieter und Behörden dabei, KI-Agenten und KI-Integrationen GRC-sicher zu betreiben – insbesondere dort, wo Datei-, System- oder Integrationszugriffe ins Spiel kommen. Dazu gehören Use-Case-Assessments, Policy- und Governance-Design (inkl. Datenklassen/Scopes), Risikoanalysen zu Prompt-Injection-Szenarien sowie die Ableitung pragmatischer TOMs (Freigaben, Monitoring, technische Guardrails). Ziel ist eine KI-Nutzung, die Produktivität ermöglicht, ohne unkontrollierte Datenabflüsse und Haftungsrisiken zu provozieren. Vereinbaren Sie gerne ein unverbindliches Beratungsgespräch.

Foto: © Claude.com

Quellen:

Der Beitrag Kritische Sicherheitslücke in Claude Cowork entdeckt erschien zuerst auf ELSEN GRC.

NIS-2 Registrierung startet – was Unternehmen jetzt wissen müssen

Mario Elsen — Tue, 13 Jan 2026 23:03:48 +0000

Executive Summary: NIS-2 Registrierung startet jetzt beim BSI – was Unternehmen jetzt wissen müssen

Mit dem Start der NIS-2 Registrierung beginnt für viele Unternehmen und Organisationen eine neue Phase verpflichtender Cybersicherheits-Compliance. Die europäische NIS-2-Richtlinie erweitert den Kreis der betroffenen Einrichtungen deutlich und verpflichtet diese, sich aktiv zu identifizieren, Sicherheitsmaßnahmen umzusetzen und Vorfälle zu melden. Auch wenn die nationale Umsetzung in Deutschland noch nicht vollständig abgeschlossen ist, laufen die Vorbereitungen für die NIS-2 Registrierung beim BSI bereits auf Hochtouren. Unternehmen sollten jetzt klären, ob sie betroffen sind, ab wann Pflichten greifen und wo die Registrierung erfolgen wird – denn eine automatische Benachrichtigung ist nicht vorgesehen.

Die NIS-2 Registrierung ist kein rein formaler Akt, sondern der sichtbare Einstieg in ein umfassendes Cybersicherheits- und Aufsichtsregime. Sie markiert den Punkt, an dem sich Organisationen gegenüber Behörden erklären müssen, ganz im Sinne von „Wir sind von NIS 2 betroffen – und wir haben unsere Risiken und Schutzmaßnahmen im Griff!“

Was ist NIS-2 überhaupt? Kurze Einordnung

Die NIS-2-Richtlinie (Network and Information Security Directive 2) ist eine EU-weite Vorgabe zur Stärkung der Cyber-Resilienz. Sie ersetzt die bisherige NIS-Richtlinie und reagiert auf die zunehmende Bedrohung durch Cyberangriffe, Lieferkettenrisiken und systemische IT-Abhängigkeiten – auch im Kontext von KI.

Im Kern verpflichtet NIS 2 betroffene Organisationen dazu, angemessene technische und organisatorische Maßnahmen (sog. TOMs) zur IT- und Informationssicherheit umzusetzen, Sicherheitsvorfälle zeitnah zu melden und die Verantwortung klar auf der Leitungsebene zu verankern. Cybersicherheit wird damit ausdrücklich zur Management- und Governance-Aufgabe.

Ab wann gilt NIS-2 – und was bedeutet das für die Registrierung?

Die NIS-2-Richtlinie ist auf EU-Ebene bereits in Kraft getreten. Die Mitgliedstaaten müssen sie in nationales Recht überführen. In Deutschland erfolgt dies über das NIS-2-Umsetzungs- und Cybersicherheitsstärkungsgesetz, das sich aktuell noch im Gesetzgebungsverfahren befindet.

Unabhängig davon bereiten die zuständigen Behörden, insbesondere das Bundesamt für Sicherheit in der Informationstechnik (BSI), bereits die NIS-2 Registrierung vor. Geplant ist ein zentrales Registrierungsportal, über das betroffene Unternehmen ihre Zugehörigkeit anzeigen müssen. Die Registrierung ist damit eine aktive Pflicht: Unternehmen müssen selbst prüfen, ob sie unter NIS 2 fallen, und sich fristgerecht registrieren.

Für wen gilt die NIS-2 Registrierung und wer muss sich registrieren?

Die NIS-2-Richtlinie erweitert den Anwendungsbereich erheblich. Betroffen sind nicht mehr nur klassische Kritische Infrastrukturen, sondern auch viele mittelständische Unternehmen und KMU. Maßgeblich sind dabei vor allem Branche, Unternehmensgröße und Funktion.

Erfasst werden unter anderem Unternehmen aus den Bereichen Energie, Verkehr, Wasser, Gesundheitswesen, digitale Infrastruktur, IT-Dienstleistungen, Cloud- und Rechenzentrumsbetrieb, Industrie, Entsorgung sowie Teile der öffentlichen Verwaltung. Die Richtlinie unterscheidet zwischen wesentlichen Einrichtungen und wichtigen Einrichtungen. Beide Gruppen unterliegen der NIS-2 Registrierung und verbindlichen Sicherheitsanforderungen – mit abgestufter Aufsicht und Sanktionierung.

NIS-2 gilt also insbesondere für:

Unternehmen ab 50 Mitarbeitenden oder 10 Mio. € Jahresumsatz, sofern sie in einem erfassten Sektor tätig sind
Kritische und wichtige Branchen wie Energie, Verkehr, Gesundheitswesen, Wasser, digitale Infrastruktur, IT- und Cloud-Dienstleister
Unternehmen mit systemischer Bedeutung, z. B. Managed Service Provider, Rechenzentren, SaaS- und Plattformanbieter
Öffentliche Einrichtungen und Behörden, soweit sie unter den erweiterten Anwendungsbereich der Richtlinie fallen

Wo startet die Registrierung für NIS-2 beim BSI?

Die NIS-2 Registrierung soll in Deutschland zentral über ein BSI-Portal erfolgen (Link zur BSI-Pressemitteilung). Dort müssen Unternehmen künftig Angaben zu ihrer Organisation, Branche und Rolle machen. Auf dieser Basis erfolgt die Zuordnung zum NIS-2-Regime und die weitere aufsichtsrechtliche Betreuung.

Mit der Registrierung gehen weitere Pflichten einher: die Benennung von Ansprechpartnern, die Vorbereitung auf Meldepflichten bei Sicherheitsvorfällen sowie die Nachweisbarkeit von Sicherheitsmaßnahmen. Die Registrierung ist damit der erste formale Schritt in eine laufende Compliance-Beziehung mit der Aufsichtsbehörde.

Die NIS-2 Registrierung ist beim BSI über das BSI-Portal möglich

Bedeutung der NIS-2 Registrierung für Governance, Risk und Compliance

Aus GRC-Sicht stellt die NIS-2 Registrierung den Startpunkt für ein dauerhaftes Cybersicherheits-Management dar. Entsprechende Governance-Strukturen müssen sicherstellen, dass die Geschäftsleitung informiert, eingebunden und verantwortlich ist. Risiko-Management muss Cyberrisiken systematisch erfassen, priorisieren und regelmäßig überprüfen – auch mit Blick auf Dienstleister und Lieferketten.

Für die Compliance bedeutet NIS 2, dass Sicherheitsmaßnahmen, Schulungen, Risikoanalysen und Incident-Prozesse nicht nur existieren, sondern dokumentiert und prüfbar sein müssen. Die Registrierung macht Organisationen sichtbar – und damit auch überprüfbar. Wer hier also noch keine passenden Risk- und Compliance-Management Prozesse etabliert hat, sollte sich spätestens nach der Registrierung sputen!

Unterstützung bei der Registrierung durch Elsen GRC

Elsen GRC begleitet Unternehmen und öffentliche Stellen bei der NIS-2 Registrierung und der anschließenden Umsetzung der Anforderungen. Dazu gehören die Prüfung der Betroffenheit, die strukturierte Vorbereitung auf das BSI-Portal, der Aufbau oder Abgleich von Governance- und Risiko-Strukturen sowie die Integration von NIS-2-Pflichten in bestehende Compliance-Systeme.

Ziel ist es, die Registrierung nicht als isolierte Pflicht zu behandeln, sondern als Einstieg in eine belastbare und zukunftsfähige Cyber-Governance. Gerne unterstütze ich Sie dabei im Rahmen eines unverbindlichen Erstgesprächs.

Foto: Joshua Woroniecki – Unsplash.com

Quellen:

Der Beitrag NIS-2 Registrierung startet – was Unternehmen jetzt wissen müssen erschien zuerst auf ELSEN GRC.

RSL Standard für KI-Suche: Neuer Ordnungsrahmen für Internet-Inhalte

Mario Elsen — Fri, 19 Dec 2025 21:13:10 +0000

Executive Summary: RSL Standard für KI-Suche

Mit RSL 1.0 („Really Simple Licensing“ oder auch „Responsible Search Language“) entsteht erstmals ein technischer Standard, der nicht mehr nur regelt, ob Inhalte gecrawlt werden dürfen, sondern wie und zu welchem Zweck Inhalte von KI-Systemen genutzt werden dürfen. Der RSL Standard für KI-Suche adressiert damit das bisherige Internet-Governance Vakuum: Die robots.txt als Crawler-Steuerung ist für klassische Suchmaschinen wie Google gedacht, nicht für LLMs, KI-Suchsysteme und Answer Engines. RSL ermöglicht es Organisationen, maschinenlesbar festzulegen, ob Inhalte indexiert, zusammengefasst, in KI-Antworten verwendet oder für Trainings- und Finetuning-Zwecke der LLMs genutzt werden dürfen. Für CEOs, Tech Leads und Management markiert RSL einen Wendepunkt: Die Kontrolle über digitale Inhalte verschiebt sich von impliziter Duldung hin zu expliziter, strategischer Steuerung.

Der neue RSL Standard für KI-Suche ist mehr als nur technisches Detail. RSL ist ein neuer technischer Standard zur Steuerung der KI-basierten Nutzung von Web-Inhalten, aber kein Lizenzvertrag im rechtlichen Sinn. Er wird damit zu einem Instrument, mit dem Organisationen Verantwortung für die Positionierung ihrer Inhalte im wachsenden KI-Ökosystem.

Warum der RSL Standard die robots.txt im KI-Zeitalter ersetzen wird

Die mittlerweile „in die Tage gekommene“ robots.txt kennt im Kern nur zwei Zustände: erlauben oder verbieten. Dieses binäre Modell funktioniert für klassische Webcrawler, versagt aber im Kontext moderner KI-Systeme. Ein einfaches Beispiel:

# robots.txt
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php

Allen User-Agents ist es also erlaubt, die Verzeichnisse zu durchsuchen, mit Ausnahme des Verzeichnisses /wp-admin/, wobei /wp-admin/admin-ajax.php erlaubt ist. Einschränkungen lassen sich also granular festlegen.

LLMs und KI-Suchmaschinen nutzen Inhalte aber nicht nur zur Auffindbarkeit, sondern zur semantischen Verarbeitung: Sie extrahieren Wissen, erzeugen Zusammenfassungen, kombinieren Inhalte über Quellen hinweg und integrieren diese in direkte Antworten oder die eigenen Datenstrukturen und Modelle.

Genau hier setzt RSL an. Der Standard trennt erstmals sauber zwischen unterschiedlichen Verwendungszwecken von Inhalten. Damit reagiert er auf eine Realität, die viele Organisationen längst spüren: Inhalte werden heute nicht mehr nur „gefunden“, sondern automatisiert weiterverarbeitet. Ohne explizite Steuerung entsteht ein Kontrollverlust – technisch, rechtlich wie strategisch.

Beispiel und Verwendung des RSL Standards für Websites

Der RSL-Standard ermöglicht es Website-Betreibern, maschinenlesbar und zweckbezogen festzulegen, wie KI-Suchsysteme, Answer Engines und Crawler Inhalte verwenden dürfen. Anders als bei robots.txt geht es nicht nur um „zulassen“ oder „blockieren“, sondern um konkrete Nutzungsbedingungen wie Indexierung, KI-Zusammenfassungen oder Wiederverwendung, inklusive Lizenz- und Attributionspflichten.

Das folgende Beispiel zeigt eine bewusst offene Freigabe für die gesamte Website, gekoppelt an eine klare Bedingung: Nutzung ist erlaubt, aber nur mit Quellenangabe nach CC BY 4.0.


  
    
      all
      
        
        https://creativecommons.org/licenses/by/4.0/

Erklärung der RSL-Bestandteile:

Technisch bedeutet , dass die Regel für den gesamten Webauftritt (Root und Unterseiten) gilt.
Mit all wird die Nutzung der Inhalte grundsätzlich erlaubt, also nicht nur das Crawlen, sondern je nach Implementierung auch die Weiterverarbeitung in KI-Suchen und KI-Antwortsystemen.
Der Block definiert die Gegenbedingung: Es ist keine Bezahlung im monetären Sinne, sondern viel mehr eine Verpflichtung zur Attribution.
Über wird diese Pflicht an eine etablierte Lizenz gekoppelt, hier Creative Commons BY 4.0, was bedeutet: Inhalte dürfen genutzt und wiedergegeben werden, solange eine nachvollziehbare Quellenangabe erfolgt.

Aus GRC-Sicht ist entscheidend, dass solche Freigaben eine bewusste Governance-Entscheidung sind: Sie erhöhen Reichweite und Auffindbarkeit, können aber auch Kontroll- und Verwertungsrisiken erhöhen, wenn Attribution praktisch nicht durchgesetzt oder überprüft wird. Das betrifft insbesondere Plattformen oder beispielsweise Organisationen mit Mediensammlungen oder Archiven, für die gesonderte Nutzungsbedingungen abgeschlossen wurden, die vor der Ausbreitung von KI-Systemen abgeschlossen wurden.

Wie wird RSL verwendet und in Websites eingebunden?

Die RSL Datei kann auf unterschiedliche Weisen in Websites eingebunden werden. In Kürze stellen wir hier eine weiterführende Anleitung für die Einbindung von RSL-Dateien bereit. In der Zusammenfassung:

RSL-Datei statisch bereitstellen: RSL als XML unter einer festen, öffentlichen URL veröffentlichen (z. B. /.well-known/license.xml oder /license.xml)
RSL Discovery ermöglichen: In der robots.txt auf die RSL-Datei verweisen (RSL: https://…/license.xml), optional zusätzlich im HTML-Head verlinken (z.B.
Struktur sauber halten: Gültiges XML, korrekter Content-Type, stabile URL und http Status 200 sicherstellen
Governance beachten: RSL-Regeln strategisch und nicht wahllos festlegen, dokumentieren und regelmäßig überprüfen

Wichtig: RSL ist ein Signal, kein rechtlicher Zwang. Deshalb sollte der Standard auch so genutzt werden.

Auf unserer Agentur-Website haben wir einen ausführlichen Beitrag erstellt, der erklärt, wie man eine RSL-Datei in Websites und WordPress einbindet.

Was der RSL Standard für KI-Suche tatsächlich regelt

Der RSL Standard für KI-Suche ist als deklaratives Regelwerk konzipiert, das KI-Systemen klare Nutzungsgrenzen signalisiert. Im Fokus steht nicht der einzelne Bot oder AI-Agent, sondern die Art der Nutzung von Inhalten. Organisationen können differenzieren, ob Inhalte etwa:

für klassische Suchindizes genutzt werden dürfen,
in KI-generierten Antworten oder Zusammenfassungen erscheinen dürfen,
für Trainings- oder Finetuning-Zwecke ausgeschlossen sind,
nur unter bestimmten Bedingungen weiterverarbeitet werden dürfen.

Damit entsteht erstmals eine technische Sprache für Content-Governance im KI-Kontext. Wichtig ist jedoch: RSL ist kein rechtlicher Zwangsmechanismus. Er entfaltet seine Wirkung nur dort, wo KI-Anbieter ihn respektieren. Genau hier beginnt die strategische Dimension für Management und Technologieverantwortliche.

Strategische Auswirkungen für Unternehmen, Plattformen und Behörden

Für Unternehmen mit wissensbasierten Geschäftsmodellen (z.B. Beratung, Medien, Software, Industrie, Forschung, Archivierung von Webinhalten) wird RSL 1.0 zu einem strategischen Steuerungsinstrument. Inhalte sind nicht mehr nur Marketing-Asset, sondern Trainings- und Wissensquelle für KI-Systeme Dritter. Wer hier keine klare Position bezieht, überlässt anderen die Wertschöpfung und verschenkt so wertvolles Potential für mehr Sichtbarkeit durch den RSL Standard!

Für Tech Leads bedeutet RSL zusätzlichen Abstimmungsbedarf zwischen Content, IT, Recht und Produkt. Es reicht nicht, den Standard technisch umzusetzen, entscheidend ist die vorgelagerte Frage: Welche Inhalte wollen wir bewusst für KI freigeben, und welche nicht?

Behörden wiederum erhalten mit RSL ein Instrument, um Informationsangebote kontrolliert zugänglich zu machen, ohne dass amtliche Inhalte ungefiltert in KI-Antwortsystemen landen. Gerade im Kontext von Neutralität, Haftung und öffentlicher Kommunikation kann RSL helfen, klare digitale Leitplanken zu setzen.

Bedeutung für Governance, Risk und Compliance

Aus Governance-Sicht zwingt RSL Organisationen zu klaren Entscheidungen. Content-Freigaben für KI sind keine technische Detailfrage, sondern Management-Entscheidungen mit Auswirkungen auf IP, Reputation und Wettbewerbsfähigkeit. Im Risiko-Management verschiebt sich der Fokus: Das Risiko liegt nicht mehr nur im unautorisierten Zugriff, sondern in der ungewollten semantischen Nutzung von Inhalten. RSL kann Risiken reduzieren, ersetzt aber keine übergeordnete KI- und Datenstrategie und schon gar nicht den Schutz sensibler Daten, die innerhalb eines Website-Ökosystems gespeichert sind.

Für die Compliance stellt sich die Frage der Nachvollziehbarkeit: Wie dokumentieren Organisationen ihre RSL-Regeln? Wie überwachen sie deren Einhaltung? Und wie integrieren sie den Standard in bestehende Datenschutz-, IP- und KI-Governance-Strukturen? RSL ist freiwillig, deshalb braucht es klare interne Prozesse. Gerne unterstützen wir Sie bei der Einführung passender Governance-Frameworks.

Beratung zum RSL Standard und KI-Suche

Elsen GRC unterstützt Unternehmen, Tech-Organisationen und Behörden dabei, den RSL Standard für KI-Suche, die Indexierung und Limitierung für LLM-Verarbeitung strategisch sinnvoll einzuordnen und umzusetzen. Im Fokus steht nicht die reine Technik, sondern die Verbindung von Urheber- und Nutzungsrechten, Content-Strategie, KI-Governance, Risiko-Management und Compliance.

Wir begleiten Management-Teams, Redaktionen und Content-Ersteller bei der Entscheidung, welche Inhalte für KI-Systeme freigegeben werden sollten, entwickeln mit Ihnen klare Content- und KI-Policies und unterstützen bei der Integration von RSL in bestehende Governance- und Kontrollmodelle. Wir führen auch konkrete Risiko-Checks für den Einsatz von KI durch. Ziel ist es, digitale Sichtbarkeit und Innovationsfähigkeit der eigenen Website, Inhalte und Organisation zu erhalten, ohne die Kontrolle über die eigenen Inhalte und Risiken im KI-Zeitalter zu verlieren.

Melden Sie sich gerne für ein unverbindliches Erstgespräch.

Foto: Screenshot / rslstandard.org

Quellen:

Der Beitrag RSL Standard für KI-Suche: Neuer Ordnungsrahmen für Internet-Inhalte erschien zuerst auf ELSEN GRC.

Streit um KI-Urheberrecht eskaliert: OpenAI muss 20 Millionen Chatprotokolle offenlegen

Mario Elsen — Tue, 09 Dec 2025 16:00:06 +0000

Executive Summary: Streit um KI-Urheberrecht – OpenAI muss Chatprotokolle offenlegen

Der aktuelle Streit um KI-Urheberrecht zwischen der New York Times (NYT) und OpenAI erreicht eine neue Eskalationsstufe: Ein US-Bundesgericht verpflichtet OpenAI, rund 20 Millionen anonymisierte Chatprotokolle (von ChatGPT-Nutzern) an die NYT herauszugeben. Die Protokolle stammen aus einer zufälligen Stichprobe von Consumer-Chats zwischen Dezember 2022 und November 2024 und sollen belegen, ob ChatGPT urheberrechtlich geschützte Inhalte der NYT im Rahmen von Nutzeranfragen reproduziert hat. Laut Gericht sollen die Daten „de-identifiziert“ werden, was der Entfernung etwa von Namen, E-Mail Adressen oder sonstigen personenbezogenen Daten beschreibt. Allerdings ist eine De-Identifizierung nicht das Gleiche wie eine „Anonymisierung“. OpenAI warnt daher vor erheblichen Eingriffen in die Privatsphäre der Nutzer, da der Kontext Rückschlüsse auf die verarbeiteten Daten gewähren könnte.

Für Governance, Risk und Compliance (GRC) stellt sich damit eine zentrale Frage: Können wir uns darauf verlassen, dass Chatprotokolle von LLM-Anbietern tatsächlich ausreichend anonymisiert sind? Wie können wir verhindern, dass diese im Rahmen von Gerichtsprozessen herausgegeben werden müssen? Und wie erfahren Organisationen, ob sensible oder Geschäftsinformationen oder Inhalte ihrer Mitarbeitenden in solchen Datenpools landen, wenn der Streit um KI-Urheberrecht vor Gericht ausgetragen wird? Steigen wir ein.

Hintergrund: Streit um KI-Urheberrecht und Offenlegung von Chatprotokollen

Im Kern des aktuellen Streits um KI-Urheberrecht steht der Vorwurf der NYT, dass OpenAI journalistischen Inhalte des Magazins ohne Lizenz für das Training von KI-Modellen genutzt habe. Wie heise online berichtet, hat ein US-Gericht OpenAI nun verpflichtet, eine große Menge an Chatprotokollen offenzulegen, damit geprüft werden kann, ob ChatGPT Inhalte der NYT wortgleich oder in wesentlichen Teilen reproduziert hat. Die Richterin hält die Protokolle für prozessrelevant und sieht den Datenschutz durch eine vorherige Anonymisierung als ausreichend gewahrt. Bekanntlich sehen US-Instanzen aber kein vergleichbares Datenschutz-Niveau wie etwa nach DSGVO-Standard.

Laut The Decoder handelt es sich um eine zufällig gezogene Stichprobe von 20 Millionen ChatGPT-Unterhaltungen von Consumer-Nutzern aus dem Zeitraum Dezember 2022 bis November 2024. Ursprünglich hatte die NYT sogar die Herausgabe von rund 1,4 Milliarden Chats gefordert, konnte sich damit aber nicht gerichtlich durchsetzen. OpenAI hat gegen die Entscheidung Berufung eingelegt, muss die Daten nach derzeitigem Stand aber innerhalb eines engen Zeitfensters bereitstellen.

Parallel dazu weitet sich der Streit um KI-Urheberrecht aus: Die New York Times verklagt zusätzlich andere KI-Unternehmen wie Perplexity wegen angeblich unlizenzierter Nutzung von Medieninhalten, während Meta versucht, das Thema durch Lizenzabkommen mit Verlagen zu entschärfen. Es geht längst nicht mehr nur um einen Einzelfall, sondern um die grundsätzliche Frage, wie Medieninhalte in KI-Modellen genutzt werden dürfen – und welche Rolle dabei Nutzerdaten und Chatprotokolle spielen.

Was wird bei Gerichten offengelegt und warum ist das GRC-relevant?

Offiziell sollen die Chatprotokolle vor der Übergabe „de-identifiziert“ werden: Klarnamen, direkte Identifikatoren und offensichtliche personenbezogene Daten sollen entfernt werden, bevor sie bei der NYT landen. Aus GRC-Perspektive ist damit jedoch nur ein Teil des Problems adressiert. In vielen Organisationen wurden und werden öffentliche KI-Dienste wie ChatGPT mit privaten Accounts genutzt – oft ohne klare Richtlinien, welche Inhalte eingegeben werden dürfen. Es existieren also in den wenigsten Fällen echte Policies in Unternehmen und Behörden, die den Umgang mit den Chatbots regeln.

Aber selbst wenn keine Namen mehr enthalten sind, können Kontexte und Kombinationen von Informationen weiterhin Rückschlüsse auf personenbezogene Daten oder Organisationsdaten zulassen: projekt- oder kundenspezifische Bezeichnungen, interne Produkt- oder Projektnamen, spezifische Branchenkonstellationen, Standorte, Fallbeschreibungen oder interne Strategiepapiere, die nicht unter die „De-Identifikation“ fallen. Gerade in regulierten Bereichen (Gesundheitswesen, Finanzsektor, öffentliche Verwaltung) stellt sich die Frage, ob Mitarbeitende in den betroffenen Zeiträumen vertrauliche Inhalte in Consumer-Konten von ChatGPT eingetragen haben und ob diese Inhalte jetzt Teil einer anonymisierten Datenbasis werden, die im Rahmen des Streits um KI-Urheberrecht von der Times ausgewertet wird.

Hinzu kommt: Es existiert keine einfache Möglichkeit für Organisationen, festzustellen, ob sie konkret betroffen sind. Die Stichprobe ist zufällig, die Daten sind weitgehend anonymisiert, direkte Benachrichtigungen der Nutzer oder Organisationen sind nicht vorgesehen. Aus Sicht von Governance, Risk und Compliance geht es daher weniger um die Frage, ob man im Einzelfall „drin“ ist, sondern darum, ob das Risiko, in solchen Verfahren zu landen, überhaupt bewusst gesteuert oder eher zufällig in Kauf genommen wurde. Schließlich wird das nicht der letzte Streit um „KI-Urheberrechte“ sein, der in Zukunft ausgetragen werden dürfte.

Bedeutung für Governance, Risk und Compliance

Der aktuelle Streit um KI-Urheberrecht zeigt deutlich, dass KI-Nutzung nicht nur ein Technik- oder Produktivitäts-Thema ist, sondern unmittelbar in den Verantwortungsbereich von Governance, Risk und Compliance fällt. Auf der Ebene der Governance benötigen Unternehmen und Behörden klare Richtlinien, wie externe KI-Dienste genutzt werden dürfen: Welche Datenarten sind erlaubt, welche sind tabu? Müssen Mitarbeitende zwingend Unternehmensaccounts mit kontrollierten Einstellungen nutzen? Wie werden Schatten-IT und „Shadow AI“ verhindert, bei der Mitarbeitende eigenständig und ohne Freigabe Daten in öffentliche Modelle kopieren?

Auf der Ebene des Risiko-Managements muss bewertet werden, welche Folgen es haben kann, wenn sensible oder vertrauliche Inhalte in die Log- oder Trainingsdaten eines KI-Anbieters gelangen. Der vorliegende Fall zeigt, dass diese Daten später in völlig anderen Kontexten – etwa vor Gericht – wieder auftauchen können, selbst wenn sie formal anonymisiert sind. Das betrifft Geschäftsgeheimnisse ebenso wie Kunden- oder Mandanteninformationen, interne Strategien oder sicherheitsrelevante Abläufe. Auch was das im Kontext der Löschpflichten bzw. dem Recht auf Vergessenwerden nach DSGVO in Art. 17 bedeutet, ist schwer einzuordnen.

Für die Compliance bedeutet der Fall, dass Verarbeitungsverzeichnisse, Auftragsverarbeitungsverträge (DPAs), Datenschutz-Folgenabschätzungen (DSFAs) und interne Richtlinien zum Einsatz externer KI-Dienste um genau diese Szenarien erweitert werden müssen: Was passiert mit unseren Daten, wenn der Anbieter aufgrund eines gerichtlichen Beschlusses zur Offenlegung gezwungen wird? Welche Schutzmechanismen (z. B. Logging-Einstellungen, Speicherdauer, Opt-out-Optionen) haben wir technisch und vertraglich vereinbart? Und wie werden diese heute praktisch eingehalten? Gerne berate ich Sie hier.

Beratung zum Einsatz von KI-Systemen und LLMs durch Elsen GRC

Elsen GRC unterstützt Unternehmen, SaaS-Anbieter und Behörden dabei, den Einsatz von KI-Systemen wie ChatGPT und anderen Large Language Models GRC-sicher zu gestalten. Dazu gehören die Entwicklung und Einführung klarer KI-Nutzungsrichtlinien (AI Policies), die Definition zulässiger und unzulässiger Datenkategorien, der Risiko-Check beim Einsatz von KI, sowie die Gestaltung von Governance-Strukturen, mit denen Shadow-AI und unkontrollierte Nutzung externer KI-Dienste reduziert werden.

Gemeinsam mit Ihnen analysiere ich, welche Daten heute bereits in externe Modelle fließen, welche Risiken daraus entstehen und wie diese vertraglich, organisatorisch und technisch abgesichert werden können – etwa durch den Einsatz kontrollierter Unternehmenszugänge, restriktiver Logging-Policies, EU- oder On-Prem-Hosting-Varianten. Ziel ist es, die Vorteile moderner KI sinnvoll zu nutzen, ohne die Organisation im Streit um KI-Urheberrecht oder bei Datenschutz- und Sicherheitsfragen unnötig angreifbar zu machen.

Melden Sie sich gerne für ein unverbindliches Erstgespräch.

Foto: Rafael Hoyos Weht – Unsplash.com

Quellen:

Der Beitrag Streit um KI-Urheberrecht eskaliert: OpenAI muss 20 Millionen Chatprotokolle offenlegen erschien zuerst auf ELSEN GRC.

Vodafone Ausstieg aus öffentlichen Internetknoten: Was das für Governance, Risk und Compliance bedeutet

Mario Elsen — Wed, 03 Dec 2025 23:02:18 +0000

Vodafone hat in einer Pressemitteilung angekündigt, sich vollständig aus dem öffentlichen Peering zurückzuziehen. Der Vodafone Ausstieg betrifft unter anderem den führenden deutschen Internetknoten DE‑CIX. Künftig soll das Peering nicht mehr über neutrale, öffentliche Internetknoten laufen, sondern über einen privaten Anbieter – Inter.link GmbH mit Sitz in Berlin.

Vodafone begründet den Schritt mit erwarteten Vorteilen: geringere Latenzen, höhere Resilienz und niedrigere Kosten. Für Partner und Inhalteanbieter, die bisher über öffentliche Knoten peerten, bedeutet der Wechsel jedoch zusätzlichen Aufwand für Dokumentation, Prüfung und Verwaltung und künftig unter Umständen direkte Peering-Gebühren. Und ob die vermeintlichen Vorteile wirklich „bis zum Endkunden“ durchkommen, wird sich noch zeigen.

Mögliche Auswirkungen auf Unternehmen und Behörden

Der Rückzug von Vodafone aus dem öffentlichen Peering hat mehrere praktische Konsequenzen:

Netzwerkabhängigkeiten und Resilienz: Unternehmen, die bisher auf öffentliches Peering gesetzt haben (z. B. Hosting, Medien, Streaming, IT-Service), müssen prüfen, ob der neue private Pfad die gleiche Stabilität, Performance und Redundanz bietet wie zuvor.
Kostenstruktur & Vertragspartner: Für Partner, die künftig über private Peering-Provider angebunden werden, können neue Gebühren anfallen. Das kann Budgets, Preiskalkulation und Serviceverträge betreffen – gerade für kleinere Anbieter oder Behörden mit begrenztem IT-Budget.
Compliance und Transparenz: Der Austausch von Daten über privat gehostete oder vernetzte Infrastrukturen erfordert neue Prüfungen hinsichtlich Datenschutz, Datensouveränität und Auditierbarkeit – insbesondere, wenn sensitive oder personenbezogene Daten betroffen sind.
Risikomanagement & Verfügbarkeit: Ein einzelner privater Anbieter wird zur potenziellen Single Point of Failure. Für Unternehmen und Behörden gilt es, resilientere Architektur, Failover-Szenarien und unabhängige Backup-Verbindungen zu prüfen.

Insbesondere Dienstleister, Cloud-Hoster, SaaS-Anbieter und Behörden, die auf stabile, redundante Infrastruktur angewiesen sind, sollten ihre Risiko- und Compliance-Analyse entsprechend aktualisieren.

Was der Vodafone Ausstieg für Governance, Risk & Compliance bedeutet

Der Wechsel hat direkte GRC-Relevanz:

Governance muss Transparenz über Netzwerk- und Infrastrukturanbieter stellen: Wer verantwortet Routing, Verfügbarkeit und Datenschutz beim neuen Peering-Partner?
Risiko steigt: mit neuem Anbieter, privatem Peering und veränderter Netzstruktur verändern sich Angriffsflächen, Ausfallrisiken und Abhängigkeiten.
Compliance: Verträge, Datenschutzanforderungen, Datenflüsse und Auditfähigkeit müssen neu bewertet werden, insbesondere bei sensiblen oder behördlichen Daten. Welche Verträge müssen erneuert werden? Wie kann sichergestellt werden, dass die eigenen vertraglichen Pflichten erfüllt werden?

Unternehmen, die bisher auf öffentliches Peering vertraut haben, stehen vor potenziell erhöhtem Aufwand bei Sicherstellung von Datenschutz (z.B. nach DSGVO), Verfügbarkeit und Nachvollziehbarkeit, da konkrete Dokumentationspflichten und Neubewertungen von bestehenden Verträgen und Services durch den Vodafone Ausstieg aus dem Peering zu befürchten sind.

Einschätzung

Der Schritt von Vodafone mag ja aus wirtschaftlicher Sicht plausibel sein, aber für viele Beteiligte führt er zu erhöhtem Risiko und unmittelbarer Unsicherheit. Gerade für GRC-Verantwortliche, Compliance-Teams und Betreiber kritischer Infrastrukturen kann dieser Wandel einen Anlass darstellen, Netzarchitektur, Vertragsbedingungen und Schutzmaßnahmen noch einmal gründlich zu überprüfen!

Öffentliche Internetknoten waren bislang ein neutrales Rückgrat der Vernetzung. Der Rückzug eines großen Anbieters kann dazu führen, dass Infrastruktur-Neutralität schwächer wird und private Anbieter an Bedeutung gewinnen – mit allen Konsequenzen für Kontrolle, Transparenz und Risiko.

Beratung durch Elsen GRC

Elsen GRC unterstützt Unternehmen, Behörden und Dienstleister darin, ihre Infrastruktur- und Risikoarchitektur neu zu bewerten: Wir analysieren Peering-Änderungen, bewerten Auswirkungen auf Verfügbarkeit und Compliance, prüfen Datenflüsse und Abhängigkeiten, und unterstützen bei der Definition sicherer Architektur- und Governance-Standards.

Damit sichern Sie Transparenz und Compliance – auch in einem sich schnell wandelnden Netzumfeld. Schreiben Sie uns für eine unverbindliche Erstberatung.

Bild: © Matthew Buchanan – Unsplash.com

Quellen:

Der Beitrag Vodafone Ausstieg aus öffentlichen Internetknoten: Was das für Governance, Risk und Compliance bedeutet erschien zuerst auf ELSEN GRC.

Cloud-Verbot für Schweizer Behörden: Schluss mit Microsoft 365, AWS und Google Cloud?

Mario Elsen — Sun, 30 Nov 2025 19:38:47 +0000

Executive Summary: Cloud-Verbot für Schweizer Behörden?

Lange hat’s gedauert, aber nun haben auch unsere Schweizer Nachbarn ein Machtwort gesprochen: Die Schweizer Datenschutzkonferenz Privatim hat am 24. November eine weitreichende Resolution verabschiedet, die den Einsatz internationaler Cloud- und SaaS-Dienste für Behörden massiv einschränkt. Dienste wie Microsoft 365, Amazon AWS oder Google Cloud gelten für viele behördliche Datenverarbeitungen künftig als unzulässig, wenn die Daten nicht vollständig und vor allem clientseitig verschlüsselt werden, und zwar so, dass der Anbieter keinen Zugriff auf die Schlüssel hat. Ohne diese technische Voraussetzung dürfen die meisten behördlichen Datenbestände nicht mehr in einer solchen Cloud verarbeitet werden. Laut Privatim ist beispielsweise der US-Cloud Act ein nicht kontrollierbares Risiko für Schweizer Behörden, da US-Anbieter verpflichtet sein könnten, Daten ihrer Kunden an US-Behörden herauszugeben, ohne die entsprechende internationale Rechtshilfe einzuhalten. Dies gilt dann auch für Daten, die in Schweizer Rechenzentren gespeichert sind.

Die Schweizer Behörden sollen Cloud-Dienste daher nur noch nutzen, wenn die Verarbeitung mit einer eigenen, vorgelagerten Verschlüsselung ausgestattet ist und der Anbieter keinerlei Zugriffsmöglichkeiten auf Daten oder Schlüssel erhält. Ist das nicht sichergestellt, bleibt ein Dienst wie Microsoft 365 oder AWS lediglich für unkritische Prozesse oder als reiner Speicherort ohne vertrauliche Inhalte denkbar. Wie aber ein Betrieb von etwa Microsoft Teams oder Google Cloud Diensten mit vorgelagerter Verschlüsselung aussehen soll, ist natürlich schwer vorstellbar.

Wesentliche Gründe: Cloud-Verbot für Schweiz Behörden

Die Datenschutzbeauftragten kritisieren, dass internationale Cloud-Anbieter strukturell nicht gewährleisten können, dass behördliche Daten unter schweizerischer Hoheit bleiben. Besonders problematisch ist, dass weder bei Microsoft 365 noch bei anderen großen Public-Cloud-Anbietern eine echte Ende-zu-Ende-Verschlüsselung mit vollständiger Schlüsselhoheit des Kunden gewährleistet ist. Hinzu kommen komplexe Anbieterstrukturen, mangelnde Transparenz über interne Zugriffsmöglichkeiten sowie die extraterritoriale Anwendung ausländischer Gesetze wie dem US Cloud Act, durch den US-Behörden unter bestimmten Umständen Zugriff auf Daten verlangen können, selbst wenn diese auf Servern in der Schweiz lagern. Für Schweizer Behörden widerspricht dies den Anforderungen an Geheimhaltung, Amtsgeheimnis und Informationsschutz.

Die Datenschutzkonferenz betont außerdem, dass die Prüfung globaler Anbieter kaum zuverlässig möglich sei und dass die Risiken bei hoheitlichen oder sensiblen Daten deutlich höher sind als in rein privaten Nutzungskontexten. Dadurch entstehe ein Sicherheits- und Vertrauensdefizit, das ein breites Cloud-Verbot für Schweizer Behörden notwendig gemacht habe.

Auswirkungen auf Behörden und Unternehmen in der Schweiz

Behörden in der Schweiz müssen nach dieser umfangreichen Resolution ihre Cloud-Strategien neu ausrichten. Viele bisher eingesetzte Public-Cloud-Dienste sind für sensible Daten künftig nicht mehr zulässig, was neue Anforderungen an Infrastruktur, Hosting-Modelle und IT-Architekturen mit sich bringt. Private Clouds, lokal gehostete Lösungen oder Modelle mit voller Schlüsselhoheit rücken stärker in den Fokus. Für Unternehmen, die mit Behörden zusammenarbeiten oder Dienstleistungen mit personenbezogenen oder vertraulichen Daten anbieten, steigen die Anforderungen an Hosting, Architektur und Compliance also drastisch, zumindest, wenn sie mit den Schweizer Behörden weiterhin zusammenarbeiten möchten. Was das für Governance, Risk und Compliance bedeutet, schauen wir uns gleich noch an.

Die Entscheidung zeigt zudem, dass der Trend in Richtung stärkerer staatlicher Kontrolle, Datenhoheit und restriktiverer Nutzung globaler Plattformdienste geht. Für alle Organisationen, die in regulatorischen oder datensensiblen Umfeldern arbeiten, werden Souveränität, Verschlüsselungsarchitektur und transparente Datenflüsse zu zentralen Kriterien.

Bedeutung für Governance, Risk und Compliance

Für Governance, Risk und Compliance entsteht durch das Cloud-Verbot eine deutlich höhere Verbindlichkeit für alle Unternehmen, die mit Schweizer Behörden zusammenarbeiten oder Dienstleistungen mit personenbezogenen, vertraulichen oder sicherheitsrelevanten Daten erbringen. Sie müssen nachweisen können, dass ihre eigenen Cloud- und IT-Architekturen den gleichen Anforderungen genügen wie jene der Behörden selbst: Datenhoheit, überprüfbare Verschlüsselung, klare Schlüsselverwaltung, nachvollziehbare Zugriffsprozesse und vollständige Transparenz der Datenflüsse.

Gleichzeitig steigen die Risiken bei Ausschreibungen, Audits und Vertragsprüfungen, weil jede nicht souveräne Cloud-Komponente zum Ausschlusskriterium werden kann. Unternehmen benötigen daher robuste interne Governance-Strukturen, eine klare Risikoanalyse für alle eingesetzten Dienste sowie dokumentierte Compliance-Nachweise, um weiterhin rechts- und auftragsfähig im Schweizer Behördenumfeld zu bleiben.

Beratung zum Einsatz von Cloud- und SaaS-Software in der Schweiz durch Elsen GRC

Elsen GRC unterstützt Unternehmen, öffentliche Stellen und SaaS-Anbieter in der Schweiz beim Aufbau sicherer, compliance-konformer Cloud-Strategien und Cloud-Implementierungen. Dazu gehören die Bewertung der bestehenden Cloud-Architektur, die Entwicklung datenschutzkonformer Alternativen, die Prüfung von Verschlüsselungs- und Schlüsselhoheitsmodellen sowie die Begleitung bei Migration, Governance, Risikoanalyse und technischen Schutzmaßnahmen. Ziel ist es, eine tragfähige, rechtssichere und zukunftsfähige IT-Umgebung aufzubauen, die den schweizerischen Datenschutzanforderungen entspricht. Melden Sie sich gerne für ein unverbindliches Erstgespräch.

Foto: Janosch Diggelmann – Unsplash

Quellen:

Der Beitrag Cloud-Verbot für Schweizer Behörden: Schluss mit Microsoft 365, AWS und Google Cloud? erschien zuerst auf ELSEN GRC.

Angeblicher KI-Cyberangriff mit Claude? Was der Fall für Risiko-Management wirklich bedeutet

Mario Elsen — Wed, 19 Nov 2025 08:27:19 +0000

Executive Summary: Angeblicher KI-Cyberangriff mit Claude?

Anthropic hat berichtet, eine mutmaßlich staatlich unterstützte Hackergruppe habe einen weitgehend autonomen KI-Cyberangriff mit Claude durchgeführt. Laut Veröffentlichung soll das Modell große Teile der Operation selbstständig ausgeführt haben – Reconnaissance (Aufklärung), Schwachstellenscans, Code-Generierung und die Orchestrierung mehrstufiger Angriffe. Die Darstellung stellt auf den ersten Blick einen neuen Eskalationspunkt im Bereich der KI-basierten Cyberbedrohungen dar. Gleichzeitig gibt es Kritik an Methodik und Transparenz: heise und mehrere Sicherheitsexperten bezweifeln zentrale Annahmen, da Beweise, IoCs und unabhängige Validierungen von anderen Experten fehlen. Also alles nur Marketing? Dennoch bleibt die strategische Botschaft deutlich: KI kann – unabhängig vom Wahrheitsgehalt des konkreten Falls – zum unmittelbaren Angriffsverstärker werden. Das Risiko-Management muss genau darauf reagieren und sich fragen, wie autonom Cyberoperationen künftig ablaufen können, welche eigenen Systeme dafür anfällig wären, und wie Kontrollmechanismen angepasst werden müssen.

Hintergrund und Einordnung

Der Bericht von Anthropic beschreibt einen Angriff, der durch die vermutlich staatlich finanzierte Gruppe „GTG-1002″ ausgeführt wurde. Die Angreifer sollen Zugriff auf Claude Code erhalten und ihn genutzt haben, um große Teile der Cyberoperation automatisch zu koordinieren. Dazu zählen das Auswerten öffentlich verfügbarer Informationen über Zielorganisationen, die Generierung von Angriffscodes, automatisierte Testläufe, das Erstellen neuer Exploit-Varianten und die schrittweise Ausweitung des Angriffs auf weitere Systeme. In der Darstellung von Anthropic übernahm die KI rund 80 bis 90 Prozent dieser Schritte ohne manuellen Eingriff, also quasi autonom, gesteuert über nur wenige High-Level-Prompts.

Heise stellt diese Darstellung allerdings infrage. Laut mehreren Expert:innen fehlen konkrete technische Details, die notwendig wären, um die Analyse nachzuvollziehen. Es wurden weder technische Indikatoren für Kompromittierung noch nachvollziehbare Datenpunkte veröffentlicht, anhand derer nachvollziehbar wäre, wie autonom Claude tatsächlich agiert hat. Einige Fachleute bewerten den Bericht eher als Warnsignal denn als belastbares Ereignis: ein Szenario, das grundsätzlich möglich ist, dessen konkrete Ausgestaltung aber nicht zweifelsfrei belegt scheint.

Gerade diese Gemengelage – technisch plausibel, aber faktisch unklar – macht den Fall für das Risiko-Management so relevant. Unternehmen können es sich nicht leisten, auf vollständige Evidenz zu warten. Die entscheidende Frage lautet: Wie schnell können Angreifer KI-Modelle in reale Angriffsketten einbauen – und wie gut sind Organisationen darauf vorbereitet?

Das Architektur-Diagramm des versuchten Angriffs laut Anthropic (Bild: © Anthropic)

Auswirkungen auf Unternehmen und Behörden

Für Unternehmen bedeutet der Fall vor allem eine Verschiebung der Bedrohungsrealität. KI-gestützte Werkzeuge ermöglichen eine deutlich höhere Geschwindigkeit, Skalierung und Variabilität von Cyber-Angriffen. Reconnaissance, Code-Erstellung und Exploit-Anpassung können in Sekunden erfolgen und in Varianten, die klassische Signatur- oder Mustererkennungen umgehen. Organisationen, die KI bereits intern einsetzen, schaffen darüber hinaus selbst neue Angriffsflächen: unzureichend abgesicherte Modelle, API-Zugänge, Prompt-Pipelines und interne Agentensysteme können missbraucht werden, wenn sie nicht klar überwacht und kontrolliert werden.

Für Behörden, kritische Infrastrukturen und öffentliche Einrichtungen entsteht ein zusätzlicher Handlungsdruck. Die Kombination aus politisch motivierten Akteuren und KI-gestützten Tools führt zu einer Bedrohungslage, die unmittelbare Auswirkungen auf demokratische, wirtschaftliche und administrative Prozesse haben kann. Die Aufklärung KI-gestützter Angriffe ist zudem schwieriger, weil Attribution, Log-Analyse und Beweisführung deutlich komplexer werden, wenn wesentliche Teile der Angriffskette nicht mehr direkt menschlich gesteuert sind oder nicht zusammenhängend protokolliert werden können.

Sowohl privatwirtschaftliche als auch öffentliche Organisationen müssen daher ihre bestehenden Sicherheitsarchitekturen auf KI-spezifische Risiken überprüfen: Welche Systeme könnten automatisiert ausgenutzt werden? Welche internen KI-Werkzeuge müssten stärker überwacht werden? Und wie schnell können Incident-Response-Prozesse reagieren, wenn die Angriffsgeschwindigkeit nicht mehr menschlich, sondern maschinell ist?

Bedeutung für Governance, Risk & Compliance

Der Fall zeigt, dass Unternehmen nicht nur technische Sicherheitsmaßnahmen anpassen müssen, sondern auch ihre Governance-, Risk- und Compliance-Strukturen. KI-Modelle und Agentensysteme benötigen klare Verantwortlichkeiten, definierte Daten- und Zugriffskontrollen sowie revisionssichere Überwachungsmechanismen sind ein Muss. Risikobewertungen sollten künftig künstliche Autonomie, sog. „adversarial prompts“ (zum ausloten von Exploit-Möglichkeiten in KI Modellen), Missbrauch über APIs und potenziell selbstständig eskalierende Angriffspfade berücksichtigen. Die Compliance wiederum muss sicherstellen, dass alle KI-gestützten Prozesse nachvollziehbar dokumentiert, auditierbar und robust gegenüber Fehlverhalten oder Missbrauch sind.

Einschätzung zum KI-Cyberangriff mit Claude

Ob es sich im konkreten Fall um einen tatsächlich autonomen KI-Cyberangriff mit Claude handelte oder teilweise um ein „Warnszenario“ mit „Marketingcharakter“, die zentrale Erkenntnis bleibt: KI wird zum möglichen Angriffsvektor. Unternehmen, die ihre Sicherheitsarchitektur weiterhin nur im klassischen IT-Kontext betrachten, übersehen eine wesentliche Risikoentwicklung. KI-Systeme müssen künftig als eigenständige, dynamische Komponenten im Angriffsökosystem bewertet werden.

Beratung für Cyberangriffe durch KI durch Elsen GRC

Elsen GRC berät Unternehmen und Behörden dabei, ihre Cybersecurity- und Risikoarchitektur an dieses neue Bedrohungsbild anzupassen. Dazu gehört die Analyse möglicher KI-Angriffsvektoren, die Bewertung der eigenen Exponiertheit, die Entwicklung robuster Governance-Modelle für KI-Systeme sowie die Integration KI-spezifischer Risikofaktoren in bestehende Compliance- und Incident-Response-Strukturen. Darüber hinaus begleitet Elsen GRC Organisationen bei der Dokumentation, Überwachung und dem sicheren Betrieb von KI-gestützten Anwendungen – mit einem klaren Fokus auf Risikominimierung, Transparenz und praktische Umsetzbarkeit, die aus der echten Praxis von über 14 Jahren Software-Entwicklung stammt.

Unverbindliche Beratung anfordern

Bild: Peter Shiin – Unsplash.com

Quellen:

Der Beitrag Angeblicher KI-Cyberangriff mit Claude? Was der Fall für Risiko-Management wirklich bedeutet erschien zuerst auf ELSEN GRC.

DSGVO-Änderungen im „Digital Omnibus“: Tracking-Cookies bald erlaubt?

Mario Elsen — Fri, 14 Nov 2025 18:45:32 +0000

Executive Summary: DSGVO-Änderungen im „Digital Omnibus“

Die EU-Kommission plant im Rahmen des Digital Omnibus Directive weitreichende Anpassungen der DSGVO, die vor allem zwei Bereiche betreffen: Tracking-Cookies + Consent-Banner und Datenverarbeitung für KI. Die vorgeschlagenen Änderungen würden die Verwendung von Cookies künftig stärker auf berechtigtes Interesse (Art. 6 Abs. 1, Bst. f DSGVO) stützen und die Einwilligungspflicht ( Art. 6 Abs. 1 Bst. a DSGVO) erheblich reduzieren. Zusätzlich sollen pseudonymisierte Daten leichter für KI-Training und Analyseprozesse nutzbar werden, was den EU AI Act betrifft. Für Unternehmen könnte dies eine operative Erleichterung bedeuten – für Datenschützer und Behörden eine deutliche Schwächung des bestehenden Schutzstandards.

Hintergrund: Was die EU im Digital-Omnibus anstrebt

Mit dem Digital Omnibus verfolgt die EU-Kommission das Ziel, mehrere digitale Rechtsbereiche – darunter DSGVO, ePrivacy-Regelungen und Teile der KI-Regulierung (EU AI Act) zu modernisieren und administrativ zu verschlanken. Das Paket enthält Vorschläge, die das bisherige Datenschutzmodell in mehreren Kernpunkten neu ausrichten würden:

Tracking-Cookies könnten künftig häufiger auf „berechtigtes Interesse“ (Art. 6 Abs. 1, Bst. f DSGVO) gestützt werden, was die Notwendigkeit von Consent-Bannern deutlich reduzierten würde.
Besondere Kategorien personenbezogener Daten (Art. 9 DSGVO) sollen enger definiert werden – nur noch die Informationen, die „direkt“ sensible Merkmale offenbaren, (z.B. Ausweisdokumente) würden so privilegiert geschützt.
Pseudonymisierte Daten sollen breiter für KI-Training und Analysezwecke nutzbar werden, ohne die bisherigen strengen Voraussetzungen.
Datenverarbeitung für innovative digitale Dienste soll grundsätzlich erleichtert werden, um europaweit ein wettbewerbsfähiges Innovationsumfeld zu stärken.

Einer der wesentlichen Kritikpunkte vieler Datenschutzexperten ist die damit verbundene Absenkung des Grundrechtsschutzes zugunsten wirtschaftlicher Wettbewerbsfähigkeit, was langfristig sowohl gesellschaftliche als auch regulatorische Risiken schaffen könnte. Aber wie so oft steht am Ende doch das wirtschaftliche Interesse im Vordergrund.

Die wichtigsten DSGVO-Änderungen im Detail

1. Tracking-Cookies und Consent-Banner

Zentraler Punkt ist die Neugewichtung zwischen Einwilligung und berechtigtem Interesse (Art. 6 Abs. 1 Bst. a sowie Art. 6 Abs. 1, Bst. f DSGVO). Wenn Tracking- und Analyseverfahren künftig überwiegend auf berechtigtes Interesse gestützt werden dürfen, hätte das folgende Konsequenzen:

Consent-Banner würden deutlicher seltener benötigt und eingeblendet.
Tracking-Mechanismen (Analytics, Retargeting, Conversion-Messung) könnten mit weniger Reibungsverlusten eingesetzt werden.
Betreiber müssten verstärkt Opt-out-Mechanismen bereitstellen und transparent darstellen & dokumentieren (z.B. als barrierefreier Link auf der Startseite)
Die Datenqualität von Web-Analytics würde steigen, während aber das Missbrauchspotenzial steigen dürfte.

Für Unternehmen wäre dies operativ eine klare Erleichterung; für Betroffene und Aufsichtsbehörden ein erheblicher Kontrollverlust (und vermutlich auch ein Verlust an Bußgeldern).

2. KI-Training und pseudonymisierte Daten

Die vorgeschlagenen Änderungen würden es erlauben, pseudonymisierte Daten deutlich breiter für das Training von KI-Modellen zu nutzen. Dies betrifft insbesondere:

KI-Startups (LLM-Entwickler und Provider)
SaaS-Unternehmen mit großen Datenpools (Nutzung von KI-APIs)
Plattformanbieter bzw. Plattformbetreiber
Forschung & öffentliche Stellen

Mehr Spielraum bedeutet stärkere Innovationsfähigkeit, gleichzeitig steigt aber auch das Risiko der Re-Identifizierung, wenn Qualität und Integrität der Pseudonymisierung nicht gewährleistet sind.

3. Neue Definition sensibler Daten

Der Vorschlag der Kommission sieht vor, nur solche Informationen als „besonders schützenswert“ einzustufen, die unmittelbar Rückschlüsse auf Merkmale wie Gesundheit, ethnische Herkunft oder Religion zulassen (vgl. Art. 9 DSGV). Daten, die lediglich nur sensible Merkmale vermuten lassen, etwa das Einkaufsverhalten, Standortprofile oder Nutzungsdaten, würden künftig nicht mehr automatisch unter die hohen Schutzstandards fallen.

Ist das also ein Freifahrtsschein für ungebremstes Tracking? Jedenfalls hätte dies weitreichende Auswirkungen auf Prozesse wie personenbezogenes Profiling, Scoring (mit Personenbezug), Risikobewertungen, Zielgruppenanalysen oder auch KI-gestützte Verhaltensmodelle.

Auswirkungen auf Unternehmen, Behörden und Datenschutzbeauftragte

Für Unternehmen ergeben sich potenziell deutliche Arbeitserleichterungen und bürokratische „Entschlackungen“:

weniger Abhängigkeit von Consent-Banner-Logiken
größere Datengrundlage für Analytics und KI
weniger Komplexität im Cookie-Management
bessere Planbarkeit bei Marketing- und Produktanalyseprozessen

Für Behörden und Datenschutzbeauftragte entsteht jedoch zusätzlicher Druck, während in Prüfprozessen einige Anpassungen erforderlich werden:

Schutzmechanismen müssten stärker über Governance statt über Einwilligung organisiert werden
neue Prüfroutinen wären erforderlich
die Rechtslage würde kurzfristig unübersichtlicher
der gesellschaftliche Diskurs über Datenschutzstandards würde neu entfacht

Einschätzung und GRC-Einordnung

Die geplanten Anpassungen deuten auf eine strategische Verschiebung hin: von einem schutzorientierten Datenschutzmodell hin zu einem wirtschaftlich getriebenen datenpolitischen Framework, das zunehmend versucht, Wettbewerbsnachteile in Europa im rasenden „KI-Zug“ zu verhindern. Unternehmen sollten diese Entwicklung aber nicht als „Freifahrtschein” verstehen, sondern als Signal, eigene Governance-Strukturen zu professionalisieren – insbesondere in Bereichen, in denen Einwilligungspflichten entfallen könnten, aber Transparenz- und Rechenschaftspflichten bestehen bleiben.

Was bedeutet das für Ihren GRC Prozes??

Governance: Unternehmen müssen klare Verantwortlichkeiten definieren, insbesondere für Opt-out-Management, Datenkategorien und KI-Datenflüsse.
Risk: Risiken liegen vor allem im Profiling, in Diskriminierungspotenzialen und in der Gefahr der Re-Identifizierung pseudonymisierter Daten.
Compliance: Verarbeitungsverzeichnisse, DPAs, Datenschutzerklärungen und DSFAs müssen aktualisiert und an die neuen Rechtsgrundlagen angepasst werden.

Die meisten Unternehmen profitieren, wenn sie frühzeitig ihre Datenschutz- und KI-Governance modernisieren, statt nur auf die Erleichterungen zu reagieren. Gerne berate ich Sie dabei.

Bild: Vyshnavi Bisani – Unsplash.com

Quellen:

Der Beitrag DSGVO-Änderungen im „Digital Omnibus“: Tracking-Cookies bald erlaubt? erschien zuerst auf ELSEN GRC.

Entscheidungshilfe: Für wen gilt der EU AI Act?

Mario Elsen — Tue, 11 Nov 2025 13:11:44 +0000

Der EU AI Act sorgt derzeit für große Unsicherheit in der deutschen und europäischen Wirtschaft und hat ausnahmsweise mal nichts mit europäischer Gasversorgung zu tun. Viele Unternehmen (oder ihre Unternehmer) wissen nicht, ob und in welchem Umfang sie von der neuen europäischen KI-Verordnung betroffen sind. Während große Tech-Konzerne wie OpenAI, Meta und Google längst mit der Umsetzung begonnen haben, stellen sich besonders kleinere SaaS-Anbieter, Startups und mittelständische Betriebe in Deutschland eine zentrale Frage: Für wen gilt der EU AI Act überhaupt? Was muss ich beachten? Und welche Strafen drohen bei Nichteinhaltung der Regelungen?

Mit diesem Beitrag stelle ich eine Entscheidungshilfe bereit, mit der die Antwort auf diese Frage leichter fallen sollte. Doch vorweg: in vielen Fällen lautet die Antwort: ja – direkt oder indirekt. Denn der AI Act betrifft nicht nur Entwickler von KI-Systemen, sondern auch alle Unternehmen, die solche Systeme nutzen, vertreiben oder (integriert in Produkte) in den europäischen Markt einführen.

Was regelt der EU AI Act überhaupt?

Der EU AI Act ist das erste umfassende gesetzliche Flaggschiff zur Regulierung des KI-Einsatzes Künstlicher Intelligenz weltweit. Damit ist die EU zwar alles andere als technischer Vorreiter in der KI-Entwicklung – aber immerhin ganz weit vorne in der Regulierung! Ziel der Verordnung ist es, den sicheren, transparenten und verantwortungsvollen Einsatz von KI-Systemen innerhalb der Europäischen Union sicherzustellen.

Die Regelungen folgen einem risikobasierten Ansatz, den ich in diesem Beitrag bereits erklärt habe. KI-Systeme werden nach ihrem potenziellen Risiko für die Gesellschaft und die Grundrechte der Menschen in vier Kategorien eingeteilt:

Verbotene KI-Systeme: Anwendungen, die manipulativ, diskriminierend oder unvereinbar mit den Grundrechten sind.
Hochrisiko-KI: Systeme in sensiblen Bereichen wie Medizin, Personalwesen, Kreditvergabe oder kritischer Infrastruktur.
Begrenztes Risiko: Systeme mit Transparenzpflichten, etwa Chatbots oder Empfehlungssysteme.
Minimales Risiko: Anwendungen wie Spam-Filter oder Spiele-KI, die kaum reguliert sind.

Die folgende Grafik fasst die vier Risikostufen noch einmal zusammen:

Der AI Act wird schrittweise ab 2026 wirksam. Kürzlich wurden einige Übergangsfristen für den EU AI Act bis 2027 verlängert. Unternehmen müssen dann nachweisen, dass sie ihre KI-Systeme korrekt eingestuft, dokumentiert und gegebenenfalls konformitätsbewertet haben. Frühzeitiges Handeln ist daher entscheidend, um Haftungsrisiken zu vermeiden und Wettbewerbsvorteile zu sichern.

Die drei Hauptrollen im AI Act

Ob und in welchem Umfang der AI Act gilt, hängt maßgeblich von der Rolle des Unternehmens ab. Die Verordnung unterscheidet drei Hauptrollen: Anbieter (Provider), Nutzer (Deployer) und Importeur (bzw. Händler). Aber was macht diese Rollen genau aus?

Anbieter (Provider)

Anbieter bzw. Provider sind alle Arten von Unternehmen, die ein KI-System entwickeln, in eigene Produkte integrieren (z.B. als eigene Chatbot-Engine) oder es unter eigenem Namen vertreiben. Ein Beispiel wäre ein SaaS-Unternehmen, das ein Tool zur automatischen Bearbeitung von Kundenanfragen anbietet. Der Provider trägt die Hauptverantwortung für die technische Dokumentation, die Risikobewertung und die Einhaltung aller regulatorischen Anforderungen, die sich aus seinem Angebot von KI-(integrierten) Systemen ergeben.

Nutzer / Einsetzer (Deployer)

Nutzer sind Organisationen, die ein KI-System zur eigenen Leistungserbringung einsetzen oder diese in eigene digitale Prozesse integrieren. Dazu gehört etwa ein Unternehmen, das ein Bewerber-Scoring-Tool eines Drittanbieters verwendet, mit dem die KI-gestützte Verarbeitung von Bewerberinformationen abläuft. Nutzer müssen sicherstellen, dass das verwendete System konform mit dem AI Act ist, und die Nutzung nachvollziehbar dokumentieren.

Importeur / Händler

Diese Rolle betrifft Unternehmen, die KI-Systeme aus Drittstaaten in die EU einführen oder hier vertreiben. Ein Reseller, der ein US KI-Tool in Europa anbietet, fällt also unter diese Kategorie. Importeure und Händler müssen überprüfen, ob das Produkt den europäischen Anforderungen entspricht und korrekt gekennzeichnet ist, bevor es „hier“ eingesetzt wird.

Achtung: In der Praxis können Unternehmen auch mehrere dieser Rollen gleichzeitig einnehmen, etwa wenn sie ein eigenes Modell entwickeln, aber zusätzlich externe KI-Komponenten in ihre Produkte integrieren. Gerne beraten wir Sie bei der Klassifizierung und Einschätzung, in welche Rolle Ihr Unternehmen fällt.

Für wen gilt der EU AI Act? Entscheidungshilfe für Unternehmen

Diese interaktive Entscheidungshilfe zeigt, ob Ihr Unternehmen unter den EU AI Act fällt. Beantworten Sie die folgenden Fragen. Wenn Sie eine Frage mit Ja beantworten, sehen Sie Ihr Ergebnis. Bei Nein geht es mit der nächsten Frage weiter.

1. Entwickeln oder trainieren Sie ein eigenes KI-System?

Beispiele: Entwicklung eines Chatbots, Machine-Learning-Modells für Prognosen, Bilderkennung oder Sprachverarbeitung.

Sie sind Anbieter (Provider).
Der AI Act gilt direkt. Pflichten: Konformitätsprüfung, technische Dokumentation, EU-Datenbankeintrag.

Nein Weiter mit Frage 2 →

2. Nutzen Sie KI-Funktionen innerhalb Ihrer Produkte oder Prozesse?

Beispiele: Verwendung von ChatGPT, Copilot oder KI-Modellen in internen Workflows, Support-Tools oder Entscheidungsunterstützung.

Sie sind Nutzer (Deployer).
Der EU AI Act gilt indirekt. Pflichten: Nutzung dokumentieren, Transparenz und Zweckbindung prüfen.

Nein Weiter mit Frage 3 →

3. Vertreiben Sie Software oder Hardware mit integrierter KI in der EU?

Beispiele: Verkauf von Smart-Cams, KI-gesteuerten Tools oder Softwarelösungen mit automatisierter Analyse oder Empfehlungssystemen.

Sie sind Importeur oder Händler.
Pflichten: EU-Konformität und Kennzeichnung sicherstellen.

Nein Weiter mit Frage 4 →

4. Binden Sie KI-APIs oder fremde Modelle in Ihre Systeme ein?

Beispiele: Nutzung externer KI-APIs (z. B. OpenAI, Google Vertex, HuggingFace) zur Text-, Sprach- oder Bildverarbeitung.

Gemeinsame Verantwortlichkeit möglich.
Empfohlen: Dokumentation, Auftrags- und Vertragsprüfung.

Nein Weiter mit Frage 5 →

5. Erbringen Sie Dienstleistungen auf Basis externer KI (z. B. Text-, Bild-, Datenanalyse)?

Indirekte Betroffenheit.
Empfohlen: KI-Quellen dokumentieren, Risiken bewerten.

Nein

Derzeit keine unmittelbare Betroffenheit.
Regelmäßige Überprüfung empfohlen.

Unsicher? → Vereinbaren Sie ein unverbindliches Beratungsgespräch

Praxisbeispiele für betroffene Unternehmen

Direkt betroffen:

Ein SaaS-Anbieter entwickelt ein KI-Scoring-Modell für Bewerbungen. Das System fällt in die Hochrisiko-Kategorie und unterliegt den vollen Pflichten des AI Act.
Eine Agentur entwickelt ein Tool zur automatischen Verarbeitung von Website-Besucherdaten und Profil-Erstellung via KI. Auch hier gelten die Pflichten des AI Acts.

Indirekt betroffen:

Ein mittelständisches Unternehmen nutzt ein externes KI-Tool für seine Kundensegmentierung. Es bleibt verantwortlich für den sicheren und konformen Einsatz, auch wenn die Technologie von einem Dritten (z.B. SaaS-Anbieter) stammt.
Ein Personalberater verwendet Copilot für die Optimierung von Bewerberunterlagen, bevor diese an eine dritte Firma weitergereicht werden.

Derzeit nicht betroffen:

Eine Webagentur, die ausschließlich klassische Websites erstellt und keine KI-Komponenten einsetzt, unterliegt aktuell nicht dem AI Act, sollte jedoch die Entwicklung beobachten und die Integration von externen Tools in ihre eigenen Dienste und Prozesse streng kontrollieren.
Weitere Unternehmen oder Einrichtungen wie Ärzte, Verbände oder Vereine können möglicherweise (derzeit) noch nicht durch den AI Act betroffen sein, was sich mit dem nächsten Update von Betriebssystemen mit KI-Integration schnell ändern könnte. Gerne beraten wir Sie, ob Ihr Unternehmen schon heute vom AI Act betroffen ist.

Allgemeine Handlungsempfehlung und Fazit

Als Unternehmen sollten Sie den Einstieg in die AI-Act-Compliance strukturiert angehen und – ganz wichtig: keine Panik bekommen! Wie so oft beschließen die Bürokraten aus Brüssel kritische Verordnungen, die dann „durch uns in der Praxis“ umgesetzt werden müssen, ungeachtet der Konsequenzen. Auch wenn der Gedanke sicherlich nicht verkehrt ist, den Einsatz von KI an bestimmte gesetzliche Vorgaben zu knüpfen, bedeutet es in erster Linie, dass europäische Unternehmen zunächst einen Wettbewerbsnachteil erfahren, da entsprechende Vorschriften umgesetzt und dokumentiert werden müssen. Frühzeitige Vorbereitung ist aber nicht nur eine Frage der Compliance, sondern kann auch ein Wettbewerbsvorteil sein. Unternehmen, die ihre Rollen und Pflichten jetzt klar definieren, können Risiken minimieren, Vertrauen schaffen und sich strategisch besser im Markt positionieren.

Damit sich trotzdem die gesetzlichen Rahmenbedingungen einhalten lassen, empfehle ich Ihnen das folgende Vorgehen :

Zunächst empfiehlt sich eine Bestandsaufnahme, um zu erfassen, wo im Unternehmen oder in den Produkten KI eingesetzt wird. Trommeln Sie Ihre Projektmanager, IT-Leiter und ein paar Entwickler zusammen und diskutieren Sie gemeinsam, an welchen Orten, Diensten und Prozessen im Unternehmen überhaupt KI eingesetzt wird. Von ChatGPT am Arbeitsplatz hin zu maschineller Datenverarbeitung von Kundendaten im Data-Warehouse. Wo es nicht klar ist, reicht zunächst auch ein dickes „?“!
Im zweiten Schritt folgt die Risikoklassifizierung, bei der jedes System einer der vier Risikostufen zugeordnet wird. Anschließend sollten Verantwortlichkeiten, Prozesse und technische Nachweise im Rahmen einer internen Governance-Struktur festgelegt werden. In diesem Schritt wird also dokumentiert, informiert und abgewägt.
Abschließend bietet sich ein AI Act Readiness Check an, um den aktuellen „Erfüllungsgrad“ zu bestimmen und konkrete Maßnahmen für Ihre Produkte und Leistungen abzuleiten.

Elsen GRC unterstützt Unternehmen bei diesem Prozess mit einem strukturierten „AI Act Readiness Scan“, der den Compliance-Status ermittelt und konkrete Handlungsempfehlungen liefert. In diesem Check führen wir nicht nur eine strukturierte Bestandsaufnahme und Risikoklassifizierungen durch, sondern liefern auch technische Vorschläge für Optimierungsmaßnahmen an Services und Produkten mit, die Ihren Erfüllungsgrad im AI Act nicht benachteiligen.

Ihr Ansprechpartner

Als zertifizierter Datenschutzbeauftragter und Gründer von Elsen GRC in Hamburg unterstütze ich Unternehmen und Behörden dabei, KI-, Cloud- und SaaS-Lösungen sicher und DSGVO-konform einzusetzen. Mit über 14 Jahren Erfahrung in der Software-Entwicklung agiere ich dabei nicht nur mit einem klaren Blick auf regulatorische Anforderungen, sondern unterstütze Sie und Ihre IT bei der technischen Umsetzung der oftmals trockenen und praxisfernen Gesetze.

Mario Elsen, Geschäftsführer Elsen Media GmbH

Kontakt

Quellen:

Europäische Kommission: EU AI Act – Offizieller Text (2024)
Elsen GRC interne Analyse 2025

Titelbild: Mick Haupt – Unsplash.com

Der Beitrag Entscheidungshilfe: Für wen gilt der EU AI Act? erschien zuerst auf ELSEN GRC.