EU AI Act Archive - ELSEN GRC

Q: Entwickeln oder trainieren Sie ein eigenes KI-System?

Wenn ja, gelten Sie als Anbieter (Provider). Der EU AI Act gilt unmittelbar und verpflichtet zu Konformitätsprüfung, technischer Dokumentation und Eintrag in die EU-Datenbank.

Q: Nutzen Sie KI-Funktionen innerhalb Ihrer Produkte oder Prozesse?

Wenn ja, sind Sie Nutzer (Deployer). Der EU AI Act gilt indirekt und verpflichtet zur Dokumentation der Nutzung, Transparenz und Zweckbindung.

Q: Vertreiben Sie Software oder Hardware mit integrierter KI in der EU?

Wenn ja, sind Sie Importeur oder Händler. Sie müssen sicherstellen, dass Produkte konform und korrekt gekennzeichnet sind.

Q: Binden Sie KI-APIs oder fremde Modelle in Ihre Systeme ein?

Wenn ja, kann eine gemeinsame Verantwortlichkeit bestehen. Empfohlen sind Dokumentation und vertragliche Regelungen mit dem Anbieter.

Q: Erbringen Sie Dienstleistungen auf Basis externer KI-Systeme?

Wenn ja, liegt eine indirekte Betroffenheit vor. KI-Quellen sollten dokumentiert und Risiken bewertet werden. Bei Unsicherheit empfiehlt sich eine fachliche Beratung.

KI Inhalte kennzeichnen: Anleitung zur KI-Kennzeichnungspflicht nach AI Act

Mario Elsen — Mon, 03 Aug 2026 13:44:35 +0000

Jetzt geht’s los! Denn seit dem 2. August 2026 ist sie verbindlich: Die KI-Kennzeichnungspflicht nach Art. 50 des EU AI Act verlangt von Unternehmen, den Einsatz von KI-Tools in bestimmten Fällen offenzulegen. Und eines vorab: so schön vage, wie die EU oftmals formuliert, sind das so einige! Vom Chatbot im Kundenservice über KI-generierte Bilder bis zum Deepfake-Bildern und Audios im Marketing. Während der Digital Omnibus die Hochrisiko-Fristen des AI Act nach hinten geschoben hat, blieb dieser Stichtag unangetastet.

Das sorgt in der Praxis für Verwirrung: Viele Unternehmen glauben, „der AI Act sei doch verschoben worden“ – und übersehen, dass die Transparenzpflichten längst gelten. Dieser Beitrag erklärt, wen die KI Kennzeichnungspflicht trifft, was konkret zu kennzeichnen ist, welche Ausnahmen bestehen – und wie Inhalte richtig gekennzeichnet werden, mit praktischer Anleitung für Bilder, Grafiken, Audio, Texte und Software-Lösungen wie KI-Chatbots.

KI-Kennzeichnungspflicht: Was seit dem 2. August 2026 gilt

Art. 50 der KI-Verordnung (EU) 2024/1689 bündelt die sogenannten Transparenzpflichten. Ihr Ziel: Menschen sollen erkennen können, wann sie es mit KI zu tun haben – sei es im Gespräch mit einem Chatbot oder beim Betrachten eines täuschend echten Bildes. Drei Punkte zur Einordnung vorab:

Der Stichtag ist fix: Die Kernpflichten aus Art. 50 Abs. 1, 3 und 4 sind seit dem 2. August 2026 anwendbar. Dieser Termin wurde durch den Digital Omnibus nicht verschoben – anders als die Hochrisiko-Fristen (nun Dezember 2027 bzw. August 2028, mehr dazu hier).
Eine Teilpflicht hat Aufschub: Nur die maschinenlesbare Markierung synthetischer Inhalte (Art. 50 Abs. 2, Stichwort Wasserzeichen) wurde im Omnibus-Verfahren für Systeme, die zum Stichtag bereits am Markt waren, um wenige Monate verlängert. Für neue Systeme gilt die Pflicht unmittelbar.
Es drohen empfindliche Bußgelder: Verstöße gegen die Transparenzpflichten können mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Für KMU gelten abweichende Regeln.

Wichtig zur Beruhigung vorab: Es gibt keine pauschale Kennzeichnungspflicht für jeden mit KI erstellten Text oder jedes KI-gestützte Arbeitsergebnis. Entscheidend sind der konkrete Anwendungsfall und die Frage, ob eine menschliche redaktionelle Kontrolle stattgefunden hat. Wer mit Claude oder ChatGPT einen Blogbeitrag entwirft und ihn redaktionell prüft und verantwortet, muss diesen nicht als KI-Inhalt markieren.

Wen trifft die KI Kennzeichnungspflicht? Klar: Anbieter und Betreiber

Der AI Act verteilt die Pflichten entlang der Wertschöpfungskette. Für die Praxis entscheidend ist die Unterscheidung zwischen Anbietern („Provider“, die das KI-System entwickeln oder unter eigenem Namen bereitstellen) und Betreibern („Deployer“, die es einsetzen). Die meisten KMU sind Betreiber – und damit keineswegs aus dem Schneider, wie die Tabelle vereinfacht beschreibt:

Pflicht (Art. 50)	Wer ist verantwortlich?	Was konkret zu tun ist
Interaktion mit KI offenlegen (Abs. 1)	Anbieter	Nutzer müssen erkennen können, dass sie mit einem KI-System interagieren – etwa beim Chatbot im Kundenservice. Ausnahme: Es ist aus den Umständen offensichtlich.
Synthetische Inhalte maschinenlesbar markieren (Abs. 2)	Anbieter	KI-generierte Audio-, Bild-, Video- und Textinhalte müssen technisch als solche erkennbar sein (Wasserzeichen, Metadaten oder Beschriftung). Betrifft primär die Systemhersteller wie OpenAI, Google oder Anthropic.
Emotionserkennung & biometrische Kategorisierung offenlegen (Abs. 3)	Betreiber	Betroffene Personen müssen über den Einsatz solcher Systeme informiert werden.
Deepfakes kennzeichnen (Abs. 4)	Betreiber	Wer KI-generierte oder -manipulierte Bild-, Audio- oder Videoinhalte veröffentlicht, die echten Personen, Orten oder Ereignissen täuschend ähneln, muss die künstliche Herkunft offenlegen. Gleiches gilt für KI-Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren – außer bei redaktioneller Verantwortung eines Menschen.

Für die meisten Unternehmen sind damit zwei Baustellen relevant: der Chatbot-Hinweis (wenn sie selbst ein KI-System anbieten oder ein White-Label-System unter eigenem Namen betreiben) und die Deepfake-Kennzeichnung im Marketing – etwa bei fotorealistischen KI-Models, geklonten Stimmen oder täuschend echten Produktszenen bzw. Produktillustrationen, KI-generierten Produktfotos oder andere Marketing-Grafiken, die täuschend echt aussehen (können).

Wie richtig kennzeichnen? Die Praxis-Anleitung für die KI-Kennzeichnung

Der AI Act schreibt keine exakte Formulierung vor – er verlangt, dass die Information klar, erkennbar und spätestens bei der ersten Interaktion bzw. Wahrnehmung erfolgt. Was das für die fünf gängigsten Fälle bedeutet – Chatbots, Bilder, Grafiken, Texte und Software mit KI-Funktionen – zeigt die folgende Anleitung für die Kennzeichnungspflicht:

Fall 1: Chatbots und KI-Assistenten

Ein sichtbarer Hinweis direkt im Chat-Fenster genügt – etwa „Sie chatten mit unserem KI-Assistenten“ als Begrüßung oder dauerhaft im Header.
Der Hinweis gehört an den Anfang der Interaktion, nicht ins Impressum oder in die Datenschutzerklärung.
Ein täuschend menschlicher Auftritt (Name, Foto, „Ich bin Lisa aus dem Support“) ohne KI-Hinweis ist genau das Muster, das Art. 50 verhindern will.

Fall 2: KI-generierte Bilder, Videos und Audio (Deepfake-Fälle)

Kennzeichnung direkt am Inhalt: sichtbarer Hinweis wie „Mit KI erstellt“ oder „KI-generiert“ im oder unmittelbar am Bild/Video – nicht versteckt in der Bildunterschrift auf einer Unterseite.
Maßgeblich ist die Täuschungseignung: Ein fotorealistisches KI-Model in der Werbekampagne ist kennzeichnungspflichtig. Ein offensichtlich fiktives Motiv (z.B. eine Deutsche Autobahn ohne Baustellen und Schlaglöcher) ist es (vermeintlich) nicht – kleiner Spaß am Rande.
Bei künstlerischen oder satirischen Werken genügt eine Offenlegung, die die Darbietung nicht beeinträchtigt – etwa im Abspann.
Bei Audio-Spuren und VoiceOvers ist es schwieriger: Werden diese im Social Media Kontext genutzt (z.B. als Instagram oder TikTok Reel) kann ein Hinweis direkt im VoiceOver störend sein und den Effekt bzw. die Ausspielung der Inhalte stark verschlechtern. Sollte es sich in Kombination mit den übrigen Inhalten (Video / Bild) als nötig erweisen, reicht ein kombinierter Hinweis im sichtbaren Material, also dem Bild oder Video. Bei anderen Formaten, wie z.B. KI-generierten Podcasts oder Hörbüchern, sollte der Hinweis direkt in der Audiospur erfolgen. Hier kommt es auf den Einzelfall an. Gerne beraten wir dabei.

Go vs. No Go: Gleiches Bild, ein Unterschied: Erst die Kennzeichnung macht den täuschend echten KI-Inhalt zulässig. (Bild: KI-generiert, © Elsen GRC)

Fall 3: Grafiken, Illustrationen und Infografiken

Für schematische Darstellungen gilt Entwarnung: Eine KI-generierte Infografik, ein Diagramm oder eine stilisierte Illustration ist in aller Regel nicht kennzeichnungspflichtig – ihr fehlt die Täuschungseignung, weil niemand sie für ein echtes Foto oder reales Ereignis hält.
Die Grenze verläuft beim Fotorealismus: Sobald eine Grafik echte Personen, Orte oder Ereignisse täuschend echt nachbildet (etwa ein fotorealistisch gerendertes „Pressefoto“), greift die Deepfake-Regel aus Abs. 4 – dann bitte sichtbar kennzeichnen.
Praktischer Zwischenweg für Corporate Design: Wer KI-Grafiken einheitlich einsetzt, kann einen dezenten Herkunftshinweis in den Bildnachweis oder das Impressum der Publikation aufnehmen – rechtlich meist nicht gefordert, aber ein Vertrauenssignal. Das lässt sich in Design-Vorlagen bei Canvas, Claude Design o.ä. sogar gezielt einstellen.

Fall 4: Software und eigene KI-Features

Wer KI-Funktionen in die eigene Software einbaut (etwa einen Assistenten in der App, automatische Textvorschläge, KI-Auswertungen), wird dafür regelmäßig zum Anbieter im Sinne des Art. 50 – mit den entsprechenden Pflichten aus Abs. 1 und 2.
Konkret heißt das: Interagiert der Nutzer mit einer KI-Komponente, muss das in der Oberfläche erkennbar sein – etwa durch eine Beschriftung wie „KI-Assistent“, ein einheitliches KI-Symbol oder einen Hinweis beim ersten Aufruf des Features. Ein Satz in den Release Notes genügt nicht.
Erzeugt die Software synthetische Inhalte (Texte, Bilder, Audio), muss der Output maschinenlesbar markiert werden (Abs. 2) – bei eingebundenen Fremdmodellen (z.B. via API von OpenAI oder Anthropic) sollte vertraglich und technisch geklärt sein, wessen Markierung greift und dass sie nicht in der eigenen Verarbeitungskette verloren geht.
Für die Dokumentation: Jedes KI-Feature gehört ins KI-Inventar – inklusive der Einordnung, welche Kennzeichnungspflichten es auslöst.

Mehr Infos: KI-Inventar erstellen und pflegen

Fall 5: KI-gestützte und KI-generierte Texte

Interne Dokumente, E-Mail-Entwürfe, redaktionell geprüfte Blogbeiträge: keine Kennzeichnungspflicht nach Art. 50.
Kennzeichnungspflichtig werden Texte erst, wenn sie die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren und keine menschliche redaktionelle Verantwortung besteht – etwa vollautomatisch publizierte News-Feeds.

Leitplanke für die Praxis: Fragen Sie nicht „Haben wir KI benutzt?“, sondern „Kann der Empfänger durch die KI-Inhalte getäuscht werden?“. Wo eine Täuschung über die Herkunft möglich ist – Chatbot wirkt menschlich, Bild wirkt echt – wird gekennzeichnet. Wo ein Mensch das Ergebnis prüft und verantwortet oder die künstliche Natur offensichtlich ist, in der Regel nicht.

Häufige Fehler bei der KI Kennzeichnungspflicht

Überkennzeichnung aus Angst: Wer jeden KI-gestützten Text mit Warnhinweisen versieht, erfüllt keine Pflicht, sondern verwässert die Aussagekraft der Kennzeichnung – und verunsichert Kunden unnötig.
Versteckte Hinweise: Der KI-Hinweis in den AGB oder der Datenschutzerklärung genügt nicht. Die Information muss dort erfolgen, wo die Interaktion oder Wahrnehmung stattfindet.
„Der Anbieter macht das schon“: Die maschinenlesbare Markierung (Abs. 2) liegt beim Systemhersteller – die sichtbare Deepfake-Kennzeichnung (Abs. 4) aber bei Ihnen als Betreiber. Beide Ebenen verwechseln viele.
Omnibus-Irrtum: „Der AI Act wurde doch verschoben“ gilt für Hochrisiko-Pflichten – nicht für die Transparenzpflichten. Die gelten jetzt.
Fehlender Überblick: Ohne KI-Inventar weiß niemand, welche Systeme im Haus überhaupt Kennzeichnungspflichten auslösen.

Checkliste: KI Kennzeichnungspflicht umsetzen

Kompakt zum Abhaken – in wenigen Schritten zur konformen und sicheren KI-Kennzeichnung:

KI-Inventar prüfen: Welche eingesetzten Systeme interagieren mit Menschen oder erzeugen synthetische Inhalte?
Rolle klären: Sind wir je System Anbieter oder Betreiber – und welche Absätze von Art. 50 greifen damit?
Chatbots ausweisen: Sichtbarer KI-Hinweis zu Beginn jeder Interaktion implementiert
Inhalts-Kategorien definieren: Klare interne Regeln, was als „KI-generiert“, „KI-unterstützt mit redaktioneller Prüfung“ und „menschlich erstellt“ gilt
Deepfake-Fälle identifizieren: Marketing-Assets mit fotorealistischen KI-Elementen erfasst und gekennzeichnet
Kennzeichnungsstandard festlegen: Einheitliche Formulierungen und Platzierungen dokumentiert (Styleguide)
Anbieter-Markierung prüfen: Bestätigung der Systemhersteller einholen, dass maschinenlesbare Markierung (Abs. 2) umgesetzt ist bzw. wird
Mitarbeiter schulen: Regeln in der KI-Kompetenzschulung und der internen KI-Richtlinie verankern
Prozess etablieren: Kennzeichnungsprüfung fest in den Content- und Kampagnen-Workflow integrieren

➞ Checkliste zur KI-Kennzeichnungspflicht als kostenloses PDF downloaden

Wie Elsen GRC Sie unterstützt

Die KI Kennzeichnungspflicht ist für viele Unternehmen der erste unmittelbare Berührungspunkt mit dem AI Act – und selten der letzte. Elsen GRC begleitet Sie dabei, aus der Einzelpflicht ein tragfähiges Fundament zu machen:

AI Act Readiness Scan: Wir erfassen Ihre KI-Systeme, klären Rollen und Risikoklassen – und identifizieren dabei genau, wo Kennzeichnungspflichten bestehen.
KI-Kompetenzschulung nach Art. 4 EU AI Act: Damit Ihre Teams die Transparenzregeln kennen und im Alltag korrekt anwenden – inklusive Zertifikat und Schulungsregister.
KI-Governance-Beratung: Kennzeichnungsstandards, Freigabeprozesse und KI-Richtlinie aus einem Guss.

So wird aus einer Pflicht, die viele als Bürokratie empfinden, ein Baustein für ehrliche, vertrauensbildende Kommunikation.

Häufige Fragen zur KI Kennzeichnungspflicht (FAQ)

Muss ich jeden mit ChatGPT, Claude oder Gemini geschriebenen Text kennzeichnen?

Nein. Texte, die ein Mensch redaktionell prüft und verantwortet, unterliegen keiner Kennzeichnungspflicht nach Art. 50. Die Pflicht greift bei veröffentlichten Texten zu Angelegenheiten von öffentlichem Interesse ohne menschliche redaktionelle Verantwortung. Für Blogs, Redaktionen und Pressemeldungen kann die KI also eingesetzt werden.

Gilt die KI Kennzeichnungspflicht auch für kleine Unternehmen (KMU) und Selbständige?

Ja. Der AI Act knüpft an die Nutzung an, nicht an die Unternehmensgröße oder die Gewerbeanmeldung. Wer einen Chatbot betreibt oder täuschend echte KI-Inhalte veröffentlicht, ist unabhängig von der Mitarbeiterzahl in der Pflicht. Auch als Privatperson oder Freiberufler.

Wurde die Kennzeichnungspflicht nicht durch den Digital Omnibus verschoben?

Nein, das ist ein verbreiteter Irrtum. Verschoben wurden die Hochrisiko-Pflichten (auf Dezember 2027 bzw. August 2028). Die Transparenzpflichten nach Art. 50 Abs. 1, 3 und 4 gelten seit dem 2. August 2026. Lediglich die maschinenlesbare Markierung (Abs. 2) erhielt für Bestandssysteme eine kurze Übergangsfrist.

Wie muss ein Chatbot-Hinweis konkret aussehen?

Klar erkennbar und spätestens bei der ersten Interaktion – etwa als Begrüßungstext oder dauerhafter Hinweis im Chat-Fenster. Ein Hinweis nur in AGB oder Datenschutzerklärung genügt nicht.

Welche Strafen drohen bei Verstößen?

Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Für KMU gelten hier aber abweichende Regelungen.

Offene Fragen zum Thema? Nutzt gerne unser Kontaktformular für einen unverbindlichen Austausch!

Titelbild: KI-generierter Inhalt, passend zum Thema

Quellen

Der Beitrag KI Inhalte kennzeichnen: Anleitung zur KI-Kennzeichnungspflicht nach AI Act erschien zuerst auf ELSEN GRC.

KI-Inventar erstellen und pflegen: Guideline nach EU AI Act

Mario Elsen — Sun, 05 Jul 2026 14:46:15 +0000

Wenn sich ein Unternehmen mit den Anforderungen des EU AI Act beschäftigt, trifft es ziemlich früh auf einen zentralen Begriff: Das KI-Inventar (oder auch KI-Verzeichnis, KI-Inventarliste, KI-Register). Das KI-Inventar ist für viele KMU der erste konkrete Schritt in Richtung EU-AI-Act-Compliance – und zugleich der am häufigsten aufgeschobene Schritt. Ein KI-Inventar erstellen und pflegen zu lassen, ist aber weder eine bürokratische Gängelung noch ein reines IT-Projekt. Vielmehr ist es der erste essentielle Schritt in ein nachhaltiges KI-Risikomanagement und sollte zur Priorität erklärt werden, wenn der Einstieg in die Nutzung von KI-Systemen erst einmal beschlossene Sache ist.

Wer nicht weiß, welche KI-Systeme im Unternehmen überhaupt im Einsatz sind, kann weder ihre Risiken in Hinblick auf Recht und Regulatorik sowie hinsichtlich Cyber-Security bewerten, noch konkrete Risikostufen festlegen und damit nicht seinen Pflichten nach dem AI Act nachkommen. Diese Guideline erklärt, warum Sie bereits jetzt ein KI-Inventar erstellen sollten, was hineingehört, wie Sie es praktisch aufbauen und dauerhaft pflegen – und liefert am Ende eine kompakte Checkliste zum Abhaken. und natürlich auch eine kostenlose EXCEL-Vorlage für die KI-Inventarliste.

KI-Inventar erstellen: Was das ist – und warum jetzt

Ein KI-Inventar ist ein strukturiertes Verzeichnis aller Künstliche-Intelligenz-Systeme, die in einem Unternehmen entwickelt, eingekauft oder genutzt werden. Man kann es sich als das KI-Pendant zum Verzeichnis von Verarbeitungstätigkeiten (VVT) aus der DSGVO vorstellen: eine zentrale, gepflegte Übersicht, die auf Nachfrage einer Aufsichtsbehörde sofort vorzeigbar ist.

Der Grund für die neue Dringlichkeit liegt im gestaffelten Inkrafttreten des EU AI Act. Drei Punkte sind für KMU entscheidend:

Die KI-Kompetenzpflicht gilt bereits: Seit dem 2. Februar 2025 verlangt Art. 4 KI-VO, dass Unternehmen für ausreichende KI-Kompetenz ihres Personals sorgen. Wer das nicht dokumentiert hat, ist streng genommen schon jetzt in der Pflichtverletzung.
Ab dem 2. August 2026 wird die Verordnung weitgehend vollständig anwendbar: Dann greifen unter anderem die Transparenzpflichten nach Art. 50 – also die Kennzeichnung von Chatbots, KI-generierten Inhalten und Deepfakes.
Die Hochrisiko-Fristen wurden verschoben: Mit der politischen Einigung zum „Digital Omnibus“ vom Mai 2026 rutschen die umfangreichen Pflichten für eigenständige Hochrisiko-Systeme (Anhang III) voraussichtlich auf Dezember 2027, für in Produkte eingebettete KI (Anhang I) sogar auf August 2028. Das verschafft Luft – macht das Inventar aber nicht weniger dringlich, denn ohne eine praxistaugliche Bestandsaufnahme weiß niemand, ob überhaupt ein Hochrisiko-System im Haus ist.

Der rote Faden: Nahezu jede seriöse Umsetzungsempfehlung zum AI Act beginnt mit demselben Schritt – „Erstellen Sie zunächst ein Inventar aller eingesetzten KI-Systeme.“ Das Inventar ist die Grundlage für alles Weitere: Risikoklassifizierung, Rollenbestimmung, Schulung und Dokumentation bauen darauf auf.

Warum gerade KMU ein KI-Inventar brauchen

Großkonzerne haben Compliance-Abteilungen, die solche Verzeichnisse (hoffentlich) ohnehin führen. Bei KMU ist die Ausgangslage eine andere – und paradoxerweise riskanter:

Shadow AI wächst unbemerkt: In kleineren Unternehmen führen einzelne Mitarbeiter KI-Tools oft eigeninitiativ ein – ein ChatGPT-Konto hier, ein KI-Feature im CRM dort. Ohne Inventar entsteht eine Shadow-AI-Landschaft, die niemand vollständig überblickt.
KI steckt längst in Standardsoftware: Viele KMU glauben, sie setzten „gar keine KI“ ein – dabei haben Microsoft 365 (Copilot), das E-Mail-Programm, die Buchhaltungssoftware oder das Bewerbermanagement längst KI-Funktionen integriert. Sogar die simplen Accounting-Lösungen für die Belegsortierung nutzen inzwischen KI-Werkzeuge zur Texterkennung. Auch diese zählen.
Die Rolle entscheidet über die Pflichten: Der AI Act unterscheidet zwischen Anbietern, Betreibern, Importeuren und Händlern. Die meisten KMU sind Betreiber (Deployer) und haben damit reduzierte, aber reale Pflichten. Ohne Inventar lässt sich diese Rolle je System gar nicht bestimmen.
KMU-Erleichterungen setzen Wissen voraus: Der AI Act sieht für kleinere Unternehmen vereinfachte Anforderungen vor – doch um sie zu nutzen, muss man erst wissen, welche Systeme man betreibt und wie sie einzustufen sind.

Was in ein KI-Inventar gehört

Ein brauchbares Inventar ist mehr als eine Namensliste. Pro erfasstem KI-System sollten mindestens die folgenden Angaben festgehalten werden. Die Tabelle zeigt die Kernfelder („Must-Haves“) mit einem kurzen exemplarischen Praxis-Beispiel:

Feld	Was erfasst wird	Beispiel
Bezeichnung / System	Name des Tools oder der KI-Funktion	Microsoft 365 Copilot
Anbieter	Hersteller bzw. Vertragspartner	Microsoft Ireland
Zweck / Einsatzgebiet	Wofür wird das System genutzt?	Texterstellung, Meeting-Zusammenfassungen
Abteilung / Verantwortlicher	Wer nutzt es, wer ist zuständig?	Marketing / Teamleitung
Datenkategorien	Welche (ggf. personenbezogenen) Daten fließen ein?	Interne Dokumente, Kundennamen
Rolle nach AI Act	Anbieter, Betreiber, Importeur oder Händler?	Betreiber (Deployer)
Risikoklasse	Minimal, begrenzt, hoch oder inakzeptabel?	Begrenztes Risiko (Transparenzpflicht)
Vertrag / Datenschutz	AVV vorhanden? Datenfluss in Drittländer?	AVV abgeschlossen, EU-Datenresidenz
Status / letzte Prüfung	Aktiv, in Prüfung, abgelöst; Datum	Aktiv, geprüft 06/2026

Die beiden Felder Rolle und Risikoklasse sind das Herzstück: Aus ihnen leiten sich sämtliche weiteren Pflichten ab. Sie lassen sich aber erst sinnvoll ausfüllen, wenn die Grunddaten stehen – deshalb ist die Reihenfolge wichtig.

KI-Inventar erstellen in vier Schritten

Ein KI-Inventar erstellen Sie nicht mit einem Klick, aber der Aufbau des KI-Inventars muss nicht kompliziert sein. Für die meisten KMU reicht zu Beginn eine strukturierte Tabelle (Excel, CSV oder ein einfaches Tool). Entscheidend ist das systematische Vorgehen: Bestandsaufnahme, Rolle und Kontext bestimmen, Risikoklassifizierung durchführen, Maßnahmen ableiten.

Schritt 1: Bestandsaufnahme (Discovery)

Erfassen Sie alle KI-Systeme – und suchen Sie aktiv nach den versteckten „Schattensystemen“. Gehen Sie dazu Abteilung für Abteilung vor und prüfen Sie sowohl offensichtliche KI-Tools als auch KI-Funktionen in bestehender Standardsoftware sowie die echte, reale Nutzung Ihrer Mitarbeiter. Ein kurzer Fragebogen an die Teamleitungen („Welche digitalen Werkzeuge nutzt ihr, die Texte, Bilder, Vorschläge oder Auswertungen automatisch erzeugen?“) fördert erfahrungsgemäß mehr zutage als eine reine IT-Abfrage.

Schritt 2: Rolle und Kontext bestimmen

Klären Sie für jedes System Ihre Rolle nach dem AI Act. In den allermeisten Fällen sind KMU Betreiber – sie setzen fremde KI ein, entwickeln sie aber nicht selbst. Wer jedoch ein zugekauftes System wesentlich verändert oder unter eigenem Namen weitervertreibt, kann zum Anbieter mit deutlich höheren Pflichten werden. Das trifft insbesondere auf Software-Anbieter oder SaaS-Startups zu.

Schritt 3: Risikoklassifizierung

Ordnen Sie jedes System einer der vier Risikoklassen zu: minimal, begrenzt (Transparenzpflicht), hoch oder inakzeptabel (verboten). Prüfen Sie insbesondere, ob ein Anwendungsfall unter die Hochrisiko-Bereiche des Anhang III fällt (etwa Biometrie, Personalauswahl, Bonitätsprüfung). Wichtig: Auch das Ergebnis „nicht hochriskant“ sollte dokumentiert und begründet werden – der AI Act verlangt in bestimmten Fällen eine schriftliche Begründung, die idealerweise direkt notiert wird.

Schritt 4: Maßnahmen ableiten

Aus Rolle und Risikoklasse ergeben sich die konkreten To-dos: Transparenzhinweise ergänzen, AVV nachfordern, Schulungen ansetzen, Dokumentation aufbauen. Halten Sie diese Maßnahmen samt Verantwortlichkeit und Frist direkt im Inventar oder in einer verknüpften Maßnahmenliste fest.

KI-Inventar mit Software erstellen

Wer die Erfassung, Pflege und Überwachung seiner eingesetzten KI-Systeme vereinfachen und die Erinnerungen automatisieren möchte, kann auf maßgeschneiderte Software-Lösungen zur KI-Inventarisierung zurückgreifen. ElsenGRC hat eine spezielle KI-Inventarsoftware entwickelt, die neben Erfassung und Risikoeinstufung auch den rechtskonformen Export im Falle einer behördlichen Prüfung ermöglicht. Sprechen Sie uns gerne an!

Es existieren maßgeschneiderte Software-Lösungen für die Erstellung von KI-Inventarlisten. Unsere ElsenGRC App bietet eine komfortable Funktionen zum Erfassen und Pflegen der KI-Systeme.

KI-Inventar pflegen: Wenn aus Dokumentation ein Prozess wird

Der häufigste Fehler ist, das KI-Inventar einmal zu erstellen und dann im Laufwerks-Nirvana der internen Unternehmens-Cloud verschwinden zu lassen. Ein Inventar ist nur so viel wert wie seine Aktualität – und die KI-Landschaft eines Unternehmens verändert sich schnell. Damit aus dem Dokument ein lebendiger Prozess wird, haben sich drei Routinen bewährt:

Feste Review-Zyklen: Legen Sie einen regelmäßigen Turnus fest (etwa quartalsweise), in dem das Inventar auf neue Systeme, geänderte Nutzung und ausgelaufene Tools geprüft wird.
Inventar in den Beschaffungsprozess einbauen: Jedes neue Tool mit KI-Funktion wird vor der Einführung ins Inventar aufgenommen und klassifiziert. So entsteht Shadow AI gar nicht erst und die Geschäftsleitung kann auch wieder ruhig schlafen.
Klare Verantwortlichkeit: Benennen Sie eine Person (KI-Beauftragter oder Compliance-Owner), die das Inventar führt. Ohne festen Verantwortlichen verwaist jedes Verzeichnis.

Wer diese Routinen mit der ohnehin fälligen KI-Kompetenzschulung und der DSGVO-Dokumentation verzahnt, spart Doppelarbeit – denn viele Felder (Anbieter, Datenkategorien, AVV-Status) überschneiden sich mit dem Verarbeitungsverzeichnis und können teilweise nahtlos übernommen werden.

Häufige Fehler beim KI-Inventar

Nur die „offensichtliche“ KI erfassen: ChatGPT wird notiert, der KI-Filter im Bewerbertool übersehen. Gerade die eingebettete KI in Standardsoftware ist der blinde Fleck. Hier macht sich genaues Hinsehen bezahlt!
Die Risikoklassifizierung raten statt prüfen: „Wird schon minimal sein“ ist keine Bewertung. Anhang III gehört konkret durchgesehen – und das Ergebnis dokumentiert.
Das Inventar von der Realität entkoppeln: Ein Verzeichnis, das nach der Ersterstellung nie wieder angefasst wird, ist im Ernstfall wertlos und sogar irreführend.
Datenschutz und AI Act getrennt behandeln: Beide hängen eng zusammen. Wer AVV-Status und Datenkategorien nicht miterfasst, muss später alles doppelt aufrollen.

Checkliste: KI-Inventar anlegen und pflegen

Kompakt zum Abhaken, Ausdrucken und Aufhängen – die zentralen Schritte für ein prüffestes KI-Inventar:

Alle KI-Systeme abteilungsweise erfasst – inklusive eingebetteter KI in Standardsoftware
Shadow AI aktiv aufgespürt (Team-Abfrage statt reiner IT-Sicht)
Pro System die Kernfelder ausgefüllt (Anbieter, Zweck, Verantwortlicher, Datenkategorien)
Rolle nach AI Act bestimmt (meist Betreiber/Deployer)
Risikoklasse je System zugeordnet und die Bewertung dokumentiert
Anhang-III-Prüfung durchgeführt (Hochrisiko-Bereiche gezielt geprüft)
AVV-Status und Datenfluss je System vermerkt (Verzahnung mit DSGVO)
Maßnahmen mit Verantwortlichkeit und Frist abgeleitet
Fester Review-Turnus etabliert (z.B. quartalsweise)
Verantwortliche Person für die Pflege benannt
Inventar in den Beschaffungsprozess integriert (neue Tools vorab erfassen)

Die Checkliste gibt es auf Wunsch auch als PDF-Version zum Download:

KI-Inventar erstellen: Kostenlose Checkliste (PDF, 1 Seite)

Natürlich gibt es unsere Vorlage zur KI-Inventarliste auch als kostenloses Muster im EXCEL-Format zum Download:

KI-Inventarliste in EXCEL erstellen: Kostenlose Vorlage (EXCEL)

Wie Elsen GRC Sie unterstützt

Ein KI-Inventar ist der Einstieg in die AI-Act-Compliance – und selten der Endpunkt. Elsen GRC begleitet KMU auf dem gesamten Weg:

AI Act Readiness Scan: Wir erstellen gemeinsam Ihr KI-Inventar, nehmen die Risikoklassifizierung vor und liefern eine Roadmap mit Blick auf die relevanten Fristen – so können Sie Ihr KI-Inventar erstellen lassen, statt es allein zu stemmen.
KI-Kompetenzschulung nach Art. 4 EU AI Act: Erfüllt die gesetzliche Schulungspflicht – inklusive Mitarbeiter-Zertifikat, Schulungsregister und KI-Inventar-Vorlage.
KI-Governance-Beratung: Vollständiges Governance-Framework mit Policies, Rollen und Freigabeprozessen – damit das Inventar dauerhaft gepflegt bleibt.
KI-Inventar Software: Mit unserem Software-Angebot rund um die KI-Inventarisierung und Risikoeinstufung ermöglichen wir Ihnen die digitalisierte und automatisierte Erfassung und Überwachung Ihrer KI-Systeme.

So wird aus einer einmaligen Bestandsaufnahme ein gesteuerter, prüffester Bestandteil Ihrer GRC-Struktur.

Die häufigsten Fragen zum KI-Inventar (FAQ)

Ist ein KI-Inventar gesetzlich vorgeschrieben?

Der AI Act nennt kein „KI-Inventar“ als wörtliche Pflicht, setzt es aber faktisch voraus: Ohne vollständige Bestandsaufnahme lassen sich Risikoklassifizierung, Transparenz- und Dokumentationspflichten nicht rechtssicher erfüllen. Wer die Vorgaben erfüllen will, muss daher praktisch ein KI-Inventar erstellen – an einem strukturierten Verzeichnis führt kein Weg vorbei. Wer sich nicht mit Buntstiften und Karo-Papier bewaffnen will, sollte sich daher auch mit entsprechender Software für KI-Inventarisierung auseinandersetzen.

Zählt ChatGPT im Unternehmen als KI-System fürs Inventar?

Ja. Jedes eingesetzte KI-Tool gehört ins Inventar – auch allgemeine Assistenten wie ChatGPT, Claude oder Copilot sowie KI-Funktionen, die in vorhandener Software stecken. Unabhängig von der Dokumentation sollten Unternehmen aber darauf achten, dass Sie Claude sicher nutzen oder ChatGPT sicher nutzen.

Womit sollte man ein KI-Inventar erstellen – reicht Excel?

Für den Einstieg und kleinere Unternehmen ja: Sie können Ihr KI-Inventar mit einer Excel-Tabelle erstellen. Wichtig sind Struktur, Vollständigkeit und regelmäßige Pflege, nicht das Werkzeug. Mit wachsender Systemzahl kann später ein dediziertes Tool wie eine KI-Inventarsoftware sinnvoll werden.

Wer sollte das Inventar führen?

Eine klar benannte Person – etwa ein KI-Beauftragter oder Compliance-Owner – idealerweise in Abstimmung mit dem Datenschutzbeauftragten, da sich die Verzeichnisse inhaltlich stark überschneiden.

Wie oft muss das Inventar aktualisiert werden?

Ein fester Review-Turnus (häufig quartalsweise) plus anlassbezogene Updates bei jeder neuen KI-Einführung. Entscheidend ist, dass das Inventar den tatsächlichen Ist-Zustand abbildet.

Verwandte Themen

Quellen

Bild: Titelbild © Adrien Olichon auf Unsplash

Der Beitrag KI-Inventar erstellen und pflegen: Guideline nach EU AI Act erschien zuerst auf ELSEN GRC.

ChatGPT sicher nutzen: Guide für mehr Sicherheit bei Codex und CustomGPTs

Mario Elsen — Fri, 03 Jul 2026 11:04:41 +0000

Man kann durchaus festhalten, dass der KI-Hype mit der Veröffentlichung vonOpenAIs ChatGPT Ende 2022 erst so richtig in Bewegung gekommen ist. Für viele Menschen war der kleine, der Google-Suche ähnliche Eingabe-Schlitz erste Berührungspunkt mit generativer KI und hat sich in privaten Haushalten bis hin zu Unternehmen entsprechend schnell verbreitet. Zunächst haben Mitarbeiter ihre privaten ChatGPT Accounts im Unternehmen genutzt, um einfache und lästige Aufgaben, wie z.B. die Korrektur von Texten, Verträgen oder anderen Schriftstücken zu überprüfen, zunehmend aber auch für deutlich komplexere Aufgaben. Wie man ChatGPT sicher nutzen kann, war hier selten ein Thema.

Geschäftsführung und IT hatten von dieser unbefugten ChatGPT-Nutzung im Unternehmen schließlich nur selten Kenntnis, was zum „Wildwuchs“ der KI-Tools und damit zum Entstehen ganzer „Shadow-AI“ Landschaft in kleinen wie großen Unternehmen kräftig beigetragen hat. Während es zunächst nur darum ging, dass Arbeitsinhalte wie Kundendaten, Produktinformationen oder betriebliche Interna in privaten ChatGPT-Accounts landeten, wurde mit zunehmender Integration weitere Tools wie OpenAI Codex auch die Frage nach Sicherheit und Governance rund um ChatGPT lauter. Wie Unternehmen und Mitarbeiter ChatGPT sicher nutzen können, ist Kernthema dieser Guideline, die sich auch mit weiteren Fragen beschäftigt:

Wie sicher ist ChatGPT und Codex? Welche OpenAI Pläne müssen KMU nutzen? Welche Sicherheitsrisiken müssen berücksichtigt werden? Welche Verträge liegen der Nutzung zu Grunde?

Bleiben diese Fragen ungeklärt, drohen DSGVO-Verstöße, der ungewollte Abfluss von Betriebsgeheimnissen und Pflichtverletzungen nach dem EU AI Act. Diese Guideline sortiert die Nutzungsvarianten, arbeitet die datenschutzrechtlichen Unterschiede der OpenAI-Pläne heraus und schließt mit einer praxistauglichen Sicherheits-Checkliste – samt eigenem Abschnitt zum besonders heiklen Codex, dem agentischen Coding-Werkzeug von OpenAI.

Sicherheit von ChatGPT ist Chefsache

Die Verantwortung für die „compliant“ und sichere KI-Nutzung sitzt im Regelfall weit oben: In der Geschäftsleitung bzw. im Management. Dabei wirken drei Pflichtenkreise parallel, wenn man als Unternehmen ChatGPT sicher nutzen möchte:

Datenschutz (DSGVO): In dem Moment, in dem personenbezogene Daten (etwa Namen, Adressen oder Kundendaten) in einen Prompt wandern, wird OpenAI zum Auftragsverarbeiter. Dafür braucht es einen Auftragsverarbeitungsvertrag (AVV/DPA) gemäß Art. 28 DSGVO – der bei privaten Consumer-Konten schlicht nicht existiert. Gibt ein Mitarbeiter Kundendaten in sein persönliches ChatGPT-Konto ein, ist damit das erste knackige Problem geboren.
EU AI Act: Art. 4 der KI-Verordnung verlangt seit d. Februar 2025, dass Unternehmen für ausreichende KI-Kompetenz (AI Literacy) ihrer Belegschaft sorgen. Wer ChatGPT im Betrieb einsetzt, kommt an einer Schulung (Inhouse, Online oder auch außer Haus) nicht vorbei. Falls das bislang liegengeblieben ist: Unsere KI-Kompetenzschulung deckt genau diese Pflicht ab.
Geschäftsgeheimnisschutz & Haftung: Ungesteuerte Tool-Nutzung – auf Deutsch Schatten-KI bzw. „Shadow AI“ – kann interne Betriebsgeheimnisse oder sogar Kundendaten in fremde Trainingsdaten spülen und die Sorgfaltspflichten der Geschäftsführung verletzen. Die wenigsten Arbeitsverträge sind auf ein solches Szenario überhaupt vorbereitet oder ausgelegt.

Zentraler Hinweis vorab: Das Risiko ist nicht das Eingabefenster von ChatGPT als solches, sondern die gewählte Nutzungsvariante und der Vertrag dahinter. Erst auf einer zweiten Ebene kommen technische Risiken durch die Integration ins Endgerät hinzu (etwa bei Codex oder bei Connectors und Custom GPTs).

Die Nutzung von ChatGPT hat also zwei Perspektiven: Im Enterprise-Vertrag mit Zero Data Retention kann es ein compliancetaugliches Werkzeug sein, während es im privaten Plus-Konto eines Mitarbeiters ein meldepflichtiger Datenschutzvorfall sein könnte. Schauen wir uns die Nutzungsvarianten daher zuerst im Detail an.

Verfügbare Pläne für Privatpersonen und Unternehmen (Quelle: https://chatgpt.com/de-DE/pricing/)

Die Nutzungsvarianten von ChatGPT im Überblick

Für die Sicherheitsbewertung von ChatGPT kommt es auf drei Dimensionen an:

Datenfluss: Was verlässt überhaupt das Unternehmen?
Systemzugriff: kann das Tool lokale Dateien lesen oder Befehle ausführen?
Vertrag: Consumer oder Business/Enterprise Terms?

Die folgende Tabelle stellt Nutzungsvariante, typische Anwendung und Sicherheitsrisiko kompakt gegenüber:

Variante	Was es ist	Typischer Anwender	Systemzugriff	Risiko-Level
Web-App / Mobile-App	ChatGPT im Browser (chatgpt.com) oder als App auf Smartphone/Tablet	Einzelne Mitarbeitende, Wissensarbeit, Recherche, Texte, Analyse	Kein direkter Zugriff, nur auf die Dateien und Informationen, die in den Chat eingegeben werden	Niedrig – mittel (abhängig vom Plan, siehe AVV/DPA)
ChatGPT Desktop-App	Eigenständige App für Windows/macOS, kann über „Work with Apps“ mit lokalen Programmen (z.B. Editoren, Terminals) zusammenarbeiten	Power-User, die ChatGPT in den Arbeitsalltag integrieren und Kontext aus lokalen Apps ziehen	Auf Wunsch Lesezugriff auf Inhalte verbundener Apps, Connectors	Mittel bis hoch
Connectors / Apps & Custom GPTs	Anbindung an interne Quellen und Drittdienste (z.B. Google Drive, SharePoint) sowie eigene, geteilte GPTs	Fachabteilungen, wiederkehrende Workflows, Wissensdatenbanken	Datei- und Tool-Zugriff im Rahmen der Freigabe, admin-steuerbar	Mittel bis hoch
Codex	Agentisches Entwickler-Werkzeug (Terminal, IDE oder Cloud), das Code liest, schreibt und Befehle ausführt	Entwicklung, IT, technische Teams	Voller Zugriff auf Dateisystem und Shell-Befehle im Rahmen der Sandbox (mit den Rechten des Nutzers)	Hoch – siehe eigener Abschnitt
API / OpenAI Platform	Direkte Anbindung an eigene Software, Automatisierungen, Produkte	Entwicklung, Produktintegration	Kontrolliert durch die eigene Anwendung	Niedrig (datenschutzrechtlich stärkster Pfad)

Ein häufiges Missverständnis hält sich hartnäckig: Die ChatGPT-App gilt als unbedenklich, Codex pauschal als gefährlich.

Datenschutzrechtlich führt diese Sichtweise in die Irre – denn ausschlaggebend ist nicht die Oberfläche, sondern der Vertrag und der rechtliche Rahmen dahinter. Ein privates Plus-Konto in der Web-App kann problematischer sein als ein API-Zugang unter Business-Terms, obwohl die API technisch weit mehr kann. Codex bringt durch seine tiefe Systemintegration zwar tatsächlich ein technisches Risiko mit – dieses lässt sich mit einem durchdachten Setup aber sehr gezielt eingrenzen, wie der eigene Abschnitt weiter unten zeigt.

Datenschutz & DSGVO: der entscheidende Unterschied zwischen den Plänen

OpenAI zieht eine klare Trennlinie zwischen zwei Vertragswelten – den Angeboten für Einzelpersonen (Consumer) und denen für Unternehmen (Business/Enterprise). An genau dieser Linie entscheidet sich, ob der Einsatz compliancetauglich ist oder nicht.

Enterprise Pläne von ChatGPT für Unternehmen bieten mehr vertragliche Sicherheit und Datenschutz

Einzelperson bzw. Consumer-Konten (Free, Plus, Pro)

Diese Pläne fallen unter die Consumer Terms – und dort ist die Voreinstellung eindeutig: Chats fließen standardmäßig in die Modellverbesserung, solange der Nutzer nicht aktiv widerspricht. Was das konkret bedeutet:

Opt-out ist Pflicht, nicht Voreinstellung: Unter Einstellungen → Datensteuerung (Data Controls) → „Das Modell für alle verbessern“ muss der Schalter manuell auf Aus gestellt werden. Alternativ über das Privacy-Portal von OpenAI („Do not train on my content“).
Aufbewahrung & Temporary Chat: Wer das Training deaktiviert, dessen neue Chats fließen nicht mehr ins Training. Der Temporary Chat erscheint nicht im Verlauf und wird nach 30 Tagen gelöscht – außer es bestehen Sicherheits- oder Rechtsgründe.
Kein AVV: Für Consumer-Konten gibt es keinen Auftragsverarbeitungsvertrag. Damit fehlt die rechtliche Grundlage für die Verarbeitung personenbezogener Daten im Unternehmenskontext, die nach Art. 28 DSGVO notwendig ist.
Wichtige Einschränkung: Das Opt-out wirkt nur in die Zukunft. Bereits für das Training verwendete Inhalte lassen sich nicht zurückholen. Zudem: Aufgrund eines laufenden Rechtsstreits (u.a. mit der New York Times) ist OpenAI derzeit gerichtlich verpflichtet, bestimmte Chat-Logs länger als üblich aufzubewahren – auch bei aktiviertem Opt-out oder gelöschten Chats. Ein Punkt, der für datensensible Unternehmen relevant ist (Stand Juni 2026).

Achtung Feedback-Falle: Auch bei deaktiviertem Training kann eine einzelne Rückmeldung (Daumen hoch/runter) dazu führen, dass die gesamte zugehörige Konversation doch für das Training verwendet wird. Mitarbeiter sollten das kennen.

Vorsicht bei der Team- bzw. Business-Umbenennung: OpenAI hat ChatGPT Team am 29. August 2025 in ChatGPT Business umbenannt. Business und Enterprise laufen unter Commercial Terms (kein Training standardmäßig). Im Zweifel den konkreten Vertragsstatus prüfen. Gerne beraten wir Sie bei der Auswahl des richtigen Plans.

Wer ChatGPT sicher nutzen will, muss die Modellverbesserung deaktivieren (Screenshot: ChatGPT)

Business-/Enterprise-Konten (ChatGPT Business, Enterprise, Edu, API)

Hier greifen geschäftliche Vertragsbedingungen – und die verschieben die Ausgangslage für Unternehmen grundlegend zum Positiven:

Kein Training auf Ihren Daten: Inputs und Outputs von ChatGPT Business, Enterprise, Edu und der API werden standardmäßig nicht zur Modellverbesserung verwendet – ohne dass Sie etwas umstellen müssen. Nur ein ausdrückliches Opt-in ändert das.
AVV/DPA verfügbar: OpenAI schließt für ChatGPT Business, Enterprise und die API einen Data Processing Addendum (DPA/AVV) ab und nutzt EU-Standardvertragsklauseln (SCC). Die aktualisierte DPA (Stand Jan. 2026) enthält zusätzliche Audit-Rechte.
Zero Data Retention & konfigurierbare Aufbewahrung: Qualifizierende Organisationen können die Aufbewahrungsdauer konfigurieren und auf der API-Plattform eine Zero-Data-Retention-Regelung wählen. Der Goldstandard für sensible Branchen oder hoch brisante Unternehmensinformationen (Banken, Versicherungen, Medizintechnik, Gesundheitswesen, Rüstungsindustrie).
Datenresidenz: Für berechtigte Enterprise-, Edu-, Healthcare- und API-Kunden lässt sich Content at rest (gespeicherte, ungenutzte Daten) in mehreren Regionen speichern (u.a. Europa, UK, USA); teils ist auch In-Region-Inferenz in Europa oder den USA möglich – relevant für Datensouveränität.
Branchenspezifika: Für das Gesundheitswesen ist ChatGPT for Healthcare mit entsprechenden Vereinbarungen verfügbar. Standard-Consumer-ChatGPT ist nicht für sensible Gesundheitsdaten geeignet und erfordert gesonderte Vereinbarungen.

Leitplanke für die Praxis: Sobald personenbezogene oder vertrauliche Daten ins Spiel kommen, gehört der Einsatz auf einen Business-/Enterprise-Vertrag oder die API – idealerweise mit DPA/AVV und, bei hohem Schutzbedarf, mit Zero Data Retention (API) als zusätzlichem Datenschutz-Hebel. Private Plus-Konten haben im Unternehmen nichts zu suchen, was auch bei der sicheren Nutzung von Claude so ist.

Codex sicher einsetzen: Ein Sonderfall mit eigenem Risiko

Codex ist als Agent ein Sonderfall für die Sicherheit von ChatGPT (Screenshot: ChatGPT Codex)

Codex gehört in einen eigenen Abschnitt, weil es mit der klassischen Chat-App kaum noch etwas gemein hat. Wir reden hier nicht über einen abgeschotteten Chatbot, sondern über einen Agenten mit echter Handlungsvollmacht, der direkt im Betriebssystem des Nutzers arbeitet: Er liest Quellcode, verändert Dateien, setzt Shell-Befehle ab und greift über das Model Context Protocol (MCP) sowie Connectors auf externe Werkzeuge zu – und das mit exakt den Rechten dessen, der ihn gestartet hat.

Daraus ergibt sich eine Angriffsfläche, die ein herkömmliches IDE-Plugin nie hatte. Immerhin: Codex trennt sauber zwischen Sandbox (was technisch überhaupt geht) und Approval Policy (wann nachgefragt wird), läuft lokal in der Grundeinstellung ohne Netzzugang und darf nur im aktuellen Arbeitsverzeichnis schreiben. Kritisch wird es dennoch, sobald jemand die Rechteverwaltung nicht sauber beherrscht oder den Full-Access-Modus außerhalb einer gekapselten Umgebung anwirft.

Die zentralen Risiken von Codex

Dateizugriff: Sobald die Sandbox aufgeweicht wird, kann Codex an sensible Dateien gelangen – Umgebungsvariablen (.env), SSH-Schlüssel, hinterlegte Zugangsdaten. Immerhin bleiben .git-Pfade in der Standardkonfiguration schreibgeschützt. Änderungen sind hier aber möglich und eröffnen Sicherheitsrisiken.
Befehlsausführung: Bash-Befehle laufen im Kontext der Entwickler-Shell – ein einziger fehlgeleiteter Befehl reicht, um Daten zu überschreiben oder zu löschen. Die Sandbox fängt das ab, aber eben nur, solange sie aktiv bleibt.
Prompt Injection: Versteckte Anweisungen in Dateien, READMEs oder Paket-Metadaten können den Agenten kapern. Nicht ohne Grund zieht Codex Web-Suchergebnisse standardmäßig aus einem Cache statt live und behandelt sie als nicht vertrauenswürdig. Gerade öffentliche MCP-Packages, Libraries und sonstige Open-Source-Komponenten sind ein potenzielles Einfallstor für Schadcode.

Berechtigungsmodus: vom Vorsichtigen zum Riskanten

Codex verzahnt zwei Regler – den Sandbox-Modus und die Approval Policy. In der Grundeinstellung fragt es vor riskanten Aktionen nach. Diese Stufen sind entscheidend:

Read-only (/permissions): Codex analysiert und schlägt vor, ohne etwas zu ändern. Der Plan-first-Ansatz (/plan) läuft hier. Die sicherste Methode, aber zeitintensiv und mit manueller Prüfung.
Auto / workspace-write (–full-auto): Codex liest, editiert und führt Befehle im Arbeitsverzeichnis automatisch aus, fragt aber bei Aktionen außerhalb des Workspace oder bei Netzwerkzugriff nach. Guter Kompromiss für den Alltag – Netzwerk bleibt hier standardmäßig aus.
Auto-Review: Ein Prüf-Subagent bewertet grenzüberschreitende Anfragen und genehmigt risikoarme Aktionen automatisch, statt den Nutzer bei jedem Schritt zu unterbrechen – die sicherere Mittellösung für längere autonome Läufe.
–yolo / danger-full-access: Hebt Sandbox und Approvals komplett auf. Der Name ist eine bewusste Warnung und sollte niemals auf der lokalen Maschine ausgeführt werden! Nur in einer isolierten Sandbox / einem gehärteten Code-Runner oder isolierten Container.

Codex-Berechtigungen im Überblick:

Modus	Was passiert	Sicherheitsprüfung	Interaktiv	Geeignet für
Read-only	Nur Lesezugriff – Codex analysiert und plant (/plan), ohne etwas zu ändern	Keine Änderungen möglich	Ja, reine Ansicht	Analyse, Code-Verständnis, Planung vor der Umsetzung
Workspace-write (Auto)	Edits und Befehle im Arbeitsverzeichnis laufen automatisch; Netzwerk standardmäßig aus	Reduziert – Nachfrage außerhalb des Workspace und bei Netzwerk	Ja, Eingriff jederzeit möglich	Aktive Entwicklung an vertrauten Projekten
Auto-Review	Ein Prüf-Subagent bewertet grenzüberschreitende Aktionen und genehmigt risikoarme automatisch	Aktiv – automatisiert per Review-Subagent	Teilweise, Rückfrage bei höherem Risiko	Längere autonome Läufe, sicherere Mittellösung, isolierte Umgebung empfohlen
Cloud (OpenAI-managed)	Läuft in isolierten OpenAI-Containern; Setup mit Netz, Agent-Phase offline; Secrets nur im Setup	Aktiv – technische Isolation vom Host	Nein, gekapselt	Delegierte Aufgaben ohne Host-Zugriff
–yolo (danger-full-access)	Alle Sandbox- und Approval-Prüfungen aus – jede Aktion läuft ungeprüft durch	Keine – vollständig deaktiviert	Nein, vollautomatisch	Nur isolierte Sandbox / VM, niemals auf Produktiv- oder DEV-Geräten

Lokal vs. Container/VM: die Entscheidungslogik

An diesem Punkt fällt für technische Teams die wichtigste Sicherheitsentscheidung:

Umgebung	Isolation	Geeignet für
Lokal (direkt auf dem Gerät)	OS-Sandbox begrenzt auf den Workspace; bei Full-Access keine Grenze	Read-only oder workspace-write mit aktiver Sandbox, vertrauenswürdige Repos
Codex Cloud / Dev-Container	Isolierte OpenAI-Container bzw. Docker, Egress-/Netzwerk-Kontrolle	Der empfohlene Standard für Teams – isoliert, reproduzierbar
Virtuelle Maschine (VM)	Stärkste Trennung vom Host, auch physikalisch	Regulierte Branchen, hochsensible Daten (Banken, Versicherer, Gesundheit)

Faustregeln aus der Cybersecurity:

Die Sandbox ist die Wand, die Approvals sind das Schloss an der Tür.
Erst durch Isolation (Container/VM) lässt sich volle Autonomie verantworten – weil ein etwaiger Schaden auf den Container beschränkt bleibt.
Praktische Maßnahmen: nur das eine Projektverzeichnis als Writable Root zulassen und das Netzwerk im workspace-write-Modus deaktiviert lassen bzw. den Egress auf eine Allowlist begrenzen.
Secrets erst gar nicht in den Container geben, sondern parametrisiert einsteuern – in Codex Cloud werden sie ohnehin vor der Agent-Phase entfernt.

Enterprise-Kontrollen, die nicht umgangen werden können

Einzelne Approval-Abfragen ersetzen keine verbindliche Unternehmensvorgabe – sie hängen am Wohlverhalten des Einzelnen. Wer verlässliche Leitplanken will, setzt auf Managed Configuration (per requirements.toml, MDM oder cloud-managed), die sich nicht durch Projekt-Dateien aushebeln lässt.

Für einen sicheren Codex-Einsatz sollten insbesondere diese Punkte stehen:

Least-Privilege-Permission-Profiles,
Sperre von approval_policy = „never“ und danger-full-access außerhalb isolierter Umgebungen,
Regeln (Rules) für erlaubte bzw. verbotene Befehls-Präfixe,
genehmigte MCP-Server und Connectors,
Agent-native Logs (Telemetrie) für Sichtbarkeit über alle Tool-Aufrufe.

Damit lässt sich Codex als effizientes, agentisches Tool in der KI-Entwicklung schon sehr sicher einsetzen.

ChatGPT sicher nutzen: Governance-Rahmen für Unternehmen

Mit technischen Einstellungen allein ist es nicht getan. Wer ChatGPT sicher nutzen will, braucht einen organisatorischen Rahmen mit konkreten Leitplanken – und der ist zugleich Pflicht nach dem AI Act:

KI-Richtlinie (Policy): Schwarz auf weiß festhalten, welche Varianten und Pläne erlaubt sind, welche Daten in einen Prompt dürfen und wer die Freigabe erteilt.
Freigabe- und Beschaffungsprozess: Dienstliches läuft nicht über private Konten. Wer Business-/Enterprise-/API-Zugänge zentral bereitstellt, nimmt Shadow AI den Nährboden.
KI-Inventar: Aufnehmen, welche KI-Systeme tatsächlich im Einsatz sind – auch die stillen Zuwächse wie Custom GPTs und Connectors. Dieses Inventar ist zugleich die Basis für die Risikoklassifizierung nach AI Act.
Mitarbeiterschulung (Art. 4 EU AI Act): Seit Februar 2025 Pflicht. Die Belegschaft muss verstehen, wie KI funktioniert, Halluzinationen erkennen und die internen Spielregeln kennen.
Audit & Review: Turnusmäßig prüfen, ob Einstellungen (Training-Opt-out, Plan-Status, Konten, Connectors) noch stimmen – und alte Konversationen bereinigen.

Zu viel für den ohnehin vollen Schreibtisch? Verständlich, genau deshalb begleiten wir Unternehmen im Rahmen der KI-Governance Beratung bei allen relevanten Fragen rund um die Vorbereitung auf den EU AI Act. Buchen Sie einfach ein Erstgespräch, und wir setzen diese Leitplanken gemeinsam in Ihrem Unternehmen um.

Sicherheits-Checkliste: ChatGPT im Unternehmen

Die wichtigsten Key-Takeaways für den sicheren ChatGPT-Einsatz zum Mitnehmen, teilen und überprüfen:

Nur Business-/Enterprise-Verträge oder die API für dienstliche Nutzung – keine privaten Plus-Konten (!!!)
AVV/DPA mit OpenAI abgeschlossen
Bei hohem Schutzbedarf: Zero Data Retention (API) bzw. konfigurierte Aufbewahrung aktiviert
Auf verbliebenen Consumer-Konten: Training-Opt-out geprüft und dokumentiert (inkl. Feedback-Regel)
KI-Richtlinie verabschiedet und kommuniziert
KI-Inventar erstellt, Shadow-AI-Konten, Custom GPTs und Connectors identifiziert
Art.-4-Schulung durchgeführt und dokumentiert
Codex nur mit aktiver Sandbox / im Container/VM mit Secret-Sperren und Egress-Kontrolle betrieben
Full-Access-Modus (–yolo) außerhalb der Sandbox gesperrt
Audit-Logging und regelmäßige Reviews etabliert

Die Checkliste gibt es natürlich auch noch als PDF-Version zum Download und Ausdrucken für die Lobby:

ChatGPT sicher nutzen: Checkliste (PDF, 1 Seite)

Wie Elsen GRC Sie unterstützt

Sicherer ChatGPT-Einsatz trifft genau den Schnittpunkt aus Datenschutz, KI-Governance und AI-Act-Compliance – das Feld, in dem Elsen GRC zu Hause ist:

KI-Kompetenzschulung nach Art. 4 EU AI Act: Erfüllt die gesetzliche Schulungspflicht – inklusive Mitarbeiter-Zertifikat, Schulungsregister und KI-Richtlinien-Entwurf.
AI Act Readiness Scan: KI-Inventar, Risikoklassifizierung und Roadmap mit Blick auf die AI Act Fristen bis August 2026.
KI-Governance-Beratung: Vollständiges Governance-Framework mit Policies, Rollen und Freigabeprozessen für den kontrollierten KI-Einsatz.

So wird aus einem bislang ungesteuerten Tool ein kontrollierter, prüffester Baustein Ihrer GRC-Struktur und eine effiziente und sichere KI-Nutzung im Tagesgeschäft.

Ein paar weitere Fragen zur ChatGPT-Sicherheit im Überblick (FAQ)

Ist ChatGPT DSGVO-konform nutzbar?

Ja – allerdings nur unter Business-/Enterprise-Terms oder über die API, jeweils mit abgeschlossenem DPA/AVV. Private Consumer-Konten (Free, Plus, Pro) bieten keinen AVV und speisen Daten standardmäßig ins Training, solange niemand aktiv widerspricht.

Werden meine Chats zum Training von ChatGPT verwendet?

In Consumer-Konten per Voreinstellung ja, bis man aktiv widerspricht. In Business-, Enterprise- und API-Konten grundsätzlich nicht. Aufpassen bei Feedback: Eine Daumen-Bewertung kann die betroffene Konversation trotz Opt-out ins Training holen.

Reicht der Business-Plan für Unternehmen?

ChatGPT Business (früher Team) läuft bereits geschäftlich – mit DPA-Option und ohne Training. Für die weitreichendsten Kontrollen wie Datenresidenz oder erweiterte Admin-Funktionen führt der Weg zu Enterprise oder zur API.

Warum ist Codex riskanter und nicht so sicher wie die App?

Weil Codex mit den Rechten des Nutzers auf das Dateisystem zugreift und Befehle ausführt. Deshalb gehört es mit aktiver Sandbox, in einen Container oder eine VM – und nicht in den Full-Access-Modus auf dem lokalen Rechner.

Was ist Zero Data Retention?

Eine Option für qualifizierende Kunden auf der API-Plattform, bei der Daten über die unmittelbare Verarbeitung hinaus nicht gespeichert werden – der höchste Datenschutzstandard, ganz ohne eigene Infrastruktur.

Quellen

Der Beitrag ChatGPT sicher nutzen: Guide für mehr Sicherheit bei Codex und CustomGPTs erschien zuerst auf ELSEN GRC.

DSGVO-Änderungen im „Digital Omnibus“: Tracking-Cookies bald erlaubt?

Mario Elsen — Fri, 14 Nov 2025 18:45:32 +0000

Executive Summary: DSGVO-Änderungen im „Digital Omnibus“

Die EU-Kommission plant im Rahmen des Digital Omnibus Directive weitreichende Anpassungen der DSGVO, die vor allem zwei Bereiche betreffen: Tracking-Cookies + Consent-Banner und Datenverarbeitung für KI. Die vorgeschlagenen Änderungen würden die Verwendung von Cookies künftig stärker auf berechtigtes Interesse (Art. 6 Abs. 1, Bst. f DSGVO) stützen und die Einwilligungspflicht ( Art. 6 Abs. 1 Bst. a DSGVO) erheblich reduzieren. Zusätzlich sollen pseudonymisierte Daten leichter für KI-Training und Analyseprozesse nutzbar werden, was den EU AI Act betrifft. Für Unternehmen könnte dies eine operative Erleichterung bedeuten – für Datenschützer und Behörden eine deutliche Schwächung des bestehenden Schutzstandards.

Hintergrund: Was die EU im Digital-Omnibus anstrebt

Mit dem Digital Omnibus verfolgt die EU-Kommission das Ziel, mehrere digitale Rechtsbereiche – darunter DSGVO, ePrivacy-Regelungen und Teile der KI-Regulierung (EU AI Act) zu modernisieren und administrativ zu verschlanken. Das Paket enthält Vorschläge, die das bisherige Datenschutzmodell in mehreren Kernpunkten neu ausrichten würden:

Tracking-Cookies könnten künftig häufiger auf „berechtigtes Interesse“ (Art. 6 Abs. 1, Bst. f DSGVO) gestützt werden, was die Notwendigkeit von Consent-Bannern deutlich reduzierten würde.
Besondere Kategorien personenbezogener Daten (Art. 9 DSGVO) sollen enger definiert werden – nur noch die Informationen, die „direkt“ sensible Merkmale offenbaren, (z.B. Ausweisdokumente) würden so privilegiert geschützt.
Pseudonymisierte Daten sollen breiter für KI-Training und Analysezwecke nutzbar werden, ohne die bisherigen strengen Voraussetzungen.
Datenverarbeitung für innovative digitale Dienste soll grundsätzlich erleichtert werden, um europaweit ein wettbewerbsfähiges Innovationsumfeld zu stärken.

Einer der wesentlichen Kritikpunkte vieler Datenschutzexperten ist die damit verbundene Absenkung des Grundrechtsschutzes zugunsten wirtschaftlicher Wettbewerbsfähigkeit, was langfristig sowohl gesellschaftliche als auch regulatorische Risiken schaffen könnte. Aber wie so oft steht am Ende doch das wirtschaftliche Interesse im Vordergrund.

Die wichtigsten DSGVO-Änderungen im Detail

1. Tracking-Cookies und Consent-Banner

Zentraler Punkt ist die Neugewichtung zwischen Einwilligung und berechtigtem Interesse (Art. 6 Abs. 1 Bst. a sowie Art. 6 Abs. 1, Bst. f DSGVO). Wenn Tracking- und Analyseverfahren künftig überwiegend auf berechtigtes Interesse gestützt werden dürfen, hätte das folgende Konsequenzen:

Consent-Banner würden deutlicher seltener benötigt und eingeblendet.
Tracking-Mechanismen (Analytics, Retargeting, Conversion-Messung) könnten mit weniger Reibungsverlusten eingesetzt werden.
Betreiber müssten verstärkt Opt-out-Mechanismen bereitstellen und transparent darstellen & dokumentieren (z.B. als barrierefreier Link auf der Startseite)
Die Datenqualität von Web-Analytics würde steigen, während aber das Missbrauchspotenzial steigen dürfte.

Für Unternehmen wäre dies operativ eine klare Erleichterung; für Betroffene und Aufsichtsbehörden ein erheblicher Kontrollverlust (und vermutlich auch ein Verlust an Bußgeldern).

2. KI-Training und pseudonymisierte Daten

Die vorgeschlagenen Änderungen würden es erlauben, pseudonymisierte Daten deutlich breiter für das Training von KI-Modellen zu nutzen. Dies betrifft insbesondere:

KI-Startups (LLM-Entwickler und Provider)
SaaS-Unternehmen mit großen Datenpools (Nutzung von KI-APIs)
Plattformanbieter bzw. Plattformbetreiber
Forschung & öffentliche Stellen

Mehr Spielraum bedeutet stärkere Innovationsfähigkeit, gleichzeitig steigt aber auch das Risiko der Re-Identifizierung, wenn Qualität und Integrität der Pseudonymisierung nicht gewährleistet sind.

3. Neue Definition sensibler Daten

Der Vorschlag der Kommission sieht vor, nur solche Informationen als „besonders schützenswert“ einzustufen, die unmittelbar Rückschlüsse auf Merkmale wie Gesundheit, ethnische Herkunft oder Religion zulassen (vgl. Art. 9 DSGV). Daten, die lediglich nur sensible Merkmale vermuten lassen, etwa das Einkaufsverhalten, Standortprofile oder Nutzungsdaten, würden künftig nicht mehr automatisch unter die hohen Schutzstandards fallen.

Ist das also ein Freifahrtsschein für ungebremstes Tracking? Jedenfalls hätte dies weitreichende Auswirkungen auf Prozesse wie personenbezogenes Profiling, Scoring (mit Personenbezug), Risikobewertungen, Zielgruppenanalysen oder auch KI-gestützte Verhaltensmodelle.

Auswirkungen auf Unternehmen, Behörden und Datenschutzbeauftragte

Für Unternehmen ergeben sich potenziell deutliche Arbeitserleichterungen und bürokratische „Entschlackungen“:

weniger Abhängigkeit von Consent-Banner-Logiken
größere Datengrundlage für Analytics und KI
weniger Komplexität im Cookie-Management
bessere Planbarkeit bei Marketing- und Produktanalyseprozessen

Für Behörden und Datenschutzbeauftragte entsteht jedoch zusätzlicher Druck, während in Prüfprozessen einige Anpassungen erforderlich werden:

Schutzmechanismen müssten stärker über Governance statt über Einwilligung organisiert werden
neue Prüfroutinen wären erforderlich
die Rechtslage würde kurzfristig unübersichtlicher
der gesellschaftliche Diskurs über Datenschutzstandards würde neu entfacht

Einschätzung und GRC-Einordnung

Die geplanten Anpassungen deuten auf eine strategische Verschiebung hin: von einem schutzorientierten Datenschutzmodell hin zu einem wirtschaftlich getriebenen datenpolitischen Framework, das zunehmend versucht, Wettbewerbsnachteile in Europa im rasenden „KI-Zug“ zu verhindern. Unternehmen sollten diese Entwicklung aber nicht als „Freifahrtschein” verstehen, sondern als Signal, eigene Governance-Strukturen zu professionalisieren – insbesondere in Bereichen, in denen Einwilligungspflichten entfallen könnten, aber Transparenz- und Rechenschaftspflichten bestehen bleiben.

Was bedeutet das für Ihren GRC Prozess?

Aus den beschriebenen Aspekten ergeben sich grundsätzlich drei zentrale Abhängigkeiten, die ich nachfolgend zusammenfasse:

Governance: Unternehmen müssen klare Verantwortlichkeiten definieren, insbesondere für Opt-out-Management, Datenkategorien und KI-Datenflüsse.
Risk: Risiken liegen vor allem im Profiling, in Diskriminierungspotenzialen und in der Gefahr der Re-Identifizierung pseudonymisierter Daten.
Compliance: Verarbeitungsverzeichnisse, DPAs, Datenschutzerklärungen und DSFAs müssen aktualisiert und an die neuen Rechtsgrundlagen angepasst werden.

Die meisten Unternehmen profitieren, wenn sie frühzeitig ihre Datenschutz- und KI-Governance modernisieren, statt nur auf die Erleichterungen zu reagieren. Gerne berate ich Sie dabei.

Bild: Vyshnavi Bisani – Unsplash.com

Quellen:

Der Beitrag DSGVO-Änderungen im „Digital Omnibus“: Tracking-Cookies bald erlaubt? erschien zuerst auf ELSEN GRC.

Entscheidungshilfe: Für wen gilt der EU AI Act?

Mario Elsen — Tue, 11 Nov 2025 13:11:44 +0000

Der EU AI Act sorgt derzeit für große Unsicherheit in der deutschen und europäischen Wirtschaft und hat ausnahmsweise mal nichts mit europäischer Gasversorgung zu tun. Viele Unternehmen (oder ihre Unternehmer) wissen nicht, ob und in welchem Umfang sie von der neuen europäischen KI-Verordnung betroffen sind. Während große Tech-Konzerne wie OpenAI, Meta und Google längst mit der Umsetzung begonnen haben, stellen sich besonders kleinere SaaS-Anbieter, Startups und mittelständische Betriebe in Deutschland eine zentrale Frage: Für wen gilt der EU AI Act überhaupt? Was muss ich beachten? Und welche Strafen drohen bei Nichteinhaltung der Regelungen?

Mit diesem Beitrag stelle ich eine Entscheidungshilfe bereit, mit der die Antwort auf diese Frage leichter fallen sollte. Doch vorweg: in vielen Fällen lautet die Antwort: ja – direkt oder indirekt. Denn der AI Act betrifft nicht nur Entwickler von KI-Systemen, sondern auch alle Unternehmen, die solche Systeme nutzen, vertreiben oder (integriert in Produkte) in den europäischen Markt einführen.

Was regelt der EU AI Act überhaupt?

Der EU AI Act ist das erste umfassende gesetzliche Flaggschiff zur Regulierung des KI-Einsatzes Künstlicher Intelligenz weltweit. Damit ist die EU zwar alles andere als technischer Vorreiter in der KI-Entwicklung – aber immerhin ganz weit vorne in der Regulierung! Ziel der Verordnung ist es, den sicheren, transparenten und verantwortungsvollen Einsatz von KI-Systemen innerhalb der Europäischen Union sicherzustellen.

Die Regelungen folgen einem risikobasierten Ansatz, den ich in diesem Beitrag bereits erklärt habe. KI-Systeme werden nach ihrem potenziellen Risiko für die Gesellschaft und die Grundrechte der Menschen in vier Kategorien eingeteilt:

Verbotene KI-Systeme: Anwendungen, die manipulativ, diskriminierend oder unvereinbar mit den Grundrechten sind.
Hochrisiko-KI: Systeme in sensiblen Bereichen wie Medizin, Personalwesen, Kreditvergabe oder kritischer Infrastruktur.
Begrenztes Risiko: Systeme mit Transparenzpflichten, etwa Chatbots oder Empfehlungssysteme.
Minimales Risiko: Anwendungen wie Spam-Filter oder Spiele-KI, die kaum reguliert sind.

Die folgende Grafik fasst die vier Risikostufen noch einmal zusammen:

Der AI Act wird schrittweise ab 2026 wirksam. Kürzlich wurden einige Übergangsfristen für den EU AI Act bis 2027 verlängert. Unternehmen müssen dann nachweisen, dass sie ihre KI-Systeme korrekt eingestuft, dokumentiert und gegebenenfalls konformitätsbewertet haben. Frühzeitiges Handeln ist daher entscheidend, um Haftungsrisiken zu vermeiden und Wettbewerbsvorteile zu sichern.

Die drei Hauptrollen im AI Act

Ob und in welchem Umfang der AI Act gilt, hängt maßgeblich von der Rolle des Unternehmens ab. Die Verordnung unterscheidet drei Hauptrollen: Anbieter (Provider), Nutzer (Deployer) und Importeur (bzw. Händler). Aber was macht diese Rollen genau aus?

Anbieter (Provider)

Anbieter bzw. Provider sind alle Arten von Unternehmen, die ein KI-System entwickeln, in eigene Produkte integrieren (z.B. als eigene Chatbot-Engine) oder es unter eigenem Namen vertreiben. Ein Beispiel wäre ein SaaS-Unternehmen, das ein Tool zur automatischen Bearbeitung von Kundenanfragen anbietet. Der Provider trägt die Hauptverantwortung für die technische Dokumentation, die Risikobewertung und die Einhaltung aller regulatorischen Anforderungen, die sich aus seinem Angebot von KI-(integrierten) Systemen ergeben.

Nutzer / Einsetzer (Deployer)

Nutzer sind Organisationen, die ein KI-System zur eigenen Leistungserbringung einsetzen oder diese in eigene digitale Prozesse integrieren. Dazu gehört etwa ein Unternehmen, das ein Bewerber-Scoring-Tool eines Drittanbieters verwendet, mit dem die KI-gestützte Verarbeitung von Bewerberinformationen abläuft. Nutzer müssen sicherstellen, dass das verwendete System konform mit dem AI Act ist, und die Nutzung nachvollziehbar dokumentieren.

Importeur / Händler

Diese Rolle betrifft Unternehmen, die KI-Systeme aus Drittstaaten in die EU einführen oder hier vertreiben. Ein Reseller, der ein US KI-Tool in Europa anbietet, fällt also unter diese Kategorie. Importeure und Händler müssen überprüfen, ob das Produkt den europäischen Anforderungen entspricht und korrekt gekennzeichnet ist, bevor es „hier“ eingesetzt wird.

Achtung: In der Praxis können Unternehmen auch mehrere dieser Rollen gleichzeitig einnehmen, etwa wenn sie ein eigenes Modell entwickeln, aber zusätzlich externe KI-Komponenten in ihre Produkte integrieren. Gerne beraten wir Sie bei der Klassifizierung und Einschätzung, in welche Rolle Ihr Unternehmen fällt.

Für wen gilt der EU AI Act? Entscheidungshilfe für Unternehmen

Diese interaktive Entscheidungshilfe zeigt, ob Ihr Unternehmen unter den EU AI Act fällt. Beantworten Sie die folgenden Fragen. Wenn Sie eine Frage mit Ja beantworten, sehen Sie Ihr Ergebnis. Bei Nein geht es mit der nächsten Frage weiter.

1. Entwickeln oder trainieren Sie ein eigenes KI-System?

Beispiele: Entwicklung eines Chatbots, Machine-Learning-Modells für Prognosen, Bilderkennung oder Sprachverarbeitung.

Sie sind Anbieter (Provider).
Der AI Act gilt direkt. Pflichten: Konformitätsprüfung, technische Dokumentation, EU-Datenbankeintrag.

Nein Weiter mit Frage 2 →

2. Nutzen Sie KI-Funktionen innerhalb Ihrer Produkte oder Prozesse?

Beispiele: Verwendung von ChatGPT, Copilot oder KI-Modellen in internen Workflows, Support-Tools oder Entscheidungsunterstützung.

Sie sind Nutzer (Deployer).
Der EU AI Act gilt indirekt. Pflichten: Nutzung dokumentieren, Transparenz und Zweckbindung prüfen.

Nein Weiter mit Frage 3 →

3. Vertreiben Sie Software oder Hardware mit integrierter KI in der EU?

Beispiele: Verkauf von Smart-Cams, KI-gesteuerten Tools oder Softwarelösungen mit automatisierter Analyse oder Empfehlungssystemen.

Sie sind Importeur oder Händler.
Pflichten: EU-Konformität und Kennzeichnung sicherstellen.

Nein Weiter mit Frage 4 →

4. Binden Sie KI-APIs oder fremde Modelle in Ihre Systeme ein?

Beispiele: Nutzung externer KI-APIs (z. B. OpenAI, Google Vertex, HuggingFace) zur Text-, Sprach- oder Bildverarbeitung.

Gemeinsame Verantwortlichkeit möglich.
Empfohlen: Dokumentation, Auftrags- und Vertragsprüfung.

Nein Weiter mit Frage 5 →

5. Erbringen Sie Dienstleistungen auf Basis externer KI (z. B. Text-, Bild-, Datenanalyse)?

Indirekte Betroffenheit.
Empfohlen: KI-Quellen dokumentieren, Risiken bewerten.

Nein

Derzeit keine unmittelbare Betroffenheit.
Regelmäßige Überprüfung empfohlen.

Unsicher? → Vereinbaren Sie ein unverbindliches Beratungsgespräch

Praxisbeispiele für betroffene Unternehmen

Direkt betroffen:

Ein SaaS-Anbieter entwickelt ein KI-Scoring-Modell für Bewerbungen. Das System fällt in die Hochrisiko-Kategorie und unterliegt den vollen Pflichten des AI Act.
Eine Agentur entwickelt ein Tool zur automatischen Verarbeitung von Website-Besucherdaten und Profil-Erstellung via KI. Auch hier gelten die Pflichten des AI Acts.

Indirekt betroffen:

Ein mittelständisches Unternehmen nutzt ein externes KI-Tool für seine Kundensegmentierung. Es bleibt verantwortlich für den sicheren und konformen Einsatz, auch wenn die Technologie von einem Dritten (z.B. SaaS-Anbieter) stammt.
Ein Personalberater verwendet Copilot für die Optimierung von Bewerberunterlagen, bevor diese an eine dritte Firma weitergereicht werden.

Derzeit nicht betroffen:

Eine Webagentur, die ausschließlich klassische Websites erstellt und keine KI-Komponenten einsetzt, unterliegt aktuell nicht dem AI Act, sollte jedoch die Entwicklung beobachten und die Integration von externen Tools in ihre eigenen Dienste und Prozesse streng kontrollieren.
Weitere Unternehmen oder Einrichtungen wie Ärzte, Verbände oder Vereine können möglicherweise (derzeit) noch nicht durch den AI Act betroffen sein, was sich mit dem nächsten Update von Betriebssystemen mit KI-Integration schnell ändern könnte. Gerne beraten wir Sie, ob Ihr Unternehmen schon heute vom AI Act betroffen ist.

Allgemeine Handlungsempfehlung und Fazit

Als Unternehmen sollten Sie den Einstieg in die AI-Act-Compliance strukturiert angehen und – ganz wichtig: keine Panik bekommen! Wie so oft beschließen die Bürokraten aus Brüssel kritische Verordnungen, die dann „durch uns in der Praxis“ umgesetzt werden müssen, ungeachtet der Konsequenzen. Auch wenn der Gedanke sicherlich nicht verkehrt ist, den Einsatz von KI an bestimmte gesetzliche Vorgaben zu knüpfen, bedeutet es in erster Linie, dass europäische Unternehmen zunächst einen Wettbewerbsnachteil erfahren, da entsprechende Vorschriften umgesetzt und dokumentiert werden müssen. Frühzeitige Vorbereitung ist aber nicht nur eine Frage der Compliance, sondern kann auch ein Wettbewerbsvorteil sein. Unternehmen, die ihre Rollen und Pflichten jetzt klar definieren, können Risiken minimieren, Vertrauen schaffen und sich strategisch besser im Markt positionieren.

Damit sich trotzdem die gesetzlichen Rahmenbedingungen einhalten lassen, empfehle ich Ihnen das folgende Vorgehen :

Zunächst empfiehlt sich eine Bestandsaufnahme, um zu erfassen, wo im Unternehmen oder in den Produkten KI eingesetzt wird. Trommeln Sie Ihre Projektmanager, IT-Leiter und ein paar Entwickler zusammen und diskutieren Sie gemeinsam, an welchen Orten, Diensten und Prozessen im Unternehmen überhaupt KI eingesetzt wird. Von ChatGPT am Arbeitsplatz hin zu maschineller Datenverarbeitung von Kundendaten im Data-Warehouse. Wo es nicht klar ist, reicht zunächst auch ein dickes „?“!
Im zweiten Schritt folgt die Risikoklassifizierung, bei der jedes System einer der vier Risikostufen zugeordnet wird. Anschließend sollten Verantwortlichkeiten, Prozesse und technische Nachweise im Rahmen einer internen Governance-Struktur festgelegt werden. In diesem Schritt wird also dokumentiert, informiert und abgewägt.
Abschließend bietet sich ein AI Act Readiness Check an, um den aktuellen „Erfüllungsgrad“ zu bestimmen und konkrete Maßnahmen für Ihre Produkte und Leistungen abzuleiten.

Elsen GRC unterstützt Unternehmen bei diesem Prozess mit einem strukturierten „AI Act Readiness Scan“, der den Compliance-Status ermittelt und konkrete Handlungsempfehlungen liefert. In diesem Check führen wir nicht nur eine strukturierte Bestandsaufnahme und Risikoklassifizierungen durch, sondern liefern auch technische Vorschläge für Optimierungsmaßnahmen an Services und Produkten mit, die Ihren Erfüllungsgrad im AI Act nicht benachteiligen.

Ihr Ansprechpartner

Als zertifizierter Datenschutzbeauftragter und Gründer von Elsen GRC in Hamburg unterstütze ich Unternehmen und Behörden dabei, KI-, Cloud- und SaaS-Lösungen sicher und DSGVO-konform einzusetzen. Mit über 14 Jahren Erfahrung in der Software-Entwicklung agiere ich dabei nicht nur mit einem klaren Blick auf regulatorische Anforderungen, sondern unterstütze Sie und Ihre IT bei der technischen Umsetzung der oftmals trockenen und praxisfernen Gesetze.

Mario Elsen, Geschäftsführer Elsen Media GmbH

Kontakt

Quellen:

Europäische Kommission: EU AI Act – Offizieller Text (2024)
Elsen GRC interne Analyse 2025

Titelbild: Mick Haupt – Unsplash.com

Der Beitrag Entscheidungshilfe: Für wen gilt der EU AI Act? erschien zuerst auf ELSEN GRC.

EU AI Act Übergangsfristen für Hochrisiko-KI bis 2027 verlängert

Mario Elsen — Wed, 05 Nov 2025 09:51:54 +0000

Die Europäische Kommission und mehrere Mitgliedstaaten, darunter Deutschland, haben vorgeschlagen, zentrale Anwendungsfristen des EU Artificial Intelligence Act (EU AI Act , Verordnung (EU) 2024/1689) um ein Jahr zu verschieben. Besonders betroffen sind die sogenannten Hochrisiko-KI-Systeme gemäß Anhang I und III. Diese sollen nun erst 2026 bzw. 2027 verbindlich gelten, so der Vorschlag. Ziel ist es, den Unternehmen, Behörden und Aufsichtsstellen mehr Zeit zur technischen und organisatorischen Umsetzung zu geben – eine Entscheidung mit weitreichenden Folgen für Datenschutz, Governance und Compliance in Europa. Die EU-Komission will ihre diesbezügliche Pläne voraussichtlich am 19.11.25 vorstellen.

Hintergrund der EU AI Act Übergangsfristen

Der EU AI Act ist die „weltweit erste umfassende KI-Verordnung“ und bildet den zentralen Rechtsrahmen für die Entwicklung, Bereitstellung, Integration und Nutzung von Künstlicher Intelligenz in der EU. Die Verordnung unterscheidet zwischen vier Risikostufen – von „unannehmbar“ bis „minimal“. Systeme, die als „Hochrisiko“ eingestuft werden (z.B. KI-Sicherheitskomponenten in kritischen Infrastrukturen oder Gesundheitssystemen), unterliegen strengen Pflichten wie Risikomanagement, Transparenz, Dokumentation und Konformitätsbewertung, um gegenüber den Aufsichtsbehörden entsprechende Nachweise erbringen zu können.

Die entsprechenden Anwendungsfälle sind in den Anlagen I und III des Gesetzes definiert. Ursprünglich sollten die Regeln rund 24 Monate nach Inkrafttreten (1. August 2024 )gelten, d.h. ab dem 01. August 2026. Durch die nun diskutierte Anpassung würden sich die EU AI Act Übergangsfristen auf 36 Monate verlängern, womit August 2027 im Raum steht. Die EU-Kommission schreibt hier selbst:

Die Vorschriften für Hochrisiko-KI-Systeme, die in regulierte Produkte eingebettet sind, haben einen verlängerten Übergangszeitraum bis zum 2. August 2027.

Die Begründung: Viele Mitgliedstaaten und Branchenverbände sehen derzeit noch Lücken bei der praktischen Umsetzung – insbesondere bei der Normung, der Einrichtung der nationalen Aufsichtsbehörden sowie bei der technischen Ausgestaltung der Compliance-Prozesse.

Auswirkungen auf Unternehmen

Für Unternehmen bedeutet die geplante Fristverlängerung mehr Zeit, aber keine Entwarnung.

Planungs- und Rechtssicherheit: Organisationen können ihre eigenen KI-Strategien und Governance-Strukturen mit größerem zeitlichen Spielraum anpassen und entsprechende Governance, Risk und Compliance Prozesse entwickeln
Implementierung: Compliance-Teams gewinnen Zeit für Risikoanalysen, technische Dokumentation, Daten-Governance und den Aufbau von KI-Registrierungen.
Lieferantenmanagement: Anbieter von KI-Komponenten sollten bestehende Vertrags- und Prüfprozesse frühzeitig anpassen, um künftige Anforderungen an Transparenz und Nachvollziehbarkeit zu erfüllen.
Ressourcen: Gerade KMU und SaaS-Unternehmen erhalten die Möglichkeit, Personal und Budgets für KI-Compliance gezielter einzuplanen, ohne durch kurzfristige Umsetzungspflichten behindert zu werden.

Eine Verschiebung der Anwendung ist jedoch keine inhaltliche Abschwächung – die regulatorischen Anforderungen selbst bleiben unverändert!

Bezug zu Governance, Risk und Compliance

Die Anpassung betrifft unmittelbar den Compliance-Bereich (Einhaltung gesetzlicher Vorschriften) und steht zugleich in engem Bezug zu Governance und Risikomanagement. Nachfolgend liefere ich Ihnen einen kompakten Eindruck über die Bedeutung für GRC:

Governance: Unternehmen müssen KI-Einsatz und Verantwortlichkeiten intern strategisch planen, steuern, dokumentieren und transparent machen.
Risk: Der AI Act verlangt die systematische Identifikation, Bewertung und Minderung von Risiken, die aus KI-Anwendungen entstehen, insbesondere für die Verarbeitung von personenbezogenen Daten (Beachtung der DSGVO weiterhin relevant!)
Compliance: Aufbau eines rechtssicheren Nachweis- und Kontrollsystems, das gegenüber Aufsichtsbehörden belegt, dass KI-Systeme die Anforderungen erfüllen.

Die Verlängerung der EU AI Act Übergangsfristen verschiebt somit die operative Umsetzung, nicht jedoch die Pflicht zur Vorbereitung.

Fachliche Einschätzung

Die vorgeschlagene Fristverlängerung ist aus praktischer Sicht sinnvoll: Viele Organisationen, insbesondere KMU, stehen noch am Anfang einer strukturierten KI-Governance. Gleichzeitig besteht das Risiko, dass eine zu lange Übergangsphase zu Unsicherheit führt, insbesondere bei der Auslegung der „High-Risk“-Kriterien (Stufe 2) und der Klassifizierung von General-Purpose-KI-Modellen. Entscheidend wird sein, ob die EU klare Leitlinien und technische Standards frühzeitig bereitstellt, die auch „verständlich“ und praxistauglich sind.

Beratung zum EU AI Act durch Elsen GRC

Elsen GRC unterstützt Unternehmen, öffentliche Einrichtungen (Ämter, Behörden, Kommunen) und SaaS-Anbieter bei der Umsetzung der Compliance-Anforderungen, die aus dem EU AI Act resultieren. Dazu gehören neben einer konkreten Risiko- und Systemklassifizierung gemäß AI Act Anhängen I bis III und der Erstellung von Governance- und Dokumentationsstrukturen auch die Begleitung bei KI-Readiness-Analysen + Audits bis hin zu Integration von Datenschutz-Prozessen (DSGVO, ISO 27701) und KI-Management (ISO 42001), die durch den Aufbau von internen Kontrollsystemen und Compliance-Workflows langfristig im Blick des Managements bleiben.

Mit einem praxisnahen Ansatz verbinden wir rechtliche Anforderungen mit technischer Machbarkeit – für eine sichere, nachvollziehbare und nachhaltige KI-Nutzung. Melden Sie sich jetzt für ein unverbindliche Erstberatung zum AI Act.

Unverbindliche Beratung anfordern

Quellen

Bild: Markus Spiske – Unsplash.com

Der Beitrag EU AI Act Übergangsfristen für Hochrisiko-KI bis 2027 verlängert erschien zuerst auf ELSEN GRC.

GRC Journal: Praxisnahe Insights über Governance, Risk, Compliance und AI Act

Mario Elsen — Sat, 25 Oct 2025 12:17:10 +0000

Herzlich Willkommen! Mit dem GRC Journal starte ich ein neues Fachmagazin für KMU und Behörden, die den rechtssicheren, datenschutzkonformen und verantwortungsvollen Einsatz von KI-, Cloud- und Datentechnologien gestalten wollen. Hier finden Sie künftig praxisorientierte Beiträge, Checklisten und Analysen rund um Governance, Risk & Compliance (GRC) – mit Schwerpunkten auf Datenschutz (DSGVO / nDSG), EU AI Act Readiness & KI-Governance, Cloud-Compliance nach ISO 27001 / 27701, Cybersecurity und NIS2-Readiness. Aber lassen sich mich zunächst ein paar Hintergründe ausführen.

Warum ein eigenes GRC Journal?

Die Anforderungen an Datenschutz, IT-Sicherheit und den Compliance-konformen Einsatz von KI wachsen rasant. Steigender Wettbewerbsdruck machen den Einsatz von KI-Tools in vielen Unternehmen unerlässlich, während andere Unternehmen erst durch KI komplett neue Geschäftsmodelle erschließen. Die Smarte Integration von KI-Anbindungen in eigene Produkte, Schnittstellen oder Prozesse kann die Produktivität nicht nur erheblich steigern, sondern ganze Wertschöpfungsketten umstrukturieren. Mit dem EU AI Act entsteht erstmals ein umfassender Rechtsrahmen für den Einsatz künstlicher Intelligenz, während NIS2 und ISO 27001 den Standard für Informationssicherheit in Europa neu (oder erneut) definieren. Ziel des Journals ist es, diese Entwicklungen verständlich, aktuell und praxisnah einzuordnen – für Datenschutzbeauftragte, IT-Leitungen, Geschäftsführungen und alle, die für Compliance und Governance im Unternehmen Verantwortung tragen. Elsen GRC zeigt, dass Governance und Innovation kein Widerspruch sind – sondern die Grundlage für vertrauenswürdige Technologien.

Strategie, Fokus und Motivation von Elsen GRC

Elsen GRC berät Unternehmen im DACH- und CH-Raum beim sicheren, datenschutz- und gesetzeskonformen Einsatz von KI- und Cloud-Technologien. Der Ansatz verbindet technische Expertise, rechtliches Verständnis und praktische Umsetzungskompetenz. Ziel ist es, GRC-Strukturen nicht nur zu planen, sondern im Unternehmen operativ und praxistauglich zu verankern – von der Datenschutz-Organisation bis zur KI-Governance.

Aber wie kam es dazu? Nachdem ich unter dem Dach der Elsen Media GmbH über 14 Jahre Erfahrung in der Entwicklung von Websites, Webanwendungen und Kampagnen gesammelt habe, hunderte Cookie-Consent-Tools konfiguriert und Datenschutzerklärungen auf die Füße der DSGVO gestellt hatte, stellte ich zunehmend fest, dass sich die Arbeitsweise meiner Kunden verändert: Immer häufiger wurden eigene – teils KI-generierte – Konzepte oder Inhalte geliefert, bei denen die Verarbeitung der Daten nicht nur fraglich, sondern teilweise unter Vernachlässigung geltender Datenschutzrichtlinien erfolgte.

Inzwischen findet sich KI in nahezu allen Prozessen mittelständischer Unternehmen. Doch eine zentrale Frage wird fast immer vernachlässigt: Wie gehen wir beim Einsatz von KI eigentlich mit sensiblen Unternehmens- und personenbezogenen Daten um?

Diese Frage führte mich 2025 zu einem neuen Schwerpunkt meiner IT-Tätigkeit – in die Welt von Governance, Risk und Compliance (GRC). Die gezielte Weiterbildung zum TÜV-zertifizierten Datenschutzbeauftragten, ergänzt durch die Vorbereitung auf die Tätigkeit als ISO 27001 Lead Auditor sowie die IAPP AIGP-Zertifizierung, bilden das Fundament der heutigen Arbeit von Elsen GRC.

Themen, die Sie im GRC Journal erwarten

Das Journal wird regelmäßig mit neuen Beiträgen gefüllt – fundiert, praxisnah und stets mit Blick auf aktuelle regulatorische Entwicklungen:

Was sind Hoch-Risiko-KI-Systeme nach dem EU AI Act?
Datenpanne – was tun, wenn’s passiert ist?
TOMs im Auftragsverarbeitungsvertrag: Muster und Umsetzung
Automatisierte Einzelentscheidung und Profiling im KI-Zeitalter
Cloud Act vs. DSGVO – Datenhoheit und US-Anbieter im europäischen Kontext
und viele weitere Themen!

Jeder Beitrag bietet einen klaren Mehrwert: rechtliche Einordnung, technische Perspektive und konkrete Handlungsempfehlungen – um Unternehmen bei der AI Act Readiness, NIS2-Umsetzung und Datenschutz-Governance zu unterstützen.

Bleiben Sie auf dem Laufenden und erhalten Sie praxisnahe Insights rund um AI Act, DSGVO, NIS2 und ISO 27001.
Abonnieren Sie unseren Newsletter oder folgen Sie Elsen GRC auf LinkedIn, um regelmäßig über neue Beiträge, Webinare und Fachanalysen informiert zu werden.

Sie möchten Ihr Unternehmen auf AI Act Readiness, NIS2-Compliance oder ISO 27001-Zertifizierung vorbereiten? Kontaktieren Sie uns gern für ein unverbindliches Orientierungsgespräch.

Der Beitrag GRC Journal: Praxisnahe Insights über Governance, Risk, Compliance und AI Act erschien zuerst auf ELSEN GRC.