Menschenzentrierung ist ein zentrales Ziel der KI-Verordnung. Aber was genau bedeutet der Begriff? Wie ist er in der KI-Verordnung verankert? Welche Brücken bestehen zur Corporate Digital Responsibility (CDR)? Eine Fachveröffentlichung beleuchtet entsprechende Fragestellungen. Im Hinblick auf das Skript gibt es u.a. Schnittstellen zu Kapitel 1 (Recht im KI-Zeitalter), aber auch zum Haftungsrecht (Kapitel 4).

Worum geht es?

Das Ziel menschenzentrierter KI ist in Art. 1 (1) EU AI Act manifestiert. Die Norm besagt:

Zweck dieser Verordnung ist es, … die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern …

• Aber was ist mit menschenzentrierter KI genau gemeint?
• Wie spielen rechtliche Vorgaben und freiwillige Verhaltenskodizes zusammen?
• Welche rechtlichen Auswirkungen können Verhaltenskodizes und dazugehörige Maßnahme-Berichte haben?

Was sollte man zum Thema kennen?

Nachfolgend drei Empfehlungen:

1. Die CDR-Initiative des BMJV: CDR ist die Abkürzung für Corporate Digital Responsibility. Damit gemeint ist das Zusammenspiel freiwilliger digitaler Verantwortung und verbindlicher rechtlicher Vorgaben. Zur CDR-Initiative des BMJV gleich mehr.
2. Den Sammelband „Corporate Digital Responsibility – menschenzentrierte Digitalisierung“: Unter Mitwirkung der Teilnehmer der CDR-Initiative des BMJV entstand 2024 ein frei zugänglicher Sammelband zu menschenzentrierter Digitalisierung. Er wird nachfolgend kurz vorgestellt. Herausgeber ist Prof. Dr. Dr. Alexander Brink.
3. Den Fachartikel „Zusammenspiel von CDR und EU AI Act bei menschenzentrierter KI“: Im Sammelband ist auch ein Fachartikel von mir enthalten. Es geht darin um das Zusammenspiel von CDR und dem EU AI Act im Hinblick auf menschenzentrierte KI. Die diesbezüglichen Thesen werden im Kontext des Skripts „Grundwissen KI-Recht“ näher beleuchtet.

1. Was ist die CDR-Initiative?

Ziel der Corporate Digital Responsibility (CDR)-Initiative ist es, digitale Verantwortung zu einer Selbstverständlichkeit für Unternehmen aller Branchen werden zu lassen. Die Initiative will Unternehmen motivieren, die Digitalisierung menschen- und werteorientiert zu gestalten. Mit dem rasanten technologischen Fortschritt rücken der Austausch und das gemeinsame Lernen zunehmend in den Mittelpunkt.

Weiterführende Information zu CDR im Allgemeinen:

• Generelle Darstellung zum Zusammenspiel von CDR und Recht.
• Links zur CDR-LinkedIn-Gruppe und den CDR-Building-Bloxx
• Website des CDR-Award 2024

Kurz zur Historie der CDR-Initiative:

• Die CDR-Initiative wurde im Mai 2018 durch das damalige Bundesministerium der Justiz und für Verbraucherschutz (BMJV) gemeinsam mit Unternehmen ins Leben gerufen.
• Nach einem zwischenzeitlichen Wechsel der Zuständigkeit in das Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) liegt die Verantwortung seit 2025 erneut beim Bundesministerium der Justiz und Verbraucherschutz (BMJV).
• Die Initiative hat diverse Unternehmensmitglieder und Entwicklungspartner aus der Wirtschaft.

Der verantwortliche Einsatz von KI spielt bei der CDR-Initiative eine wichtige Rolle. Im Kontext von „Grundwissen KI-Recht“ hat die Initiative durchaus Relevanz:

• Sie hat u.a. eine Umfrage zum Vertrauen in KI erstellt.
• Das Thema „KI“ spielt auch im Kontext des Kodex der CDR-Initiative eine wichtige Rolle. Dazu gleich mehr.

2. Worum geht es im Sammelband?

Der Sammelband „Corporate Digital Responsibility – menschenzentrierte Digitalisierung“ wurde von Prof. Dr. Dr. Alexander Brink im Jahr 2024 herausgegeben. Ein Inhaltsverzeichnis aller Fachbeiträge und der namhaften Autoren findet sich hier. Die Inhalte des Sammelbands widmen sich nicht nur KI-Themen, sondern übergreifend der Digitalisierung.

Drei Beiträge mit rechtlichem Bezug zu KI sollen exemplarisch hervorgehoben werden:

• Zunächst sei der Beitrag „KI-Szenarien gemeinsam gestalten“ von Susanna Wolf, Andrea Gocke und Christopher Koska empfohlen. Er beleuchtet u.a Themen wie Ethik-Leitlinien und Nachhaltigkeit, vgl. dazu auch Art. 95 (1) EU AI Act.
• Ein weiterer Beitrag betrifft „KI-Transparenz per Regulierung“ und stammt vom Herausgeber Alexander Brink und Leonard Hecke. Der Artikel verdeutlicht u.a. den Foundation Model Transparency Index des Stanford Institute for Human-Centered Artificial Intelligence (HAI) der Universität Stanford. Ein Thema, das u.a. im Kontext von Art. 53 (1) b), d) EU AI Act von Bedeutung ist.
• Schließlich ist auch ein Fachartikel von mir zum Zusammenspiel von CDR und der KI-Verordnung bei menschenzentrierter KI enthalten. Er wird im Kontext des Skripts nachfolgend näher vorgestellt.

3. Wie ist Menschenzentrierung im EU AI Act verankert?

.

Mein eigener Beitrag im Sammelband, der hier abgerufen werden kann, widmet sich dem Zusammenspiel von CDR und EU AI Act im Hinblick auf menschenzentrierte KI. Im Kontext des Skripts „Grundwissen KI-Recht“ ist der Beitrag primär als eine Vertiefung des ersten Kapitels zu verstehen. Darin geht es um das Recht im KI-Zeitalter. Speziell das Zusammenspiel von Verhaltenskodizes, Softlaw und verbindlichen Normen verbindet den Fachartikel und Kapitel 1 des Skripts. Bedeutung hat der Beitrag aber auch im Hinblick auf den Nachweis der Erfüllung von Sorgfaltspflichten mittels CDR-Maßnahme-Berichten. Weshalb, dazu gleich mehr.

a) Einordnung von CDR in der Inhaltspyramide

Zunächst zur dreistufigen Inhaltspyramide des EU AI Acts, so wie sie im Skript unter Randnummer 28 skizziert wurde. CDR umfasst im Grunde alle drei Stufen:

• Von verbindlichen Normen, über Softlaw und freiwilliger Ethik. Auch die Menschenzentrierung von KI ist ein Thema, das auf allen drei Ebenen in jeweils anderer Ausprägung vertreten ist bzw. vertreten sein kann.
• Chronologisch ist es oft so, dass die unterste Ebene die schnellste ist – denn für Freiwilligkeit bedarf es keiner rechtlichen Vorgaben. Trends und Best Practices „wandern“ daher innerhalb der Pyramide meist von unten nach oben.

Hinzu kommt, dass sich freiwillige CDR-Maßnahmen der unteren Ebene schon jetzt mehr oder weniger direkt auf die beiden darüber liegenden Ebenen auswirken können:

• So ist z.B. die angemessene Vermittlung von KI-Kompetenz (Art. 3 Nr. 56, Art. 4 EU AI Act) ein Konkretisierung der Menschenzentrierung.
• Die KI-Verordnung schreibt zwar vor, dass KI-Kompetenz vermittelt werden muss, aber nicht genau, was und in welchem Umfang.
• Hier greifen die Stufen bereits potenziell ineinander: Im Sinne eines „Was ist gefordert?“ und „Wie kann es erfolgreich umgesetzt werden?“

b) Best Practices auch als Gradmesser für Sorgfaltspflichten

Verantwortungsthemen, die mit Verhaltenskodizes zugesichert werden, vermitteln in der Regel keine Rechtsansprüche. Aber: Sie verdeutlichen, was im Rahmen einer bestimmten Branche als machbar und verantwortungsvolles Handeln angesehen werden kann.

Sollte es also zu einer Sorgfaltspflichtverletzung kommen, die ihrerseits zu einem Schaden führt, kann sich z.B die Frage stellen, ob ausreichend KI-Kompetenz vermittelt wurde. Im Rahmen dieser Prüfung stellt sich sowohl ex ante als auch ex post die Frage:

• Was ist diesbezüglich im Markt oder einer Branche üblich und zumutbar?
• Gibt es dazu bereits Best Practices? Welche sind dies?
• Hätte sich ein Unternehmen an den Best Practices zumutbar orientieren können?

Hier kommt Art. 95 EU AI Act, den CDR-Handlungsfeldern ebenso wie CDR-Berichten eine nicht zu unterschätzende Bedeutung zu:

• Sie sind ein tauglicher „Gradmesser“ dafür:
  • welche Maßnahmen
  • zu welchem Zeitpunkt
  • in welcher Branche
  • bei welcher Herausforderung
  • als effektiv, geläufig und zumutbar zu betrachten sind.
• Entsprechende Inhalte ändern sich laufend:
  • Was zuvor noch eine seltene freiwillige Best Practice war, kann sich in kurzer Zeit zum Branchenstandard entwickeln.
  • Die im Skript unter Randnummer 588 skizzierten Aspekte der SZA, also der „Blick nach vorn zurück“ und der „Blick zurück nach vorn“, spielen bei sich dynamisch weiterentwickelnden Best Practices eine wichtige Rolle.
• Hier kommen die CDR-Maßnahmen-Berichte ins Spiel:
  • Berichte wie die der otto-group, der telekom oder der BARMER, können Aufsichtsbehörden, Richtern und Gesetzgebern wichtige Infos geben.
  • Sie ermöglichen Einblicke in freiwillige Best Practices. Solche, die im Sinne von Art. 95 (1) EU AI Act als „bewährte Verfahren der Branche“ angesehen werden können.
  • Im Rahmen der drei Inhaltsstufen können sie sich im Laufe der Zeit zu Quasistandards entwickeln – auch im Hinblick auf das Erfüllen von Sorgfaltspflichten.

c) Brücke von Freiwilligkeit und Pflicht

CDR bildet insofern eine wichtige Brücke zwischen dem gesetzlichen Rahmen und der freiwilligen unternehmerischen Praxis:

• Die Offenlegung von CDR-Berichten und ähnlichen Veröffentlichungen kann im Schadensfall als Indiz und ggf. sogar als konkreter Beleg für die Erfüllung organisatorischer Sorgfaltspflichten dienen.
• Auf diese Art und Weise entwickelt sich das Thema „Menschenzentrierung“ des EU AI Acts von einer abstrakten Zielsetzung zu einem greifbaren Standard weiter. Eine Brücke, welche die Wahrnehmung von unternehmerischer Verantwortung auch rechtlich messbar und überprüfbar macht.

Fazit:

Menschenzentrierung ist ein in Art. 1 EU AI Act und weiteren Normen fest verankertes Prinzip. Es zieht sich über alle drei Inhaltsebenen der KI-Verordnung hinweg (Normen, Softlaw, Verhaltenskodizes). Das Zusammenspiel der KI-Verordnung mit Instrumenten wie der Corporate Digital Responsibility (CDR) dürfte daher in der Compliance-Praxis ein wichtiges Thema werden:

• U.a. im Hinblick auf die Frage, was an (freiwilligen) Sorgfaltspflichten zu welchem Zeitpunkt bereits möglich bzw. zumutbar (gewesen) ist.
• Und bei Erstellen eines Maßnahme-Berichts, was man konkret dafür getan hat, um die Möglichkeiten auszuschöpfen.

Bezug zum Skript „Grundwissen-KI-Recht“: Randnummern 28, 45 u. 229 & Anhang

Inhalte des Beitrags, u.a.:

• Menschenzentrierte KI, Art. 1 (1) EU AI Act
• freiwillige Verhaltenskodizes, Art. 95 EU AI Act
• Corporate Digital Responsibility
• Dynamische Sorgfaltspflichten
• Szenarien-Zeitleisten-Analyse (SZA)