EPUB-Informationen

Bezeichnung:

7

Stand/Datum des Downloads:

04.10.2025

Ordnung über die Nutzung Künstlicher Intelligenz
durch Einrichtungen und Institutionen im
Erzbistum Köln (KI-Nutzungs-Ordnung)

Vom 10. Dezember 2024

ABl. EBK 2025, Nr. 2, S. 3

Diese Ordnung soll den sicheren und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) im Erzbistum Köln gewährleisten. Sie legt fest, unter welchen Voraussetzungen KI genutzt werden darf.

§ 1
Geltungsbereich

Diese Ordnung gilt für die Nutzung von KI durch alle Institutionen und Einrichtungen im Erzbistum Köln.

§ 2
Grundsätze

( 1 ) 1 Vorhaben zur Nutzung von KI-Systemen, auch durch Vertragspartner, sind mit dem Bereich IT & Digitalisierung des Erzbischöflichen Generalvikariates im Vorfeld abzustimmen. 2 Das Entwickeln und Trainieren eines eigenen KI-Systems ist nur mit Genehmigung erlaubt (§ 6).

( 2 ) KI darf im Erzbistum Köln ausschließlich im Kontext der Risikoklassen 4 und 3 im Sinne der EU-Verordnung über künstliche Intelligenz[1] eingesetzt werden (s. den Anhang).

( 3 ) Die Nutzungsbedingungen des Anbieters des KI-Systems sind unbedingt einzuhalten.

§ 3
Rechte Dritter; Datenschutz; Vertraulichkeit

( 1 ) 1 Die Eingabe von Daten muss rechtlich zulässig sein. 2 Insbesondere darf sie nicht gegen Datenschutz-, Urheber- oder Markenrecht verstoßen.

( 2 ) 1 Die Verarbeitung personenbezogener Daten im Rahmen von KI-Systemen ist nur nach Freigabe durch den Datenschutzbeauftragten des Erzbischöflichen Generalvikariates zulässig. 2 Eine Eingabe von vertraulichen und/oder personenbezogenen Daten auf öffentlichen frei zugänglichen KI-Plattformen[2] ist stets untersagt.

§ 4
Prüfpflicht

( 1 ) 1 KI-generierte Inhalte sind vor ihrer Verwendung auf ihre Richtigkeit bzw. Plausibilität und Angemessenheit zu prüfen. 2 Texte sind zudem einer redaktionellen Kontrolle zu unterziehen.

( 2 ) 1 Insbesondere bei von KI-Systemen erzeugten Texten und Bildern ist darauf zu achten, dass diese keine Reproduktion urheberrechtlich geschützter Werke darstellen. 2 Bei Zweifeln hat die Verwendung zu unterbleiben.

§ 5
Transparenzpflicht

Der Einsatz von KI-Anwendungen der Risikoklasse 3 ist im Außenverhältnis kenntlich zu machen.

§ 6
Eigene KI-Systeme

( 1 ) Das Entwickeln und Trainieren eines eigenen KI-Systems bedarf der vorherigen Genehmigung durch den Bereich IT & Digitalisierung.

( 2 ) Die Genehmigung darf nur erteilt werden, sofern keine technischen, sicherheitsrelevanten oder datenschutzrechtlichen Belange entgegenstehen.

§ 7
Inkrafttreten

Diese Ordnung tritt zum 1. Januar 2025 in Kraft.

Anhang – Risikoklassifizierung von KI-Anwendungen

Klasse

Risikoklasse 4
Minimales
Risiko

Risikoklasse 3
Geringes Risiko

Risikoklasse 2
Hohes Risiko

Risikoklasse 1
Unannehmbares Risiko

Eigenschaften

Alle KI-Systeme können unter Einhaltung des allgemeinen geltenden Rechts entwickelt und verwendet werden; d.h. ohne Beachtung zusätzlicher rechtlicher Verpflichtungen.

Durch die KI-Anwendung besteht eine Manipulationsgefahr;

Nutzenden könnte beispielsweise nicht klar sein, dass sie es mit einer Maschine zu tun haben.

Die KI-Anwendung wirkt sich nachteilig auf die Sicherheit der Menschen oder ihre Grundrechte aus.

Die KI-Anwendung verstößt gegen die Werte der EU, weil sie Grundrechte verletzt.

Beispiele

Großteil der KISysteme, die derzeit in der EU verwendet werden.

z.B. SPAM-Filter, KI- gestützte Videospiele

z.B. Einsatz von Chatbots

Kritische Infrastrukturen;

Strafverfolgung / Recht; Bewertungsprozesse (z.B. Kreditwürdigkeit)

Manipulation menschlichen Verhaltens;

Social Scoring durch den Staat

Folgen

Keine Verpflichtung

Transparenzverpflichtung

Konformitätsprüfung

Verboten!

[1]

Verordnung (EU) 2024/1689 des Europäischen Parlamentes und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz), ABl. L, 2024/1689, 12.7.2024.

[2]

Z.B. ChatGPT, OpenAI.