Manifest zwischen dem

(nachfolgend: „Telekom“) und dem

(nachfolgend: „KBR“)

über die Einführung und Nutzung lernender informationstechnischer Systeme (sog. Künstliche Intelligenz)

Einführung

Die Deutsche Telekom AG greift zur Gestaltung ihrer internen Prozesse, zur Steigerung der Qualität ihrer Dienstleistungsangebote und zur Verbesserung ihres Kundenservices zunehmend auch auf Systeme zurück, die als künstliche Intelligenz oder lernende Maschinen bezeichnet werden (KI- Systeme). Davon sind auch die Beschäftigten betroffen. Der Einsatz von KI-Systemen birgt für die Beschäftigten Chancen und Risiken.

Gegenstand dieser Verabredung sind lernende informationstechnische Systeme, die sich zur Erfüllung ihrer Aufgaben fortentwickeln, sich selbst optimieren und Probleme lösen, indem sie eigenständig Muster erkennen, Schlussfolgerungen ziehen und Entscheidungen vorbereiten oder treffen. Häufig nutzen sie elektronische Sensorik für ihren Input und Maschinenkommunikation für ihren Output.

Dieses Manifest entwickelt erste Prinzipien, die für die Einführung von KI-Systemen sowie für bereits eingeführte Systeme gelten und nach denen ein standardisierter betrieblicher Ordnungsrahmen für derartige Systeme entwickelt werden soll. Es baut auf den nationalen und internationalen (EU) rechtlichen Regelungen und (technischen) Standards auf und ergänzt die

Konzernbetriebsvereinbarung IT-Systeme, die Leitlinien Digitale Ethik des Konzerns zum Umgang mit künstlicher Intelligenz und die Konzernrichtlinie zum Datenschutz.

KI-Systeme haben für die Deutsche Telekom und den KBR unterschiedliche Kritikalität in Abhängigkeit von ihrer Ausprägung, ihrem Zweck und ihren Folgen. Sie bieten vielfältige Einsatzmöglichkeiten, entwickeln sich als dynamische Werkzeuge fort, können sich auf eine Vielzahl von Persönlichkeitsrechten auswirken und werden aller Erwartung nach die Prozessgeschwindigkeit im Unternehmen weiter erhöhen. Mit dem Einsatz entsprechender KI-Systeme können die Innovationskraft der Firma ausgebaut, die Qualität erhöht, Fehler reduziert und mit der Entwicklung neuer Geschäftsmodelle Beschäftigungswirksamkeit erzielt werden.

KI-Systeme sollen für die Interessen der Beschäftigten und die Wertschöpfung des Unternehmens nützlich sein. Dieses Manifest soll Vertrauen zur Nutzung derartiger Systeme fördern und Vorbehalte zum KI-Einsatz abbauen, indem von den Betriebsparteien gemeinsam getragene Bedingungen für die KI-Systeme bei der deutschen Telekom geschaffen und Transparenz sowie Verständlichkeit erhöht werden.

Das Manifest verfolgt dort, wo Beschäftigte betroffen sind, das Ziel, die Arbeit im Umgang mit entsprechenden Systemen zu erleichtern und Zeit zu sparen, indem ein einheitlicher Ordnungsrahmen für die Vielzahl der zu erwartenden Anwendungen Maßstäbe und Standards liefert. Damit kann künftig die Gestaltungsarbeit auf risikorelevante Systeme fokussiert und für Systeme mit unterschiedlicher Risikorelevanz ein adäquater Beteiligungsprozess verabredet werden. Die gemeinsamen Anstrengungen zielen darauf, Abstimmungsprozesse zu beschleunigen, Doppelarbeit und Fehlinterpretationen zu vermeiden, Risiken einzudämmen und die Arbeit zu erleichtern.

Die Digitale Ethik „KI Leitlinien“ unterstreichen das Verantwortungsbewusstsein der Deutschen Telekom AG gegenüber ihren Kunden sowie der Gesellschaft und gemeinsam mit diesem Manifest gegenüber Beschäftigten und Bewerbern.

Ethische Grundsätze sollen operationalisiert und systematisch Praxiserfahrungen zur Entwicklung künftiger Standards zusammengeführt werden.

1.Korrespondierende Regelwerke

Eine Vielzahl von inner- und außerbetrieblichen Normen für die Sicherung ihrer Qualität existieren bereits. KI-Systeme bleiben IT-Systeme, trotz ihrer Besonderheiten. Deshalb sind auch für KI-Anwendungen die allgemein im Konzern für IT-Systeme geltenden Vorgaben maßgeblich. Dies sind insbesondere:

•Die Konzernrichtlinie „Datenschutz - Binding corporate rules privacy“ mit ihren Vorgaben zu den Rechten und zur Information der Betroffenen, zum Anspruch an Rechtskonformität und technisch organisatorische Schutzmaßnahmen sowie den Regeln zur Auditierung von Anwendungen.

•Die Konzernbetriebsvereinbarung IT-Systeme, die Vorgaben macht unter anderem zu den Rechten der Betroffenen, dem Datenschutz, zur regelkonformen Anwendung von Systemen, zur Reglementierung maschineller Leistungs- und Verhaltenskontrolle und dem Schutz der Betroffenen.

•Die Konzernvorgaben zur Hard- und Softwareergonomie.

•Die ethischen Leitlinien der Deutschen Telekom AG zum Einsatz von Systemen künstlicher Intelligenz haben Leitliniencharakter für Verantwortung, Sicherheit und Schutz, Erklärbarkeit, Selbstbestimmung, und Chancengleichheit.

•Der Verhaltenskodex für Lieferanten. Er gibt daneben Nachvollziehbarkeit, Dokumentierbarkeit, Diskriminierungsfreiheit, Barrierefreiheit, Transparenz, Not- Aus- Optionen, Möglichkeiten zum Monitoring und die Orientierung auf Europäische Grundwerte als Leitlinien für die Beschaffung von KI- Systemen vor. Er will die die Würde und Privatsphäre jedes Menschen respektiert sehen und reklamiert Rechtskonformität, Sicherheit am Arbeitsplatz und Nachhaltigkeit.

2.Charta der Prinzipien

•Die Interaktion zwischen Beschäftigten und lernenden Maschinen wird so gestaltet, dass die Beschäftigten darüber informiert werden, dass sie mit einer solchen Maschine interagieren.

•Zum Schutz vor maschineller Leistungs- und Verhaltenskontrolle und zum Verwertungsverbot für unerlaubt gewonnenen Daten, kommen die Verabredungen der Konzernbetriebsvereinbarung IT-Systeme (KBV IT-Systeme) zur Anwendung.

•Personalrelevante Schlussfolgerungen zu treffen, die rechtliche Wirkung gegenüber Beschäftigten entfalten oder sie in ähnlicher Weise erheblich beeinflussen, ist menschlichen Entscheidungsträgern vorbehalten.

•Beschäftigte, die mittelbar von maschinellen Schlussfolgerungen mit personenbezogenen Wirkungen betroffen sind, können von den Verantwortlichen eine Überprüfung der Systementscheidung verlangen.

•KI-Systeme werden nicht eingesetzt, um Informationen oder Schlussfolgerungen über die Beschäftigten zu gewinnen, hinsichtlich deren politischer Meinungen, weltanschauliche Überzeugungen, Gewerkschaftszugehörigkeit und sexueller Orientierung.

•KI-Systeme werden nicht eingesetzt, um Emotionen von Beschäftigten oder deren psychische Verfassung zu analysieren, zu beeinflussen oder diese zu steuern. Biometrische Daten von Beschäftigten und KI-Systeme, die das Wohlbefinden der Beschäftigten verbessern sollen, werden nur verwendet, wenn eine Betriebsvereinbarung dies zulässt. Es werden keine KI- Systeme eingesetzt, die dem Zweck dienen, Charaktereigenschaften zuzuschreiben.

3.Gemeinsame Zielsetzungen

Mit dieser Vereinbarung wird ein Ordnungsrahmen für den Einsatz von Kl-Systemen geschaffen. Der Konzernbetriebsrat und die Deutsche Telekom wollen unmittelbar nach Verabredung dieses Manifests gemeinsam eine Anlage zur KBV IT-Systeme entwickeln, die dem Charakter lernender Systeme gerecht wird und dafür einen verallgemeinerbaren Ordnungsrahmen schafft. Bereits für die Phase der Entwicklung von Standards und der dafür erforderlichen Modelltests, mit der die Nützlichkeit, als auch die erforderlichen Gestaltungsbedingungen für KI-Systeme untersucht werden sollen, werden Verfahrensverabredungen und die vorstehende Charta der Prinzipien verabredet. Ziel ist es, alle Persönlichkeitsrechte der Beschäftigten entsprechend der europäischen Grundrechtscharta zu schützen, wie dies Art. 1 Abs. 2 der Europäischen Datenschutz-Grundverordnung verlangt.

4.Verfahrensverabredungen

4.1. Die Deutsche Telekom sucht im Dialog mit dem KBR einen allgemein gültigen Ordnungsrahmen für den Einsatz von KI-Systemen, von denen Beschäftigte betroffen sind. Während der gemeinsamen Suche werden derartige Systeme zunächst auf insbesondere folgende Qualitäts- und Vertrauensfaktoren ausgerichtet:

•Rechts- und Regelkonformität

•Transparenz

•Vereinbarkeit mit den Digitale Ethik„KI-Leitlinien“

•Nützlichkeit im Leistungsprozess

•Risikoangemessenheit

•Kontrollierbarkeit

•Schutz der Persönlichkeitsrechte

•Ergonomie

•Sozialverträglichkeit

•Gute Arbeit

•Robustheit

•Nachhaltigkeit

4.2.Im Rahmen des Einführungsprozesses des jeweiligen KI Systems und der Modelltests (siehe Ziffer 4.5) wird auf die Umsetzung der Qualitätsanforderungen der unter Ziffer 1 genannten Regelwerke und der unter Ziffer 4.1 genannten Qualitäts- und Vertrauensfaktoren durch Qualitätschecks hingearbeitet. Die darin gewonnenen Erkenntnisse über nicht hinnehmbare Abweichungen von den Qualitäts- und Vertrauensstandards des Konzerns sollen zum Anlass der Prüfung von technisch-organisatorischer Maßnahmen und von Alternativen gemacht werden.

4.3.Bereits im Einkauf und bei der Entwicklung von KI-Systemen werden die gemeinsam definierten Qualitätsfaktoren zur Beurteilung der Systeme herangezogen.

4.4.Im Rahmen des bereits verabredeten System-Steckbriefs für IT-Systeme werden künftig auch Spezifika von KI-Systemen, von denen Beschäftigte betroffen sind, näher erläutert. Der Standardsteckbrief der KBV IT-Systeme wird um entsprechende Informationsanforderungen ergänzt zu:

•Datenquellen des KI-Systems und Einschätzungen zur Aussagekraft und Integrität der Daten,

•Systembeschreibung / Modell des KI-Systems,

•Planungen zur Evaluation der Modellqualität im laufenden Betrieb und Notfallkonzept, abhängig von der jeweiligen Risikoklassifizierung und Planungsphase,

•Referenzerfahrungen zu Verzerrungsfreiheit, Fairnessmetrik und Genauigkeit des KI-Systems, sofern diese vorhanden sind,

•Dimension der Berechtigungen des KI-Systems (teil)autonome Schlussfolgerungen zu ziehen,

einen begründeten Vorschlag für eine Risikoklassifizierung,

KI-spezifische Elemente der Folgenabschätzung.

4.5.Zur Findung eines geeigneten Verfahrens zur Risikoklassifizierung und eines den jeweiligen Risikostufen angemessenen Ordnungsrahmens, werden fünf (5) Modelltests mit bereits eingeführten KI-Systemen durchgeführt. Die Modelltests werden von einem gemeinsamen Expertenkreis begleitet.

Im Rahmen der Modelltests wird untersucht, über welche möglichen Beurteilungsfaktoren KI- Systeme zu unterschiedlichen Kritikalitätsstufen zugeordnet werden können und welche Reglementierung für die Systeme unterschiedlicher Einstufung erforderlich ist.

Empfehlungen für künftige Systemeinführungen werden erarbeitet.

Der gemeinsame Expertenkreis erhält Informationen über Ergebnisse und Methoden der Systemtraining und -tests. Er wird beteiligt an der Entwicklung von Verfahren zur Folgeabschätzung, Standards zur Beurteilung von Risikodimensionen und deren Eintrittswahrscheinlichkeiten sowie an der Erarbeitung von Methoden zur Analyse von Nützlichkeitspotenzialen und Checklisten zur Evaluation und Erstprüfung von KI-Systemen.

Zur Entwicklung eines gemeinsamen Ordnungsrahmens wird der gemeinsame Expertenkreis, um KI-Sachverständige von Seiten des Unternehmens und seitens der Betriebsräte ergänzt. Auch externe Sachverständige können berufen werden. Der so besetzte Expertenkreis dient der Realisierung der Ansprüche dieses Manifests und zur Begleitung der Modelltests.

Der Expertenkreis besteht aus je vier festen Mitgliedern (mit jeweils einem festen Vertreter) auf Arbeitgeberseite und auf Seiten des KBR. Die Mitglieder auf Arbeitgeberseite und Arbeitnehmerseite können jeweils nur einheitlich abstimmen. In Abhängigkeit von der jeweiligen Fragestellung können beide Parteien bei Bedarf weitere Experten als Sachverständige hinzuziehen. Der Expertenkreis wird bei KI-Systemen mit hohem Risiko für betroffene Beschäftigte eingebunden und gibt eine Handlungsempfehlung ab. Der Expertenkreis kann von einer der Parteien angerufen werden, wenn Uneinigkeit hinsichtlich der Risikoklassifizierung besteht. In diesem Fall gibt er zusätzlich eine eigene Risikoklassifikation ab.

Entwicklungen am Markt (z.B. EU AI Act) werden beobachtet, um Doppelarbeiten zu vermeiden.

4.6.Die Robustheit und Manipulationsfreiheit der Systeme werden durch die Einhaltung eines definierten Sicherheitsstandards gewährleistet. Die Durchführung des PSA Verfahrens ist für KI-Systeme obligatorisch.

Für die Folgeabschätzung und Risikoklassifizierung werden gemeinsame Standards entwickelt, ebenso ein Standard für Beteiligungsverfahren, der der unterschiedlichen Kritikalität von Systemen gerecht werden kann und gleichzeitig die Arbeit erleichtert.

Während des Testbetriebs oder des Trainings der KI-Systeme findet eine Gefährdungsanalyse unter Beteiligung von betroffenen Beschäftigten statt.

Standards zur Dokumentation und Evaluation der Systeme werden gemeinsam entwickelt.

Die in diesem Manifest beschriebenen KI-Systeme im Wirkbetrieb und deren Risikoklassifizierung werden nach festgelegten Regeln und bei begründetem Anlass einer Konformitäts- und Schlüssigkeitsprüfung unterzogen. Betriebsräte können von den Systemverantwortlichen ein außerplanmäßiges Monitoring verlangen, wenn Indizien für eine nicht verabredungskonforme Nutzung oder Fehlentwicklung des Systems vorliegen.

Beschäftigte können Vorschläge zum Einsatz von KI über das Ideenmanagement einreichen.

4.7.Für Prüfung und Evaluation von KI-Systemen kann der KBR im Rahmen der

betriebsverfassungsrechtlichen Regelungen einen externen Sachverständigen beauftragen. Der Expertenkreis gibt auf Anforderung einer Betriebspartei eine Einschätzung zur Risikoklassifikation, Folgeabschätzung, Regulierung, Training und Evaluation der KI-Systeme ab. Der Expertenkreis kann eine interne oder externe Expertise anfordern.

Die Folgeabschätzung (für Aspekte, die über den Datenschutz hinausgehen) für derartige Systeme wird von der MMS oder einer Einrichtung mit vergleichbarer Erfahrung durchgeführt.

Die Datenschutzfolgeabschätzung für derartige Systeme wird von GPR grundsätzlich im PSA Verfahren erstellt. Wenn dies noch nicht durchlaufen ist, wird eine GPR Stellungnahme vorab erfolgen.

Bei Ressourcenmangel beauftragt GPR eine Datenschutzfolgenabschätzung.

4.8.Unternehmen und Konzernbetriebsrat wirken darauf hin, für alle Einheiten des Konzerns

verallgemeinerbare Verfahren für Mitbestimmung und Qualitätssicherung zu KI-Systemen von denen Beschäftigte betroffen sind zu schaffen. Dazu wollen die Betriebsparteien Maßstäbe für die Prüfprozesse, Checklisten zur Folgeabschätzung, Standards zur Kritikalitätseinstufung und Regulierungsvorgaben entwickeln, die sowohl einen übergeordneten Ordnungsrahmen für alle KI-Systeme als auch eine spezifische Regulierung unterschiedlicher Anwendungen zulassen. Ein Katalog von Beispielen soll erstellt werden, um für weitere Mitbestimmungsverfahren Orientierung zu bieten. 

4.9.Die Betriebsräte im Telekom Konzern können, gemeinsam mit den Verantwortlichen der Arbeitgeber, im Rahmen von Mitbestimmungsverfahren zu KI-Systemen, zentral erarbeitete Regulierungsstandards zur Anwendung bringen. Diese werden dafür derart dokumentiert, dass eine nachvollziehbare Bezugnahme ermöglicht wird. Zur Lösung innerbetrieblicher Meinungsverschiedenheiten über den Einsatz von KI-Systemen von denen Beschäftigte betroffen sind, können beide Seiten den gemeinsamen Expertenkreis anrufen.

4.10.Für die Beschäftigten soll dieses Manifest zum Einsatz von KI-Systemen im Konzern bekannt gemacht werden. Sie sollen über gängige Feedbackinstrumente bei den fachlich Verantwortlichen Gelegenheit erhalten, gemeinsam formulierte Qualitätsstandards zu unterstützen. Den Beschäftigten werden im internen Informationssystem (zurzeit YAM United) verständliche Informationen über die Funktionsmechanismen, Ziele und Wirkungen der freigegebenen KI-Systeme, von denen Beschäftigte betroffen sind, zugänglich gemacht. Der Informationsumfang steigt mit der Risikorelevanz.

Betriebliche funktionale Verantwortungsträger für die KI-Anwendungen und VertreterInnen der Betriebsräte werden zur Anwendung dieses Manifestes fortgebildet.

4.11.H inweisgeber (Whistleblower) können ohne arbeitsrechtliche Folgen den zentralen Expertenkreis oder den Konzernbetriebsrat über eine nicht regelgerechte Nutzung von KI-Systemen informieren. Hierzu können sie auch die Anlaufstellen nutzen, die vom Compliance-Bereich eingerichtet sind (TellMe).