Im Zuge des Fachkräftemangels und der ständig komplexer werdenden Arbeit setzen Betriebe aus der Gesundheits- und Sozialwirtschaft zunehmend auf den Einsatz von Anwendungen und Systemen mit Künstlicher Intelligenz (KI). Die Einführung und der Einsatz von KI in den Betrieben eröffnet ein enormes Potenzial zur Verbesserung von Effizienz und Qualität.
Doch wie kann die Einführung von KI in Ihrem Betrieb gelingen? Welche Anforderungen sind damit verbunden und wie kann KI zu einer echten Unterstützung für alle Beschäftigten werden?
Die EU hat mit dem EU AI Act Regeln aufgestellt, dass KI die Sicherheit, Gesundheit und Grundrechte von EU-Bürger*innen nicht gefährdet und im Einklang mit europäischen Werten eingesetzt wird. Der AI Act definiert für die Implementierung von KI klare Rahmenbedingungen für Betriebe:
- Bewertung des Risikos der Anwendungen. Dies zieht Compliance-Maßnahmen nach sich, die vor allem für den Einsatz medizinischer Systeme relevant sind.
- KI-Systeme müssen transparent sein (wo werden sie eingesetzt), jederzeit unter menschlicher Aufsicht stehen und klar definierten Cybersicherheitsanforderungen genügen.
- Die Integration in die Prozesse erfordert die Anpassung von Abläufen und eine enge multidisziplinäre Zusammenarbeit von AnwenderInnen, IT und Compliance. Hier entstehen neue Schnittstellen, die klar geregelt werden müssen.
Die Einführung von KI hat neben den organisatorischen Veränderungen auch direkte Einflüsse auf die MitarbeiterInnen, wie zum Beispiel:
- Transparenz und Mitbestimmung: MitarbeiterInnen haben ein Recht auf Informationen über den Einsatz und den Zweck von KI, insbesondere bei „Überwachung“ und „Leistungsbewertung“.
- Schulung und Weiterbildung: Neben der technischen Schulung im Umgang mit Anwendungen müssen MitarbeiterInnen auch vertieft in den Themenfeldern Datenschutz und Compliance weitergebildet werden. In diesem Zusammenhang spielt der Techno-Stress eine wichtige Rolle. Ein wichtiger Aspekt für die Gefährdungsbeurteilung psychischer Belastungen.
- Arbeitsplatzunsicherheit: Automatisierung könnte dazu führen, dass Arbeitsplätze wegfallen.
- Diskriminierung: Fehlerhafte Algorithmen können zu Benachteiligungen bei Einstellungen, Beförderungen oder Gehaltsentscheidungen führen.
Neben Herausforderungen bietet die Einführung von KI aber auch große Vorteile: Sie kann administrative Vorgänge vereinfachen und dadurch eine Entlastung bei Routineaufgaben mit sich bringen. Damit einher geht die Reduktion von Fehlern. Und zu guter Letzt kann KI Diversität und Inklusion durch den Einsatz von geeigneten Tools (z.B. Textzusammenfassungen für Sehbehinderte) fördern.
In unserem Hands-on am 03.06.25 wird Mina Saidze (KI-Expertin und Gründerin von Inclusive Tech, der europaweit ersten Beratungs- und Lobbyorganisation für Diversity in Tech und KI-Ethik) berichten, wie die Einführung von KI erfolgreich und gerecht gelingt.
An wen sich die Veranstaltung richtet:
Das Hands-on wird allen Führungskräften, Beauftragten und Betriebliche Interessensvertretungen empfohlen, die sich für das Thema KI im Betrieb interessieren oder sich mit der Einführung konkret beschäftigen.
Zum Steckbrief:
Der Einwahllink:
Das Hands-on fand am 03.06.25 von 11.00Uhr bis 12.00Uhr statt.
Rückblick auf das Hands-on:
Das Präventionsnetzwerk Nord hat sich sehr gefreut, dass wir am 03.06.2025 Mina Saidze bei uns zu Gast hatten. In Ihrem einführenden Impuls ging sie der Frage nach, wie diskriminierungsfrei und gerecht Künstliche Intelligenz ist und welche Ängste und Sorgen mit ihrer Verwendung einhergehen können. Ein weiterer wichtiger Aspekt drehte sich darum, welche Möglichkeiten es gibt, wen man von einer KI diskriminiert wird. In diesem Zusammenhang spielt u.a. der EU AI Act eine große Rolle. Zum Abschluss ihres Vortrags ging Mina Saidze darauf ein, wie die Einführung einer KI im Betrieb idealtypisch geplant werden sollte, um alle Beteiligten bestmöglich einzubinden.
In der abschließenden Diskussion wurden folgende Fragen erörtert:
Frage des Moderators: Wir arbeiten in Branchen, in denen der Männeranteil sehr gering ist. Siehst du hier die Gefahr, dass bei der KI auch Männer diskriminiert werden, weil viele mehr Frauen in der Pflege und in Kindertagesstätten beschäftigt sind im Vergleich zur IT-Branche?
Antwort Mina: Laut dem „Statistischen Bundesamt“ besteht die Gefahr, dass Frauen ein deutlich höheres Risiko haben, ihren Job an KI zu verlieren. Der Grund: Im Vergleich zu Männern sind sie oft in Bereichen tätig, die sich leichter durch neue Technologien automatisieren lassen. Laut einer Studie können in Ländern wie Deutschland oder den USA demnach bis zu 9,6 Prozent der weiblichen Beschäftigten ihren Arbeitsplatz an KI verlieren. Bei ihren männlichen Kollegen liegt der Anteil nur bei 3,5 Prozent.
Frage des Moderators: Du hast vorhin von der Mystifizierung der KI gesprochen. Wie gehst du mit den Menschen um, die digital nicht so affin sind? Wie nimmst du ihnen die Angst, dass bei Einführung einer KI in den Betrieb, auf einmal „meine“ Arbeitsleistung überwacht oder im schlimmsten Fall meinen Arbeitsplatz ersetzt werden könnte?
Antwort Mina: Ich kann die Ängste nachvollziehen und diese Angst ist durchaus menschlich. Wenn neue Technologien in einem Betrieb eingeführt werden, muss die betriebliche Interessensvertretung in den Prozess beteiligt werden. Dafür ist es wichtig, dass zuvor die betriebliche Interessensvertretung im Bereich KI in Hinblick auf Ethik und andere Implikationen geschult werden, damit sie ihrer Verantwortung nachkommen können.
Generell darf ein Unternehmen in Deutschland nicht die Arbeitsleistung ihrer Mitarbeitenden kontrollieren. Das ist in Europa und Deutschland eine große Errungenschaft, auf die wir sehr stolz sein können, auch wenn viele sagen, die solche Gesetze eine Innovationsbremse sein können.
Frage des Moderators: Du hast vorhin von der Mystifizierung der KI gesprochen. Wie gehst du mit den Menschen um, die digital nicht so affin sind? Wie nimmst du ihnen die Angst, dass bei Einführung einer KI in den Betrieb, auf einmal „meine“ Arbeitsleistung überwacht oder im schlimmsten Fall meinen Arbeitsplatz ersetzt werden könnte?
Antwort Mina: Ich kann die Ängste nachvollziehen und diese Angst ist durchaus menschlich. Wenn neue Technologien in einem Betrieb eingeführt werden, muss die betriebliche Interessensvertretung in den Prozess beteiligt werden. Dafür ist es wichtig, dass zuvor die betriebliche Interessensvertretung im Bereich KI in Hinblick auf Ethik und andere Implikationen geschult werden, damit sie ihrer Verantwortung nachkommen können.
Generell darf ein Unternehmen in Deutschland nicht die Arbeitsleistung ihrer Mitarbeitenden kontrollieren. Das ist in Europa und Deutschland eine große Errungenschaft, auf die wir sehr stolz sein können, auch wenn viele sagen, die solche Gesetze eine Innovationsbremse sein können.
Frage eines Teilnehmers: Geht man in irgendeiner Weise ein Risiko bei dem Einsatz und Umgang mit ChatGPT und anderen kostenfreien KI-Anwendungen ein? Schließlich „füttert“ man solche Systeme mit eigenen Daten, also im Zweifel auch mit Informationen über sich selbst.
Antwort Mina: „If you don’t pay for the product, you are the product“ – sobald du für einen digitalen Dienst kein Geld bezahlst, bist du in dem Moment das Produkt. Deine Informationen werden gesammelt, analysiert und gespeichert und schlimmstenfalls auch an dritte Parteien verkauft.
Deswegen ist es wichtig, vor der Nutzung diese „langweiligen“ Texte, wie das „Service Level Agreement“ (die Nutzungsvereinbarung) genau durchzulesen.
Die Firmen nutzen deine Daten u.a. um Marketingkampagnen zu optimieren und um dir gezielt Angebote zu kommen zu lassen. ChatGPT gehört zu OpenAI; auch diese Firma verfolgen mittlerweile nicht nur gemeinnützige Ziele, sondern sie haben auch eine Kollaboration mit Microsoft und da geht es durchaus auch um privatwirtschaftliche Interessen. Deswegen sollte man sich mehrfach fragen, wem gebe ich meine Daten, was sind die genauen Datenschutzbedingungen und was sollte ich vielleicht nicht einer KI preisgeben.
Weitere empfohlende Veranstaltungen des Präventionsnetzwerks Nord:
Leseempfehlungen:
Noch mehr Netzwerk
Sie wollen regelmäßig über aktuelle Themen rund um Präventionskultur und gesundes Arbeiten informiert werden? Dann abonnieren Sie gern unseren Newsletter. Im Archiv finden Sie alle bisherigen Newsletter zum Nachlesen.
Bleiben Sie immer auf dem Laufenden und sind bestens informiert mit unserem Newsletter.
