Schatten-KI als unaufhaltsames und wachsendes Phänomen

Unbemerkte KI-Nutzung durch Arbeitnehmer birgt grosse Risiken

 

In vielen Unternehmen schreitet die Implementierung von künstlicher Intelligenz (KI) auf der Führungsebene nur zögerlich voran, während Arbeitnehmer bereits intensiv und oft heimlich KI-Tools für eine Vielzahl von betrieblichen Aufgaben nutzen.

Dr. Harald Schönfeld, ein führender Experte im Managementbereich und Herausgeber des wegweisenden Fachbuchs «Künstliche Intelligenz als Business-Booster im Unternehmen», beobachtet eine rapide Ausbreitung von Schatten-KI. Diese Entwicklung verursacht erhebliche Probleme in den Bereichen Compliance, Datenschutz, Datensicherheit und beim Schutz von Betriebsgeheimnissen.

 

Schatten-KI: Einfluss und Auswirkungen auf die Unternehmensführung

Dr. Schönfeld, der auch als Geschäftsführer der Personalberatung Butterflymanager tätig ist, stellt fest, dass KI-Tools wie ChatGPT bereits umfassend für E-Mails, Kundenkorrespondenz, betriebliche Analysen und Managementzusammenfassungen genutzt werden.

Diese verborgene Praxis führt oft zu einem signifikanten Kontrollverlust auf der Ebene der Geschäftsführung und des Vorstands, da viele Führungskräfte sich dieser Entwicklungen nicht bewusst sind.

 

Breite Nutzung und Potenziale von KI in verschiedenen Geschäftsbereichen

Das Potenzial von KI erstreckt sich über diverse Unternehmensfunktionen wie Personalwesen, Marketing und Controlling und zeigt sich in unterschiedlichsten Marktsegmenten, von der Bau- bis zur Modebranche. Dr. Schönfeld dokumentiert in seinem Buch die mannigfaltigen Einsatzmöglichkeiten und den Nutzen von KI, basierend auf den Erfahrungen von elf Interim-Managern.

 

Übersehene Gefahren: Die verborgenen Risiken des KI-Einsatzes

Trotz der offensichtlichen Vorteile warnt Dr. Schönfeld vor den enormen Gefahren, die durch den breitflächigen Einsatz von KI an vielen Büroarbeitsplätzen entstehen. Typische Risiken umfassen Verstösse gegen die Datenschutz-Grundverordnung durch das Hochladen von Kundendaten sowie die unbeabsichtigte Preisgabe von Betriebsgeheimnissen durch die Generierung neuer Texte aus vorhandenen Dokumenten.

«Es ist keine Frage, dass wir alsbald einen ersten grossen KI-Skandal erleben werden», ist sich Dr. Harald Schönfeld sicher, und fügt hinzu: «Nur welche Firma es trifft, bleibt abzuwarten.»

 

Rechtliche Herausforderungen und der EU AI Act

Dr. Schönfeld weist darauf hin, dass die aktuelle KI-Regulierung der Europäischen Union, der EU AI Act, bei der Schatten-KI weitgehend ins Leere läuft. Viele Aktivitäten, wie das Hochladen von Kundendaten durch die Marketingabteilung oder die Bewertung von Bewerberprofilen durch die HR-Abteilung, stellen nicht nur einen Verstoss gegen den AI Act dar, sondern verletzen auch grundlegende Rechtsprinzipien.

Und wenn die HR-Abteilung Bewerberprofile durch die KI prüfen und bewerten lässt, verstösst dies über den AI Act hinaus gegen weitere Rechtsgrundsätze. Es gibt heute schon etliche weitere potenzielle Compliance-, Rechts- und Sicherheitsverstösse, die im Rahmen der Schatten-KI passieren. Das kann monate- oder gar jahrelang gut gehen – bis es eines Tages auffällt und zum Skandal führt.

---

Zusammenfassung: Die Notwendigkeit einer angepassten KI-Strategie

Die unaufhaltsame, oft verdeckte Verbreitung von KI in Unternehmen verlangt nach einer überarbeiteten Strategie zur Nutzung und Kontrolle dieser Technologien. Unternehmen müssen ethische und rechtliche Probleme vermeiden und gleichzeitig die Vorteile der KI voll ausschöpfen.

Dr. Schönfeld betont die Dringlichkeit, mit der Firmen ihre KI-Strategien überdenken und anpassen müssen, um sicherzustellen, dass die Risiken nicht die zahlreichen Potenziale überschatten.

Weitere Artikel zum Thema: Künstliche Intelligenz