Folge 12:
Die Gefahren der Schatten-KI
Immer mehr Arbeitnehmer setzen KI-Tools ein, ohne dass der Chef davon weiß.
Während die Führungsspitze in vielen Unternehmen eher noch bei der Einführung von künstlicher Intelligenz (KI) zurückhaltend agiert, machen viele Mitarbeiter bereits „Nägel mit Köpfen“. Sie nutzen KI längst „still und heimlich“ für zahlreiche betriebliche Aufgaben. Das beobachtet der Management-Experte Dr. Harald Schönfeld, Herausgeber des Fachbuchs „Künstliche Intelligenz als Business-Booster im Unternehmen“ und Geschäftsführer der Personalberatung Butterflymanager, die Interim Manager als Führungskräfte auf Zeit an Firmen vermittelt. Interview: Heiner Sieger, Mazagin: DIGITAL BUSINESS CLOUD,03/2024, S. 6-7. Vollständiges Interview als Download am Ende dieser Seite.
Auszug:
Wie häufig treffen Sie und Ihre Interim-Management-Kollegen inzwischen auf Schatten-KI?
Dr. Harald Schönfeld: Das kommt in 100 Prozent der Unternehmen vor. Zumindest wird das hinter der vorgehaltenen Hand eingeräumt, wenn man vertrauensvoll nachfragt. KI-Tools wie ChatGPT werden im großen Stil für E-Mails, Kundenbriefe, betriebliche Analysen oder Zusammenfassungen für das Management eingesetzt. Zum Beispiel im Marketing werden solche KI-Anwendungen regelmäßig genutzt, um Präsentationen zu erstellen. Dazu gibt es im Web Dutzende von Angeboten. Diese Präsentationen werden auch innerhalb der Firmen verschickt. Da hat inzwischen fast jeder Mitarbeiter einen individuellen Werkzeugkasten an KI, zum Teil sogar selbst bezahlt. Das ist ein regelrechter Wildwuchs. Viele Mitarbeiter sind ja im Homeoffice, und es mischen sich zunehmend Tools, die von der Firma angeschafft und installiert wurden und den Compliance-Anforderungen entsprechen, mit Versionen von Tools, die sich die Mitarbeiter im Netz zusammensuchen. Diese KI-Revolution von unten ist wirklich gefährlich.
Was sind die größten Gefahren dieser Schatten-KI?
Eine solche Schatten-KI bringt für die betroffenen Firmen erhebliche Probleme mit sich, etwa in Bezug auf Compliance, Datenschutz, Datensicherheit und den Schutz von Betriebsgeheimnissen. Das Hochladen von Kundendaten verletzt die Datenschutz-Grundverordnung, die Erstellung neuer Texte anhand vorhandener Dokumente verrät unbeabsichtigt Betriebsgeheimnisse Und die KI-Nutzung als Grundlage für Bewertungen oder Entscheidungen führt zu ethisch bedenklichen Ergebnissen, ohne dass es zunächst auffällt. Schatten-IT gab es schon immer und hat zu einem gewissen Kontrollverlust der IT-Abteilung geführt. Doch die Schatten-KI geht weit darüber hinaus. Sie birgt die Gefahr des Kontrollverlustes auf Geschäftsführungs- oder Vorstandsebene.
…
