Generative KI im Unternehmen: Das müssen Betriebe beachten

Auf dem Bildschirm eines Smartphones ist der Textgenerator Chat GPT geöffnetWer generative KI-Anwendungen nutzt, sollte unbedingt auch deren Fallstricke kennen. Foto: Diego - stock.adobe.com

Der Einsatz von generativen KI-Anwendungen wie Chat GPT bietet Unternehmen neue Möglichkeiten, geht aber auch mit Risiken einher – zum Beispiel hinsichtlich Datenschutz, Haftung und Risikomanagement. Zehn Hinweise.

Hintergrund: Als generative KI werden Systeme bezeichnet, die auf der Grundlage vorhandener Daten neue Inhalte wie Texte, Bilder, Audios oder Codes erstellen. Die derzeit wohl bekannteste Anwendung ist der Textgenerator Chat GPT.

Datenschutz

Die Datenverarbeitung von Chat GPT ist bislang recht intransparent. Es ist nicht klar, auf welcher Rechtsgrundlage personenbezogene Daten in die USA übermittelt werden. Ebenso wenig gibt es eine Rechtsgrundlage für die Verarbeitung und Speicherung personenbezogener Daten auf Servern in den USA. Aus diesem Grund sollten Sie beim Einsatz generativer KI-Systeme stets prüfen, wo die Datenverarbeitung stattfindet. Auf die Eingabe und Nutzung von personenbezogenen und auch anderen sensiblen oder vertraulichen Daten sollten Sie generell verzichten.

Gleiches gilt für die Eingabe von Daten Dritter, die in anderen Zusammenhängen bezogen und/oder verarbeitet wurden. Insgesamt sollten Sie bei der Nutzung von KI-Tools sorgfältig abwägen, welche Informationen Sie in die Systeme einspeisen, da sie genutzt werden können, um die KI zu trainieren und zu verbessern. Über eine Opt-out-Funktion können Nutzer von Chat GPT seit Kurzem festlegen, dass ihre Daten nicht mehr zum Trainieren der KI eingesetzt werden.

Datenqualität

Die Arbeitsergebnisse von KI-Tools hängen stark von der Qualität, der Quantität und der Gewichtung der einzelnen Datensätze ab, mit denen sie trainiert werden. Generative KI kann ungenaue, irreführende, nicht mehr aktuelle oder sogar komplett falsche Aussagen generieren. Bei vielen KI-Systemen ist nicht transparent, welche Datenquellen genutzt werden und welcher Meinungsschwerpunkt dabei repräsentiert wird. Inhalte und Antworten können einem Bias unterliegen und verzerrt sein. Hinterfragen Sie deshalb immer die Zuverlässigkeit und Objektivität des Outputs.

Geistiges Eigentum

Daten, mit denen die KI gefüttert wurde, können urheberrechtlich geschützt sein – etwa Textbausteine, Begriffe oder Bilder. Dadurch stellt der KI-generierte Output unter Umständen eine Urheberrechtsverletzung dar. Die Vervielfältigung kann strafbar sein. Insofern ist bei von KI generiertem Output Vorsicht geboten. Die Verwendung dieses Outputs für die Kommunikation nach außen kann dabei besonders riskant sein.

Transparenz

Machen Sie den Einsatz von generativen KI-Anwendungen transparent – einschließlich der Information, in welchen Abläufen sie im Unternehmen zum Einsatz kommen. Dies kann dazu beitragen, das Vertrauen von Kunden, Beschäftigten und Geschäftspartnern zu stärken.

Haftung und Risikomanagement

Behalten Sie mögliche rechtliche und finanzielle Risiken im Zusammenhang mit dem Einsatz von generativer KI im Blick. Dazu gehört auch die Klärung der Haftungsfrage im Falle von Fehlern oder Schäden, die durch die Nutzung der KI verursacht werden.

Menschliche Überprüfung

KI-generierte Inhalte sollten immer von einem Menschen überprüft werden – inbesondere in Situationen, in denen eine Fehlaussage schwerwiegende Folgen haben könnte.

Schulung der Beschäftigten

Sensibilisieren Sie ihre Mitarbeiterinnen und Mitarbeiter dafür, wie generative KI-Anwendungen funktionieren und wie diese in die Arbeit integriert werden können. Dabei sollten Sie auch rechtliche Themen wie den Datenschutz sowie ethische Aspekte diskutieren, damit Ihre Beschäftigten die Anwendungen auf verantwortungsvolle Weise nutzen können. Aktualisieren Sie Ihre Schulungen aufgrund der rasanten technologischen Entwicklungen regelmäßig, damit alle Beschäftigten auf dem neuesten Stand sind.

Ethische Überlegungen

Stellen Sie sicher, dass der Einsatz generativer KI im Einklang mit den ethischen Prinzipien Ihres Unternehmens steht. Berücksichtigen Sie also die potenziellen Auswirkungen des KI-Einsatzes auf verschiedene Stakeholder wie Kunden, Mitarbeiter und Geschäftspartner.

Coding

Falls Sie generative KI im Bereich Programmierung und Coding einsetzen, sollten sie sich zuvor mit der Syntax und den Befehlen des Tools vertraut machen und die Erklärungen gründlich lesen. Fehler im Code können sich auf die Performance, Funktionalität und Sicherheit der Anwendungen auswirken.

Plug-ins

Mittlerweile ermöglicht das hinter Chat GPT stehende Unternehmen Open AI über neue Plug-ins  die direkte Einbindung des Tools in Unternehmenssysteme. So können etwa (Echtzeit-)Datensätze von Unternehmen über Schnittstellen gezielt durchsucht oder Aufgaben gezielt von der KI wahrgenommen werden, zum Beispiel die Buchung von Reisen. KI-Experten rechnen damit, dass mittelfristig ein KI-Ökosystem – ähnlich einem App-Store – entstehen könnte. Gerade bei der Nutzung von KI über solche Plug-ins sollten Sie sich unbedingt intensiv mit den Themen Datenschutz, Urheberrecht und Datensicherheit auseinandersetzen.

Die Tipps stammen von Jonas Wöll, Referatsleiter Digitaler Binnenmarkt, EU-Verkehrspolitik sowie Regionale Wirtschaftspolitik, bei der Deutschen Industrie- und Handelskammer (DIHK). Stand: Mai 2024.

Christian Rohm

Christian Rohm

Kommunikation
IHK-Zentrale
Position: Redakteur
Schwerpunkte: Redaktion "WNA | Wirtschaft Neckar-Alb", Presse- und Öffentlichkeitsarbeit
Telefon: 07121 201-284
E-Mail schreiben
vCard herunterladen
Zur Detailseite