Samsung und der ChatGPT-Leak 2023: Als Quellcode zum Prompt wurde

Samsung und der ChatGPT-Leak 2023: Im April gelangt interner Quellcode aus dem Unternehmen in das Eingabefeld eines externen Chatbots. Ingenieure haben sensible Informationen an ChatGPT übermittelt, wie Bloomberg Anfang Mai berichtet. Eine genaue Uhrzeit, einen konkreten Arbeitsplatz oder die Namen der Beteiligten nennen die hier verwendeten Berichte nicht. Der entscheidende Moment ist dennoch greifbar: Mit dem Absenden wird aus internem Arbeitsmaterial eine Datenübermittlung an einen fremden Dienst.[1]^[1]

Kein spektakulärer Einbruch, kein gestohlenes Passwort steht im Mittelpunkt dieser Geschichte. Sondern Beschäftigte, die ein leistungsfähiges Werkzeug für ihre Arbeit nutzen. Gerade das macht den Vorfall so bemerkenswert: Die Sicherheitsgrenze wird nicht von außen überwunden. Sie wird im Arbeitsalltag überschritten.

Wenig später reagiert Samsung mit Einschränkungen für generative KI. Aus der Hoffnung auf schnellere Problemlösungen ist eine Frage geworden, die weit über den Konzern hinausweist: Was darf ein Unternehmen einem Chatbot anvertrauen?^[2]

1. Der Helfer bekommt mehr zu sehen, als er sollte

Quellcode ist für einen Chatbot zunächst Text. Für ein Unternehmen kann er dagegen beträchtlichen Wert besitzen: Er beschreibt Funktionsweisen, technische Entscheidungen und möglicherweise Wissen, das Wettbewerber nicht erhalten sollen. Genau diese Doppelrolle macht den Einsatz von KI-Assistenten so heikel.

Wer Hilfe bei einem Programmierproblem sucht, muss das Problem erklären. Eine allgemeine Beschreibung liefert womöglich nur allgemeine Antworten. Der konkrete Ausschnitt verspricht mehr Präzision. Damit entsteht ein verführerischer Tausch: bessere Unterstützung gegen mehr Kontext.^[3]

Nach den Berichten über Samsung blieb es nicht bei einer theoretischen Möglichkeit. Beschäftigte übermittelten tatsächlich interne Informationen. TechCrunch beschreibt mehrere Vorfälle, darunter die Eingabe von Quellcode zur Fehlersuche beziehungsweise Optimierung. Auch Inhalte eines internen Meetings wurden dem Bericht zufolge für eine Zusammenfassung an den Dienst weitergegeben.[2]

Die Aufgaben waren unterschiedlich, der Mechanismus derselbe: Material aus einem geschützten Arbeitszusammenhang wurde zum Bestandteil einer Anfrage. Der eigentliche Kontrollverlust begann deshalb nicht erst bei einer möglichen späteren Verwendung, sondern bereits beim Übermitteln.^[4]

2. Aus einzelnen Eingaben wird eine Konzernfrage

Anfang Mai 2023 berichten Bloomberg und TechCrunch über Samsungs Reaktion. Das Unternehmen schränkt die Nutzung generativer KI-Werkzeuge wie ChatGPT ein. Betroffen ist insbesondere der Zugriff über unternehmenseigene Geräte und interne Netzwerke. Die Berichte beziehen sich auf eine interne Mitteilung an Beschäftigte.[1][2]

Diese Reaktion verändert die Perspektive. Was für einzelne Mitarbeitende als praktische Unterstützung erscheint, wird auf Unternehmensebene zu einem Problem der Informationssicherheit. Denn die entscheidende Frage lautet nicht bloß, ob der Chatbot brauchbaren Code oder eine gelungene Zusammenfassung liefert. Sie lautet: Unter welchen Bedingungen werden die dafür eingegebenen Informationen verarbeitet?

Samsung befürchtet laut den Berichten, dass an externe KI-Dienste übermittelte Daten außerhalb der eigenen Kontrolle gespeichert werden und ihre Löschung schwer durchsetzbar sein könnte. Auch eine mögliche Weitergabe beziehungsweise Offenlegung gegenüber anderen Nutzenden gehört zu den beschriebenen Sorgen.[1][2]

Dabei ist eine wichtige Unterscheidung nötig: Eine befürchtete Folge ist noch kein nachgewiesener Schaden. Öffentlich berichtet wurde die unzulässige Übermittlung vertraulicher Informationen. Daraus folgt nicht automatisch, dass Samsungs Quellcode später bei einem Wettbewerber auftauchte.

3. Was „Leak“ hier bedeutet – und was nicht

Das Wort Datenleck erzeugt starke Bilder: frei zugängliche Datenbanken, veröffentlichte Dokumente, herunterladbare Firmengeheimnisse. Der Samsung-Fall funktioniert anders. Im Zentrum steht die Eingabe sensibler Inhalte in einen externen Dienst, nicht eine öffentlich belegte Veröffentlichung des vollständigen Materials.

Ebenso wenig belegen die verwendeten Berichte, dass bestimmte Codezeilen anschließend Bestandteil eines trainierten Modells wurden oder anderen Personen wortgleich ausgegeben wurden. Solche Behauptungen würden über die Quellenlage hinausgehen.[1][2]

Das macht den Vorgang nicht harmlos. Vertraulichkeit kann bereits verletzt sein, wenn Daten an einen nicht dafür freigegebenen Empfänger gelangen. Ein Unternehmen muss nicht erst warten, bis ein Geschäftsgeheimnis öffentlich auftaucht, um eine Übermittlung als Sicherheitsvorfall zu behandeln.

Hier liegt der eigentliche Wow-Moment dieser Geschichte: Für ein ernstes Problem braucht es möglicherweise keinen technisch raffinierten Angriff. Eine alltägliche Bitte um Unterstützung genügt, wenn sie die falschen Informationen enthält.

Zugleich verbietet sich die pauschale Schlussfolgerung, jeder KI-Dienst behandle alle Eingaben gleich. Vertragsbedingungen, Produktvarianten und technische Einstellungen können sich unterscheiden. Der konkrete Einsatz muss geprüft werden; ein bekannter Produktname ersetzt diese Prüfung nicht.

4. Die Sicherheitslücke liegt auch im Arbeitsablauf

Eine reine Verbotsgeschichte wäre zu kurz erzählt. Der Fall berührt eine grundsätzliche Frage der Unternehmensorganisation: Wie lassen sich neue Werkzeuge nutzen, ohne dass Beschäftigte bei jeder Eingabe selbst über Datenschutz, Geheimhaltung und Dienstleisterrisiken entscheiden müssen?

Das BSI behandelt künstliche Intelligenz in seinen Informationen für Unternehmen als Thema, bei dem Leistungsfähigkeit und Sicherheit zusammen betrachtet werden müssen. Für die betriebliche Einordnung reicht deshalb der Blick auf die Qualität einer Antwort nicht aus. Ebenso wichtig sind die eingesetzten Daten, die technische Umgebung und die damit verbundenen Risiken.[3]

Auf Samsung übertragen bedeutet das: Die kritische Stelle liegt zwischen einer legitimen Arbeitsaufgabe und der Auswahl des dafür verwendeten Hilfsmittels. Fehler suchen, Programme verbessern oder Besprechungen zusammenfassen sind normale Tätigkeiten. Problematisch wird die Kombination aus vertraulichem Inhalt und nicht freigegebenem Übertragungsweg.

Daraus ergibt sich eine organisatorische Aufgabe. Unternehmen brauchen verständliche Grenzen, bevor sensible Informationen im Eingabefeld stehen. Eine abstrakte Aufforderung zur Vorsicht hilft wenig, wenn im konkreten Arbeitsablauf unklar bleibt, welche Inhalte zulässig sind und welche Alternative zur Verfügung steht.

Was bedeutet das für Unternehmen?

Unsere Einordnung bei der AI International Group: Der Samsung-Vorfall ist vor allem ein Beispiel dafür, dass KI-Kompetenz und Informationsschutz gemeinsam organisiert werden müssen. Die folgenden Empfehlungen sind eine eigene Analyse des Falls, keine Wiedergabe interner Samsung-Regeln.[4]

Erstens: Daten vor der Eingabe einordnen. Öffentliches Material ist anders zu behandeln als Kundendaten, interne Protokolle oder proprietärer Programmcode. Mitarbeitende benötigen konkrete Beispiele für erlaubte und untersagte Eingaben. „Keine sensiblen Daten“ ist als alleinige Anweisung oft zu unbestimmt.

Zweitens: Werkzeuge gezielt freigeben. Vor einer Zulassung sollten Verantwortliche klären, welche Daten verarbeitet werden dürfen, welche Aufbewahrungsregeln gelten und welche vertraglichen Zusicherungen bestehen. Auch eine kostenpflichtige Version ist nicht automatisch für jeden vertraulichen Inhalt geeignet.

Drittens: Nur erforderlichen Kontext übermitteln. Ein technisches Problem lässt sich mitunter anhand eines vereinfachten Beispiels erläutern. Allerdings genügt es nicht immer, Namen zu entfernen: Auch die Programmlogik oder eine ungewöhnliche Kombination von Angaben kann vertrauliches Wissen offenlegen.

Viertens: Sichere Alternativen anbieten. Wer nützliche Werkzeuge einschränkt, sollte zugleich erläutern, welche freigegebenen Verfahren dieselben Aufgaben unterstützen. Sonst bleibt der Arbeitsbedarf bestehen, während die Nutzung möglicherweise weniger sichtbar wird.

Fünftens: Fehlübermittlungen schnell melden lassen. Ein klarer Meldeweg ermöglicht es, betroffene Inhalte und mögliche Gegenmaßnahmen früh zu prüfen. Welche Löschung oder Begrenzung tatsächlich erreichbar ist, hängt vom jeweiligen Dienst und Sachverhalt ab. Garantien sollte niemand vorschnell versprechen.[4]

Fazit

Der Samsung-Fall ist keine Geschichte darüber, dass ein Chatbot eigenständig ein Unternehmen ausspioniert hätte. Es ist die Geschichte einer verschobenen Grenze: Beschäftigte nutzten einen externen Assistenten und übermittelten dabei Material, das intern bleiben sollte. Anschließend musste der Konzern seinen Umgang mit generativer KI enger regeln.[1][2]

Die Lehre lautet deshalb nicht schlicht „KI verbieten“. Sie lautet: Vor dem produktiven Einsatz muss geklärt sein, welche Informationen wohin gelangen dürfen. Der Nutzen eines Werkzeugs hebt die Vertraulichkeit seiner Eingaben nicht auf. Und eine überzeugende Antwort kann nicht rückgängig machen, was zuvor unzulässig übermittelt wurde.[4]

Häufige Fragen

Wurde Samsungs Quellcode öffentlich veröffentlicht?

Das belegen die hier verwendeten Quellen nicht. Berichtet wurde, dass Beschäftigte vertraulichen Quellcode an ChatGPT übermittelten. Eine öffentliche Veröffentlichung oder die konkrete Ausgabe an andere Nutzende ist damit nicht nachgewiesen.[1][2]

Hat Samsung daraufhin sämtliche KI verboten?

Nein, diese Formulierung wäre zu weitgehend. Die Berichte beschreiben Einschränkungen für generative KI-Dienste wie ChatGPT im betrieblichen Umfeld. Daraus lässt sich kein generelles Verbot jeder KI-Technologie bei Samsung ableiten.[1][2]

Dürfen Unternehmen vertrauliche Daten an KI-Systeme übermitteln?

Das lässt sich nicht pauschal beantworten. Entscheidend sind unter anderem Freigabe, Schutzbedarf, rechtliche Anforderungen und die Bedingungen des jeweiligen Dienstes. Ohne entsprechende Prüfung sollten vertrauliche Inhalte nicht in einen externen Chatbot eingegeben werden.[4]

Quellen und Einordnung

[1] Bloomberg: Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak, 2. Mai 2023.

[2] TechCrunch: Samsung bans use of generative AI tools after internal data leak, 2. Mai 2023.

[3] BSI: Künstliche Intelligenz – Informationen für Unternehmen.

[4] AI International Group GmbH: Eigene Analyse in diesem Beitrag.