Wer prüft das eigentlich?

Vor vier Tagen ging es hier um Dinge, die man nicht sieht und die trotzdem entscheiden. Heute stellen die Meldungen die Anschlussfrage, wer eigentlich noch hinschaut.

OpenAI hat sein „Preparedness”-Team aufgelöst. Das war die Gruppe, die katastrophale Risiken der eigenen Modelle bewerten sollte, also die Fälle, bei denen es nicht um einen peinlichen Chatbot geht, sondern um Schaden in großem Maßstab. Die Zuständigkeit wurde auf bestehende Teams verteilt. Der Bericht nennt dazu mehrere Sicherheitsleute, die das Unternehmen verlassen haben, und zitiert intern ein brodelndes Gefühl von Verantwortung und Angst (The Decoder). Wo Zuständigkeit auf alle verteilt wird, trägt sie am Ende oft niemand mehr allein.

Am selben Tag kommt die zweite Meldung. ChatGPT zeigt in weiteren Ländern Werbung, und in die Auswahl dieser Werbung sollen Chatinhalte einfließen (heise). Werbung nach Kontext kennen wir von jeder Suchmaschine. Nur tippst Du in eine Suchmaschine drei Wörter, während Du einem Chat erzählst, warum Du sie tippst: die Lage Deiner Firma, den Konflikt mit dem Kollegen, und manchmal die Diagnose Deines Vaters. Und wenn das so kommt, wie OpenAI es gerade testet, entscheidet dieser Kontext mit darüber, was Dir verkauft wird.

Daraus wird die erste Frage für heute, und sie kostet zwei Minuten. Welche drei Dinge aus dieser Woche hätte ich nicht ins Chatfenster geschrieben, wenn ich vorher gewusst hätte, dass sie mit aussuchen, welche Werbung ich morgen sehe?

Beim Hersteller können wir nur zuschauen. Im eigenen Haus nicht, und dort ist die Lage in vielen Organisationen keinen Deut besser.

Bitkom hat dazu 604 Unternehmen ab 20 Beschäftigten befragt. In 42 Prozent gehen sie davon aus, dass ihre Leute private KI-Zugänge nutzen. Regeln dafür haben 23 Prozent (Bitkom). Ein aktueller Leitfaden nennt sieben Punkte, mit denen sich das einfangen lässt (t3n). Der Fachbegriff dafür ist Shadow AI, also KI-Nutzung an der IT vorbei. Jemand formuliert Angebote mit einem privaten Account, eine Kollegin kippt Bewerbungsunterlagen in ein Tool, das niemand freigegeben hat. Einer der sieben Punkte ist, erst einmal zu wissen, was überhaupt benutzt wird (Bestandsaufnahme).

Das ist die zweite Frage. Wer bei uns benutzt gerade was, und weiß ich das oder vermute ich es? Führst Du ein Team, stell die Frage laut in der nächsten Besprechung. Arbeitest Du ohne Personalverantwortung, sag Deiner IT von Dir aus, welche Werkzeuge bei Dir laufen, damit sie mitdenken kann statt hinterherzuräumen. Wer ein Werkzeug heimlich benutzt, hatte meistens einen guten Grund, und dieser Grund ist die eigentliche Information.

Eine Ebene tiefer wird es konkret. Sobald ein KI-Agent, also ein System, das selbstständig Aufgaben abarbeitet, Kundenanfragen oder Bewerbungen anfasst, sind personenbezogene Daten im Spiel. Dann gehören drei Fragen vor die Einführung und nicht danach: Wo läuft das Modell, wer verarbeitet die Daten in Deinem Auftrag und haftet dafür mit (der Vertrag dazu heißt Auftragsverarbeitung, Artikel 28 DSGVO), und was passiert mit den Zwischenergebnissen (t3n)?

Bei Bewerbungen kommt der EU AI Act dazu, und hier lohnt es sich, genau hinzuschauen, weil zwei Dinge oft verwechselt werden. Software, die Lebensläufe sortiert oder Kandidaten bewertet, ist nicht verboten. Sie gilt als Hochrisiko-Anwendung, ist also erlaubt, aber an strenge Auflagen gebunden, von der Risikobewertung über die Dokumentation bis zur menschlichen Aufsicht.

Verboten ist etwas anderes, und zwar seit Februar 2025 ohne Übergangsfrist. Systeme, die aus Stimme, Gesicht oder Text auf Gefühle schließen, dürfen am Arbeitsplatz nicht eingesetzt werden (EU-Kommission). „Arbeitsplatz” wird dabei weit ausgelegt und schließt das Bewerbungsverfahren ein. Wer also ein Tool einkauft, das im Videointerview „Motivation” oder „Stressresistenz” misst, kauft eine verbotene Praxis. Der Bußgeldrahmen dafür geht bis sieben Prozent des weltweiten Jahresumsatzes.

Dazu passt eine Meldung von Bleeping Computer über ein neues Linux-Botnetz namens Evooo1Bot, das ungepatchte Router und Gateways kapert und als Zwischenstation für fremden Datenverkehr missbraucht (Bleeping Computer). Der Kasten, der bei Dir zu Hause und im Büro seit Jahren unbeachtet blinkt, ist auch so ein Ding, das niemand prüft. Und er ist das einzige aus diesem Text, für das Du niemanden fragen musst.

Der Hays-Fachkräfte-Index, den ich hier vor vier Tagen schon zitiert habe, zeigt für das zweite Quartal einen spürbaren Rückgang bei den Stellenausschreibungen, am stärksten ausgerechnet bei IT-Security-Fachleuten, während ein anderer Bereich vom KI-Boom profitiert (t3n). Ein Teil davon ist Konjunktur, ein Teil die Erwartung, dass KI die Arbeit schon übernimmt. Beide Erklärungen ändern nichts daran, dass die Werkzeuge mächtiger werden, während weniger Menschen sie beurteilen können. Wer heute weniger Sicherheitsleute sucht, hat in zwei Jahren weniger Leute, die beurteilen können, was die neuen Werkzeuge im Haus anrichten.

In Indien hat die Regierung nach Protesten gegen Mängel im Bildungssystem kostenlose Online-Nachhilfe und KI-Kurse angekündigt (Deutsche Welle). Ob daraus mehr wird als Symbolpolitik, weiß ich nicht. Auffällig ist, dass dort ein Staat gerade Leute ausbildet, während hier die Stellen wegfallen.

Nach den Drohnenvorfällen fordert der Städte- und Gemeindebund eine ausfallsichere Kommunikation für Kommunen (Golem). Auch das ist eine Prüffrage, nur eine ältere. Wer sie heute stellt, wirkt übervorsichtig. Wer sie zu spät stellt, telefoniert im Ernstfall nicht mehr.

Du bist die Prüfinstanz. Wenn beim Hersteller ein Team aufgelöst wird und im eigenen Haus niemand weiß, welche Tools laufen, bleibt die Frage bei dem hängen, der das Werkzeug benutzt. Mit KI wird jede und jeder ein Stück weit zur Führungskraft, weil delegieren und das Ergebnis beurteilen plötzlich zum Alltag gehören.

Bleibt die Frage, die man am leichtesten überspringt. Wenn wir etwas einführen, wer schaut in einem halben Jahr noch einmal darauf? Ein Datum und ein Name genügen, und ohne sie bleibt es beim Vorsatz.

Wissen, das fehlt, vermisst man nicht; doch hat man es, schätzt man es. Nimm Dir eine der drei Fragen vor, am besten die, bei der Du gerade ungern nachschaust, und stell sie heute.

Lieber digital integriert als digital isoliert.