Was Du nicht siehst, entscheidet

965 Milliarden Dollar. Mit dieser Bewertung wirbt Anthropic gerade um Investoren, bevor das Unternehmen im Herbst an die Börse geht, laut Wall Street Journal womöglich der größte Börsengang aller Zeiten. Dazu unbequeme Investorenfragen zur Konkurrenz aus China und zu den Protesten gegen neue Rechenzentren, und sie dürfte zum Maßstab für die ganze Branche werden (The Decoder).

Vom selben Unternehmen kommt am selben Tag eine zweite, deutlich leisere Meldung. Claude-Texte sollen ein unsichtbares Wasserzeichen bekommen, eine maschinenlesbare Markierung, weil die EU das für KI-Inhalte künftig verlangt (Tagesschau). Du wirst es beim Lesen nie bemerken, und genau dafür ist es gedacht. Vertrauen wandert gerade von der Oberfläche in die Tiefe, dorthin, wo nur Maschinen es prüfen können. Eine sichtbare Kennzeichnung nach derselben EU-Regel steht übrigens schon heute unter diesem Beitrag.

Wie nötig der Blick in diese Tiefe ist, zeigen Sicherheitsforscher um Alexander Panfilov. Sie haben in den Schnittstellen von OpenAI, Anthropic und Google einen Weg gefunden, die verborgenen Zwischenschritte auszulesen, in denen ein Modell seine Antwort vorbereitet (Reasoning). Diese Denkspuren ließen sich sogar von einem Modell ins andere übertragen. In öffentlichen Sitzungen fanden sie Dutzende Passwörter und API-Schlüssel, also digitale Zugangsausweise zu fremden Systemen (The Decoder). Und sie fanden noch etwas. Die angezeigten Denk-Zusammenfassungen verschleiern oft, was die Modelle tatsächlich tun.

Zwei Dinge nehme ich daraus mit. Was Dir eine KI als ihr Denken zeigt, ist nur eine Zusammenfassung für Menschen. Und was Du in einen Chat schreibst, kann an Stellen auftauchen, die Du nie vorgesehen hast. Frag Dich heute, was in Deinen KI-Chatverläufen steht, und frag im Team, wer schon einmal einen Chat per Link geteilt hat, denn ein geteilter Link ist der direkteste Weg, einen Chat öffentlich zu machen. Zugangsdaten und Kundendaten haben dort nichts verloren, Gesundheitsdaten erst recht nicht. Dafür gibt es Passwortmanager und verschlüsselte Ablagen.

Denselben Blick verdient die Verwaltung. Bundesdigitalminister Karsten Wildberger ist überzeugt, dass die hauseigene KI-Software Spark Workflow Verwaltungsprozesse deutlich beschleunigen wird. Der Digitalexperte Stefan Kaufmann hält dagegen, das seien Annahmen, die sich schwer belegen lassen (netzpolitik.org). Ich lese daraus vor allem eine fehlende Messlatte. Wer ein Werkzeug einführt, im Ministerium wie im Familienbetrieb, darf sich vorher eine einzige Frage beantworten. Woran erkennen wir in sechs Monaten, dass es geholfen hat? Eine Zahl reicht, Bearbeitungstage pro Antrag vorher und nachher. Ohne diese Antwort bleibt jede Einführung ein Versprechen, und Versprechen lassen sich nicht nachmessen.

Wie wenig man von außen sieht, gilt auch für die Daten, aus denen KI lernt. Kreative vergiften ihre Werke inzwischen absichtlich, damit KI-Crawler sie nicht verwerten können, und genau diese Technik gilt als wachsende Gefahr für die IT-Sicherheit (Data Poisoning, t3n). Was in einem Modell steckt, sieht ihm niemand an. Weißt Du, welche KI-Werkzeuge bei Dir laufen und wofür, im Betrieb wie auf dem privaten Rechner?

Gestern habe ich an dieser Stelle geschrieben, die Technik ist nicht schuld. Heute liefert der Tag dafür zwei Belege und eine Ausnahme, die den Unterschied zeigt. Eine schwere Lücke in Microsoft SharePoint wird von Ransomware ausgenutzt, also von Erpressungssoftware, die Systeme verschlüsselt und Lösegeld fordert. Der Patch dafür liegt seit Mai bereit (heise Security). Dazu eine frisch bekannt gewordene Lücke im Microsoft Defender, für die es noch kein Update gibt (Zero-Day) und die Angreifern die höchsten Rechte auf dem Rechner verschafft (SYSTEM-Rechte) (Bleeping Computer), und eine aktiv ausgenutzte Schwachstelle in VMware vCenter, der Verwaltungszentrale vieler Firmen-Server, auch hier mit verfügbarem Patch (The Hacker News).

Gegen die Defender-Lücke kann heute noch niemand etwas tun. Bei den beiden anderen schon. Aus einer Lücke, deren Patch seit drei Monaten bereitliegt, ist in meinen Augen eine Entscheidungslücke geworden. Und sie ist unsichtbar auf die teuerste Art, denn ein fehlendes Update bemerkt niemand, bis jemand es ausnutzt. Damit meine ich ausdrücklich nicht die IT-Teams. Oftmals wissen sie genau, was zu tun wäre, ihnen fehlen Zeit und Rückendeckung. Frag heute Deine Runde, oder Dich selbst. Wie lange dauert es bei uns vom Erscheinen eines Updates bis zur Installation (Patch-Management)? Wenn niemand die Zahl kennt, ist das schon die Antwort. Zu Hause stellt sich die Frage anders. Machen Router, Handy und Rechner ihre Updates von selbst? Und wann hast Du das zuletzt geprüft?

Bleibt die Meldung, die bei mir am längsten nachwirkt. Die Internationale Arbeitsorganisation warnt, dass KI jungen Menschen den Berufseinstieg erschwert, betroffen sind vor allem Bürojobs (Deutsche Welle). Zeitgleich meldet der Hays-Index für das zweite Quartal einen spürbaren Rückgang der Nachfrage nach IT-Fachkräften, ausgerechnet Sicherheits-Spezialisten trifft es besonders (t3n). Beides zusammen ergibt ein Bild, das man schwer sehen kann, weil es aus Dingen besteht, die nicht mehr passieren. Die Einstiegsaufgaben, an denen Berufsanfänger ihr Handwerk gelernt haben, übernimmt zunehmend die Maschine. Die Leiter steht noch, aber die unteren Sprossen werden dünner. Wenn Du Verantwortung für Ausbildung trägst, in der Firma oder am Küchentisch, frag Dich, welche Aufgabe, an der Du selbst einmal gelernt hast, heute eine KI erledigt, und wo Dein Nachwuchs sie dann lernt. Ich habe darauf keine fertige Antwort.

Alles an diesem Tag erzählt dieselbe Geschichte. Wasserzeichen, die keiner sieht. Sprossen, die keiner vermisst, bis jemand klettern will. Digitale Souveränität beginnt damit, das Unsichtbare sichtbar zu machen, und dafür reichen die Fragen aus diesem Text. Nimm die mit, die bei Dir noch offen ist. Was Du siehst, kannst Du entscheiden. Was Du nicht siehst, entscheidet über Dich.