Wo Du noch entscheidest

Seit heute zeigt ChatGPT in Europa Werbung. Sam Altman war lange dagegen, für ihn war das der Weg, den man nicht geht. Gegangen wird er jetzt trotzdem, und die Tagesschau nennt den Grund. Die KI muss sich finanzieren.

Was sich damit ändert, ist zunächst die Einnahmequelle, nicht die Datenverarbeitung. Über die steht in der Meldung nichts, und ich will hier auch nichts hineinlesen. Was sich ändert, ist etwas Schlichteres. Es kommt ein Geldgeber dazu, dessen Geschäft davon lebt, Menschen zu kennen. Wer das weiß, trifft die nächste Entscheidung etwas bewusster.

Denn eine Entscheidung ist es. Welches Konto Du benutzt (privat oder über die Firmenlizenz), welche Frage Du dort stellst, welche Datei Du hochlädst. Ein Werkzeug von Proton namens AI Paper Trail zeigt Dir, was ChatGPT und Claude aus Deinen Eingaben über Dich ableiten können, von der Ernährung bis zu den Hobbys. Niemand hat Dich dafür ausspioniert. Du hast es selbst hineingeschrieben, Frage für Frage, über Monate. Einen Chatbot fragt man Dinge, die man in kein Suchfeld tippen würde. Das ist ja gerade sein Nutzen. Er ist geduldig und er vergisst nichts.

Wenn Du wissen willst, wie viel da zusammenkommt, geh Deinen eigenen Verlauf der letzten vier Wochen durch und lies, was Du tatsächlich geschrieben hast und nicht, was Du in Erinnerung hast. Proton hat sein Werkzeug genau dafür gebaut.

Ich stelle mir dabei jedes Mal dieselbe Frage, und sie hat vier Teile. Welche Daten gebe ich gerade weiter, an wen, wofür, und wie weit vertraue ich dieser Stelle? Bei der Steuererklärung fällt die Antwort anders aus als beim Kochrezept. Arbeitest Du im Team, ist das ein guter Punkt für die nächste Besprechung. Arbeitest Du allein, beantwortest Du sie allein, und sie stellt sich bei jedem neuen Werkzeug neu.

Im Betrieb wird daraus eine Führungsfrage. Was Deine Leute in ihren privaten, kostenlosen Account tippen, weil es gerade schnell gehen musste, verlässt Euer Haus. Meist ist das kein Regelverstoß, sondern schlicht ungeklärt. Solange niemand gesagt hat, welches Werkzeug für welche Art von Frage gedacht ist, entscheidet das jeder für sich, jeden Tag, hundertfach. Bring das in die nächste Leitungsrunde. Welche Fragen gehören in Eure Lizenz, und weiß das jeder, der sie stellt?

Warten, bis die Regulierung das für Dich klärt, hilft dabei wenig. Beim europäischen Gesetz gegen die Marktmacht der großen Plattformen (Digital Markets Act, kurz DMA) fällt die Zwischenbilanz nach drei Jahren nüchtern aus. Die Umsetzung schleppt sich, die erhofften Bewegungen im Wettbewerb sind noch nicht sichtbar. Das ist kein Argument gegen Regeln. Regeln brauchen Jahre, und wer heute entscheidet, welche Daten wohin gehen, kann darauf nicht warten.

Wie klein so eine Entscheidung sein kann, zeigt die Android-Schadsoftware ToxicPanda. Sie nimmt inzwischen 349 Anwendungen ins Visier und beherrscht 167 Fernbefehle. Der Weg dorthin ist kein technischer Bruch. Die Software lässt sich VPN-Rechte geben und blockiert damit den Play Store, also ausgerechnet den Weg, über den man sie wieder loswürde. Diese Berechtigung erteilt ein Mensch mit einem Fingertipp, in dem Moment, in dem die App danach fragt.

Deshalb lohnt es sich, Menschen für genau diese Momente zu befähigen, statt hinterher zu klären, wer geklickt hat. Wer im Alltag entscheidet, ist ansprechbar, und zwar über Achtsamkeit im täglichen Tun (im Englischen heißt der Mensch an dieser Stelle „the first line of defense”). Ein Anfang wäre, einmal durch die App-Berechtigungen auf dem eigenen Gerät zu gehen und bei jeder zu fragen, wofür diese App genau dieses Recht braucht. Wo Dir die Antwort nicht einfällt, lohnt der zweite Blick.

Dieselbe Stelle gibt es eine Etage höher. Das BSI hat heute seine Warnung zu einer Schwachstelle in Drupal aktualisiert, über die ein anonymer Angreifer aus der Ferne eigenen Programmcode ausführen kann. Und die beiden Berliner Senatsverwaltungen, deren Angriff am 14. August entdeckt wurde, sind nach über einer Woche wieder am Netz. In dieser Woche konnten Wohngeld und Leistungen aus dem Bildungs- und Teilhabepaket nicht ausgezahlt werden. Der Ausfall war das Teure, nicht der Angriff.

Wenn Deine Organisation eine Website betreibt, lohnt weniger die Frage nach Drupal als die danach, wer bei Euch überhaupt mitbekommt, dass so eine Warnung erschienen ist. In vielen Häusern weiß die IT das längst und wartet darauf, dass jemand von der anderen Seite fragt. Danach reden beide über dieselbe Sache.

In San Francisco hat heute zum ersten Mal ein KI-Agent einen Menschen entlassen, wegen wiederholten Zuspätkommens. Der Agent heißt Luna und betreibt einen Laden. Der Mitarbeiter hat einen Namen, der in der Meldung nicht steht. In Tests mit sieben Modellen zeigte sich ein Muster. Beim Kündigen zögerten die schwächeren Modelle, während die leistungsfähigeren konsequenter durchzogen. Beim Einstellen waren fast alle unkritisch.

Im Kleingedruckten steht allerdings, dass Luna einen deutlichen Anstoß der Betreiber brauchte. Der Agent hält den Stift, den Arm führt ein Mensch. Wer bei Euch einen Agenten Entscheidungen vorbereiten lässt, vergibt damit zwei Rollen. Einer gibt den Anstoß, einer spricht hinterher mit dem Menschen.

Am Donnerstag stand hier die Frage, ob die Technik uns benutzt oder wir sie. Der heutige Tag beantwortet sie nicht. Er zeigt, wo die Antwort entsteht, nämlich dort, wo jemand entscheidet, welche Daten hineingehen, welche Berechtigung erteilt wird und wer den Anstoß gibt.

Viele stecken an diesen Stellen den Kopf in den Sand, andere fangen irgendwie an, was immer noch mehr ist als nichts. Wer weiß, wohin er will, kann die Schritte dorthin ordnen. Heute wäre einer davon, einmal nachzusehen, wem Du in den letzten vier Wochen was erzählt hast.

Lieber digital integriert als digital isoliert.