TikTok wusste Bescheid, und ich habe beschlossen, das hilfreich statt beängstigend zu finden

Ich war ein paar Tage in privatem Kram versunken. Ich bin umgezogen, dann in die Schweiz geflogen, um Familie zu sehen, und es waren, milde ausgedrückt, ein paar stressige Wochen. Als ich endlich ein paar freie Minuten hatte, tat ich das Verantwortungsvolle und öffnete TikTok, um mir eine Weile das Hirn wegfaulen zu lassen. Ich wusste genau, was mich erwartete. Mein Feed ist die menschliche Version eines kalten LinkedIn-Aufmachers: die fünf besten KI-Tools, die man diese Woche unbedingt ausprobieren muss, ein Typ, der erklärt, warum der Kursrutsch vom Montag eine Korrektur war und kein Crash, ein Gründer, der seine Beinahe-Insolvenz zu einem Karussell verarbeitet. Tech, Finanzen, Gründer, ab und zu ein Schubs, doch mal ein Gemüse zu essen.

Nichts davon tauchte auf. Der Feed hatte umdekoriert, während ich weg war. Neue Creator, anderer Ton, Zeug, das mir wirklich noch nie ausgespielt worden war, und alles weniger auf das gerichtet, was mich normalerweise interessiert, und mehr darauf, wie es mir in jener Woche tatsächlich ging, was ich hören musste. Ich hatte nichts geliked. Niemandem gefolgt. Keine einzige Suche getippt. Was mich mit zwei Fragen zurückliess und einem leicht mulmigen Gefühl bei beiden. Woher wusste es das. Und woher wusste es das so schnell.

Ich habe nichts verändert

In jenen paar Tagen gab ich dem System nichts, was es auf normalem Weg sehen konnte. Keine Likes. Kein Folgen. Keine Suchen. Keine Kommentare. Ich öffnete eine App und bewegte ein paarmal den Daumen. Das war die ganze Transaktion.

Und trotzdem fütterte es mich nicht mit mehr von dem, womit ich mich beschäftige. Ich beschäftige mich mit Tech. Nach jeder Regel, die wir normalerweise aufstellen, hätte es mich unter KI-Tool-Zusammenstellungen begraben müssen, bis ich es anflehe aufzuhören. (Was ich gelegentlich tue.) Stattdessen servierte es mir etwas, das völlig ausserhalb des Profils lag, das ich mir über Jahre aufgebaut habe. Es legte bei meiner Vergangenheit nicht nach. Es legte sie beiseite.

Was las es also tatsächlich? Wie lange Sie zögerten, bevor Sie weiterscrollten. Was Sie zweimal angeschaut haben. Was Sie zu Ende gesehen haben. Wie schnell Sie bei den Dingen abgesprungen sind, die nicht passten. Zu welcher Nachtzeit Sie das alles taten. Sie senden die ganze Zeit, einfach durchs Zuschauen, und nichts davon fragt vorher um Erlaubnis. Ich verstehe all die verhaltensbezogenen Signale, aber wie schnell es sich anpasste, das hat mich erwischt.

Fairerweise brauchte es nicht für alles Telepathie. Ich war eben umgezogen, dann öffnete ich die App plötzlich in der Schweiz, in einem anderen WLAN, zu Stunden, in denen ich normalerweise schlafe. Ein Teil des Umdekorierens war vermutlich schlichter Kontext: neues Land, neue Zeitzone, neue zwei Uhr nachts. Aber Kontext erklärt, wo ich war. Er erklärt nicht, woher der Feed zu wissen schien, wie es mir ging.

Ein starkes Signal braucht nicht viel als Grundlage. Ein paar Videos, bei denen Sie langsamer wurden, genügen völlig. Das System brauchte keine Woche von mir. Es brauchte einen Abend, weniger als das, ein paar Minuten.

Aktuell schlug alles, was es wusste

Ich komme immer wieder auf diesen Punkt zurück. Eine über Jahre felsenfeste Historie, in der man immer dieselben paar Themen anklickt, ist ungefähr das stärkste Kundenprofil, von dem man träumen könnte. Die meisten von uns würden es als Evangelium behandeln. Der Feed behandelte es als Hintergrundmusik.

Er ging eine Wette ein, und eine seltsame dazu. Er entschied, dass ein paar Minuten Jetzt-Verhalten ihm mehr darüber sagten, was ich wollte, als Jahre beständigen Interesses. Und er hatte recht, was der wirklich ärgerliche Teil ist. Wo Ihr Kopf heute Abend steckt, sagt Ihre nächsten zehn Minuten besser voraus als alles, was Sie drei Jahre lang treu angeklickt haben. Aktualität und Kontext schlagen das Profil, und zwar deutlich.

Wenn Sie Personalisierung beruflich machen, sollte Sie das innehalten lassen. Das Profil, an dem Sie monatelang gebaut haben, kann an einem Nachmittag von dem überstimmt werden, was jemand gerade jetzt tut. Die Historie sagt Ihnen, wer sie sind. Die letzten zwanzig Minuten sagen Ihnen, wer sie heute sind. Heute ist das, wonach sie handeln.

Das Zeug, das ich nie gewählt hätte, half am meisten

Die Inhalte waren auch gut. Nicht gut wie ein glatter Schnitt. Gut, weil sie für mich nützlich waren, das, was ich sehen musste, genau dann, auf eine Art, die mein eigentlicher Feed nie auch nur ein einziges Mal hinbekommen hat.

Denken Sie daran, wofür mein normaler Feed da ist. Er füttert den Typen, den ich aufführe: über den Tools stehend, dem Markt voraus, gelassen aus den Katastrophen anderer Leute lernend. Es ist ein Feed, gebaut für meinen Lebenslauf. Er ist nicht für eine schlechte Woche gebaut. Und in einer Phase wie jener hatte die sorgfältig optimierte Version meiner eigenen Interessen überhaupt nichts für mich. Das zufällige Zeug, das der Algorithmus hereinzog, die Inhalte, die ich nie absichtlich gewählt hätte und an denen ich einen Monat zuvor direkt vorbeigewischt hätte, das war der Teil, der tatsächlich half.

Das sollte jeden anstossen, dessen Job es ist, zu entscheiden, was andere Menschen sehen. Wir bauen Feeds, und Shops, und Empfehlungen rund um das, wer Menschen sein wollen. Ab und zu ist das, was sie brauchen, genau das, was sie nie anklicken würden. Ich habe Jahre damit verbracht, RFM-basierte Direct-Response-Personas zu entwickeln, samt Intent-Scores für Millionen jährlicher Katalogaussendungen. Bei Katalogen kann man wenigstens hoffen, dass sie lange genug herumliegen, bis der Status quo sich wieder einstellt. Schnellere Medien haben diesen Vorteil nicht.

Klarheit, oder bloss Bestätigung

Bevor ich zu sentimental werde über meinen freundlichen und fürsorglichen Algorithmus. Vieles von dem, was sich wie Klarheit anfühlte, war bloss der Feed, der mir zustimmte. Er fand Inhalte, die zu dem passten, wie ich die Dinge ohnehin schon sah, und in grosser Menge bestätigt zu werden fühlt sich verdammt ähnlich an wie Einsicht. "Endlich, jemand versteht es" ist ein wunderbares Gefühl. Es ist nicht dasselbe wie recht zu haben. Ich hatte bereits eine vorgefasste Vorstellung von "richtig", der Algorithmus hat sie nur verstärkt. So entstehen wohl Fake News.

Eine gute Empfehlungs-Engine ist eigentlich nicht im Informationsgeschäft. Sie ist im Geschäft, Sie beim Zuschauen zu halten, und das Sehenswerteste ist meistens das, was bestätigt, was Sie ohnehin schon denken. Also reicht sie Ihnen Ihre eigene Meinung zurück, mit besserer Beleuchtung und einer mitfühlenden Stimme aus dem Off, und Sie fühlen sich verstanden. Sie sind Teil einer Gemeinschaft, wie flüchtig auch immer. Manchmal ist das echter Trost. Manchmal ist es ein sehr effizientes Echo. In einer harten Woche, von innen, sind die beiden fast unmöglich auseinanderzuhalten.

Und mein normaler Feed stand auch nie über alldem. "Warum der Rutsch eine Korrektur war, kein Crash" sagt mir auch bloss, was ich gern für wahr hätte. Die Maschine begann in jener Woche nicht plötzlich, meine Vorurteile zu bestätigen. Sie wechselte nur, welches Vorurteil sie bestätigte. Es war schön, solange es dauerte.

Achten Sie auf die Verweildauer, nicht auf das Like

Zwei Dinge aus einem Abend zufälliger Forschung. Das erste ist nützlich und ein wenig langweilig: Wenn Sie diese Systeme bauen oder über sie verkaufen, schauen Sie wahrscheinlich immer noch auf die falsche Spalte. Die Signale, die Menschen aufführen, sind die lauten. Die Signale, die Menschen meinen, sind die leisen, die sie nie zu senden gewählt haben. Das Like ist das Rauschen. Die Verweildauer ist die Wahrheit.

Das zweite kaue ich noch durch. Derselbe Feed, der mir etwas wirklich Nützliches reichte, reichte mir auch meine eigenen Schlussfolgerungen zurück, mit ausgebesserter Beleuchtung, und in einer rauen Woche konnte ich die beiden nicht immer auseinanderhalten. Eine wirklich hilfreiche Maschine. Ich würde ihr nur ausgerechnet an jenen Abenden am wenigsten trauen, an denen ich sie am meisten brauche.