Meistens ist das, was einem als künstliche Intelligenz vorgesetzt wird, nicht intelligent, sondern höchstens künstlich. Heute existiert noch kein Computer, kein Roboter, der wirklich intelligent ist. Was heute als KI angepriesen wird, ist meistens etwas ganz anderes: Programme, die automatisiert entscheiden. Wir sind schon umgeben davon, auch wenn wir es selten wahrnehmen. Wer zum Beispiel im Internet einen Flug oder ein Hotel bucht, weiss, dass man unterschiedliche Preise erhält, je nachdem, wo und wann man bucht. Das personalisierte Business geht aber noch viel weiter. Die Algorithmen sind so gebaut, dass sie uns in bestimmte Gruppen einteilen können. Um uns am Ende ins Töpfchen der guten oder der schlechten Kunden zu stecken. Die Guten kommen, wenn sie zum Beispiel im Callcenter anrufen, sofort dran und werden freundlich umsorgt. Die Schlechten landen immer wieder in der Warteschlaufe. Es gibt im Netz auch schon individualisierte Preise. Die Firmen versuchen herauszufinden, welche Kunden bereit sind, viel zu zahlen – um bei denen höhere Preise zu verlangen als bei den anderen. Wohnt eine Person in einer guten Gegend, nutzt ein Apple-Gerät und besucht im Netz oft Webseiten, die teure Produkte anbieten, dann gehört sie mit allergrösster Wahrscheinlichkeit zur Gruppe mit hoher Zahlungsbereitschaft. Sie sind die Goldadern, die die Firmen der Zukunft finden wollen. Das taube Gestein mit den vielen schlechten Kunden möchten sie meiden, die kosten nur und bringen kein Geld. Die Betriebswirtschaftslehre nennt das «Costumer Lifetime Value». Wir alle werden früher oder später einen digitalen Kundenwert haben. Selbst die, die selten im Netz sind. Keine Spur zu haben, gibt auch einen Wert… In Deutschland überlegen sich private Krankenkassen heute schon, ob sie vergünstigte Versicherungstarife anbieten, wenn Kunden Gesundheitsapps verwenden. Wer keine App verwendet, kommt nicht mehr rein oder zahlt viel mehr. Wer sie verwendet, weiss nicht, ob die Daten einmal gegen ihn verwendet werden, weil die Kasse sieht, dass er ein Kostenrisiko werden könnte. Die Kasse hebt vielleicht den Versicherungstarif an oder wirft ihn raus. Das passiert nicht nachvollziehbar, da die Algorithmen, die entscheiden, nicht offengelegt werden.

(Susan Boos, in «W&O», 25. April 2019)

Wir wundern uns über die Überwachungssysteme, mit denen die chinesische Regierung ihre Bürgerinnen und Bürger rund um die Uhr kontrolliert und ihnen je nach ihrem Wohlverhalten Privilegien zubilligt oder verwehrt. Aber sind wir nicht selber auf dem besten Weg zu einer ganz ähnlichen Überwachungsmaschinerie, nur dass bei uns die Macht nicht beim Staat, sondern bei den Algorithmen liegt, die ebenfalls permanent unser Wohlverhalten überwachen? So ist es immer: Den Balken im eigenen Auge sieht man nicht. Und genau so funktioniert der Kapitalismus und durchdringt immer mehr Lebensbereiche: Er umgibt uns so, wie die Luft die Vögel umgibt und das Wasser die Fische. Wir sehen ihn nicht, wir spüren ihn nicht und doch ist er allgegenwärtig. Mitten im Wald sehen wir auch nur die einzelnen Bäume, nie aber den Wald als ganzen – und können uns eine Welt ausserhalb dieses Waldes schon fast nicht mehr vorstellen.