Vielen Dank für Ihre Registrierung. Sie haben den Aktivierungslink für Ihr Benutzerkonto per E-Mail erhalten.

Vielen Dank für Ihre Anmeldung.

Kolumne

Künstliche Intelligenz: Dumme Programme mit viel Macht

Algorithmen bestimmen bereits unseren Alltag. Die Intransparenz dieser Systeme ist ein grosses Problem.
Susan Boos
Susan Boos, Redaktorin «Wochenzeitung»

Susan Boos, Redaktorin «Wochenzeitung»

Künstliche Intelligenz, kurz KI – alle reden davon, die wenigsten wissen, was es sein soll. Meistens ist das, was einem als künstliche Intelligenz vorgesetzt wird, nicht intelligent, höchstens künstlich. Der Begriff suggeriert, Computer seien klug geworden. Heute existiert aber noch kein Computer, kein Roboter, der wirklich intelligent ist. Zum Glück. Was heute als KI angepriesen wird, ist meistens etwas ganz anderes: Programme, die automatisiert entscheiden. Wir sind schon umgeben davon, auch wenn wir es selten wahrnehmen.

Wer im Internet einen Flug oder ein Hotel bucht, weiss, dass man unterschiedliche Preise erhält, je nachdem, wo und wann man bucht. Das personalisierte Business geht aber noch viel weiter. Die Algorithmen sind so gebaut, das sie uns in bestimmte Gruppen einteilen können. Um uns am Ende ins Töpfchen der guten oder der schlechten Kunden zu stecken. Die Guten kommen, wenn sie zum Beispiel im Callcenter anrufen, sofort dran und werden freundlich umsorgt. Die Schlechten landen immer wieder in der Warteschlaufe. Es gibt im Netz auch schon individualisierte Preise. Die Firmen versuchen herauszufinden, welche Kunden bereit sind, viel zu zahlen – um bei denen höhere Preise zu verlangen sind als bei den anderen. Wohnt eine Person in einer guten Gegend, nutzt ein Apple-Gerät und besucht im Netz oft Webseiten, die teure Produkte anbieten, dann gehört sie mit allergrösster Wahrscheinlichkeit zur Gruppe mit hoher Zahlungsbereitschaft Sie sind die Goldadern, die die Firmen der Zukunft finden wollen. Das taube Gestein mit den vielen schlechten Kunden möchten sie meiden, die kosten nur und bringen kein Geld. Die Betriebswirtschaftslehre nennt das «Customer Lifetime Value». Wir alle werden früher oder später einen digitalen Kundenwert haben. Selbst die, die selten im Netz sind. Keine Spur haben, gibt auch einen Wert.

Der «Customer Lifetime Value» ist so etwas wie das kapitalistische Pendant des chinesischen «Social Scoring». Damit wird das Verhalten der Chinesen online bewertet. Das Strafregister wird einbezogen, die Kreditwürdigkeit oder was man im Netz so treibt. Wer im Sozialkreditsystem gut abschneidet, erhält Privilegien und kann beim Staat Karriere machen. Wer schlecht abschneidet, erhält keinen Job beim Staat, kann nicht mehr reisen oder zahlt höhere Steuern. Noch dürfen die Chinesen beim «Social scoring» freiwillig mitmachen. Ab kommendem Jahr wird es aber für alle zur Pflicht. Die Regierung sagt, sie will damit die Gesellschaft zu Aufrichtigkeit und sozialem Verhalten erziehen. Das Land wird zum digitalen Gulag. Ein Graus – froh, wer sich dem nicht unterziehen muss.

Nur, was ist an der Idee des Kundenratings so viel besser? Es dürften einmal ganze Menschengruppen von Dienstleistungen ausgeschlossen werden, nur weil sie am falschen Ort wohnen, die falsche Hautfarbe, das falsche Geschlecht oder das falsche Alter haben. Es wird nicht einmal bösartig gemeint sein. Man kommt für die Firmen einfach nicht mehr vor, weil man ökonomisch nicht interessant ist.

In Deutschland überlegen sich private Krankenkassen heute schon, ob sie vergünstigte Versicherungstarife anbieten, wenn Kunden Gesundheitsapps verwenden. Wer keine App verwendet, kommt nicht mehr rein oder zahlt viel mehr. Wer sie verwendet, weiss nicht, ob die Daten einmal gegen ihn verwendet werden, weil die Kasse sieht, dass er ein Kostenrisiko werden könnte. Die Kasse hebt vielleicht den Versicherungstarif an oder wirft ihn raus. Das passiert nicht nachvollziehbar, da die Algorithmen, die entscheiden, nicht offengelegt werden. Und die Daten, die zur Entscheidung geführt haben, ebenfalls nicht bekannt sind. Die dummen, aber selbstentscheidenden Programme werden viel Macht entfalten, wenn man sie einfach lässt. Man muss sie zähmen, sonst könnte es uns einmal leid tun. Das braucht Zeit. Bis dahin müsste jede Software, die automatisiert intransparente Entscheidungen fällt, denen die Betroffenen schutzlos ausgeliefert sind, verboten werden.

Merkliste

Hier speichern Sie interessante Artikel, um sie später zu lesen.

  • Legen Sie Ihr persönliches Archiv an.
  • Finden Sie gespeicherte Artikel schnell und einfach.
  • Lesen Sie Ihre Artikel auf allen Geräten.