Bestimmen Algorithmen unser Leben, Frau Borchardt?

Beim Schach war die Sache noch offen. Aber spätestens, seitdem Computer Go meistern, ein komplexes Strategie-Spiel aus Fernost, scheint der Wettbewerb zwischen Mensch und Maschine entschieden zu sein. Muss uns das bekümmern? Immerhin nimmt uns Software stupide Arbeiten ab, Suchmaschinen liefern uns mehr Antworten, als wir Fragen stellen, und Autopiloten haben das Fliegen sicherer gemacht als eine Autofahrt zum Supermarkt. Ginge es der Menschheit also nicht besser, wenn sie ihre Probleme von Algorithmen lösen lassen würde? Schließlich können diese auf unendlich viel mehr Daten zurückgreifen und sind dabei weniger störanfällig als das menschliche Gehirn.

Allerdings glauben nicht einmal die Protagonisten des Silicon Valley, dass künstliche Intelligenz nur harmlos ist. Tesla-Gründer Elon Musk formulierte seine Bedenken einmal so: „Wir bewegen uns entweder in Richtung Superintelligenz oder auf das Ende der Zivilisation zu.“ Nun sollte man es mit dem Alarmismus nicht übertreiben. Szenarien, in denen Roboter die Macht an sich reißen und die Menschheit auslöschen, gehören zur Science Fiction. Aber es gibt ein paar Fragezeichen.

Zunächst einmal sind Algorithmen nicht mehr als Rechenoperationen, wenn man so will, die Gehirnströme des Computers. Sie rechnen aus, wie wir am besten von A nach B kommen, geben uns Buchempfehlungen und können aus vier Zutaten ein Rezept komponieren. Sie steuern Rasenmäher genauso wie Drohnen, helfen bei der Partnerwahl und sind Hochleister bei der Diagnose von Krankheiten. Allerdings sortieren sie auch Bewerber für Jobs oder Bankkredite aus. Sie fällen also wichtige Urteile: Wie vertrauenswürdig ist ein Mensch?

Das amerikanische Forschungsinstitut PEW Research hat im vergangenen Jahr 1500 Fachleute dazu befragt, was sie von Algorithmen halten. 38 Prozent meinten, dass in einer von Algorithmen getriebenen Welt die Vorteile überwiegen werden, 37 Prozent waren überzeugt vom Gegenteil. Der Rest sagte, beides würde sich die Waage halten. Aber eines sorgte alle: Dass Menschen Verantwortung nur zu gerne an Software abtreten. Und das kann nur schiefgehen.

In einer von Algorithmen getriebenen Welt gelten wichtige Gesetzmäßigkeiten. Erstens: Effizienz geht vor Fairness. Algorithmen empfehlen, was für die Masse gilt, nicht für den Einzelnen. Zwar können sie Vorschläge je nach Datensatz individualisieren, aber generell rechnen sie in Wahrscheinlichkeiten. Der Schutz Einzelner zählt wenig, besondere Lebensumstände werden nicht berücksichtigt. Selbst der ehemalige US-Notenbankchef Ben Bernanke scheiterte einmal an einem Algorithmus, der ihm die Refinanzierung seines Hauskredits verwehrte.

Nun ist das Leben ohne Algorithmen auch nicht fair. Wer die Bankdirektorin gut kennt, wird leichter an einen Kredit kommen als ein x-beliebiger Bewerber, Jobs und Aufträge werden nach „Nasenfaktor“ vergeben. Aber in der Demokratie ist der Schutz des Individuums ein hohes Gut, jeder hat ein Recht auf ein faires Verfahren, selbst der Verbrecher. Algorithmen hingegen klassifizieren nur scheinbar wertneutral, und meistens sind sie intransparent. Ein Bewerber, der immer wieder abgelehnt wird, kann nur raten, welche Daten ihn disqualifizieren.

Zweitens: Vergangenheit siegt über Zukunft. Weil Algorithmen sich auf vorhandene Daten stützen, sind sie kondensierte Stereotype – es sei denn, sie werden anders programmiert. Ist zum Beispiel eine Stelle für Ingenieure ausgeschrieben, sind bislang erfolgreiche Ingenieure die Blaupause für den Algorithmus. Männliche Kandidaten haben deshalb bessere Chancen. In den USA werden schon jetzt etwa 70 Prozent aller Bewerbungen von elektronischen Filtern vorsortiert. Wer mehr Vielfalt in der Belegschaft will und seine Software nicht entsprechend programmiert, wird sie nicht bekommen.

Von Algorithmen gesteuerte Prozesse produzieren keine Innovationen. Sie funktionieren nach dem Grundsatz „weiter wie bisher, nur effizienter“. Anders ausgedrückt: Wer sich damit beschäftigt, das Fax besser zu machen, wird nie die E-Mail erfinden. Außerdem machen sie faul. Statt Neues auszuprobieren und selbst zu denken, verlässt man sich auf mundgerecht servierte Lösungen.

Drittens: Die Schwachen verlieren. Die Mathematikerin Cathy O’Neill illustriert in ihrem Buch „Weapons of Math-Destruction“, wie Algorithmen auf Kosten der Schwachen arbeiten: Firmen platzieren mit Hilfe von Software Werbung für zweifelhafte, überteuerte Produkte gezielt bei Menschen, die sie als anfällig identifizieren. Die elektronischen Werkzeuge sortieren Bewerber um Jobs oder Kredite nach Wohnbezirken; wohl dem, der eine ordentliche Postleitzahl hat. Unternehmen setzen rechnergesteuerte Dienstplan-Software ein, die Menschen je nach Auslastung zur Arbeit bestellt – und sie damit zu Just-in-time-Gütern macht. Ganz zu schweigen von den Auswirkungen künstlicher Intelligenz auf den Arbeitsmarkt. Wissenschaftler haben ausgerechnet, dass es noch 125 Jahre dauern wird, bis menschliche Arbeitskraft vollkommen durch Maschinen ersetzt wird, aber viele einfache Jobs wie Lkw-Fahrer, Verkäufer oder Call-Center-Agent könnten schon bald verschwinden.

Viertens: Der Blockbuster-Effekt regiert. Anders ausgedrückt: Laut gewinnt immer. Das Phänomen kennt man von Google, elektronischen Kaufhäusern oder Hotelportalen: Hat man eine Frage oder sucht nach einem Produkt, werden einem die beliebtesten vorgeschlagen. Viele greifen dann zu. Damit macht man starke Produkte stärker, die schwächeren verschwinden in der Versenkung. Weil Algorithmen optimieren, unterstützen sie Blockbuster, nicht Vielfalt.

Fünftens: Algorithmen spalten die Gesellschaft. Der Echokammer-Effekt ist dem Blockbuster-Effekt sehr ähnlich, nur dass er Polarisierung fördert. Algorithmen kalkulieren, welche Nachrichten jemanden mit bestimmten politischen Präferenzen besonders interessieren könnten und versorgt ihn bevorzugt mit diesem Material. Tatsächlich nutzen Menschen zwar mehr Informationsquellen als früher. Aber angesichts des Überangebots wählen sie Meldungen eher nach ihren Präferenzen aus und ignorieren andere. Zum Beispiel schließen sich rechte Gruppierungen verstärkt international zusammen – Meinungen, die manch einem früher peinlich waren, sind heute salonfähig.

Eines ist offensichtlich: Wer die Algorithmen kontrolliert, kontrolliert die Gesellschaft. Im westlichen Modell sind das vor allem kommerzielle Interessen. Google, Facebook und Co. haben nicht nur Zugang zu Unmengen von Daten, sie entwickeln auch die Algorithmen, die große Teile unseres Lebens bestimmen. In ihre Rechner lassen sie sich nicht schauen. Algorithmen sind die Coca Cola Formeln unserer Zeit. Und Verantwortung für die Folgen übernehmen die Konzerne ungerne. Der Kunde wolle das so, ist die häufigste Ausrede für ein Geschäftsmodell, das Profite maximieren soll, nicht Werte.

Auf der anderen Seite steht das chinesische Modell: Der Staat kontrolliert die Algorithmen und damit seine Bürger. Die Vision des Überwachungsstaats mit sanften Mitteln lässt sich über Software bequem durchsetzen.

In beiden Fällen beschneiden Algorithmen Freiheiten, die in Demokratien hart erkämpft wurden. Dazu gehört auch die Freiheit, Fehler zu machen. Und wer weiß schon, was ein Fehler ist? Denn ein Rezept für Freiheit gibt es nicht. Sie muss immer wieder neu verhandelt werden. In der Welt der Algorithmen geht es um den perfekt angepassten Kunden, den gläsernen Menschen. Nicht um den Bürger, der anstrengend und unbequem sein kann.

Zudem werden sich die meisten Algorithmen bald selbst fortschreiben. Solche Prozesse sind schwer zu durchschauen und noch schwerer zu kontrollieren. Algorithmen können die Gesellschaft voranbringen, aber es werden Regeln gebraucht, um sie zu steuern. Nachdenklichere Tech-Manager sprechen sich dafür aus, Programmierer einem Ethik-Kodex zu unterwerfen.

Wichtig ist aber auch: Wir müssen das Effizienz-Diktat brechen. Wenn wir Menschen mit dem Computer um Effizienz konkurrieren wollen, haben wir schon verloren; darin wird der Rechner uns immer schlagen. Wir müssen gerade in der digitalen Welt unsere Stärken ausspielen: Fantasie, Intuition, Empathie, die Fähigkeit, auch mal größer und anders zu denken. Nur wenn wir es noch schaffen, dem Zufall gegen alle Wahrscheinlichkeiten eine Chance zu geben, werden wir die Welt verbessern.