Ein guter Verkaufs-Algorithmus funktioniert eigentlich wie ein Tante-Emma-Laden um die Ecke. Der Verkäufer dort kennt seine Kunden, er weiß um ihre Bedürfnisse – ob eine Vorliebe für norddeutsches Bier oder die Abneigung gegen Dosenessen – und er versteht sich darin, Produkte zu empfehlen, die zu diesen Gewohnheiten passen.
Was dem Verkäufer im Eckladen seine Erfahrung und sein Gefühl, sind dem Algorithmus Zahlen: Welches Geschlecht haben die Nutzer, welche Vorlieben, wie viel Einkommen – all das wird erfasst und in Nullen und Einsen umgesetzt. Aus diesen errechnet ein Algorithmus mit einer bestimmten Wahrscheinlichkeit, was wir wollen. Ein Algorithmus ist damit zunächst nicht mehr als eine Rechenvorschrift.
Google - Das ganz persönliche Tor zum Internet
Zu berechnen, was wir wollen - das ist auch das Kerngeschäft der Google-Suche. Für die meisten Internet-Nutzerinnen und Nutzer führt an ihr kein Weg vorbei. Das kleine Suchfenster auf der Seite ist das Tor ins weltweite Netz. Ein Algorithmus allerdings sorgt dafür, dass sich die möglichen Ergebnisse in individuell festgelegten Grenzen halten: Googles Suchergebnisse sind hochgradig personalisiert. Im Grunde hat so jeder Mensch eine eigene Google-Suche, der sich nicht bewusst für ein alternatives Suchwerkzeug entscheidet.
Im vergangenen US-Wahlkampf führte diese Filterung zu einer seltsamen Begebenheit: Suchten US-Amerikaner per Google nach Nachrichten über die Flutkatastrophe durch den Hurrikan Sandy, tauchten zumeist mehr Ergebnisse auf, die US-Präsident Obamas Bemühungen um die Opfer zeigten, als jene seines republikanischen Gegners Mitt Romney. Der Grund war einfach: Sehr viel mehr Menschen hatten zuvor nach dem amtierenden Präsidenten Obama gesucht. Google hatte somit verstärkt Ergebnisse ausgeliefert, in denen dieser vorkam, weil der Algorithmus sie für relevanter hielt: in einem hart umkämpften Wahlkampf keine Bagatelle.
Algorithmus is watching you
Die Algorithmen, die uns Bücher oder Schuhe zum Online-Kauf feilbieten, unterscheiden sich dabei gar nicht so sehr von denjenigen, die staatliche Behörden, wie der BND, das BKA, oder der Verfassungsschutz für die Überwachung von Kommunikationswegen einsetzen. Auch bei staatlicher Überwachung weiß kaum jemand, auf welche Vorannahmen und Werturteile der Algorithmus fußt. Ist es schon verdächtig, wenn jemand viel mit Menschen aus der Arabischen Welt kommuniziert? Neigen Linux-Nutzer etwa eher dazu, illegal Musik aus dem Netz zu laden?
Es sind diese Fragen nach den ethischen Gradmessern der Technik, die Tobias Matzner von der Universität Tübingen umtreiben: "Es gibt Forschungen, in denen beispielsweise Überwachungsalgorithmen von Kameras bei Asiaten und Afroamerikanern anders funktioniert haben als bei Weißen“, erklärt Matzner. Gibt es beispielsweise eine Statistik die besagt, dass die Mehrheit an Diebstählen in einem Supermarkt von Afroamerikanern begangen wurde, fließt diese möglicherweise in die Programmierung eines Überwachungsalgorithmus ein und entscheidet so bereits im Vorfeld wer verdächtig ist und wer nicht. Dies sei zwar von den Entwicklern so nicht beabsichtigt gewesen, aber dennoch würden beim Einsatz solcher Technik bestimmte Gruppen diskriminiert.
Wer bestimmt die Bestimmer?
Algorithmen bestimmen demnach die Ergebnisse unserer Suchmaschinen-Suche, unsere Werbung, unsere Sicherheit. Doch wer bestimmt eigentlich, was in den Algorithmen steht? Wir wissen erschreckend wenig darüber, wer eben jene "Rechenvorschriften“ programmiert und welche Interessen er damit verfolgt. Es scheint das Bewusstsein und Wissen zu fehlen, dass Algorithmen von interessierten Vorannahmen gelenkt werden.
Der Technikethiker Tobias Matzner sieht den Grund dafür darin, "dass Menschen Maschinen eher zutrauen, neutral zu sein. Computer haben eine objektive Aura.“ Dass hinter jedem Algorithmus ein Unternehmen mit wirtschaftlichen, ja vermutlich auch politischen Interessen und ein Auftraggeber mit einer eigenen Agenda steht wird dabei vergessen.
Eine Ethik für die Algorithmen
Doch wenn Algorithmen Entscheidungen auf Grundlage festgelegter Parameter treffen, die für unser Leben und gesellschaftliches Zusammenleben prägend sind, brauchen wir dann nicht so etwas wie eine Ethik für Algorithmen? Algorithmen-Ethik klingt zunächst so, als müsste man fertigen Algorithmen ethisches Handeln beibringen; sie in den Ethikunterricht stecken. Und es klingt so, als gäbe es die eine Ethik, die für Algorithmen gelten müsse.
Doch wenn von Algorithmen-Ethik die Rede ist, geht es eigentlich um so etwas wie eine Entwickler-Ethik. Zwar entscheidet der Algorithmus über die Relevanz einer Suche. Doch er selbst kann natürlich nicht sagen, was richtig oder falsch ist. Er bewertet anhand der Parameter, die ihm vorgegeben wurden. Jörg Blumtritt, der auf der re:publica einen Vortrag über Algorithmen-Ethik hielt, fasst das so zusammen: "Wenn Versicherungen jemanden rausschmeißen, ist nicht der Algorithmus schuld, sondern die Menschen, die da die Vorgaben geben.“
Doch bei denen fehle häufig das Bewusstsein über die Folgen ihrer Entscheidungen, findet Tobias Matzner. "Viele Informatiker glauben, dass das, was sie programmieren, wie ein Messer ist: Man kann damit leckeren Salat machen oder eben jemanden töten. Aber so einfach ist es eben nicht.“
Algorithmen einsehbar für alle?
Allerdings: Um entscheiden zu können, ob ein Algorithmus ethischen Maßstäben genügt, müsste er erstmal zugänglich sein. Wo werden Algorithmen eingesetzt und was genau tun sie? Welche Annahmen treffen sie? All diese so basalen wie wichtigen Informationen liegen zumeist überhaupt nicht vor. Mehr noch: Die Daten – unsere Daten! –, die Unternehmen dafür nutzen ihre Algorithmen zu füttern, sind für uns selbst nicht einsehbar. Was weiß Amazon eigentlich über mich? Worauf fußen seine Empfehlungen? Bisher bleiben solche Fragen unbeantwortet.
Immerhin gewährt uns Google inzwischen einen begrenzten Einblick in die Daten, von denen der Suchmaschinen-Gigant glaubt, dass sie uns interessieren. Das ist ein Anfang. Doch eigentlich müsste es noch viel weiter gehen: Die gesamten Algorithmen müssten offengelegt werden. Nur so können wir wissen, wie die Informationen, die Unternehmen über uns sammeln, tatsächlich genutzt werden.
Viele glauben, dass dafür eine Selbstverpflichtung der Unternehmen reicht, doch Noller glaubt nicht daran. "Das wirtschaftliche Eigeninteresse der Unternehmen, sie geheim zu halten, ist viel zu groß“, sagt er. Daher fordert er gesetzliche Regeln für Unternehmen zur Offenlegung von Algorithmen. Dann könnte jeder einzelne sehen, was die Algorithmen tun.
Transparenz wäre schön
Doch wer versteht schon die zahllosen Programmzeilen und kann sie einschätzen? Eigentlich müssten die Unternehmen gleichzeitig auch Werkzeuge schaffen, die die Algorithmen auf einfache Weise verständlich und vor allem veränderbar machen. "Entwickler könnten mehr Energie darauf verwenden, smarte und schöne Anwendungen zu implementieren, die die Funktionsweise von Algorithmen klar machen“, meint Matzner. Eine Schaltfläche bei Google, die genau erklärt, was eigentlich gerade passiert, ein Schalter, der die Personifizierung ausschalten kann – das wäre wichtig.
In der Sicherheitspolitik ist das natürlich ein heikles Thema: Wir wissen ja kaum, wie unsere Sicherheitsdienste überhaupt arbeiten. Ist es da nicht illusorisch, zu erwarten, dass sie die Algorithmen ihrer Überwachungsinstrumente preisgeben? Tobias Matzner möchte die Frage anders gestellt wissen: „Wenn ich nicht genau gucken kann, was da passiert, weiß ich auch nicht, ob es mehr Sicherheit bringt.“ Er fordert, dass zumindest einem Expertengremium, das demokratisch legitimiert ist, solche Verfahren offen gelegt werden.
Einmischen tut not!
Eigentlich geht es darum, Menschen Zugang zu verschaffen - zu einer Technik, die ihnen unter Umständen kaum bekannt ist, eben weil sie ihre Wirkung im Stillen entfaltet. Darum, die Frage zu stellen: Wollen wir eine bestimmte Technologie überhaupt? Und die Forderung an die Entwickler: Wir wollen mitentscheiden, was und wer unser Leben berechnet und kontrolliert. Neue Algorithmen können das Leben effizienter und bequemer machen – doch machen sie es besser?
In unserer Gesellschaft geht es eben nicht nur um Kosten, Geschwindigkeit und Effizienz. Wenn Suchalgorithmen unsere Navigation im Netz einschränken und beispielsweise Nachrichten vorselektieren, ist das ein Vorgang, der den Kern unserer Demokratie berührt: Wer bekommt wie viel Raum in der Öffentlichkeit? Und wenn Algorithmen versuchen, Straftäter zu identifizieren, stecken dahinter gesellschaftliche Fragen wie: Was ist Normalität? Was wollen wir sanktionieren?
Ein Bewusstsein darüber zu schaffen, wie stark Algorithmen unser tägliches Leben bereits heute beeinflussen - da fängt die Diskussion an. Doch dann müssen wir auch beginnen, uns einzumischen. Dann müssen wir den Entwicklern sagen, was wir wollen, dann müssen unsere Bedürfnisse als einfließen in zukünftige Technik.
Patrick Stegemann (CC-by-sa 3.0), 20.11.2015
