Interview mit Jaron Lanier

„In seiner jetzigen Form sollte Facebook überhaupt nicht existieren.“

Wie der Technik-Guru Jaron Lanier mit Hilfe des Marktes Probleme der Umverteilung lösen will.

Interview für das t3n Magazin

SHAREBW KONGRESS IM ZKM BY WWW.CH-ERNST.DE
SHAREBW KONGRESS IM ZKM BY WWW.CH-ERNST.DE

Der Informatiker, Musiker und Virtual-Reality-Pionier Jaron Lanier ist Teil dessen was er bekämpft. Seine Biografie ist eng mit dem Silicon Valley verwoben und er arbeitet als Entwickler für Microsoft. Zugleich hat er mit seinen Büchern You are not a Gadget (2010) und Who owns the Future? (2013) eine Fundamentalkritik der großen Internetkonzerne vorgelegt und wurde dafür 2014 mit dem Friedenspreis des deutschen Buchhandels ausgezeichnet. Am Rande der Tagung ShareBW des CyberForums in Karlsruhe sprach t3n mit Keynote-Speaker Jaron Lanier über die Filterung von Social-Media-Inhalten und die Besitzverhältnisse im Netz.

 

Jaron, in deinem Vortrag hast du die zunehmende politische Radikalisierung im Netz angesprochen. Zusammen mit vielen anderen Internetpionieren warst du einst der Ansicht Information müsse lediglich frei verfügbar sein, die Menschen würden sich dann schon von alleine sachkundig machen und reflektierte Positionen entwickeln. Stattdessen scheint das Phänomen der Filterblasen an Bedeutung zu gewinnen und den gegenteiligen Effekt zu haben. Insbesondere Facebook steht zudem gerade in der Kritik, nicht nur algorithmisch sondern auch redaktionell in die „Trending Topics“ einzugreifen. Wer sollte deiner Ansicht nach Facebooks Nachrichtenstrom sortieren? Menschen oder Maschinen?

Die Frage klingt so, als wäre es die natürlichste Sache der Welt, dass eine einzige Firma zum Nachrichtenfilter für die ganze Welt wird. Solange wir die Frage so stellen, kann es keine richtige Antwort geben. Wir sollten lieber darüber nachdenken, wie man diese extreme Monopolstellung aufbrechen kann. Das Hauptproblem ist, dass Facebook dank der Netzwerkeffekte zu einer allumfassenden Position aufgestiegen ist. Darüber hinaus herrscht bei der Firma der ideologische Irrglaube, die künstliche Intelligenz sei bereits viel weiter fortgeschritten, als dies tatsächlich der Fall ist, und Facebook sei noch dazu aus sich heraus eine Kraft, die stets das Gute schafft. Beiden Punkten würde ich widersprechen. Was die Filterung angeht, so sollte dies, wenn überhaupt, nicht anonym passieren. Ein Magazin wie t3n ist ja auch ein Filter, aber es gibt Redakteure, die namentlich in der Verantwortung stehen. Und wenn sie keinen guten Job machen, kann man sie einfach ignorieren. Facebook hingegen ist inzwischen zum globalen Master-Filter geworden und hat die klassischen Redaktionen auf die Rolle von Unterfiltern reduziert, die wiederum davon abhängen, dass ihre Artikel auf Facebook funktionieren.

 

Wie lässt sich diesem Filtermonopol entgegenwirken?

Vielleicht muss man Facebook irgendwann vergesellschaften, oder zumindest die Datenbanken öffentlich machen und das zentralistische Filtern unterbinden. Vielleicht ist das redaktionelle Sortieren von Inhalten etwas, das wir kleineren Drittanbietern überlassen sollten, unter denen dann ein produktiver Wettbewerb um die Rolle des besten Filters entstehen könnte. Ich glaube aber auch, dass man hier mit Diskussionen nicht weiter kommt, die Suche nach Alternativen muss empirisch angegangen werden. Vielleicht haben wir ja Glück, und irgendein Land verbietet Facebook das Filtern von Inhalten und damit auch den News Feed. Dann würde lokal ein Experimentierfeld für Alternativlösungen entstehen. Anstatt Geld mit Werbung zu verdienen, könnte Facebook dann den Zugang zur Datenbank an Magazine vermieten.

 

Was die regionalen Unterschiede angeht, so herrscht gerade die paradoxe Situation, dass Facebook in Deutschland dafür kritisiert wird, nicht genügend gegen rechtsradikale Inhalte vorzugehen. In den USA ist die Firma hingegen mit dem Vorwurf konfrontiert, sich durch das Kuratieren von Inhalten in den laufenden Wahlkampf einzumischen, und sei es nur indirekt durch die persönlichen Ansichten der sogenannten News Curators. Nimmt Facebook also zu viel oder zu wenig Einfluss auf die Inhalte, die die Nutzer zu sehen bekommen?

Da schon die Grundannahme, es sollte einen Master-Filter geben, falsch ist, ist es auch völlig nebensächlich, wie man das Filtern besser gestalten könnte. Das ist so, als würde man sich einen perfekten Diktator wünschen. In seiner jetzigen Form sollte Facebook überhaupt nicht existieren. Das ist die einzig mögliche Antwort. In der vordigitalen Welt haben sich die Zeitungsleser auch für einen bestimmten Filter entschieden, die einzelnen Publikationen standen ganz offen für einen bestimmten Blick auf die Welt, sei es nun konservativ, liberal, christlich oder sozialistisch, und dagegen gibt es auch überhaupt nichts einzuwenden, im Gegenteil. Unser Problem ist heute ist der trügerische Anschein der Neutralität. Die Objektivität der News Feeds ist eine Illusion.

 

Auf Twitter findet bisher keine Filterung des Streams statt. Dennoch wächst gerade dort das Problem der Echokammer, da man tendenziell Menschen mit ähnlichen Überzeugungen folgt und sich Positionen so gegenseitig verstärken – auch ohne den Einfluss eines Master-Filters. An Themen wie dem Aufstieg von Donald Trump, dem Brexit oder dem Klimawandel lässt sich dies gut beobachten.

Twitter ist in mehrfacher Hinsicht in einer völlig anderen Situation. Es stimmt, die Leute werden dort immer mehr zu ihren eigenen Filtern. Zugleich ist Twitter ein finanzielles Desaster, ein Sanierungsfalls, der höchstens noch aus Barmherzigkeit aufkauft werden wird. Egal ob Twitter, Facebook oder was auch immer – solange im jeweiligen Medium offen damit umgegangen wird, dass auch eine eigene Position vertreten wird, können die Nutzer eine bewusste Entscheidung treffen, und wollen dann hoffentlich auch verschiedenen Blickwinkel kennenlernen. Ob man sich dann eine Echokammer baut, bleibt jedem selbst überlassen. Hauptsache es läuft ehrlich ab. Aber genau das ist leider derzeit nicht der Fall.

 

In deinem letzten Buch hast du dich ausführlich mit der Frage beschäftigt, wem die all die Daten gehören sollten, auf denen unser Wirtschaftssystem zunehmend beruht. Dein Kernargument ist, dass die Nutzer dauerhaft im Besitz ihrer Daten bleiben sollten, um dann mit der Vergabe eingeschränkter Nutzungsrechte ein Einkommen generieren zu können. Aber ist nicht die wesentlichere Frage, wem die Plattformen gehören? Was hältst du von der Platform-Cooperativism-Bewegung, die sich für genossenschaftliche Besitzverhältnisse einsetzt, um auf diese Weise eine demokratische Mitbestimmung der Nutzer zu erwirken?

Ich fürchte leider, dass dies ein altmodischer Ansatz ist, der heute keine Relevanz mehr hat. Android beispielsweise ist zu weiten Teilen Open Source. Dennoch muss man, wenn man diese Plattform effektiv nutzen will, letztlich seine Daten an Google übermitteln, den nur dann kommt man in den Genuss der besten Services. Die daraus resultierende Konzentration der Daten ist weitaus wichtiger als die Frage, wem die Plattform gehört. Ob sie “open” oder genossenschaftlich ist, ist letztlich trivial.

 

Aber wenn die Nutzer im Besitz der Plattform sind, könnten sie doch auch gemeinschaftlich entscheiden, was mit ihren Daten geschieht und welche Regeln für die Interaktion gelten. Man müsste nicht mehr sklavisch den Agree-Button drücken, egal welche Bedingungen einem unterbreitet werden.

Es tut mir wirklich leid, aber ich muss dir da widersprechen. Es gilt einfach, dass die Partei mit dem größten Computer immer gewinnt – weil sie mehr Rechenleistung hat, weil ihr die Netzwerkeffekte zugute kommen, und weil sie die meisten Ingenieure beschäftigen kann. Aus diesen Gründen kann man auch nicht mehr mit einer Firma wie Uber konkurrieren und etwa eine lokale, kollektive Alternative auf die Beine stellen. Solche Versuche sind schon in der Vergangenheit immer wieder gescheitert. Früher oder später kommt die Partei mit dem größten Computer immer irgendwie an die Daten der kleinen Plattform, und sei es indirekt. Das heißt nicht, dass man es nicht probieren sollte, schon allein weil es großen Spaß macht, eine eigene Plattform zu entwickeln, aber eine Lösung für das größere politische Problem ist das nicht. Ähnliches gilt, wenn man ein genossenschaftliches Wohnprojekt gründet, weil einem nicht gefällt, wie der Staat wirtschaftet. Das geht eine Weile gut, aber irgendwann kriegen die Leute Kinder, werden älter oder krank und das Projekt fällt in sich zusammen, weil der Staat durch seine Größe sehr viel umfassender für das Wohl der Menschen sorgen kann. Ich wünschte ich wäre da optimistischer.

 

Dein Argument ist also, dass es keine Alternative zur fortschreitenden Machtagglomeration, in Form dessen was du als Sirenen-Server“ bezeichnest, geben kann? Dass wir uns als Individuen mit ihnen arrangieren und lediglich unsere Daten besser schützen und vermarkten müssen?

Auf jedem Fall müssen wir nach Lösungsansätzen auf einer sehr hohen Ordnungsebene suchen. Ich glaube eine bottom-up Lösung kann nicht zum Ziel führen. Ich kriege täglich mehrere Emails von Leuten mit Ideen für Start-ups oder Kollektive, die alle meinen, einen Weg gefunden zu haben, um das Problem der Sirenen-Server zu umgehen. Aber ich glaube nicht, dass dies möglich ist. Man muss diesen Strukturen auf der überstaatlichen Ebene begegnen, auf der sie existieren.

 

Bleiben also nur internationale Regulierungsabkommen, so wie man es beim Klimawandel versucht?

Es sind verschiedene Wege denkbar. Ein völkerrechtlicher Ansatz ist einer davon. Das Problem hat eine solche Dimension, dass wir eine Lösung nicht über Nacht finden werden. Aber allerspätestens dann, wenn die Maschinen so gut geworden sind, dass sie zu massiver, technologiegetriebener Arbeitslosigkeit führen, müssen wir eine Lösung gefunden haben, bei der nicht nur einige wenige Konzerne profitieren. Das ist unser zeitlicher Rahmen.

Neben der politischen Lösung halte ich wie gesagt die Entwicklung eines Mechanismus für möglich, bei dem die Menschen für die Nutzung all ihrer Daten bezahlt werden. Auf diese Weise bräuchte es vermutlich keine Veränderung bezüglich der Kontrolle und der Besitzverhältnisse der großen Cloud-Dienste. Wenn den Nutzern als Urhebern der Daten auch der entsprechende ökonomische Gegenwert zuflösse, würde sich der Markt selbst ausbalancieren.

Von manchen kommt auch die schlichte und tiefgreifende Forderung nach dem bedingungslosen Grundeinkommen, finanziert durch eine Besteuerung der Unternehmen. Aber ich glaube nicht, dass dies politisch erfolgreich sein könnte, zumindest nicht langfristig. Wir hätten dann erneut zu viel Macht in einer einzigen Institution versammelt, die für die Umverteilung der Gelder zuständig wäre, und über die Jahre korrumpiert ein solcher Apparat unweigerlich.

 

Abschließend möchte ich noch mal auf das vielleicht greifbarere Problem der intransparenten Algorithmen zurück kommen. Man hört häufiger die Forderung nach externen Auditing-Verfahren für Algorithmen. Auf diese Weise soll nachvollziehbar werden, welche Prozesse im Hintergrund ablaufen. Nutzer könnten auf dieser Basis mündige Entscheidungen treffen. Hältst Du dies technisch für möglich?

Ich hoffe, dass wir irgendwann dahin kommen werden. Noch sind wir aber weit davon entfernt. Im Moment verstehen wird nicht wirklich, was unsere Algorithmen eigentlich machen.

 

Wird das angesichts der steigenden Komplexität der Software denn jemals besser werden?

Über die angenommene Komplexität lässt sich streiten. Bis zu einem gewissen Grad ist das auch eine Marketing-Fantasie. Wenn einem die Leute erzählen, wie smart ihre Algorithmen angeblich sind, ist viel Bullshit im Spiel.

 

Na ja, die Algorithmen müssen ja nicht smart sein, um komplex zu sein …

Wie gesagt, die Daten sind viel wichtiger als die Algorithmen, zumindest für die meisten Cloud-Services. Aber weil selbst diejenigen, die die Algorithmen schreiben, sie nicht ganz verstehen, fällt es so schwer, sich gegen Hackerangriffe zu schützen. Wenn man nur lange genug auf den Code starrt, findet man irgendwann eine Sicherheitslücke. Softwareentwicklung ist eine Ingenieurskunst, die wir noch längst nicht so gut beherrschen wie beispielsweise die Metallverarbeitung. Es gibt immer unvorhergesehene Nebenwirkungen. Wir organisieren unsere Leben also gerade um etwas herum, das wir nicht wirklich durchdrungen haben. Aber hier bin ich tatsächlich guter Hoffnung, dass wir noch große Fortschritte bei der Beherrschung des Mediums machen werden und es dann vielleicht auch verlässliche Prüfverfahren geben wird.

 

Vielen Dank für das Gespräch.