Digitalisierung und Rechtsstaat

CORONA UND INTERNET. Begeistert ist davon die Rede, wie toll die Covid-Krise die Digitalisierung beschleunige. Tatsächlich bringt die Ausnahmesituation ungewöhnlich hohe Gewinne für die großen Internet-Konzerne und jede Menge ungeklärte Fragen an den Rechtsstaat. ANWALT AKTUELL spricht mit Ramak Molavi Vasse’i, einer der führenden Digital-Juristinnen Europas.

 

Das Zauberwort der Corona-Krise heißt „Digitalisierung“. Plötzlich muss jeder Schüler digital sein, jedes Home-Office braucht superschnelles Internet, etc. Social distancing verlangt nach bargeldlosem Zahlen und Smart Home. Dient das Ganze der vordergründigen Nützlichkeit oder gibt es dahinter irgendwo Profiteure, die ihre Strukturen ausbauen?

 

Ramak Molavi: Beides. Corona ist ein black swan. Wir haben nicht wirklich damit gerechnet und man konnte sich vor wenigen Monaten sicher nicht vorstellen, dass es tatsächlich zum Lockdown kommt. Es ist eine missliche Situation für viele und die Digitalisierung hat geholfen, Kontakte aufrecht und teilweise Geschäfte am Leben zu halten. Gleichzeitig haben natürlich viele Digitalunternehmen die Zeit dafür genutzt, ihre Macht zu erweitern und ihre Produkte und Dienstleistungen mit erhöhter Geschwindigkeit auszurollen. Microsoft etwa ist die Haus- und Hof-Software von Schulen und Verwaltungen. Der plötzliche Bedarf nach Fernlehre hat die ad-hoc-Digitalisierung beschleunigt. Jugendliche und Kinder haben 75 % mehr Zeit mit digitalen Spielen verbracht während der Coronazeit. Google hat eine Umsatzsteigerung von 15 %, Amazon hat seinen Gewinn in dieser Zeit verdoppelt, Netflix und bargeldlose Payment-Anbieter haben ebenfalls einen Boom erfahren. Diese Krisenzeit beschleunigt die Digitalisierungseffekte, im Positiven und im Negativen.

 

Das Gegengeschäft lautet: Wir, die Digitalgiganten, liefern Information – du gibst uns deine Daten. Was ist daran schlecht?

 

Ramak Molavi: Das ist ein großes Missverständnis. Das Geschäftsmodell der Plattformen, insbesondere Google, Facebook (zu dem unter anderem auch Instagram und Whatsapp gehören) ist nicht die Lieferung der Information als Gegenleistung zu unseren Daten. Das Geschäftsmodell ist hauptsächlich Werbung und Datenhandel. Die eigentlichen Geschäftspartner sind nicht die Nutzer, sondern all die großen Firmen, die auf den Plattformen ihre Werbung schalten und ihre Produkte und Services vermarkten und dafür sehr viel Geld bezahlen. Die Bürger sind nicht die Geschäftspartner, sondern Teil des Produkts. Die Nutzer der Services sind die Beobachtungsobjekte im Algorithmenlabor.

 

Bei uns wird viel von Datenschutz geredet. Erleben Sie, dass die Bürger Europas von ihren Staaten gut genug vor Zugriffen aller Art geschützt werden?

 

Ramak Molavi: Die Bürger erfahren beim Datenschutz keinen Schutz, der seinen Namen verdient. Die DSGVO wird kaum durchgesetzt. Bei den Big Tech Unternehmen, die ihren Europasitz immer noch in Irland haben, blockt die irische Datenschutzbehörde die Rechtsdurchsetzung. Andere Datenschutzbehörden sind unterbesetzt und unterfinanziert.

 Es wäre ein Leichtes, eine europäische Website aufzusetzen, in welche die Bürger ihre Beschwerden eingeben können. Dies könnte an ein automatisiertes Überprüfungssystem gekoppelt werden, das die Plausibilität der Beschwerden erkennt und somit Anfragen vorfiltert. Gerade durch Digitalisierung könnten die Regulierungsbehörden die Rechtsdurchsetzung mit Hilfe von Technologie in den Griff bekommen. Aber dazu fehlen offenbar der Wille und der Ehrgeiz.

 

Oder herrscht nicht vielmehr die Stimmung des „Digitalisierens um jeden Preis“?

 

Ramak Molavi: Digitalisierung wird leider fast schon ideologisch durchgedrückt. Besonders durch Politiker, die sich dabei für sehr „modern“ halten. Ich lese oft in Briefings „es wird digitalisiert, was digitalisiert werden kann“. Dabei kann Digitalisierung nicht das Ziel sein. Sie ist allein ein Werkzeug unter vielen. Manchmal das passende Werkzeug, oft aber auch nicht. Die Lösung von Problemen und Verbesserungen sollten das eigentliche Ziel sein. Oft bedarf es dazu anderer Mittel und Wege, wie etwa der Veränderung von Prozessen, mehr Personal und damit verbunden ein größeres Budget für bessere Gehälter.

 

Sie schreiben: „Die Ausweitung der privaten und staatlichen Überwachung der Bürger, die Auswertung von personenbezogenen Daten zur Analyse des Handelns, Fühlens und des Denkens der Bürger, sind ein Frontalangriff auf die Menschenwürde.“ Ist der Staat hier mehr Täter als Beschützer?

 

Ramak Molavi: Die vergangenen Jahre haben leider gezeigt, dass die Bürger hinsichtlich ihrer Freiheitsrechte und ihrer informationellen Selbstbestimmung nicht von ihren Staaten geschützt werden. Das Gegenteil ist der Fall. Hand in Hand mit den großen Tech Unternehmen wird die Überwachung der Bürger massiv ausgerollt.

 

Mit großem Trara hat die EU die Einführung der Datenschutzrichtlinie gefeiert. In zahllosen staatlichen Informationen und teuren Seminaren wurden speziell kleinen Firmen saftige Bußgelder angedroht, sollten sie ihre Daten nicht penibel verwalten. Wenn ich heute in meine Mails schaue, lese ich mehr unaufgeforderte Mails als vor der DSGVO. War das ein Riesenbluff?

 

Ramak Molavi: Gesetze können nicht zaubern. Ihre schiere Existenz verhindert keine Rechtsverletzungen. Sogar horrende Strafen entfalten keinen Abschreckungseffekt, wenn die Durchsetzung ausbleibt. Die vielen Spam und Fishing Mails sind das Ergebnis von massivem Datenhandel und intransparenten Serverstrukturen und schwer nachvollziehbarer Versender. Anders als die großen Tech Anbieter haben viele von den großen Datenbrokern wie Axciom (Liveramp) Exactis, and Recorded Future kaum je was gehört. Allein Axciom wirbt mit Mircroprofilen von 10% der Weltbevölkerung. Im Digitalen haben wir es mit einem Rechtsdurchsetzungsdefizit zu tun. Oft fehlen gute Ideen zur Rechtsdurchsetzung. Zurzeit fehlen noch der dahinterstehende Durchsetzungswille und offenbar auch der Leidensdruck der Bürger.

 

Stichwort Künstliche Intelligenz: In den USA gibt es bereits Algorithmen, mit deren Hilfe Gerichtsurteile entstehen. Durch Österreich geistert ein Algorithmus, mit dem das Arbeitsmarktservice Arbeitssuchende in Gruppen einteilen möchte. Auf welcher Seite steht hier der Rechtsstaat?

 

Ramak Molavi: Auch der Staat ist Anwender algorithmischer Systeme. Die Verwaltung leidet meist an Ressourcenmangel und ineffektiven Prozessen. Da greift das Versprechen von Algorithmen besonders. Aufgrund des Fehlens eigener Expertise wird extern beauftragt und eingekauft. Die Software, die Sie erwähnen, sollte in diesem Jahr in Österreich ausgerollt werden. Auf Basis von Algorithmen werden dabei die Chancen von Arbeitssuchenden auf dem Arbeitsmarkt ermittelt. Dabei werden viele persönliche Kriterien bewertet wie Alter und Geschlecht aber auch soziales Umfeld und es werden Daten aus anderen Bereichen zusammengetragen. Solche Kriterien werden zwar auch bei der analogen Bewertung von Arbeitssuchenden herangezogen, jedoch bergen Algorithmen das Potenzial, bereits bestehende Tendenzen oder Vorurteile zu zementieren.
Zudem sind viele Anwender algorithmischer Systeme hinsichtlich dieser Wirkung nicht geschult und neigen dazu, der Empfehlung der Software ohne eigene Wertung ungefiltert zu folgen, auch wenn dies gesetzlich verboten ist.

In Art 22 I DSGVO heißt es „Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling- beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt."
Die Tendenz von Menschen, dem Ergebnis automatisierter Prognosen im Übermaß zu vertrauen nennt sich in der Wissenschaft „Automation Bias“. Dem müsste sich der Anwender bewusst sein und Mechanismen entwickeln, um dem entgegen zu wirken.

 

Wie weit verändert die Digitalisierung unsere Weltwahrnehmung und unser Handeln? Sie sprechen von einer „Kuratierung der Realität durch digitale Tools“. Wem werden hier auf welche Weise welche Wirklichkeiten vermittelt?

 

Ramak Molavi: Was wir sehen und was wir nicht sehen bestimmen Algorithmen in Echtzeit. Besonders emotionalisiernde, gewalttätige etc. Inhalte werden daher bevorzugt gezeigt, weil die Nutzer länger aufmerksam bleiben. Es geht um Aufmerksamkeitsökomonie.
Die Suchergebnisse bei Suchmaschinen sind nicht in erster Linie nach Relevanz aus Sicht des Suchenden gelistet. Das Geschäftsmodell beruht vor allem auf Anzeigenschaltung. So werden Inhalte zahlender Kunden hoch priorisiert. Man kann sagen, dass sich auf der ersten Listenseite, die man bei einer Suche aufruft, fast komplett bezahlte Platzierungen befinden. Die meisten davon sind nicht als solche gekennzeichnet.
Google ist aber schon lange nicht mehr bloß eine Suchmaschine. Die Mutterfirma Alphabet hat den gesamten horizontalen Markt erobert und Firmen eingekauft und entwickelt aus den Bereichen Mobilität, Medizin, Städtebau, Kommunikation, IoT und Energie.Genauso wenig sind Facebook und Twitter noch reine Plattform Provider.

Sie ähneln inzwischen eher Medienanbietern und Redakteuren. Die Inhalte werden nach nicht transparenten Kriterien priorisiert und zensiert. Grundlos genießen sie aber noch gesetzliche Privilegien, die vor vielen Jahren zurecht für echte hosting Provider entwickelt wurden, die selbst keinerlei Einfluss auf den Inhalt hatten.
Vieles ist für uns nicht sichtbar: Wer zahlt für die Priorisierung von bestimmten Informationen vor Wahlen? Zu welcher Handlung soll man sanft und ohne es zu merken angestoßen werden? Welchen Dienstleistungen der Anbieter selbst wird der Vorrang gewährt? Welches Interesse haben die Anbieter selbst an der gezeigten Information?

 

Wie kann sich der einzelne Bürger, wie kann sich ein einzelnes Unternehmen gegen die massiven Eingriffe aus der digitalen Welt helfen? Sehen Sie – abseits der angesprochenen DSGVO – gesetzliche oder gerichtliche Instrumente gegen die zunehmenden digitalen Eingriffe ins Private?

 

Ramak Molavi: Einzelne Bürger und Unternehmen können sich nicht selbst hinreichend schützen. Die wenigen herrschenden Betriebssysteme lassen kaum echte Schutzmöglichkeiten vor aus- und eingehenden Datenströmen zu. Kontrollen finden nicht statt. Effektive Instrumente wären zum einen die Möglichkeit von Sammelklagen, bei denen das Urteil sofort vollstreckbar wäre. Ferner könnten Regulierungsbehörden endlich Legal Tech einsetzen, um die Durchsetzung zu automatisieren. Der größte Hebel wäre jedoch ein längst überfälliges Verbot toxischer, datengetriebener Geschäftsmodelle. Der gesamte invasive AdTech (Advertising Technology) Bereich ist nicht hinnehmbar. Ich plädiere für ein klares Verbot invasiver Werbung mittels AdTech und von Proflbildung zum Zwecke der Konsumförderung und Manipulation, sowie des Datenhandels insgesamt. Wir müssen weg von halbherziger und symbolischer Gesetzgebung hin zu wenigen, gut durchsetzbaren Gesetzen, die am richtigen Hebel ansetzen. Harmonisiert und wenn möglich international.

 

Die digitalen Infrastrukturen sind weltweit in der Hand einiger Konzerne in den USA und China. Sie wünschen sich als Gegengewicht dazu, der Staat müsse „eine neutrale kostenlose digitale Infrastruktur zur Verfügung stellen.“ Ist das überhaupt noch möglich?

 

Ramak Molavi: Wir haben keine andere Wahl, wenn wir unsere digitale Souveränität herstellen wollen.
Die Möglichkeit, das Netz nach relevanter Information zu durchforsten, die Möglichkeit zu kommunizieren oder auf Marktplätzen Dienstleistungen und Produkte anzubieten gehört zur digitalen Grundversorgung von Bürgern und Unternehmen. Hierfür brauchen wir neutrale Infrastrukturen. Der Betrieb von Kommunikationsnetzwerken, die Bereitstellung von Infrastruktur darf nicht in der Hand derer sein, die ein kommerzielles Interesse an Inhalten und Profilen haben. Auch der Staat kann aufgrund seines Überwachungsinteresses nicht der Betreiber einer solchen Infrastruktur sein. Jedenfalls nicht ohne eine neutrale zwischengeschaltete Institution, die dafür sorgt, dass die Infrastruktur vor Zugriffen geschützt wird. Solche neutralen und dezentral geführten Infrastrukturen sind möglich und notwendig. 

 

Die Befürworter der Digitalisierung wie z.B. der Ökonom Jeremy Rifkin sprechen von einer „Null- Grenzkosten-Gesellschaft“. Ist es nicht so, dass die Digitalisierung der Wirtschaft großartige Möglichkeiten eröffnet, sodass man bei Menschen- und Persönlichkeitsrechten eben dieses oder jenes Auge zudrücken muss?

 

Ramak Molavi: Nur wenige große Unternehmen profitieren von dem Status Quo. Die sonstige Wirtschaft leidet genauso unter den Monopolen und der damit verknüpften Monokultur, wie die Gesellschaft und die Umwelt. Die These von Rifkin von den null Grenzkosten der Digitalisierung ist eine Milchmädchenrechnung. Digitalisierung hat einen hohen Preis. Wir müssen uns die Frage stellen: wer zahlt den Preis hierfür, wenn nicht die Profiteure? Der Abbau seltener Erden für unsere Handys, Kinderarbeit, prekäre Arbeitsbedingungen, an posttraumatischen Störungen leidende Content Moderatoren in den Philippinen, die den Inhalt der sozialen Medien täglich säubern, damit wir Videos von Köpfungen oder sonstigen Gewaltdarstellungen sehen müssen: andere zahlen einen hohen Preis für diese Art der Digitalisierung. Extrem hohe Energiekosten für Streamingdienste, hunderte von Satelliten, die wir für 5 G brauchen und ins All schicken, all diese Kosten gehören in einen ordentlichen Business Case hinein und dann wissen wir erst um die tatsächlichen Kosten der Digitalisierung.

 

Wer die Wohltaten von Globalisierung und Digitalisierung anzweifelt begibt sich in Gefahr, Systemfeind dazustehen. Welche Reaktionen erleben Sie persönlich?

 

Ramak Molavi: Es ist keine besonders dankbare Aufgabe, Mitmenschen aus ihrer Komfortzone zu holen oder gegen festgesetzte Narrative anzureden. Die Version der Digitalisierung, die wir haben, ist die Vision einer sehr kleinen homogenen Gruppe aus dem Silicon Valley. Nichts daran ist alternativlos. Ich werde nicht aufhören, mein Wissen darüber zu teilen und auch Unangenehmes auszusprechen, da ich die Verluste sehe und einen wachsenden Vertrauensverlust und Spaltung der Gesellschaft. Wir brauchen eine gesellschaftliche Debatte darüber, wohin wir mit Technologie und unserer Zukunftsgestaltung allgemein wollen. Es ist Zeit für einen aufgeklärten Umgang mit Technologie. Gleiches gilt für die Wirtschaft. Die Debatte um Digitalisierung kann nicht ernsthaft ohne die der Globalisierung geführt werden, da die technologische Entwicklung darin eingebettet ist, diese beschleunigt und global wirkt. Wirtschaft und Technologie sind kein Selbstzweck. Sie sollen dem Wohle der Menschen dienen, nicht umgekehrt. Gesundes Wirtschaften, gute Technologieentwicklung stellen den Menschen in den Mittelpunkt und zerstören nicht die Umwelt.