Dossier «Tracking & Profiling»

SMART = Surveillance Marketed as Revolutionary Technology

Den einleitenden Teil des Tracking & Profiling-Dossiers schliessen wir mit einem weiteren Daten-Artikel ab. Diesmal schauen wir uns vernetzte Geräte an und fragen wiederum: Welche Daten können Firmen über uns sammeln, und was können sie damit anfangen?

Vernetzte Geräte bilden das «Internet der Dinge» (Internet of Things), bei denen das Internet eben nicht mehr «nur» aus konventionellen Computern und Smartphones besteht, die miteinander vernetzt sind, sondern auch aus «Geräten» wie Staubsaugern, Haustüren, Fieberthermometern und Kühlschränken. Das klassische (motivierende) Beispiel ist ein Kühlschrank, der «merkt», wann die Milch zu Neige geht und dann über seine Internetverbindung frische bestellt. Diese Geräte werden dann auch als «smart» bezeichnet (smart devices). Während «smart» bei einigen Geräten noch durch die Funktionalität des maschinellen Lernens gerechtfertigt sein mag (z.B. bei Smart Speakers), ist es in vielen anderen Fällen sicherlich eher ein Marketingbegriff.

Schauen wir uns nun einige der Smart Devices an. Begleiten wir zu diesem Zweck einen «Smart Nerd» am Ende seines Arbeitstages, an dem er mit seinem smarten Auto nach Hause fährt. Heutige moderne/smarte Autos verfügen über beträchtliche Rechenkapazität und sammeln einen konstanten Datenstrom, den sie von zahlreichen Sensoren im Fahrzeug erhalten: Wo befindet sich das Fahrzeug gerade, mit welcher Geschwindigkeit bewegt es sich, wie wird es gefahren (z.B. Beschleunigung, Bremsen), was läuft im Unterhaltungssystem und vieles andere mehr. Eine Firma wirbt sogar mit der Pulsfrequenz und Ethnie der fahrenden Person als verfügbare Datenkategorien. Anhand von Kameras und Emotionserkennung kann «das Auto» dann z. B. abschätzen, wie müde, (un)konzentriert, aggressiv etc. die fahrende Person gerade ist.

Diese Daten sind natürlich für verschiedene Akteure von grossem Interesse. Insbesondere die Lokationsdaten lassen sich gewinnbringend für personalisierte Werbung verwenden (oder bspw. auch für die Bestimmung von One-Night Stands). Viele der anderen erwähnten Daten lassen sich sehr gut für die Profilbildung verwenden. Natürlich haben auch Autoversicherungen ein starkes Interesse an diesen Informationen. Die Beratungsfirma CapGemini kommt so zur Vorhersage, dass der Wert des Fahrzeugdatengeschäfts im Jahre 2030 zwischen 80 und 800 Milliarden Dollar betragen wird.

An diesem Beispiel lassen sich einmal mehr die Prinzipien der Datenwirtschaft sehen. Fahrzeughersteller betrachten sich als die Besitzer der Daten, da sie die Daten ja erhoben haben. Da Hersteller aber oft nicht das Know-How und die Erfahrung mit der Datenverarbeitung haben, geben sie die Daten weiter an andere Firmen, welche sie mit Daten aus anderen Quellen zusammenführen bzw. anreichern, auswerten und schliesslich weiterverkaufen. Die Besitzenden der Fahrzeuge werden weder gefragt, ob sie mit der Datennutzung einverstanden sind, noch werden sie an deren Erlös beteiligt. Ausserdem ist es für die Besitzenden völlig intransparent, was mit ihren Daten passiert, und wer sie erhält.

Am Ende seiner Fahrt kommt unser Nerd in seinem Smart Home an. Unter Smart Homes versteht man die Vernetzung von Hauselektrik, Haushaltsgeräten und Unterhaltungselektronik. Da das Thema sehr breit ist, schauen wir uns nur einige Komponenten an.

Zunächst findet der Nerd sein tagsüber geliefertes smartes Fieberthermometer vor. Dies ist jedoch keine Überraschung für ihn, da er den Lieferdienst vom Arbeitsplatz aus über seine smarte Haustürklingel gesehen und ihn instruiert hat, wo er die Lieferung deponieren soll. Smart Doorbells sind mit Sensoren und einer Videokamera ausgestattet; Benutzer:innen können dann mittels App und von irgendwo aus via Internet nicht nur mit Personen an der Haustür sprechen, sondern auch sehen, was sich im Bereich vor der Haustür abspielt, und wer sich dort aufhält. Es lässt sich so z. B. via App beobachten, wann der Nachbar zur Arbeit geht oder wann die Partnerin nach Hause kommt. Insbesondere die smarte Haustürklingel von Amazon namens «Ring» liefert den Strafverfolgungsbehörden (nicht nur) in den USA viele Daten, so z. B. im Rahmen der Black-Lives-Matter-Demonstrationen. Teilweise werden die Überwachungsdaten durch Amazon ohne die Einwilligung der Besitzer:innen an die Polizei weitergegeben, und manche Autor:innen nennen Amazon Ring deshalb das «grösste zivile Überwachungsnetzwerk in der US-Geschichte». Auch in Deutschland gibt Amazon Daten von Ring an die Polizei weiter.

Nach seinem strengen Arbeitstag möchte unser Nerd etwas entspannen. Er beauftragt deshalb seinen Smart Speaker mit dem Abspielen seiner Lieblingsmusik. Smart Speakers sind Geräte, mit denen via Sprachsteuerung andere Geräte im Haushalt wie etwa die Unterhaltungselektronik gesteuert werden können. Diese Geräte (z. B. Amazon Alexa oder Google Nest) erhalten und verarbeiten zwangsläufig Personendaten, um die Wünsche und Aufträge ihrer Benutzer:innen erledigen zu können. Wenn wir unser Lieblingslied hören wollen, dann müssen wir dem Smart Speaker mitteilen, was wir hören wollen. Ein Smart Speaker sammelt somit also bereits durch die Erfüllung seiner Funktion viele Daten, mit deren Hilfe der Hersteller sehr sensitive Informationen ableiten und Profile bilden könnte. Amazon besitzt z. B. ein Patent, das beschreibt, wie durch die Sprache, die Alexa aufgenommen hat, Husten und Erkältungen erkannt werden können.

Da man Smart Speakers mittels Spracheingabe aktivieren kann, müssen sie also auch im vermeintlich deaktivierten Zustand mithören. Diese Spracheingabe wird nicht nur in der Cloud gespeichert, sie wird dort auch (zumindest stichprobenartig) von Menschen abgehört, um z. B. die Qualität der Sprachverarbeitung zu beurteilen oder neue Services zu entwickeln. Angestellte der Herstellerfirmen oder deren Beauftragte hören so Dinge, die sehr privat und persönlich sind, z. B. sexuelle Aktivitäten, häusliche Gewalt, Straftaten, sehr vertrauliche oder geheime Finanzinformationen etc.

Beim Fläzen im Sessel und Musikhören bemerkt unser Nerd Staub auf seinem Parkettboden und schickt deshalb seinen Saugroboter los. Saugroboter sind ebenfalls gute Beispiele dafür, dass an sich sehr profane Geräte das Potential zur Überwachung ihrer Nutzer:innen haben. Damit Saugroboter ihre Funktion zufriedenstellend erledigen können, müssen sie «ihre» Wohnung kennen, d.h. erst einmal vermessen. Der Grundriss, die Lage und die Ausstattung einer Wohnung sind (zusammen mit der Basisinformation, dass jemand einen Saugroboter besitzt), sehr wertvolle Informationen, kann man doch wiederum zum Teil sensitive Informationen (wie Digitalaffinität, Wohlstand etc.) ableiten.

Im August 2022 haben Amazon und iRobot, der Hersteller des beliebten Saugroboters Roomba, bekanntgegeben, dass Amazon iRobot für 1.7 Milliarden Dollar übernehmen wird. Es wird nun befürchtet, dass Amazon Zugang zu den Grundrissen der Roomba-Nutzer erhält («it’s not the dust, it’s the data»). Dieser Schritt wurde von Datenschutzexperten als die gefährlichste und bedrohlichste Übernahme in der Firmengeschichte bezeichnet.

Nachdem die Wohnung nun wieder sauber ist, liest unser Nerd in einem Buch, natürlich auf einem E-Reader. Auch hier sprudeln die Daten nur so: Welche Art von Büchern liest jemand? In welchem Buch wird welche Seite (von wie vielen Leser:innen) mehr als einmal gelesen, auf welcher Seite hören viele Leser:innen auf, ein Buch zu lesen? Hier lassen sich wiederum sehr persönliche Informationen über Konsument:innen ableiten. Darüber hinaus können solche Informationen auch benutzt werden, um Bücher massentauglicher zu schreiben.

Vielleicht ist es unserem Nerd heute nach etwas leichterer Unterhaltung zumute, er begibt sich also vor sein smartes Fernsehgerät. Smarte Fernsehgeräte hängen am Internet und können so z. B. mit den Servern des Herstellers, aber auch mit anderen Diensten (z. B. Netflix) kommunizieren. Damit können Nutzungsdaten, d. h. Informationen über den Fernsehkonsum der Nutzer:innen, den Herstellern und anderen Firmen zu Verfügung gestellt werden. Diese Informationen können dann einerseits zum Nutzen der Konsument:innen eingesetzt werden (z. B. Empfehlung für verwandte und möglicherweise interessante andere Inhalte).

Sie können aber auch verwendet werden, um sehr viel über die Nutzer:innen zu lernen und entsprechende Profile zu bilden. Welche Art von Sendung schaut ein:e Nutzer:in – hauptsächlich Nachrichten, Dokumentationen, Spielfilme oder Serien? Welche Spielfilme und Serien schauen die Nutzer:innen bevorzugt – Romanzen, Horror, Thriller, Krimi, etc.? Wann und wie viel wird das Fernsehen konsumiert? Ein System, das solche Informationen über eine Person oder einen Haushalt erhält, kann sehr leicht sehr persönliche und zum Teil sensitive Informationen (politische Einstellung, sexuelle Orientierung, Interessen etc.) ableiten. Es handelt sich dabei nicht nur um eine theoretische Möglichkeit des Datenabsaugens und Profilbildens, sondern um tatsächlich betriebene Praxis.

Auch Smart TVs verfügen über eine Sprachsteuerung und hören somit potentiell alles mit, was vor ihnen besprochen oder getan wird. Es ist deshalb empfehlenswert, vor einem solchen Gerät mit aktivierter Sprachsteuerung nichts Privates zu besprechen oder zu tun.

Über den weiteren Verlauf des Abends legen wir die Decke der Diskretion. Es steht aufgrund der Neigung zu Digitalem jedoch zu befürchten, dass unser Nerd auch smarte Sexspielzeuge benutzt, und dass womöglich sensitive Daten wie Bilder, sexuelle Orientierung, Nutzer:innendaten nicht nur irgendwo gespeichert werden, sondern auch durch andere Nutzer:innen zugreifbar sind.

Schliesslich begibt sich unser Nerd zur Ruhe. Er tut dies natürlich nicht analog, sondern mithilfe eines smarten Displays, das ihn am nächsten Morgen informieren wird, wie gut er geschlafen und ob er geschnarcht hat.

«Smart bedeutet Surveillance Marketed As Revolutionary Technology» («Überwachung, vermarktet als revolutionäre Technologien») ist ein Statement von Evgeny Morozov. Seiner Meinung nach haben smart Devices den Hauptzweck, weitere Daten von Nutzer:innen und Konsument:innen zu extrahieren. Die Datenextraktion ist dabei oft nicht von der Funktion des Gerätes zu trennen, d. h. ohne Daten würde das Gerät nicht wie beabsichtigt funktionieren. Will mensch nicht auf die Funktion, den Service verzichten, muss die Datenextraktion weitgehend in Kauf genommen werden. Oft handelt es sich um Daten, die den Plattformen sonst nicht schon zur Verfügung stehen und die so die bereits vorhandenen Daten gut ergänzen und vervollständigen. Wie im Beispiel der Autos gezeigt, werden die Daten, die von den Nutzer:innen stammen, von den Herstellern und Plattformen als ihr Eigentum betrachtet, die Nutzer:innen werden also ihrer Daten quasi enteignet.