Technologie is niet waardenvrij

Het privacydebat rond “contact tracing”-apps is een symptoom van een falend systeem

public domain (CC0)

Het Europees privacydebat rond de “contact tracing” apps is een symptoom van een falend systeem, schrijft Ellen Van Den Broecke , die voor DIEM25 mee onderzoek voert naar de impact van digitale technologie op het welzijn van de mens.

Het lijkt erop dat Europa voor een valse keuze staat. Zullen de 27 deelstaten een gecentraliseerde of een gedecentraliseerde “contact tracing” app installeren? Kiest Europa de software ontwikkeld door Apple-Google, en laat het de Big Data bedrijven zo nog meer data over ons verzamelen? Of wordt de weg richting een totalitaire staat ingeslagen, met een app als digitaal vaccin dat aantoont of je gezond bent of niet? Technocratie of totalitaire staat? Het klinkt als een lose-lose situatie. De vraag moet eigenlijk zijn of er een alternatief is.

Data, het nieuwe goud

Dat data de nieuwe grondstof, het nieuwe goud is, is al lang geen geheim meer. De massale hoeveelheid data die gebruikers van Google, Facebook, Amazon, Apple en andere techreuzen continue produceren, wordt verzameld, gecategoriseerd en verhandeld aan derde partijen. Het doel is steeds betere voorspellingen maken van iemands gedrag zodat de consument overspoeld wordt met op maat gesneden advertenties en nieuwsberichtgeving. Kortom, winst voor de Big Data bedrijven. Dit is de nieuwe logica voor kapitaalaccumulatie van de 21e eeuw en een teken dat we leven in een tijd van “surveillance-kapitalisme”.

Harvard hoogleraar Shoshana Zuboff schrijft in haar monumentale analyse hierover dat mensen op grote schaal worden aangezet tot gedrag dat winstgevend is voor de betrokken bedrijven. Via nudging en pushing wordt de consument verleid tot het kopen van bepaalde producten of het klikken op bepaalde weblinks. Wat in 2016 culmineerde in het Cambridge Analytica-schandaal.

Gebruikers van deze digitale platformen worden gereduceerd tot datapoints terwijl de techreuzen kapitaal accumuleren met een verontrustende snelheid. Daarenboven doen deze Big Data bedrijven aan imperiumexpansie. Iedere start-up die de markt met een innovatief idee betreedt, wordt geannexeerd door één van deze tientallen techgiganten. Bijgevolg wordt iedere vorm van concurrentie uitgeroeid.

Bill Gates, Jeff Bezos, Mark Zuckerberg, Peter Thiel en Tim Cook zijn de nieuwe imperialisten. Nerds als de nieuwe oligarchie.

Het is triest op te merken dat Silicon Valley er met haar retoriek in is geslaagd haar wanpraktijken te normaliseren.

Hoe zijn we hiér terechtgekomen vraag ik me wel eens af? Het is waarschijnlijk omdat de machtsmechanismen onzichtbaar zijn en de wanpraktijken verduisterd worden door platitudes. Privacy schandalen à la “Cambridge Analytica” hebben zich vandaag gereduceerd tot enkele vaste uitspraken die al lang niet meer de nodige verontwaardiging oproepen: ‘als de dienst gratis is, ben jij het product’, ‘data is de nieuwe olie’, ‘je wordt gemanipuleerd om een bepaald product te kopen’, ‘Google luistert mee’, ‘sociale media is verslavend’ of ‘cookies slaan al jouw surfgedrag op’.

Het is triest op te merken dat Silicon Valley er met haar retoriek in is geslaagd haar wanpraktijken te normaliseren. ‘Datamining schaadt de gebruiker/consument toch niet? We forceren mensen toch niet, we bieden juist gratis diensten aan’, zo luidt het in Silicon Valley. Maar het is precies omdat we geen rechtstreekse manipulatie voelen, of zien hoe onze vrijheid precies wordt ingeperkt, dat de surveillancemechanismen in onze digitale infrastructuur alarmerend zijn.

Onopgemerkt breidden de techreuzen hun economische en politieke macht uit zodat we op een gegeven moment wakker worden in een wereld waar deze big tech oligarchen alle productiemiddelen in handen hebben. Iedereen zou dan tegelijkertijd in dienst zijn van én consumeren bij één van de techgiganten. Een geperfectioneerd economisch systeem: de massa laat het rad draaien waar de oligarchen rijker van worden.

De techno-solutionistische staat

Dit was een schets van de wereld aan de vooravond van de COVID-19 pandemie. En hoewel de coronacrisis het leven van bijna iedere burger drastisch heeft veranderd, zijn de machtsmechanismen nog steeds dezelfde en moeten kritische burgers net extra opletten dat hun overheden niet versneld afglijden naar een technocratie of totalitarisme.

Is technologische innovatie wel in staat de ernstige sociale problemen van isolatie en werkloosheid aan te pakken? Laat staan, de klimaatcrisis?

De noodtoestand en wijdverspreide paniek zet overheden onder druk waardoor ze precies vatbaar worden voor de misleidende retoriek van “techno-solutionisme”. Dit is de hoop op spoedig herstel leggen in technologische innovatie. Maar kan datgene dat deels geleid heeft tot de huidige sociale-maatschappelijke problemen de redding zijn van diezelfde problemen?

Is technologische innovatie wel in staat de ernstige sociale problemen van isolatie en werkloosheid aan te pakken? Laat staan, de klimaatcrisis? Kan de voornaamste pijler van het ongebreidelde kapitalisme, namelijk de technologische vooruitgang, werkelijk het dystopische landschap van vandaag verbeteren?

Terwijl de urgentie van het economisch herstel noopt, mag de focus niet uitsluitend daarop liggen. In een artikel in The Guardian, schrijft rechtsprofessor Veena Dubal dat de techreuzen hun surveillancesystemen her-verpakken tot diensten die de volksgezondheid zouden baten. Volgens Dubal wordt surveillance-kapitalisme geëtaleerd als een product met maatschappelijk nut. Tech bedrijven zetten hun “kind capitalism hats” op en pitchen massaal hun ontwerpen voor digitale oplossingen om het virus COVID-19 te bestrijden.

Deze manier van denken is wat internetscepticus Evgeny Morozov “solutionisme” noemt; technologie zien als de redder in nood. Het is momenteel volgens Morozov de standaard reactie van de technocraten op politieke en sociale problemen. Alleen hebben deze problemen een andere, multidimensionale aanpak nodig waardoor de blitse oplossingen, aangestuurd vanuit Silicon Valley, slechts “digitale pleisters” blijken.

Impact van de contact tracing apps

Naast de diverse surveillancemechanismen die reeds in omgang zijn, is er veel debat ontstaan rond de contact tracing applicaties. OneZero heeft in kaart gebracht welke mechanismen in welke landen worden toegepast. Het varieert tussen het gebruiken van telecomdata, gezichtsherkenning, infraroodcamera’s en track & trace-applicaties.

Hoewel massasurveillance doet denken aan China, hebben ook in België en Duitsland bijvoorbeeld overheden gebruikgemaakt van telecom data om de verplaatsingen van mensen te visualiseren. Ondertussen heeft de Europese commissie daarenboven richtlijnen opgesteld die iedere deelstaat dient te volgen in het ontwikkelen van een contact tracing app. Dit rapport werd publiekelijk gemaakt op 16 april.

Er was eerst sprake van een gezamenlijke aanpak, maar Duitsland en Frankrijk hebben gekozen ieder hun eigen weg te gaan. Beide landen volgen de Apple-Google software, namelijk de API (application programming interface) software die via Bluetooth signalen werkt, waarmee de data op het toestel blijven. Het Verenigd Koninkrijk gaat daarentegen voor een gecentraliseerde app, dus één waar de verstuurde data op een centrale server wordt opgeslagen.

Het privacydebat rond de “contact tracing” apps klinkt al enkele weken omdat beide keuzes negatieve gevolgen hebben. Bij het centraliseren van de data kan achteraf de anonimiteit van gebruikers worden gecompromitteerd. Data-experts zeggen dat er geen echte anonimiteit bestaat omdat er steeds een sociale grafiek kan worden samengesteld uit de verschillende datapoints. Hoewel vele academici en zelfs privacyprofessionals pleitten voor de Apple-Google software zou dit betekenen dat nog meer data verzameld wordt door deze techgiganten waardoor zij nog meer economische macht ontwikkelen op de globale markt.

Hoe dan ook gaat de impact op onze privacy verder dan de kwestie “anonimiteit”. De stichting Privacy First schrijft in een artikel dat onder het recht van privacy concreet de bescherming valt van ‘ieders persoonlijke levenssfeer, persoonsgegevens, vertrouwelijke communicatie, het huisrecht en het recht op lichamelijke integriteit’.

Bij de ontwikkeling van een dergelijke app moeten dus niet alleen virologen en IT’ers aanwezig zijn, maar dienen ook andere segmenten van de samenleving, zoals filosofen en rechtswetenschappers vertegenwoordigd te zijn. In een open brief aan het Nederlands ministerie wordt hiervoor gepleit: ‘Belangrijk is daarom dat kritisch gekeken wordt naar het nut, de noodzaak en de effectiviteit van dergelijke apps, alsook naar de impact ervan op het brede sociale systeem inclusief onze fundamentele rechten en vrijheden’.

De “appathon” (evenement waarop verschillende apps worden voorgesteld, nvdr) was de manifestatie van een dusdanig democratisch, transparant overleg. Toch, zegt technologiefilosoof Peter-Paul Verbeek die daar aanwezig was, dat geen enkele van de gepitchte apps voldeed aan de privacywetten.

Het debat over “contact tracing” apps is misleidend omdat wordt geponeerd dat er geen uitweg is. Maar het is een mythe dat er geen alternatief zou zijn.

Ook in andere Europese landen worden technische en praktische vragen gesteld. Organisaties die opkomen voor de digitale burgerrechten betwijfelen de effectiviteit en betrouwbaarheid van deze apps. Landen waar dergelijke apps in gebruik zijn, kampen opnieuw met een stijging van het aantal besmettingen. Singapore, Hong Kong en China kennen een tweede golf.

Hoe mooi het ook klinkt, om effectief te zijn, moet minstens 60% van de bevolking deze app gebruiken en aangezien zowel tweedegraads als derdegraads mogelijk besmette mensen zichzelf in quarantaine zullen moeten plaatsen, is nog maar de vraag of die situatie zoveel zou verschillen van een lockdown. Daarnaast zijn er nog de problemen van ‘valse positieven’ en ‘schijnveiligheid’. De app werkt mogelijk contraproductief en de meest kwetsbare groep (ouderen) wordt met dit middel nauwelijks bereikt omdat velen niet over een smartphone beschikken.

Het is een misleidend debat omdat wordt geponeerd dat er geen uitweg is. We horen hier een echo van de TINA slogan (There Is No Alternative) waarmee Margaret Thatcher haar neoliberale visie heeft kunnen doorvoeren. Maar het is een mythe dat er geen alternatief zou zijn. Een voortdurende monitoring van onze gezondheid, een under-the-skin-surveillance en de gehele infrastructuur van de volksgezondheid gekoppeld aan winst-genererende datamining klinkt invasief.

Wat zijn de beweegredenen?

Het is nodig zich op te werpen tegen het doorvoeren van ondemocratische wetten, zeker in een crisistijd. Want zeker dan kan via het inspelen op de wijdverspreide angst, burgerrechten en vrijheden quasi onbewust worden opgegeven. Bijvoorbeeld, de periode na 9/11 kende gelijksoortige debatten rond privacy. Toen werd hoe dan ook de ‘Patriot Act’ doorgevoerd, die veel meer surveillancerecht gaf aan de staat en deze wet bestaat vandaag nog steeds.

Het meest frappante is dat deze extra surveillance niet per se effectief was voor de bestrijding van terrorisme. Zo is het ook nog maar de vraag of de ‘tijdelijke’ spoedwet van ‘contact tracing’ opleeft tegen de beloftes van haar missionarissen, waarschuwt The Atlantic.

Hoewel het denken in termen van Big Brother kan leiden tot complottheorieën zit er metaforisch een grond van waarheid in. Maar waar we eigenlijk voor moeten oppassen, is de Smart Brother. Hoewel privacyprofessional Maarten Stassen dit verdedigt als het verantwoord omgaan met data, alsof het gaat om een betrouwbare kompaan die je toont hoe het veilig kan, vreest Zuboff dat deze ontwikkelingen leiden tot een samenleving waarin “totale zekerheid” en “optimalisering” zegevieren. Een intelligente machine, onbewuste mensen en waanzinnig rijke technocraten.

Het is niet zo dat er ergens achter een scherm een groep oude, witte, sigaren-rokende mannen de touwtjes geheel in handen hebben, maar karikaturaal wijst het wel in de juiste richting. Er is een elite die nog rijker uit deze crisis zal komen terwijl er een gapende kloof van ongelijkheid is. De markt en de zogezegde onzichtbare hand dient de elite en exploïteert de massa. De coronacrisis ‘has revealed the bankruptcy of neoliberal dogmas of privatization and deregulation’. De marktlogica blijft niettemin koppig, intact, zegt Morozov.

Democratische visie

Big Databedrijven baten bij deze tijd. En willen hun macht nog versterken. Ze kleden zich in het “sociale-progressieve” narratief en slagen er wederom in mensen enthousiast te maken over hun diensten. Feitelijk worden mensen dus enthousiast over het verworden tot een product.

Vandaag staan we voor de bedrieglijke keuze tussen privacy en gezondheid.

Maar deze verhalen hebben een foutieve premisse. Technologie is namelijk niet neutraal. Het is niet waardenvrij. Innovatie komt dus niet, magisch, steeds de burger ten goede. Technologie is wat Kroatisch filosoof Srećko Horvat een “pharmakon” noemt, noch inherent goed of slecht. Waar het op aankomt is hoe het wordt gebruikt. Concreet betekent dit wie beslist over de digitale infrastructuur en welke visie wenst deze groep hiermee uit te dragen.

De pan-Europese politieke beweging DiEM25 spreekt over de nood aan het democratiseren van technologie. Zo wordt de machtsconcentratie hierrond ontbonden en via technologische soevereiniteit zouden we kunnen bouwen aan een wereld waarin iedereen mee geniet van de welvaart die wordt geproduceerd door de technologische vooruitgang. Waarom zou enkel een elite hiervan mogen profiteren?

Blijf op de hoogte

Schrijf je in op onze nieuwsbrieven en blijf op de hoogte van het mondiale nieuws
Zijn de huidige juridische kaders wel voldoende in het vrijwaren van onze rechten? Vandaag staan we voor de bedrieglijke keuze tussen privacy en gezondheid. Voorbij het Faustiaans pact ligt de optie om de techreuzen niet rijker te maken met onze data… en integriteit. Wat ligt daar dan achter? Voor Verbeek is dit een maatschappij gebaseerd op verantwoordelijkheidszin, één waarin zowel gezondheid als privacy als rechten worden gevrijwaard.

Soms lijkt er iets te veel vertrouwen te worden gelegd in technologie in plaats van in mensen. Maar de richting die globaal wordt uitgegaan is er één waar surveillance-kapitalisme nog extremer binnendringt in de leefwereld van haar burgers. Hopelijk verhandelen we onze fysieke isolatie niet voor de digitale dwangbuis van surveillance-kapitalisme.

Ellen Van Den Broecke is masterstudent theater- en filmwetenschappen aan de Universiteit Antwerpen, waar ze haar scriptie schreef in fashion theory, over de manier waarop modeontwerpers aan het einde van de 20ste eeuw subversieve shows creëerden als een kritiek op het kapitalistische systeem. Daarenboven is ze sinds 2019 lid van de politieke beweging DiEM25 die Europa wil democratiseren en hiervoor onderzoekt ze mee de impact van digitale technologie op het welzijn van de mens.

Zonder jouw steun bestaat MO* niet.

Wil je dat MO* dit soort verhalen blijft brengen?
Steun ons en word proMO* voor maar €4/maand of doe een vrije gift. 2630   proMO*’s steunen ons vandaag al.

Word proMO* of Doe een gift