in Hartjes

We bouwen aan een dictatuur van data

���We bouwen aan een dictatuur van data��� – NRC

‘We bouwen aan een dictatuur van data’

Dirk Helbing, hoogleraar TU Delft Grote woorden zijn zijn handelsmerk. Hij voorziet „oorlog” als overheden te veel vertrouwen op ‘big data’. „We kunnen niet eens de verkeerslichten in een stad volledig optimaliseren.”

  • Wouter van Noort

19 augustus 2016


Foto Pirmin Rösli / Agentur Focus

Na telefoons en tv’s worden nu ook hele steden en overheden smart. Op steeds meer plekken hangen camera’s en andere sensoren die burgers in de gaten houden. Wereldwijd experimenteren politiediensten met voorspellende algoritmes die op basis van grote hoeveelheden data proberen te berekenen waar de grootste kans is op criminaliteit, zodat ze daar agenten preventief naartoe kunnen sturen.

Data over burgers worden gebruikt voor opsporing, maar ook voor het toetsen en formuleren van uiteenlopende beleidsmaatregelen: van parkeerbeleid tot gezondheidszorg. Computers en data spelen zo een steeds grotere rol bij politieke beslissingen. De Tweede Kamer stemt binnenkort over voorstellen om het overheden nóg makkelijker te maken toegang te krijgen tot persoonlijke data over burgers.

Al die ontwikkelingen bij elkaar zijn zeer gevaarlijk, vindt Dirk Helbing, hoogleraar computationele sociologie aan de TU Delft en de Zwitserse ETH in Zürich, een van de best aangeschreven technische universiteiten van Europa. Volgens de Duitser leiden big data en grootschalige surveillance door overheden tot een nieuw soort totalitaire samenleving. „Ik ben zeer bezorgd. We komen steeds meer in een grote systeemcrisis terecht. Ik vrees op korte termijn misschien zelfs oorlog als bedrijven en overheden zo doorgaan als nu.”

Dat zijn grote woorden. Die zijn dan ook een handelsmerk van Helbing – naast zijn glimmende pakken en knalroze dassen. Hij neemt in het Duitse publieke debat over technologie vaker standpunten in die behoorlijk heftig klinken. Wat in zijn ogen fout gebruik is van big data noemt hij bijvoorbeeld vaak „fascisme 2.0 of communisme 2.0”.

Helbing is natuur- en wiskundige, gespecialiseerd in complexe, sociale systemen en nudging: gedragsmanipulatie van mensen via digitale technologie. Dat is een zeldzame combinatie van uiteenlopende onderzoeksgebieden. „Het is een hele aparte man die echt geobsedeerd is door de problemen van de wereld”, zegt Jeroen van den Hoven, hoogleraar ethiek en decaan van de faculteit techniek, bestuur en management van de TU Delft.

Op zijn initiatief werd Helbing daar vorig jaar als hoogleraar aangesteld. „Sommigen laten zich misschien afleiden door zijn bijzondere verschijning en zijn stevige woorden. Maar onder elke claim die hij doet, liggen zeer gedegen wetenschappelijke papers die het bewijs ervoor leveren. Hij wordt wereldwijd bijzonder serieus genomen door academici en beleidsmakers.”

Ideologie van technologiebedrijven

Helbing deed eerder dit jaar mee aan de Forschungsgipfel, een jaarlijkse top tussen Duitse wetenschappers en bondskanselier Angela Merkel. Hij zit in een werkgroep van het World Economic Forum, een denktank van bedrijven, academici en politici. Hij publiceerde vorig jaar in het wetenschappelijke tijdschrift Nature.

Waar komt Helbings zorg vandaan? „Bedrijven en overheden hebben de laatste jaren als gekken data verzameld, vanuit het idee dat we de wereld kunnen optimaliseren door ons van bovenaf in de gaten te houden. Maar door mondialisering en digitalisering is de wereld zó complex geworden dat dat helemaal niet kan.”

„Het idee achter massasurveillance en big data is: als je genoeg data hebt, verschijnt de waarheid vanzelf. Topmanagers en politici moeten doen wat de data ze vertellen. Dat is de ideologie die is verspreid door technologiebedrijven. We bouwen een soort supercomputer die ons vertelt wat we moeten doen. Een nieuw totalitair systeem. Een dictatuur van data.”

In juni begon in de Verenigde Staten een proef met rechtspraak met hulp van data over verdachten. Algoritmes voorspellen daar op basis van die data de kans op recidive. Volgens Helbing is de gedachte achter dit soort technologieën gebaseerd op een volledig verkeerde aanname over hoe de digitale maatschappij werkt. Die is namelijk veel te ingewikkeld om zomaar in kaart te brengen met data.”

„Wat er gebeurt in de digitale economie: alles en iedereen raakt met elkaar verbonden. Denk aan sociale netwerken, slimme infrastructuur, elektriciteitsnetwerken, internet of things. Alles wordt op die manier ook afhankelijk van alles, er ontstaan ontelbare verbindingen: een gebeurtenis aan de ene kant van de wereld kan aan de andere kant razendsnel gevolgen hebben.

„Dat maakt de samenleving zo veel complexer dat beheersing van bovenaf door data te verzamelen en daarop beslissingen te baseren een illusie is. We kunnen niet eens de verkeerslichten in een stad volledig optimaliseren, omdat die systemen al te complex zijn. Laat staan dat dat voor een hele maatschappij kan.”

Helbings betoog gaat lijnrecht in tegen de tijdgeest. Overal ter wereld maken overheden steeds meer beleid op basis van data, vaak met hulp van technologiebedrijven als IBM en het snelgroeiende Palantir uit Silicon Valley. Singapore heeft de ambitie de eerste smart nation te worden, India geeft tientallen miljarden uit aan smart cities. „Het idee dat je hele landen of steden op een goede manier zou kunnen optimaliseren met hulp van big data is absurd, absoluut absurd. Hoeveel data je ook verzamelt, de wereld is toch altijd ingewikkelder, dus ze bieden valse zekerheid.”

Maar hoe zou volgens u deze technologie een crisis kunnen veroorzaken?

„Elk tijdperk heeft zijn eigen succesprincipes. Eerst was er de landbouwmaatschappij, in de negentiende eeuw kwam de industriële samenleving, daarna de diensteneconomie. We zitten nu precies in de overgangsfase naar de digitale economie. Bij een nieuw economisch tijdperk hoort een nieuwe manier om de maatschappij te organiseren, een nieuw besturingssysteem. In de boerensamenleving moest iedereen zelf zien te overleven, in het industriële tijdperk besloten ondernemers grotendeels van onderaf, zonder overheidsbemoeienis, wat er gebeurde.”

„Dat systeem leidde wel tot groei, maar er was geen aandacht voor armoede, werkloosheid en milieu. De dienstenmaatschappij probeerde dat te repareren met regulering, administratie, optimalisatie van bovenaf. Toen werden ook alle grote internationale organisaties, toezichthouders en uitgebreide ambtenarenapparaten opgetuigd. Dat heeft lang goed gewerkt, maar is nu heel snel aan het falen. Want dat van bovenaf beheersen kan wel in een analoge wereld, maar niet meer in de complexe digitale wereld.”

Zo’n systeemverandering kan toch ook best soepel verlopen, zonder grote crisis?

„De geschiedenis van grote systeemtransities stemt niet gerust. De overgangen van boereneconomie naar industriële tijd, en van industriële tijd naar diensteneconomie, hebben geleid tot grote crises, revoluties en oorlogen. Het revolutiejaar 1848 en de maatschappelijke onrust rondom de Eerste Wereldoorlog in 1914 zijn daarvan voorbeelden. En we zijn nu op een punt dat we de transitie moeten maken, we moeten een grote stap zetten, anders gaat het weer fout. Sommige overheden en bijvoorbeeld grote banken die profiteren van het oude systeem werken de verandering tegen.”

Waar blijkt dat uit?

„De denkfout dat de gedigitaliseerde en geglobaliseerde wereld van bovenaf te beheersen is, wordt ook gemaakt in het financiële systeem. De Europese Centrale Bank en de Amerikaanse Fed hebben geen recepten meer en pompen duizenden miljarden in de economie. Om groei te stimuleren kopen centrale banken niet alleen staatsobligaties op, maar ook aandelen van door hen geselecteerde bedrijven.

„Door dit soort staatsingrijpen in de economie worden we steeds meer een geplande maatschappij, een commando-economie. Overheden bepalen mede welke bedrijven het goed doen op de beurs, en sturen zo de economie. Ze verantwoorden dat met de grote hoeveelheden data die ze verzamelen. Terwijl we wéten dat de commando-economie niet werkt, we weten dat dat soort systemen in het verleden heeft gefaald. Die zijn namelijk veel beperkter dan het kapitalisme door een gebrek aan vernieuwing en ondernemerschap.”

„Deze denkfout zorgt ervoor dat het kapitalisme zal vastlopen, iets wat al aan het gebeuren is. Het probleem is breder dan alleen big data: als je kijkt naar de hoge staatsschulden en de lage groei in veel westerse landen. Het kapitalisme heeft groei nodig, al was het maar om schulden te kunnen afbetalen. Het kán niet zo doorgaan.”

En dat kan leiden tot een oorlog denkt u?

„Het bredere plaatje is dat het Westen met andere machtsblokken concurreert om grondstoffen. Dat is al langer gaande dan de overgang naar de digitale samenleving. We verbruiken veel meer dan we zouden moeten, en zolang we geen duurzame economie hebben, maakt dat ons afhankelijk van andere landen, zoals China. Dat zet de laatste jaren sterk in op de beheersing van grondstoffen. Het Westen leeft op de pof. Als groei uitblijft, zullen schuldeisers zoals China de druk opvoeren.”

„Nu het Westen stagneert, biedt dat bovendien ruimte voor rivalen om eigen systemen op te zetten. China en Rusland werken aan alternatieven voor de Wereldbank en het IMF. De machtstrijd zorgt voor grote spanningen: cyberaanvallen door regeringen, ruzie tussen de NAVO en Rusland, Turkije en de NAVO, China en Japan. De tekenen van oorlog zijn overal.”

Wat is uw oplossing?

„We moeten het democratische kapitalisme opnieuw uitvinden om te voorkomen dat we verder in een oorlog of een totalitaire maatschappij terechtkomen. Systemen moeten met behulp van digitale technologie juist zo ontworpen worden dat ze zelforganiserend worden, zonder dat grote bedrijven of overheden daarin een centrale rol spelen. Ook het duurzamer maken van onze economie is cruciaal om het economische systeem stabieler te maken.”

Dat klinkt als abstracte oplossingen voor erg concrete problemen.

„Je ziet de contouren van zo’n nieuw systeem al bij zaken als peer-to-peer-marktplaatsen waarbij mensen goederen en diensten uitwisselen zonder tussenkomst van een derde. Digitale valuta zoals bitcoin werken al zonder centrale bank. Het onderliggende systeem van bitcoin, de blockchain, maakt allerlei diensten mogelijk zonder centrale organisatie.”

„Dat maakt de weg vrij voor een échte deeleconomie waarin iedereen zowel producent als consument kan zijn, en waarbij mensen zélf bepalen wat er gebeurt in plaats van dat het hun wordt opgelegd door data.”

„Er zijn ook steeds meer mensen die zelf hun energie opwekken, bottom-up in plaats van top-down. Technologie kan helpen om een samenleving efficiënt, liberaal, democratisch, sociaal én duurzaam te maken, dat hoeft elkaar niet uit te sluiten. Slim data gebruiken kan daar ook bij helpen, alleen niet op deze top-down-manier. De soepele overgang naar de digitale maatschappij kan alleen slagen met de vrijheid die we nu juist aan het elimineren zijn door de dictatuur van data.”

Helbing (1965) is hoogleraar computationele sociologie aan de TU Delft en ETH Zürich.

Hij combineert expertise uit de natuurkunde, informatica en sociale wetenschappen en specialiseert zich in complexe sociale modellen en simulaties.

Hij is actief in denktank World Economic Forum en schreef het boek The Automation of society is next.

Mail de redactie

Heeft u een tip over dit onderwerp, ziet u een spelfout of feitelijke onjuistheid? We stellen het zeer op prijs als u ons daarover een bericht stuurt.

Tip of opmerking:

Naam:

E-mail:

Verzenden
formulier sluiten

Mail de redactie

Tags: deel
August 21, 2016 at 03:41AM
Open in Evernote

Wat vind jij?