Hey Siri, hoe gaat het met mij?

Wie weet beter hoe het echt met je gaat, je partner, je familie, je collega’s of de computer? Uit een – inmiddels oud – onderzoek uit 2015 van Stanford en Cambridge, blijkt dat met het analyseren van Facebook likes, bij 10 likes de computer nauwkeuriger in staat is om iemands persoonlijkheid te omschrijven dan een collega. Bij meer dan 150 likes verslaat de computer een familielid hiermee en bij meer dan 300 likes kent de computer de persoon beter dan zijn of haar echtgenoot. Meer recent werd bekend dat in China geëxperimenteerd wordt met camera’s op scholen die gezichtsuitdrukking registreren. Op een middelbare school in Hangzhou hangt in ieder lokaal een camera die de gezichtsuitdrukking van de studenten analyseert. Zo wordt in kaart gebracht in hoeverre de leerlingen opletten.

Camera ziet hoe het met je gaat

De Chinese camera onderscheidt zeven verschillende uitdrukkingen: neutraal, blij, verdrietig, teleurgesteld, bang, boos en verbaasd. Bij het lezen van de laatste zin registreert de camera van uw telefoon of computer op dit moment dat u verbaasd bent. Klopt dat? Ook is vervolgens uw boze of wellicht bange uitdrukking de camera niet ontgaan. Kan de camera ook het daaropvolgende cynische lachje onderscheiden van blij?

Hoe moreel is Big Brother?

De grens wat wel en wat niet mag worden gebruikt, is onderwerp van het debat momenteel. Ingewikkelde regelgeving rond privacy en morele aspecten van data gedreven beslissingen maken de discussie lastig. De zelfrijdende auto maakt in een ‘split second’ de beslissing om een uitwijkmanoeuvre te doen en verkiest de onvermijdelijke aanrijding met een lantarenpaal boven de botsing met de moeder achter de kinderwagen. Goede keuze zou ik zeggen. Niet moeilijk. Wat als de computer moet kiezen tussen een aanrijding met de moeder of de oude vrouw achter een rollator?

Google en Facebook weten hoe het echt met je gaat.

Iedereen heeft weleens de ervaring met een rode bank google-en en dan dat vervolgens de rode-banken-advertenties niet meer van het scherm zijn te slaan. Google verzamelt alle gegevens. Hoe zal het zijn als de combinatie van gegevens van Facebook, Google en Spotify een beeld kunnen geven van je stemming op een zeker moment? Ik denk dat het redelijk accuraat zal zijn.

Facebook rating?

Wat ook een goed beeld geeft is de kredietwaardigheid van personen die hun sporen achterlaten op het internet. Hoe beoordeelt een financiële instelling de kredietwaardigheid van een klant? Nu wordt er een beroep gedaan op de eerlijkheid van de klant die een formulier moet invullen. Een veel nauwkeuriger beeld ontstaat als facebook een kredietrating geeft. Deze is dan afhankelijk van je vriendenkring, je likes, de likes van je vrienden etc. Hoe ver is deze toekomst?

Sociaal kredietsysteem in 2020

In China wordt er inmiddels al druk geëxperimenteerd en is de overheid voornemens om in 2020 een sociaal kredietsysteem in te voeren. Elke Chinese burger krijgt een score op basis van haar gedrag. Deze score is dan verbonden aan de mogelijkheid om krediet te krijgen bij een bank, de mogelijkheid om te reizen of in aanmerking te komen voor sociale voorzieningen etc. Als internetgedrag onderdeel wordt van deze black-box, dan zie ik een aantal morele vraagstukken opkomen.