Ethiek bij tech bedrijven ver te zoeken?

We herinneren ons een quote van Mark Zuckerberg toen hij recent werd onderworpen aan een vragenvuur over zijn Facebook en de data die het platform bezit. Hij sprak de legendarische woorden dan ze zich als organisatie onvoldoende bewust waren over de maatschappelijke impact van het platform en hun acties. Uiteraard een vreemde opmerking maar met een kern van waarheid. De techwereld en haar maatschappelijk impact is inmiddels gigantisch. Velen van ons beseffen het onvoldoende maar technologie grijpt in, in onze essentie van leven. Van data tot DNA manipulatie. Technologie doet het.

Het maatschappelijk bewustzijn rondom deze enorme impact zien we de laatste maanden sterk toenemen. Vanuit Extend Limits verwachten we hier zelfs nog een sterkere toename in de komende jaren. We worden kritischer maar we zijn als mens ook lui. Vraag is dan ook of het gemak wat de technologie ons schijnt te bieden opweegt tegen de zaken die we inleveren? Denk aan privacy, zelfbeschikking(?) en misschien zelfs vrijheid en democratie? Of schieten we nu teveel door in de negatieve spiraal van de technologische expansie. Ons werd beloofd dat de toegang tot informatie zou democratiseren. Niets is minder waar want steeds meer leven we in onze eigen info bubbels die door algoritmes wordt versterkt. Onze wereld worden kleiner door technologie. Het is slechts 1 voorbeeld van het tegenovergestelde resultaat van de vele technologische ontwikkelingen.

Regulering van de techwereld is iets waar dan ook nu meer dan ooit de roep om is. Software engineers die aansprakelijk zijn op het gebied van digitale ethiek. Regels voor de software wereld waarbij de verantwoording vooral ligt bij de tech bedrijven die ten grondslag liggen aan nieuwe toepassingen en ontwikkelingen. Vreemd? Blijkbaar niet want op een recent congres in de V.S. werd dit statement gemaakt en waren de reacties niet erg positief. Met name van de tech wereld zelf.

Mike Monteiro van onder andere de publicatie Design’s Lost Generation claimde op een tech congres in San Francisco: " design — like medicine, law, and even driving — should be regulated. Software has become too deeply embedded in everything we do for it to remain unregulated. We have placed our data and our lives in the hands of people unequipped with a guiding set of ethical principles to dictate how they should approach the consequences of the features they are building. As the last line of defense against corrupt products, software engineers need to develop an ethical framework that prevents us from harming our users and finding ourselves complicit in corruption.

Hij heeft hier uiteraard een interessant en wellicht gevoelig punt. Er zijn uiteraard veel organisaties die ethiek hoog in het vaandel hebben staan maar de vraag is hoeveel van deze bedrijven volgen dit ook daadwerkelijk op. Vaak zijn het holle frasen als er veel geld kan worden verdient door het minder nauw te nemen met diezelfde ethiek. En dat in een wereld waarin de technologie daadwerkelijk vergaande maatschappelijke impact heeft. Tijd dus voor regulering al is de vraag hoe je dit kunt opvolgen?

The time has come for engineers to take responsibility for their creations (Mike Monteiro, 2018)

De roep om ethische digitale afspraken komt ook naar voren vanuit een maatschappelijke kentering. Meer dan ooit hebben mensen gemengde gevoelens rondom de positieve / negatieve impact van technologie op de samenleving. Zo blijkt uit onderzoek en data van PEW Research begin 2018. Let wel dit is dus nog voor alles rondom het Facebook privacy schandaal bekend werd. De omslag in denken is met name onder ouderen. PEW Research gaf aan dat 65% van de ouderen (65+) internet zien als een positieve ontwikkeling. In 2014 was dit percentage nog 78%. Een ander onderzoek van Facebook zelf geeft aan dat 32% van de Amerikanen van mening is dat Facebook een negatieve impact op de samenleving heeft. Een onderzoek van Recode gaf aan dat onder de tech giganten Amazon wordt gezien als het tech-bedrijf met de meest positieve impact op de samenleving. 20% van de Amerikanen denkt dit. Hoe de cijfers liggen in Europa en Nederland is nog onvoldoende bekend. Maar ook hier zien we de kritische houding toenemen met het besef van de gigantische impact van de technologie sector op ons leven.

De vraag is of het besef bij de ICT organisaties hieromtrent voldoende aanwezig is. Want laten we eerlijk zijn. Als er 1 industrie is waar men vooral leeft in hun eigen bubbel dan is dat wel de ICT-wereld. Tijd dat deze sector haar verantwoordelijkheid pakt of de sector ondergaat qua vertrouwen dezelfde weg als de financiële sector. U bent gewaarschuwd.