De Opkomst van de Robotleiders: Vervanging of Samenwerking? (1)

In een recent artikel, geschreven door Zeger van der Wal en Yifei Yan, wordt de vraag gesteld of robotleiders het beter zouden doen dan mensen. In hun artikel wordt het aannemelijk genoemd dat (politieke) leiders in de toekomst – net als iedere andere beroepsvorm – te maken gaan krijgen met concurrentie van robotisering en kunstmatige intelligentie (artificial intelligence: AI). Commentatoren uit Aziatische en Anglofone landen zouden zelfs momenteel al pleiten ten faveure van de vervanging van politici door robots. Menselijk leiderschap is immers feilbaar leiderschap. Vervanging door onfeilbare robots klinkt als de perfecte oplossing, maar is die oplossing feit of fictie?

Intelligenter dan menselijke leiders

Hebzucht, ego, emotionaliteit, én de gebrekkigheid van onze rationele begripscapaciteiten zijn allemaal ingrediënten voor het falen van menselijke leiders. Derhalve is het onderzoeken van robotisering van politieke leiderschap niet zonder grond: “While being governed by elected or appointed robots, cyborgs or algorithms may sound like science fiction, the advantages of robogov should still be obvious. Being far less hampered by ideological extremism and tunnel vision, or by the egotism and narcissistic tendencies that seem to characterize many government leaders, robogov may be able to make rational, fair, well-rounded and evidenced-based decisions.”

Met behulp van technologie kunnen we een artificieel brein maken dat groter, sneller en in hogere mate besluitvaardig is. Het probleem is echter dat kunstmatige intelligentie desondanks in staat is om een economische flash crash te veroorzaken. Of om ons op wegen te leiden waar we niet langer het idee hebben dat we kunnen of hoeven te begrijpen hoe onze samenlevingen bestuurd worden. Zeker voor zover we met het in dienst nemen van “Robogov” onze bureaucratische besluitvoerders vervangen, lopen we sterk het risico dat we de beleidsbesluiten van een dergelijke supercomputer niet zomaar kunnen terugdraaien.

Desondanks zou “Robogov” over een dermate hogere besluitvaardigheidsintelligentie kunnen beschikken dat de aanstelling van deze robotleider een aanlokkelijke optie wordt. Maar het is terecht dat de auteurs tegenwerpen dat de “deep learning” vaardigheid, waarmee kunstmatige intelligentie de mensenlijke intelligentie zou moeten kunnen ontstijgen, zeer problematisch is vanwege “imperfect, contested, morally ambiguous or partly hidden information. ”Soms wordt dat veel duidelijker dan op andere momenten. En vanwege de fundamentele aard van dit probleem lijkt een oplossing niet zomaar in zicht. Want alle informatie – alsook de parameters die ingezet zouden kunnen worden om informatie te filteren – is uiteindelijk afhankelijk van het menselijke begrippenkader. Het menselijke begrip van de waarheid gaat – tenminste voor menselijke begrippen – weliswaar ver, maar is in ultieme zin niet neutraal. “Robogov” kan daarom geen “neutrale” informatie tot zich nemen en is bovendien ingevolge diens programmering ook niet in staat om op een neutrale wijze informatie te verwerken. De auteurs wijzen bijvoorbeeld op het risico dat “Robogov’s” wereldbeeld beïnvloed wordt doordat computerprogrammeurs veelal mannen zijn.

Gezonder dan menselijke leiders

De auteurs wijzen erop dat het positief is aan robotleiders dat zij niet vermoeid raken zoals mensen. Dat klopt, maar ook robots kunnen uitgeput raken. Machines zijn bijvoorbeeld niet “altijd energiek”: dat is afhankelijk van de mate waarin wij – inderdaad – voor energie kunnen blijven zorgen. Ook kan niet gezegd worden dat machines “onuitputbaar” zijn, want zowel software als hardware moeten onderhouden worden. Zowel het überhaupt gebruiken van hardware en software als externe invloeden daarop kunnen namelijk tot schade leiden, die invloed heeft op de effectiviteit. De auteurs wijzen bijvoorbeeld terecht op databeveiligingsrisico’s.

Eveneens niet-onuitputtelijk is het “uithoudingsvermogen” van een machine. Op een gegeven moment is de software- of hardwarematige maximumcapaciteit bereikt. Dat kan komen door gebrekkigheden in opzet van, of omgang met de betreffende hardware en/of software én daarnaast kunnen problemen in hardware en software elkaar beïnvloeden. Metaforisch gezien zou “Robogov” derhalve zowel “mentale” als “fysieke” schade kunnen oplopen. En naar wie moeten we toe wanneer “Robogov” symptomen vertoont van een burn-out?

Weliswaar raken machines niet op dezelfde wijze vermoeid als mensen, maar het moge duidelijk zijn dat ook zij gezondheidsrisico’s lopen waar we niet aan voorbij kunnen gaan. Daarbij is het wellicht zinvol om te beseffen dat machineonderdelen gemakkelijker te vervangen zijn dan lichaamsdelen, maar tegelijkertijd dat het lichamelijk falen van een hele beleidvoeringsmachine potentieel moeilijker te boven te komen is dan het wegvallen van een menselijke leider, of zelfs een team van menselijke leiders.

Competitiever dan menselijke leiders

“Robogov will also be much less susceptible to corruption and unethical behaviour. For these reasons, we already entrust AI with deciding on complicated social policy issues, from qualificationsfor unemployment benefits to targeted services that suit differentiated citizens’ needs.”– Alhoewel menselijk toezicht op gerobotiseerde processen alsnog een wezenlijk toegevoegde waarde kan hebben, is het inderdaad zo dat robotisering van specifieke publieke diensten de efficiëntie en effectiviteit van die diensten sterk ten goede zou kunnen komen. Toch moeten we ons realiseren dat de besluiten die “Robogov” nu al maakt weliswaar over complexe zaken gaan, maar als beslissing uiteindelijk vrij eenvoudig zijn. Alle mogelijke beslissingscategorieën zijn namelijk vooraf vastgesteld en ook de condities waaronder voor de één of andere categorie wordt gekozen zijn reeds bepaald. Met andere woorden: “Robogov” maakt nog geen zelfstandige besluiten.

Door de gebrekkigheid van zowel programmering door mensen als het zelflerend vermogen van machines klinkt het onwaarschijnlijk dat “Robogov” überhaupt ooit de ongenaakbare besluitvoerder zou kunnen worden waarop door sommigen gehoopt wordt. En zelfs in zoverre dat wel zou kunnen: Wat moeten we eigenlijk doen indien onze toekomstige “Robogovs” niet allemaal even slim zijn, of verschillende meningen hebben? Het klinkt bijvoorbeeld aannemelijk dat de besluitvoeringsparameters of zelfs alleen de informationele input van de verschillende “Robogovs” wereldwijd, gezien verschillende culturele moraliteiten, tot een wezenlijk verschil aan beleidsuitkomsten leidt tussen Eurobogov, Amerobogov, Rusbogov, Koreobogov, ChinAIgov, AIpan en AIndia.

Wellicht lopen we inderdaad op de zaken vooruit door zo sterk op utopische vergezichten te focussen. Zeker terwijl ook de huidige leiderschapsrealiteit sterke AI- en gerobotiseerde, of tenminste gedigitaliseerde componenten kent. Want de auteurs wijzen er terecht op dat menselijk leiderschap momenteel weliswaar geen competitie hoeft te vrezen van AI of robotisering, maar dat leiders doordat zij falen “to examine, understand and master the pros and cons of data and robotics”, zowel de kansen als de bedreigingen die AI en robotisering vormen voor onze huidige samenleving en machtsstructuren over het hoofd zien.

Competitiever dan andere menselijke leiders

In algemene lijnen lijkt de toegenomen toegang en accumulatie van sociale informatie vooralsnog vooral gebruikt te worden ter bevordering van de slagkracht van organisaties en overheden. Kennis wordt derhalve ingezet voor het versterken of verstoren van nationale en internationale politieke en economische status quo, en daarvan ten gevolge de cohesie van onze samenlevingen. Denk bijvoorbeeld aan het beïnvloeden van verkiezingen door “voter targeting” technieken die worden aangedreven door inzichten uit big data-analyse. Zeger van der Wal en Yifei Yan wijzen daarnaast op de nieuwe en gretig aangegrepen massa-surveillancecapaciteiten, alsook de manieren waarop sociale media als dragers en aanjagers van volkswoede en publieke vergelding kunnen fungeren. 

Lukt het leiders niet om zichzelf te updaten naar de digitale werkelijkheid, dan komen besluiten over het lot van ieder individu en over de samenleving als geheel in toenemende mate in handen van economische en buitenlandse machten en de grillen van de publieke opinie. We kunnen de digitale competentie van leiders van vandaag en morgen daarom zeker zien als een dimensie van hun macht. Dat geldt voor staten en hun vertegenwoordigers, voor verkiezingscampagnes, voor lobbyactiviteiten, bedrijfsmatige deals, enzovoorts. Over het algemeen heeft in iedere onderhandeling de beter geïnformeerde partij de overhand.

Menselijke leiders vervangen met “onfeilbare leiderschapsrobots” lijkt een perfecte oplossing voor menselijk falen, maar lijkt in haar potentiële uitwerking eerder fictie dan feit. Hackgevaar, falen van systemen, non-neutraliteit en onbegrijpelijke besluitvorming: “Robogov” lijkt hiermee geen oplossing te zijn voor de onoverkomelijkheid van falend menselijk leiderschap. In ultieme zin is “Robogov” namelijk slechts een extensie van menselijk begrip van de werkelijkheid en daarom subject aan dezelfde gebrekkigheden en disposities. Maar een minder radicale optie is misschien wel mogelijk: Wat moeten we denken van een samenwerking tussen mensen en kunstmatige intelligentie (AI)? Deel 2 van deze reflectie op leiderschap en AI gaat in op een dergelijke mogelijkheid.