De toekomst van zelflerende systemen

Goldman Sachs Research concludeerde in een recent rapport dat we de transitie maken van machines die vooraf geprogrammeerde code uitvoeren naar machines die leren van problemen die mensen aandragen. 

Transition of people instructing machines to operate to pre-programmed code to people presenting problems to self learning machines (Goldman Sachs, 2017)

Machine-learning is dan ook de hype van dit moment. Wie zien zelfrijdende auto's die, door continu waarnemen van mensen die autorijden, zelf het kunstje leren. We kennen inmiddels ook robots die de beste chefkoks bestuderen en zo zelf de lekkerste gerechten leren maken. Machines die leren, zijn duidelijk de volgende stap in de ontwikkeling van Artificiële Intelligentie. Al heb ik wel mijn twijfels of we wel technologie moeten laten leren autorijden door naar mensen te kijken. 

Zoekmachine Baidu heeft een nieuwe stap gemaakt in 'machine-learning'. De organisatie heeft een 'virtuele agent' opgeleid door middel van natuurlijk taal. Baidu legt het proces als volgt uit: Applying past knowledge to a new task is very easy for humans but still difficult for current end-to-end learning machines. Although machines may know what a “dragon fruit” looks like, they can’t perform the task “cut the dragon fruit with a knife” unless they have been explicitly trained with the dataset containing this command. By contrast, our agent demonstrated the ability to transfer what they knew about the visual appearance of a dragon fruit as well as the task of “cut X with a knife” successfully, without explicitly being trained to perform “cut the dragon fruit with a knife.

De komende jaren zullen we nog vele doorbraken zien op het gebied van zelfstandig leren door machines. De opmerking van Goldman Sachs is ons inziens treffend. Het is precies de vervolg evolutie die we zien in de ontwikkeling van technologie. Dit zorgt ervoor dat technologie sneller en efficienter kan leren. Dat is fantastisch natuurlijk. Maar er is ook een keerzijde. Een toekomstig beeld dat onder andere werd geschetst in het rapport "Preparing for the future of Artificial Intelligence` dat vanuit de Amerikaanse regering is gepubliceerd onder Obama in oktober 2016 is minder rooskleurig. 

Als je een zelflerend algoritme hebt met als opdracht: ‘dring door tot nucleaire codes, en zoek uit hoe je raketten kunt lanceren’, dan heb je een groot probleem (Obama, oktober 2016)

Een scenario dat duidelijk de gevaren aangeeft van de snelle ontwikkeling binnen zelflerende systemen. Elon Musk is dan ook één van een toenemende aantal mensen die waarschuwen voor de ontwikkeling van zelflerende systemen. Nu kunnen we ook de enorme gevaren beschrijven van sommige idioten die tegenwoordig aan de macht zijn. Ook daar schuilen enorme gevaren maar kunnen we vaak nog hoop hebben om de menselijke gave om zaken anders te interpreteren van door andere mensen in de directe omgeving van sommige machthebbers. Het grote gevaar van algoritmes die zelflerend zijn is dat het op de achtergrond gebeurt. We zien en ervaren het niet of te laat. 

Zelflerende systemen zijn zeker de toekomst. Vraag waar we nu al over moeten nadenken en op moeten voorsorteren is: wie is en blijft in controle?