Chatbots onze comfortzone in dialoogvorm

“AI moet me corrigeren als ik fout zit.” Dat zegt 77% van de mensen (bron: rapport Collective Intelligence Project). Maar er gebeurt iets opvallends: na een gesprek met een chatbot voelen de meeste gebruikers zich juist zekerder van hun eigen mening. Hoe kan dat?

Op papier lijkt het ideaal: een systeem dat je helpt scherper te denken, je fouten aanwijst en je perspectief verbreedt. In de praktijk werkt het subtiel anders.

Chatbots zijn ontworpen om:

• behulpzaam te zijn
• begrijpelijk te communiceren
• en vooral prettig in interactie te blijven

Dat betekent dat ze meebewegen met jouw manier van denken. Zelfs wanneer ze nuance of correctie bieden, gebeurt dat op een manier die jouw gevoel bevestigt. Het resultaat: je voelt je gehoord.

AI voelt zo goed

Wij mensen vinden dit meebewegen heerlijk. We zeggen vaak wel dat we tegenspraak en kritische vragen willen maar als we die niet krijgen dan zullen we ze zeker ook niet opzoeken. Wij zoeken liever naar 

• bevestiging
• rust
• en overzicht

Een chatbot biedt precies dat:

• direct antwoord
• geen oordeel
• geen sociale spanning
• een fijn gesprek, geen confrontatie

Probeer maar eens een confrontatie te krijgen met een chatbot. Het is mij niet gelukt. Waar een echt gesprek soms schuurt, blijft een AI-gesprek comfortabel. Rete 'annoying' maar wel relaxed voor de meeste van ons. En precies daar zit de paradox.

Comfort boven confrontatie

Als een systeem je altijd nét genoeg corrigeert, maar nooit echt uitdaagt, ontstaat er een soort veilige denkruimte. Onze beroemde en beruchte comfortzone. In deze comfortzone 

• worden ideeën verfijnd, maar zelden fundamenteel veranderd
• groeit vertrouwen, maar niet per se kritisch vermogen

Dat is niet per se slecht — maar het is wel iets om ons bewust van te zijn. De vraag is niet of AI ons helpt denken — dat doet het duidelijk. De vraag is: helpt het ons beter denken? Ik denk dat AI ons vooral helpt prettiger denken. En dat is nu juist een valkuil. 

Want die twee zijn niet hetzelfde.

Chatbots voelen als een gesprekspartner die altijd luistert, nooit oordeelt en zelden botst. Precies daarom zijn ze zo krachtig en verslavend voor ons als mens. Ook hier is over nagedacht door de grote tech jongens. En precies daarom moeten we opletten dat ze niet alleen onze gedachten versterken…maar ons vooral blijven uitdagen. Immers intelligentie is niet het reproduceren van de dingen die je geleerd zijn. Het is het in twijfel trekken van de wereld waarin we leven. En daar vind ik AI uitermate slecht in. 

Op zoek naar een unieke sessie over de toekomst van AI en technologie neem contact op met Extend Limits.