Is kunstmatige intelligentie echt zo gevaarlijk als in films?

In Hollywoodklassiekers als Blade Runner, Terminator en 2001: A Space Odyssey worden computers de baas, met akelige gevolgen voor de mens. Frank van Harmelen, hoogleraar kunstmatige intelligentie aan de Vrije Universiteit Amsterdam, wil penarie voorkomen door systemen beter te leren begrijpen.

Heeft kunstmatige intelligentie (ook bekend als artificial intelligence of AI) nu al gevaarlijke trekjes?

Frank van Harmelen: ‘AI kan heel ingrijpend zijn. Bijvoorbeeld wanneer je het inzet om zelfstandig te bepalen waar de politie patrouilleert of medisch advies te geven. Kunstmatige intelligentie kan heel goed herkennen of er een tumor op een scan staat. Maar de volgende stap, namelijk de behandeling van de tumor bepalen, moet je pas aan het systeem overlaten als je zeker weet dat de adviezen goed genoeg zijn.’

Welk soort fouten maakt AI?

‘Als een computersysteem een oplossing zoekt, krijg je soms rare resultaten. In de jaren 70 had de Amerikaanse marine al een zelflerend programma dat een virtuele vloot bestuurde. Daarin vaagde de computer eerst de eigen bootjes weg. Want dan kreeg hij er volgens de regels een paar extra bootjes bij en versloeg hij de vijand het vaakst. In 2001: A Space Odyssey moest de boordcomputer het ruimteschip veilig houden. Niemand had voorzien dat hij de astronauten uit de weg zou ruimen, omdat hij die als een gevaar voor de missie zag.’

Kunnen we begrijpen hoe kunstmatige intelligentie denkt?

‘Dat is lastig. Het systeem heeft zelf geleerd oplossingen te zoeken, en je ziet niet vanaf de buitenkant hoe dat gaat. Dit noemen we de black box. Onderzoekers werken aan manieren om de black box doorzichtiger te maken. Je kunt proberen de beslissingen om te zetten in mensentaal, waardoor wij het ook begrijpen. Zo kijkt een systeem voor fotoherkenning bijvoorbeeld naar kleurcontrast op een bepaald deel van het gezicht, dat deel kun je vertalen en duiden als de haargrens. Je kunt ook delen van het gezicht afplakken: zo meet je welke input de herkenning van de foto het sterkst beïnvloedt.’

Wanneer is kunstmatige intelligentie goed genoeg om beslissingen te mogen nemen?

‘De kwaliteit van kunstmatige intelligentie moet opwegen tegen het doel. Je kunt best een systeem aanbevelingen in een webshop laten geven. Maar een ruimtemissie leiden is nog geen goed idee. Zolang we verstandig kiezen waar we AI inzetten, kan het ons niet te grazen nemen zoals de boordcomputer dat doet in 2001: A Space Odyssey.’

Worden computers slimmer dan mensen?

Menselijke intelligentie is als een allroundschaatser: best goed in allerlei onderdelen. Computers blinken uit in specialismes, zoals data onthouden en rekenen. En sinds AI zo’n tien jaar geleden in een stroomversnelling kwam, zijn ze goed in foto’s categoriseren, vertalen en andere soorten patroonherkenning.

‘Toch maken ze daarin rare fouten’, zegt hoogleraar cognitieve psychologie Stefan van der Stigchel (Universiteit Utrecht). ‘Ze zien bijvoorbeeld een krentenmuffin aan voor een chihuahua. En een gesprek voeren of een verhaal schrijven is voor computers ook te hoog gegrepen. Het ontbreekt ze aan wereldkennis: het combineren van allerlei praktische informatie. Daar zijn mensen juist erg goed in.’ Het zou hem niet verbazen als computers deze achterstand kunnen inhalen als we onze eigen hersenen beter gaan begrijpen. ‘Als we hun werking kunnen nabouwen in kunstmatig intelligente systemen, kunnen computers ons ook op dat vlak verslaan. Maar het kan nog decennia duren voordat het zover is.’