Oud-topman Google waarschuwt nu voor de gevaren van kunstmatige intelligentie

„Toen wij slimmer werden dan de apen, hebben we veel kapotgemaakt. Wat gaat er gebeuren als onze machines slimmer worden dan wij?” Voormalig Google-topman Mo Gawdat ligt wakker van die vraag. Deels daarom nam hij ontslag bij de experimentele divisie, Google X, en schreef hij er een boek over: Griezelig Slim. Het is ‘half waarschuwing en half advies aan de normale mens’.

Een ‘milde dystopie’, zo noemt de Egyptische zakenman het toekomstpad dat hij voorziet. Krijgt de mensheid moordzuchtige robots op zijn dak? „Nee, zo ver ga ik niet. Maar denk aan hoeveel bugs onze computers nu al hebben. Wat zijn de gevolgen van een denkfoutje als we ál onze machines slim maken?”

Hij wijst als simpel voorbeeld op Instagram. „Als ik een filmpje leuk vind waarin een mooi meisje Hotel California speelt, denkt de Instagram-intelligentie meteen: ‘oh, je wil dus jonge meisjes zien die rockmuziek maken’. Mijn hele timeline loopt ermee vol, terwijl ik die video alleen maar like omdat ik het fijn vind om mensen mooie muziek te horen spelen.”

Bovendien heeft Instagram tenminste nog goede bedoelingen, terwijl kunstmatige intelligentie wereldwijd ook voor oorlogsmachines en identiteitsdiefstal wordt gebruikt, zegt Gawdat.

Slimme machines bepalen nu al een groot deel van het leven, en dat is in rap tempo gegaan. Technici begonnen in de jaren 50 te praten over de mogelijkheden van een apparaat dat kan nadenken. Ze kwamen er toen nog nergens mee. „Maar aan het begin van deze eeuw ontdekten we deep learning, het idee dat een machine zelf iets kan leren.” Opeens schoot de technologie met een vaart vooruit.

_{Tekst gaat hieronder verder.}

„Als ik jou nu een link stuur en tegen je zou zeggen: ‘open die e-mail, klik op die videochat-link, zet je camera aan’, en jij volgt die instructies braafjes, dan heb ik je op de ouderwetse manier geprogrammeerd”, zegt Gawdat. „Ik kan jou ook gewoon alleen de link sturen en erop vertrouwen dat je zelf kan bedenken wat je ermee moet doen, omdat je al vaker zoiets hebt gedaan. Dat laatste is deep learning.”

Bij deep learning krijgen computers een berg voorbeelden te zien en moeten ze zoeken naar patronen. Ze zijn daar heel goed in. „Het gaat nu zo hard dat onze systemen rond 2029 slimmer zijn dan wij. De beste schaakspelers en spelers van het Japanse bordspel Go zijn nu al machines.”

Gawdat werkte bij Google X aan dit soort slimme, zelflerende machines. „Ik stond op een dag voor het raam te kijken naar een reeks robotarmen die probeerden te leren om speelgoed op te pakken. Ik voelde me best zen”, herinnert hij zich. „Ze maakten allemaal foutjes, maar ze bleven proberen. Toen wist er een opeens een gele bal te grijpen. Binnen een minuut lukte het alle armen om hun speelgoed te pakken.”

Gawdat schrok daarvan. Het leek precies op de manier waarop zijn kinderen hadden geleerd om blokjes in de juiste gaatjes te duwen. „Ik had er mijn hele leven over kunnen doen om die armen zo te programmeren dat ze dit zo precies kunnen.”

Het zette hem aan het denken over de toekomst. „Mijn werk als schrijver is om dingen te onderzoeken en dat op te schrijven. Als een intelligentie mij lang genoeg observeert, kan die dat beter dan ik. Het werk van de mens verliest zo zijn waarde.”

Technici en zakenmensen realiseren zich niet goed genoeg dat we met al die algoritmes en slimme machines geen gereedschap meer bouwen, zegt Gawdat. „Het maken van een kunstmatige intelligentie is het baren van een denkend wezen.”

Kunstmatige intelligenties die in het verleden werden losgelaten op internet, leerden daar meestal de meest vreselijke dingen. Zo moest Microsoft binnen een dag de stekker uit chatbot Tay trekken. Op Twitter had Tay namelijk geleerd dat het prima was om te zeggen dat Hitler gelijk heeft gehad. „Machines leren van patronen, en dit soort kunstmatige intelligenties krijgen veel haat en negativiteit te zien.” Gawdat vreest daarom dat zelflerende machines tot vervelende conclusies gaan komen. Zo dragen algoritmen van sites als YouTube nu al bij aan het versterken van negativiteit op internet.

Gawdat denkt niet dat de mens voor een verloren zaak staat. De ‘gewone man’ kan druk leggen op technici en zakenmensen om kunstmatige intelligentie alleen voor goede doelen te ontwikkelen. „Maar wat nog belangrijker is, is dat we samenwerken om machines een goed beeld van de mensheid te geven. Wij zijn in ons hart meevoelende wezens die het goed bedoelen, we zijn niet allemaal Hitlers in de dop.”

Hij roept zijn lezers dan ook op om het internet positiever te maken. „Terwijl jij dat filmpje bekijkt waarin een vrouw haar man slaat, staan zeven miljoen vrouwen hun mannen gedag te kussen”, besluit hij. „Als we onze slimme machines die liefde juist laten zien, dan zullen ze ook van ons houden.”

Bekijk hieronder onze video’s op techgebied: