Duizend experts, onder wie Elon Musk en oprichter Apple, slaan alarm over AI: pauzeer de ontwikkeling

In een alarmerende open brief pleiten de wetenschappers voor een pauze van zes maanden in de voorbereiding van nog slimmere systemen dan die nu op de markt zijn, om regels en toezicht op kunstmatige intelligentie beter in beeld te krijgen. Technologiebedrijven als Microsoft, Google en Facebook zijn de laatste maanden in een gevecht verwikkeld waarin ze elkaar proberen te overtreffen met nóg slimmere chatbots, die antwoorden en andere teksten kunnen produceren die nauwelijks nog van menselijke conversaties verschillen.

Het programma ChatGPT is op dit moment de populairste chatbot die zelf teksten kan schrijven, op basis van grote hoeveelheden data uit bijvoorbeeld boeken, nieuwsartikelen of websites. Over het taalmodel GPT-4, dat begin maart door Microsoft-partner OpenAI is gelanceerd, constateren techneuten dat ze ‘vonken’ van mensachtige intelligentie waarnemen. Inmiddels zijn nog slimmere versies in de maak, waarvan wordt gevreesd dat die de intelligentie van mensen zal evenaren of overtreffen.

De ondertekenaars vrezen op dit moment voor een gebrek aan vangrails, voor het geval dat AI-systemen de maatschappij ontwrichten. Zo schrijven criminelen nu al met ChatGPT zeer realistische phisingmails. Met de oproep willen de wetenschappers voorkomen dat kunstmatige intelligentie zelfstandig zou kunnen besluiten desinformatie te verspreiden om de wereld naar haar hand te zetten of er zelf voor zorgt dat ze niet door mensen kan worden uitgeschakeld.

Tekst gaat verder onder deze video

Hoogleraar Frits Vaandrager, hoofd van de afdeling softwarewetenschappen aan de Radboud Universiteit, twijfelde geen seconde om de brief te ondertekenen. ,,Er staat weliswaar het woordje ‘open’ in OpenAI, maar heel transparant over hun technologie zijn ze niet. Die angstaanjagend echte foto’s van Trump die gearresteerd wordt, zijn echt nog maar het begin.” Op dit moment investeren veel grote bedrijven in ChatGPT. ,,Die wordt in sneltreinvaart steeds krachtiger, en dat kan grote gevolgen hebben als die niet correct wordt toegepast”, aldus Vaandrager.

De Nijmeegse wetenschapper waarschuwt, samen met andere deskundigen zoals de Israëlische historicus Yuval Noah Harari, ook voor de maatschappelijke gevolgen als veel mensen hun baan verliezen door krachtige AI-systemen. Verder bestaat volgens hen het risico dat deze programma’s ‘onze informatiekanalen overspoelen met propaganda en onwaarheden’. ‘Moeten we alle banen automatiseren, inclusief het werk dat voldoening geeft? Zouden we niet-menselijk verstand moeten ontwikkelen dat ons uiteindelijk kan overklassen en vervangen? Moeten we het verlies van onze beschaving riskeren? Die beslissingen zouden niet moeten worden overgelaten aan niet-verkozen techmanagers’, staat in de brief.

De afgelopen maanden is in het Nederlandse onderwijs veel gediscussieerd over ChatGPT, onder meer omdat sceptici vrezen dat scholieren zelf niet meer leren om te schrijven en informatie te verzamelen als ze dat door een computer laten doen. D66-Kamerlid Hind Dekker-Abdulaziz wil dat het kabinet gaat nadenken over een strategie hoe de voordelen van de technologie kunnen worden gebruikt in het onderwijs, zonder te worden overstemd door de nadelen. Nederlandse universiteiten waarschuwen studenten om ChatGPT niet te gebruiken. Het hulpmiddel is niet toegestaan en valt binnen de definitie van fraude of plagiaat.

Tekst gaat verder onder deze video

Hoogleraar Vaandrager is bezorgd over ChatGPT, maar zegt vooral te vrezen voor toekomstige verkiezingen in bijvoorbeeld de Verenigde Staten. ,,Stel nou dat mensen met verkeerde intenties deze technologie misbruiken om nepnieuws te delen en zo mensen te beïnvloeden? Dat is niet alleen eng, maar vormt ook een bedreiging voor het functioneren van onze maatschappij.” Dat bijvoorbeeld Elon Musk de brief ondertekent, iemand die juist heeft bijgedragen aan die razendsnelle technologische ontwikkeling, doet bij Vaandrager de wenkbrauwen fronzen. ,,Die man is een ongeleid projectiel, redelijk bizar dat hij op dit lijstje staat. Kennelijk is hij teruggekomen op zijn eerdere opvatting over deze technologie.”

AI-onderzoekers en onafhankelijk experts zouden volgens de ondertekenaars samen algemene veiligheidsprotocollen moeten opstellen. Dat geheel aan regels, waar onafhankelijk toezicht op moet komen, moet ons ervan verzekeren dat nieuwe modellen voor kunstmatige intelligentie veilig zijn. Tegelijkertijd zouden overheden nieuwe instellingen moeten oprichten met de taak om toe te zien op de ontwikkeling van AI.

‘Dit staat niet gelijk aan het opschorten van de ontwikkeling van AI in zijn algemeen, maar eerder een pas op de plaats bij de gevaarlijke wedloop richting steeds grotere, onvoorspelbare modellen met nieuwe capaciteiten’, staat in de brief die woensdagmiddag door 1125 mensen was ondertekend. Naast Elon Musk en Steve Wozniak is de brief ondertekend door talloze deskundigen uit het Nederlandse onderwijs, onder wie Jan Pieter van der Schaar, hoofddocent natuurkunde (UvA), Stuart S. Blume, emeritus hoogleraar science (UvA), Amir Vudka, doctor mediastudies (UvA) en Christoph Weniger, hoofddocent theoretische fysica (UvA).

De Nijmeegse hoogleraar Vaandrager is blij dat er nu collectief een front wordt gevormd, maar maakt zich tegelijkertijd geen illusies. ,,Ik verwacht niet dat alle bedrijven nu zeggen: we stoppen ermee, maar ik hoop wel dat het signaal wordt opgepikt en dat er nu in Amerika een discussie ontstaat. We stevenen als mensheid af op een gigantische gebeurtenis. Een zorgvuldige reflectie op de goede en slechte kanten van de technologie is nu van cruciaal belang.”

In België heeft de technologie inmiddels een dodelijk slachtoffer geëist. Een Belg, vader van een jong gezin, beroofde zichzelf van het leven na lange gesprekken met een chatbot, schrijft La Libre woensdag.