Sinds onder andere Elon Musk en Yuval Noah Harari een oproep deden voor meer onderzoek en controle voordat AI-systemen als ChatGPT verder worden ontwikkeld, is een fel debat losgebarsten in de internationale pers tussen experts, beleidsmakers en denkers. Moeten we de ontwikkeling van AI stopzetten totdat we de technologie beter begrijpen?

Op 22 maart publiceerde het Future of Life Institute een open brief waarin werd opgeroepen om de ontwikkeling van AI-systemen voor minstens zes maanden te pauzeren. De ondertekenaars, onder andere techondernemer Elon Musk, Apple-oprichter Steve Wozniak en historicus en schrijver Yuval Noah Harari, vonden dat de ontwikkeling van kunstmatige intelligentie uit de hand was gelopen en dat er eerst meer onderzoek moest komen naar een veilige en betrouwbare toepassing van de nieuwe technologie. De oproep ontketende een fel debat in de internationale pers tussen voor- en tegenstanders van een pauze.

‘De ontwikkeling van kunstmatige intelligentie op pauze zetten is zinloos noch realistisch’, schrijft Ibán García del Blanco, Spaans Europarlementariër voor de sociaaldemocraten, in El País. ‘Ik werk sinds 2019 aan een Europese regeling voor AI en ben me scherp bewust van de enorme risico’s, die vooral te maken hebben met misbruik of kwaadwillig gebruik door een mens of een groep mensen’, aldus García.

‘Maar ik ben me ook bewust van de verbazingwekkende sprong in welzijn die deze technologie ons kan brengen. Ik was een paar dagen geleden bij een cardioloog die werkt met AI-modellen voor diagnostiek en hij sprak enthousiast over de patronen die ze ontdekken door analyse van simpele hartslagdata, waarmee in een verbazingwekkend vroeg stadium ziekten kunnen worden gediagnosticeerd. Volgens de meest conservatieve studies zal de massale invoering van AI de mondiale productiviteit verzevenvoudigen’, vervolgt García.

Ik denk dat het tijd is om debat over AI te democratiseren

Volgens de Europarlementariër is het een onrealistisch voorstel om de ontwikkeling van AI te pauzeren in het Westen, andere landen zitten immers ook niet stil. ‘Ik ken geen enkel geval in de geschiedenis van de mensheid waarin een technologische of wetenschappelijke ontwikkeling abrupt tot stilstand is gekomen, laat staan teruggedraaid. Ik denk dat het tijd is om debat over AI te democratiseren en grenzen te stellen aan het gebruik, zoals de Europese instellingen doen. Dit debat moet ook op wereldschaal plaatsvinden.’

Eliezer Yudkowsky, een toonaangevende Amerikaanse onderzoeker naar AI verbonden aan het Machine Intelligence Research Institute, roept in TIME Magazine niet alleen op tot pauze van de ontwikkeling van AI, maar pleit voor het volledig stopzetten van de technologie.

‘De hamvraag is niet intelligentie die kan wedijveren met die van de mens (zoals de open brief [van The Future of Life Institute] stelt), maar wat er gebeurt als AI menselijke intelligentie heeft overstegen’, schrijft Yudkowsky. ‘Als iemand een te krachtige AI bouwt, verwacht ik onder de huidige omstandigheden dat elk lid van de menselijke soort en al het biologische leven op aarde kort daarna sterft.’

Een AI zou kunstmatige levensvormen kunnen bouwen

‘Zonder precisie en voorbereiding is het meest waarschijnlijke resultaat een AI die niet doet wat wij willen’, vervolgt Yudkowsky, ‘en niet om ons geeft, noch om gevoelsleven in het algemeen. Dat gevaar is iets dat we in principe kunnen voorkomen door bepaalde veiligheidsmechanismen in een AI in te bouwen, maar momenteel weten we niet hoe.’

‘Een voldoende intelligente AI zal niet lang beperkt blijven tot computers. In de wereld van vandaag kun je DNA-sequenties mailen naar laboratoria die op verzoek eiwitten produceren, waardoor een AI die aanvankelijk beperkt was tot het internet, kunstmatige levensvormen kan bouwen of rechtstreeks kan overschakelen naar postbiologische moleculaire productie’, schetst de AI-expert.

Totdat we weten hoe we deze situatie kunnen voorkomen, moet er een stop komen op het doorontwikkelen van AI, stelt Yudkowsky. ‘We zijn er nog niet klaar voor. We zijn niet op weg om er binnen afzienbare tijd wel klaar voor te zijn. Als we hiermee doorgaan zal iedereen sterven.’

Lees ook: