Stephen Hawking: "Artificiële intelligentie zal de mensheid kapotmaken"

Stephen Hawking.
AP Stephen Hawking.
"Artificiële intelligentie zal wellicht de grootste doorbraak zijn in de menselijke geschiedenis. Helaas kan het ook de laatste zijn." In een artikel in The Independent maakt natuurkundige Stephen Hawking zich zorgen om het potentieel van kwaadaardige machines die zich zullen wreken op de mensheid.

De huidige artificiële intelligentie is nog niet van die aard dat sciencefictionachtige doemscenario's zich opdringen. "Maar het zou fout zijn om het idee af te doen als pure sciencefiction. Misschien wel de grootste fout in de geschiedenis", schrijft Hawking in The Independent.

"Het onderzoek naar AI gaat met rasse schreden vooruit", redeneert hij. "Recente hoogtepunten als zelfrijdende auto's en de digitale persoonlijke assistent Siri zijn slechts symptomen van een IT-wapenwedloop, die voortbouwt op een steeds grotere theoretische kennis en waarmee ongekende investeringen gemoeid zijn. Maar zulke verwezenlijkingen zullen wellicht verbleken bij wat we de komende tientallen jaren mogen verwachten."

Oorlog
Er zijn gigantische voordelen, aldus Hawking. "Stel je voor wat we kunnen bereiken wanneer we onze menselijke intelligentie kunnen uitbreiden met allerhande tools", zegt hij. "De uitroeiing van oorlogen, ziektes en armoede zouden hoog op ieders lijst staan."

Toch is er ook reden om ons zorgen te maken, volgens Hawking, want er zijn geen grenzen aan de mogelijkheden: er is geen natuurkundige wet die deeltjes ervan weerhoudt zich zodanig te organiseren dat ze meer geavanceerde berekeningen kunnen uitvoeren dan het menselijke brein. "Men kan zich voorstellen hoe zulke technologie wetenschappers, leiders en financiële markten te slim af zal zijn, en wapens kan ontwikkelen die wij niet eens kunnen begrijpen. Terwijl de impact op korte termijn afhankelijk is van wie de technologie controleert, hangt de impact op lange termijn af van de vraag of ze al dan niet gecontroleerd kán worden."

Onderzoek
Hawking vindt daarom dat er snel meer onderzoek gevoerd moet worden naar het thema. "Hoewel we niet kunnen voorspellen of we nu afstevenen op het beste of het slechtste dat de mensheid kan overkomen, wordt er weinig serieus onderzoek aan gewijd. Terwijl we ons nu moeten buigen over de vraag wat we kunnen doen om van de voordelen te kunnen genieten en tegelijk de risico's te beperken."

Hoewel we niet kunnen voorspellen of we nu afstevenen op het beste of het slechtste dat de mensheid kan overkomen, wordt er weinig serieus onderzoek aan gewijd

Stephen Hawking