Onderzoeksgroep brengt “te gevaarlijk” algoritme toch uit

Foto ter illustratie
ANP XTRA Foto ter illustratie
Te gevaarlijk om los te laten in de echte wereld. Zo beschreef onderzoeksgroep OpenAI begin dit jaar haar nieuwste algoritme. Het systeem kan vrijwel vanuit het niets complete teksten van a tot z aan elkaar verzinnen, als alles goed verloopt. Ondanks het gevaar is het algoritme tóch uitgebracht.

Het algoritme kan worden ingezet bij de productie van spammails, phishing, nepnieuws en propaganda. OpenAI besloot daarom de software - die GPT-2 heet - niet uit te brengen. Dat is nu alsnog gebeurd, eerst in kleine brokjes en daarna helemaal.

Volgens OpenAI is het mogelijk om racistische, marxistische, jihadistische en anarchistische propaganda te maken met het systeem. Voer een titel in en GPT-2 schrijft er een heel artikel over. Schrijf een dichtregel en GPT-2 maakt zelf het gedicht af. Eerdere systemen verloren halverwege een zin de draad of maakten vreemde grammaticale fouten. Volgens OpenAI is het moeilijk te ontdekken dat het om nepberichten gaat. Na de gedeeltelijke releases zouden er nog geen aanwijzingen zijn dat de technologie misbruikt werd.

Positieve gevolgen

Het uitbrengen van GPT-2 heeft niet enkel (mogelijke) negatieve gevolgen. Zo kan de techniek worden ingezet voor het verbeteren van vertaalmachines, het ontwikkelen van slimme schrijfhulpjes en om spraakassistenten zoals Siri (Apple) en Google Assistant beter te laten functioneren.

OpenAI is in 2015 met veel tamtam in het leven geroepen. Onder de initiatiefnemers zijn belangrijke mensen uit Silicon Valley, zoals Elon Musk (Tesla, SpaceX, PayPal) en Peter Thiel. De groep wil kunstmatige intelligentie ontwikkelen waar de mensheid baat bij heeft. Microsoft heeft alvast een miljard dollar in het onderzoek geïnvesteerd.




1 reactie

Alle reacties worden voor publicatie gelezen -en goed- of afgekeurd- door het moderatie-team van HLN. Elke reactie moet voldoen aan deze gedragsregels.
Je naam en voornaam verschijnen bij je reactie.


  • Thomas Vervoort

    Elon Musk... De groep wil kunstmatige intelligentie ontwikkelen waar de mensheid baat bij heeft... Elon Musk, de man die waarschuwt voor te slimme AI en het gevaar er van.Net hij vind zeker dit een goed idee? Ik denk dat dat beter nog eens word nagevraagd bij hem. Ik denk dat hij er niet zo 100% een goed gevoel bij zal hebben dat ze het op de markt hebben gegooid.