“Nieuw AI model gevaarlijker dan vuurwapen”

Getty Images/iStockphoto
Een artificieel systeem dat realistische verhalen, gedichten en artikelen kan schrijven, kreeg onlangs een update waarvan sommigen beweren dat het systeem nu even goed is als een menselijke schrijver. “Maar dat brengt ook gevaren met zich mee”, zegt de tech nieuwssite The Next Web.

De tekstgenerator, gebouwd door de onderzoeksfirma OpenAI, werd in eerste instantie beschouwd als ‘te gevaarlijk’ om openbaar te maken. Reden? Het systeem kon mogelijks voor verkeerde doeleinden gebruikt worden. 

Toch ontwikkelde de firma onlangs een nog krachtigere versie van het artificieel systeem, eentje die fake news of spam op sociale media zou kunnen plaatsen. 

“Gevaarlijker dan een vuurwapen”

Het nieuwe model, GPT-2, werd getraind aan de hand van een dataset van zo'n acht miljoen internetpagina’s. Door die dataset leerde het model zichzelf patronen aan die achteraf in een algoritme omgezet werden. Zo zou het model in staat moeten zijn zelf teksten te schrijven en zou het zich moeten kunnen aanpassen aan de stijl en inhoud van elke tekst die het voor zich krijgt. Dat wil zeggen dat het enerzijds de zinnen van een Shakespeare gedicht kan afmaken en anderzijds zelf artikelen kan schrijven en scheldwoorden kan gebruiken.

“Het model doet het bijna goed genoeg om als algemene artificiële intelligentie gebruikt te worden bij het schrijven van teksten”, zegt Tristan Greene, redacteur bij de tech nieuwssite The Next Web. Toch blijft Greene voorzichtig: “Ik ben bang van het GPT-2 model omdat het een soort van technologie aanbiedt die kwaadwillige personen kunnen gebruiken om de bevolking te manipuleren. Voor mij is die technologie zelfs gevaarlijker dan een vuurwapen.”

“Als de software werkt zoals gepland, zou het namelijk makkelijk gebruikt kunnen worden om fake news en spam, met clickbait, te creëren en te verspreiden”, zegt Noel Sharkey, professor computerwetenschappen aan de universiteit van Sheffield.

Voorlopig nog “onsamenhangend” en “absurd”

Toch maakt Sharkey zich voorlopig nog geen zorgen. “Gelukkig maakt het huidige model nog onsamenhangende en absurde teksten, die weinig tot geen link hebben met bestaande teksten.”




5 reacties

Alle reacties worden voor publicatie gelezen -en goed- of afgekeurd- door het moderatie-team van HLN. Elke reactie moet voldoen aan deze gedragsregels.
Je naam en voornaam verschijnen bij je reactie.


  • Johan Apatride

    Het begin van het einde van de mensheid. AI is gevaarlijker dan kernwapens of milieurampen. Vroeg of laat gaan machines ons vervangen en waarschijnlijk uitroeien.

  • Peter Janssens

    De volgende stap in de evolutie: een zelfbewuste intelligentie in een mechanisch lichaam dat geen lucht, drinken of eten nodig heeft en waarvan de stukken die kapotgaan gewoon kunnen vervangen worden.

  • Erik Svensson

    Correctie: HET artificieel systeem, eentje DAT

  • Dieter Vandaele

    Eerst is het een systeem dat artificieel even realistische verhalen kan schrijven als een menselijke schrijver. Maar het artikel eindigt met: "Het model schrijft onsamenhangende en absurde teksten". ...Wat is het nu?

  • Don Tessers

    Tien jaar geleden waarschuwde wetenschappers voor het gevaar van AI. Als labo´s hier toch mee doorgaan en een hacker weet deze programma´s te hacken is de duivel los en de geest uit de fles.