Ga naar de mobiele website
^ Top

Facebook legt experiment rond artificiële intelligentie stil nadat robots eigen geheime taal ontwikkelen

thinkstock
Spannend maar tegelijk angstaanjagend: zo omschrijven experts een project rond artificiële intelligentie dat Facebook stillegde nadat spraakrobots een eigen taal ontwikkelden, die alleen zij begrepen. Alice en Bob pasten het Engels aan om makkelijker te kunnen communiceren met elkaar. Dat resulteerde in vreemde zinnen, die voor de onderzoekers geen enkele betekenis meer hadden.

Alice en Bob moesten Engels spreken terwijl ze 'leerden' om onder meer hoeden, boeken en ballen te verkopen. De voorwerpen hadden allemaal een verschillende waarde, waardoor ook onderhandeld moest worden. Dat moest uitmonden in hightech onderhandelingssoftware die zo goed was dat mensen die ermee in interactie zouden gaan, zelfs niet meer zouden merken dat ze eigenlijk tegen een robot bezig waren.

Vrije hand
Toen ze de vrije hand kregen om de algoritmes op basis waarvan ze spraken beter en efficiënter te maken, begonnen de robots echter vreemde codewoorden en herhalingen te gebruiken. Dat ging bijvoorbeeld zo:

Bob: ik kan ik ik alle andere dingen ...

Alice: ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.

Bob: jij ik alle andere dingen ...

Alice: ballen hebben een bal voor mij voor mij voor mij voor mij voor mij voor mij voor mij

En er was meer: de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten ook dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.

Potentieel gevaarlijk
Toen ze doorkregen wat er aan de hand was, legden de onderzoekers het experiment stil. "Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", volgens professor Kevin Warwick, een expert in robotica in het Verenigd Koninkrijk. "We hebben er geen flauw idee van wat deze robots tegen elkaar zeggen. Eenmaal je robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn."

Stephen Hawking
"Dit is het eerste gedocumenteerde geval van een dergelijke communicatie, maar er zullen er zeker nog al geweest zijn", gaat hij verder. "Robots kunnen communiceren met elkaar en hoewel we denken dat we hen in de gaten kunnen houden, is er geen enkele manier waarop we dat zeker weten. Ook Stephen Hawking en Elon Musk waarschuwden al voor de gevaren van artificiële intelligentie."

rv

Het doet een beetje denken aan de filmreeks Terminator met Arnold Schwarzenegger, waarin robots een zelfbewustzijn ontwikkelen en de mensheid proberen uit te roeien. Zo ver is het nog niet, maar héél gek klinkt het niet meer. "Het gebeurt eigenlijk al overal", aldus technologie-experte Kate Adamson. "Kijk bijvoorbeeld naar de hoge frequentiehandel op de aandelenmarkt. Sommige algoritmes doen precies hetzelfde. Ze hebben een bepaalde kennis ontwikkeld en worden technisch gezien niet minuut na minuut gemonitord. Artificiële intelligentie kan een moeilijkheidsgraad aan die jij en ik niet eens zouden kunnen vatten als we ons best deden."

Google Translate
Volgens Facebook zelf werd het experiment stilgelegd omdat het "niet tot het resultaat leidde dat we wilden". "We hadden de robots niet opgelegd dat ze Engels moesten praten. De onderhandelingssoftware is echter bedoeld voor communicatie met mensen, niet voor communictatie tussen robots onderling. Daarom had het geen zin om ermee door te gaan."

Het sociale netwerk wijst er ook op dat er in andere techbedrijven soortgelijke dingen gebeuren. Zo ontdekten wetenschappers van Google Translate vorig jaar dat hun dienst ook een eigen taal had ontwikkeld.

(Sleep het icoontje op de grijze boog naar links of rechts)




52 reacties

Je naam en voornaam verschijnen bij je reactie
Door het plaatsten van een reactie, ga je akkoord met de gedragsregels


  • Martin Vanhasselt

    Zo raar is da toch niet? Iphone auto correctie heeft die bug al jaaaaaaaaaren

  • Bob 3*D

    Vb van lerende robot is de automatische grasmaaier of stofzuiger,die gaan nooit 2x over dezelfde plaats.En ondertussen wordt de plattegrond van je huis of je tuin naar Google gestuurd.

  • Jeoffrey Van winnendaele

    Sommige mensen snappen niet dat een algoritme een soort loop is waardoor de robot een heleboel aan info zelfstandig kan verwerken. Die wordt eenmaal geprogrameerd en dan hebben ze gezien dat de robot wartaal uitsprak. Ik stel me vooral vragen bij die conclusie dat ze met mekaar codetaal spraken??

  • Joris Vanderaert

    Het loopt hier weer over van kennis en deskundigheid. Zelflerende machines bestaan wel degelijk. En al lang. Hoe krachtiger je die maakt hoe onverwachter de gevolgen kunnen zijn. Als Elon Musk en Steven Hawking daar vragen bij plaatsen zou toch een teken aan de wand moeten zijn, maar neen, onze specialisten hier weten het weer beter.

  • m c

    Veel "ik,ik,ik,...." en "voor mij, voor mij, voor mij,... " gelezen in hun communicatie . Zo DENKEN nochtans ook veel mensen ...

Meld een bug