Een kartonnen bord met kleurrijke print: meer is er niet nodig om slim detectiesysteem te misleiden

Simen Thys, Wiebe Van Ranst, Toon Goedemé
Door een kartonnen bord met daarop een kleurrijke print voor het lichaam te houden, kan een persoon zich onzichtbaar maken voor een intelligent detectiesysteem gebaseerd op YOLO, één van de meest populaire algoritmes om objecten en personen te detecteren. Dat hebben onderzoekers van de Faculteit Industriële Ingenieurswetenschappen (KU Leuven) aan Campus De Nayer in Sint-Kathelijne Waver ontdekt.

Slimme detectiesystemen zijn in staat mensen te herkennen en hen te onderscheiden van om het even welk object. Ze zijn daardoor erg geschikt voor beveiligingsopdrachten, maar blijken nu nog geenszins onfeilbaar. Het is de onderzoekers onduidelijk hoe het vermelde bord er in slaagde om YOLO om de tuin te leiden en de persoon die het draagt onzichtbaar te maken. "Algoritmes maken nu eenmaal gebruik van miljoenen parameters", aldus professor Toon Goedemé van de onderzoeksgroep EAVISE.

Zwakke punten

"Op zich is dit lek eenvoudig te dichten door het algoritme te leren dat mensen die een identiek bord vasthouden ook mensen zijn. Alleen mag je ervan uitgaan dat YOLO nog andere zwakke punten heeft. Een plaat met een print is eigenlijk een minimale aanpassing. Iedereen houdt wel eens iets in zijn handen. Er zijn met andere woorden nog andere patronen die het systeem kunnen misleiden. Ik denk niet dat we ooit alle beveiligingslekken zullen kunnen dichten. Het is zoiets als een wapenwedloop", aldus Goedemé.




5 reacties

Alle reacties worden voor publicatie gelezen -en goed- of afgekeurd- door het moderatie-team van HLN. Elke reactie moet voldoen aan deze gedragsregels.
Je naam en voornaam verschijnen bij je reactie.


  • valere vermeulen

    moet duidelijk iets te maken hebben met de handen.

  • Willy Demesmaecker

    En wat met een foto zonder witte rand, of een foto die niet breder is dan het lichaam ? Het systeem verwacht duidelijk een menselijke vorm (hoofd, torso en iets lang er onder), een vierkant (breder dan de buik of heup) in de helft van het lichaam past daar natuurlijk niet in. Leer het systeem personen te herkennen enkel vanaf de heup naar boven en dan zal dat vierkant genegeerd worden.

  • Jürgen Mouton

    Welk resultaat zou een hawaii shirt geven?!?

  • Victor Munster

    Tof; nu kunnen de Chinezen ervan uit gaan dat iedereen die een prent draagt ergens voor gezocht wordt.

  • Wesley Kenis

    Maar het detecteert de persoon soms wel ondanks de kleurplaat, dus moet er meer aan de hand zijn....ik vermoed eerder dat er een probleem is met de deel itie van "mens" in het systeem als zijnde een omlijnd heb hem en dat er word verwacht dat de persoon 99% zichtbaar is ipv een voldoende van 70% ...