Apple wil foto's van gebruikers scannen op beelden van kindermisbruik

Apple zegt dat het programma foto’s op apparaten als de iPhone en iPad gaat vergelijken met afbeeldingen van kindermisbruik uit een database van het National Center for Missing and Exploited Children in de VS. Het systeem zou een foutmarge hebben van minder dan “1 per 1 biljoen”. Het bedrijf zegt dat het pas informatie krijgt over de foto’s van gebruikers als die een collectie met bekend misbruikmateriaal in hun iCloud-account hebben.

Het techbedrijf kondigde meer maatregelen aan. Zo kan de digitale assistent Siri ingrijpen als gebruikers proberen te zoeken naar misbruikmateriaal. Ook komt er een optie in de berichtenapp Messages (Berichten) die kinderen kan beschermen als zij seksuele beelden proberen te verzenden of ontvangen. Die beelden kunnen dan geblurd worden en ouders krijgen een waarschuwing als dergelijke content wordt verstuurd of bekeken.

De Financial Times berichtte eerder al over het initiatief en omschreef het als een compromis. Apple zou proberen een balans te vinden tussen het beschermen van de privacy van klanten en het ondersteunen van overheden die meer hulp eisen bij de jacht op criminelen. Sommige experts zijn er niet gerust op. “Hiermee is het hek van de dam”, voorspelde veiligheidsonderzoeker Matthew Green van de Johns Hopkins University in de krant. “Regeringen gaan dit van iedereen eisen.”

Onderzoekers vertelden dat zo’n programma ook aangepast kan worden om andere content op te sporen, zoals beelden van onthoofdingen door extremisten of antiregeringsprotesten. Critici vrezen dat andere techbedrijven straks onder druk gezet kunnen worden om gegevens op telefoons op een vergelijkbare manier in te gaten te gaan houden.

Ingewijden legden de zakenkrant uit hoe het systeem behoort te werken. Als een foto wordt geüpload naar backupsysteem iCloud, kijkt de software of de afbeelding verdacht is. Als een bepaald aantal foto’s het label verdacht krijgt, kan Apple besluiten om alle afbeeldingen van een gebruiker te bekijken. Die kunnen dan ook aan de autoriteiten worden doorgespeeld als ze illegaal lijken te zijn.