Microsoft waarschuwt voor gevaren van gezichtsherkenning

Microsofts juridisch expert Brad Smith schrijft daarover in een uitgebreide blogpost. De technologie voor gezichtsherkenning wordt telkens accurater en tevens op grotere schaal ingezet. Volgens Smith zit daar nu geen rem op: ontwikkelaars blijven de techniek doorontwikkelen zonder zich over het ethische aspect te bekommeren. Overheden zetten gezichtsherkenning vervolgens in om op grote schaal privacy-inbreuk te maken zonder dat de bevolking er iets tegenin kan brengen.

Ethiek en techniek

Bij de Amerikaanse overheid ligt nu een belangrijke taak voor het reguleren van deze gegevensverzameling, zegt Smith. Zo moeten burgers beter beschermd zijn tegen softwarematige fouten, wanneer de techniek iemand ten onrechte identificeert. De vraag is ook of ieder individu apart toestemming hiervoor dient te geven en of ze hun eigen gegevens moeten kunnen terugvinden in een doorzoekbare database. En hoe beveilig je dat dan voldoende?

Microsoft wil in ieder geval het goede voorbeeld geven door de ontwikkeling van gezichtsherkenning binnen het bedrijf aan strengere eisen te laten voldoen. Zo is er vorig jaar binnen Microsoft speciaal een divisie opgericht die zich buigt over de ethiek van kunstmatige intelligentie en techniek, het Aether Committee. Zij werken samen met techneuten om ervoor te zorgen dat 'facial recognition' minder snel misbruikt kan worden.

Hoe zit het bij ons?

Interessant is dat Europa wat betreft deze vraagstukken voorloopt op de Verenigde Staten. In de nieuwe privacy-wet (Algemene Verordening Gegevensbescherming, ofwel AVG) valt gezichtherkenning onder het verzamelen van biometrische data, net zoals bijvoorbeeld een vingerafdruk. Bedrijven mogen de technologie alleen inzetten als ze gebruikers daar specifiek toestemming om vragen. Daarnaast moeten ze transparant zijn in wat er met die gegevens wordt gedaan.