De gewraakte tag Twitter / diri noir avec banan

Google Photo tagt zwarte vrouw als gorilla

tijd van publicatie

Sinds een dikke maand kan Google Photos automatisch foto's taggen en in een album zetten. Handig, maar bij een donkere man en zijn vriendin ging dat goed fout. Hun foto kreeg de tag 'gorilla'.

Een nogal pijnlijke fout van de app. En eentje die meteen op veel kritiek kon rekenen toen de jongen die op de foto staat achter Twitter kroop.

Hoe kan dit nou zo gebeuren? 

Uiteindelijk is de gorilla-tag verwijderd, maar of dit te voorkomen was is de vraag. Techredacteur Rachid Finge is ieder geval niet verbaasd door het voorval: "Hier kon je op wachten. Dit gaat geheel automatisch, computers die zelf iets leren. Dan is er altijd een kans dat 'ie iets verkeerd leert. Dat is hier heel duidelijk gebeurd."

Om te begrijpen hoe het kan dat het koppel als gorilla's wordt getagd, legt Rachid het concept machine learning uit. "Simpel gezegd: ze voeren computers miljoenen foto's met onderschriften. Zo leert de computer patronen herkennen. Zo ziet het bijvoorbeeld de vorm van een kat en heel vaak het woord 'cats'. Zo leert de computer wat een kat is." 

Reactie Google: niet alleen bij donkere mensen

Google zelf zegt "geschokt te zijn en oprecht spijt te hebben" dat dit kon gebeuren. Volgens hen is de app nog erg nieuw en verre van perfect. Zo ziet het soms paarden aan voor honden. "Er is nog altijd veel te verbeteren aan het automatische taggen", laat een woordvoerder weten.

Op Twitter reageert een Googler die aan de app werkt geschokt. Hij laat weten dat machine learning moeilijk is: "Eerder verwarde de app blanke gezichten al met honden en zeehonden."

Algoritmes zijn net kleine kinderen

Ook Rachid zegt dat het niet zo makkelijk is: "Google kan niet zo heel veel doen, behalve de computer proberen te leren onderscheid te maken tussen mensen en gorilla's. In dit geval hebben ze het automatisch toevoegen van de tag gorilla aan foto's uitgeschakeld om herhaling te voorkomen."

Maar dat het bij deze ene keer blijft, is niet waarschijnlijk: "Je kunt een fout als deze zeker weer verwachten. In mijn eigen databank worden katten soms voor honden aangezien. Dat is niet zo pijnlijk natuurlijk, maar je kunt er vergif op innemen dat er wél een pijnlijke verwisseling komt". 

Het enige dat helpt om de kans op fouten kleiner te laten worden is als de algoritmes meer leren en dus beter worden in onderscheid maken. Rachid: "Eigenlijk precies als met kleine kinderen."