"Ze willen je niet slimmer maken, ze willen je meer reclame laten kijken en zo lang mogelijk online houden", zegt Guillaume Chaslot. De Franse programmeur werkte van 2010 tot 2013 aan de algoritmen van YouTube, het videoplatform van Google. Hij vindt dat hij een monster van Frankenstein heeft gecreëerd.
Het programma bepaalt zelf welke filmpjes een kijker krijgt aangeraden. "Het doet er niet toe of iets waar is of niet. En ook niet of je het wel leuk vindt. Nog erger: de waarheid betekent vaak dat mensen minder lang kijken", zegt Chaslot. En een een kortere kijkduur is weer nadelig voor de advertentieverkoop.
Google bestrijdt de uitspraken van Chaslot en zegt dat de techniek na zijn vertrek is aangepast. "Hoewel we eerder meer waren gericht op het optimaliseren van de kijkduur, zijn we in de afgelopen jaren gaan focussen op hoe tevreden mensen zijn met de tijd die ze op YouTube doorbrengen", zegt het bedrijf in een reactie.
Maar als je kijkt naar video's die worden aanbevolen, dan is die nieuwe focus nog niet altijd zichtbaar. Na een schietpartij op een school in Florida begin dit jaar, stond een video waarin wordt geclaimd dat een van de getroffen scholieren een acteur is, urenlang bovenaan de lijst van aanbevolen video's.
Chaslot maakt nu op zijn website www.algotransparency.org inzichtelijk wat de algoritmen nog meer aanraden. Zo zijn filmpjes die claimen dat aarde plat is of dat Michelle Obama een man is, veruit in de meerderheid. Als je klikt op zo'n filmpje krijg je er door de algoritmen nog meer voorgeschoteld, zegt Chaslot.
Het maakt met name jongeren kwetsbaar voor desinformatie. Deze maand bleek nog uit onderzoek dat het aantal millenials dat betwijfelt of de aarde rond is groeit. Slechts twee derde van de Amerikaanse jongvolwassenen is "er altijd van overtuigd geweest dat de aarde rond is".
James Williams werkte tien jaar als reclamestrateeg bij Google, maar waarschuwt nu juist voor de invloed van grote techbedrijven. Die hebben volgens hem een 'aandachtseconomie' gecreëerd, waarin adverteerders continu strijden om de tijd en aandacht van de consument.
"De diensten proberen onze aandacht vast te houden en ons betrokken te maken, zonder dat daarmee een maatschappelijk belang is gediend. Het is ook in strijd met onze persoonlijke doelen", zegt Williams. "Niemand neemt zich 's ochtends voor om urenlang op internet te surfen."
Williams is mede-oprichter van Time Well Spent, een organisatie die de balans wil helpen herstellen. Ook promoveert hij komende maand aan de universteit van Oxford op 'ethisch technologie-design'.
Ego, haat, hebzucht en geweld
Ook Mo Gawdat heeft Google na ruim tien jaar trouwe dienst verlaten om een andere koers te volgen. Hij was tot vorige maand chief business manager bij Google X, de uitvindingentak van de techgigant. Daar werd de Google Glass bedacht en jarenlang gewerkt aan de zelfrijdende auto. Nu focust de Google-tak zich op onder andere robots.
Het menselijk brein staat model voor de kunstmatige intelligentie, maar Gawdat vreest dat we het slechte voorbeeld geven. "Onze intelligentie draait in de huidige wereld om ego, haat, hebzucht en geweld. Machines zullen leren zulke waarden te ontwikkelen, wat niet in ons voordeel hoeft te zijn."
Neem de chatbot 'Tay' van Microsoft, die twee jaar geleden online werd gezet. Na enkele uren op Twitter had ze racistische- en antisemitische taal aangeleerd van andere gebruikers en ontkende ze de Holocaust. Tay werd binnen een etmaal weer offline gehaald.
Moslims schotelt het content voor met haat jegens het Westen. Westerlingen schotelt het haat jegens moslims voor.
De huidige techniek vergroot volgens Gawdat pestgedrag en haatzaaierij. Williams sluit zich daarbij aan. "Het probleem is een bedrijfsmodel dat stimuleert om mensen content te bieden die ze kwaad maakt." Dat is volgens hem problematischer dan bijvoorbeeld datalekken, zoals het recente privacyschandaal bij Facebook.
Ook Chaslot constateert dat haatzaaiende en opruiende video's het goed doen op YouTube. Het gaat volgens hem om duizenden video's die "de maatschappij verscheuren". "Alle conflicten worden versterkt door het algoritme. Zo schotelt het moslims content voor met haat jegens het Westen. En westerlingen schotelt het haat jegens moslims voor."
Volgens Williams is het "het grootste politieke en morele vraagstuk" van deze tijd. "Nooit hebben enkele mensen in Silicon Valley de mening en het gedrag van miljarden mensen zo kunnen beïnvloeden. Er is een cruciale vraag die de samenleving moet beantwoorden: welke vorm van psychologische manipulatie is nog aanvaardbaar?"
Gawdat toont zich optimistischer. Volgens hem kunnen we met zijn allen onze toekomst programmeren. "Met elke chat, elke tweet, elke Facebookpost of elke like geef je aan wat belangrijk voor je is. Als je de juiste dingen liket, liken machines ze ook."
