Werknemers in brief: 'OpenAI is roekeloos en het ontbreekt aan toezicht'
Techbedrijf OpenAI doet te weinig om te voorkomen dat kunstmatige intelligentie-systemen (AI) gevaarlijk worden. Dat zegt een groep van negen huidige en voormalige medewerkers van het bedrijf in een open brief. De groep vindt dat OpenAI prioriteit geeft aan winst maken en groeien, maar onvoldoende oog heeft voor de risico's van de technologie. Effectief toezicht is er volgens de briefschrijvers niet.
OpenAI is het bedrijf achter de geavanceerde tekstgenerator ChatGPT. Eerder dit jaar lanceerde het bedrijf ook Sora: AI-software waarmee tekst kan worden omgezet in realistisch ogende video's.
Roekeloosheid
Bij het bouwen van deze krachtige AI-systemen zou er volgens de (oud-)werknemers een cultuur van 'roekeloosheid en geheimzinnigheid' heersen.
Daarnaast stellen ze dat OpenAI 'keiharde tactieken' heeft gebruikt om te voorkomen dat medewerkers hun zorgen delen over de technologieën van het bedrijf. Zo zouden medewerkers gedwongen zijn om overeenkomsten te tekenen die hen verbieden om na hun vertrek nog uitlatingen te doen over OpenAI. De groep roept op tot meer transparantie en bescherming van klokkenluiders binnen de organisatie.
Andere risico's van kunstmatige intelligentie die de briefschrijvers benoemen zijn onder meer het versterken van ongelijkheden en het verspreiden van desinformatie. Bovendien wijzen ze op het verlies van controle over AI-systemen, dat volgens hen 'mogelijk kan leiden tot het uitsterven van de mensheid'.
Richtingenstrijd
OpenAI werd in 2015 opgericht als onderzoekslab zonder winstoogmerk. In 2019 werd een commerciële tak opgericht, met hulp van een investering van 1 miljard dollar van Microsoft.
Vorig jaar ontstond een richtingenstrijd binnen de jonge organisatie. Een deel van de medewerkers wilde de ontwikkeling van kunstmatige intelligentie aanjagen, een ander deel wilde die ontwikkeling juist afremmen. Het leidde tot een grote crisis, waarbij topman Sam Altman ontslagen werd. Hij gelooft dat de positieve effecten van AI groter zijn dan de negatieve. Kort na zijn ontslag keerde hij alweer terug bij het bedrijf.
Met hun kritiek sluiten de negen briefschrijvers zich aan bij onder meer Ilya Sutskever, een toonaangevende AI-onderzoeker en mede-oprichter van OpenAI. Hij waarschuwde vorig jaar al voor de gevaren van de werkwijze van het bedrijf. Ook was hij degene die namens het bestuur topman Sam Altman ontsloeg, maar hij kreeg daar later spijt van.
Een woordvoerder van OpenAI zegt in een reactie aan de New York Times dat het bedrijf trots is op zijn "meest capabele en veilige AI-systemen" en "discussie [daarover] aan te moedigen".
