Amerikaanse techreuzen beloven risico's AI te beperken, is wel vrijwillig
De belangrijkste Amerikaanse techbedrijven die werken aan het ontwikkelen van AI (kunstmatige intelligentie) beloven een reeks maatregelen te nemen. Die moeten helpen de maatschappij beter te beschermen tegen de risico's van AI. De afspraken zijn vrijblijvend, maar de bedrijven hebben wel beloofd er meteen mee aan de slag te gaan.
Zeven bedrijven hebben hun medewerking toegezegd. Het gaat met Amazon, Google, Microsoft en Meta om de top van de techsector. Ook doen drie relatief nieuwe partijen mee: ChatGPT-maker OpenAI, Anthropic en Inflection. Apple, dat ook zou werken aan z'n eigen ChatGPT-variant, is er niet bij.
De techbedrijven maken de afspraken op verzoek van het Witte Huis. Vandaag is er in bijzijn van president Biden een gezamenlijke bijeenkomst. Op deze manier wil Biden meer grip krijgen op een industrie die zich razendsnel ontwikkelt en al op diverse plekken in de maatschappij impact heeft. En dat wordt alleen maar meer, is de verwachting.
Acht beloftes
De bedrijven gaan zich committeren aan in totaal acht beloftes. Het gaat bijvoorbeeld om een systeem waarmee consumenten door AI gegenereerde content, zoals audio of een afbeelding, als zodanig kunnen herkennen. Hierbij wordt gedacht aan een soort watermerk. OpenAI en Google zijn daar al mee bezig, al is het onduidelijk hoever ze daarmee zijn en hoe het in de praktijk gaat werken.
Ook beloven de techgiganten aan red teaming te gaan doen. Dit betekent dat specialisten de grenzen van een AI-systeem gaan opzoeken om zo te ontdekken wanneer er sprake is van ongewenst gedrag. Bij een chatbot wil je bijvoorbeeld voorkomen dat die gebruikers vertelt hoe je het beste een bom kunt maken of een computer kunt hacken.
Verder is het de bedoeling dat de bedrijven informatie over de veiligheid en betrouwbaarheid van hun AI gaan delen met overheden en andere bedrijven. Daarnaast beloven de bedrijven voorrang te geven aan onderzoek waarin wordt gekeken naar de maatschappelijke risico's van AI, zoals het voorkomen van vooroordelen en discriminatie.
Niet dwingend
De vraag is hoeveel vrijheid de bedrijven krijgen om de beloften op hun eigen manier uit te werken. Als het ze, om welke reden dan ook, toch niet goed uitkomt om een van de punten uit te voeren, heeft dat niet direct consequenties. Daardoor heeft dit initiatief het risico een wassen neus te worden, iets wat in de praktijk weinig voorstelt. Het Witte Huis heeft gezegd dat Biden ook werkt aan een decreet, dat wel dwingend zou zijn. Wetgeving vanuit het Congres wordt niet direct verwacht.
De Europese Unie is juist al een tijd bezig met wetgeving over AI. Momenteel onderhandelen het Europees Parlement, de Europese Commissie en de lidstaten over een wet over kunstmatige intelligentie. Als het aan Parlement ligt, komen daar ook specifieke regels in te staan voor de taalmodellen die de motor zijn van generatieve AI-toepassingen. Hierbij kan een systeem op basis van een vraag zelf een tekst of afbeelding genereren.
De Amerikaanse regering zou verdeeld zijn over de manier waarop AI moet worden gereguleerd. Een deel zou voor de EU-lijn zijn, maar er is ook vrees dat te veel regels Amerika's concurrentiepositie - met name ten opzichte van China - in de weg kunnen zitten.
Eerder dit jaar werd topman Sam Altman van OpenAI nog gehoord door het Amerikaanse Congres. Hij is, door de razendsnelle opmars van ChatGPT, het gezicht geworden van de enorme interesse in generatieve AI. Tijdens die hoorzitting erkende hij de noodzaak van regelgeving. Hij haalde zich wel de woede op de hals van de Europese Commissie toen hij zinspeelde op een vertrek uit Europa vanwege nieuwe regels. Daar kwam hij later op terug.
