AI & computing › Generatieve AI & synthetische media
OpenAI, Anthropic en Google praten al weken geheim over AI-veiligheid
Aartsrivalen OpenAI, Anthropic en Google DeepMind blijken al weken achter de schermen te overleggen over de veiligheid van geavanceerde AI-modellen. Dat bevestigde OpenAI's beleidschef Chris Lehane deze week, nadat eerdere berichtgeving en een oproep van Anthropic-topman Dario Amodei al op zulke gesprekken wezen. De timing is opvallend: de bedrijven strijden fel om marktaandeel, maar zoeken nu gezamenlijk naar manieren om de risico's van steeds krachtigere AI-systemen te beperken.
Chris Lehane, wereldwijd beleidschef van OpenAI, vertelde deze week aan journalisten dat zijn bedrijf al enkele weken in gesprek is met concurrenten Anthropic en Google DeepMind over veiligheidsmaatregelen rond frontier AI: de meest geavanceerde AI-modellen die op dit moment worden ontwikkeld. Lehane bevindt zich in Washington om met Amerikaanse parlementsleden te praten over de risico's van dergelijke technologie.
Het nieuws komt kort na een spraakmakend essay van Anthropic-ceo Dario Amodei, dat afgelopen zaterdag verscheen. Daarin riep hij de hele sector op om samen te werken en het tempo van AI-ontwikkeling te vertragen, om zo grote risico's te voorkomen. Topmannen als Sam Altman van OpenAI, Demis Hassabis van Google en Elon Musk van xAI steunden die oproep. Altman liet weten dat OpenAI, net als Anthropic, onafhankelijke controleurs binnen het eigen bedrijf gaat toelaten om toe te zien op veilige ontwikkeling.
Balanceren tussen samenwerking en concurrentie
De onthulling roept meteen ingewikkelde vragen op. Sommigen, onder wie Altman zelf, wezen erop dat te nauwe samenwerking tussen concurrenten in strijd kan zijn met mededingingswetgeving, omdat het de concurrentie tussen bedrijven kan onderdrukken. Amodei stelde in zijn essay voor dat de Amerikaanse overheid een uitzondering zou moeten maken om zulke veiligheidscoördinatie mogelijk te maken. Lehane liet echter doorschemeren dat de bedrijven zo'n vrijstelling niet nodig denken te hebben.
Het gaat verder dan alleen overleg. Volgens berichtgeving van The Information werken de drie techreuzen ook aan een gezamenlijk standaardenkader voor de AI-industrie. Altman zou intern hebben gezegd dat zo'n initiatief er hoe dan ook moet komen, ook zonder steun vanuit de Amerikaanse overheid. Hassabis pleitte al in juli voor een nieuw overheidsorgaan dat als waakhond zou moeten optreden: een instantie die de krachtigste AI-modellen kan doorlichten en zo nodig een pas op de plaats kan afdwingen in de hele sector.
Politieke tegenwind
Niet iedereen in Washington staat te springen om strengere regels. President Trump noemde zorgen over AI-veiligheid eerder een hoax en waarschuwde dat een vertraging in de VS China een voorsprong zou geven. Zijn AI-adviseur David Sacks, zelf een investeerder met belangen in de sector, noemde angst voor existentiële risico's overdreven.
Toch klinkt er ook vanuit de industrie steun voor concrete wetgeving. Lehane liet weten dat OpenAI een onderdeel van de zogeheten FRONTIER Act steunt. Dat wetsvoorstel zou de belangrijkste AI-laboratoria verplichten om onafhankelijke controleorganisaties toegang te geven, zodat extern kan worden gecontroleerd of modellen veilig worden ontwikkeld. Anthropic, Google en OpenAI hebben nog niet officieel gereageerd op vragen van de pers over de precieze inhoud van hun onderlinge afspraken.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als de grootste AI-bedrijven ter wereld gezamenlijk optrekken op het gebied van veiligheid, kan dat leiden tot bredere industrienormen die verder gaan dan wat individuele overheden nu afdwingen. Tegelijk toont de discussie over mededingingsregels aan hoe lastig het is om samenwerking en concurrentie in een snel groeiende sector met elkaar te verenigen.
- Frontier AI
- De meest geavanceerde generatie AI-modellen, die vaak als eerste nieuwe mogelijkheden en risico's met zich meebrengen.
- Superalignment
- Onderzoek gericht op het onder controle houden van AI-systemen die mogelijk slimmer worden dan mensen.
- AI-veiligheidsonderzoek
- Het vakgebied dat zich bezighoudt met het voorkomen dat AI-systemen ongewenst of gevaarlijk gedrag vertonen.
- Antitrustwetgeving
- Wetgeving die oneerlijke afspraken tussen concurrerende bedrijven moet voorkomen, zodat de markt eerlijk blijft functioneren.
- FRONTIER Act
- Een Amerikaans wetsvoorstel dat toonaangevende AI-bedrijven zou verplichten onafhankelijke controle op hun veiligheidspraktijken toe te staan.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
