Anthropic schakelt advocaten in voor eerlijke regels bij AI-onderhandelingen

Het Amerikaanse AI-bedrijf Anthropic onderzoekt hoe zijn chatbot Claude kan optreden als onderhandelaar voor gewone gebruikers. Dat meldt de Financial Times. Het gaat dan om taken als afdingen op een prijs, een klacht oplossen bij een bedrijf, of een beter contractaanbod afdwingen. Om te voorkomen dat zulke AI-onderhandelingen oneerlijk uitpakken, raadpleegt Anthropic advocatenkantoren die moeten helpen bepalen wat 'fair' onderhandelen eigenlijk betekent voor een machine.

Wie het duurste model heeft, wint

De aanleiding is een ongemakkelijke uitkomst uit eigen experimenten. Anthropic zag dat krachtigere, duurdere AI-modellen beter onderhandelen dan goedkopere versies. Dat klinkt logisch, maar heeft een zorgwekkend gevolg: mensen die zich alleen een gratis of goedkope AI-assistent kunnen veroorloven, krijgen straks mogelijk slechtere deals dan mensen die voor een duurder model betalen. Een technologie die bedoeld is om consumenten te helpen, kan zo bestaande economische ongelijkheid juist vergroten in plaats van verkleinen. Anthropic wil daarom vooraf nadenken over normen en grenzen, voordat AI-agents op grote schaal namens mensen gaan onderhandelen met bedrijven, verkopers of zelfs andere AI-systemen.

Advocaten als leermeesters voor Claude

Dit initiatief past in een breder plan van Anthropic om Claude beter te maken in vakgebieden waar geen duidelijk 'goed' of 'fout' antwoord bestaat. Bij wiskunde en programmeren is het relatief eenvoudig om een AI-model te trainen en te testen, omdat er meetbare, verifieerbare uitkomsten zijn: een berekening klopt of klopt niet. Bij recht, ethiek en onderhandelen ligt dat anders. Justin Curl, een onderzoeker bij Anthropic die zich bezighoudt met recht, instituties en AI, zegt dat het in de juridische wereld 'notoir moeilijk' is om te bepalen wat een goede kwaliteit antwoord is. Er is simpelweg geen kant-en-klare dataset met duizenden 'juiste' juridische oordelen om een AI-model op te trainen.

Vier maanden testen voor goed geld

Om dat gat te dichten, werft Anthropic zogeheten Conceptual Reasoning Fellows: ervaren vakmensen, vaak advocaten, die vier maanden lang Claude testen op lastige, oordeelsafhankelijke vragen binnen recht, filosofie, cognitiewetenschap, economie en politieke wetenschap. De vergoeding voor deze tijdelijke functie loopt uiteen van 100.000 tot 167.000 dollar. Hun taak is het bouwen van testcasussen en beoordelingscriteria waarmee Anthropic kan meten of Claude verstandige, verdedigbare keuzes maakt in situaties zonder eenduidig juist antwoord. Dat is precies de vaardigheid die nodig is wanneer een AI-agent straks zelfstandig moet onderhandelen over een telefoonabonnement, een verzekeringsclaim of een zakelijk contract.