AI & computing › AI-gestuurde wetenschappelijke ontdekkingen
Google DeepMind start eigen instituut voor onderzoek naar AGI
Google DeepMind heeft een nieuw onderzoeksinstituut opgericht dat zich volledig richt op kunstmatige algemene intelligentie (AGI). Het DeepMind Institute moet wetenschappers uit uiteenlopende vakgebieden samenbrengen om vragen over veiligheid, bestuur en risico's van AGI te beantwoorden, nog voordat die technologie er daadwerkelijk is.
Google DeepMind lanceert het DeepMind Institute (DMI), een nieuw platform voor onderzoek en debat rond kunstmatige algemene intelligentie. Dat maakte het bedrijf deze week bekend. Het instituut moet onderzoekers van Google DeepMind, Google zelf en wetenschappers van buitenaf bij elkaar brengen om grote vraagstukken rond AGI te bestuderen. Denk aan veiligheid, wie er toezicht houdt op de technologie, en risico's zoals cyberaanvallen of het verlies van menselijke controle over AI-systemen.
Meer dan alleen technologie
Opvallend aan de aanpak van DeepMind is dat de antwoorden op deze vragen niet alleen van technici moeten komen. Directeuren Shane Legg, James Manyika en Demis Hassabis benadrukken dat ook de kunsten, geesteswetenschappen en beleidsmakers een rol moeten spelen. Hassabis, medeoprichter van DeepMind, ontving vorig jaar de Nobelprijs voor zijn werk aan eiwitvoorspellingen met AI. Legg is een van de langst zittende AI-onderzoekers van het bedrijf en houdt zich al jaren bezig met AI-veiligheidsonderzoek. Manyika, voormalig McKinsey-topman, adviseert Google over de bredere maatschappelijke impact van technologie.
Niemand weet precies wat AGI is
Er bestaat geen wetenschappelijk vastgelegde definitie van AGI. DeepMind zelf omschrijft het als een systeem dat over alle cognitieve vaardigheden van het menselijk brein beschikt. Dat is een hoge lat: huidige AI-systemen maken nog fouten bij simpele taken en missen creativiteit, iets wat mensen juist van nature bezitten. Toch verwachten DeepMind-kopstukken dat AGI dichterbij is dan veel mensen denken. Hassabis zegt de technologie binnen een paar jaar te verwachten, terwijl Legg recent liet weten dat een voorloper van AGI er mogelijk al in 2028 kan zijn. Ook concurrent OpenAI mengt zich in de discussie: topman Sam Altman voorspelde dat AGI er nog dit jaar kan zijn, al legt hij de nadruk vooral op de economische waarde van de technologie in plaats van op cognitieve vaardigheden.
Belangrijk is het onderscheid met ASI, kunstmatige superintelligentie. Waar AGI mikt op mensachtige intelligentie, zou ASI mensen op ieder denkbaar vlak ver overtreffen. Veel onderzoekers, waaronder DeepMind, zien AGI als een noodzakelijke tussenstap op weg naar ASI. Juist dat maakt de vraagstukken rond controleverlies urgent: hoe voorkom je dat een systeem dat slimmer wordt dan de mens zich onttrekt aan menselijk toezicht? Met het nieuwe instituut wil DeepMind die discussie nu al voeren, in plaats van pas nadat AGI werkelijkheid is geworden.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als grote techbedrijven zoals Google DeepMind zelf al instituten oprichten om de risico's van AGI te bestuderen, onderstreept dat hoe serieus zij de nabijheid van deze technologie inschatten. De uitkomst van dit soort onderzoek kan bepalend worden voor de regels en waarborgen waarmee toekomstige AI-systemen worden omgeven.
- AGI
- Kunstmatige algemene intelligentie: een AI-systeem dat net als een mens op vrijwel elk gebied kan denken en leren, in plaats van slechts één specifieke taak goed uit te voeren.
- ASI
- Kunstmatige superintelligentie: een hypothetisch AI-systeem dat de mens op elk gebied ver overtreft, verder dan AGI.
- Governance (bestuur van AI)
- De regels, structuren en toezichtmechanismen die bepalen hoe AI-technologie verantwoord wordt ontwikkeld en ingezet.
- Controleverlies
- Het risico dat een AI-systeem zich zodanig ontwikkelt dat mensen het niet meer kunnen bijsturen of stopzetten.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
