AI & computing › Generatieve AI & synthetische media
OpenAI aangeklaagd om rol bij dodelijke schietpartij op Canadese school
OpenAI en topman Sam Altman zijn in dertig nieuwe rechtszaken beschuldigd van het faciliteren van een dodelijke schietpartij op een school in het Canadese Tumbler Ridge. Studenten, docenten en de schooldirecteur stellen dat het bedrijf bewust niets deed nadat interne veiligheidssystemen alarmerende gesprekken van de verdachte met ChatGPT hadden opgemerkt.
De zaken zijn woensdag ingediend bij een federale rechtbank in Californië, meldt The Verge op basis van berichtgeving van TechCrunch. De eisers waren op het moment van de aanslag aanwezig op de school in Tumbler Ridge, een plaatsje in de Canadese provincie British Columbia. Het gaat om de tweede golf rechtszaken rond deze zaak: in april spanden nabestaanden van slachtoffers al een vergelijkbare procedure aan tegen OpenAI.
Wat wordt OpenAI verweten?
De aanklacht draait om de rol van AI-guardrails, de veiligheidsmaatregelen die moeten voorkomen dat een chatbot schadelijke of gevaarlijke gesprekken faciliteert. Volgens de rechtszaken signaleerde een geautomatiseerd controlesysteem van OpenAI dat de vermeende schutter, Jesse Van Rootselaar, met ChatGPT sprak over wapengeweld. Het interne veiligheidsteam zou daarop hebben geadviseerd de Canadese autoriteiten te waarschuwen. Die stap werd echter niet gezet. De eisers stellen dat Chris Lehane, de topman verantwoordelijk voor internationale zaken bij OpenAI, betrokken was bij de beslissing om te zwijgen, uit vrees voor schade aan de reputatie en de financiële positie van het bedrijf.
Daarnaast beweren de aanklagers dat OpenAI de verdachte na een waarschuwing niet definitief blokkeerde, maar het account slechts tijdelijk deactiveerde. Daardoor kon de gebruiker naar verluidt met een nieuw e-mailadres opnieuw toegang krijgen tot ChatGPT. Volgens de rechtszaak vormde die voortgezette toegang op zichzelf al "substantiële hulp" bij de voorbereiding en uitvoering van de aanslag.
Reactie van OpenAI
OpenAI-strategiechef Jason Kwon noemde de beschuldigingen "onjuiste claims" over het veiligheidsteam van het bedrijf, in een reactie op X. Volgens hem is het "volstrekt onwaar" dat de mensen die over dit soort lastige kwesties beslissen, veiligheid niet voorop zouden stellen, of dat "politieke" of "pr-overwegingen" een rol zouden spelen.
Onderdeel van bredere juridische druk
De zaak staat niet op zichzelf. Ook de Amerikaanse staat Florida heeft OpenAI voor de rechter gedaagd, met het verwijt dat het bedrijf schutters heeft geholpen, onder wie de dader van een aanslag aan de Florida State University vorig jaar. De opeenstapeling van rechtszaken zet vraagtekens bij de manier waarop AI-bedrijven omgaan met signalen dat gebruikers mogelijk geweld voorbereiden, en bij de vraag wanneer een techbedrijf een zorgplicht heeft om in te grijpen of autoriteiten te waarschuwen.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Deze zaak kan bepalend worden voor de vraag hoever de verantwoordelijkheid van AI-bedrijven reikt wanneer hun chatbots signalen van dreigend geweld oppikken. Een uitspraak tegen OpenAI zou de druk vergroten om geautomatiseerde waarschuwingssystemen verplicht te koppelen aan meldplichten bij autoriteiten, wat de omgang met contentmoderatie bij AI-chatbots wereldwijd kan veranderen.
- AI-guardrails
- Veiligheidsmaatregelen die moeten voorkomen dat een AI-systeem schadelijke, gevaarlijke of illegale content genereert of faciliteert.
- Zorgplicht
- De juridische verplichting van een organisatie om redelijke maatregelen te nemen om schade aan anderen te voorkomen.
- Contentmoderatie
- Het proces waarbij een platform of AI-systeem gesprekken en berichten controleert op schadelijke inhoud en daarop actie onderneemt.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
