AI & computing › Agentic AI & autonome agents
Signal blokkeert screenshots om AI-assistenten als Gemini en Siri buiten te houden
Messaging-app Signal gaat het maken van screenshots op telefoons beperken om te voorkomen dat AI-assistenten zoals Siri en Gemini meelezen met gesprekken. De maatregel is volgens Signal-president Meredith Whittaker broodnodig, maar lost het probleem niet volledig op.
Signal, de app die bekendstaat om versleutelde chats, voert een nieuwe beveiligingsfunctie in op Android en iOS. Gebruikers kunnen voortaan instellen dat er geen screenshots meer gemaakt kunnen worden binnen de app. Daarmee wil Signal verhinderen dat AI-assistenten die in moderne besturingssystemen zijn ingebouwd, zoals Apple's Siri en Google's Gemini, de inhoud van het scherm kunnen aflezen en analyseren.
AI-agents lezen mee met je scherm
Steeds meer smartphones hebben AI-functies die continu kunnen zien wat er op het scherm gebeurt, om gebruikers te helpen of suggesties te geven. Dat klinkt handig, maar betekent ook dat die AI-systemen in principe privéberichten kunnen lezen, inclusief gesprekken die via Signal worden versleuteld verstuurd. Meredith Whittaker, president van Signal, noemt deze ontwikkeling in een blogpost een bedreiging voor de privacy van gebruikers. Volgens haar ondermijnen deze AI-agents, functies die zelfstandig taken uitvoeren op basis van wat ze op een scherm zien, de garanties die Signal aan zijn gebruikers geeft.
Met de nieuwe instelling kunnen gebruikers in de app zelf aangeven of screenshots geblokkeerd moeten worden. Standaard staat deze bescherming aan, maar wie de functie uitschakelt, loopt het risico dat AI-assistenten alsnog chatinhoud kunnen lezen. Signal waarschuwt daar nadrukkelijk voor in de instellingen van de app.
Oplossing is niet compleet
Whittaker erkent dat de maatregel niet alle risico's wegneemt. AI-agents kunnen namelijk ook via andere routes bij appdata komen, bijvoorbeeld door bestanden rechtstreeks van het apparaat uit te lezen. Ook noemt ze het risico van agents die gebruikmaken van toegankelijkheidsfuncties in telefoons, oorspronkelijk bedoeld voor mensen met een beperking, om als een soort loper alle appdata te benaderen. Als voorbeeld noemt ze Muse, een AI-agent van Meta.
Signal nam eerder al een soortgelijke maatregel tegen Recall, een omstreden functie van Microsoft waarmee Windows-computers doorlopend screenshots van het scherm opslaan. Whittaker roept Apple, Google en Microsoft nu op om app-ontwikkelaars betere technische middelen en duidelijke documentatie te geven, zodat zij zelf kunnen bepalen welke data AI-systemen wel en niet mogen inzien. Op macOS kan Signal de nieuwe bescherming vanwege technische beperkingen nog niet aanbieden.
Volgens Whittaker is Signal slechts de eerste partij die zich hardop tegen deze ontwikkeling uitspreekt. Ze noemt de huidige manier waarop AI-agents in besturingssystemen zijn geïntegreerd een bedreiging voor de privacy van alle apps, niet alleen van Signal.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Deze zaak laat zien dat de opkomst van AI-assistenten die telefoons en computers steeds dieper doorzoeken, botst met bestaande privacywaarborgen. Als grote techbedrijven geen betere controlemechanismen bieden, moeten app-ontwikkelaars zelf noodoplossingen bouwen die de gebruikerservaring kunnen schaden. Dit kan de discussie aanwakkeren over wie uiteindelijk de regie heeft over data op je eigen apparaat.
- AI-agent
- Een AI-systeem dat zelfstandig taken uitvoert, bijvoorbeeld door schermen uit te lezen of apps te bedienen, in plaats van alleen vragen te beantwoorden.
- Versleuteling (encryptie)
- Een techniek waarmee berichten worden omgezet in onleesbare code, zodat alleen de verzender en ontvanger de inhoud kunnen lezen.
- Toegankelijkheidsfuncties
- Instellingen in besturingssystemen die oorspronkelijk zijn ontwikkeld om mensen met een beperking te helpen, maar die ook door software gebruikt kunnen worden om dieper in apps te kijken.
- Recall
- Een functie van Microsoft die doorlopend screenshots van een Windows-scherm maakt en opslaat, zodat gebruikers eerdere schermactiviteit kunnen terugzoeken.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.