Perplexity brengt AI-agent Portable Computer naar Windows-pc's met NVIDIA RTX

Perplexity is vooral bekend van zijn AI-zoekmachine, maar het bedrijf bouwt ook aan agentic AI: software die zelfstandig meerdere stappen uitvoert om een taak af te ronden. Computer heet die agent, en Portable Computer is de lokale variant die volledig op de eigen pc draait in plaats van in de cloud. Die versie is tot nu toe beschikbaar voor NVIDIA DGX Spark-systemen en voor RTX-pc's met Linux. Vanaf nu werkt de app ook op Windows-computers met een geschikte NVIDIA GeForce RTX-videokaart of een RTX PRO-workstation.

Het grote voordeel van lokaal draaien is privacy. Bestanden en data blijven op het apparaat zelf, in plaats van dat ze naar een server van Perplexity worden gestuurd. Werk dat lokaal wordt afgerond, verbruikt bovendien geen tegoed (credits) van de clouddienst van Perplexity. Alleen als een taak echt zware redeneerkracht vergt, vraagt de agent toestemming om gegevens alsnog naar een krachtiger cloudmodel te sturen.

Wat kan de agent voor gewone gebruikers doen?

Perplexity noemt een aantal voorbeelden. Een softwareontwikkelaar kan de agent openstaande aanvragen in een GitHub-project laten sorteren op status en verouderde documentatie laten signaleren. Iemand die zijn financiën op orde wil krijgen, kan de agent twee jaar aan bankafschriften en belastingaangiften laten doorzoeken op verborgen kosten, met een verwijzing naar het exacte document en de pagina waar een bedrag vandaan komt. Een startup kan de agent vragen waarom het aantal actieve gebruikers stagneert; de software analyseert dan lokaal de exportbestanden en deelt de belangrijkste inzichten automatisch in het Slack-kanaal van het team. Connectoren voor onder meer Microsoft Outlook, OneDrive, Word, Google Drive, Gmail en Slack zorgen ervoor dat de agent toegang heeft tot bestanden die mensen dagelijks gebruiken.

Lokaal AI-model, versneld door de grafische kaart

Om dit alles op een gewone pc te laten werken, gebruikt Perplexity een lokaal taalmodel dat specifiek is post-trained voor deze agent en geoptimaliseerd is voor NVIDIA-hardware, zoals een variant van Qwen 3.8 27B. Gebruikers hoeven zelf geen modellen te zoeken of ingewikkelde software te installeren; de app regelt dat automatisch. De rekenkracht komt van de GPU-versnelling van de RTX-kaart, die het mogelijk maakt om een taalmodel van tientallen miljarden parameters lokaal te laten draaien. Daarvoor is wel stevige hardware nodig: minimaal 24 GB VRAM, het videogeheugen van de grafische kaart. Ondersteuning voor NVIDIA's DGX Station-systemen volgt binnenkort. De agent werkt bovendien in een afgeschermde sandbox-omgeving, met een ingebouwde browser waarmee het zelfstandig op internet kan zoeken zonder de rest van het systeem te raken.