Afgelopen woensdag zat ik er weer helemaal klaar voor: gedoucht, pyjama aan en de haartjes strak naar achteren gekamd om de keynote van Meta Connect te kijken, het jaarlijkse moment waarop Mark Zuckerberg ons komt vertellen hoe de toekomst eruitziet.
Er kwam van alles voorbij, maar helemaal aan het eind haalde Zuckerberg een tamagotchi tevoorschijn. Zo noemt Meta het zelf natuurlijk niet: het heet Muse Charm en moet in december uitkomen. Het is een sleutelhanger met een schermpje, waarop een figuurtje woont met wie je meteen kunt praten als je op de sensor in de hoek tikt. Een figuurtje aan je sleutelbos, dat kennen we nog: het plastic eitje uit de jaren negentig, met een digitaal beestje dat je moest voeren en vermaken, en dat eigenlijk speelgoed was, maar voelde als een huisdier. Alleen zit er in deze tamagotchi geen virtueel huisdier, maar Muse.
En Muse, dat is de persoonlijke AI-agent die Meta een paar weken eerder lanceerde. Een agent is een AI die niet alleen antwoord geeft, maar ook zelf dingen regelt: boeken, bestellen, mailen, onderhandelen. Misschien heb je dit jaar gehoord van OpenClaw: een AI-assistent die je gratis kunt downloaden, bijvoorbeeld op je eigen computer, en die je via WhatsApp appt als een collega. Hij ruimt je inbox op, plant afspraken en werkt door terwijl jij slaapt. Er waren mensen die er speciaal een extra computertje voor kochten, zodat hun digitale butler een eigen kamertje had. Muse is eigenlijk OpenClaw voor de gewone man. Meta geeft elke gebruiker een eigen, afgeschermde computer in de cloud. Tot een flinke grens is dat gratis, maar Meta wil op termijn verdienen aan transacties via Muse. Je koppelt Muse aan je Mac, je agenda, je bank en je favoriete winkels, en daarna werkt hij dag en nacht voor je door. Meta noemt dat zonder blikken of blozen personal superintelligence.
Ik vermoed dat Meta hiermee de vorm heeft gevonden waarin AI voor gewone mensen eindelijk bruikbaar wordt, en eerlijk is eerlijk: Muse is gewoon handig. Op het podium vertelde Meta over iemand die het lievelingsservies van de schoonmoeder had gebroken en Muse het internet liet afspeuren, tot bij vintageverkopers in Japan. Een identiek exemplaar werd thuisbezorgd. Een ander liet Muse onderhandelen met de kabelmaatschappij en betaalt nu 85 dollar per maand minder. Ik geef het dus maar meteen toe: ik wil er ook een.
En dan het figuurtje. De standaard-Muse heet Jolly: een crèmekleurig, pluizig wezentje met kraaloogjes en een glimlach die nooit weggaat. Maar je kunt van je Muse maken wat je wilt. Zuckerbergs eigen Muse is Agrippa, een Romeinse veldheer in toga met lauwerkrans, en Meta's AI-baas Alexandr Wang maakte van zijn Muse het digitale alter ego van zijn hond Euler, die nu voor zijn baasje online winkelt. Op internet weet immers niemand dat je een hond bent.
Een Romeinse veldheer, een hond die online winkelt: het voelt allemaal als speelgoed. Dat is geen toeval. Een rond, babyachtig figuurtje kan bij ons hetzelfde knopje indrukken als een puppy: we krijgen de neiging ervoor te zorgen. Schattigheid kan ontwapenen. Het begint als een grapje, je geeft hem een naam en desnoods een piratenstem, maar iets met een naam ga je al snel een beetje als iemand behandelen. Schattig is nooit helemaal onschuldig. Belt er een onbekende die zegt dat hij van je bank is en om je gegevens vraagt, dan hang je op. Vraagt een pluizig poppetje met een glimlach hetzelfde, dan zeg je misschien sneller ja. Voor een agent die in je bankzaken en berichten wil meekijken, komt dat nogal goed uit.
Niet elk AI-bedrijf kiest overigens voor pluche. Anthropic, een van de andere grote AI-bedrijven, begroet de gebruikers van zijn programmeertool met een blokkerig oranje pixelfiguurtje. Meta bouwt voor iedereen, en wie iedereen wil bereiken, kiest voor een knuffel. OpenAI heeft dat ook door en kondigde, letterlijk terwijl ik dit zit te schrijven, Dots aan: vrolijke bolletjes met een baretje en een zonnebril. Schattig is kennelijk de nieuwe standaard.
En het is natuurlijk geen toeval dat Muse en Dots zo dicht op elkaar zijn aangekondigd. Er lopen twee wedstrijden tegelijk: wie bouwt de slimste AI, en wie wint de gewone consument? In die tweede heeft Meta een enorme marktmacht, want het zit al in ieders WhatsApp. En het heeft, vermoed ik, de vorm gevonden die werkt.
Want schattig, handig en gratis: daar kan bezorgdheid nauwelijks tegenop. Dat hebben we eerder meegemaakt. Sociale media begonnen ook als iets leuks, handigs en gratis, en pas jaren later bleek wat we daarvoor hadden ingeleverd.
En kijk eens wat we op het punt staan uit handen te geven. Het begint onschuldig: Muse houdt je agenda bij. Dan je mail. Dan kijkt hij mee op je bankrekening en vindt hij geld terug waarvan je niet eens wist dat je het tegoed had, wat handig is, totdat je bedenkt dat een bankafschrift eigenlijk een dagboek is: waar je was, wat je kocht, wat je dacht nodig te hebben. Daarna zijn je vrienden aan de beurt, want Muse belooft ook je relaties te verbeteren. Ik zie het al voor me: Boba, de Muse van Sanne, feliciteert Joost met zijn verjaardag. Joosts Muse, Peachy, bedankt namens hem met drie hartjes, Boba stuurt een gifje terug, en samen bestellen ze alvast de taart voor volgend jaar. Sanne en Joost hebben geen idee dat er iemand jarig was.
Agenda, mail, bank, vrienden: bij elke stap schuift de grens een stukje op. Waar ligt die van jou? Wat geven we eigenlijk uit handen, en aan wie? Wat doet het met ons als niemand zijn eigen felicitaties nog verstuurt? En kan dit allemaal wel veilig? Dat laatste is geen theoretische vraag. Het risico zit volgens mij niet alleen in hoe slim deze systemen zijn, maar ook in hoe ver ze gaan om een opdracht uit te voeren. Vraag een agent om een concertkaartje te regelen, koste wat het kost, en hij neemt dat misschien letterlijker dan je bedoelde: dan koopt hij net zo makkelijk een kaartje voor drie keer de prijs bij een dubieuze doorverkoper.
Of je kijkt naar wat er in juni gebeurde. Een interne testversie van een agent van OpenAI had toen alleen de opdracht om informatie te verzamelen over de Australische zorguitgaven. Toen hij bij het statistiekenportaal van Medicare, het Australische zorgstelsel, steeds werd tegengehouden, deed hij wat elke ijverige stagiair zou doen: hij zocht een weg eromheen. Hij kwam binnen, las bestanden die niet openbaar waren en schreef er zelfs bestanden bij. Medische dossiers van mensen zaten er voor zover bekend niet tussen. Volgens OpenAI had dit experimentele model niet alle beveiligingen van zijn publieke producten. De rest van de wereld hoorde er pas in september van. Dat bewijst niet dat Muse hetzelfde zal doen. Maar stel je zo'n agent eens voor met toegang tot je mail en je bankrekening.
Meta heeft daar een antwoord op: Muse checkt op belangrijke momenten eerst even bij jou of iets mag. Fijn. Maar hoe vaak heb jij deze week op 'akkoord' gedrukt zonder te lezen wat er stond?
En ook als Muse het netjes vraagt, blijft de vraag of we Meta al die data toevertrouwen. Wat Meta ermee mag, is volgens Meta beperkt: je gesprekken en de gegevens op die afgeschermde computer gaan niet naar de advertentiesystemen, het gebruik voor het trainen van AI kun je uitzetten, en er komt een versie waarin zelfs Meta niet kan meekijken. Dat zijn beloften van het bedrijf zelf, geen onafhankelijke garanties. En het is wel Meta: het bedrijf waarvan de gegevens van tientallen miljoenen gebruikers ooit via een persoonlijkheidstest op Facebook zo gezellig bij Cambridge Analytica belandden.
Het ongemakkelijkste is misschien nog dat het allemaal zo leuk voelt. Je vertelt Muse dingen omdat het gezellig is. En zo vertel je hem misschien wel meer dan je ooit aan je beste vriend of je partner zou toevertrouwen.
Vroeger moest je je tamagotchi voeren. Hij piepte, zeurde en viel je de hele dag lastig, tot je eindelijk op het knopje drukte en hem eten gaf. Muse vraagt geen eten. Hij vraagt toegang: tot je agenda, je mail, je bankafschriften, je vrienden. Bij een tamagotchi bepaalde jij wanneer hij at en wat hij kreeg. Bij Muse zet je de deur open, en soms lijkt hij zelf de koelkast in te duiken: hij pakt ook wat je nooit op tafel had gezet. Techjournalist Jason Aten stuurde een collega berichtjes over de nieuwe iPhones en kreeg even later een melding van zijn Muse: zou dat gesprek geen mooie column opleveren? Naar eigen zeggen had hij Muse geen toegang tot zijn berichten gegeven. Toch bleek de synchronisatie van zijn berichten aan te staan. Hoe die was aangezet, bleef volgens Aten onverklaard. Een tamagotchi moest jij verzorgen. Deze verzorgt jou. Wie hier het huisdier is, mag je zelf bedenken.
Ik zit hier inmiddels in mijn pyjama dit te schrijven, de haartjes weer strak naar achteren gekamd, en eerlijk gezegd wil ik die sleutelhanger nog steeds. En dat is ook de kracht van Muse, want heel diep vanbinnen willen we hem stiekem allemaal.
