Een AI-assistent die in je kamer staat, moet je met één fysieke handeling stil kunnen maken. Geen menu, geen stemcommando en geen instelling die na een update ineens ergens anders staat. Bloomberg meldt dat OpenAI’s eerste product een verplaatsbare, schermloze homespeaker wordt die als AI-companion een band met de gebruiker moet opbouwen. OpenAI heeft die vorm nog niet zelf bevestigd.

We weten dus nog te weinig voor een technische review. Wel genoeg voor de belangrijkste vraag: welke controle moet jij krijgen voordat zo’n apparaat je huis of kantoor in mag?

Conceptbeeld van een hand die de fysieke muteknop op een schermloze AI-assistent indrukt
Conceptbeeld, geen gepubliceerd ontwerp van OpenAI.

1. Is er een echte fysieke muteknop?

Een lampje is geen muteknop. En een softwareknop is alleen zo betrouwbaar als de software erachter. De Amerikaanse FTC adviseert bij voice assistants expliciet te controleren of er een fysieke knop of schakelaar is die luisteren stopt. De Britse privacytoezichthouder ICO noemt dezelfde functie als aankoopcriterium voor slimme speakers.

Mijn ondergrens is simpel: de knop moet de microfoon hardwarematig kunnen onderbreken en dat moet zichtbaar blijven, ook zonder internet.

2. Kun je zien wanneer het apparaat luistert?

Een schermloos apparaat heeft geen statusbalk. Dat maakt een duidelijk licht- of geluidssignaal belangrijker. Niet alleen bij een bewust commando, maar ook wanneer het apparaat denkt een activeringswoord te horen.

De FTC waarschuwt dat voice assistants soms iets verkeerd verstaan en daardoor onverwacht beginnen op te nemen. Een stille softwaremelding op je telefoon komt dan te laat.

3. Wat wordt lokaal verwerkt?

Luisteren naar een activeringswoord kan lokaal. Een volledig gesprek, profiel of agenttaak kan alsnog naar servers gaan. Vraag daarom niet alleen “staat de microfoon aan?”, maar ook:

  • welke audio verlaat het apparaat;
  • of transcripties worden bewaard;
  • of gesprekken worden gebruikt om modellen te verbeteren;
  • hoe je opnames en afgeleide herinneringen verwijdert.

Bloomberg heeft over deze datastroom nog geen bevestigde details gepubliceerd. Elk stellig antwoord is nu dus voorbarig.

4. Snapt het verschil tussen jou en je bezoek?

Een companion leert waarschijnlijk pas iets nuttigs als hij context aan een persoon kan koppelen. Maar in een woonkamer praten ook partners, kinderen, collega’s en bezoek. Zij hebben niet automatisch ingestemd met een persoonlijk AI-profiel.

De ICO wijst erop dat spraakherkenning die mensen identificeert biometrische gegevens kan verwerken. Een goed ontwerp moet daarom gastgebruik, stemprofielen en tijdelijk geheugen los van elkaar kunnen zetten.

5. Kan één gebruiker grenzen voor iedereen bepalen?

De eigenaar van het account is niet de eigenaar van ieder gesprek in de kamer. Denk aan een werkkamer aan huis, een keukentafel met kinderen of een kantoor waar klanten binnenlopen. Daar hoort een eenvoudige huisregel bij: mute bij vertrouwelijke gesprekken, en geen langdurig geheugen zonder duidelijke afspraak.

Dat is dezelfde les als bij shadow AI op de werkvloer. De techniek komt vaak binnen vóór iemand heeft bepaald wat er wel en niet in mag.

6. Hoe lang krijgt het beveiligingsupdates?

Een apparaat met microfoon, accounttoegang en mogelijk smart-homekoppelingen is een onderdeel van je netwerk. Het NCSC adviseert vóór aanschaf te controleren hoe lang een slim apparaat ondersteuning krijgt, standaardinstellingen aan te passen en onnodige internettoegang uit te zetten.

OpenAI moet dus niet alleen een mooi apparaat leveren. Het moet een concrete updateperiode, snelle beveiligingspatches en duidelijke meldingen bij het einde van ondersteuning geven.

7. Welke acties mag de companion zelfstandig uitvoeren?

Een speaker die alleen antwoord geeft is één ding. Een agent die je agenda leest, berichten verstuurt of aankopen doet heeft rechten nodig. Geef die per functie, niet als één grote “akkoord”-knop.

Voor gevoelige acties hoort een tweede bevestiging te gelden. Liefst op een apparaat met scherm, zodat je bedrag, ontvanger of bericht terugziet voordat het weg is. Bij stemfraude is alleen een bekende stem al lang geen bewijs meer; zie onze uitleg over deepfake-fraude met de stem van je directeur.

Wat ik vóór een aankoop wil zien

  • een hardwarematige mute met een ondubbelzinnige status;
  • een overzicht van audio, transcripties en geheugen per gebruiker;
  • verwijderen zonder verborgen bewaartermijn;
  • gastmodus en kinderinstellingen;
  • rechten per gekoppelde dienst;
  • een gepubliceerde updateperiode.

Tot die informatie er is, is “companion” vooral een ontwerpbelofte. De human firewall begint hier niet bij wantrouwen, maar bij één nuchtere vraag: kan ik het apparaat echt uitzetten?

Bronnen

Rik Hoogland, security-awareness-specialist en vaste auteur van Humanfirewall.nl

Rik Hoogland
Rik begeleidde jarenlang phishing-simulaties en awareness-programma's bij Nederlandse organisaties. Op Humanfirewall.nl legt hij uit hoe oplichters mensen bespelen en hoe je daar als team tegen bestand raakt. Stel Rik je vraag.

Zelf een situatie die niet vertrouwd voelt?

Beschrijf wat er gebeurde of waar je over twijfelt, dan denkt Rik mee over de juiste reactie.