Een collega van de boekhouding twijfelt over een mail. Er moet geld weg, het is geheim, en dat voelt niet goed. Dan komt er een uitnodiging voor een videogesprek. Daar zit de financieel directeur, met een paar bekende gezichten erbij. Ze knikken, ze praten, de twijfel is weg. Zo werkt een deepfake die zijn werk goed doet.
Dat is geen verzonnen scène. Het overkwam begin 2024 een medewerker van ingenieursbureau Arup in Hongkong. Volgens de politie zette hij zijn twijfel opzij “after the video call because other people in attendance had looked and sounded just like colleagues he recognized”, schreef CNN. Hij maakte in vijftien overboekingen zo’n 25 miljoen dollar over.
Donderdag kwam er een cijfer bij dat laat zien hoe ver dit inmiddels is.
Bijna de helft hield de AI na één minuut voor een mens
Het Amerikaanse Tavus presenteerde Griffin, een model dat live een gezicht, een stem en antwoorden maakt in een videogesprek. Het luistert, kijkt mee via je camera en knikt terwijl jij praat. Gezicht en achtergrond maakt het uit één foto, een stem kloont het volgens Tavus uit ongeveer tien seconden audio.
Tavus liet 54 mensen één minuut videobellen met een gesprekspartner. Ze hoorden dat het een andere deelnemer was. Het was Griffin. Na afloop dachten 26 van de 54 dat ze met een echt mens hadden gesproken. Bij het vorige model van Tavus was dat 1 op de 41.
| Uit de Tavus-proef | Uitkomst |
|---|---|
| Dacht na één minuut: een mens | 26 van de 54 (48%) |
| Dacht er niet eens aan | Meer dan de helft |
| Wie twijfelde, deed dat | Meestal binnen 20 seconden |
| Score betrouwbaar (1-7) | Gemiddeld 5,6 |
Lees de tweede en derde regel samen. Meer dan de helft dacht er niet eens aan, en wie wel twijfelde, deed dat vroeg. Een onderbuikgevoel is dus geen controle waar je een betaling op kunt bouwen.
Tavus zegt zelf dat Griffin mensen kan misleiden
Het bedrijf is daar opvallend eerlijk over. Op de onderzoekspagina staat letterlijk: “The same properties that make Human Interaction Models powerful interfaces for natural communications between human and machine allow them to deceive a human into believing it is not AI.”
Daarom mogen klanten Griffin nog niet gebruiken. Alleen een kleine groep testers heeft toegang. Tavus werkt naar eigen zeggen aan “safe disclosure features”, functies die laten merken dat je met AI praat. Tavus verwacht Griffin “very soon” uit te brengen zodra die zorgen zijn opgelost. Een datum staat er niet bij.
Dat zinnetje uit de reclamefilm botst met de eigen proef. Daar hoorden de deelnemers juist dat ze met een andere deelnemer praatten. Logisch voor een experiment. Maar het laat zien dat het verschil tussen “eerlijk over AI” en “doet zich voor als mens” één instelling is.
Wat ziet een kritische tester wel?
Elsa Cai kreeg vooraf toegang en belde met Griffin alsof ze een fotograaf wilde boeken. Haar eerste reactie op X: “this lowk should NOT be released to the public yet”.
Ze zag wel verschillen. Het hoofd beweegt “almost too smooth”, schrijft ze, en het gezicht reageert net vóór de rest van het lichaam. Maar daar schreef ze meteen bij dat “just look closely at the video” over zes maanden geen serieuze manier meer is om echt van nep te onderscheiden.
Een deepfake videogesprek is een bericht, geen bewijs
Ons oordeel: behandel een videogesprek zoals je een mail behandelt. Het kan kloppen, het kan nep zijn, en je ogen beslissen dat niet. Bij Arup nam juist het videogesprek de twijfel weg. De medewerker vertrouwde de mail niet, en de bekende gezichten in beeld maakten dat goed.
Dat is dezelfde val als bij CEO-fraude per mail en bij via de telefoon: de aanvaller bouwt jouw controle in zijn eigen script. Alleen voelt een gezicht nog overtuigender dan een stem.
En dan onze eigen kant. In juli schreven we over deepfake-fraude met de stem van je directeur. Dat advies klopt nog steeds, maar het was te smal: het ging over de stem, en het videogesprek als nepcontrole kwam er niet in voor. Wie daar “ik zag hem toch” als controle laat staan, heeft een gat in zijn proces.
Tegelijk is paniek over Griffin zelf misplaatst. Het model is niet te koop, en de Arup-fraude lukte al in 2024 zonder zo’n model. Het probleem is niet één bedrijf in San Francisco. Het probleem is een betaalproces dat leunt op wat je ziet.
Bel terug op een nummer dat je al had, ook na een videogesprek
Spreek met iedereen die betalingen mag goedkeuren af: een verzoek dat in een videogesprek binnenkomt, bevestig je altijd via een tweede kanaal dat jij kiest. Bel terug op het nummer uit je eigen adresboek, niet op het nummer of de link uit het gesprek.
- Het verzoek komt binnen, per mail, app of videogesprek.
- Je hangt op of rondt het gesprek af, ook als het “dringend” is.
- Je belt zelf terug op een nummer dat je al had.
- Pas na die bevestiging gaat er iets de deur uit.
Het kost een minuut, en het werkt ongeacht hoe goed het gezicht in beeld is. Wil je weten hoe je team ervoor staat, doe dan de firewall test. De achtergrond over hoe oplichters je inspelen op vertrouwen staat bij social engineering, en waarom een bekend nummer of naam in beeld geen bewijs is.
Dat is in het klein waar een human firewall om draait: niet beter kijken, maar een vaste stap die je ook zet als alles echt lijkt.
De wet verplicht AI om zich te melden, oplichters niet
Sinds 2 augustus 2026 geldt artikel 50 van de Europese AI-verordening. Wie een AI-systeem aanbiedt dat rechtstreeks met mensen praat, moet zorgen dat mensen weten dat ze met AI te maken hebben. Voor een bedrijf dat Griffin straks netjes inzet, is dat een duidelijke regel.
Een oplichter houdt zich daar niet aan. De wet helpt dus vooral om nette toepassingen herkenbaar te maken. Beschermen tegen misbruik doet hij niet.
Tavus noemt geen datum voor een bredere uitrol. Komt die er, dan is de eerste vraag of de “safe disclosure features” in het model zelf zitten of uit te zetten zijn door wie het inzet. Is het een vinkje voor de klant, dan staat het bij de eerste fraudeur gewoon uit.
Rik Hoogland
Rik begeleidde jarenlang phishing-simulaties en awareness-programma's bij Nederlandse organisaties. Op Humanfirewall.nl legt hij uit hoe oplichters mensen bespelen en hoe je daar als team tegen bestand raakt. Stel Rik je vraag.
Zelf een situatie die niet vertrouwd voelt?
Beschrijf wat er gebeurde of waar je over twijfelt, dan denkt Rik mee over de juiste reactie.