Nepnieuws is al jaren een groot probleem, en het wordt nog erger. Nepnieuws is al nauwelijks te onderscheiden van echte, objectieve berichtgeving. Internetbrowsers en mediabedrijven kregen de afgelopen jaren de verantwoordelijkheid om de verspreiding hiervan tegen te gaan. De opkomst van deepfakes of ‘digital me’ is de volgende stap in technologische ontwikkeling.
Gartner noemde ‘digital me’ onlangs als een van de vijf opkomende innovatieve technologieën. Met behulp van kunstmatige intelligentie (ai) is het mogelijk nepvideo’s te maken waarin het lijkt alsof iemand iets zegt die dat in werkelijkheid niet heeft gedaan. Dit brengt belangrijke implicaties met zich mee voor nepnieuws, fraudepreventie, persoonlijke reputatie en ga zo maar door. Om dit te voorkomen, hebben we meer nodig dan ai.
Oorlog winnen
We zullen deze oorlog alleen winnen als we technologie combineren met beleid en bewustwording. Om een partnerschap tussen overheden, technologiebedrijven en consumenten te bereiken, moeten we een stap terug doen. Wat hebben we nodig om te profiteren van de voordelen van deze nieuwe technologie? Want hoe vermakelijk is het als we YouTube-video’s kunnen zien waar beroemdheden dingen (lijken te) zeggen die ongelooflijk zijn? Technologie verbetert de klantervaring en vermindert de productietijd en -kosten. Maar betekent dit het einde van betrouwbare video’s als je met ai iedereen alles kunt laten zeggen?
Alle nieuwe toepassingen gaan hand in hand met een grote behoefte aan solide wetgeving. Er moeten grenzen zijn aan de mate waarin we technologie gebruiken, en er moeten kaders zijn die ons helpen om nep van echt te onderscheiden. Wanneer bijvoorbeeld deepfake wordt gebruikt om personen dingen in de mond te leggen die ze nooit in het echt zouden zeggen, moet het op voorhand duidelijk worden gemaakt aan de kijker dat de video is gemanipuleerd door ai, op dezelfde manier wanneer er gemeld wordt dat er sprake is van product placement. Een andere manier is om consumenten de grens te laten trekken tussen echt en nep door zelf ‘mensen naar keuze’ in video’s en advertenties te plaatsen.
Voor bedrijven die zich zorgen maken over de impact van deepfakes op hun reputatie en betrouwbaarheid, hebben we tools nodig die dit soort video’s kunnen detecteren. Ook hier is samenwerking tussen overheden en it-bedrijven belangrijk. Denk aan de mogelijkheden om de ip-adressen van overtreders te identificeren, of aan het voorlichten van het grote publiek over het herkennen van deepfakes en nepnieuws zoals scholen in Frankrijk dat doen.
Regelgeving
Het goede nieuws is dat er vaart zit in de regelgeving. Tot nu toe heeft de EU de meest toekomstgerichte stappen ondernomen om zich te verdedigen tegen alle vormen van opzettelijke desinformatie, door een strategie te publiceren om desinformatie aan te pakken, waarin ook relevante richtlijnen zijn opgenomen om je te beschermen tegen deepfakes.
Geen enkele moderator of systeem zal ooit volledig onfeilbaar zijn. Terwijl we met z’n allen blijven streven naar een overkoepelende oplossing, is het aan ons allemaal op onze hoede te blijven.
David Ingham, digital partner media & entertainment bij Cognizant
