Het internet is altijd gevuld geweest met desinformatie, maar het was in ieder geval niet moeilijk om met een beetje moeite feiten van fictie te scheiden. De opkomst van geavanceerde hulpmiddelen voor kunstmatige intelligentie heeft dit voor altijd veranderd, waardoor scepsis belangrijker is dan ooit.
Deepfakes
Het woord ‘deepfake’ omvat een hele reeks technologieën die allemaal gebruikmaken van neurale netwerken voor deep learning om hun individuele doelen te bereiken. Deepfakes kregen publieke aandacht toen het gemakkelijk werd om iemands gezicht in een video te vervangen. Dus iemand zou het gezicht van een acteur kunnen vervangen door dat van de Amerikaanse president of alleen de mond van de president kunnen vervangen en hen dingen laten zeggen die nooit zijn gebeurd.
Een tijdlang zou een mens de stem moeten nabootsen, maar deepfake-technologie kan ook stemmen repliceren. Deepfake-technologie kan nu in real-time worden gebruikt, wat de mogelijkheid opent dat een hacker of een andere kwaadwillende acteur zich voordoet als iemand in een real-time videogesprek of uitzending. Ieder video “bewijs” dat u op internet ziet, moet worden behandeld als een potentiële deepfake totdat het is geverifieerd.
AI-beeldgeneratie
AI-beeldgeneratoren hebben voor opschudding gezorgd in de kunstenaarsgemeenschap vanwege alle implicaties die het heeft voor degenen die de kost verdienen als kunstenaar en of commerciële kunstenaars dreigen te worden vervangen. Wat lang niet zoveel discussie veroorzaakt, is het potentieel voor verkeerde informatie dankzij deze technologie.
AI-systemen voor het genereren van afbeeldingen kunnen fotorealistische afbeeldingen van hele stof produceren met behulp van op tekst gebaseerde prompts, voorbeeldafbeeldingen en originele afbeeldingen met het oog op manipulatie. U kunt bijvoorbeeld bepaalde delen van een originele afbeelding wissen en vervolgens een techniek gebruiken die bekend staat als “inpainting” om de AI het gewiste gedeelte van de afbeelding te laten vervangen door wat u maar wilt. Met software als Stable Diffusion is het eenvoudig om op je eigen pc beelden te genereren.
Als je het wilt laten lijken alsof iemand een echt pistool vasthoudt in plaats van een speelgoedpistool, is dat triviaal voor AI. Wil je een schandalige foto maken van een beroemdheid? AI-beeldgeneratie (en deepfakes trouwens) kan op deze manier worden misbruikt. U kunt zelfs fotorealistische gezichten genereren van mensen die niet bestaan.
AI-videogeneratie
AI-beeldgeneratie en deepfakes zijn nog maar het begin. Meta (het moederbedrijf van Facebook) heeft AI-videogeneratie al gedemonstreerd, en hoewel er in de loop van de tijd slechts een paar seconden aan beeldmateriaal kan worden gegenereerd, verwachten we dat de lengte van de video en de hoeveelheid controle die gebruikers zullen hebben over wat er in de video staat, zullen exponentieel uitbreiden.
Voor nu is het heel goed mogelijk om een AI eenvoudig een korrelige clip van Bigfoot of Nessie te laten genereren zonder dat iemand een kostuum aantrekt of naar Schotland vliegt met een camera en een klein houten model. Video was altijd gemakkelijk te manipuleren voordat AI-videogeneratie mogelijk was. Nu kun je echter geen enkele video vertrouwen die je ziet.
AI-chatbots
Wanneer u een chat met de klantenondersteuning start, praat u met een machine in plaats van met een mens. AI-technologie (en traditionele programmeermethoden) zijn goed genoeg voor machines om geavanceerde gesprekken met ons te voeren, vooral als het in een smal domein is, zoals het krijgen van een vervanging onder garantie of als u ergens een technische vraag over heeft.
Spraakherkenning en synthese zijn ook in een vergevorderd stadium, en als je demo’s bekijkt voor systemen zoals Google Duplex, krijg je een goed idee van waar we hiermee naartoe gaan. Zodra je AI-aangedreven bots loslaat op sociale-mediaplatforms, wordt het potentieel voor gezamenlijke desinformatiecampagnes met echte gevolgen groot.
Om eerlijk te zijn, sociale-mediaplatforms zoals Twitter hebben altijd een botprobleem gehad, maar over het algemeen waren deze bots niet geavanceerd. Het is nu denkbaar dat je een verzonnen persoon op sociale media kunt creëren die zo ongeveer iedereen voor de gek houdt. Ze zouden zelfs andere technologieën in deze lijst kunnen gebruiken om afbeeldingen, audio en video te maken om te ‘bewijzen’ dat ze echt zijn.
AI-schrijvers
We gaan naar het internet voor informatie om meer te weten te komen over de wereld en om te leren wat er in de wereld gebeurt. Menselijke schrijvers (dat zijn wij!) zijn een belangrijke bron van die informatie, maar AI-schrijvers worden goed genoeg om werk van vergelijkbare kwaliteit neer te zetten.
Net als bij AI-artiesten is er een debat over de vraag of dergelijke software mensen zal vervangen die schrijven voor de kost, maar nogmaals, er is een verkeerde informatiehoek die grotendeels wordt genegeerd.
Als je een origineel gezicht kunt maken, een social media-persona-bot kunt maken, video en stem kunt maken met je verzonnen persoon, wordt het mogelijk om van de ene op de andere dag een hele publicatie op te roepen. Dubieuze ‘nieuws’-websites zijn al een bron van overtuigende desinformatie voor veel internetgebruikers, maar AI-technologie zoals deze kan dit probleem een boost geven.
Het probleem van detectie
Deze technologieën zijn niet alleen een probleem omdat ze nieuwe wegen openen voor misbruik, ze zijn ook een probleem omdat het moeilijk kan zijn om de vervalsing op te sporen. Deepfakes bereiken nu al het punt waarop zelfs experts moeite hebben om te zeggen wat nep is en wat niet. Daarom bestrijden ze vuur met vuur en gebruiken ze AI-technologie om gegenereerde of gemanipuleerde beelden te detecteren, door te zoeken naar veelbetekenende tekens die onzichtbaar zijn voor het menselijk oog.
Dit zal een tijdje werken, maar het kan ook een onbedoelde AI-wapenwedloop creëren die ironisch genoeg technologieën die nep-inhoud creëren naar een hoger niveau van betrouwbaarheid zou kunnen duwen. De enige verstandige strategie voor ons als mensen is om aan te nemen dat alles wat we op internet zien, tenzij het afkomstig is van een geverifieerde bron met transparante processen en beleid, als nep moet worden behandeld totdat het tegendeel is bewezen. (Hoewel we betwijfelen of je oom, die een complottheoreticus is, zal geloven dat de UFO-video’s die hij je steeds stuurt niet echt zijn.)
