AI-technologieën kunnen tal van industrieën verstoren, maar in de meeste gevallen kunnen we in ieder geval zien hoe ze op de lange termijn meer nuttig dan schadelijk zullen zijn. Deze nieuwe tools bieden echter ook veel nieuwe kansen voor snode types.
Natuurlijke taal-AI voor supercharged phishing-aanvallen
Het kunnen begrijpen en produceren van natuurlijke menselijke taal is vanaf het begin een van de belangrijkste doelen van AI-onderzoek geweest. Tegenwoordig hebben we synthetische stemproductie, zeer geavanceerde chatbots, tekstgeneratoren in natuurlijke taal en nog veel meer gerelateerde AI-gestuurde technologieën.
Deze applicaties zijn perfect voor phishing-aanvallen, waarbij hackers zich voordoen als legitieme entiteiten en hun vertegenwoordigers als een manier om gevoelige informatie uit mensen te krijgen. Met deze nieuwe technologieën zou je AI-agenten massaal mensen kunnen laten nabootsen via e-mail, telefoongesprekken, instant messaging of waar dan ook mensen met elkaar praten via een computersysteem.
In tegenstelling tot de phishing die we kennen, zou dit zijn als turbo-geladen “speer” phishing, waarbij de pogingen gericht zijn tegen specifieke personen met informatie over hen, met name om de zwendel effectiever te maken. De AI-software kan zich bijvoorbeeld voordoen als iemands baas en vragen om geld op een rekening te storten in een variant van phishing die bekend staat als CEO-fraude.
Gedetailleerde sociale engineering
Social engineering is een praktijk binnen hacking die zich richt op zwakheden in de menselijke psychologie en gedrag om harde technologische beveiligingsmaatregelen te omzeilen. Een hacker kan bijvoorbeeld de secretaresse van een belangrijk persoon bellen die zich voordoet als schoonmaker en hem vragen waar zijn afval momenteel wordt weggegooid. Vervolgens gaat de crimineel naar die locatie om te zoeken naar weggegooide documenten of andere aanwijzingen die kunnen worden samengevoegd om exploits te creëren.
Deep learning-systemen die gezichten en stemmen kunnen repliceren (bekend als deepfakes) zijn zo ver gevorderd dat ze in realtime kunnen worden gebruikt. Er zijn services waar u voorbeelden van uw eigen stem kunt indienen en vervolgens tekst-naar-spraak kunt gebruiken die net zo klinkt als u. In principe zou dergelijke technologie kunnen worden gebruikt om iemands stem te klonen. Dan hoef je alleen maar te bellen of te videobellen met iemand die zich voordoet als wie je maar wilt, waarbij publieke figuren het gemakkelijkste doelwit zijn.
Podcastle Revoice is bijvoorbeeld zo’n service die belooft “een digitale kopie van uw eigen stem te maken” op basis van stemvoorbeelden die u indient. Podcastle heeft ons een verklaring gegeven over hoe het deze zorgen aanpakt:
Het potentieel voor deepfakes en social engineering met behulp van het klonen van stemmen is serieus, en daarom is het van essentieel belang dat bedrijven de mogelijkheid van misbruik beperken. De Revoice-technologie van Podcastle kan worden gebruikt om een digitale kopie van uw stem te maken en daarom hebben we duidelijke richtlijnen over hoe stemmen kunnen worden gemaakt, evenals controles om misbruik te voorkomen. Om een Digital Voice op ons platform te genereren, moet een gebruiker een live spraakopname van 70 verschillende (dwz bepaald door Podcastle) zinnen — wat betekent dat een gebruiker niet zomaar een opname van de stem van iemand anders kan gebruiken. Deze 70 opnames worden vervolgens handmatig gecontroleerd door ons team om de nauwkeurigheid van een enkele stem te garanderen, en vervolgens worden de opnames verwerkt via ons AI-model.
Slimmer kraken van codes en geautomatiseerde opsporing van kwetsbaarheden
Het kost mensen uren en uren om regels code te doorzoeken om kwetsbaarheden te zoeken, om ze te repareren of om ze uit te buiten. Nu hebben we gezien dat machine learning-modellen zoals ChatGPT zowel code kunnen schrijven als kwetsbaarheden in ingediende code kunnen herkennen, wat de mogelijkheid opent dat AI eerder vroeger dan later malware zou kunnen schrijven.
Malware die leert en zich aanpast door middel van machine learning
De belangrijkste kracht van machine learning is hoe het enorme hoeveelheden gegevens kan verwerken en er nuttige regels en inzichten uit kan halen. Het is redelijk om te verwachten dat toekomstige malware van dit algemene concept kan profiteren om zich snel aan te passen aan tegenmaatregelen.
Dit kan leiden tot een situatie waarin zowel malware- als anti-malwaresystemen effectief strijdende machine learning-systemen worden die elkaar snel naar een hoger niveau van verfijning drijven.
Generatieve AI om valse gegevens te creëren
AI-technologieën kunnen nu schijnbaar uit het niets afbeeldingen, video, tekst en audio genereren. Deze technologieën hebben het punt bereikt waarop experts niet kunnen zien dat ze nep zijn (althans niet in één oogopslag). Dit betekent dat u in de toekomst een stortvloed aan nepgegevens op het internet kunt verwachten.
Zo kunnen nepprofielen op sociale media op dit moment vrij gemakkelijk te herkennen zijn, dus het vermijden van catfishing-zwendel of eenvoudige botcampagnes om desinformatie te zaaien is niet zo moeilijk geweest voor een geïnformeerd publiek. Deze nieuwe AI-technologieën kunnen echter nepprofielen genereren die niet van echt te onderscheiden zijn.
“Mensen” met unieke gezichten met gegenereerde foto’s van hun hele nepleven, unieke samenhangende profielinformatie en volledige vrienden- en familienetwerken bestaande uit andere nepmensen. Allemaal gesprekken met elkaar voeren net als echte mensen. Met netwerken van valse online agenten zoals deze, kunnen kwaadwillende actoren verschillende oplichtings- en desinformatiecampagnes uitvoeren.
Is AI zowel de genezing als de ziekte?
Het is onvermijdelijk dat sommige mensen om kwade redenen nieuwe technologie proberen te gebruiken. Wat deze nieuwe generatie AI-technologie anders maakt, is hoe snel het menselijke vermogen om het te detecteren te boven gaat.
Dit betekent, enigszins ironisch, dat onze beste verdediging tegen deze AI-verbeterde aanvalsroutes andere AI-technologieën zullen zijn die vuur met vuur bestrijden. Dit lijkt je geen andere keus te laten dan toe te kijken hoe ze het uitvechten en hopen dat de “good guys” als beste uit de bus komen. Desalniettemin zijn er verschillende dingen die u kunt doen om online beschermd te blijven, ransomware te vermijden en oplichting op populaire platforms zoals Facebook, Facebook Marketplace, PayPal en LinkedIn te ontdekken.
De beste antivirussoftware van 2023 
Bitdefender-internetbeveiliging
Avira gratis beveiliging
Malwarebyte Premium
Intego Mac Internet Security X9