AI förändrar en av internets viktigaste spelregler

AI gör internet svårare att lita på

Den större frågan handlar egentligen inte om bedrägerier. Den handlar om förtroende.

När texter, bilder, röster och filmer kan skapas eller förändras med hjälp av AI blir det svårare att avgöra vad som faktiskt kommer från en människa och vad som är maskinellt framtaget.

Det innebär inte att internet plötsligt blivit opålitligt. Men det innebär att fler saker behöver kontrolleras innan de tas för givna.

En bild är inte längre automatiskt ett bevis på att något har hänt. En röst är inte nödvändigtvis personen den låter som. Ett välskrivet mejl är inte automatiskt legitimt.

På sikt kan den utvecklingen få större konsekvenser än de enskilda bedrägerierna. Om människor blir osäkra på vad de kan lita på riskerar förtroendet för digital kommunikation att minska.

När kostnaden för att lura människor rasar

Forskarna pekar på att AI framför allt förändrar ekonomin bakom bedrägerier. Det som tidigare krävde tid, kunskap och resurser kan nu göras betydligt snabbare. En bedragare som förr behövde skriva hundratals meddelanden själv kan i dag låta ett AI-verktyg skapa tusentals variationer på några sekunder. Varje meddelande kan dessutom anpassas efter mottagaren.

Konsekvensen blir att fler personer kan genomföra fler bedrägeriförsök.

Den stora förändringen är därför inte att varje enskild attack blivit farligare. Den stora förändringen är att det blivit billigare att genomföra dem.

Precis som i andra delar av ekonomin leder lägre kostnader ofta till ökad volym.

De största cyberbrottslingarna behöver inte AI

En intressant detalj är att AI kanske inte förändrar spelplanen mest för de professionella cyberbrottslingarna.

De största grupperna bakom avancerade utpressningsattacker och dataintrång har redan tillgång till kompetens, resurser och egna utvecklingsmiljöer. För dem är AI främst ytterligare ett verktyg.

Den verkliga effekten syns längre ned på skalan, där personer som tidigare saknade kunskap eller erfarenhet nu får tillgång till verktyg som gör det enklare att genomföra bedrägerier och attacker.

På så sätt bidrar AI till att sänka tröskeln för vem som kan ge sig in i den typen av verksamhet.

Omdömet viktigare än tekniken

I takt med att de tekniska hjälpmedlen blir bättre förändras också kraven på användarna.

Under många år har fokus legat på att känna igen tekniska fel och varningssignaler. Nu blir det viktigare att förstå sammanhanget.

• Varför vill någon att du ska agera snabbt?
• Varför kommer förfrågan just nu?
• Varför behöver personen pengar, inloggningsuppgifter eller personlig information omedelbart?

Den typen av frågor blir allt viktigare när det yttre skalet ser trovärdigt ut.

Flera säkerhetsexperter menar därför att framtidens digitala säkerhet kommer att handla mindre om teknisk kunskap och mer om omdöme, eftertanke och källkritik.

AI används också för att skydda

Utvecklingen har en annan sida som ofta hamnar i skymundan. Samma teknik som används av bedragare används också av banker, myndigheter och säkerhetsföretag.

AI hjälper redan till att upptäcka misstänkta transaktioner, identifiera avvikande beteenden och analysera stora mängder data på kort tid.

Det innebär att utvecklingen kan beskrivas som en kapprustning där både angripare och försvarare får tillgång till kraftfullare verktyg.

Frågan är därför inte om AI är god eller ond. Frågan är hur snabbt människor och organisationer anpassar sig till en verklighet där allt färre digitala signaler kan tas för givna.

Läs även: Telefonbedrägerierna ökar – så känner du igen bedragarnas nya metoder – E55

_ANNONS