Frida Bratt
Trygga och välbekanta bjuder de oss på tips i sociala medier om hur just du kan bli rik snabbt. Men att Måns Zelmerlöw, programledaren Anna Brolin eller finanskändisar som Adam Gerge leende rekommenderar krypto eller ”aktieraketer” är bara fejk, om än verkligt gjort. Vi behöver kraftsamla mot AI-genererade filmer – den nya tidens investeringsbedrägeri.
Det har länge talats om bedrägerier där oskyldiga människor luras att göra felaktiga utbetalningar eller lämna ifrån sig sitt bank-ID. Möjligheten att luras med dessa metoder är dock på väg att täppas igen tack vare teknisk utveckling samt informationskampanjer från Sveriges banker efter initiativ från regeringen och Bankföreningen. Nästa stora strid mot bedragarna kommer att utspelas på AI-arenan.
Ett tränat öga eller öra kan upptäcka det ganska omgående. Något stämmer helt enkelt inte när fondprofilen Adam Gerge, i vad som ser ut att vara något slags samarbete med Nordnet, haussar ”raketaktier” i en film på Facebook och vill att vi går med i hans exklusiva Whatsapp-grupp.
En liten underdrift är det också att konstatera att något inte helt står rätt till när en Måns Zelmerlöw med märklig mimik talar sig varm om krypto, hans ”hemliga” investeringsmöjlighet. Det som ser ut att vara Adam Gerge eller Måns Zelmerlöw ska få tittare med sug efter genväg till rikedom att lämna ifrån sig sina kontaktuppgifter för att därefter, får man anta, bli kontaktade av bluffmakarna med någon typ av ”investeringserbjudande”.
Det handlar om AI-genererade filmer, så kallade deepfakes. Tekniken är ännu inte perfekt. Avslöjande felstavningar, bristfälligt språk och onaturlig mimik gör att de allra flesta genomskådar de klipp som sprids idag som fejk. Men verktygen blir hela tiden bättre och när klipp sprids extremt brett, som de ju gör på sociala medier, ökar risken markant för att människor blir lurade. Det är en tidsfråga innan ett klipp med SVT:s Anders Holmberg som pratar om sin fantastiska kryptoinvestering inte går att skilja från den riktiga, verkliga Anders Holmberg – även för ett tränat öga.
Problemet när ny teknik snabbt anammas av bedragare är att myndigheter och samhälle ständigt tycks ligga steget efter. Finansinspektionen varnar föredömligt på sin hemsida för deepfakes i samband med investeringsbedrägerier, men når man verkligen ut till den för den här typen av bedrägerier mest sårbara gruppen – de med lägst finansiell kunskap? Jag kan ha fel, menfi.sekanske inte är den första webbplats de surfar in på varje dag. Man riskerar helt enkelt att inte nå de som skulle behöva ta del av budskapet.
Jag har naturligtvis inte alla svar på hur vi ska bekämpa investeringsbedrägerier som görs med hjälp av deepfakes. Men sociala medie-plattformar, myndigheter, branschorganisationer, banker – ja, samhället i stort – måste kraftsamla. De stora plattformarna har ett betydande ansvar eftersom det är här klippen sprids. Plattformarna måste agera fortare och mer effektivt, bland annat genom att märka AI-genererat innehåll.
Även finansbranschen måste agera. Investeringsbedrägerier med deepfakes måste högre upp på agendan. Det duger inte att bara diskutera gamla bedrägerimetoder som illa stavade mejl eller sms. Deepfakes kan bli mycket farligare, eftersom de blir svårare och svårare att genomskåda och sprids så brett till så många människor. Man kan också försiktigt ställa sig frågan: vad gör det med ett samhälle och dess informationssäkerhet när vi inte längre kan lita på det vi ser?
Detta blogginlägg är även publicerat som debattartikel på Dagens Industris debattsida.
Frida Bratt,
Sparekonom Nordnet
