Snabbmeddelanden har blivit en bördig jordmån för cyberbrottslingar. Med över tre miljarder användare är WhatsApp en av de mest utnyttjade kanalerna för att utföra alla typer av bedrägerier , från falska jobberbjudanden till komplicerade investeringsplaner. För att bekämpa detta hot har plattformen lanserat ett nytt AI-baserat verktyg som lovar att upptäcka bedrägliga meddelanden utan att kompromissa med konversationers integritet.
Funktionen, känd som Scam Alert, är i en begränsad testfas och testas redan av vissa användare. Dess huvudsakliga funktion är att all analys utförs direkt på enheten, vilket säkerställer att chattinnehåll aldrig lämnar telefonen. På så sätt strävar Meta efter att balansera säkerhet med den end-to-end-kryptering som kännetecknar tjänsten.
Hur fungerar Bedrägerivarning?
Verktyget laddar ner en lätt maskininlärningsmodell till din mobila enhet. Modellen undersöker meddelanden som tas emot från nummer som inte är sparade i dina kontakter. Den analyserar konversationsstrukturer och språkliga mönster som är vanliga vid bedrägeriförsök, såsom brådskande pengaförfrågningar, misstänkta länkar eller löften om omöjliga returer.
Om systemet upptäcker tydliga tecken på bedrägeri visar det en varning i själva chatten. Denna varning är endast synlig för mottagaren; avsändaren är inte medveten om att deras meddelande har flaggats. Därifrån har användaren flera alternativ: blockera kontakten, rapportera konversationen, fortsätta chatta med större försiktighet eller markera chatten som pålitlig. Att markera chatten som pålitlig förhindrar att framtida varningar visas för den specifika tråden.
Sekretess och insyn
En av de känsligaste frågorna är integritet. Meta har försäkrat användarna att det analyserade innehållet aldrig lämnar enheten. Varken WhatsApp eller Meta själva kan komma åt meddelandena under processen. Inga automatiska rapporter genereras heller på servrarna. Information skickas endast om användaren frivilligt väljer att rapportera en chatt.
För att mäta funktionens effektivitet utan att läsa konversationerna använder företaget tekniker som differentiell integritet och betrodda exekveringsmiljöer (TEE). Dessa mekanismer möjliggör att man kan få aggregerad statistik om hur många varningar som har visats eller vilka åtgärder användare har vidtagit, utan att koppla den informationen till specifika individer. Dessutom publiceras varje version av AI-modellen i ett transparensregister med sin SHA-256-hash, signerad av en tredje part, så att alla forskare kan verifiera att den inte har manipulerats.
Vad du ska göra om du får en varning
När varningen visas är den bästa åtgärden att inte svara på meddelandet och blockera avsändaren. Du kan också rapportera konversationen så att WhatsApp kan vidta åtgärder. Om du tror att varningen är falsk kan du markera den som trovärdig och, valfritt, dela dina fem senaste meddelanden med plattformen för att förbättra systemet. Denna delning är helt frivillig och sker inte automatiskt.
Alternativet att granska aktiviteten för bluffvarningar kommer att finnas tillgängligt i appinställningarna, under Konto > Begär information > Aktivitet för bluffvarningar. Där kan du se vilka meddelanden som analyserats, modellens resultat och vilken version som användes. Denna granskningsfunktion ger användaren ytterligare kontroll.
Sammanhang och omfattning av bedrägerierna
Bedrägerier via meddelandeappar har ökat oroväckande de senaste åren. Tekniker som "grisslakt" och falska banköverföringar blir allt vanligare. I detta sammanhang kommer WhatsApps nya funktion som ett extra skyddslager, särskilt för användare som tar emot meddelanden från okända avsändare.
Det här verktyget kompletterar andra säkerhetsåtgärder som redan implementerats av Meta, såsom tvåstegsverifiering och förfrågningar om enhetslänkning. Med detta initiativ strävar WhatsApp efter att erbjuda en säkrare miljö utan att kompromissa med integriteten, en avgörande balans för en tjänst med end-to-end-kryptering.
Kort sagt, Scam Alert representerar ett betydande steg framåt i kampen mot digitala bedrägerier. Genom att bearbeta information lokalt och erbjuda transparens kring hur den fungerar, visar plattformen att det är möjligt att bekämpa bedrägerier utan att offra konfidentialitet i konversationer. Funktionen, även om den fortfarande är i betafas, syftar till att bli en säkerhetsstandard för WhatsApps mer än 3.000 miljarder användare världen över.
