Förr fick vi en enkel lista med länkar när vi sökte på nätet. I dag möts vi allt oftare av så kallade ”AI Overviews” – automatiska sammanfattningar som genereras av AI. Tanken är att ge snabba svar direkt, vilket funkar bra i många fall, men tekniken har också visat sig ha brister.
Den amerikanska tekniksajten Wired rapporterar nu att AI-svaren kan innehålla farlig information. Fenomenet har bland annat uppmärksammats av Washington Post och Digital Trends, där man funnit exempel på hur sökningar efter kundtjänstnummer resulterat i att AI:n presenterat falska telefonnummer.
Klicka här för att följa oss på Google
Så går Google-bedrägeriet till
Tillvägagångssättet utnyttjar hur sökmotorn samlar in information. Användaren söker efter ett företags kontaktuppgifter för att få hjälp. AI-verktyget skrapar webben och presenterar ett telefonnummer direkt i sammanfattningen. Problemet är att numret inte går till företaget, utan till en tredje part som utger sig för att vara kundtjänst.
När du ringer numret försöker personen i andra änden komma över betalningsinformation eller andra känsliga personuppgifter.
Det är oklart exakt hur dessa falska nummer planteras, men teorin är att de publiceras på mindre webbplatser tillsammans med stora företagsnamn. Googles AI plockar sedan upp uppgifterna utan att verifiera dem och presenterar dem som fakta.
Google svarar på kritiken
Google menar själva att de arbetar aktivt med att motverka problemet genom uppdateringar av sina säkerhetssystem.
– Våra skydd är mycket effektiva när det gäller att hålla bedrägerier borta från AI Overviews och visa officiella kundtjänstnummer där det är möjligt, säger en talesperson hos sökjätten i ett uttalande till Wired.
Även banker varnar nu sina kunder för denna typ av bedrägerier. Risken gäller inte bara Google – liknande problem med att manipulera text som AI-system sedan läser in och presenterar som sanning har noterats i andra sökmotorer och via e-post.
.jpg)
Så undviker du att bli lurad när du googlar
Eftersom det i dagsläget inte går att stänga av AI-sammanfattningarna helt, krävs det att du som användare är vaksam. Här är några råd för att surfa säkert:
- Lita inte blint på sammanfattningen: Var särskilt skeptisk när det gäller specifika fakta, siffror och telefonnummer i AI-rutan.
- Gå till källan: Om du letar efter kontaktuppgifter, klicka dig alltid vidare till företagets officiella hemsida. Det kräver bara ett extra klick och säkerställer att du hamnar rätt.
- Dubbelkolla numret: Om du är osäker, gör en extra sökning på telefonnumret för att verifiera vem det går till.
