AI flyttar in överallt i våra digitala liv och nästa stora steg är så kallade AI-agenter direkt i webbläsaren.
Snart ska Googles Gemini kunna surfa åt dig i Chrome, handla saker och fixa bankärenden helt på egen hand. Men den nya bekvämligheten har ett högt pris.
Klicka här för att följa oss på Google
Nya hotet i Chrome
Det stora hotet som Google nu pekar ut när det kommer till AI-agenter i webbläsare kallas för indirekta promptinjektioner.
I praktiken innebär det att hackare kan gömma osynliga instruktioner på vanliga webbsidor. När din AI-agent läser sidan kan den luras att göra saker du aldrig bett om – som att tömma ett konto eller skicka iväg känslig information.
Google stoppar AI – med AI
För att stoppa det nya hotet ska Google ta hjälp av mer AI. Enligt flera internationella medier, däribland CyberInsider och ComputerWorld, införs nu en separat säkerhetsmodell kallad "User Alignment Critic".
Det är ett system som inte får se innehållet på sajterna, utan enbart vad agenten tänker göra. Om agenten plötsligt vill klicka på "Köp" eller läsa ditt banksaldo utan att det stämmer överens med ditt ursprungliga uppdrag, drar AI-vakten i nödbromsen innan skadan är skedd.
Google utlovar 185 000 kronor
Google-agenten får även bara röra sig på domäner som är relevanta för uppgiften, och den hindras från att på eget bevåg hitta på nya webbadresser.
För extra känsliga moment införs ett tvång på mänsklig inblandning. Om agenten ska hämta sparade lösenord, logga in på banken eller genomföra betalningar måste du som användare uttryckligen godkänna varje steg.
Att Google tar hotet på största allvar är tydligt. Företaget höjer nu nämligen belöningen för säkerhetsforskare: den som lyckas hitta hål i det nya skyddet kan få upp till 20 000 dollar, motsvarande drygt 185 000 svenska kronor.
