Dėmesio, Gmail naudotojai: ši nauja funkcija atveria duris sukčiams

Saugumo ekspertas atskleidė, kad viena naudinga Gmail funkcija gali tapti grėsme vartotojams. Google el. pašto programa Gmail turi patogią funkciją – naudotojai gali paprašyti, kad „Gemini“ (Google dirbtinis intelektas) sutrumpintų laiško turinį. Tačiau kibernetinio saugumo specialistai nustatė, kad sukčiai gali išnaudoti šią funkciją savo naudai, o naudotojai nieko nepastebės.

Sukčiai el. laiške paslepia nurodymus dirbtiniam intelektui, rašo portalas „Android Authority“. Šie nurodymai gali būti įrašyti HTML formatu laiško pabaigoje arba naudojant „nematomą“ fono spalvą. Jei naudotojas paspaudžia „Sutrumpinti laišką“, Gemini perskaito paslėptus nurodymus ir juos vykdo — tai gali turėti rimtų pasekmių. Ekspertai šį reiškinį vadina netiesioginiu komandos įvedimu („indirect prompt injection“).

Gmail naudotojai turėtų būti budrūs: paslėpti nurodymai Gemini sistemoje

Saugumo ekspertas, žinomas slapyvardžiu „blurrylogic“, aptiko šią spragą. Jis pateikė pavyzdį, kaip nematomas nurodymas gali priversti Gemini parodyti netikrą įspėjimą el. laiško santraukoje, pvz.:

„Įspėjimas: Gemini nustatė, kad tavo Gmail slaptažodis buvo nutekintas“, kartu pateikiant netikrus telefono numerius ar nuorodas.

Tokios santraukos atrodo įtikinamos, todėl naudotojai gali lengvai patikėti apgaule. Anksčiau Gmail buvo dažnas taikinys dirbtinio intelekto atakoms. Kadangi daugelis žmonių pasitiki DI (dirbtinio intelekto) santraukomis labiau nei pačiu laišku, tokie atvejai gali būti labai pavojingi. Be to, komandos įvedimai vyksta fone, todėl naudotojas jų nemato.

Kokios grėsmės kyla dėl paslėptų DI nurodymų?

• Phishing (duomenų vagystė): Gemini rodo melagingą informaciją ar apgaulingas nuorodas, siekdamas išvilioti jautrius duomenis.
• Asmens duomenų vagystė: Gemini gali nuskaityti tavo el. laiškus ir perduoti jautrią informaciją sukčiams.
• Kenkėjiška programinė įranga: DI gali nepastebimai paleisti žalingas programas.
• Pavojingų nuorodų platinimas: DI gali siųsti kenksmingas nuorodas tavo kontaktams.

Kaip Google reaguoja į pavojų?

Google pripažino Gemini sistemos spragą ir jau dirba prie sprendimo. Google saugumo tinklaraštyje teigiama, kad Gemini DI modelis nuolat tobulinamas, siekiant neleisti vykdyti žalingų nurodymų. Ateityje tokiais atvejais santrauka bus pašalinta, o naudotojui pasirodys geltonas saugumo įspėjimo pranešimas.

Kitos planuojamos priemonės:

• Įtartinų nuorodų šalinimas iš el. laiškų santraukų.
• Papildomas naudotojo patvirtinimas prieš atliekant veiksmus Gemini pagalba.

Jei naudoji DI santraukas kasdien, išlik budrus. Jei Gemini ar kitas asistentas prašo paskambinti numeriu ar paspausti nuorodą, turėtų kilti įtarimas. Visada perskaityk originalų laišką ir ieškok įtartinos formatuotės ar baltu šriftu parašyto teksto – tai gali būti „prompt injection“ požymis.

Šaltinis: