Meta AI pokalbių robotas leido pasiekti privačias žinutes ir kitų vartotojų atsakymus

Incidentą aprašo TechCrunch portalas, kuriam Sandeep Hodkasia, saugumo testų įmonės AppSecure įkūrėjas, perdavė informaciją apie tai, kad gavo 10 000 dolerių už klaidos pranešimą 2024 m. gruodžio 26 d. pagal klaidų paieškos programą (bug bounty).

Meta įdiegė pataisą 2025 m. sausio 24 d. ir pranešė neradusi įrodymų, kad saugumo spraga buvo piktybiškai išnaudota.

Kaip buvo aptikta klaida

Klaida buvo rasta analizuojant užklausų redagavimo funkciją Meta AI sistemoje. Kai vartotojas redaguodavo užklausą (prompt), Meta serveriai priskirdavo jam unikalų ID numerį. Hodkasia, stebėdamas tinklo srautą naršyklėje, pastebėjo, kad pakeisdamas šį numerį, galėjo gauti užklausą ir atsakymą, priklausantį kitam vartotojui. Serveriai netikrino, ar prašantysis turi teisę peržiūrėti duomenis.

Techninės detalės

Patys užklausų ID numeriai buvo „lengvai atspėjami”, kas galėjo leisti masinį svetimų duomenų gavimą naudojant automatinius įrankius. Tai tipinė IDOR (insecure direct object reference) tipo pažeidžiamumas – kreipimasis į objektą naudojant tiesioginę nuorodą (identifikatorių). Autorizacijos mechanizmas serverio pusėje veikė netinkamai ir leido pasiekti informaciją, neskirtą konkrečiam vartotojui.

Meta reakcija

Meta patvirtino klaidos ištaisymą ir piktnaudžiavimo pėdsakų nebuvimą. „Identifikavome ir ištaisėme problemą, neradome jos išnaudojimo įrodymų ir apdovanojome tyrėją”, – sakė Meta atstovas spaudai Ryan Daniels.

Platesnis kontekstas

Augantis spaudimas technologijų milžinėms – norint neatsilikti nuo AI plėtros tempo – verčia skubotai diegti naujas funkcijas, dažnai vartotojų saugumo ir privatumo sąskaita. Meta AI jau anksčiau buvo kritikuojama dėl atvejų, kai vartotojai netyčia viešai dalindavosi privačiais pokalbiais su pokalbių robotu. Šis naujausias incidentas patvirtina, kad šioje srityje vis dar yra daug ką tobulinti.