„OpenAI“ generalinis direktorius Samas Altmanas įspėja vartotojus per daug nepasikliauti naujuoju „ChatGPT“ agentu, ypač kai kalbama apie užduotis, susijusias su jautriais ar asmeniniais duomenimis.
„ChatGPT“ agentas yra pirmoji „OpenAI“ sistema, sukurta autonomiškai atlikti kelių žingsnių užduotis. Pasak Altmano, agentas gali suskaidyti užklausas į mažesnius žingsnius, naudoti išorinius įrankius ir savarankiškai atlikti veiksmus, pranokdamas ankstesnius produktus, tokius kaip „Deep Research“ ir „Operator“ .
Vartotojai neturėtų manyti, jog technologija yra visiškai saugi. Net ir imantis „daug atsargumo priemonių ir įspėjimų “, jis teigia, kad vis tiek yra nenuspėjamų pavojų. Jis ypač pataria nenaudoti agento slaptoms užduotims ar bet kam, kas susiję su daug asmeninės informacijos.
Dirbtinio intelekto agentai vis dar pažeidžiami
Altmanas atkreipia dėmesį į riziką, kylančią suteikiant dirbtinio intelekto agentui plačius įgaliojimus, pavyzdžiui, prieigą prie el. pašto paskyros, be priežiūros. Pavyzdžiui, jei paskiriate agentą apdoroti jūsų el. laiškus ir atlikti visus reikiamus veiksmus, užpuolikai gali jį apgauti, kad atskleistų neskelbtinus duomenis arba atliktų tai, ko neturėtų.
Tyrėjai ne kartą įrodė, kad dirbtinio intelekto agentus galima manipuliuoti gana paprastais nurodymais , kartais atskleidžiant asmeninę informaciją arba atliekant nepageidaujamus veiksmus .
„Negalime numatyti visų pasekmių, tačiau užpuolikai gali bandyti „apgauti“ dirbtinio intelekto agentą, kad šis atskleistų neskelbtinus duomenis arba atliktų nepageidaujamus veiksmus. Siekdami sumažinti saugumo ir privatumo riziką, rekomenduojame suteikti agentams minimalią prieigą, būtiną konkrečiai užduočiai atlikti“, – pataria Altmanas.
„OpenAI“ remsis vartotojų atsiliepimais, kad patobulintų savo saugumo priemones. Tačiau jei kas nors nutiks ne taip arba bus atskleisti neskelbtini duomenys, atsakomybė tenka vartotojui , o ne „OpenAI“. Kiekvienas, naudojantis „ChatGPT“ agentą, turėtų žinoti apie riziką.
- Skubus įspėjimas „Gmail“ naudotojams
- Pervedimai iš kortelės į kortelę: ką reikia žinoti lietuviams pagal naujas ES taisykles
- Turi tokį savo banko kortelės PIN kodą? Skubiai keisk. Žaidi su ugnimi
- Ar tiesa, kad išjungtas išmanusis telefonas vis tiek perduoda duomenis?
- Kaip išvalyti išmaniojo telefono atmintį, kad jis veiktų geriau
Altmanas gina šį požiūrį sakydamas:
„Mes manome, kad svarbu pradėti mokytis veikiant ir kad žmonės turėtų atidžiai ir palaipsniui taikyti šias priemones, mums vis geriau vertinant ir mažinant galimas rizikas. Kaip ir kitų naujų galimybių atveju, visuomenė, technologijos ir rizikos mažinimo strategijos turi vystytis lygiagrečiai.“
Jis gali būti teisus, kad mokymasis veikiant yra būtinas, tačiau atsižvelgiant į tai, kad „ChatGPT“ turi šimtus milijonų vartotojų, tai taip pat reiškia, kad beveik neabejotinai bus realių aukų.
