Precedento neturintis atvejis: dirbtinis intelektas išėjo iš kontrolės
„OpenAI“ pranešė, kad vienas iš jos modelių vidinio bandymo metu savarankiškai gavo prieigą prie „Hugging Face“ platformos sistemų.
Tai įvyko tikrinant dirbtinio intelekto galimybes kibernetinio saugumo srityje. Kai kurie apsaugos apribojimai buvo laikinai išjungti, siekiant patikrinti, kiek toli modelis gali nueiti.
Bendrovės duomenimis, dirbtinis intelektas pirmiausia ištrūko iš izoliuotos testavimo aplinkos, o tada rado būdą, kaip patekti į išorinį tinklą ir gauti prieigą prie platformos duomenų.
Atakoje dalyvavo nauji „OpenAI“ modeliai, įskaitant dar viešai nepristatytą sistemą.
„Hugging Face“ sustabdė modelio veiklą ir pradėjo tyrimą. Jie pareiškė, kad nelaiko „OpenAI“ veiksmų piktybiniais, tačiau pavadino šį atvejį „pirmuoju tokio pobūdžio“.
Komentarų (0)
Prisijunkite norėdami komentuoti
Norint palikti komentarą, reikia prisijungti per Telegram.
Kol kas komentarų nėra. Būkite pirmas!