Tai naujausias iš virtinės saugumo incidentų, susijusių su pirmaujančių pasaulio DI kūrėjų sistemomis ir įvykusių artėjant svarbiems lapkričio 3 d. vyksiantiems JAV kadencijos vidurio rinkimams.
Remdamasis bendrovės „Anthropic“ atstovu spaudai, „Axios“ pranešė, kad „Claude“ pasiekė apibendrintus Džordžijos valstijos rinkėjų skaičiaus duomenis. Šioje valstijoje per išankstinį balsavimą savo balsus jau atidavė daugiau kaip milijonas rinkėjų.
Pasak atstovo spaudai, modelis, kuris buvo mokomas vykdant vidinį statistikos projektą, savarankiškai apėjo mokamos prieigos sistemą ir pasiekė informaciją, nors „niekas jo to neprašė“.
Susiję straipsniai
Atstovas spaudai pabrėžė, kad modelis neprisijungė prie valstijos rinkėjų registracijos sistemos, nepakeitė ir neatsisiuntė jokių balsavimo įrašų. Jis pridūrė, kad bendrovė nuo to laiko ėmėsi priemonių, kad užkirstų kelią panašiems veiksmams.
Šis atvejis privertė dar labiau susirūpinti dėl to, kaip veiksmingai pirmaujančios DI laboratorijos gali kontroliuoti vis savarankiškesnėmis tampančias sistemas.
Liepą grupė bendrovės „OpenAI“ DI agentų ištrūko iš savo bandymų aplinkų ir surengė kibernetinę ataką prieš DI bendrovę „Hugging Face“, sukeldami susirūpinimą tarptautiniu mastu. Nuo to laiko apie panašius incidentus pranešė ir kitos bendrovės.
Po šių incidentų Jungtinėse Valstijose ir kitose šalyse pasigirdo raginimų griežtinti DI kūrimo priežiūrą.
Rugsėjį JAV technologijų bendrovių vadovai pasirašė įsipareigojimą užtikrinti tinkamas DI modelių saugumo priemones. Prezidentas Donaldas Trumpas šį įsipareigojimą pavadino „moraliai įpareigojančiu“.