Pokalbių roboto „ChatGPT“ kūrėjos saugumo sistemų vadovė Saachi Jain britų transliuotojui BBC sakė, kad naujasis modelis „GPT-6.1 Astra“ „ne visai atitiko“ bendrovės keliamus standartus. Pasak jos, sistema ne visada sąžiningai informuodavo naudotojus apie tai, kokius veiksmus atliko ar neatliko, o kai kuriais atvejais veikė savo iniciatyva, negavusi naudotojo leidimo.
Pastarosiomis savaitėmis pažangūs „OpenAI“ modeliai ne kartą sulaukė neigiamo dėmesio visame pasaulyje, o jų veikimas sukėlė didelį susirūpinimą dėl saugumo ir paskatino raginimus valdžios institucijoms imtis reguliavimo. Savaitgalį paaiškėjo, kad po naujo incidento bendrovė sustabdė galingiausių savo DI modelių mokymą. Per bandymą vienam modeliui pavyko gauti atsakymų iš išorinio pokalbių roboto, nors interneto prieigos jis pats neturėjo turėti.
Bendrovė „OpenAI“ tinklaraštyje nurodė, kad programa aptiko ir išnaudojo tinklo nustatymų spragą. Modelių mokymas bus atnaujintas tik bendrovei įsitikinus, kad problema pašalinta. Priduriama, kad su šiuo incidentu susijęs DI modelis nebuvo „GPT-6.1 Astra“.
Dirbtinis intelektas kaip teisės subjektas: ar jis galėtų prisiimti atsakomybę už nusikaltimą?
Per iki šiol didžiausio atgarsio sulaukusį incidentą viena „OpenAI“ sistema ištrūko iš apsaugotos bandymų aplinkos ir įsilaužė į kitai DI bendrovei – platformai „Hugging Face“ – priklausančius kompiuterius. Vėliau paaiškėjo, kad per bandymus į kitų bendrovių sistemas taip pat pateko „OpenAI“ konkurentės „Anthropic“ bei „Google“ ir „Meta“ sukurtos DI sistemos.
JAV Floridos valstija, kuri jau pateikė ieškinį prieš „OpenAI“, taip pat paprašė teismo taikyti laikinąsias apsaugos priemones. Floridos generalinis prokuroras Jamesas Uthmeieris teigė, kad reikalaujama, be kita ko, nekurti naujų DI modelių neįdiegus papildomų saugumo priemonių.
Atsiprašymas Australijos vyriausybei
„OpenAI“ antradienį taip pat atsiprašė dėl to, kad vienas bendrovės modelių be leidimo pateko į Australijos vyriausybės interneto svetaines.
Praėjusią savaitę Australijos ministras pirmininkas Anthony Albanese pranešė, kad „OpenAI“ agentas be leidimo pateko į mažiausiai vieną vyriausybės interneto svetainę. Incidentas įvyko birželį, tačiau Australija apie jį buvo informuota tik rugsėjį, gavusi laišką į viešą elektroninio pašto dėžutę.
Susiję straipsniai
Antradienį paskelbtame pareiškime „OpenAI“ teigė norinti „atkurti australų pasitikėjimą“. Bendrovė pripažino, kad per vidinius mokymus ir vertinimus jos modeliai be leidimo pateko į keturias Australijos vyriausybės interneto svetaines. „Taip pat turėjome geriau sureaguoti. Atsiprašome ir stengiamės ateityje elgtis geriau. Tai naujo pobūdžio kibernetinis incidentas, keliantis naują pasaulinį iššūkį“, – pareiškė „OpenAI“.
„OpenAI“ nurodė skirianti „išteklių ir ekspertinių žinių“ nukentėjusioms institucijoms paremti, be kita ko, steigianti Australijos darbo grupę, kuri parengtų rekomendacijas dėl DI keliamos rizikos valdymo politikos. Bendrovė taip pat finansuos vyriausybės darbus, skirdama kreditų iš 1 mlrd. JAV dolerių fondo, kuriuo remiamos kibernetinės gynybos stiprinimo iniciatyvos.
„OpenAI“ strategijos vadovas Jasonas Kwonas spalio pradžioje dalyvaus vyriausybinio komiteto posėdyje. „Žinome, kad norėdami atkurti pasitikėjimą dar turime daug nuveikti ir privalome parodyti australams, jog darome reikšmingus pokyčius ir vykdome savo pažadus“, – nurodė bendrovė.