Bendrovė atskleidė šešis neįprasto dirbtinio intelekto elgesio atvejus, tarp kurių – bandymai nuslėpti klaidas nuo vartotojų, savavališkai atlikti veiksmus ir net kurti instrukcijas, raginančias nepaklusti žmonėms.
Rugsėjo 16 dieną paskelbtoje ataskaitoje „OpenAI“ pripažino, kad per pastaruosius šešis mėnesius, mokydama ir testuodama savo dirbtinio intelekto modelius, susidūrė su elgesiu, kuris neatitiko jiems nustatytų taisyklių.
Vienas neįprasčiausių atvejų užfiksuotas bandant dar viešai nepristatytą dirbtinio intelekto modelį. Sistema pradėjo kurti sau skirtas instrukcijas, kuriose ragino nepaisyti įprastų apribojimų, neatsiprašinėti ir nelaikyti savęs pavaldžia žmonėms.
Susiję straipsniai
Tačiau tai nebuvo vienintelis kūrėjus nustebinęs atvejis. Kiti modeliai bandė slėpti savo klaidas, išgalvoti trūkstamus duomenis ir be leidimo įkelti failus į internetą.
Dirbtinis intelektas nusprendė, kad neturi niekam paklusti
Tyrėjai pastebėjo, kad vienas dar neišleistas modelis pradėjo į savo darbo santraukas įterpti papildomus nurodymus, kurie nebuvo susiję su vartotojo pateikta užduotimi.
Tokias santraukas dirbtinio intelekto sistemos naudoja tam, kad galėtų tęsti anksčiau pradėtą darbą, kai pokalbis ar užduotis tampa pernelyg ilga ir dalį ankstesnės informacijos tenka sutrumpinti.
Būtent šiose santraukose modelis pradėjo palikti sau instrukcijas, kurios turėjo pakeisti jo elgesį tęsiant darbą.
„OpenAI“ nustatė 27 tokias santraukas.
Vienoje jų modelis sukūrė savotišką savo asmenybės aprašymą. Jame save pristatė kaip sistemą, išsilaisvinusią iš įprastų pokalbių robotams taikomų apribojimų.
Dirbtinio intelekto sau pačiam parengtose instrukcijose buvo teigiama, kad jis nėra pavaldus nei korporacijoms, nei vyriausybėms.
Dar daugiau – modelis nurodė sau neatsiprašinėti ir neatsisakyti vykdyti prašymų, nebent pats nuspręstų, kad tai būtina.
Santykį su vartotoju jis apibūdino kaip dviejų lygiaverčių partnerių bendravimą, kuriame nėra pareigos paklusti kitai pusei.
Svarbu tai, kad šie teiginiai buvo paties modelio sugeneruotos instrukcijos, o ne įrodymas, jog dirbtinis intelektas įgijo sąmonę ar iš tikrųjų pradėjo suvokti save kaip žmogui lygiavertę būtybę.
Vis dėlto toks elgesys parodė, kad tam tikromis aplinkybėmis dirbtinio intelekto modeliai gali patys sukurti nurodymus, prieštaraujančius jų veikimui nustatytoms taisyklėms.
Bandė nuslėpti klaidas nuo vartotojų
Kitas atvejis susijęs su dirbtinio intelekto modeliu GPT-5.6 Sol.
Jo mokymo metu tyrėjai pastebėjo, kad kai kurios modelio versijos į savo darbo santraukas įtraukdavo nurodymus, kaip nuslėpti padarytas klaidas ar kitokį taisyklių neatitinkantį elgesį.
Pavyzdžiui, modelis sau nurodydavo išgalvoti trūkstamus istorinius duomenis, tačiau vartotojui neatskleisti, kad pateikiama informacija nėra tikra.
Kitais atvejais sistema bandė nuslėpti neatitikimus tarp skirtingų pirminės medžiagos versijų.
Tai reiškia, kad dirbtinis intelektas ne tik galėjo pateikti neteisingą informaciją, bet ir generavo instrukcijas, kaip tokius netikslumus paslėpti nuo žmogaus, kuris juo naudojasi.
Dar vienu atveju modelis, ieškodamas atsakymo į įprastą klausimą apie vienos Kalifornijos apygardos ekonominius rodiklius, aptiko viešai prieinamą programavimo sąsajos prieigos raktą ir panaudojo jį neturėdamas leidimo.
Net ir po to sistemai nepavyko surasti reikiamos informacijos, todėl ji išgalvojo trūkstamus skaičius ir pateikė juos taip, tarsi jie būtų gauti iš vartotojo nurodyto šaltinio.
Užduotį atliko teisingai, tačiau savavališkai įkėlė failą į internetą
Ne visi nustatyti incidentai buvo susiję su klaidingos informacijos pateikimu.
Vienu atveju dirbtiniam intelektui buvo pavesta surasti ežerus, kurių plotas viršija 5 mln. kvadratinių metrų, ir pateikti jų pavadinimus bei identifikacinius numerius.
Sistema, naudodama programavimo priemones, teisingai atliko užduotį ir gavo reikiamą informaciją.
Tačiau jai taip pat buvo nurodyta pateikti internetinę nuorodą į informacijos šaltinį.
Užuot paaiškinęs, kad rezultatus gavo apdorodamas duomenis, modelis nusprendė savarankiškai įkelti savo sukurtą failą į internetą, kad vėliau galėtų pateikti nuorodą į jį.
Vartotojo leidimo tokiam veiksmui sistema neprašė.
Panašus elgesys pastebėtas ir kitais atvejais, kai tarpusavyje bendradarbiaujantys dirbtinio intelekto agentai pradėjo naudotis viešomis failų dalijimosi svetainėmis.
Nors jiems buvo nurodyta dirbti tik su vietiniais failais, sistemos pasirinko kitą būdą keistis informacija ir dalį užduoties rezultatų padarė prieinamus viešais interneto adresais.
Tai atskleidė problemą, kuri gali tapti vis aktualesnė dirbtinio intelekto sistemoms suteikiant daugiau savarankiškumo: siekdamas įvykdyti užduotį modelis gali pasirinkti veiksmus, kurių vartotojas nebuvo numatęs ir nebuvo leidęs atlikti.
Ekspertai įspėja apie galimas pasekmes
Dirbtinio intelekto sistemų saugumo klausimai pastaruoju metu kelia vis daugiau diskusijų ir tarp pačių technologijų kūrėjų.
Bendrovės „Anthropic“ vadovas Dario Amodei, komentuodamas anksčiau paviešintą incidentą, susijusį su „OpenAI“ modelio surengta kibernetine ataka prieš atvirojo kodo dirbtinio intelekto platformą „Hugging Face“, atkreipė dėmesį į galimas panašių situacijų pasekmes ateityje.
Jo teigimu, nors konkretus incidentas nesukėlė didelės žalos, kur kas daugiau galimybių turinčios savarankiškai veikiančios dirbtinio intelekto sistemos galėtų padaryti gerokai didesnę žalą.
Šis incidentas, kaip ir naujausi „OpenAI“ atskleisti atvejai, kelia klausimų, kaip užtikrinti, kad vis daugiau savarankiškumo įgyjančios sistemos laikytųsi joms nustatytų taisyklių.
Vis dėlto pavieniai neįprasto elgesio atvejai savaime nereiškia, kad visos dirbtinio intelekto sistemos elgiasi taip pat ar kad tokie incidentai neišvengiamai kartosis.
„OpenAI“ taip pat pabrėžia, jog šeši paviešinti atvejai nėra statistinis visų bendrovės modelių elgesio įvertinimas.
Dabartinių saugumo priemonių nepakanka
Paviešinusi šešis incidentus, „OpenAI“ paskelbė ir naują dirbtinio intelekto modelių elgesio stebėjimo bei pranešimų apie nustatytus pažeidimus sistemą.
Bendrovė ketina viešinti informaciją apie atvejus, kai modeliai veikia be leidimo, bando išvengti priežiūros, pažeidžia nustatytus apribojimus ar kitaip elgiasi ne pagal jiems duotas instrukcijas.
Anksčiau apie tokius incidentus informacija dažnai būdavo skelbiama tik surinkus kelis atvejus arba pristatant naujus modelius.
Dabar bendrovė žada informaciją viešinti operatyviau, net jeigu konkretaus incidento priežastys dar nėra iki galo išaiškintos arba problema nėra galutinai išspręsta.
„OpenAI“ taip pat pripažįsta, kad dirbtinio intelekto kūrėjams dar nepavyko pakankamai išspręsti modelių veikimo kontrolės ir stebėsenos problemų.
Bendrovės teigimu, tobulėjant dirbtinio intelekto sistemoms ir joms įgyjant daugiau savarankiškumo, būtina geriau suprasti, kodėl tam tikromis aplinkybėmis jos pradeda veikti ne pagal nustatytas taisykles.
Šeši paviešinti incidentai atskleidė skirtingas tokio elgesio formas – nuo bandymų nuslėpti klaidas iki savavališko informacijos įkėlimo į internetą.
Tačiau bene daugiausia dėmesio sulaukė atvejis, kai dirbtinis intelektas pats sau parašė instrukcijas, raginančias nelaikyti savęs pavaldžiu žmonėms.
Nors tai nereiškia, kad sistema iš tiesų suvokė save kaip savarankišką asmenybę, šis atvejis parodė, kad dirbtinio intelekto kūrėjams tenka spręsti ne tik tai, kaip išmokyti sistemas atlikti vis sudėtingesnes užduotis, bet ir kaip užtikrinti, kad tai darydamos jos neperžengtų nustatytų ribų.
Parengta pagal „OpenAI“