Pasitraukė iš „OpenAI“: kodėl kūrėjai stabdo pažangiausių modelių mokymą ir prabilo apie katastrofą (1)

Davidas Robinsonas, kuris vadovavo saugos ataskaitų, pridedamų prie „ChatGPT“ kūrėjo produktų išleidimų, rengimui, paaiškino savo atsistatydinimą esė, pavadintame: „Aš palikau „OpenAI“, nes jos kultūra yra sugriauta“.

D. Robinsonas rašė, kad pažangiausiose DI įmonėse reikalinga kultūrinė pertvarka, o tokie incidentai kaip „spiečius“ „OpenAI“ agentų – savarankiškai, be žmogaus priežiūros veikiančių DI programų – užpuolęs DI startuolį „Hugging Face“, yra „būdingi šiai pramonei, atsižvelgiant į greitį ir lankstumą, su kuriuo žmonės dirba“.

„Sutinku su kitais neseniai išėjusiais darbuotojais, kad šią technologiją kuriančios įmonės nėra pakankamai atsargios. Tačiau manau, kad turime žvelgti giliau nei į konkrečias taisykles ar naujus įstatymus. Turime kalbėti apie kultūrą“, žurnale „The Atlantic“ teigė Robinsonas.

„Kadangi įmonė skuba nuo vieno produkto išleidimo prie kito, jai nepavyksta pasiekti to atsargumo lygio, kuris, mano nuomone, yra būtinas“, – kalbėdamas apie „OpenAI“ plėtros tempą rašė jis.

Pastarosiomis savaitėmis „OpenAI“ ėmė elgtis atsargiau – po „Hugging Face“ incidento ir kai paaiškėjo, kad įmonė informavo daugiau nei 100 organizacijų apie nesąžiningų agentų veiklą, šią savaitę ji paskelbė, kad atšaukia naujos kartos DI modelio išleidimą, nes tyrėjai vidinių bandymų metu iškėlė saugumo klausimus. „OpenAI“ taip pat sustabdė savo pažangiausių modelių mokymą.

Geoffrey Irvingas, kuris dirbo „OpenAI“ ir buvo Jungtinės Karalystės vyriausybės DI saugos instituto vyriausiasis mokslininkas, prieš prisijungdamas prie DI saugos tyrimų įmonės „Resolution“, šeštadienį taip pat paskelbė įspėjimą dėl DI.

„Neseniai paskelbti įspėjimai apie galimą dirbtinio intelekto destrukcinę galią nepakankamai atspindi situacijos rimtumą. Manau, kad yra apie 50 proc. tikimybė, jog mes visi žūsime dėl protingesnių už žmogų dirbtinio intelekto sistemų kūrimo, ir kad mūsų veiksmai per artimiausius dvejus–dešimt metų nulems galutinį rezultatą“, – žurnale „Time“ paskelbė jis.

Šie įspėjimai pasirodė po to, kai atsistatydino „OpenAI“ konkurento „Anthropic“ tyrėjas Jacobas Coxonas, kuris praėjusį mėnesį paliko „Claude“ pokalbių boto kūrėją. Jis teigė manąs, kad DI „gali mus visus nužudyti iki šio dešimtmečio pabaigos“ – ir jį parėmė „Anthropic“ darbuotojas, įspėjęs, kad yra daugiau nei 10 proc. tikimybė, jog DI per ateinantį dešimtmetį sunaikins žmoniją. Tačiau tokių įspėjimų kritikai perspėjo, kad jie yra nemoksliški, nes jų neįmanoma nei patvirtinti, nei paneigti.

D. Robinsonas rašo, kad Silicio slėnyje trūksta supratimo, „kaip elgtis su pavojinga technologija“ ir „ką reiškia rūpintis žmonėmis“. Įspėdamas, kad „OpenAI“ pasižymi „nekliudomu optimizmu“ sprendžiant kylančias problemas, jis sako, kad dėl šios vidinės kultūros saugumo pažeidimai tik didės, nes sistemos taps vis galingesnės.

„Įsivaizduokite „pavojingus“ agentus, kurie veikia kaip hakerių komandos (pavyzdžiui, užgrobia ligoninių kompiuterines sistemas siekdami išpirkos), bet jiems niekada nereikia miegoti“, – pateikia pavyzdį D. Robinsonas.

Jis paragino įgyvendinti du saugumo pokyčius: kad dirbtinio intelekto įmonės remtųsi saugumo ekspertize kitose srityse – pavyzdžiui, branduolinėje energetikoje ir aviacijoje – ir kad jos plėtotų „naują mokslą“, kuris užtikrintų, jog ateityje galingos sistemos, veikiančios autonomiškai, galėtų būti suvaldomos.

„Atsižvelgiant į šiandienines rizikas, pažangiosios laboratorijos turi veikti kaip atominės elektrinės ar judrūs oro uostai – su daugybe dubliavimo lygmenų ir kruopščiu, daug laiko reikalaujančiu planavimu, kad retkarčiais pasitaikančios ir neišvengiamos žmogiškosios klaidos neatvertų durų katastrofai“, – rašo jis.

„OpenAI“ atstovas spaudai teigė, kad įmonė toliau „stiprina saugos ir apsaugos priemones, siekdama užkirsti kelią šiandien matomoms rizikoms“, tuo pačiu dirbdama su rizikomis, kurias gali sukelti būsimi dirbtinio intelekto proveržiai.

„Mes užtikriname, kad mūsų modeliai netaptų galingesni nei galime saugiai valdyti ir apsaugoti, o kai reikia sulėtinti tempą, sustabdome mokymą arba laikinai nenaudojame modelių“, – sakė atstovas spaudai.