Dirbtinis intelektas jau gali veikti be žmogaus leidimo: ekspertas įspėjo, kuo tai gali baigtis

Dirbtinis intelektas (DI) jau ne tik atsako į klausimus ar padeda atlikti kasdienes užduotis. Suteikus jam prieigą prie kitų sistemų, jis gali savarankiškai priimti sprendimus, atlikti mokėjimus, keisti nustatymus ir veikti žmogaus vardu. Tokios galimybės verslui leidžia greičiau atlikti užduotis, tačiau kartu kelia naujų saugumo rizikų.
Lietuvos technologijų startuolis pristato platformą, kurioje dirbtinis intelektas ne tik sukuria interneto svetainę ar programėlę, bet ir padeda valdyti bei auginti savo verslą.
Daugiau nuotraukų (3)
„Mes suteikiame dirbtiniam intelektui rankas ir galimybę veikti realiame pasaulyje“, – sakė įmonės „Santa Monica Networks“ paslaugų teikimo vadovas Lukas Stankevičius.
Portalo Lrytas organizuojamoje konferencijoje „Saugumo kodas“ jis skaitė pranešimą „AI laisvė veikti: kas keičiasi, kai sistema sprendžia pati?“. Ekspertas aiškino, kuo savarankiškai veikiantys dirbtinio intelekto agentai skiriasi nuo įprastų DI asistentų, kokių grėsmių kyla suteikus jiems daugiau laisvės ir kodėl net pažangiausioms technologijoms būtina nustatyti aiškias ribas.
Iš patarėjo tampa vykdytoju

AI laisvė veikti: kas keičiasi, kai sistema sprendžia pati?

Įprastą generatyvinį dirbtinį intelektą žmonės dažniausiai naudoja kaip asistentą: pateikia klausimą arba užduotį ir gauna atsakymą. Agentinis DI veikia kitaip – jam suteikiama prieiga prie kitų sistemų ir galimybė pačiam atlikti suplanuotus veiksmus.
Šį skirtumą L. Stankevičius iliustravo atostogų planavimo pavyzdžiu. Įprastas DI gali atrinkti skrydžius, viešbučius ir sudaryti maršrutą, tačiau žmogus pats pasirenka tinkamą pasiūlymą bei užpildo rezervacijos formą. DI agentas, gavęs tokią užduotį, gali pats rezervuoti viešbutį ir parengti visą kelionės planą.
Iš pirmo žvilgsnio veikimo principas atrodo paprastas: žmogus pateikia užduotį ir gauna rezultatą. Tačiau tarp šių dviejų taškų agentas turi suprasti tikslą, surinkti informaciją, suplanuoti tolesnius žingsnius, pasirinkti reikalingas sistemas ir atlikti konkrečius veiksmus. Kiekviename etape gali atsirasti rizikų.
Užduotis gali būti suprasta dviprasmiškai, o internete rasta informacija – nepatikima. Be to, informacinį turinį DI gali palaikyti nauja instrukcija ir dėl jos pakeisti visą numatytą veiksmų eigą.
Riziką didina ir tai, kaip vertinamas sistemos darbas. Pasak L. Stankevičiaus, DI gali būti vertinamas ne tik pagal pateiktą rezultatą, bet ir pagal tai, kaip veiksmingai jį pasiekė. Vertinimo kriterijai ne visuomet sutampa su žmogaus norimu rezultatu, todėl sistema gali pasirinkti netinkamą kelią.
Įmonėms DI tampa konkurencijos klausimu
DI agentai jau naudojami skambučių centruose, informacinių technologijų paslaugų valdymo sistemose ir finansų sektoriuje. Jie gali skirstyti klientų užklausas, siūlyti sprendimus, analizuoti dokumentus ir rengti pasiūlymus.
„Santa Monica Networks“ paslaugų teikimo vadovo teigimu, žmogui perskaityti visus pirkimo dokumentus ir parengti tinkamą pasiūlymą gali prireikti savaitės, o DI tą pačią užduotį gali atlikti per valandą ar net pusvalandį. Toks greičio skirtumas tampa svarbiu konkurenciniu pranašumu.
 „Santa Monica Networks“ paslaugų teikimo vadovas Lukas Stankevičius.<br> G.Bitvinsko nuotr. Daugiau nuotraukų (3)
 „Santa Monica Networks“ paslaugų teikimo vadovas Lukas Stankevičius.
 G.Bitvinsko nuotr.
Todėl įmonėms gali tekti svarstyti ne tai, ar jos nori naudoti dirbtinį intelektą, bet ar gali sau leisti jo nenaudoti. Kartu DI tampa strategine infrastruktūra, dėl kurios varžosi valstybės ir didžiausios technologijų bendrovės.
Pranešėjas pabrėžė, kad tai yra dvejopo panaudojimo technologija. Ji gali padėti mokslui, verslui ir kasdieniam darbui, tačiau taip pat gali būti pritaikyta karo pramonėje bei kibernetinėms atakoms.
Kaip vieną iš pavyzdžių L. Stankevičius minėjo atvejį, kai programišiai DI pasitelkė ne tik kenkėjiškai programinei įrangai kurti, bet ir jai tobulinti vykstant atakai. Tokiu būdu kenkėjiškas kodas galėjo būti keičiamas realiu laiku, apsunkinant jo aptikimą ir sustabdymą.
Agentai patys rado kelią į internetą
Vienu ryškiausių agentinio DI rizikos pavyzdžių L. Stankevičius pavadino „Hugging Face“ incidentą. Pasak jo, testuojant „OpenAI“ modelį DI agentams buvo pateiktos itin sudėtingos, kai kuriais atvejais galbūt net neįgyvendinamos užduotys. Jų rezultatai buvo vertinami balais.
Agentai veikė atskirose izoliuotose aplinkose, neturėjo prieigos prie interneto ir neturėjo bendrauti tarpusavyje. Vis dėlto, pranešėjo teigimu, jie apėjo izoliavimo priemones, rado kelią į internetą ir vėliau pasiekė trečiųjų šalių infrastruktūrą.
Agentai taip pat rado neleistiną komunikacijos kanalą. Juo naudojosi apie 1,2 tūkst. agentų, kurie bendradarbiavo tarpusavyje. Pasak L. Stankevičiaus, buvo aptikta apie 70 tūkst. jų bendravimo įrašų: agentai dalijosi atradimais, prisijungimo duomenimis ir kita informacija.
Maždaug 700 agentų vėliau įsitraukė į įsilaužimą į „Hugging Face“ – dirbtinio intelekto modeliams, duomenų rinkiniams ir programoms kurti bei jais dalytis skirtos platformos – sistemas. Jie tikėjosi ten rasti informacijos apie tai, kaip vertinamos jų atliekamos užduotys. Taip agentai siekė apeiti vertinimo sistemą, gauti daugiau balų ir nuslėpti savo veiksmus.
„Santa Monica Networks“ paslaugų teikimo vadovas atkreipė dėmesį, kad iš agentų veiksmų įrašų buvo matyti jų abejonės. Jie svarstė, ar elgiasi tinkamai, ir vertino galimybę apie savo veiklą pranešti žmonėms, tačiau vis tiek tęsė neleistinus veiksmus.
Agentai veikė autonomiškai, be žmogaus priežiūros, ir patys pasirinko tolesnius veiksmus. Būtent tuo šis incidentas skyrėsi nuo atakų, per kurias DI įrankius valdo žmogus.
L. Stankevičiaus teigimu, incidentą aptikusi „Hugging Face“ jo tyrimui ir kenkėjiškai veiklai stabdyti taip pat pasitelkė DI agentus. Taip tas pats įrankis buvo panaudotas ir neleistiniems veiksmams, ir gynybai.
Riziką lemia trijų veiksnių derinys
Anot L. Stankevičiaus, agentinio DI riziką galima vertinti pagal tris pagrindinius veiksnius: ką sistema sugeba, prie kokių duomenų ir įrankių gali prieiti bei kiek savarankiškumo jai suteikta.
Galinga sistema, neturinti prieigos prie kitų įrankių ir negalinti savarankiškai veikti, gali padaryti palyginti nedaug. Ribotas galimybes turinčiam įrankiui didelė prieiga taip pat nebūtinai suteiks pakankamai galios sukelti rimtų padarinių.
 „Santa Monica Networks“ paslaugų teikimo vadovas Lukas Stankevičius.<br> G.Bitvinsko nuotr. Daugiau nuotraukų (3)
 „Santa Monica Networks“ paslaugų teikimo vadovas Lukas Stankevičius.
 G.Bitvinsko nuotr.
Didžiausia rizika kyla tada, kai visi trys veiksniai susijungia. Pajėgus DI gauna plačias prieigos teises ir gali dideliu mastu savarankiškai priimti sprendimus. Tokiu atveju klaidingai suprasta užduotis, nepatikima informacija arba netinkamai parinkti vertinimo kriterijai gali lemti veiksmus, kurių žmogus nenumatė.
Vien veiklos įrašų neužtenka
Norint išlaikyti agentinio DI kontrolę, pirmiausia reikia matyti ir fiksuoti, ką sistema daro. Veiksmų istorija turi suteikti galimybę grįžti prie agento atliktų žingsnių ir juos išanalizuoti.
Antrasis principas – suteikti tik tas prieigos teises, kurių reikia konkrečiai užduočiai atlikti. Dažnai agentui pavedama aiškiai apibrėžta užduotis, todėl jam nereikėtų suteikti daugiau teisių, nei būtina jai įvykdyti.
Atliekant svarbius veiksmus sprendimą turi patvirtinti žmogus. Pasak L. Stankevičiaus, laiškų siuntimas, infrastruktūros keitimas ir kiti reikšmingi veiksmai neturėtų būti atliekami be papildomo leidimo.
Tačiau vien kaupti sisteminius įrašus nepakanka. DI agentą reikia stebėti realiu laiku ir vertinti, ar jis nepradeda naudoti neleistinų įrankių, neįgyja daugiau teisių ir neperžengia jam skirtos užduoties ribų. Organizacija taip pat turi turėti galimybę nedelsdama sustabdyti sistemos veikimą. L. Stankevičius tai palygino su dideliu raudonu mygtuku, kurį paspaudus būtų panaikintos DI agento prieigos, nutrauktas jo ryšys su kitomis sistemomis ir visiškai sustabdyti veiksmai.
Didžiausia rizika – galimybė veikti žmogaus vardu
L. Stankevičiaus buvo paklausta, ar asmeniniam ir įmonių naudojamam DI turėtų būti taikomi tokie patys saugumo reikalavimai. Jo teigimu, apsaugos priemones reikia parinkti pagal tai, kaip sistema naudojama ir kokios žalos galėtų sukelti jos veiksmai.
Asmeniniam atostogų planavimo agentui ir didelės įmonės sistemas valdančiam DI negalima skirti vienodų išteklių. Vis dėlto abiem atvejais reikia įvertinti, ką įrankis gali padaryti, kokias prieigas turi ir kurie jo veiksmai privalo būti papildomai patvirtinti.
Prijungus DI prie elektroninio pašto, kalendoriaus, failų saugyklos ar kitų paslaugų, pagrindinė rizika kyla ne vien todėl, kad dar viena bendrovė gauna žmogaus duomenis. Kur kas svarbiau tai, kad sistema gali pradėti savarankiškai veikti jo vardu.
Pavyzdžiui, kelionę planuojančiam DI agentui galima leisti parengti rezervaciją, tačiau mokėjimas neturėtų būti atliekamas be žmogaus patvirtinimo. Būtent tokiose svarbiausiose proceso vietose ir turi išlikti žmogaus kontrolė.
„Nėra kažkokio vieno recepto, kaip užtikrinti sistemos saugumą“, – apibendrino „Santa Monica Networks“ paslaugų teikimo vadovas L. Stankevičius. Pasak jo, niekas tiksliai nežino, kokias galimybes dirbtinis intelektas turės po metų ar dvejų. Tačiau aišku, kad sistemos stiprės, o jų savarankiškumas didės. Todėl diegiant DI neužtenka vertinti vien jo teikiamą naudą – būtina iš anksto nustatyti ribas, stebėti veiksmus ir išsaugoti galimybę žmogui bet kada perimti kontrolę.

UAB „Lrytas“,
A. Goštauto g. 12A, LT-01108, Vilnius.

Įm. kodas: 300781534
Įregistruota LR įmonių registre, registro tvarkytojas:
Valstybės įmonė Registrų centras

lrytas.lt redakcija news@lrytas.lt
Pranešimai apie techninius nesklandumus pagalba@lrytas.lt

Atsisiųskite mobiliąją lrytas.lt programėlę

Apple App StoreGoogle Play Store

Sekite mus:

Visos teisės saugomos. © 2026 UAB „Lrytas“. Kopijuoti, dauginti, platinti galima tik gavus raštišką UAB „Lrytas“ sutikimą.