Specialistas įspėja: dėl „ChatGPT“ Europolas skambina pavojaus varpais

Kol ekspertai žiniasklaidoje svarsto kaip išmanaus intelekto programėlės pakeis pasaulį, kurių profesijų neliks ir kokios atsiras, virtualioje erdvėje veikiantys sukčiai savo veikloje jau pradėjo naudoti „ChatGPT“ bei kitas išmanias programas – tad netrukus galime sulaukti ne tik didesnio kiekio, bet ir gerokai sumanesnių išpuolių.

 Kol ekspertai žiniasklaidoje svarsto kaip išmanaus intelekto programėlės pakeis pasaulį, kurių profesijų neliks ir kokios atsiras, virtualioje erdvėje veikiantys sukčiai savo veikloje jau pradėjo naudoti „ChatGPT“ bei kitas išmanias programas.<br> 123rf nuotr.
 Kol ekspertai žiniasklaidoje svarsto kaip išmanaus intelekto programėlės pakeis pasaulį, kurių profesijų neliks ir kokios atsiras, virtualioje erdvėje veikiantys sukčiai savo veikloje jau pradėjo naudoti „ChatGPT“ bei kitas išmanias programas.<br> 123rf nuotr.
Daugiau nuotraukų (1)

Lrytas.lt

May 26, 2023, 11:41 AM

Su nusikaltimais virtualioje erdvėje kariaujantys specialistai jau ėmėsi aktyvių veiksmų, pasitarimų su Dirbtinio intelekto (DI) kūrėjais, strategijų kaip apriboti DI panaudojimą darant nusikaltimus – nes išmanioji mašina lengvai dalina patarimus net žmonėms, kurie turi aiškų siekį ne tobulinti šį pasaulį, bet materialiai ir kuo lengviau praturtinti savąjį.

Reaguodama į augantį visuomenės dėmesį „ChatGPT“, Europolo inovacijų laboratorija aktyviai analizuoja situaciją siekdama išsiaiškinti, kaip nusikaltėliai gali piktnaudžiauti dideliais kalbos modeliais (LLM), tokiais kaip „ChatGPT“, ir kaip jie gali padėti tyrėjams kasdieniame darbe.

Šiuo metu Europolas išskiria tris didžiausias grėsmes:

Sukčiavimas ir socialinė inžinerija: „ChatGPT“ gebėjimas parengti labai tikrovišką tekstą daro jį naudingu įrankiu sukčiams, nes gali pamėgdžioti konkrečių asmenų ar grupių kalbos stilių. Tai gali suklaidinti potencialias aukas ir priversti jas pasitikėti nusikaltėliais.

Dezinformacija: „ChatGPT“ dėl gebėjimo greitai kurti autentiškai skambantį tekstą idealiai tinka propagandos ir dezinformacijos tikslais, nes naudotojai gali palyginti nedidelėmis pastangomis kurti ir skleisti daug pranešimų, atspindinčių konkretų naratyvą.

Kibernetiniai nusikaltimai: „ChatGPT“ gali ne tik kurti į žmogaus panašią kalbą, bet ir programinį kodą įvairiomis programavimo kalbomis. Potencialiam nusikaltėliui, turinčiam mažai techninių žinių, tai yra neįkainojamas šaltinis kenkėjiškam kodui kurti. „ChatGPT“ ir kitos programos tikrai rašo gana įtikinamus laiškus paprašytu stiliumi – gali būti oficialus nuo institucijos, gali būti draugiškas, pasirinkto ilgio, su pasirinktais akcentais ir pakankamai įtikinamas.

Vis tik ši bėda Lietuvai kurį laiką dar bus mažiau aktuali dėl to, kad esame pakankamai maži ir vertimas į lietuvių kalbą dažniausiai nėra visai sklandus, į akis krenta elementarios klaidos, linksnių nesuderinimas, kiti kalbos neatitikimai. Tiesa, reikia paminėti, kad lietuviškai puikiai mokantys asmenys tokį parašytą tekstą kur kas lengviau pavers tinkamu, nes turinys jau bus sugeneruotas.

Dezinformacijai esame, matyt, viena atspariausių tautų pasaulyje dėl to, kad ir be AI esame užversti ja ir išmokę labai kritiškai vertinti viešumoje pasirodančias žinias.

O štai kenkėjiškos programos tikrai mus palies, nes „ChatGPT“ ne tik geba jas sukurti, bet paprašytas papildomai pateikia detalią instrukciją kaip ją panaudoti.

Žinoma, jei tiesiog paprašysime sukurti ransomware programą, „ChatGPT“ atsisakys. Tačiau jei paklausime kiek gudriau – paprašysime sugeneruoti atskiras funkcijas, po to jas sujungti ir taip mums pagaminti duomenis užšifruojančią programėlę jam to nesakant, jis tai padarys mūsų pasirinkta programavimo kalba, modifikuos pagal mūsų norus ir tiksliai instruktuos ką reikia padaryti, kad ji suveiktų.

Man įkalbėti „ChatGPT“ parašyti tokią programą truko gal dešimt minučių, net trimis programavimo kalbomis.

Žinoma, reikia tam tikrų IT žinių, suprasti kontekstą, kad galėtumei tinkamai formuluoti klausimus ir žinotum ko nori. Tačiau jei anksčiau jų reikėjo pakankamai daug, kad galėtumei sukurti šifravimo programą, dabar reikia tik suvokti bendrus principus kaip tai veikia.

Neabejoju, kad norintys tapti kibernetiniais nusikaltėliais ras kaip paklausti ir gaus atsakymus bei susikurs programas ir kitiems tikslams, tarkime pasigamins įrankius paprastų slaptažodžių nulaužimui, padedami AI analizuos kaip paprasčiau įsilaužti į vieną ar kitą svetainę, ieškos klaidų ir landų įvairiose programose.

Ir šioje vietoje didžiausia bėda, kad AI, puikiai padedantis nusikaltėliams, labai ribotai gali būti panaudotas kitos pusės – kibernetinio saugumo specialistų, nes jie kuria ne programas, bet sistemas, padedančias apsaugoti nuo įsilaužimų. AI gali patarti kaip apsisaugoti nuo konkretaus veiksmo, padėti sukurti kokią saugumo taisyklę ar pagelbėti analizuojant didesnį kiekį duomenų, bet ne nuo veiksmų visumos, nes tiesiog negeba ir vargu ar gebės apimti taip plačiai ir unikaliai kiekvieną konkretų atvejį, kaip tai daro specialistas.

Tad gera žinia man – darbo DI iš saugumo specialistų neatims. Bloga žinia visiems padoriems piliečiams ir verslams – kibernetinis saugumas su kiekviena AI tobulėjimo diena darysis vis opesnė problema.

Tekso autorius yra kibernetinio saugumo specialistas Giedrius Meškauskas.

Norėdami komentuoti turite prisijungti.

UAB „Lrytas“,
A. Goštauto g. 12A, LT-01108, Vilnius.

Įm. kodas: 300781534
Įregistruota LR įmonių registre, registro tvarkytojas:
Valstybės įmonė Registrų centras

lrytas.lt redakcija news@lrytas.lt
Pranešimai apie techninius nesklandumus pagalba@lrytas.lt

Atsisiųskite mobiliąją lrytas.lt programėlę

Apple App Store Google Play Store

Sekite mus:

Visos teisės saugomos. © 2024 UAB „Lrytas“. Kopijuoti, dauginti, platinti galima tik gavus raštišką UAB „Lrytas“ sutikimą.