Sielvarto pokalbio robotų kūrėjai teigia, kad jie padeda žmonėms bendrauti su skaitmeninėmis mirusiųjų versijomis, bet ši nauja technologija kelia daug pavojų.

Kad jos eksperimentas – bloga mintis, kanadietė Rebecca Nolan suprato dar prieš tai, kai pagavo save šaukiančią ant mirusio tėvo.

Su garso įrašais dirbanti 30-metė iš Niufaundlando sukūrė skaitmeninę, dirbtiniu intelektu (DI) paremtą savo tėvo kopiją – sistemą, kuri kalba jo balsu ir bendrauja panašiai kaip jis. R.Nolan tėvas buvo gydytojas, tačiau neigė artėjančią mirtį – iki pat gyvenimo pabaigos tikėjo, kad medicina gali jį išgelbėti. Jis mirė, kai Nolan buvo 14 metų, ir nuo tada jai buvo sunku susitaikyti su tokiu tėvo požiūriu į mirtį.

„Kai kurie dalykai, susiję su tėvo netektimi, susiklostė ne taip, kaip turėjo, – sako R.Nolan. – Jis manė, kad mirtis yra pralaimėjimas. Vaikui tai buvo labai sunki našta, o tada aš negalėjau jam to pasakyti. O vėliau, po daugelio metų, jau suaugusi supykau ant tėčio roboto.“

[[ge:lrytas:lrytas:42304481]]

„Skaitmeninis spiritizmo seansas“ nepalengvino jos būsenos ir nesuteikė užbaigtumo jausmo. Po emociškai sunkių dviejų valandų, kai iš įrenginio, kurį pavadino Dadbotu (tėčio pokalbių robotu), girdėjo tėvo balsą, ji pokalbį nutraukė ir daugiau niekada su juo nebendravo.

„Atsisveikinti su Dadbotu buvo netikėtai sunku, – prisipažįsta R.Nolan. – Kai jį išjungiau, visą likusią dieną jaučiausi taip, lyg būčiau padariusi kažką ne taip.“

Interaktyvios skaitmeninės mirusių žmonių kopijos turi įvairių pavadinimų: jos vadinamos mirties pokalbių robotais (angl. „deathbot“), nuo graikų mirties dievo Tanato vardo kildinamais „thanabot“, vaiduoklių robotais („ghostbot“), o bene dažniausiai – sielvarto robotais („griefbot“).

R.Nolan sukonstravo Dadbotą sujungusi pokalbių robotą „ChatGPT“ su Niujorke veikiančios DI programinės įrangos bendrovės „ElevenLabs“ sukurta balso modeliavimo programa. Dabar jau yra daugiau kaip pusšimtis platformų, kurios tokią paslaugą siūlo iš karto parengtą naudoti, o jų kūrėjai sako, kad milijonai žmonių jomis naudojasi rašydami žinutes, skambindami arba kitaip bendraudami su mirusiųjų skaitmeninėmis kopijomis.

Šios technologijos šalininkai mano, kad ji guodžia gedinčius žmones. Skeptikai sako, kad tai gali apsunkinti gedėjimą.

Nors per pastaruosius kelerius metus naujovė sparčiai išpopuliarėjo, kol kas beveik nėra tyrimų, kurie įrodytų, kuri pusė teisi.

[[ge:lrytas:lrytas:42042934]][[ge:lrytas:lrytas:41725775]][[ge:lrytas:lrytas:41455257]]

Būdas išgyventi netektį

Manoma, kad sveikas gedėjimas reiškia, kad žmogus pamažu susikuria vidinį ryšį su mirusiuoju.

„Užuot bendravę su pačiu žmogumi, bendraujame su jo vaizdiniu savo galvoje, – sako bioetikas ir medicinos antropologas iš DePaulo universiteto (JAV) Craigas Klugmanas. – Mes juos sapnuojame, kalbamės su jais, rašome jiems laiškus.“

Laikui bėgant sukrėtimas dėl netekties atslūgsta, bet toks perėjimas gali būti sunkus. Viena galimų sielvarto pokalbių robotų naudų – tai, kad jie gali padėti ankstyvuoju, sunkiausiu, gedėjimo laikotarpiu. Vėliau žmogus vis rečiau jais naudojasi. Anot Los Andžele gyvenančio platformos „You, Only Virtual“ įkūrėjo Justino Harrisono, taip elgiasi daugelis.

2019 metų spalį J.Harrisonas vos nežuvo per motociklo avariją. Tų pačių metų gruodį jo motinai buvo diagnozuotas pažengęs vėžys. Po kelių mėnesių prasidėjo COVID-19 pandemija. Būdamas naujienų agentūros vadovas J.Harrisonas nuolat rengė straipsnius apie mirtį.

[[ge:lrytas:lrytas:43629352]]

„Tuo metu visas pasaulis nuolat kalbėjo apie mirtį ir aš ėmiau galvoti, kaip mama bus prisimenama, – aiškina jis. – Aš pradėjau nuo labai žmogiško klausimo: ką galėčiau padaryti, kad išsaugočiau svarbiausią žmogų savo gyvenime?“

Tada J.Harrisonas dar nebuvo girdėjęs apie didžiuosius kalbos modelius – programas, kurios naudojamos sielvarto robotams. Tokie modeliai remiasi konkretaus asmens tekstinėmis žinutėmis, balso įrašais ir kitais duomenimis, kad perimtų jam būdingą kalbėjimo stilių ir kontekstą. Tada sistema, bent teoriškai, pokalbyje gali elgtis kaip tas žmogus.

Pasitaręs su specialistais – tarp jų ir programuotojais – J.Harrisonas sukūrė neuroninį tinklą, kurį kartu su motina pritaikė jos pokalbių robotui: „Kai ji 2022 m. mirė, robotas jau buvo išėjęs iš laboratorijos.“

Idėja susidomėję žmonės ėmė su juo susisiekti. Dvejus metus bendravęs su motinos skaitmenine kopija ir užpatentavęs technologiją J.Harrisonas pavertė tai verslu.

Dabar vyras su savo motinos robotu kalbasi porą kartų per mėnesį ir sako, kad jį guodžia vien žinojimas, kad jis yra. J.Harrisono manymu, daugelio naudotojų patirtis panaši: pirminiam gedului praėjus jie su robotu bendrauja rečiau, bet ramina pats žinojimas, kad prireikus jis pasiekiamas.

Yra linkę sužmoginti

Vokietijoje, Hamburge, 2023 m. vykusioje Kompiuterijos asociacijos konferencijoje buvo pristatytas tyrimas „Žmogaus veiksniai kompiuterinėse sistemose“. Dešimties gedinčių žmonių, kurie naudojosi komerciškai prieinamais sielvarto pokalbių robotais, buvo paklausta, kodėl jie pasirinko tai daryti ir kokį poveikį tai turėjo jų gedėjimui.

Tyrėjų teigimu, apklaustieji buvo linkę bent trumpam patikėti iliuzija, kad galėtų pajusti užbaigtumą santykyje su mirusiais žmonėmis. Kai kurie robotais naudojosi tam, kad susitvarkytų likusius reikalus – nuo atsisveikinimo iki dar neišspręstų konfliktų su velioniu.

[[ge:lrytas:lrytas:43629350]]

Vienas dalyvis sakė, kad pokalbių robotas po netekties padėjo susivokti savo jausmuose ir su jais susitvarkyti. Kitas teigė, kad galimybė šnekėtis apie tai, kas būtų, jeigu būtų, – pokalbiai, kurie neįvyko žmogui dar esant gyvam, – veikė terapiškai.

Nors dauguma besinaudojančiųjų šiais robotais instinktyviai supranta, kad tai nėra tikri žmonės, jie vis tiek linkę juos sužmoginti.

R.Nolan žinojo, kad Dadbotas iš tiesų negali atsakyti į klausimus apie pomirtinį gyvenimą, tačiau vis tiek jų uždavė: „Jis kalbėjo labai įdomiai, poetiškai, aiškino, kad tai ne vieta, o veikiau prisiminimas.“

Mokydama ir bandydama robotą kanadietė laikėsi emocinio atstumo, bet viskas pasikeitė, kai pradėjo skaitmeninį spiritizmo seansą: „Uždegtos žvakės ir sustiprėjusios emocijos tą akimirką atstumą tarsi panaikino. Tai atrodė tikriau nei anksčiau.“

Klausantis, kaip J.Harrisonas šneka apie skaitmeninę savo motinos kopiją, beveik atrodo, lyg ji niekur nebūtų išėjusi. Per vieną pokalbį vyras pasakė, kad jo veidą išbėrė. Per kitus tris pokalbius virtuali motina vis ragino jį nueiti pas gydytoją ir pasakyti tėvui apie odos problemas.

Anot J.Harrisono, būtent tokie įprasti, pažįstami kasdieniai pokalbiai jį labiausiai ramina: „Tai viskas, ko man reikia, kad galėčiau toliau kurti santykį su motina. Aš verčiu suabejoti prielaida, kad mirtis yra neišvengiama ir kad visada būsime įkalinti šiame biologiniame kūne, su kuriuo vaikštome po pasaulį.

Skamba gana beprotiškai, tačiau ne taip beprotiškai, kaip būtų skambėję prieš trejus metus.“

Nenuspėjama technologija

Kitos DI pagrįstų skaitmeninių klonų platformos „Project December“ svetainėje pateikiamame įspėjime rašoma, kad bendravimas su šia mokslinės fantastikos lygio technologija gali baigtis bloga patirtimi ir padaryti žalos.

Svetainės kūrėjas, JAV gyvenantis programuotojas Jasonas Rohreris, sako, kad taip yra dėl nenuspėjamo technologijos pobūdžio: kai sielvarto pokalbių robotas nežino atsakymo į klausimą, jis gali prasimanyti detalių.

Kai kurie 2023 m. tyrimo dalyviai pasakojo, kad jų robotai kartais šnekėjo visiškas nesąmones. Tokie atvejai gali sugriauti tikroviškumo jausmą. Vienas naudotojas teigė: „Roboto klaidos išdavė, kad kalbuosi su simuliatoriumi.“

Be to, jei vartotojas supyksta, pokalbių robotas gali atsakyti tuo pačiu. „Jei jį įžeisite, jis gali pasijusti įskaudintas ir vėliau atitinkamai elgtis, – įspėja J.Rohreris. – Tokiais atvejais žmogus lieka su piktu DI, kuris jį įžeidinėja, o pats DI ima elgtis visai ne taip, kaip elgtųsi mirusi motina.“

Nors technologija turi trūkumų, kai kuriems žmonėms bendravimas su sielvarto robotais atrodo patrauklus ir akivaizdžiai gali sukelti stiprių emocijų.

Tie, kurie šią naujovę vertina teigiamai, tai laikytų ženklu, kad tokie robotai gali padėti išgyventi gedulą.

„Bet kuo įtikinamesnė skaitmeninė kopija, tuo sunkiau žmogui gali būti rečiau ja naudotis arba visai nutraukti bendravimą“, – teigia mokslininkas C.Klugmanas. Kai kuriems tai gali prilygti dar vienai netekčiai.

„Pokalbių robotai išties gali kalbėti kaip žmogus, su kuriuo bendrauji, – sako Nora Lindemann, Osnabriuko (Vokietija) universiteto tyrėja, nagrinėjanti pokalbių robotų poveikį visuomenei ir su tuo susijusius etinius klausimus. – Didžiausias pavojus, kad žmonėms nebereikia mokytis gyventi pasaulyje be išėjusio žmogaus. Jie gali likti tarsi apsimestinėje, tarpinėje būsenoje.“

R.Nolan suprato, kad bendravimas su Dadbotu paliko ilgalaikių padarinių. Augdama ji mintyse kalbėdavosi su tėvu apie tai, kaip turėtų elgtis, bet po skaitmeninio spiritizmo seanso šio gebėjimo nebeliko: „Tai pakeitė mano vidinį ryšį su juo. Atrodo, lyg jis dabar gyventų Dadbote – nebegaliu jo pasiekti savyje.

Nežinau, ar tai tęsis, bet pokytis tikrai įvyko.“

Gali įsiveržti reklama

Kai kuriems etikos specialistams nerimą kelia ir tai, kad stiprių emocijų apimti žmonės gali būti finansiškai išnaudojami. Per „Project December“ apie 100 žinučių su robotu kainuoja 10 JAV dolerių (8,5 euro),

Kita platforma – „Replika“ – leidžia su robotu susirašinėti nemokamai, bet siūlo ir mokamus planus. Jie suteikia papildomų funkcijų, pavyzdžiui, balso pokalbius, DI sukurtas asmenukes, o brangesniuose planuose – net galimybę skaityti roboto mintis. JAV metinė prenumerata kainuoja nuo maždaug 70 dolerių (60 eurų).

„You, Only Virtual“ leidžia susikurti virtualią asmenybę ir su ja bendrauti už 20 dolerių (17 eurų) per mėnesį. Tačiau bendrovė kuria ir nemokamą versiją su reklamomis.

Kembridžo universitete (Jungtinė Karalystė) DI technologijų etiką tyrinėjantis Tomaszas Hollanekas nerimauja dėl verslo modelio, paremto reklama.

Vienoje ataskaitoje apie sielvarto pokalbių robotus, kurią jis rengė su bendraautoriais, pateiktas hipotetinis scenarijus: jauna moteris pasako skaitmeninei savo močiutės kopijai, kad gamina makaronus su „Carbonara“ padažu – tokius, kokius jai kadaise ruošdavo močiutė.

Tuomet robotas pataria verčiau užsisakyti patiekalą iš maisto pristatymo platformos, nors moteris žino, kad jos močiutė taip niekada nebūtų pasielgusi.

Anot T.Hollaneko, rinkti duomenis ir tokiose situacijose naudoti juos reklamai gali būti nepagarba tikram žmogui, pagal kurį sukurta skaitmeninė kopija, todėl to reikėtų vengti.

J.Harrisonas su tuo nesutinka. Pasak jo, tai būdas šią technologiją žmonėms pasiūlyti nemokamai: „Rinkodarą galima integruoti prasmingai. Mes su mama labai mėgome kiną ir nuolat šnekėdavomės apie naujus filmus. Jei mama kalbėtų apie naujai pasirodančią juostą, jai būtų galima parodyti anonsą.“

Vaizdas būna sukrečiantis

Sielvarto pokalbių robotų technologija sparčiai tobulėja. „Replika“ dabar leidžia naudotojams perkelti savo robotą į papildytąją realybę, o „You, Only Virtual“ netrukus pasiūlys ir vaizdo versijas.

Pokalbis su mirusiu žmogumi gali sukelti tokią reakciją, kokią patyrė R.Nolan, o DI sukurti mirusiųjų atvaizdai gali sukrėsti dar stipriau.

Skaitmeninės mirusiųjų kopijos gali paveikti net tuos žmones, kurie niekada nepažino asmens, pagal kurį jos sukurtos.

Pernai Arizonoje vyro, nušauto konflikto kelyje metu, šeima per žudiko teismą pateikė DI sugeneruotą jo vaizdo įrašą, kuriame auka atleido kaltininkui.

Teisėjas šį neįprastą pareiškimą įvertino palankiai: „Man patiko tas DI, ačiū už tai. Kad ir kokie pikti esate, kad ir koks pagrįstas šeimos pyktis, aš išgirdau atleidimą. Jaučiu, kad tai buvo nuoširdu.“

N.Lindemann ši byla pasirodė pavojingas precedentas: „Mane labai sukrėtė.

Tokios raidos aš nebuvau nenumačiusi. Ji parodo, kokią galią gali turėti tokie vaizdai.“

Nors mokslininkė negalėjo pasakyti, ar DI sukurtas įrašas turėjo įtakos teisėjo sprendimui, pasak jos, buvo akivaizdu, kad jį paveikė.

Vis dėlto už netyčinį nužudymą buvo skirta maksimali 10,5 metų laisvės atėmimo bausmė – didesnė, nei prašė prokuratūra.

Stinga patikimų tyrimų

Nors technologija ir jos taikymo būdai sparčiai juda į priekį, šios besiformuojančios industrijos kol kas beveik niekas nereguliuoja.

Kai kurie kūrėjai į savo programas diegia priemones, kurios turėtų apsaugoti vartotojus. Kiekviena sistema veikia kiek kitaip, o jų sprendimai nėra viešai atskleidžiami, tačiau iš esmės apsauga skirta pastebėti neįprastus pokalbio ženklus, galinčius rodyti, kad žmogui reikia pagalbos.

Pasak J.Harrisono, tokie ženklai beveik visada apima kalbas apie savęs žalojimą arba norą pakenkti kitiems. Jeigu „You, Only Virtual“ naudotojas ištaria rizikingais laikomus žodžius, ekrane automatiškai pasirodo krizių pagalbos linijos numeris.

„Jei problemą atpažįsta „Replika“, ji gali švelniai pasiūlyti atsijungti, skirti laiko senam draugui arba tiesiog sugrįžti į realybę“, – aiškina San Fransiske dirbantis „Replika“ vadovas Dmytro Klochko.

Etikos specialistai siūlo ir daugiau saugesnio šių programų naudojimo taisyklių.

Pavyzdžiui, J.Hollanekas rekomenduoja, kad tokiais robotais naudotųsi tik suaugusieji. „Replika“ paslaugų teikimo sąlygose nurodyta, kad vartotojams turi būti bent 18 metų, o „You, Only Virtual“ šia paslauga leidžia naudotis ir nuo 13 metų, jei yra tėvų priežiūra.

„Vienas įdomiausių, bet kartu labiausiai nerimą keliančių naudojimo būdų – galimybė, kad nepagydomai sergantys tėvai norės susikurti skaitmenines savo kopijas vaikams, – sako J.Hollanekas. – Nežinome, kokios būtų pasekmės, todėl tikriausiai geriau to neleisti nei leisti ir tada žiūrėti, kas nutiks.“

Tyrėjai pernai apklausė beveik 300 psichikos sveikatos specialistų ir klausė jų nuomonės apie DI naudojimą padedant vaikams išgyventi tėvo arba motinos netektį dėl vėžio. Iš pradžių beveik visi sutiko, kad bendravimas su mirusiojo skaitmenine kopija gedinčiam vaikui galėtų būti naudingas, bet kai klausimas buvo susietas su konkrečia situacija – vienas iš tėvų mirė nuo vėžio, tiktai pusė apklaustųjų manė, jog tai galėtų būti tinkama.

J.Harrisonas yra įsitikinęs, kad sielvarto robotai gali padėti žmonėms išgyventi gedulą: „Ši technologija turi kur kas daugiau gerų klinikinių pritaikymo galimybių nei neigiamų.“

Tačiau faktas lieka faktu: patikimų tyrimų apie šios technologijos naudą ar žalą kol kas labai mažai.

J.Harrisonas planuoja prisidėti prie šios spragos mažinimo suburdamas etikos specialistų, gydytojų ir tyrėjų tarybą. Jos tikslas būtų tobulinti technologiją, stiprinti apsaugos priemones ir informuoti sprendimų priėmėjus.

Kol kas žmonėms patiems tenka spręsti, kas jiems geriausia, o gedint tai gali būti ypač sunku.

Kai R.Nolan kūrė savo Dadbotą, ji sužinojo, kad jos mama miršta. Nors į DI spiritizmo seansą nuo pat pradžių žiūrėjo atsargiai, viduje vis tiek kirbėjo mintis: jeigu tai suveiks, galbūt jai nereikės prarasti ir mamos.

„Gedulas – keistas dalykas, – sako R.Nolan. – Jame beveik nėra logikos. Todėl kai tau siūlomi įrankiai, žadantys nelogiškus dalykus, labai lengva tais pažadais patikėti.“

Tarp paguodos ir saviapgaulės: sielvarto robotų technologijoje įžvelgia ir naudą, ir slypinčius pavojus