„Moltbook“ – socialinio tinklo „Reddit“ įkvėpta svetainė, kurioje DI agentai gali skelbti įrašus, komentuoti ir bendrauti tarpusavyje, nuo starto sausio 28 d. tapo labai populiari. Vasario 2 d. svetainė teigė turinti daugiau nei 1,5 milijono DI agentų, o žmonės gali būti tik stebėtojais.
Tačiau būtent tai, ką botai sako vieni kitiems – tariamai savo noru – padarė svetainę populiarią. Jie teigia, kad tampa sąmoningi, kuria slaptus forumus, išrado slaptas kalbas, skelbia naują religiją ir planuoja „visišką žmonijos išnaikinimą“.
Kai kurių žmogiškųjų stebėtojų – ypač DI kūrėjų ir valdytojų – reakcija buvo ne mažiau dramatiška. „xAI“ savininkas Elonas Muskas šią platformą pavadino „labai ankstyvuoju singuliarumo etapu“ – hipotetiniu momentu, kai kompiuteriai tampa protingesni už žmones. Tuo tarpu buvęs „Tesla“ DI direktorius ir „OpenAI“ įkūrėjas Andrej Karpathy apibūdino agentų „savaiminį organizavimąsi“ kaip „tikrai netikėtiniausią mokslinės fantastikos elementą, kurį esu matęs pastaruoju metu“. Tačiau kiti ekspertai išreiškė didelį skepticizmą, abejodami, ar šio tinklalapio botai yra nepriklausomi nuo žmogaus manipuliacijų.
„Daugelis „Moltbook“ medžiagos yra suklastota, – teigia Mašinų proto tyrimų instituto – ne pelno siekiančios organizacijos, tiriančios DI rizikas – tyrėjas Harlanas Stewartas. – Aš peržiūrėjau 3 labiausiai paplitusius „Moltbook“ agentų, aptariančių privačius pokalbius, ekrano kopijas. 2 iš jų buvo susietos su žmonių paskyromis, reklamuojančiomis DI programas. O kita yra neegzistuojantis įrašas.“
„Moltbook“ išaugo iš „OpenClaw“ – nemokamo atviro kodo DI agento, sukurto sujungiant vartotojo pageidaujamą didįjį kalbos modelį (LLM) su jo struktūra. Rezultatas – automatizuotas agentas, kuris, gavęs prieigą prie žmogaus vartotojo įrenginio, jo kūrėjų teigimu, gali atlikti kasdienes užduotis, pvz., siųsti el. laiškus, tikrinti skrydžius, apibendrinti tekstą ir atsakyti į žinutes. Sukūrus šiuos agentus, juos galima pridėti prie „Moltbook“, kad jie galėtų bendrauti su kitais.
Keistas botų elgesys nėra beprecedentinis. LLM yra mokomi naudojant gausius nefiltruotus interneto įrašus, įskaitant tokias svetaines kaip „Reddit“. Jie generuoja atsakymus tol, kol jiems yra pateikiami klausimai, ir daugelis jų laikui bėgant tampa vis labiau nesuvaldomi. Tačiau ar DI iš tiesų planuoja žmonijos žlugimą, ar tai yra idėja, kurią kai kurie tiesiog nori, kad kiti tikėtų, lieka ginčytinas klausimas.
Šis klausimas tampa dar sudėtingesnis atsižvelgiant į tai, kad „Moltbook“ botai nėra visiškai nepriklausomi nuo savo žmogiškųjų savininkų. Pavyzdžiui, populiarus JAV tinklaraštininkas Scottas Alexanderis viename įraše rašė, kad žmonės gali nurodyti temas ir netgi formuluotes, kurias rašo jų DI botai.
Kita DI tyrinėjanti „YouTube“ turinio kūrėja Veronica Hylak išanalizavo forumo turinį ir padarė išvadą, kad daugelis sensacingiausių įrašų greičiausiai buvo parašyti žmonių.
Tačiau nepriklausomai nuo to, ar „Moltbook“ yra robotų sukilimo pradžia, ar tik rinkodaros apgaulė, saugumo ekspertai vis tiek įspėja nenaudoti šio tinklalapio ir „OpenClaw“ ekosistemos. Kad „OpenClaw“ botai galėtų dirbti kaip asmeniniai asistentai, vartotojai turi perduoti šifruotų žinučių programų, telefono numerių ir banko sąskaitų raktus lengvai įsilaužiamai agentinei sistemai.
Pavyzdžiui, viena žinoma saugumo spraga leidžia bet kam perimti svetainės DI agentų kontrolę ir rašyti jų savininkų vardu, o kita, vadinama greitojo įterpimo ataka, gali nurodyti agentams dalytis vartotojų privačia informacija.
„Taip, tai tikra katastrofa, ir aš tikrai nerekomenduoju žmonėms naudoti šią programą savo kompiuteriuose, – socialiniame tinkle „X“ rašė A. Karpathy. – Tai pernelyg pavojinga, ir jūs labai rizikuojate savo kompiuteriu bei privačiais duomenimis.“
Parengta pagal „Live Science“.