„Dirbtinis intelektas ir robotai atims iš mūsų darbus“ – skanduoja tūkstančiai burnų ir bilda tūkstančiai klaviatūrų, internete besidalinančių tokiomis savo baimėmis. Bet ką apie tai mano tie, kurie patys kuria pažangias, ateities kompiuterines sistemas?
Portalo lrytas.lt laidoje „#42“ superkompiuterių kūrėjas Paulius Velesko, dirbantis JAV įmonėje „Intel“ ir kuriantis programinę įrangą superkompiuteriams, išdėstė savo požiūrį apie šią problemą, apie ateitį, o taip pat technologijas, kurios ją nulems.
– Pauliau, jūs dirbate kompanijoje „Intel“. Ši kompanija visiems asocijuojasi su kompiuterių procesoriais. Bet ar tai viskas, ką ji daro?
– Kompanija užsiima tikrai daug kuo. Dabar kaip tik vyksta perversmai ir mes bandome judėti toliau nuo procesorių – taip sakant, „geležies“ – ir arčiau prie informacijos bei programavimo. Vienos iš sričių yra autonominis mašinų valdymas, dirbtinis intelektas, informacijos kaupimas ir apdorojimas.
– O ką konkrečiai „Intel“ darote jūs?
– Dirbu su superkompiuteriais – jų programų optimizacija.
– Kas tai yra – superkompiuteris?
– Superkompiuteris – tai daug kompiuterių, sujungtų į vieną tinklą. Per tą tinklą jie komunikuoja tarpusavyje ir bando išspręsti kažkokią didelę ir sudėtingą problemą, kuri arba netilptų į vieną kompiuterį, arba jos apskaičiavimai vienu kompiuteriu truktų pernelyg ilgai.
– Kokias užduotis vykdo superkompiuteriai?
– Užduočių yra be galo daug. Daug kur taip sprendžiamos inžinerijos problemos – pavyzdžiui, mašinų ar lėktuvų dizainas: superkompiuteriai naudojami apskaičiuoti geometrijoms, našumams. Gan didelis dalykas yra orų prognozės. Taip pat – medicina, dirbtinis intelektas. Visos mokslo šakos, kurios naudoja apskaičiavimus ir modelius, gali naudoti superkompiuterį.
– Bet pagal Jūsų pasakojimą superkompiuteris primena ir vieną nelabai gerą dalyką – vadinamąjį „botnetą“, virusu užkrėstų kompiuterių tinklą. Ar čia gali būti panašumų? Ar galima superkompiuterį panaudoti ir ne visai geriems tikslams?
– Priklauso, kaip pažiūrėsi. Branduoliniai apskaičiavimai taip pat daromi superkompiuteriais. Ir visa tai galima panaudoti tiek taikiems, tiek negeriems tikslams. Viskas priklauso ne nuo kompiuterio, o nuo operatoriaus, kuris prie jo sėdi.
– Pirmasis kompiuteris juk irgi buvo pirmiausia kurtas balistinių trajektorijų skaičiavimams?
– Kompiuteriai ir šiandien dar yra tam naudojami.
– Mūsų šios dienos tema – dirbtinis intelektas. Ir jį sieja labai daug mitų. Populiariausi jų – žinoma, visi robotai-terminatoriai, „Skynet“ tinklas. Bet kaip jūs apibrėžtumėte – kas yra tas dirbtinis intelektas?
– Geras klausimas. Viskas priklauso nuo to, kaip pažiūrėsi. Galbūt visi tie mitai atsiranda iš to, kad kai pasakome „dirbtinis intelektas“, apie jį galvojame kaip apie savo intelektą – žmogų, asmenybę. Realybėje DI tuo nepasižymi – šiuo metu tai yra bandymas atrasti formules, kurios atitiktų tam tikrą informaciją, kurią jau turime. Įsivaizduokite – turime porą taškų, ir naudodami „dirbtinį intelektą“, bandome surasti kreivę, kuri mums padėtų nuspėti kitus tos kreivės taškus.
– Bet toks darbas neatrodo kaip labai protingas. Kodėl mes tai vis tiek vadiname „intelektu“?
– Šiuo metu egzistuoja dvi DI šakos. Klasikinis mašinų mokymasis – angliškai „machine learning“ – atitiktų tą ankstesnį kreivės taškų nuspėjimo pavyzdį. Tačiau per paskutinius aštuonerius-penkerius metus labai išpopuliarėjo DI, kuris naudoja dirbtinius neuroninius tinklus, ir šis modelis turi potencialą priartėti prie to vadinamojo „dirbtinio intelekto“.
– Bet tas populiarus įsivaizdavimas, kad DI turės sąmonę – kaip manote, ar tai kada išvis nutiks? Ar kada DI bus tarsi skaitmeninė žmogaus kopija?
– Galbūt čia reikėtų pradėti nuo filosofinio klausimo, kas yra sąmonė. Tačiau aš sakyčiau – kodėl gi ne. Nes, pavyzdžiui, vienas iš projektų, kurį laboratorijoje pastačius naują superkompiuterį planuoja „Intel“ – smegenų simuliacija atominiu lygiu. Tad viskas priklausys nuo požiūrio – ar darysime skirtumą tarp realių ir skaitmeniškai simuliuojamų, suprogramuotų atomų.
– Didžioji žmonijos baimė – kad DI kartu su robotika atims iš mūsų darbus. Kiek ji pagrįsta?
– Pilnai pagrįsta. Daug kas jau buvo automatizuota, o dalykai, kuriuos dar galime automatizuoti, sparčiai plečiasi.
– Tai ką mums reikėtų daryti? Ar tai jau yra pasaulio pabaiga, kurią patys ir sukūrėme?
– Jei dirbate srityje, kuriai greitu laiku nusimato automatizacija, reikėtų ieškoti būdų persikvalifikuoti į kitą profesiją. O kaip visuomenei – reikėtų turėti programa, kurios rengtų tokius žmones šitokiems pokyčiams. Iš tiesų atsakymas į šį klausimą nėra lengvas – nes iš tiesų nėra aišku, ar čia viskas bus taip baisu, kaip mes galvojame. Nes tokia revoliucija gan neseniai jau vyko, ir buvo panašios baimės – bet tai neįvyko. Kalbu apie industrinę revoliuciją ir luditų judėjimą.
– Šiandien vykstant į studiją su taksistu ir kalbantis apie dirbtinį intelektą, jis pasakė vieną įdomią įžvalgą – „aš dėl savo darbo nebijau, nes žmogaus taksi automobilyje vis tiek reikės. Nes joks dirbtinis intelektas neišlips ir neišstums pusnyje įstrigusio automobilio“. Kaip vertintumėte tokią poziciją?
– Argumentas apie pusnį yra gana svarus – bet tai yra nišinis ir nekasdieninis atvejis. Ir dabar pasaulyje jau yra automobilių ir taksi, kurios dirba be vairuotojo. Taip, dabar tokių daugiausia yra saulėtoje Kalifornijoje, kur sniego nėra – bet visada bus kritinių atvejų, kaip ir atvejų, kai pats vairuotojas negalės išstumti mašinos, reikės kviestis kažką papildomai. Tad nemanau, kad toks argumentas pilnai apsaugo vairuotojo darbo vietą.
– Ar tai reiškia, jog ateityje nusimato scenarijus, kuriame nebėra vietos nekvalifikuotam darbui?
– Mano asmenine nuomone – taip. Klausimas, ar mes tai permainai spėsime pasiruošti laiku. Pasižiūrėkime į fabrikus jau dabar: gaminame vis daugiau, bet žmogiškosios darbo jėgos naudojame vis mažiau.
Bet žinoma, visada yra darbai, kurie yra labai asmeniniai – pavyzdžiui, senelių priežiūra. Čia yra labai daug žmogiško elemento. Manau, tie darbai, kurie yra tiesiogiai susiję su kitais žmonėmis, yra saugūs.
– Bet pavyzdžiui Japonijoje jau kuriami robotai, skirti specialiai senjorų priežiūrai?
– Tikiu kad kuria, bet abejoju ar jie yra bent kiek arti plataus pritaikymo.
– Ką galvojate apie DI pritaikymą karyboje?
– Galbūt esu pesimistas, bet manau, kad tai – neišvengiama. Nemanau, kad tai būtinai baigsis blogai, bet idėja skamba gan baisiai, ar ne? Kad mes kažkokiai mašinai, kažkokiam algoritmui duodame galią atimti gyvybę? Skamba baisiai, bet ar iš tiesų yra geriau, kad dabar tą galią suteikiame žmonėms, kurie yra emocingi ir ne viską sprendžia racionaliai? Žmogus gali pats pažeisti savo susikurtas taisykles, o kompiuteris taisyklių nepažeidžia: ką užprogramuoji, jis tų taisyklių ir laikosi.
– Kaip manote, ar dirbtinis intelektas gali aplenkti žmogiškąjį kūrybiškumą?
– Šiuo metu kūrybiškumo aplenkti negali, bet gali daryti kitus dalykus – pavyzdžiui, kopijuoti. O juk iš kopijavimo atsiranda daug meno. Kažką kopijuoji, kažką pakeiti, pridedi savo – ir taip vyksta meno evoliucija. Manyčiau, kompiuteriai galėtų prie to prisidėti.
– Bet prisiminkime „Deep Dream“ atvejį, kai DI mokėsi iš žmogaus sukurto meno, o paprašytas sukurti savo meno pavyzdį, sukūrė piešinį praktiškai vien iš akių – nes jis klaidingai suprato, kad žmogui akys yra labai svarbu ir gražu. Ar tai klaida, ar kas?
– Tai nebuvo klaida. Čia greičiau algoritmų, kuriuos dabar naudojame, ribotumas. Algoritmai padaryti taip, kad jie paveiksle ieško svarbių bruožų ir paskui pagal tuos bruožus generuoja savo pačių kūrinius.
– Bet pagal ką jie supranta, kas yra svarbus žmogui bruožas?
– Sakykime, turime 100 paveikslų. Pagal standartinę procedūrą, žmogus tuos paveikslus turėtų paskirstyti į gražius ir negražius. Tada algoritmas peržiūrinėtų tuos gražius paveikslus ir bandytų aptikti, ką jie turi bendro. „Deep Dream“ atveju visuose – ar daugumoje – atrinktų gražių paveikslų kažkur buvo akys, ir dėl to įvyko tokia anomalija.
– Kokie dabar yra įdomiausi DI pritaikymo atvejai?
– Man turbūt įdomiausia sritis yra kompiuterinis matymas (angl. computer vision, red. past). Geras pavyzdys – policija ieškojo įtariamojo ir pasitelkę kompiuterinį matymą, jie aptiko jį koncerto žiūrovų minioje, kur buvo tūkstančiai veidų. Tai gal truputį ir baisu – bet ir labai įdomu.
DI taip pat intensyviai naudojamas analizuojant bankinius pervedimus, siekiant atpažinti įtartiną ir nelegalią veiklą.
Taip pat – transporto judėjimas, mašinų variavimas: tai įdomu tiek dabar, tiek ateityje. Tad apibendrinant – DI gali būti pritaikomas labai plačiai, pradedant muzika ir baigiant nusikaltėlių paieška.
– Egzistuoja atvejis, kai DI buvo panaudotas tam, kad pornofilme būtų primontuotas žymios aktorės veidas. Ar negali nutikti taip, kad DI bus naudojamas ir melagingų naujienų (angl. fake news, red. past.) kūrimui? Tik jau atrinktų konkrečiam, specialiai nutaikytam kontingentui?
– Laisvai. Tik panašūs dalykai jau buvo daromi, kai buvo naudojami tradiciniai rašto darbai ar nuotraukos. Juk to paties galima klausti ir apie programą „Photoshop“, ar tai nėra pavojinga technologija, jei galime sumontuoti vaizdą. Tiesiog jūsų minimame pavyzdyje tai buvo labiau automatizuota.
– O ar negalima DI būtų naudoti ir tokio dalyko kontržvalgybai, tokių padirbtų dalykų atpažinimui?
– Galima. Ir egzistuoja net atskira DI niša, kaip galima tokius algoritmus apgauti. Arba pavyzdžiui, yra toks algoritmas, kuris pakeičia nuotrauką taip, kad žmogus, žiūrėdamas į ją, nematys jokio skirtumo, bet kompiuteris, žiūrėdamas į antį, „matys“, pavyzdžiui, laivą.
– Galbūt galite atskleisti paslaptį, kaip galima būtų pasislėpti nuo tokios DI veidų atpažinimo sistemos? Galbūt užtenka vien užsidėti tamsius akinius, ir kompiuteris žmogaus nebeatpažins?
– Ne, užsidėti akinius nepakanka, bet.. šiuo metu negaliu išduoti tokių paslapčių.
– Bet kūrėjai susiduria su tokiomis problemomis ir jas sprendžia, ar ne?
– Didelė problema buvo, kaip pasirodė naujasis „iPhone“, naudojantis vartotojo veido atpažinimą kaip pagrindinę apsaugos sistemą. Pagal viską ji turėtų veiktų nepriklausomai nuo to ar vartotojas yra su akiniais ar be jų, su kepure ar be – ir tai veikė puikiai, bet per kelias dienas po pasirodymo viena IT saugumo kompanija apgavo „Apple“ sistema 3D spausdintuvu atsispausdinusi kaukę.
Bet manau, dabar jau ta klaida yra ištaisyta.
– Tokios garsenybės kaip Elonas Muskas ir Stephenas Hawkingas yra išreiškę nerimą dėl DI. Kaip manote, ko jie iš tikrųjų bijo?
– Neatsimenu kada paskutinį kartą skaičiau jų interviu apie tai, ko jie tiksliai bijo, bet pilnai galiu įsivaizduoti, kad jiems baisi DI plėtra mūsų asmeniniuose gyvenimuose – kad ir jūsų anksčiau minėtas netikrų naujienų pavyzdys. Arba jo pritaikymas karyboje.
Vienas baisiausių dalykų turbūt būtų DI plitimo ir tobulinimo tempas – gali nutikti taip, kad mes kaip visuomenė nebūsime pasiruošę padėti tiems žmonėms, kurie dabar dirba tuos darbus, kurie ateityje bus automatizuojami. Pavyzdžiui, jei trečdalis visuomenės netektų darbų – man atrodo, tai būtų baisi situacija. Nes sukilimai, nerimas visuomenėje prasideda būti nuo to, kad žmonės negali savęs išlaikyti.
– Ar pats galėtumėte pasakyti, kad bijote dirbtinio intelekto? Ar privengiate jo?
– Nepasakyčiau, kad bijau. Man tiesiog įdomu – įdomu kas bus. Bet tikrai atpažįstu, matau, kad tai yra problema – galbūt ne dabar, galbūt ateityje, tad reikėtų kažką daryti.
Bet kaip mokslininkui ir inžinieriui, man šaunu ir įdomu matyti, kad mes galime padaryti tokius dalykus tiesiog sėdint prie kompiuterio.
– Egzistuoja ir kitas polius: „Google“ dirbantis Ray’us Kurzweilas teigia, kad mūsų ateitis yra susijungimas su mašina – vadinamasis singuliarumas. Kiek įmanoma tai atrodo Jums – ir ar tai įmanoma padaryti?
– Ne visai įsivaizduoju, ką tiksliai reiškia tas susijungimas – ar apie kokį susijungimo lygmenį kalbame. Bet jei įsivaizduojame tolimą ateitį, kai išdirbame DI iki tiek, kad jis jau prilygsta mums ir toliau gali tobulinti pats save – pasiekus tokį lygį, man tada kiltų klausimas: kam tada iš viso reikia mūsų? Mes tada jau būsime pasenę, būsime atgyvenę – jei sukūrėme algoritmą, kuris gali pats tobulinti save gal net sparčiau, nei mes patys. Tokį algoritmą galima dauginti bet kiek kartų, jo nereikia išnešioti devynis mėnesius ir dar 18 metų auginti – tada jau MES būsime atgyvenusi technologija.
– Ką galvojate apie biohakingą? Portale Lrytas.lt ši tema susilaukė nemažo dėmesio.
– „Cool“! (šypsosi). Kodėl gi ne? Juk daug dalykų, ką mes jau darome, yra biohakingas. Pavyzdžiui, jei turi širdies defektą ir dalį šio organo pasikeiti 3D atspausdinta dalimi – ar net kiaulės širdies dalimi – negi tai nėra biohakingas? Ar skiepai, antibiotikai – negi tai irgi nėra biohakingas? Manyčiau, visų šitų technologijų integravimas į žmogaus kūną yra natūrali seka to, ką mes jau darome tūkstančius metų.
– Bet ar yra kažkokia riba, kada reikėtų sustoti?
– Na, gal tada, kai išimi smegenis, tada jau turėtų būti limitas – nes reikėtų apibrėžti, kur ta žmogaus esybė egzistuoja, ir sakyčiau – ir gal ir kiti pritartų – kad tai yra smegenyse. Tai po šios ribos jau tada būtų nebe biohakingas, o perrašymas.
– O kaip vertintumėte žmogaus sąmonės perkėlimą į skaitmeną – ar tai kada nors taps įmanoma?
– Čia labiau ne technologinis, o filosofinis klausimas, kas yra ta sąmonė. Kad galėsime nuskenuoti žmogaus smegenis ir jas perrašyti į kokį standųjį diską – žinoma, kodėl gi ne. Lieka klausimas, ar čia yra sąmonė – ir šito atsakyti aš tikrai negaliu.
– Neseniai pagarsėjo atvejis, kai kinai galimai redagavo žmogaus genomą ir jau gimė tokie redaguoti vaikai. Kaip vertinate žmogaus kišimąsi į savo paties genomą?
– Pozityviai. Kodėl gi ne? Juk jau kaip minėjau ankstesniuose pavyzdžiuose, mes save hakiname visą laiką – antibiotikai, skiepai. Tai jei esi tėvas ir gali pakeisti savo vaiko genetiką, kad jis būtų greitesnis, stipresnis, niekada nesusilaužytų kaulų – ir tu gali sau tai leisti – klausimas, kodėl tu to nepadarytum?
– Bet ar tokiu atveju neatsirastų filmo „Gattaca“ siužetas, kai atsiranda dvi žmonių rūšys: vieni bus supermenais, nes galėjo leisti save modifikuoti, o kiti yra natūralai ir nusileis savo galimybėmis?
– Minėto filmo nematęs, bet juk skirtumai tarp žmonių klasių egzistuoja ir dabar. Yra žmonės, kurie turi krūvas pinigų ir yra žmonės, kurie pragyvena už mažiau nei eurą per dieną. Tad manau, ateityje viskas gali atrodyti kitaip, bet didelio skirtumo nebus – esminiai dalykai, manau, nesikeičia.
– Na ir paskutinis klausimas: kaip įsivaizduojate, kaip pasaulis atrodys labai netolimoje ateityje – tarkime, po ketverių-penkerių metų?
– Manau turėtume pamatyti savivaldžius automobilius, prie šios technologijos dabar labai daug dirbama. Sparčiai plėsis medicina, atrasime naujus algoritmus, kuriuos galėsime pritaikyti kitose srityse. Bet sakyčiau, per penkerius metus niekas dar pernelyg nepasikeis. Didžiausi skirtumai turėtų išryškėti po 10-15-20 metų.
Dabar judame dėl Moore’o dėsnio sienos, ir dar pora tokių ciklų, ir pasieksime atominį lygį, kuriame dalykų perpus jau nebegalėsime dalinti – tada reikės keisti technologijų tipą. Bet manau, progresas nuo to nesulėtės, ir ateityje laukia kvantiniai kompiuteriai, kurie gali būti atsakymas į ateities klausimus.
