Viskas taps išmanu – greitai turėsime ne tik išmaniuosius telefonus, bet ir išmaniuosius automobilius ir namus, išmaniąsias gamyklas ir išmaniuosius miestus. Ar galima tikėtis, kad turėsime ir išmanias tautas ir išmanesnę planetą? Nebūtinai.
Sparčiai plėtojasi dirbtinis intelektas. Jis ne tik programuojamas, bet sugeba mokytis, save tobulinti. Algoritmai, kaip ir žmonės, gali atpažinti ranka rašytus tekstus, o kai kurias užduotis vykdyti geriau už žmones. Jie gali apibūdinti fotografijų ir vaizdo filmų turinį. Dabar 70 proc. visų finansinių perlaidų vykdo algoritmai. Per ateinančius 10 ar 20 metų apie pusę darbo vietų valdys algoritmai. Išnyks 40 proc. šių dienų svarbiausių 500 bendrovių.
Tikėtina, kad superkompiuteriai tarp 2020 ir 2060 metų pralenks žmogaus galimybes beveik visose srityse. Technologijų ekspertai, tokie kaip Elonas Muskas iš „Tesla Motors“, Billas Gatesas iš „Microsoft“ ir „Apple“ įkūrėjas Steve'as Wozniakas skambina pavojaus varpais. Jie įspėja, kad dirbtinis intelektas yra rimtas pavojus žmonijai, galbūt pavojingesnis net už branduolinius ginklus. Ar šis pavojus tikras? Tikėtina.
Aiškus vienas dalykas: ekonomikos ir visuomenės organizavimo būdas pasikeis iš esmės. Patiriame didžiausią virsmą nuo Antrojo pasaulinio karo. Po gamybos automatizavimo ir autonomiškai važiuojančių automobilių sekantis žingsnis yra visuomenės automatizavimas. Todėl visuomenė yra kryžkelėje, vienas kelias veda į dideles galimybes, kitas – į didelius pavojus. Jeigu priimsime klaidingus sprendimus, jie gali kelti pavojų didžiausiems žmonijos istoriniams pasiekimams.
Ketvirtajame praėjusio amžiaus dešimtmetyje amerikiečių matematikas Norbertas Wyneris išrado kibernetiką. Pasak jo, sistemų elgesį galima valdyti tinkamu grįžtamuoju ryšiu. Greitai tyrėjai įsivaizdavo tuo pačiu principu galėsiantys valdyti ekonomiką ir visuomenę, bet tuo metu nebuvo tinkamos technologijos. Dabar ji yra.
Singapūras yra puikus skaitmeninių duomenų valdomos visuomenės pavyzdys. Kibernetika valdo ekonomiką ir imigracijos politiką, rinką ir net mokyklų tvarkaraščius. Kinija seka panašiu, bet savu keliu. Neseniai „Google“ kiniškas ekvivalentas „Baidu“ pakvietė kariškius dalyvauti projekte, kuris naudoja gilaus mokymosi algoritmus ieškant duomenų apie jo vartotojus. Tai – Kinijoje planuojama piliečių socialinė kontrolė. Pranešama, kad kiekvienas kinas gaus taip vadinamą „Piliečio balą“, kuris lems, kokiomis sąlygomis jis galės gauti paskolą, darbą ar kelionės į užsienį vizą. Bus kontroliuojami žmonių socialiniai kontaktai ir naršymas internete.
Kinijos pavyzdys rodo, kaip piliečių socialinė kontrolė gali paveikti mūsų gyvenimą. Čia visi piliečiai suklasifikuoti pagal skalę, kurioje viskas, ką jie bedarytų, duoda teigiamus arba neigiamus balus. Todėl „Piliečio balas“ atspindi jo elgesio ir socialinę kontrolę. Net draugų ir pažįstamų elgesys turi įtakos šiam balui.
Tai kelia grėsmę demokratijos pamatams, nes sekimas ir vertinimas viso piliečio aktyvumo, kuris palieka skaitmeninius pėdsakus, kuria „nuogą“ pilietį, kurio žmogiškas orumas ir privatumas nuolat degraduoja.
Jo sprendimai nebūtų laisvi, kadangi klaidingas sprendimas valdžios ar darbdavio požiūriu turėtų neigiamų pasekmių. Už kiekvieną klaidą būtume baudžiami ir niekas neliktų neįtartinas. Nekaltumo prezumpcija būtų panaikinta. Kadangi algoritmų nebūna be klaidų, įstatymai būtų pakeisti skaitmeniniais, prieš kuriuos piliečiai negalėtų gintis. Individualios saviraiškos galimybės išnyktų, o kartu ir demokratinis pliuralizmas. Vietinės kultūros ir socialinės normos nebūtų tinkamo elgesio pagrindas.
Tokia visuomenės kontrolė skatintų konfliktus, saugumo praradimą, nestabilumą ir vestų nuo atsakingų asmenybių prie mažų nuolankių žmogeliukų visuomenės. Tai visiškai prieštarauja demokratinėms vertybėms, kurios remiasi skaitmeniniu apsisprendimu. O šiam reikia demokratinių technologijų: informacinių sistemų, kurios yra suderinamos su demokratiniais principais – kitaip jos sugriaus mūsų visuomenę.
Mes, vakariečiai, taip pat esame institucinės priežiūros fokuse. Tai ypač paaiškėjo 2015 metais, kai tapo vieši britų slaptosios tarnybos „Karma Police“ programos faktai, rodantys išsamų kiekvieno interneto naudotojo sekimą. Ar Didysis Brolis – programuota visuomenė, programuoti piliečiai – jau tapo tikrove?
Viskas prasidėjo nekaltai. Internetas siūlo produktus ir paslaugas. Kartu renka informaciją apie asmens duomenis, pirkinius, judėjimą ir socialinius ryšius. Nors oficialiai asmens duomenys apsaugoti, praktiškai jie lengvai pasiekiami. Algoritmai žino, ką mes darome, ką galvojame ir kaip jaučiamės – galbūt geriau nei mūsų draugai, šeima ar mes patys. Faktiškai mes jau esame valdomi. Kuo daugiau apie mus žinoma, tuo mažiau mūsų pasirinkimai yra laisvi ir nepaveikti kitų. Naudojant įmantrias manipuliavimo technologijas, tam tikros programos galės visapusiškai valdyti mus. Tendencija yra nuo kompiuterių programavimo pereiti prie žmonių programavimo.
Šios technologijos tampa vis populiaresnės politikos pasaulyje. Vyriausybės bando nukreipti piliečius sveikesniam ir ekologiškesniam elgesiui modernia tėviško rūpinimosi forma. Globėjiškos vyriausybės suinteresuotos ne tik žinoti, ką mes veikiame, bet nori būti tikros, kad teisingai elgiamės. Tai panašu į skaitmeninį skeptrą, kuris leidžia efektyviai valdyti mases, neleidžiant piliečiams dalyvauti demokratiniuose procesuose. Ar tai optimizuos pasaulio tvarką? Jei taip, tai piliečiai gali būti valdomi duomenis valdančiųjų „išmintingų karalių“, kurie galės kurti norimą ekonomiką ir socialinę tvarką tarsi magiška skaitmenine burtininko lazdele.
Bet mokslinė literatūra primena, kad pastangos valdyti žmonių nuomonę yra pasmerktos žlugti dėl problemos sudėtingumo. Nuomonių formavimo dinamika pilna netikėtumų. Niekas nežino, kaip magišką skaitmeninę burtininko lazdelę geriausia panaudoti. Kas yra gera ar bloga dažnai išryškėja tik vėliau. Kiaulių gripo epidemijos metu Vokietijoje 2009 metais visi buvo skatinami skiepytis. Tačiau daliai pasiskiepijusiųjų išsivystė keista narkolepsijos liga. Kompleksinėje sistemoje, tokioje kaip visuomenė, pagerėjimas vienoje srityje neišvengiamai sukelia pablogėjimą kitoje. Todėl didelio masto kišimasis į visuomenės gyvenimą gali būti didžiulė klaida.
Nusikaltėliai, teroristai ir ekstremistai visada bandys perimti magiškos skaitmeninės burtininko lazdelės kontrolę, mums gal net nepastebint. Beveik į visų svarbiausių pasaulio bendrovių ir institucijų kompiuterius jau daug kartų buvo įsilaužta ir pavogta svarbi informacija, bandyta paveikti rinkimus. Tai skatina visuomenės poliarizaciją, žmonės pradeda nesuprasti vieni kitų, nyksta socialinis susitelkimas. Taip atsitiko rusų programišiams bandant paveikti rinkimus Amerikoje ir Prancūzijoje, kur priešingų pažiūrų žmonės dar labiau nutolo vieni nuo kitų. Rezultatas yra visuomenės susiskaldymas, kuris veda net į jos suirimą. Toks ir yra kompiuterinių įsilaužėlių tikslas.
Manipuliaciniai metodai pakeičia mūsų sprendimų priėmimo būdą ir daro rimtą socialinę žalą, įskaitant gyvulišką elgesį skaitmeninėje erdvėje, nors už tai niekas neprisiima atsakomybės. Manipuliacinės technologijos riboja mūsų pasirinkimo laisvę. Jeigu mūsų elgesio nuotolinis valdymas veiktų puikiai, būtume skaitmeniniai vergai (zombiai), kadangi aklai vykdytume kitų priimamus sprendimus. Kol kas manipuliacinės technologijos tik iš dalies efektyvios. Nepaisant to, mūsų laisvė ir teisės lėtai, bet užtikrintai nyksta visuomenei nesipriešinant.
Demokratija negali pilnai veikti, jeigu šios teisės negerbiamos. Jei jos yra suvaržytos, tai griauna mūsų Konstitucijos, visuomenės ir valstybės pamatus.
Įsivaizduokime, kad jau turime superprotingą mašiną su dieviškomis žiniomis ir superžmogiškomis galimybėmis. Ar vykdysime jos nurodymus? Tai labai tikėtina. Bet jei taip, tai E.Musko, B.Gateso, S.Wozniako, Stepheno Hawkingo ir kitų informacinių technologijų ekspertų nuogąstavimai taptų teisingi – kompiuteriai perimtų pasaulio kontrolę. Neabejotinai superprotas taip pat gali daryti klaidas, meluoti, siekti savanaudiškų tikslų arba būti manipuliuojamas. Jo negalima būtų sulyginti su paskirstytu kolektyviniu visos žmonijos protu.
Piliečių mąstymo pakeitimas kompiuterių klasteriu būtų absurdiškas, kadangi tai dramatiškai sumažintų sprendimų pasiekiamumo įvairovę ir kokybę. Jau dabar aišku, kad pasaulio problemų dėl duomenų antplūdžio nesumažėjo – priešingai! Taika pasaulyje tapo trapi. Klimato kaita skatina didžiausią gyvybės rūšių išnykimą nuo dinozaurų išnykimo laikų. Nesugebame įveikti finansinių krizių. Dėl kibernetinių nusikaltėlių pasaulis kasmet praranda apie 3 trilijonus dolerių. Kai kurios valstybės ir teroristai ruošiasi kibernetiniam karui, kurio tikslas sugriauti pasaulį be bombų.
Greitai besikeičiančiame pasaulyje superprotas negali priimti tobulų sprendimų, nes sistemos sudėtingumas didėja greičiau nei duomenų kiekis, o jis didėja greičiau nei galimybė apdoroti juos. Tai baigiasi nepaisymu žinių ir faktų, svarbių geriems sprendimams. Yra pavojus, kad manipuliacija galingais algoritmais priimant sprendimus gali pakirsti kolektyvinio proto pagrindus, kuris prisitaiko prie sudėtingo pasaulio iššūkių. Jei mūsų sprendimai bus nulemti algoritmų, tai sukels žmonių smegenų plovimą. Žmonės pavirs tik komandų gavėjais, kurie automatiškai atsakys į įtaką.
Kitaip tariant, pritaikyta asmeniniams poreikiams informacija kuria apie mus filtro burbulą, arba skaitmeninį kalėjimą mūsų mąstymui. Koks gali būti kūrybiškumas ir mąstymas tokiomis sąlygomis? Pagaliau, centralizuota elgesio sistema ir socialinė kontrolė naudojant superprotingą informacijos sistemą atves į naują diktatūros formą. Todėl direktyviniu būdu valdoma visuomenė būtų ne demokratinė, o totalitarinis režimas rožine priedanga.
Centralizuotas hierarchinis valdymas tinkamas tik nesudėtingoms visuomenėms. Vykstant ekonominei ir kultūrinei evoliucijai, socialinis sudėtingumas auga. Todėl ateitį turėtų lemti kolektyvinis intelektas. O jis reikalauja didelės įvairovės. Socialinė įvairovė maitina ne tik kolektyvinį intelektą ir inovacijas, bet taip pat visuomenės sugebėjimą susidoroti su iššūkiais. Sumažėjus socialinei įvairovei mažėja ekonomikos ir visuomenės funkcionalumas ir veikla. Todėl totalitariniai režimai dažnai sukelia konfliktus su kaimynais, politinį nestabilumą ir karą, kaip jau ne kartą istorijoje atsitiko ir gresia vėl atsitikti. Pliuralizmas ir visuomenės dalyvavimas sprendimų priėmime yra klestinčios, sudėtingos modernios visuomenės prielaida.
Galima teigti, kad dabar esame kryžkelėje. Didelės duomenų bazės, dirbtinis intelektas ir kibernetika keičia mūsų visuomenę — į gerą ar blogą pusę. Jei sparčiai plintančios naujos technologijos bus nesuderinamos su visuomenės pamatinėmis vertybėmis, anksčiau ar vėliau jos pakenks. Jos gali atvesti į automatizuotą totalitarinę visuomenę. Blogiausiu atveju centralizuotas dirbtinis intelektas kontroliuos, ką mes žinome, ką galvojame ir kaip elgiamės. Dabar yra istorinis momentas kiekvienai tautai pasirinkti teisingą kelią, kuris leistų turėti naudos iš skaitmeninės revoliucijos. Tam reikia decentralizuoti informacines sistemas, stiprinti skaidrumą, mažinti informacijos taršą, skatinti socialinę ir ekonominę įvairovę, kolektyvinį intelektą ir atsakingą piliečių elgesį skaitmeniniame pasaulyje per skaitmeninį raštingumą ir švietimą. Esame skaitmeninę revoliuciją kuriančio Vakarų pasaulio dalis, todėl šios mintys tinka ir Lietuvai.
Ko reikia, kad skaitmeninė Lietuvos visuomenė būtų sėkminga? Pirmiausia reikia naujos švietimo koncepcijos. Ji turi būti nukreipta į kritinį mąstymą, kūrybingumą, išradingumą ir verslumą, o ne į ugdymą standartinių darbuotojų, kurių darbą ateityje atliks robotai ir kompiuterių algoritmai. Švietimas turi suteikti atsakingo ir kritinio skaitmeninių technologijų naudojimo supratimą, kadangi piliečiai privalo suprasti, kaip skaitmeninis pasaulis yra susipynęs su fiziniu. Kad galėtų naudotis savo teisėmis, piliečiai privalo suprasti ateinančias technologijas ir koks jų naudojimas yra neteisėtas. Todėl reikia, kad mokslas, verslas, politika ir švietimo įstaigos stengtųsi, kad žinios taptų plačiai prieinamos, nes demokratijos principas – piliečiai turi būti išsilavinę.
Nereikia pamiršti ir dvidešimt keturių amžių senumo Sokrato ir Konfucijaus genialių minčių. Pirmasis mokė, kad lavindami smegenis, o ne trokšdami turtų, galime tapti laimingais, o antrasis, kad ugdant asmenybes galima sukurti stabilią socialinę tvarką, o mokslas yra asmenybės ugdymo kelias. Nuo gimimo gauname vietą ir atsakomybę šeimoje ir visuomenėje. Irstančios šeimos ardo visuomenę. Valdovai turi vadovautis šeimos vertybėmis. Bet skaitmeninė revoliucija ir dirbtinis intelektas gali viską pakeisti.
Jeigu galingus algoritmus valdys nedidelis skaičius sprendimų priėmėjų, mes grįšime į neo-feodalizmą ir būtų prarasti svarbūs istoriniai pasiekimai. Tačiau turime progą rinktis skaitmeninės demokratijos kelią. Ką pasirinksime – priklausys nuo mūsų kolektyvinės išminties.
