Kalbant apie socialinį žmonių reitingavimą, dažniausiai prisimenamas Kinijos pavyzdys. Nors ten nėra vieno universalus balo, kuris nuspręstų viską apie žmogaus gyvenimą, Kinijoje veikia praktikos, kuomet tam tikri duomenys apie asmenis – dažniausiai susiję su skolomis, teismo sprendimais ar kitais administraciniais pažeidimais – gali lemti ribojimus įvairiose viešojo sektoriaus srityse. Būtent nuo šio pavyzdžio atsispiria ir Lygių galimybių kontrolieriaus tarnybos ekspertė Rūta Juodelytė, kalbėdama ne apie realią situaciją Lietuvoje, o apie hipotetinį scenarijų – kas nutiktų, jei socialinis reitingavimas būtų pritaikytas demokratinėje valstybėje.
„Problema kyla tuomet, kai tokie mechanizmai gali būti pritaikomi visiems piliečiams plačiai ir automatizuotai, neatsižvelgiant į individualų gyvenimo kontekstą“, – sako R. Juodelytė.
Kas yra socialinis reitingavimas?
Socialinis reitingavimas – tai praktika, kai renkami ir apdorojami įvairūs duomenys apie asmenį tam, kad jis būtų įvertintas ir pagal tai jam būtų suteikiama arba ribojama prieiga prie paslaugų, galimybių ar teisių.
Susiję straipsniai
Pasak R. Juodelytės, problema slypi žmogaus nužeminime iki eilutės duomenų bazėje: „Iš principo socialinį reitingavimą galima vadinti nehumanišku požiūriu į žmogų. Jis numažina žmogų iki duomenų ir neatsižvelgia į individualų gyvenimo kontekstą.“
Kinijos pavyzdys kaip perspėjimas
Kalbėdama apie realius pavyzdžius, R. Juodelytė mini Kiniją – ne kaip tiesioginį modelį, bet kaip įspėjimą, kas gali nutikti, kai valstybė pradeda sistemingai vertinti žmones. „Teko girdėti pavyzdžių , kad Kinijoje asmenims, turintiems skolų, buvo ribojama galimybė naudotis tarpmiestiniu transportu ar kitomis paslaugomis“, – pasakoja ji.
Vis dėlto R. Juodelytė akcentuoja, kad socialinis reitingavimas negali būti tapatinamas su bankų kredito reitingu. „Kredito reitingas vertina konkrečią riziką – ar žmogus galės grąžinti skolą. Socialinis reitingavimas peržengia šias ribas: jis gali vertinti, kaip žmogus gyvena, ar laikosi tam tikrų socialinių normų“, – dėsto žmogaus teisių ekspertė.
Anot jos, tai reikštų gyvenimo būdo skirstymą į „tinkamą“ ar „netinkamą“. Būtent čia, pasak pašnekovės, atsiranda pavojinga riba tarp teisėto reguliavimo ir socialinės kontrolės.
Kas nutiktų, jei toks scenarijus būtų taikomas Lietuvoje?
Lietuvoje, kaip ir kitose demokratinėse šalyse, socialinis reitingavimas nėra taikoma praktika, tačiau jei ji atsirastų, R. Juodelytė mano, kad dauguma žmonių iš pradžių to net nepastebėtų. „Valstybė ir taip turi labai daug duomenų apie žmogų – judėjimą, mokėjimus, paslaugų naudojimą. Problema prasideda tada, kai nusprendžiama šiuos duomenis sujungti ir panaudoti prieš patį žmogų“, – sako ji.
Anot ekspertės, tokios surinktais duomenimis besiremiančios sistemos gali lengvai tapti diskriminacinėmis, net jei formaliai atrodo neutralios. „Socialinis reitingavimas galėtų įtvirtinti sisteminę diskriminaciją – ypač visuomenės grupių, kurios jau dabar galimai susiduria su kliūtimis, pavyzdžiui, tautinių mažumų. Istorinės neteisybės tada būtų ne mažinamos, o dar labiau gilinamos“, – aiškina R. Juodelytė.
Svarbu pabrėžti, kad Lietuvoje tokia praktika neegzistuoja. Tačiau diskusija būtent todėl ir yra reikalinga, kad būtų suprasta, kodėl socialinis reitingavimas laikomas nepriimtinu ir kodėl Europos Sąjunga jį uždraudė Dirbtinio intelekto aktu.
„Amnesty International“: algoritmai stiprina nelygybę
Dirbtinio intelekto taikymo viešajame sektoriuje rizikas plačiau kontekstualizuoja ir tarptautinės žmogaus teisių organizacijos. „Amnesty International“ ne kartą yra įspėjusi, kad algoritminės sistemos, naudojamos sprendimams apie žmones, gali sustiprinti diskriminaciją ir pažeisti pagrindines teises.
„Amnesty International“ pabrėžia, kad automatizuoti sprendimai socialinės apsaugos, saugumo ar viešųjų paslaugų srityse dažnai nėra skaidrūs, o žmonės neturi realios galimybės suprasti, kodėl jiems buvo pritaikyti tam tikri ribojimai. Organizacija taip pat akcentuoja, kad tokios sistemos dažniausiai neproporcingai paveikia socialiai pažeidžiamas grupes.
Šios įžvalgos sutampa su R. Juodelytės išsakytomis mintimis apie socialinio reitingavimo pavojų demokratinėje visuomenėje.
Kaip su tuo kovoja Europa?
2024 metais priimtas ir šiemet įsigaliosiantis Europos Sąjungos Dirbtinio intelekto aktas socialinį reitingavimą įvardija kaip draudžiamą praktiką būtent dėl jos neprognozuojamo ir galimai negrįžtamo poveikio.
„Šios praktikos buvo uždraustos tam, kad būtų aiškiai nubrėžta riba – tai nėra priimtina demokratinėse visuomenėse ir prieštarauja Europos Sąjungos vertybėms“, – sako R. Juodelytė. Ji pabrėžia, kad žmogiškumas yra neatsiejamas nuo galimybės klysti ir būti suprastam, o socialinis reitingavimas šią prielaidą paneigia, paversdamas gyvenimą nuolatine elgesio stebėsena ir vertinimu.
„Tai būtų tarsi nuolatinė bausmė – maža ar didelė, bet pastovi. Kiekvienas veiksmas būtų matuojamas, lyginamas ir vertinamas, o klysti nebegalėtum net dėl smulkmenų“, – sako ekspertė. Anot jos, būtent ši sisteminio, nuolatinio baudimo logika ir yra didžiausias pavojus. Socialinis reitingavimas gali būti efektyvus valstybei, tačiau žmogui jis reikštų nužmoginimą – nuolatinį gyvenimą po vertinimo didinamuoju stiklu, be antro šanso.
Būtent dėl tokio poveikio socialinis reitingavimas ir buvo aiškiai įvardytas kaip draudžiama praktika Europos Sąjungos Dirbtinio intelekto akte. Pasak R. Juodelytės, demokratijoje žmogus visada turi turėti galimybę keistis, o sistema – klysti. „Mes neturime teisės elgtis taip, lyg būtume dievai“, – pabrėžia ji.