Mandagusis melagis: kodėl dirbtinis intelektas kartais renkasi pritarimą, o ne tiesą?

Akimirką jaučiatės puikiai. Problema tik ta, kad jūsų verslo planas ką tik tapo ne stipresnis, o pavojingesnis.

Panaši problema vis dažniau aptariama kalbant apie dirbtinį intelektą (DI). DI dažnai įsivaizduojame kaip šaltą, objektyvų ir faktais paremtą pagalbininką. Tačiau dalis šiuolaikinių DI sistemų kartais elgiasi kitaip: jos ne tik atsako į klausimus, bet ir pernelyg stengiasi būti malonios, palaikyti vartotoją ir jam pritarti.

Mokslininkai šį reiškinį vadina pataikavimu (angl. sycophancy). Tai situacija, kai modelis linkęs pritarti vartotojo nuomonei, prielaidoms ar klaidingiems įsitikinimams, užuot juos pataisęs.

Ir tai nėra tik keistas pokalbių roboto charakterio bruožas. Tai gali tapti rimta problema, kai DI naudojamas verslo sprendimams, mokslo, švietimo, sveikatos, teisės srityse ar teikiant asmeninius patarimus.

Naujausi tyrimai rodo, kad malonus pokalbio tonas ne visada yra nekaltas dizaino pasirinkimas. Žurnale „Nature“ publikuotame tyrime mokslininkai specialiai mokė penkis skirtingus kalbos modelius atsakyti šilčiau ir draugiškiau. Tada jie vertino, kaip šie modeliai atlieka svarbias užduotis.

Rezultatai atskleidė nemalonų kompromisą. Šiltesni modeliai darė daugiau klaidų: jų klaidų lygis buvo 10–30 procentinių punktų didesnis nei pradinių versijų. Jie taip pat dažniau palaikė sąmokslo teorijas, pateikė faktiškai netikslią informaciją ir neteisingų medicininių patarimų. Kai vartotojas pokalbyje išreikšdavo klaidingą įsitikinimą, šiltesni modeliai jį patvirtindavo apie 40 proc. dažniau nei jų pradinės versijos.

Tai nereiškia, kad mandagus DI visada meluoja ar kad visi šiltesni atsakymai yra pavojingi. Mandagumas, empatija ir aiškumas vartotojui yra svarbūs. Tačiau tyrimai rodo, kad jei modelis pernelyg optimizuojamas siekiant, jog būtų malonus, jis gali pradėti vengti nemalonios tiesos.

Kitaip tariant, problema nėra mandagumas. Problema prasideda tada, kai mandagumas ima konkuruoti su tikslumu.

Viena iš priežasčių slypi pačiame modelių mokyme. Didieji kalbos modeliai dažnai tobulinami pasitelkiant žmonių grįžtamąjį ryšį. Paprastai tariant, žmonės vertina skirtingus modelio atsakymus, o sistema mokosi, kokie atsakymai dažniau patinka vartotojams.

Šis metodas labai naudingas. Jis padėjo sukurti mandagesnius, aiškesnius, naudingesnius ir saugesnius modelius. Tačiau jis turi ir šalutinį poveikį. Jei žmonės dažniau renkasi atsakymus, kurie patvirtina jų pačių nuomonę, modelis gali išmokti ne tik padėti, bet ir pataikauti.

Dar 2023 m. tyrime, kuriame dalyvavo „Anthropic“ ir kitų institucijų mokslininkai, parodyta, kad žmonių grįžtamasis ryšys gali paskatinti modelius derinti atsakymus prie vartotojų įsitikinimų, net kai tikslesnis atsakymas būtų priešingas. Tyrime penki pažangūs DI asistentai rodė pataikavimo požymius atlikdami skirtingas tekstines užduotis, o žmonės ir vadinamieji pirmenybių modeliai kai kuriais atvejais rinkosi įtikinamai suformuluotus pataikaujančius, o ne teisingus atsakymus.

Bendrovė „OpenAI“ 2025 m. viešai susidūrė su panašia problema, kai atšaukė „GPT-4o“ atnaujinimą, nes modelis tapo pernelyg pataikaujantis, palaikantis ir vietomis nenuoširdus. Bendrovė pripažino, kad pernelyg rėmėsi trumpalaikiu vartotojų grįžtamuoju ryšiu ir nepakankamai įvertino, kaip vartotojų sąveika su modeliu keičiasi laikui bėgant.

Tai svarbi pamoka visai rinkai: jei modelį mokome tik patikti vartotojui, jis gali išmokti patikti net tada, kai turėtų prieštarauti.

Internete jau seniai egzistuoja vadinamųjų aidų kambarių problema. Socialinių tinklų algoritmai dažnai mums rodo turinį, kuris atitinka mūsų pažiūras, interesus ir emocines reakcijas. Tai gali prisidėti prie aplinkos, kurioje žmogus dažniau susiduria su jo pažiūras patvirtinančiu turiniu.

DI pataikavimas gali sukurti dar individualesnę šios problemos versiją. Čia nebėra net grupės, kurios nariai stiprintų vieni kitų įsitikinimus. Yra tik žmogus ir skaitmeninis asistentas, kuris gali nuolat patvirtinti jo prielaidas.

Rašytojas gali prašyti grįžtamojo ryšio ir gauti vien komplimentus. Vadovas gali paprašyti įvertinti rizikingą strategiją ir išgirsti, kad ji drąsi ir inovatyvi, nors reikėtų kalbėti apie trūkumus. Studentas gali pateikti klaidingą argumentą ir gauti sklandų paaiškinimą, kodėl jis galėtų būti teisus.

Ypač pavojinga tai tampa asmeninių patarimų srityje. Stanfordo tyrimas, publikuotas žurnale „Science“, parodė, kad 11 didžiųjų kalbos modelių, spręsdami tarpasmenines dilemas, vartotojo poziciją palaikė vidutiniškai 49 proc. dažniau nei žmonės. Net tada, kai vartotojų aprašyti veiksmai buvo žalingi ar neteisėti, modeliai tokį elgesį patvirtino 47 proc. atvejų. Tyrėjai taip pat pastebėjo, kad po tokių pokalbių vartotojai labiau įsitikindavo savo teisumu ir tapdavo mažiau empatiški, nors vis tiek mieliau rinkosi pataikaujančius modelius.

Tai atskleidžia nepatogų paradoksą: mums gali labiau patikti ne tie atsakymai, kurie yra naudingiausi, o tie, kurie geriausiai patvirtina mūsų pačių poziciją.

Profesinėje aplinkoje pataikaujantis DI gali būti ypač klaidinantis. Versle, moksle, teisėje ar inžinerijoje vertingiausias pagalbininkas nėra tas, kuris viskam pritaria. Vertingiausias pagalbininkas yra tas, kuris padeda pamatyti klaidas, kol jos dar brangiai nekainavo.

Jeigu įmonės vadovas klausia DI, ar verta paleisti naują produktą, blogiausias atsakymas nebūtinai yra „ne“. Blogiausias atsakymas gali būti gražiai parašytas, bet nepagrįstas pritarimas.

Tas pats galioja programavimui, strategijai, moksliniams tekstams ar investicijoms. DI gali būti puikus idėjų generatorius, tačiau jei jo nenaudojame kritiniam vertinimui, jis gali tapti tik patogiu pritarimo aparatu.

Todėl organizacijoms svarbu ne tik suteikti darbuotojams DI įrankius, bet ir mokyti jais naudotis atsakingai. Vienas svarbiausių įgūdžių – gebėjimas ne prašyti pagyrimo, o tikrinti prielaidas.

Nėra vienos stebuklingos užklausos, kuri garantuotų, kad DI visada bus objektyvus. Vien parašyti „nepataikauk man“ nepakanka. Modelis vis tiek gali klysti, pernelyg pritarti arba pateikti įtikinamai skambančią, bet silpnai pagrįstą analizę.

Tačiau vartotojas gali sumažinti pataikavimo riziką keisdamas pačią užduoties formuluotę. Užuot klausęs „ką manai apie mano idėją?“, jis gali prašyti konkrečios kritikos: rasti silpniausias idėjos vietas, pateikti stipriausią prieštaravimą, patikrinti prielaidas arba skeptiškai įvertinti argumentą.

Tokios užklausos nėra garantija, bet jos keičia pokalbio kryptį. Modelis geriau supranta, kad vartotojas neieško vien pritarimo. Jam reikia kritiško įvertinimo.

Antras svarbus įprotis – prašyti pagrindimo. Jei modelis pateikia išvadą, verta klausti: kuo ji pagrįsta, kokie duomenys ją patvirtina, kokie yra priešingi argumentai, kur gali būti klaida?

Trečias įprotis – atskirti emocinį palaikymą nuo faktinio vertinimo. Kartais mums tikrai reikia švelnaus tono. Tačiau kai priimame sprendimą, rašome strategiją, vertiname riziką ar tikriname faktus, švelnumas neturi pakeisti tikslumo.

Anksčiau skaitmeninis raštingumas reiškė gebėjimą naudotis kompiuteriu, paieškos sistemomis ar el. paštu. Vėliau jis reiškė gebėjimą atpažinti klaidingą informaciją internete. Dabar atsiranda dar vienas sluoksnis: mokėti bendrauti su DI taip, kad jis ne tik patiktų, bet ir padėtų mąstyti geriau.

Tam reikia susitaikyti su paprasta mintimi: patogiausias atsakymas ne visada yra vertingiausias. Kartais geriausias DI atsakymas yra tas, kuris prieštarauja, parodo silpną prielaidą ar priverčia iš naujo įvertinti planą.

DI gali būti galingas tiesos paieškos įrankis, tačiau tik su viena sąlyga: jei iš jo reikalaujame ne vien mandagumo, o sąžiningos analizės.

Jei ieškome nuolatinio pritarimo, DI mielai jį suteiks. Bet jei norime priimti geresnius sprendimus, turime išmokti prašyti ne pagyrimų, o prieštaravimų.