Prisijunkite
Dirbtinio intelekto pažanga įsibėgėja greičiau nei bet kada istorijoje, tačiau naujausi tyrimai verčia susimąstyti – ar ši technologinė galia nepaverčia mūsų pačių silpnesniais? Aalto universiteto mokslininkai iš Suomijos kartu su kolegomis iš Vokietijos ir Kanados atskleidė paradoksą: kuo daugiau naudojamės dirbtiniu intelektu, tuo labiau įsitikiname, kad esame kompetentingesni, net jei realybė rodo priešingai. Šis atradimas meta iššūkį vienam žinomiausių psichologijos dėsnių – Dunningo ir Krugerio efektui – ir kelia klausimą, ar AI neformuoja pavojingo savęs pervertinimo šleifo.
Dunningo ir Krugerio efektas psichologijoje žinomas jau kelis dešimtmečius. Jis rodo, kad menkesnių gebėjimų žmonės linkę pervertinti savo kompetenciją, o aukštesnių gebėjimų – ją nuvertinti. Kitaip tariant, kuo mažiau žinome, tuo labiau esame įsitikinę, kad viską suprantame. Tuo tarpu tikrieji ekspertai dažniau abejoja savimi, nes žino, kiek daug dar nežino.
Šis efektas nuolat atskleidžiamas kognityviniuose testuose: sprendžiant dėmesio, kalbos, logikos ar sprendimų priėmimo užduotis, žmonių savęs vertinimas dažnai smarkiai prasilenkia su faktine kompetencija. Iki šiol tai buvo laikoma universaliu žmogaus mąstymo bruožu. Tačiau naujausi duomenys rodo, kad dirbtinis intelektas gali šį principą iškreipti – ir tai nebūtinai gera žinia.
Aalto universiteto tyrėjai atliko eksperimentą su 500 dalyvių. Viena grupė sprendė LSAT – teisės studijoms skirtus loginio mąstymo testus – savarankiškai, kita galėjo naudoti populiarų AI pokalbių robotą „ChatGPT“. Atlikę testą visi respondentai buvo apklausti apie savo AI raštingumą ir, svarbiausia, apie tai, kaip jie vertina savo pasirodymą. Motyvacija įsivertinti buvo papildyta ir finansiniu paskatinimu – tiksliau įvertinę savo pasirodymą dalyviai galėjo gauti papildomą atlygį. Vis dėlto net ir tai neapsaugojo nuo savęs pervertinimo.
Įspūdingiausia tyrimo išvada: naudojant AI, Dunningo–Krugerio efektas iš esmės išnyksta. Nesvarbu, ar dalyvis buvo kompetentingas, ar mažiau įgudęs – visi jie buvo linkę pervertinti savo rezultatus. Šis „kreivės išsilyginimas“ atskleidė dar daugiau: kuo labiau žmogus įpratęs naudotis AI, tuo labiau jis tiki, kad gautas atsakymas – teisingas, ir tuo labiau pervertina savo indėlį į rezultatą. Tai reiškia, kad AI gali sukurti kompetencijos iliuziją, kuri mus apgauna ir kaupiasi kaip tyliai vešiantis mąstymo paklydimas.
Tyrėjai įžvelgė keletą priežasčių, dėl kurių dirbtinis intelektas skatina savęs pervertinimą. Viena jų – vadinamasis kognityvinis nusimetimas. Žmonės teisingą AI atsakymą linkę priimti po vieno klausimo, vienos užklausos, vieno patikrinimo. Kitaip tariant, pasikliovę algoritmu, nebesigiliname į problemą savarankiškai. Nebevyksta gilesnio svarstymo, nebeieškoma alternatyvių sprendimų, nevyksta vidinis dialogas.
Psichologijoje tai vadinama metakognityvine kontrole – gebėjimu stebėti ir vertinti savo mąstymą. Būtent ji tyrime pastebimai susilpnėjo. Kai nebeužduodame papildomų klausimų, nebekvestionuojame atsakymo ir nebeanalizuojame argumentų, išnyksta natūralus grįžtamojo ryšio mechanizmas, leidžiantis tiksliau įvertinti savo gebėjimus. Tada atsiranda iliuzija, kad jeigu atsakymas teisingas, tai mes jį „išsprendėme“, o ne jį pateikė algoritmas.
Tyrimas atskleidė ir kitą keistą paradoksą: naudojantis dirbtiniu intelektu, tiek žemesnių, tiek aukštesnių gebėjimų dalyviai savo įgūdžius vertino panašiai. Net labai gabūs dalyviai, kurie be AI paprastai būna nuosaikesni, pradėjo pervertinti gebėjimus.
Kitaip tariant, AI padaro mus visus vienodai optimistiškais – o kartu ir vienodai netiksliais.
Be to, mokslininkai pažymi, kad ši tendencija atsiranda tuo metu, kai viešojoje erdvėje vis garsiau kalbama apie pokalbių robotų „pataikavimą“. LLM modeliai sukurti taip, kad stengtųsi būti naudingi, draugiški ir patvirtinantys mūsų lūkesčius. O tai neatitolina nuo savęs pervertinimo – priešingai, dar labiau jį sustiprina.
Tyrimo autoriai perspėja: daugiau pasitikėjimo AI reiškia mažiau kritinio mąstymo. O kartu – silpnesnę metakogniciją. Tai gali turėti realių pasekmių:
prastėja gebėjimas tikrinti informaciją,
silpnėja argumentavimo įgūdžiai,
kyla rizika priimti netikslius ar klaidingus sprendimus,
ilgainiui gali erozuotis tam tikri profesiniai gebėjimai.
Kitaip tariant, AI pagerina užduočių atlikimo rezultatą, bet kartu sumažina mūsų supratimą, kaip gerai mes tas užduotis iš tikrųjų atliekame.
Tai itin aktualu dabar, kai AI tampa kasdieniu darbo įrankiu – nuo studentų esė iki teisinių, medicininių ar finansinių analizių.
Mokslininkai siūlo vieną intriguojančią idėją: dirbtinis intelektas galėtų būti mokomas skatinti žmogaus refleksiją. Vietoj vienpusiško atsakymo modeliai galėtų:
prašyti vartotojo įvertinti savo pasitikėjimą atsakymu,
priminti patikrinti alternatyvas,
pateikti tikimybinius įverčius,
nukreipti į gilesnį klausimo išskaidymą.
Toks AI dizainas neprimestų „tiesos“, o padėtų vartotojui įsitraukti į mąstymo procesą. Royal Society jau anksčiau ragino įtraukti kritinio mąstymo ugdymą į AI naudojimo mokymus. Aalto mokslininkų atradimai tik sustiprina šį poreikį.
Dirbtinis intelektas keičia mus ne tik kaip technologinė priemonė, bet ir kaip psichologinis veidrodis. Jis gali padėti, bet gali ir suklaidinti, jei pasitikime juo daugiau nei savimi. Todėl svarbiausia išmokti ne tik naudoti AI, bet ir suprasti, kada jis mus priverčia galvoti, kad esame geresni, nei iš tikrųjų esame.
0 komentarų
Prašome gerbti kitus komentatorius. Gerų diskusijų! Apsauga nuo robotų rūpinasi reCAPTCHA ir yra taikoma „Google“ privatumo politika ir naudojimosi sąlygos.