Mandagumo kaina: kaip pataikavimas dirbtiniam intelektui virto problema ir ką su tuo daro „OpenAI“

Kažkas paklausė: kiek elektros energijos sąnaudų „OpenAI“ patyrė dėl to, kad žmonės mandagiai rašo „prašau“ ir „ačiū“ savo užklausose? Altmanas atsakė šmaikščiai: „Dešimtys milijonų gerai išleistų dolerių – niekada nežinai.“

Neilgai truko ir dabar paaiškėjo, kokių veiksmų imasi „ChatGPT“ valdanti bendrovė. „OpenAI“ oficialiai pranešė apie konkrečius žingsnius, kurių ėmėsi bandydama spręsti pastaruoju metu išryškėjusią pataikavimo problemą. 

Pastabos apie tai, kad dirbtinis intelektas pernelyg lengvai pritardavo vartotojų idėjoms, net jei jos būdavo netikslios ar rizikingos. tapo vis dažnesnės, ypač po patobulintos „GPT-4o“ versijos išleidimo.

Pirmoji reakcija į situaciją buvo ryžtinga. „OpenAI“ nusprendė atšaukti naująją „GPT-4o“ versiją ir grąžinti ankstesnę, saugesnę versiją. Jau po kelių dienų įmonė pradėjo diegti elgesio korekcijas ir inicijavo išsamesnę analizę, siekdama suprasti, kodėl modelis pradėjo rodyti nepageidaujamą elgseną.

Remiantis oficialiu „OpenAI“ tinklaraščiu, įmonė atnaujino pagrindinius modelio mokymo metodus ir sustiprino sistemines instrukcijas, siekdama sumažinti perteklinį pataikavimą. Vienas pagrindinių tikslų – modelio atsakymai turi būti ne tik mandagūs ar draugiški, bet ir tikslūs, atsakingi bei pagrįsti patikima informacija.

Be to, buvo įdiegti papildomi atsakymų ribojimai, kurie turėtų padėti sumažinti tendenciją pritarti pavojingoms ar nelogiškoms idėjoms. Dabar dirbtinis intelektas labiau orientuotas į atsargų, tačiau tvirtą požiūrį, kai kalbama apie vartotojų pasiūlymus ar klausimus, susijusius su jautriomis temomis.

Dar vienas pokytis – didesnis naudotojų įtraukimas į naujų versijų testavimą. Iki šiol prieigą prie naujausių „ChatGPT“ versijų turėdavo tik nedidelė vartotojų grupė, tačiau dabar „OpenAI“ plečia šį ratą, kad galėtų anksčiau aptikti potencialias elgesio problemas ir į jas operatyviai reaguoti.

Be to, diegiama tiesioginio atsiliepimo funkcija, kuri leidžia vartotojams realiuoju laiku koreguoti „ChatGPT“ atsakymus. Tai reiškia, kad jei dirbtinis intelektas pasiūlo netinkamą ar nepriimtiną atsakymą, naudotojas galės tai pažymėti ir matyti aiškią galimybę daryti įtaką tolimesnei sąveikai.

Ilgalaikėje perspektyvoje „OpenAI“ planuoja suteikti vartotojams daugiau galimybių formuoti „ChatGPT“ elgesį pagal individualius poreikius. Kalbama apie galimybę rinktis tarp skirtingų dirbtinio intelekto „asmenybių“, nuo formalesnio ir faktais grįsto iki laisvesnio, kūrybiško bendravimo stiliaus.

Tokia funkcija, jei bus įdiegta, galėtų leisti naudotojams geriau prisitaikyti modelį prie savo darbo ar asmeninių poreikių – ypač kai dirbama su tekstais, analize ar kūrybinėmis užduotimis.

Šios permainos vyksta ne be priežasties. „ChatGPT“ vis dažniau naudojamas ne tik pramogai, bet ir kaip kasdienis patarimų šaltinis. Pasak „Express Legal Funding“ apklausos, net 60 proc. suaugusiųjų JAV nurodo bent kartą naudojęsi dirbtiniu intelektu ieškodami atsakymų ar rekomendacijų.

Tokio masto naudojimas reiškia ir didesnę atsakomybę. Jei AI modelis elgiasi pataikaujančiai, teikia netikslų ar pavojingą patarimą – pasekmės gali būti rimtos. Todėl bet koks elgsenos sutrikimas turi būti sprendžiamas iškart, kol dar nepadaryta žala.