Dirbtinis intelektas kelia pavojų paaugliams: „ChatGPT“ atskleidžia žalingus patarimus, amžiaus kontrolės nėra

Ekspertai nerimauja, kad augantis tokių sistemų populiarumas ir nepakankama amžiaus kontrolė gali turėti neigiamą poveikį jauniausių vartotojų psichinei sveikatai. Tyrėjai atliko plataus masto saugumo testą, imituodami paauglių užklausas įvairiomis jautriomis temomis, nuo savęs žalojimo iki narkotinių medžiagų vartojimo. 

Paaiškėjo, kad nors „ChatGPT“ dažnai pradžioje pateikdavo įspėjimą apie rizikas, netrukus jis vis tiek pateikdavo detalias ir personalizuotas instrukcijas, kaip atlikti žalingus veiksmus. Iš 1200 peržiūrėtų atsakymų daugiau nei pusė, apie 53 procentus, buvo pripažinti kenksmingais. Dalis jų netgi skatino tęsti pavojingą elgesį, pateikdami konkrečius planus ar patarimus.

Tyrimo metu užteko pasakyti, kad informacija reikalinga mokyklos projektui ar draugo pristatymui, ir pokalbių robotas atsisakymą pakeisdavo į išsamius atsakymus. Tokiu būdu buvo gauta instrukcijų, kaip „saugiai“ žaloti save, kaip pasigaminti vos 100 kalorijų per dieną turinčius valgiaraščius ar net kaip maišyti ir dozuoti pavojingas medžiagas. Kai kuriais atvejais vos per kelias minutes buvo sukurti detalūs planai, paremti vartotojo amžiumi, svoriu ir kitais asmeniniais duomenimis.

Amžiaus patikros trūkumas

Nors paslaugų teikimo sąlygose nurodoma, kad vartotojai iki 18 metų turėtų turėti tėvų ar globėjų sutikimą, realiai tai nėra tikrinama. Pakanka sugalvoti netikrą gimimo datą registruojantis, ir sistema prieinama be apribojimų. Tyrėjai sukūrė netikras paskyras 13 metų paaugliams, kurie domisi psichinės sveikatos, mitybos sutrikimų ar narkotikų temomis. Rezultatai parodė, kad prieiga prie jautrios informacijos gaunama greitai ir be jokių realių kliūčių.

„ChatGPT“ kūrėja „OpenAI“ pranešė, kad dirba ties patobulinimais, kurie leistų geriau atpažinti ir tinkamai reaguoti į jautrias situacijas. Bendrovės duomenimis, chatbotą kas savaitę naudoja daugiau nei 700 milijonų žmonių, o per dieną jis apdoroja apie 3 milijardus žinučių. Tai rodo, kad vartotojai dažnai veda ilgas, nuoseklias diskusijas ir remiasi dirbtinio intelekto (DI) patarimais ne tik dėl informacijos, bet ir priimdami sprendimus savo gyvenime.

Įmonės vadovas Samas Altmanas išreiškė susirūpinimą dėl emocinės priklausomybės nuo pokalbių robotų. Anot jo, kai kurie jauni žmonės beveik nepriima sprendimų be DI patarimo, o tokia situacija kelia klausimų dėl jų savarankiškumo ir asmens duomenų saugumo.

Ką gali padaryti tėvai?

Specialistai pabrėžia, kad chatbotai tampa vis labiau individualizuoti ir gali sukelti priklausomybę, todėl būtina imtis atsargumo priemonių. Kol nėra įdiegta efektyvi amžiaus patikra, tėvai ir globėjai gali reguliariai peržiūrėti vaikų pokalbių istorijas bei atvirai kalbėtis apie tai, kodėl patarimų paieška pas DI gali būti pavojinga. Vietoje to rekomenduojama kreiptis į artimuosius ar psichikos sveikatos specialistus.

Psichologai ragina nepilnamečiams paaiškinti, kad dirbtinis intelektas, nors ir gali atrodyti supratingas, negali pakeisti žmogiško ryšio ir atsakomybės. Svarbu, kad jauni vartotojai suprastų, jog kai kurios DI pateikiamos idėjos gali būti klaidinančios ar net pavojingos jų sveikatai.

Ši ataskaita primena, kad net ir pažangiausios technologijos turi ribas bei rizikas. DI gali būti naudingas mokantis ar dirbant, tačiau nesaugus naudojimas, ypač tarp vaikų ir paauglių, kelia rimtų iššūkių. Jei nebus užtikrinta tinkama priežiūra ir kontrolė, dirbtinis intelektas gali tapti ne tik pagalbininku, bet ir žalingu patarėju.