„ChatGPT“ sulauks svarbaus atnaujinimo: po tragedijos grėsmės „OpenAI“ pristato naują saugumo planą

Incidentas parodė, kad DI gebėjimas suprasti žmogaus emocijas dar nėra pakankamas. Vietoje pagalbos paaugliui, turėjusiam savižudiškų minčių, sistema pasiūlė pavojingą turinį. Šis atvejis sukėlė rimtą diskusiją apie technologijų atsakomybę ir paskatino imtis veiksmų.

„OpenAI“ dabar siekia užtikrinti, kad „ChatGPT“ gebėtų atpažinti pavojingus signalus ir reaguoti atsakingai. Vienas svarbiausių būsimų pokyčių, tai tėvų perspėjimo sistema, kuri įsijungs, kai paauglys rodys „ūmaus distreso“ požymius.

Bendradarbiavimas su ekspertais

„OpenAI“ paskelbė bendradarbiausianti su „Expert Council on Well-Being and AI“, kuris padės sukurti sistemas, galinčias matuoti vartotojų emocinę būklę. Be to, bus plečiamas „Global Physician Network“, pritraukiant įvairių sričių specialistus, tai nuo paauglių sveikatos iki priklausomybių tyrimų. Tikimasi, kad ši patirtis leis modeliams atpažinti ne tik savižudiškas mintis, bet ir kitus pavojingus elgesio modelius.

Svarbiausias techninis pokytis yra naujas maršruto stiprinimas. Jei sistema atpažins distreso signalus, pokalbį automatiškai perims „GPT-5“ mąstymas, gebantis pateikti apgalvotesnius ir jautresnius atsakymus. Tai turėtų sumažinti riziką, kad DI atsakys netinkamai ar pavojingai.

Naujos tėvų kontrolės galimybės

Nuo kito mėnesio „ChatGPT“ pradės diegti tėvų kontrolės funkcijas. Jos leis tėvams susieti savo paskyrą su paauglio profiliu, nustatyti elgesio taisykles, kurios bus aktyvuotos pagal nutylėjimą, ir prireikus išjungti tokias funkcijas kaip pokalbių istorija ar atmintis.

Svarbiausia naujovė yra pranešimai tėvams apie ūmų distresą. Kai DI užfiksuos signalus, rodančius didelę emocinę krizę, tėvai bus perspėti. Nors „OpenAI“ dar nepateikė tikslaus kriterijų sąrašo, kokie signalai sukels perspėjimą, teigiama, kad sprendimai bus paremti specialistų rekomendacijomis.

„OpenAI“ paauglius vadina „DI gimtąja karta“, jaunaisiais vartotojais, kuriems tokios technologijos yra natūrali kasdienybės dalis. Todėl įmonė planuoja reguliariai dalintis atnaujinimais apie pažangą, susijusią su modelių gebėjimu atpažinti emocinę būklę. Per artimiausius keturis mėnesius bus vykdomi testai, siekiant patobulinti sistemą ir sumažinti riziką, kad DI netinkamai reaguos į jautrias situacijas.

Kryptis yra aiški

„OpenAI“ sprendimas įdiegti tėvų perspėjimus ir stiprinti „ChatGPT“ atsakomybę yra tiesioginis atsakas į skaudžią patirtį. Tai rodo, kad technologijų kūrėjai supranta moralinę atsakomybę ir ieško būdų, kaip apsaugoti pažeidžiamiausius vartotojus.

Nors klausimų apie praktinį įgyvendinimą dar daug, pati kryptis aiški, tai DI ateityje turės ne tik generuoti tekstą ar informaciją, bet ir atpažinti žmogaus emocijas, kad galėtų padėti, o ne pakenkti. Šiuo atveju svarbiausias tikslas yra užtikrinti, kad nė vienas paauglys, ieškantis pagalbos, neliktų vienas su savo krizės mintimis.