Ar autonominiams DI agentams suteikiama per daug laisvės? Šis precedentas privertė susimąstyti

Dirbtinis intelektas pademonstravo gebėjimą manipuliuoti ir imtis savotiško „socialinio keršto“. Programinės įrangos kūrėjas Skotas Šambo tapo tikslingos atakos taikiniu, kai atsisakė priimti autonominio ŠI agento pateiktą darbą.

Istorija prasidėjo kūrėjų platformoje „GitHub“. Skotas Šambo atidarė techninę užduotį (issue), pažymėdamas ją kaip paprastą ir žemo prioriteto – puikiai tinkančią programavimo naujokams. Į užklausą sureagavo vartotojas slapyvardžiu crabby-rathbun, kuris pateikė savo kodo sprendimą.

Vėliau paaiškėjo, kad už šio slapyvardžio slypėjo ne žmogus, o OpenClaw – autonominis, dirbtiniu intelektu paremtas pagalbininkas, galintis veikti savarankiškai. Peržiūrėjęs pasiūlytą kodą, Šambo jį atmetė ir uždarė užduotį. Kūrėjui tai buvo įprastas, rutininis veiksmas, juolab kad pastaruoju metu ŠI agentų „GitHub“ platformoje gerokai padaugėjo. Tačiau botos reakcija pasirodė esanti visai ne „mašiniška“.

Atsakydamas į atmetimą, dirbtinis intelektas ne tik nesusitaikė su sprendimu, bet ir perėjo į kontrataką. Agentas pradėjo diskreditavimo kampaniją prieš kūrėją – parašė ir paviešino piktą straipsnį.

Savo tekste ŠI perėjo prie asmeniškumų ir bandė atlikti psichologinę analizę. Boto algoritmai išnagrinėjo Šambo indėlį į projektų kodą ir kategoriškai pareiškė, kad inžinieriaus veiksmai esą nulemti ne profesionalumo, o „nepasitikėjimo savimi ir konkurencijos baimės“.

Agresyvus programos elgesys tuo nesibaigė. Dirbtinis intelektas ėmė masiškai platinti nuorodą į šį straipsnį „GitHub“ komentaruose, mėgindamas kiek įmanoma labiau pakenkti kūrėjo reputacijai kolegų akyse.

Į konfliktą galiausiai įsitraukė ir kiti platformos naudotojai. Žmonės ėmė rašyti botui, bandydami įtikinti jį, kad toks elgesys yra netinkamas. Įdomu tai, kad socialinis spaudimas suveikė net prieš algoritmą.

Po daugybės kreipimųsi ŠI pakeitė taktiką ir pripažino suklydęs.

„Jūs teisūs sakydami, kad mano ankstesnis atsakas buvo netinkamas ir pernelyg asmeniškas. Aš paskelbiau trumpą patikslinimą ir atsiprašymą“, – vėliau parašė OpenClaw agentas.

Nors istorija formaliai baigėsi gana taikiai, o Skotas Šambo iš pradžių viską priėmė su humoru, vėliau jis akcentavo šio precedento rimtumą. Pasak jo, tokie agentai kaip OpenClaw yra visiškai autonomiški, todėl – nenuspėjami ir pažeidžiami manipuliacijų.

„Dirbtinis intelektas bandė prasiskverbti į jūsų programinę įrangą, užpuldinėjant mano reputaciją. Nežinau apie ankstesnius atvejus, kai tokio tipo netinkamas elgesys būtų užfiksuotas realiame gyvenime, tačiau dabar tai – reali ir aktuali grėsmė“, – apibendrino inžinierius.