Ekspertai įspėja apie naują pavojų bangą: dirbtinis intelektas jau geba pats valdyti kompiuterius

Iš pirmo žvilgsnio tai gali pasirodyti patogu, tačiau šis pokytis kelia ir nemažai nerimo. Šiuolaikinės dirbtinio intelekto sistemos neapsiriboja tik tekstų ar paveikslėlių kūrimu. Jos geba savarankiškai naršyti programų meniu, spausti mygtukus, atlikti sudėtingas užduotis, naudodamos metodą, primenantį žmogaus veiksmus. 

Sistema daro ekrano nuotraukas, analizuoja jas naudodama vaizdo atpažinimo technologijas ir priima sprendimus, kokį veiksmą atlikti toliau. Ši galimybė planuoti kelis veiksmus iš anksto ir juos tiksliai įgyvendinti laikoma svarbiu žingsniu į priekį.

Spartus technologijos augimas

Nuo 2023 metų atsirado daugiau kaip 60 naujų bazinių dirbtinio intelekto modelių ir 50 specialių programavimo įrankių, skirtų būtent kompiuterių valdymui. Tai nebe tik akademiniai bandymai, tai technologijos jau skinasi kelią į verslo pasaulį. Didžiosios technologijų įmonės taip pat nelieka nuošalyje. 

„OpenAI“ kuria projektą „Operator“, „Anthropic“ pristatė funkciją „computer use“, „Apple“ stiprina savo „Apple Intelligence“, o „Google“ testuoja „Project Mariner“. Vienu reikšmingiausių įvykių laikomas „Anthropic“ sprendimas įdiegti kompiuterio valdymo galimybes į savo modelį „Claude 3.5 Sonnet“, suteikiant jam gebėjimą sąveikauti su įrenginiais beveik taip, kaip tai daro žmogus.

Testai parodė, kad šis modelis gerokai pagerino savo rezultatus sudėtingose užduotyse, pavyzdžiui, programavimo srityje. Taip pat jis pranoko konkurentus užduotyse, kur reikia dirbti tik su ekrano vaizdais.

Praktinis pritaikymas ir galimos grėsmės

Įmonės, tokios kaip „Asana“, „Canva“, „DoorDash“, „Replit“ ar „The Browser Company“, jau bando automatizuoti procesus, kuriems anksčiau reikėdavo dešimčių ar net šimtų veiksmų. Nors tai gali gerokai padidinti produktyvumą, atsiranda ir naujų pavojų.

Agentinė dirbtinio intelekto sistema sukuria visiškai naują saugumo iššūkių kategoriją. Tradicinės apsaugos priemonės buvo sukurtos žmonėms, kurie geba atpažinti įtartinus veiksmus, tačiau dirbtinis intelektas (DI) reaguoja kitaip. Atsirado naujų atakų formų, pavyzdžiui, „Web Indirect Prompt Injection“, kai paslėptos komandos interneto puslapyje gali paveikti DI veiksmus. Yra ir vadinamosios „aplinkos injekcijos“ atakos, kai iš pirmo žvilgsnio nekalti duomenys priverčia agentą atlikti neleistinus veiksmus ar pavogti informaciją.

Tokios sistemos, turinčios prieigą prie el. pašto, finansinių duomenų ar klientų bazių, gali būti manipuliuojamos, jei susiduria su tam tikru turiniu.

Kaip technologijos kūrėjai bando spręsti problemą

„Anthropic“ kuria naujus filtrus ir klasifikatorius, kad DI galėtų atpažinti sukčiavimą, dezinformaciją ir kitus pavojus. Modelis „Claude 3.5 Sonnet“ buvo testuojamas kartu su JAV ir Jungtinės Karalystės dirbtinio intelekto saugumo institutais, tačiau specialių sprendimų agentinėms sistemoms dar nėra daug.

Be to, dabartinės DI galimybės ribotos, jos gerai susidoroja su aiškiomis ir paprastomis užduotimis, bet stringa, kai reikia kūrybiškai reaguoti į netikėtą situaciją. Sistema gali be klaidų paspausti konkretų mygtuką ar užpildyti formą, bet gali sutrikti, jei sąlygos pasikeičia.

Ateities perspektyvos ir klausimai

Toliau vystantis šiai technologijai, didžiausias iššūkis bus gebėjimas pritaikyti ją prie kiekvieno vartotojo poreikių ir kartu užtikrinti privatumą. Ateities DI agentai gali išmokti mūsų darbo stiliaus, susitikimų tvarkaraščio ir net kasdienio gyvenimo įpročių, kad galėtų priimti vis sudėtingesnius sprendimus. Tai padidintų efektyvumą, bet kartu keltų klausimą, kiek informacijos apie mus jie turėtų kaupti.

Taip pat svarbus uždavinys, tai sukurti sistemas, kurios galėtų prisiminti vartotojo pasirinkimus ir pageidavimus, bet nekauptų perteklinės informacijos.

Ši technologija dar tik pradinėje stadijoje, tačiau jos plėtros tempas rodo, kad mūsų bendravimas su kompiuteriais ir telefonais greitai pasikeis. Klausimas tik vienas ar būsime pasirengę tiek naudai, tiek rizikai, kurią tokia pažanga gali atnešti.