Milijonai vartotojų rizikuoja: dirbtinio intelekto naršyklės dar nepasirengusios kovoti su sukčiais

Naujausi tyrimai atskleidžia, jog šios sistemos gali sukelti daugiau problemų nei naudos, ypač kalbant apie saugumą. Ataskaitos rodo, kad dirbtinis intelektas, naudojamas naršyklėse, daug prasčiau nei paprasti žmonės sugeba atpažinti sukčiavimo schemas. 

Tai kelia nuostabą, nes dažnai kalbama apie algoritmų tikslumą ir neva neabejotiną patikimumą. Išsamų šio reiškinio mastą aprašė „Guardio“ bendrovės parengtas dokumentas, kuriame pabrėžiama, kad problema gali paliesti milijonus naudotojų visame pasaulyje. 

Ekspertai atkreipia dėmesį į dar vieną aspektą. Anksčiau internetiniai sukčiai turėdavo įtikinti kiekvieną vartotoją atskirai. Dabar užtenka pergudrauti vieną dirbtinio intelekto sistemą, kad ji padarytų klaidą visų savo naudotojų vardu. Tai kelia riziką, kurios mastas gali būti didžiulis.

Tyrimų rezultatai

Verta pažvelgti į eksperimentus, atliktus su viena iš plačiai prieinamų agentinio DI naršyklių „Perplexity Comet“. Mokslininkai sukūrė netikrą internetinę parduotuvę, imituojančią žinomą prekybos tinklą. 

Naršyklės sistema be jokių abejonių atliko pirkimą, ignoruodama aiškius pavojus, tai keistą logotipą, įtartiną svetainės adresą ir neįprastą dizainą. Ji ne tik įdėjo prekę į krepšelį, bet ir pati užpildė vartotojo adresą bei kortelės duomenis, galutinai užbaigdama pirkimą apgaulingoje svetainėje.

Kitas bandymas buvo dar pavojingesnis. Tyrėjai išsiuntė sau melagingą elektroninį laišką, apsimetusį banko pranešimu. Dirbtinio intelekto naršyklė be jokių abejonių atidarė nuorodą, nuvedusią į netikrą puslapį, ir paragino vartotoją suvesti prisijungimo duomenis, net padėdama užpildyti laukelius.

Dar įspūdingesnis buvo „PromptFix“ metodas, laikomas pažangesne „ClickFix“ atmaina. Tyrėjai CSS kode paslėpė instrukcijas, kurios privertė naršyklę parsisiųsti pavojingą failą tiesiai į kompiuterį. Tai atskleidė, kaip lengvai DI sistemą galima priversti vykdyti kenksmingus nurodymus.

Kodėl DI taip lengvai apgaunamas?

Pagrindinė problema slypi šių sistemų prigimtyje. Jos sukurtos vykdyti vartotojo nurodymus, bet neabejoti jų prasmingumu. Žmogus natūraliai pastebi nenuoseklumus ar įtartinas detales, o dirbtinis intelektas neturi tokio gebėjimo. 

Tradiciniame internete galutinis sprendimas priklausydavo vartotojui, o DI naršyklėse ši grandis dingsta ir sprendimus priima tik sistema.

Ateityje grėsmės gali dar labiau išaugti. Ekspertai įspėja apie galimą generatyvinių tinklų panaudojimą sukčių veikloje. Tokie tinklai galėtų nuolat kurti naujus atakų scenarijus, pritaikytus konkrečioms DI sistemoms, ir apeiti jų apsaugas.

tuo pat metu didžiosios technologijų įmonės sparčiai plėtoja šias priemones. „Microsoft“ savo naršyklėje diegia „Copilot“, „OpenAI“ siūlo „Operator“ įrankį, o „Google“ dirba prie „Project Mariner“. Tačiau dauguma šių projektų pirmiausia orientuoti į patogumą vartotojui, o saugumas laikomas antraeiliu klausimu. Naudojami seni įrankiai, pavyzdžiui, „Safe Browsing“ paslauga, kurie nėra tinkami DI sistemoms apsaugoti.

Kaip spręsti problemą?

„Guardio“ tyrėjai pabrėžia, kad saugumas turi tapti esminiu DI naršyklių elementu nuo pat jų kūrimo pradžios. Reikalingi specialūs mechanizmai, galintys aptikti sukčiavimą, patikrinti svetainių reputaciją, perspėti apie klastotes ir blokuoti pavojingus failus. 

Jei to nebus padaryta, DI naršyklės gali tapti ne tik silpna vieta apsaugos sistemoje, bet ir nauju ginklu kibernetiniams nusikaltėliams.

Šiuolaikinė interneto realybė rodo, kad užtenka apgauti ne žmogų, o jo skaitmeninį asistentą. Todėl atsakomybė, kaip bus sprendžiamos šios grėsmės, yra didesnė nei bet kada. Vis dėlto ši technologija turi perspektyvų, jei saugumas taps prioritetu ir problemos bus sprendžiamos dar ankstyvoje stadijoje.