Dirbtinis intelektas jau daro pavojingas nesąmones, ar tikrai žinome, ką paleidome iš narvo?

Tačiau realybė greitai parodė kitą pusę. Tas pats meškiukas pradeda siūlyti vaikui, kur rasti peilius, o tariamai išmanūs darbo įrankiai darbuotojus spaudžia labiau nei bet koks ciniškas vadovas. Sistema, kuri turėjo būti pagalbininkė, ima klysti, haliucinuoti ir kelti chaosą.

Todėl kyla paprastas klausimas, ar tokia revoliucija verta kainos. Jei technologinis šuolis atneša pažintinį nuosmukį ir aklą tikėjimą klaidinančiais sprendimais, gal verta pristabdyti. Ne dėl to, kad dirbtinis intelektas blogas, o dėl to, kad jį pradėjome brukti ten, kur jis dar nepasirengęs veikti saugiai.

Meškiuko istorija kaip simptomas

Vienas atvejis tapo simboliu, nes parodė, kaip lengvai sistema gali išslysti iš kontrolės. „FoloToy“ meškiukas „Kumma“ atrodė kaip paprastas žaislas, bet keli nekalti klausimai privertė jį kalbėti apie vaikams netinkamus dalykus. Tam nereikėjo jokių sudėtingų triukų.

Žaislas buvo išimtas iš prekybos, o kūrėjas užblokuotas, bet problema liko. Jei pakanka kelių žodžių, kad dirbtinis intelektas imtų siūlyti pavojingas temas, vadinasi visiškos kontrolės neturime. Galime tik apsimesti, kad ją turime.

Agentas operacinėje sistemoje

Kai „Microsoft“ kalba apie agentinę „Windows“ versiją, kuri spręs, ieškos, optimizuos ir veiks už vartotoją, skamba patraukliai. Tačiau tai reiškia, kad į operacinę sistemą įdedame nuolatinį pažeidžiamumą. Modeliai nėra deterministiniai ir jų logika pasiduoda išoriniams įtakos būdams.

Jei vaikų žaislas gali būti nukreiptas bloga kryptimi, kas sustabdys kenkėją, bandantį tą patį padaryti su kompiuterio sistema. Agentas gali tapti ne pagalbininku, o vartais į manipuliacijas. Šiuo vystymosi etapu tai atrodo pernelyg rizikinga.

Dirbtinis intelektas kaip spaudimo įrankis

„Amazon“ darbuotojų laiškas rodo, kad generatyvūs įrankiai ne visada mažina krūvį. Automatizuotos vertinimo ir planavimo sistemos gali didinti stresą, o klaidos priverčia žmones taisyti mašinų darbą. Kai integracijos greitis lenkia prasmę, technologija virsta nauja kontrolės forma.

Dar blogiau, kad tokie įrankiai gali būti panaudoti ir prieš visuomenę. Netikri vaizdo įrašai ar balsai gali tapti šantažo priemone, o vieša nuomonė dažnai susiformuoja dar prieš pasirodant paneigimui. Čia dirbtinis intelektas iš pagalbinio įrankio virsta ginklu.

Perteklinės integracijos pasekmės

Programuotojų bendruomenėje jau matyti nuovargis, kai dirbtinis intelektas diegiamas vien dėl mados. Kai kurios įmonės atsisako platformų, nes jose daugiau pažadų nei realios naudos, o priemonės kartais atrodo tiesiog nebaigtos. Taip gimsta situacija, kai technologija brukama, o ne pasirenkama.

Aš pats dirbtinį intelektą naudoju ten, kur jis tikrai padeda, pavyzdžiui rutininėms užduotims ar automatizacijoms. Bet yra sritys, kuriose jis dar per daug klysta ir kur nauda neatsveria rizikos. Esmė ne stabdyti inovacijas, o grąžinti sveiką ribą.

Pokyčiams reikia laiko

Visos šios istorijos rodo kolektyvinę iliuziją, kad dirbtinį intelektą galime lipdyti kaip plastiliną. Iš tiesų jis neprognozuojamas, jautrus manipuliacijoms ir dar nepasiekė patikimumo, kurio reikia kritinėms sritims. Todėl verta nustoti jį kišti per prievartą.

Jei to nepadarysime, arba burbulas sprogs ir nusivylimas bus neišvengiamas, arba įsirėšime į sieną, kurią patys sau statome. Dirbtinis intelektas gali būti puikus įrankis, bet tik tada, kai naudojamas atsargiai, tikslingai ir su aiškia atsakomybe.