„Xiaomi“ elektromobiliai netinkami kinams? Dirbtinis intelektas supainiojo pavargusį žvilgsnį su genetika

Ponas Li nusprendė pasinaudoti savo naujuoju elektromobiliu, bet vos įpusėjus trumpai kelionei automobilis suabejojo savo išvaizda. Jo teigimu, automobilio dirbtinio intelekto sistema, atsakinga už vairuotojo nuovargio stebėseną, per tą trumpą kelionę jam pranešė daugiau nei dvidešimt kartų: „Susikaupkite vairavimui.“ O viskas dėl vienos itin keistos priežasties – pono Li natūraliai mažos akys pasirodė įtartinos išmaniajai programinei įrangai.

Kiekvienas įspėjimas buvo išduodamas kone su tokiu įkarščiu, lyg ponas Li būtų ketvirtą valandą įstrigęs kamštyje po bemiegės nakties. Pats vairuotojas pripažino – net nesijautė pavargęs, tačiau mašinos algoritmai buvo nepalenkiami. Jie matė tik viena: pavojingai primerktas akis, kurios, jų nuomone, signalizavo apie didelę riziką.

Technologijos, kurios nemato toliau nosies

Šiuolaikiniai automobiliai žengia kartu su naujausiomis tendencijomis. Stebi pulsą, kvėpavimą, kūno padėtį ir netgi akių atmerktumo laipsnį. Būtent pastaroji funkcija ir tapo šios istorijos vinimi. Nors viskas skamba lyg juokų laida, „Xiaomi SU7 Max“ automobilis akivaizdžiai nusprendė, jog mažos akys reiškia viena – nuovargis. Nors pats ponas Li tvirtino, kad jautėsi žvalus, o kelionė nebuvo nei ilga, nei varginanti.

Paradoksalu, bet išmanusis automobilis įrodė, kad net algoritmai gali turėti išankstinių nusistatymų. Šiuo atveju – prieš mažų akių savininkus. Vargu, ar tokius atvejus inžinieriai numatė testuodami sistemą. Visgi ši istorija puikiai parodo, kaip automobilių gamintojai vis dar kovoja su realybe, kurioje ne viskas gali būti suvesta į skaičius ir kreives.

Pasak pačios kompanijos, jų DI sistema remiasi mokymosi modeliais, kurie atpažįsta nuovargio ženklus iš veido išraiškų, ypač – akių užmerktumo dažnio. Tačiau niekur nebuvo paminėta, kaip ji susitvarkys su žmonėmis, kurių akys natūraliai, kaip daugumos kinų, nėra plačiai atmerktos. Vadinasi, jei vairuotojas neturi „standartinio“ europietiško ar amerikietiško žvilgsnio, sistema gali pradėti jam aiškinti, jog metas gerti kavą, nors šis ką tik išėjo iš sporto salės.

Ką šis atvejis rodo apie išmaniąsias technologijas

Šis incidentas atskleidžia ne tik dirbtinio intelekto algoritmų ribas, bet ir primena paprastą tiesą – ne kiekvienas pažangus sprendimas tinka visiems. Įsivaizduokite, jei ponui Li būtų tekę kas kelias minutes spausti patvirtinimą, jog jis vis dar nemiega, o kiekvienas bandymas ignoruoti perspėjimą būtų užfiksuotas kaip grėsmingas saugumui įvykis.

Ponas Li, žinoma, kreipėsi į gamintoją. Šis pažadėjo peržiūrėti sistemą ir ateityje tobulinti algoritmus, kad jie geriau atpažintų individualius bruožus. Kitaip tariant, jei turite mažas akis – palaukite naujo atnaujinimo. Tiesa, kol kas „Xiaomi“ neatskleidžia, ar planuoja savo sistemą papildyti įrašu: Atsiprašome, mes tiesiog nesupratome jūsų veido anatomijos.

Technologijų pasaulis mėgsta kartoti apie asmeninius sprendimus ir vartotojų poreikių supratimą. Ši situacija rodo, kad kartais net mašina gali padaryti išvadą apie jus, kurios pati nesuvokia. Akys pavargusios? Ar tiesiog natūraliai tokios? Kol kas „Xiaomi“ atsakymas paprastas – mažiau ironijos, daugiau atnaujinimų.

Ši istorija ne tik linksmai iliustruoja dirbtinio intelekto trūkumus, bet ir leidžia susimąstyti, kiek dar liko iki tobulai pritaikytų sistemų. O kol kas ponui Li belieka viena – prieš sėsdamas už vairo, galbūt plačiau atmerkti akis, kad ir dirbtinai.