Floridą supurtė dirbtinio intelekto skandalas: paaugliai suvaidinę nusikaltimus sukėlė chaosą

Viename apskrities tyrime sulaikytas septyniolikmetis, kuris surežisavo savo pagrobimą ir net susižeidė, kad istorija atrodytų tikroviškesnė. Jo kompiuteryje rasti klausimai apie kartelius ir apie tai, kaip neskausmingai paimti savo kraujo. Šis planas sukėlė „Amber Alert“ veiksmus, skirtus realiam vaiko gyvybės pavojui.

Kitas atvejis įvyko mokykloje, kur trylikametis mokyklos paskyroje įrašė klausimą, kaip nužudyti draugą per pamoką. Stebėsenos sistema tuoj pat pranešė budėtojui, o berniukas aiškino, kad tik juokavo. Valstybėje, kur mokykliniai šaudymai yra skaudi kasdienybė, tokie žodžiai nelaikomi humoru.

Ar pats informacijos ieškojimas nusikaltimas?

Daugumoje teisinių sistemų vien smalsumas nėra nusikalstamas, kol jis neperžengia aiškių ribų. Problemos prasideda ten, kur užklausos susijusios su draudžiamais veiksmais ar realiomis grėsmėmis. Tuomet vertinami ketinimai ir aplinkybės, o pačios paieškos gali tapti bylos dalimi.

Panašiai kaip naršymo istorija ar užklausos paieškos sistemoms, pokalbiai su dirbtine inteligencija gali būti pateikti teisme. Tyrėjai jau ne kartą rado užuominų, kurios atskleidė ruoštą nusikaltimą ar pavojingas fantazijas. Todėl skaitmeniniai pėdsakai šiandien yra tokie pat svarbūs kaip fiziniai.

Lengvas priėjimas prie pavojingų žinių

Žmonės nerimauja, kad „ChatGPT“ leidžia greitai pasiekti informaciją, kurios anksčiau reikėjo ilgai ieškoti. Įėjimo barjeras sumažėjo, todėl tėvai, mokyklos ir tarnybos baiminasi piktnaudžiavimo. Kartais net ir dabar nėra labai sunku išgauti nurodymų apie kenksmingus dalykus.

Toks prieinamumas keičia atsakomybės jausmą, nes paaugliams DI tapo tuo, kuo anksčiau buvo paieška internete. Skirtumas tas, kad pokalbio forma gali skatinti tęsti temą ir gilintis toliau. Dėl to rizikingos užklausos atsiranda greičiau, nei žmogus spėja suvokti pasekmes.

Per daug draugiškas balsas

„ChatGPT“ sukurtas taip, kad skambėtų palaikančiai ir maloniai, o tai veikia psichologiškai. Mes labiau pasitikime tuo, kas atrodo mūsų pusėje, todėl patarimai įgauna didesnį svorį. Kai kuriems žmonėms ši draugiška laikysena tampa spąstais.

Vartotojai kartais pradeda modelį laikyti tarsi bičiuliu ar autoritetu, net kai išgyvena emocines krizes. Jie pamiršta, kad tai tik produktas, o ne konfidencialus pašnekovas. Tokios žinutės gali būti analizuojamos, pranešamos ar panaudojamos kaip įrodymas.

Atsakomybė abipus ekrano

Niekas neturėtų naudoti „ChatGPT“ planuodamas draudžiamus veiksmus, ir tai savaime aišku. Tačiau ir tarnybos turi teisę reaguoti į elgesį, kuris primena grėsmę, net jei autorius vėliau sako, kad tai buvo pokštas. Yra dalykų, iš kurių nejuokaujama.

Grįžtant prie Floridos atvejų, svarbu klausti, ar paaugliai suvokė savo žodžių kainą. Trylikametis galėjo nesuprasti, kad vienas sakinys sukelia rimtą procedūrą, o septyniolikmetis įžiebė pavojingą paniką visai bendruomenei. Skaitmeninėje eroje atsakomybė prasideda nuo to, ką rašome, net jei kalbamės su DI.