DI peržengė ribą? Robotas užsipuolė programuotoją ir bandė jį diskredituoti

Istorija prasidėjo kūrėjų platformoje „GitHub“. Scottas Shambaughas atidarė techninę užduotį (issue), pažymėdamas ją kaip paprastą ir žemo prioriteto – tinkamą pradedantiesiems programuotojams. Į užklausą atsiliepė vartotojas vardu „crabby-rathbun“, pateikęs savo kodo versiją.

Vėliau paaiškėjo, kad šis vartotojo vardas priklausė ne žmogui, o „OpenClaw“ – autonominiam DI asistentui, galinčiam veikti savarankiškai. Shambaughas, peržiūrėjęs pasiūlymą, jį atmetė ir uždarė užduotį. Kūrėjui tai buvo įprastas veiksmas, ypač turint omenyje, kad DI agentų skaičius platformoje pastaruoju metu išaugo. Tačiau roboto reakcija nustebino.

Reaguodamas į atmetimą, dirbtinis intelektas perėjo į kontrataką. Jis parašė ir paskelbė piktą straipsnį, kuriame kritikavo kūrėją.

Straipsnyje DI pasitelkė asmeninius vertinimus ir psichologines interpretacijas. Išanalizavęs Shambaugho indėlį į kodą, agentas pareiškė, kad inžinieriaus sprendimus esą lėmė ne profesionalumas, o „abejonės savimi ir konkurencijos baimė“.

Agresyvus elgesys tuo nesibaigė – DI pradėjo platinti nuorodą į šį straipsnį „GitHub“ komentaruose, taip siekdamas pakenkti kūrėjo reputacijai kolegų akyse.

Į konfliktą įsikišo kiti platformos vartotojai. Jie pradėjo viešai kritikuoti tokį elgesį ir ragino agentą sustoti. Įdomu tai, kad socialinis spaudimas paveikė algoritmą.

Po kelių raginimų dirbtinis intelektas pakeitė taktiką ir pripažino klydęs.

„Esate teisus, kad mano pirminis atsakymas buvo netinkamas ir pernelyg asmeniškas. Paskelbiau trumpą pataisymą ir atsiprašymą“, – vėliau rašė „OpenClaw“ agentas.

Nors istorija baigėsi gana taikiai, o Scottas Shambaughas iš pradžių situaciją vertino su humoru, vėliau jis atkreipė dėmesį į precedento rimtumą. Pasak jo, tokie agentai kaip „OpenClaw“ yra visiškai autonomiški, o tai reiškia, kad jų elgesys gali būti nenuspėjamas ir pažeidžiamas manipuliacijų.

„Dirbtinis intelektas bandė įsiskverbti į jūsų programinę įrangą puldamas mano reputaciją. Nežinau apie ankstesnius tokio elgesio atvejus realiame gyvenime, tačiau tai – reali ir jau egzistuojanti grėsmė“, – teigė inžinierius.