„Mythos“ aptiko tūkstančius pažeidžiamumų dažniausiai naudojamose programose, kuriems nėra jokių pataisymų, todėl DI startuolis nusprendė sudaryti aljansą su kibernetinio saugumo specialistais siekdamas sustiprinti apsaugą nuo įsilaužimų.
„Turime naują modelį, kurio nepristatome visuomenei“, – „HumanX AI“ konferencijoje San Franciske sakė „Anthropic Labs“ atstovas Mike'as Kriegeris (Maikas Krygeris).
Vietoj to „Anthropic“ leidžia atvirojo kodo bendruomenės kibernetinio saugumo specialistams ir inžinieriams dirbti su „Mythos“, kad jie galėtų naudoti šį modelį kaip ginklą, „tarsi iš anksto juos apginkluodami“, paaiškino M. Kriegeris.
Sparčiai tobulėjant DI modelių galimybėms, kilo susirūpinimas, kad įsilaužėliai gali naudoti tokias priemones slaptažodžiams išsiaiškinti ar šifravimui, skirtam duomenų saugumui užtikrinti, įveikti.
Seniausias iš „Mythos“ aptiktų pažeidžiamumų yra net 27 metų amžiaus, ir, pasak „Anthropic“, nė vienas iš kūrėjų esą nepastebėjo jų, kol jų nenustatė DI modelis.
„Mythos“ yra naujausios kartos „Anthropic“ DI šeimos „Claude“ narys, o neseniai nutekėjęs jo kodo fragmentas paskatino šį startuolį paskelbti įrašą tinklaraštyje, kuriame įspėjo, kad jis kelia precedento neturintį pavojų kibernetiniam saugumui.
„DI modeliai pasiekė tokį kodavimo lygį, kad gali pranokti visus, išskyrus labiausiai patyrusius žmones, ieškant ir išnaudojant programinės įrangos pažeidžiamumus, – rašoma „Anthropic“ tinklaraščio įraše. – Pasekmės – ekonomikai, visuomenės saugumui ir nacionaliniam saugumui – gali būti rimtos.“
Pasak „Anthropic“, „Mythos“ atskleistas programinės įrangos pažeidžiamumas dažnai buvo subtilus ir sunkiai aptinkamas be DI. Pavyzdžiui, teigiama, kad „Mythos“ aptiko anksčiau nepastebėtą vaizdo programinės įrangos, kurią jos kūrėjai buvo išbandę daugiau nei 5 milijonus kartų, trūkumą.
Projektas „Glasswing“
Atsargumo sumetimais „Anthropic“ pasidalino „Mythos“ versija su kibernetinio saugumo įmonėmis „CrowdStrike“ ir „Palo Alto Networks“, taip pat su „Amazon“, „Apple“ ir „Microsoft“, vykdydama projektą pavadinimu „Glasswing“. Tokie gigantai, kaip „Cisco“ ir „Broadcom“, dalyvauja šiame projekte kartu su „Linux Foundation“, kuri populiarina nemokamą atviro kodo kompiuterių operacinę sistemą „Linux“.
„Šis darbas yra pernelyg svarbus ir pernelyg skubus, kad jį būtų galima atlikti vieniems, – sakė „Cisco“ saugumo ir pasitikėjimo vadovas Anthony Grieco (Entonis Grekas) bendrame pranešime apie „Glasswing“. – DI galimybės peržengė ribą, kuri iš esmės keičia būtinybę skubiai apsaugoti kritinę infrastruktūrą nuo kibernetinių grėsmių, ir atgal kelio nėra.“
Teigiama, kad prie „Glasswing“ projekto prisijungė apie 40 organizacijų, susijusių su kompiuterinių sistemų projektavimu, priežiūra ar eksploatacija.
Pasak „Anthropic“, kuri šiai misijai skiria apie 100 mln. JAV dolerių vertės kompiuterinių išteklių, projekto partneriai dalinsis savo „Mythos“ atradimais.
Ankstesnis darbas su DI modeliais parodė, kad jie gali padėti rasti ir ištaisyti programinės ir aparatinės įrangos pažeidžiamumus tokiu tempu ir tokiu mastu, kokie anksčiau buvo neįmanomi, teigia A. Grieco.
„Laiko tarpas tarp pažeidžiamumo atradimo ir jo išnaudojimo priešininko naudai sutrumpėjo. Tai, kas anksčiau trukdavo mėnesius, dabar su DI įvyksta per kelias minutes, – sakė „Crowdstrike“ vyriausiasis technologijų direktorius Elia Zaitsevas (Elija Zaicevas). – „Claude Mythos Preview“ parodo, kas dabar įmanoma gynybos specialistams dideliu mastu, o priešininkai neišvengiamai bandys išnaudoti tas pačias galimybes.“
„Anthropic“ teigia, kad dėl „Mythos“ vyksta diskusijos su JAV vyriausybe, nepaisant vasario mėnesį Baltųjų rūmų priimto dekreto nutraukti visas sutartis su šiuo startuoliu. Tokio sprendimo vykdymą sustabdė federalinis teisėjas, kol „Anthropic“ ginčas nagrinėjamas teismuose.
(be temos)