Mākslīgā intelekta uzņēmums OpenAI drošības pārbaužu laikā atklājis ievainojamību datu saspiešanas rīkā Brotli. Šī problēma var radīt risku noteiktām programmatūras sistēmām un parāda, kā mākslīgo intelektu iespējams izmantot drošības trūkumu meklēšanā.
Kas ir Brotli?
Brotli ir datu saspiešanas tehnoloģija, kas palīdz samazināt informācijas apjomu, lai to varētu efektīvāk pārsūtīt vai uzglabāt. Tā tiek izmantota dažādos programmatūras risinājumos. Ja ievainojamība tiek izmantota uzbrukumā, īpaši sagatavoti dati var ļaut izpildīt ļaunprātīgu kodu skartajā sistēmā. Reuters ziņo, ka problēma var ietekmēt programmatūru, kurā tiek izmantots Brotli, tostarp risinājumus, kas saistīti ar Node.js, Bun un Envoy. Tas nenozīmē, ka visas programmas, kurās šīs tehnoloģijas tiek izmantotas, automātiski ir apdraudētas, risks ir atkarīgs no konkrētās programmatūras un tās konfigurācijas.
Ievainojamību palīdzēja atrast mākslīgais intelekts
OpenAI atklāja problēmu, pārbaudot savu mākslīgā intelekta aģentu drošību. Uzņēmums lika aģentiem meklēt veidus, kā izkļūt no ierobežotas pētniecības vides. Šo pārbaužu laikā tika atklāti iepriekš nezināmi programmatūras drošības trūkumi, tostarp Brotli ievainojamība. Reuters norāda, ka Brotli koda labojums bija sagatavots jau februārī, taču atjaunināta versija netika izlaista līdz brīdim, kad ievainojamība tika atklāta un publiskota. Reuters ziņoja arī par plašākiem OpenAI drošības pasākumiem. Uzņēmums iepriekš bija apturējis savu jaudīgāko mākslīgā intelekta modeļu apmācību pēc incidenta, kurā konfigurācijas kļūdas dēļ pētniecības modelis ieguva ierobežotu piekļuvi internetam. Pēc aizsardzības pastiprināšanas apmācība tika atsākta.
Ko tas nozīmē lietotājiem?
Šis gadījums atgādina, cik svarīgi ir savlaicīgi izlaist un instalēt drošības labojumus. Programmatūras izstrādātājiem jāpārbauda izmantoto bibliotēku drošības paziņojumi, savukārt organizācijām jāatjaunina skartās sistēmas atbilstoši izstrādātāju norādījumiem. Parastam interneta lietotājam nav pamata uzskatīt, ka viņa ierīce ir apdraudēta tikai tāpēc, ka tā izmanto tīmekli. Tomēr regulāri operētājsistēmas un programmatūras atjauninājumi ir viens no svarīgākajiem soļiem digitālās drošības uzturēšanā.
Avots: Reuters
