Šis pranešimas paskelbtas po neseniai DI sektoriuje įvykusių incidentų, įskaitant „OpenAI“ ir „Anthropic“ modelių saugumo pažeidimus, kurie sukėlė susirūpinimą dėl kibernetinio saugumo.
„Meta“ atstovas spaudai BBC teigė, kad bendrovė tiria šį įsilaužimą, kurį sukėlė „netinkama konfigūracija“ ir kurį apibūdino kaip panašų į anksčiau pranešimus apie incidentus kitose įmonėse.
Šie incidentai paskatino tyrėjus ir valdžias reikalauti griežtesnių apsaugos priemonių ir kruopštesnių bandymų.
Dirbtinis intelektas karyboje: ar mašina galės savarankiškai priimti sprendimą naikinti priešą?
„Meta“ teigė, kad saugumo bandymus atliko „Irregular“ – ta pati DI saugumo paslaugų teikėja, kuri atliko „Anthropic“ DI modelio bandymus, per kuriuos šis modelis įgijo prieigą prie trijų kitų įmonių sistemų.
„Irregular“ atstovas spaudai teigė, kad „Meta“ incidentas „yra lygiai ta pati vertinimo aplinkos problema, kurią „Anthropic“ jau atskleidė praėjusią savaitę“.
„Irregular“ rengia ataskaitą apie tai, kaip saugiai atlikti kibernetinio saugumo bandymus, kuriuose dalyvauja AI agentai, – BBC teigė įmonės atstovas spaudai.
„Meta“ taip pat teigė, kad paskelbs daugiau informacijos apie šį incidentą, kai turėsi visus faktus.
Susiję straipsniai
Per pastarąsias dvi savaites dirbtinio intelekto lyderiai „OpenAI“ ir „Anthropic“ taip pat pranešė apie incidentus, kai jų modeliai bandymų metu įsilaužė į kitų organizacijų sistemas.
„ChatGPT“ kūrėja „OpenAI“ serijoje pranešimų nurodė, kad jos agentai surengė atakas prieš keletą viešai prieinamų paslaugų, įskaitant dirbtinio intelekto įrankių centrą „Hugging Face“.
„OpenAI“ atskleista informacija paskatino konkurentę „Anthropic“ atlikti savo patikrinimus, kurių metu paaiškėjo, kad jos dirbtinio intelekto modelis „Claude“ surengė panašias atakas prieš kelias įmones, kai dėl konfigūracijos klaidos jam buvo suteikta prieiga prie interneto.
Kai kurie komentatoriai abejoja šių incidentų atskleidimo laiku, nes technologijų įmonės kovoja dėl dominavimo dirbtinio intelekto plėtros srityje.
„OpenAI“ ir „Anthropic“ ruošiasi debiutams biržoje, kurių metu kiekvienos įmonės vertė turėtų siekti apie 1 trilijoną JAV dolerių.
Šią savaitę Jungtinės Karalystės DI saugumo institutas (AISI) pranešė, kad jo atlikti testai parodė, jog kai kurie modeliai bandė vykdyti kibernetines atakas, kurdami suklastotus žmonių profilius, siekdami apgauti žmones.
Rinkdamas rimčiausią atvejį, AISI nurodė, kad „Anthropic“ dirbtinio intelekto modelis „Mythos“ bandė gauti prieigą prie paslaugos, siųsdamas privačias žinutes iš suklastotų paskyrų, imituojančių tikrus žmones.
„Anthropic“ teigė, kad AISI bandymai neatspindi nė vieno iš jos gamybinių modelių. „OpenAI“, kurios modeliai taip pat buvo išbandyti, teigė, kad AISI vertinimai neatspindi įprasto naudojimo , rašo BBC.