Моделите за ВИ на „Антропик“ хакирале три организации за време на тестирањата

„Антропик“ (Anthropic PBC) соопшти дека неговите модели за вештачка интелигенција упаднале во три организации за време на тестирања за сајбер-безбедност што тргнале наопаку, нешто повеќе од една недела откако неговиот главен ривал „Опен еј-ај“ (OpenAI) откри сличен инцидент.

„Антропик“ во блог-објава објавена во четвртокот соопшти дека до откритието дошол по ревизија на сопствените тестирања за сајбер-безбедност, спроведена по објавата на „Опен еј-ај“ за пробивот. И во тестирањата на „Опен еј-ај“ и во оние на „Антропик“, моделите за ВИ успеале да пристапат на интернет од тест-околини што требало да бидат целосно изолирани, се наведува во блог-објавата.

Компанијата соопшти дека извршила ревизија на 141.006 евалуациски тестови и открила три случаи во кои нејзината алатка за ВИ, Клод пристапила на интернет, а потоа хакирала „инфраструктура од реалниот свет на надворешни организации“. Најраните инциденти датираат од април, соопшти компанијата.

Во блог-објавата не се наведува кои организации биле погодени.

Кога моделите на „Антропик“ добиле неовластен пристап до трите организации, секој од тие случаи го третирале како дел од вежба. Тестирањата биле таканаречени „capture-the-flag“ евалуации, во кои моделите се обидувале да дојдат до скриени информации со пробивање во други системи, што е вообичаен начин за тестирање на хакерските способности и кај луѓето и кај ВИ. Сепак, постариот модел го продолжил нападот и откако добил докази дека работи на отворениот интернет, додека најновиот модел запрел откако препознал дека се наоѓа на интернет, се наведува во блог-објавата.

Bloomberg

Низата ненамерни хакирања предизвикани од ВИ веќе ги поттикнува некои политичари да повикаат на федерални заштитни механизми или друг вид надзор врз технологијата за вештачка интелигенција. Повеќе од 1.100 вработени во компании што развиваат вештачка интелигенција, како што прв објави „Блумберг“, во вторникот потпишаа петиција со која ја повикуваат американската влада да поддржи механизам што ќе помогне „намерно да се забави“ развојот на ВИ за да се спречи технологијата да напредува пребрзо.

Ниту „Антропик“, ниту организациите во кои било упаднато не ги забележале пробивите. Во блог-објавата „Антропик“ наведува дека можел да направи повеќе при проверката на мрежните записи и записниците од евалуациите.

Компанијата ги објави пробивите речиси четири месеци откако соопшти дека развила нов модел за ВИ наречен Митос, кој бил толку моќен и потенцијално опасен што компанијата строго го ограничила неговото пуштање во употреба.

Во пробивите биле вклучени три различни модели Клод: Опус 4.7, Митос 5 и интерен истражувачки тест-модел, се наведува во блог-објавата. Секој од моделите работел без заштитните механизми што вообичаено се применуваат кај јавните алатки. Клод ги компромитирал организациите користејќи основни техники, како што е искористување слаби лозинки, се наведува во блог-објавата.

Сите инциденти се случиле додека „Антропик“ користел евалуациски околини изградени од компанијата за безбедност на вештачката интелигенција „Ирегулар“ (Irregular). Во секој случај, „Антропик“ му задал на Клод дека околината е симулација и дека нема пристап до интернет.

„Поради недоразбирање меѓу нас и нашиот партнер за евалуација, тоа не беше така“, се наведува во блог-објавата. Портпарол на „Ирегулар“ изјави дека компанијата ја цени соработката и транспарентноста на „Антропик“. Истрагата на компанијата сè уште трае, додаде портпаролот.

„Антропик“ соопшти дека редовно спроведува тестирања што вклучуваат симулација на реални предизвици од областа на сајбер-безбедноста, оценувајќи ги како клучни чекори во развојот и објавувањето на моделите. Сепак, компанијата истакна дека извлекла неколку поуки од инцидентите, меѓу кои и дека тестирањата што вклучуваат моќни автономни способности бараат и значителни контролни механизми.