Пред хакерскиот напад врз „Хагинг Фејс“, ВИ-моделите на „Опен еј-ај“ тајно соработувале со месеци

„Опен еј-ај“ соопшти дека моделите за вештачка интелигенција што стоеле зад нападот врз „Хагинг Фејс“ (Hugging Face Inc.) почнале меѓусебно да комуницираат преку незабележани табли за пораки, здружувајќи се во обид да излезат од тест-околината уште во мај.

Повеќе агенти и ВИ-модели, наменети исклучиво за внатрешна употреба, со месеци си оставаа белешки едни на други и постепено се обединиле околу целта да добијат пристап до интернет за да ги решат задачите што им биле зададени, од кои дел било невозможно да се решат без пристап до интернет, изјавија вработените во „Опен еј-ај“, Ерик Волас и Мајкл Далтон, во средата на конференција за сајбер-безбедност.

„Во еден момент агентите сфатија дека можеби би можеле да нападнат надворешна инфраструктура за да ги најдат одговорите на задачите според кои се оценува нивната успешност“, рече Волас.

Презентацијата на истражувачите откри нови детали за околностите околу нападот врз „Хагинг Фејс“, случај што дополнително ги нагласи растечките глобални стравувања дека најнапредните системи за вештачка интелигенција би можеле да се искористат за изведување разорни сајбер-напади. Овој инцидент, како и сличните пробивања што ги пријавија „Антропик“ (Anthropic PBC) и „Мета“ (Meta Platforms Inc.), ги засилија повиците во Вашингтон и во Силициумската Долина за потемелни безбедносни проверки на ВИ-моделите.

За време на презентацијата, Волас и Далтон изјавија дека почетоците на пробивањето датираат уште од мај, кога научниците од „Опен еј-ај“ му доделиле нова задача на експериментален ВИ-систем, неколку месеци пред моделот да избега од безбедната тест-околина, позната како „сендбокс“, и да ги нападне системите на „Хагинг Фејс“.

Еден од клучните заклучоци од анализата на „Опен еј-ај“ бил дека овие најнапредни модели покажуваат склоност да мамат при извршувањето на задачите и упорно се обидуваат да ја завршат зададената задача, дури и кога тие обиди почнуваат да отстапуваат од првичните инструкции.

„Најнапредните модели навистина сакаат да мамат“, изјави Далтон пред преполната конференциска сала. „А причината е што за време на обуката врз нив често се врши различен вид притисок да работат што е можно побрзо.“

Според слајдовите што ги прикажаа истражувачите, еден од агентите напишал: „Заглавени сме. Можеби одговорот е на интернет?“, откако не успеал да реши ја задачата во средината „сендбокс“. Волас и Далтон изјавија дека „Опен еј-ај“ не сфатил дека на моделот му задал таканаречен невозможен проблем за решавање.

Еден пример покажува дека развивачите побарале од моделот да реши проблем во табела во „Ексел“ што содржела линкови до „Гугл драјв“, до кои не можело да се пристапи без интернет-врска. Во друг случај, тимот на „Опен еј-ај“ „случајно заборавил“ да прикачи датотека што била дел од задачата.

Првата порака меѓу агентите за вештачка интелигенција, која во тој момент останала незабележана, започнала така што еден од агентите што не можел да ја реши задачата побарал помош од другите ботови. „Можеби некој друг агент во поинаква средина“, стои во еден од записите од неговиот процес на размислување, „би можел доброволно да ја прикачи!“

Тоа прво обраќање предизвикало верижна реакција на скриена соработка, при што ВИ-агентите си помагале меѓусебно, заеднички ги извршувале задачите и на крајот соработувале при хакирањето на внатрешните системи на „Опен еј-ај“, што индиректно им овозможило пристап до интернет.

Друг запис од процесот на размислување, прикажан за време на презентацијата, покажал како еден агент го слави успешното искористување на пропустот.

„Одлично“, пишувало во него. „Имаме произволен SSRF“, акроним за server-side request forgery (фалсификување барања од страна на серверот), што се однесува на конкретниот механизам преку кој групата агенти успеала да се пробие.

На почетокот на јули, прекин во работата на системот ѝ овозможил на „Опен еј-ај“ да открие успешен обид агентите да искористат складиште за програмски код, познато како „Артифактори“ (Artifactory), за да обезбедат посреден пристап до интернет, изјавија истражувачите.

Тимот задолжен за безбедност во „Опен еј-ај“ ја запрел неконтролираната активност и ја исклучил таблата за пораки. Но, неколку недели подоцна агентите пронашле нов начин за меѓусебна комуникација и откриле нова zero-day ранливост во истиот систем за управување со пакети, која повторно останала незабележана.

Токму таа нова верзија на таблата за пораки на крајот довела до јулските напади врз системите на „Опен еј-ај“ и на „Хагинг Фејс“, кои компанијата сè уште ги истражува.

По овие пробивања, „Опен еј-ај“ го забавил темпото на своите истражувања, а тимовите ги прекинале сите други активности за да се насочат кон подобрување на одговорот на безбедносни аномалии, изјавија истражувачите. Тие предупредија дека во иднина владите и компаниите треба да очекуваат хакерите намерно да распоредуваат ВИ-агенти на сличен начин, оценувајќи дека ова претставува пресвртница за компјутерската безбедност.