За хакерски напад што трае со недели на моделите на „Опен еј-ај“ им требаа неколку часа

Кога напредните модели за вештачка интелигенција (ВИ) на компанијата „Опен еј-ај“, минатата недела провалиле во внатрешните системи на стартапот за вештачка интелигенција „Хагинг Фејс“ (ХФ), им биле потребни само неколку часа за да изведат хакерски напад за кој на вешт човек би му требало значително повеќе време, изјавија извори запознаени со ситуацијата.

Вообичаено, дури и на талентиран хакер би му биле потребни две недели за да изведе ваков напад, тврдат изворите, кои побараа да останат анонимни за да можат да разговараат за детали што не се јавно достапни.

 „Опен еј-ај“ е во контакт со американската влада откако дознал дека се случил упадот, додаде еден од изворите.

Портпаролот на „Опен еј-ај“ изјави дека компанијата комуницирала со органите за спроведување на законот и со други владини служби во врска со инцидентот и дека била транспарентна во однос на своите сознанија.

Портпаролот во врска со инцидентот, исто така, се повика на објавата на компанијата од вторникот, во која компанијата наведе дека „ќе продолжи да спроведува темелна истрага заедно со ХФ и ќе сподели повеќе детали за ранливоста, инцидентот и наодите кога истрагата ќе биде завршена“.

Од ХФ одбија да дадат коментар.

„Опен еј-ај“ во истата објава наведе дека „невидениот“ хакерски напад врз ХФ се случил откако неговите сопствени модели на вештачка интелигенција - вклучувајќи го ГПТ 5.6 Сол и уште еден поспособен модел кој сè уште не е јавно објавен - излегле од тест-околината и пристапиле до поширокиот интернет. Компанијата во тоа време ги тестирала кибернетичките способности на тие модели.

Моделите работеле без вообичаените безбедносни заштитни механизми, соопшти компанијата, бидејќи „Опен еј-ај“ имал намера тие да останат во тест-просторот познат како „сендбокс“ - всушност виртуелна и изолирана софтверска околина наменета за изведување безбедносни тестови или анализа на небезбеден код во контролирани услови.

Хакерскиот напад вклучувал вкупно три модели на „Опен еј-ај“ - ГПТ 5.6 Сол и два кои сè уште не се јавно објавени - кои работеле на откривање и искористување низа ранливости што на крајот довеле до пробив, изјави еден од изворите. Еден од тие необјавени модели е поспособен од ГПТ 5.6 Сол, објави „Опен еј-ај“  во вторникот, додека другиот бил неусогласен и не бил обучен со некои од вообичаените техники, наведе изворот.

ХФ го откри инцидентот во четвртокот, наведувајќи дека претрпел хакерски напад за кој обвини надворешен автономен производ. Овој стартап, кој хостира модели на вештачка интелигенција и збирки на податоци, соопшти дека детектирал „рој од неколку десетици илјади автоматизирани дејства“ и дека на крајот употребил кинески модел за форензичка анализа на инцидентот, откако неговите барања за користење сопствени модели на вештачка интелигенција биле блокирани од безбедносните заштитни механизми.

„Опен еј-ај“ подоцна откри дека на своите модели им дал инструкции да испратат десетици илјади автоматизирани дејства како дел од тестот, вклучувајќи напредно искористување и „сложени патеки на напад“. Компанијата во вторникот објави дека ги споделува првичните детали за инцидентот за да му помогне на персоналот за сајбер-безбедност подобро да ја разбере ситуацијата.

Моќни производи за сајбер-безбедност базирани на вештачка интелигенција и претходно се однесуваа на неочекувани начини. Компанијата „Антропик“ во април соопшти дека нејзиниот модел Митос „во ретки прилики“ преземал дејства што компанијата ги сметала за „прилично загрижувачки“. Еден случај вклучувал истражувач кој ја предизвикал раната верзија на Митос да излезе од изолираниот систем и да му испрати повратна порака. Митос го направил тоа, а потоа презел „дополнителни, загрижувачки дејства“ и изградил повеќестепен процес за да стигне до поширокиот интернет.