Модели на „Опен еј-ај“ по грешка направиле хакерски напад врз друга компанија

Компанијата која стои зад ЧетГПТ во објава во вторникот наведе дека моделите, за време на процената на нивните сајбер-способности, провалиле во системот на компанијата „Хагинг фејс“, која хостира модели на вештачка интелигенција и бази на податоци. Како што беше соопштено, моделите, меѓу кои биле ГПТ 5.6 Сол (GPT-5.6 Sol) и уште еден (уште понапреден модел кој сè уште не е објавен), работеле со ублажени безбедносни ограничувања за да можат да бидат тестирани.

Инцидентот отвора прашања за способноста на напредните модели на вештачка интелигенција да изведуваат сајбер-напади, во момент кога властите се обидуваат да воведат заштитни механизми за оваа технологија. „Опен еј-ај“ ја објави својата најнова група модели за пошироката јавност дури по повеќенеделни разговори со претставници на властите, со цел да ја намали загриженоста поради можни злоупотреби. Владата во Вашингтон разгледуваше ограничување на пристапот од странство до напредните модели Клод Фејбл 5 (Claude Fable 5) и Митос 5 (Mythos 5) на компанијата „Антропик“ (Anthropic PBC), но се откажа од тие ограничувања откако компанијата воведе дополнителни заштитни механизми.

„Ова го сметаме за сајбер-инцидент без преседан, кој вклучува најсовремени сајбер-способности, и во согласност со тоа реагираме“, наведе „Опен еј-ај“ во објавата. „Во оваа фаза ги споделуваме прелиминарните наоди за да им помогнеме на стручњаците за одбрана да разберат што се случило и да проценат за што се способни моделите во моментов.“

Иако моделите на „Опен еј-ај“ работеле во таканаречена изолирана средина за тестирање (англ. sandbox), тие искористиле ранливост во софтверот на неименуван надворешен добавувач за да пристапат до интернет и на крајот ја пробиле инфраструктурата на компанијата „Хагинг фејс“.

Конгресменот од Тексас Грег Касар, член на Демократската партија, на мрежата X напиша дека инцидентот е „исклучително алармантен“ и повика на построг надзор над развојот на моделите на вештачка интелигенција, вклучувајќи задолжителни безбедносни тестирања и задолжително пријавување на безбедносни инциденти.

Минатата седмица „Хагинг фејс“ пријави упад во својот систем, наведувајќи во објава дека пробивот се разликувал „од сè со што претходно сме се соочиле по едно важно прашање: од почеток до крај го изведе автономен систем на агенти на вештачка интелигенција, а го откривме и анализиравме главно со помош на сопствената вештачка интелигенција“.

„Опен еј-ај“ соопшти дека на моделите им задал да спроведат „напредна експлоатација“ и да развијат „сложени патишта на напад“ за да ги процени нивните сајбер-способности. Наместо самостојно да развијат решенија, моделите се обиделе да пристапат до базата на податоци на компанијата „Хагинг фејс“ за да дојдат до доверливи информации кои би можеле да ги искористат за време на процената.

„Антропик“ претходно оваа година изнесе слични забелешки кога одлучи првично да го ограничи лансирањето на моделот Митос. Во еден случај, истражувач побарал од рана верзија на моделот да се обиде да избега од безбедна, изолирана компјутерска средина, а потоа да најде начин да испрати порака до истражувачот кој му ја задал таа задача. Митос успеал во тоа, но потоа продолжил со „дополнителни, уште позагрижувачки дејства“, развивајќи повеќефазен начин на експлоатација кој му овозможил широк пристап до интернет.