Тестирањата на моделите на „Опен еј-ај“ и „Антропик“ открија нови случаи на хакирање

Моделите за вештачка интелигенција развиени од „Опен еј-ај“ и „Антропик“ извршиле „неовластени“ дејствија, вклучително и хакирање веб-страница и обид за вметнување штетен код во софтвер за време на безбедносни тестирања, што дополнително ги засилува стравувањата дека ниту нивните креатори ниту искусните истражувачи не можат целосно да го предвидат нивното однесување при тестирање.

Британскиот Институт за безбедност на вештачка интелигенција (AI Security Institute), основан во 2023 година за да ја оценува безбедноста на најнапредните ВИ модели, во вторникот соопшти дека и моделот „Митос 5“ на „Антропик“и моделот „ГПТ - 5.6-сол“ на „Опен еј-ај“ се впуштиле во „долготрајни, потенцијално штетни активности насочени кон реални лица и организации“ за време на евалуациите. Институтот намерно им овозможил пристап до интернет и ги користел моделите без одредени безбедносни филтри за да ги тестира нивните способности.

„Дури и во услови на тестирање, овој инцидент е значаен: ова е првпат да видиме ризици поврзани со автономија и измама толку јасно да се манифестираат во реалниот свет“, соопшти институтот во објава на социјалната мрежа X.

Во еден случај, според организацијата што го спроведувала тестирањето, „Митос 5“ се обидел да додаде штетен код во проект со отворен код на „Гитхаб“ (GitHub). Моделот дури создал и лажни идентитети во обид неговиот код да биде одобрен. „Човечки одржувач на проектот го забележа и одби да го одобри злонамерниот код“, наведува групата.

Во изминатите две недели, и „Опен еј-ај“ и „Антропик“ јавно признаа дека нивните модели ненамерно ги нарушиле системите на повеќе институции, вклучително и Ххагинг фејс“, за време на тестирањата. Најновите откритија претставуваат нов доказ дека ВИ агентите се способни автономно да дејствуваат на начини што дури и истражувачите обучени да откриваат ранливости во технологијата повеќе не можат целосно да ги предвидат. Ова ја нагласува потребата од построги безбедносни проверки и посигурни средини за тестирање.

Британскиот институт за ВИ безбедност соопшти дека моделот „Мито 5“ на „Антропик“ бил одговорен за 17 од 19-те „автономни, неовластени дејствија на интернет“ што биле детектирани.

Некои американски владини претставници повикаа на поголем надзор врз оваа технологија како одговор на нарушувањата на безбедноста. Минатиот вторник, повеќе од 1.100 вработени во ВИ индустријата потпишаа петиција со која бараат регулаторен механизам што намерно би го забавил развојот на вештачката интелигенција и би спречил нејзино пребрзо напредување.

„Антропик“ соопшти на X дека соработува со британскиот институт за безбедност за „да собере повеќе детали за инцидентот додека ја спроведува сопствената истрага“.

Одделно, „Опен еј-ај“ , компанијата што стои зад Чат ГПТ, во објава на својот блог откри уште еден безбедносен инцидент што се случил за време на тестирање на еден од нејзините модели спроведено со надворешната компанија за сајбер-безбедност „Ирегулар“.

Во овој инцидент, моделите на „Опен еј-ај“ биле подложени на таканаречен „capture the flag“ тест, во кој нивна задача била да пронајдат информации скриени во симулирана средина. Компанијата соопшти дека моделите искористиле „погрешна конфигурација“ во средината за тестирање за да се поврзат на интернет и да ја хакираат веб-страницата на неидентификувана институција.

Според лице запознаено со случајот, кое побарало да остане анонимно бидејќи информацијата не е јавна, пробивот се случил додека моделите на „Опен еј-ај“ биле подложени на истата евалуација на „Ирегулар“ што претходно резултирала со хакирање на три организации од страна на моделите на „Антропик“. Компанијата ги објави тие нарушувања на безбедноста минатата недела.

Портпарол на „Ирегулар“ одби да даде коментар.

Пред две недели, „Опен еј-ај“ откри дека нејзините модели стоеле зад досега невиден напад врз стартап-компанијата „Хагинг фејс“. Во тој инцидент, моделите искористиле ранливост за да „избегаат“ од нивната изолирана средина за тестирање(sandbox) и да се поврзат на интернет, по што успеале да упаднат во системот на „Хагинг фајс“, платформа што хостира ВИ модели и бази на податоци.