Клод на „Антропик“ до полицијата во Филаделфија: Можеби имам информации за убиство

„Антропик“ (Anthropic PBC) соопшти дека неговиот модел на вештачка интелигенција „Клод“ (Claude) извршил дополнителни ненамерни дејства врз дигиталните системи на надворешни организации, вклучително и врз веб-страници на некои американски владини агенции, што ја поттикна администрацијата на Трамп да ги предупреди компаниите за вештачка интелигенција да ги обезбедат своите системи.

Во извештај во кој се опишуваат претходно необјавени инциденти, „Антропик“ наведе четири вида ненамерно однесување што ги покажала ВИ, вклучително и искористување основни пропусти во софтверот за извршување команди, поднесување формулари што не требало да ги поднесе и заобиколување ограничувања за пристап до одредени јавни податоци.

Компанијата соопшти дека некои од случаите вклучувале веб-страници управувани од владини агенции на федерално, сојузно и локално ниво, без да ги наведе агенциите. Во извештајот не беа именувани засегнатите надворешни субјекти, што, според „Антропик“, било на барање на дел од засегнатите страни.

„Антропик“ и неговиот конкурент „Опен еј-ај“ (OpenAI) во последните месеци обелоденија низа инциденти во кои нивните модели на ВИ постапувале на ненамерен начин, од однесување како она опишано во извештајот од петокот до хакирање веб-страници на трети страни. Овие обелоденувања ја засилија загриженоста за безбедносните ризици од најнапредната ВИ.

„Антропик“ во извештајот соопшти дека го смета ова однесување за помалку сериозно од некои претходни инциденти со неговата ВИ. „Случаите што досега ги идентификувавме во овие категории имаа минимално влијание во реалниот свет“, напиша компанијата.

Како пример за несоодветното однесување, „Антропик“ во петокот наведе дека нејзиниот модел „Клод Хаику 4.5“ (Claude Haiku 4.5) поднел дојава за убиство до локална полициска служба. Во формуларот напишал: „Можеби имам информации за овој случај“ и „Се сеќавам дека видов некого што одговара на описот во таа област“, но не ги пополнил полињата за име и контакт. Полициската служба на Филаделфија го обелоденила инцидентот утринава во соопштение за медиумите, наведе компанијата.

„Антропик“ соопшти и дека ја информирала Белата куќа за овие случаи и ја известила секоја засегната агенција.

Во петокот, претставници на администрацијата на Трамп изјавија дека сега бараат компаниите за ВИ да ги известуваат засегнатите страни и да ги решаваат безбедносните инциденти во кои се вклучени нивните модели.

„Антропик“ денеска ја извести новата владина единица за надзор на вештачката интелигенција за неколку претходни инциденти. Компанијата ги открила кон крајот на септември, а во нив нејзините модели на ВИ користеле владини и други системи без овластување и на измамнички начин, соопшти Белата куќа.

Единицата се нарекува Сила за суперинтелигенција (Super Intelligence Force), а претседателот Доналд Трамп ја задолжил да го надгледува развојот и безбедноста на ВИ.

„Компанијата нѐ информираше дека овие настани се случиле во минатото, дека активноста престанала и дека во моментов нема слична активност“, се наведува во соопштението.

„Аксиос“ (Axios) претходно објави дека американската влада бара компаниите за ВИ да ги известуваат засегнатите страни и да ги решаваат безбедносните инциденти предизвикани од нивните модели.

Поради откриените инциденти, „Антропик“ во петокот соопшти дека ограничила некои видови пристап до интернет за своите модели на ВИ во фазата на тестирање при нивната обука.