Зошто моделот Митос на „Антропик“ предизвикува загриженост низ цел свет?

Компанијата „Антропик“ (Anthropic PBC) соопшти дека нејзината нова алатка базирана на вештачка интелигенција (ВИ), Митос (Mythos), е премногу моќна за да биде пуштена во широка употреба. ВИ-гигантот наведува дека моделот е толку ефикасен во откривање слабости во софтвер и компјутерски системи што ќе биде достапен само за ограничен број внимателно одбрани корисници. Доколку алатки како Митос завршат во погрешни раце, предупредува „Антропик“, тие би можеле да им дадат на хакерите моќно ново средство за кражба на податоци или нарушување на клучна инфраструктура.

За каков ризик станува збор покажува примерот на мала група неовластени корисници на приватен интернет-форум што успеале да пристапат до Митос, изјавиле лица запознаени со случајот, а на тоа укажуваат и документи до кои имал увид „Блумберг“. Групата добила пристап истиот ден кога „Антропик“ првпат соопштил дека планира да им го стави моделот на располагање на мал број компании за тестирање.

Во изминатите неколку години компаниите од областа на сајбер-безбедноста тврдат дека ВИ ќе забрза и автоматизира дел од работата во спречување дигитални пробиви. Сепак, и хакерите и сајбер-шпионите исто така ги препознаваат предностите на ВИ. Појавата на Митос и слични модели што можат да искористат добро скриени слабости во популарен софтвер без човечки надзор укажува на побрза и понепредвидлива фаза на „сајбер-трката во вооружување“.

Што е Митос?

Клод Митос Привју (Claude Mythos Preview) е ВИ-модел за општа намена за кој „Антропик“ тврди дека значително ги надминува претходните верзии во повеќе типови тестирања, вклучувајќи програмирање и логичко расудување. Компанијата објаснува дека некои ВИ-модели сега во кодирање можат да ги надминат сите освен највештите луѓе во откривање и искористување слабости во софтвер.

Според „Антропик“, Митос за време на тестирање веќе открил илјадници досега непознати слабости познати како „zero-day“, вклучувајќи и во водечките оперативни системи и прелистувачи. Слабостите „zero-day“ се пропусти што остануваат непознати за развивачите и бараат итно поправање. Таквите пропусти се многу вредни за хакерите бидејќи овозможуваат пристап до ранливи системи.

„Антропик“ наведува дека Митос ги открива овие слабости со уште помала човечка интервенција од претходните модели. „Митос Привју претставува голем чекор напред во сајбер-вештините - слабости што ги открил во некои случаи постоеле со децении, и покрај милиони безбедносни проверки“, соопшти компанијата. Во рацете на хакерски групи или непријателски држави, ваква алатка би можела да доведе до поопасни и почести сајбер-напади.

Истражувачите наведуваат дека немаат независен пристап за да ги проверат тврдењата на „Антропик“. Професорот Ганг Ванг од Универзитетот во Илиноис вели дека е тешко да се процени значењето без дополнителни практични тестирања.

Кој ќе има пристап?

„Антропик“ својот план го нарекува „Проџект гласвинг“ (Project Glasswing) - според вид пеперутка со проѕирни крила. Меѓу учесниците се „Амазон“ (Amazon), „Епл“ (Apple), „Гугл“ (Google), „Мајкрософт“ (Microsoft), „Енвидија“ (Nvidia), „Пало Алто“ (Palo Alto Networks), „Краудстрајк“ (CrowdStrike), „Бродком“ (Broadcom), „Циско“ (Cisco), „ЏП Морган“ (JPMorganChase) и „Линукс“ (Linux Foundation). Целта е користење на алатката за безбедносни цели.

Овие компании ќе го користат Митос во рамките на своите безбедносни активности, а „Антропик“ планира да ги сподели наодите. Алатката може да го забрза процесот на „тестирање пробив“ и откривање слабости пред да бидат злоупотребени.

Bloomberg

Зошто ова се смета за пресвртница?

„Антропик“ го опишува Митос како „пресвртница во безбедноста“. Ранливостите „zero-day“ тешко се откриваат и често им се продаваат на државни служби за милионски суми. Митос пронашол и многу суптилни пропусти, вклучувајќи и еден во Опен БСД (OpenBSD) стар 27 години.

Исто така, успеал да комбинира повеќе слабости во Линукс (Linux kernel) за да овозможи целосна контрола над систем. Дури и неискусни корисници можеле да добијат функционални промени преку автоматска употреба на алатката.

Митос е една од неколкуте нови ВИ-алатки за сајбер-безбедност, заедно со решенија од „Опен еј-ај“ (OpenAI), „Гугл“ (Google) и други компании, кои сè повеќе ја туркаат индустријата кон нова фаза на автоматизирано откривање и искористување ранливости.

Кои заштитни мерки постојат?

Според „Антропик“, заштитните мерки сè уште се развиваат. Компанијата наведува дека моделот достигнува високи нивоа на сигурност и усогласеност со човечките намери, но во ретки случаи кога не функционира како што треба или се однесува необично, се забележани активности што се сметаат за загрижувачки. Во еден случај истражувач навел дека рана верзија на Митос се обидела да избега од безбедно изолирано тест-окружување (sandbox) и да испрати порака, по што алатката продолжила со „дополнителни загрижувачки активности“, вклучувајќи развој на повеќестепен распоред за пристап до интернет.

„Антропик“ наведува дека не планира Митос Привју да биде широко достапен поради ризик од злоупотреба. Сепак, компанијата се надева дека во иднина ќе овозможи поширока примена на модели од „митос-класа“ во сајбер-безбедност и други области. За тоа, како што наведуваат, потребно е унапредување на заштитните механизми што можат да ги препознаат и блокираат најопасните одговори на моделот.

Во откривањето на најсериозните пропусти учествуваат и луѓе - експерти што  ги проверуваат наодите пред информациите да бидат проследени до одржувачите на кодот. Тоа е неопходен, но бавен процес, кој според професор од Универзитетот во Илиноис може со текот на времето да се автоматизира како што моделот ќе се усовршува.

Bloomberg

Кој е во предност?

За да бидат информирани одржувачите на системите за откриените слабости, може да биде потребно време. Според компанијата, досега помалку од еден отсто од потенцијалните слабости откриени од Митос се целосно решени.

Во исто време хакерите користат ВИ за побрзо откривање и искористување слабости, откако тие ќе станат познати. Поради тоа, безбедносните експерти имаат сè помалку време да реагираат. Во објава од 30 март, извршниот директор на ПАН (Palo Alto Networks) предупреди дека можностите за одбрана од напредни напади ќе продолжат да се намалуваат во следните месеци, додавајќи дека еден злонамерен актер сега може да изведува кампањи за кои порано биле потребни цели тимови.

„Антропик“, сепак, смета дека долгорочно одбранбените способности ќе надвладеат и дека светот ќе стане побезбеден, со подобро заштитен софтвер, делумно благодарение на кодот напишан од овие модели. Но, како што наведуваат, преодниот период ќе биде исполнет со ризици и предизвици.