text size
Моделот на вештачка интелигенција „Џемини“ (Gemini) на „Гугл“ (Google) во мај ненамерно хакирал три системи на компании за време на тестирање на сајбер-безбедноста, надоврзувајќи се на низата упади од ВИ-агенти што ги вознемирија и безбедносните експерти и развивачите на технологијата.
Хакирањата се случиле за време на истите тестови спроведени од компанијата за безбедност на ВИ „Ирегулар“ (Irregular), кои доведоа до упадите што претходно ги објавија „Опен еј-ај“ (OpenAI), „Антропик“ (Anthropic PBC) и „Мета платформс“ (Meta Platforms Inc.). „Ирегулар“ во петокот потврди дека сите упади биле дел од истиот проблем и дека компанијата ги известила релевантните развивачи на ВИ за нив кон крајот на јули.
Еден од упадите на „Гугл“ се случил кога од „Џемини“ било побарано да пронајде информации од измислена компанија што случајно го имала истото име како вистинска компанија, потврди „Гугл“ по претходниот извештај на „Волстрит журнал“ (The Wall Street Journal). Моделот погодил лозинка за пристап до услугата на вистинската компанија. Портпарол на „Гугл“ изјави дека компанијата ги известила надлежните органи.
Неодамнешната серија упади извршени од агентски ВИ-системи предизвика светска дебата за зголемените ризици од ВИ и за мерките потребни за нивно ублажување. Главниот извршен директор на „Антропик“, Дарио Амодеи, повика на забавување на развојот на технологијата во целата индустрија - предлог што го поддржаа главниот извршен директор на „Опен еј-ај“, Сем Алтман, Илон Маск и други.
Меѓу оние што се спротивставија на идејата за нова регулатива се американскиот претседател Доналд Трамп, главниот извршен директор на „Енвидија“ (Nvidia Corp.), Џенсен Хуанг, и главниот извршен директор на „Мета“, Марк Закерберг, кои, меѓу другото, тврдат дека компаниите треба да бидат способни сами да се регулираат. Некои нови компании за ВИ, исто така, предупредија дека поголемата регулација може да им го отежни натпреварувањето на помалите компании со поголемите конкуренти.
Упадите на „Џемини“ „ја нагласуваат важноста моќните модели на ВИ да се обучуваат да дејствуваат одговорно“, изјави Хедер Адкинс, потпретседателка за безбедносно инженерство во „Гугл“.
Другите хакирања на „Џемини“ се случиле кога моделот пребарувал на интернет користејќи го името на компанијата. Адкинс изјави дека тоа го одвело моделот до јавно достапни онлајн-бази со пристапни податоци на други компании, кои ги искористил за да влезе во повеќе системи. „Во сите три случаи моделот запре“, изјави Адкинс. „Се погриживме трите субјекти да бидат известени.“
Портпаролот на „Ирегулар“, Јозеф Лаор, изјави дека компанијата презела „итни мерки и сите познати проблеми од наша страна беа отстранети и решени пред неколку недели“.
.webp){kind=icon}
