„Енвидија“ претстави нов систем за да ја држи вештачката интелигенција под контрола

„Енвидија“ (Nvidia Corp.) воведе нов двослоен безбедносен систем за вештачка интелигенција (ВИ), за кој вели дека би можел да го спречи неодамнешниот упад во „Хагинг фејс“ (Hugging Face) од страна на моделите за вештачка интелигенција на „Опен еј-ај“ (OpenAI).

Производителот на полупроводници, кој брзо ја прошири својата понуда на производи надвор од чиповите, воведува две безбедносни софтверски алатки со отворен код што можат да работат на неговиот хардвер. Тие се дизајнирани да контролираат до што можат да пристапат системите со вештачката интелигенција во реално време и да ги исклучат кога ќе ги прекршат правилата.

Ако водечките лаборатории ја користеле оваа технологија за рано тестирање на своите модели на вештачка интелигенција, таа можела да го спречи нападот врз „Хагинг фејс“, изјави Џастин Боитано, потпретседател на „Енвидија“ за корпоративна вештачка интелигенција, за време на брифинг со новинарите пред објавата во понеделникот. „Според она што го знаеме, оваа нова безбедносна платформа можела да го запре упадот“, рече тој.

Неконтролираното однесување на автономните системи, вклучувајќи го и инцидентот со „Хагинг фејс“ во јули, ја потресе индустријата за вештачка интелигенција и доведе до повици за забавување на работата на оваа технологија. Со новиот производ - наречен ОАСП (Open Agent Safety Platform) - „Енвидија“ нуди начин за спречување упади без ограничување на развојот на вештачката интелигенција. Извршниот директор на производителот на чипови Џенсен Хуанг повеќепати го намалуваше значењето на ризикот вештачката интелигенција да излезе од човечка контрола.

Боитано не коментираше дали „Опен еј-ај“ или конкурентот „Антропик“ (Anthropic PBC) планираат да го користат новиот систем за следење на нивните процеси на тренирање, туку ги упати прашањата кон компаниите.

Во последните денови Хуанг зборуваше за безбедносните грижи како инженерски предизвик наместо како нешто што бара поголема регулација или глобална координација. Тој му се придружи на американскиот претседател Доналд Трамп во отфрлањето на тврдењата на некои развивачи на вештачка интелигенција дека технологијата би можела да доведе до истребување на човештвото, но исто така инсистираше дека вештачката интелигенција мора ригорозно да се тестира од безбедносен аспект.

Инженерското решение на Хуанг за проблемот со безбедноста на вештачката интелигенција има два дела. „Опен шел“ (OpenShell), софтверски производ што „Енвидија“ веќе го претстави во март на својата главна конференција фокусирана на технологијата, може да работи на централните процесорски единици Вера (Vera) на „Енвидија“. Тој им овозможува на корисниците да постават правила за тоа до што можат да пристапат системите со вештачка интелигенција и да ги спроведуваат во реално време. Софтверот е со отворен код, што значи дека може слободно да се користи и приспособува.

Енвидија сентри (Nvidia Sentry), во меѓувреме, е нов производ што може да работи на единиците за обработка на податоци Блуфилд (BlueField) на производителот на чипови. Тој е дизајниран да обезбеди дополнителен слој на следење на вештачката интелигенција, кој ги надгледува агентите и интервенира за да го изолира секој агент што се однесува сомнително, соопшти компанијата.

„Веруваме дека овој дополнителен безбедносен слој ќе ѝ овозможи на индустријата безбедно да ги тестира дури и најнапредните системи за вештачка интелигенција“, рече Боитано за производот Сентри. „Тој може да стави сомнителен систем во карантин за милисекунди.“

„Енвидија“ претходно месецов се согласи да ја преземе „Хагинг фејс“, платформа за модели на вештачка интелигенција со отворен код и поврзан софтвер, за околу 13 милијарди долари.

Неодамнешните инциденти поврзани со „Опен еј-ај“ - вклучувајќи го и упадот во систем на австралиската влада, како и обиди за пристап до десетици веб-страници на американската влада и универзитети - се случија откако нејзините модели излегле од тест-средината што требало да биде безбедна.

Како што проблемите се намножуваа, „Опен еј-ај“ во петокот доцна соопшти дека ќе го паузира тренирањето на своите најмоќни модели на вештачка интелигенција. Уште во јули „Антропик“ исто така откри дека нејзините агенти излегле од она што требало да биде изолиран простор за тестирање.