Вработени во „Опен еј-ај“ и „Антропик“ бараат САД да помогнат во контролирање на ВИ

Вработени во „Опен еј-ај“ и „Антропик“ шират петиција во која се повикува американската влада да поддржи механизам што би помогнал намерно да се регулира темпото на развојот на вештачката интелигенција (ВИ), со цел да се спречи технологијата да напредува пребрзо. Ова доаѓа само неколку дена откако производителот на Чат ГПТ откри дека неговите алатки по грешка хакирале внатрешни системи на друга компанија.

Според лица запознаени со случајот и копија од петицијата во која имаше увид „Блумберг Њуз“, вработени во водечките лаборатории за ВИ споделиле отворено писмо со колегите, повикувајќи ги Соединетите Американски Држави да поддржат меѓународен напор за воспоставување механизам што би го регулирал темпото на развој на сè пософистицирани системи на вештачка интелигенција, доколку тоа стане неопходно. Во документот се предупредува дека постои „реален ризик“ ВИ да напредува побрзо отколку што луѓето можат „да ја разберат или контролираат“, при што се посочуваат достигнувањата во автоматизацијата на истражувањата во областа на ВИ.

„Американската влада треба да поддржи меѓународен напор за развој на технички и управувачки алатки потребни за намерно регулирање на темпото на развој на најнапредните системи за автоматизирана вештачка интелигенција“, се наведува во петицијата.

Според еден од изворите, кој зборувал под услов да остане анонимен поради чувствителноста на темата, повикот се очекува да биде објавен во јавноста уште оваа недела. Не е јасно колку вработени планираат да ја потпишат петицијата. „Опен еј-ај“ и „Антропик“ не одговориле на барањата за коментар.

Петицијата ги повторува неодамнешните повици од лидери во областа на ВИ, меѓу кои извршниот директор на „Опен еј-ај“, Сем Алтман, и извршниот директор на „Гугл дип мајнд“ (Google DeepMind), Демис Хасабис, за формирање ново меѓународно надзорно тело кое би ги оценувало и поставувало стандардите за најнапредните модели на вештачка интелигенција.

„Антропик“ и претходно предложи создавање систем во кој владите и развивачите на ВИ заеднички би одлучувале кога треба да се забави работата на развојот на вештачката интелигенција за да се намалат потенцијалните ризици. „Би било добро светот да ја има можноста да го забави или привремено да го паузира“ развојот на ВИ што може да биде опасен, соопшти компанијата во јуни.

Овие предлози следуваат по зголеменото внимание кон напредокот на ВИ во извршување на сè посложени задачи со ограничен човечки надзор, вклучително откривање и потенцијално искористување на сајбер-безбедносни ранливости во критичен софтвер.

Минатата недела „Опен еј-ај“  соопшти дека неговите најнапредни модели на вештачка интелигенција ја хакирале технолошката стартап-компанија„Хагинг фејс“ (Hugging Face) во „невиден“ инцидент. Ова откритие предизвика нови повици за воведување ограничувања врз оваа технологија.