„Антропик“ предлага пауза на развојот на ВИ за да се проценат ризиците

„Антропик“ (Anthropic PBC) повика на создавање систем во кој владите и развивачите на вештачка интелигенција заеднички би одлучувале кога да се забави развојот на технологијата за да се спречат ризиците што таа може да ги предизвика.

„Би било добро светот да има можност да покаже воздржаност или привремено да го паузира развојот“ на ВИ-системи што би можеле да бидат опасни, наведува компанијата во обемна објава на блог објавена во четвртокот од коосновачот Џек Кларк и директорката на Институтот на „Антропик“, Марина Фаваро.

Според нив, вештачката интелигенција напредува до точка каде што технологијата може да ја направи човечката работа илјадници пати поефикасна или дури да ја замени, создавајќи нов сет ризици.

„Антропик“ признава дека би било исклучително тешко компаниите, а уште помалку државите кои со години се натпреваруваат во развојот на сопствените технологии, да се согласат на каква било колективна пауза. Компанијата и претходно повикуваше владите и конкурентите да усвојат јасно дефинирани прагови за ограничување на развојот.

Во 2023 година стартапот воспостави сопствени ограничувања и вети дека ќе го прекине развојот на технологии што би можеле да бидат опасни. Но, компанијата ја ублажи таа обврска порано оваа година, наведувајќи дека повеќе нема да прави пауза доколку нема значителна предност во однос на конкурентите.

Образложувајќи ја промената на ставот, „Антропик“ соопшти дека регулаторната средина се поместила кон давање приоритет на конкурентноста во ВИ и економскиот раст, наместо на безбедноста. Во четвртокот компанијата најави дека во наредните месеци ќе се сретне со креатори на политики и други компании од секторот за да разговара за подобра координација и да ги сподели резултатите од тие разговори.

 

 

Кларк и Фаваро наведуваат дека протокол за одлучување за колективна пауза станува сè поважен бидејќи ВИ наскоро би можела да стане способна самата да се подобрува и да создава свои наследници, со што би се намалила улогата на луѓето.

„Тој судир, во кој вештачката интелигенција создава сè понапредни верзии од самата себе со сè поголема брзина и се среќава со светот на луѓето, односите и управувањето, е уште еден дел од иднината што не можеме да ја предвидиме“, напишаа тие.

Во блог-објавата идејата е споредена со меѓународната регулација на нуклеарното оружје. Секој механизам за пауза би морал да обезбеди и помалку одговорните лаборатории за ВИ тајно да не продолжат со развојот на технологијата за време на прекинот, најверојатно преку проверки од други лаборатории.

Истражувачите во областа на ВИ и претходно ги повикуваа владите привремено да го запрат развојот. Во 2023 година, на пример, непрофитната организација „Институт за иднината на животот“ побара пауза од најмалку шест месеци за воспоставување заштитни механизми за ВИ, предупредувајќи на потенцијално катастрофални последици. Апелот го потпиша и милијардерот Илон Маск, заедно со повеќе од 1.000 истражувачи и директори. Критичарите тогаш тврдеа дека запирањето на развојот би ја ограничило иновацијата и би им дало предност на оние што нема да ја почитуваат паузата.

Тоа е предизвик што и самата компанија го признава во блогот.

„Унапредувањата на моделите многу полесно се сокриваат отколку силосите за ракети, нивните влезни податоци имаат општа намена, а поттикот тивко да се прекршат правилата е огромен, бидејќи оној што ќе продолжи додека другите паузираат може да стекне предност“, наведува „Антропик“.

Компанијата продолжува да претставува напредни модели и алатки, меѓу кои и популарниот асистент Клод, како и новиот модел Митос, за кој тврди дека може со исклучителна брзина да открива и искористува сајбербезбедносни пропусти. Воедно, компанијата се подготвува и за иницијална јавна понуда на акции.