Ќе стане ли потребата за контрола на вештачката интелигенција поважна од профитот?

Шефовите на некои од најголемите компании за вештачка интелигенција повикуваат на забавување на развојот на најнапредните модели, предупредувајќи дека забрзаното унапредување на технологијата носи сè поголеми ризици.

Главниот извршен директор на „Антропик“ (Anthropic), Дарио Амодеи, во објава во саботата повика индустријата да го намали темпото на развој и најави дополнителни мерки за безбедност во неговата компанија, меѓу кои и вклучување независни проценувачи со широк пристап до системите.

На повикот брзо реагираше извршниот директор на „Опен еј-ај“ (OpenAI), Сем Алтман, кој најави дека компанијата ќе ја прифати идејата за „независни проценувачи со пристап сличен на оној што го имаат вработените“. Поддршка изрази и Илон Маск, извршен директор на „Екс еј-ај“ (xAI), кој кратко порача дека Амодеи е во право.

Сепак, евентуално координирано забавување на развојот би претставувало преседан за индустријата која досега функционираше под силен конкурентски притисок. Најголемите компании со години се натпреваруваат кој побрзо ќе пласира пософистицирани модели, со цел да привлечат корисници, освојат поголем удел на пазарот и остварат поголеми приходи.

Амодеи како две главни причини за повикот ги посочи способноста на вештачката интелигенција сè повеќе да се подобрува самостојно и неодамнешниот безбедносен инцидент поврзан со „Опен еј-ај“ и ХФ (Hugging Face), во кој група автономни ВИ-системи соработувале при пробивање на веб-страница на трета страна.

„Мора да го забавиме темпото со кое ги унапредуваме способностите на ВИ-моделите“, порача Амодеи, нагласувајќи дека напредокот и понатаму ќе биде брз, но дека дополнителното време треба да се искористи за подобрување на безбедноста.

Дарио Амодеи Bloomberg

Тој притоа нагласи дека забавувањето не значи прекин на обуката на моделите или на техничкиот развој. Наместо тоа, според него, компаниите треба да обезбедат доволно време за усогласување и заштита на моделите, како и за независни проценувачи да можат да ја проверат нивната безбедност.

Загриженоста за потенцијално сериозните последици од вештачката интелигенција во последно време станува сè поизразена и во самата индустрија. Оваа недела истражувачот Џејкоб Коксон ја напушти работата, обвинувајќи ги своите поранешни работодавачи „Антропик“ и „Опен еј-ај“ дека „се коцкаат со нашите животи“ со трката кон супер-интелигентна вештачка интелигенција.

Коксон предупреди дека дел од луѓето кои ја развиваат технологијата сметаат дека таа би можела да претставува егзистенцијална закана за човештвото до крајот на деценијата. Неговите стравувања ги сподели и Еван Хубингер, вработен во „Антропик“, кој изјави дека лично смета оти веројатноста за такво сценарио во следната деценија е поголема од 10 отсто.

Претходно, и Алтман предупреди дека развојот на најнапредните системи можеби ќе треба да биде забавен, по можност преку координација на целата индустрија. Главниот научник на „Опен еј-ај“, Јакуб Пачоцки, исто така повика компаниите да се координираат и, доколку е потребно, да го забават идниот развој.

Дополнителна загриженост предизвикуваат сè пософистицираните способности на ВИ-системите во областа на сајбер-безбедноста. „Антропик“, „Опен еј-ај“ и „Мета“ во последните месеци објавија случаи во кои нивни модели, во рамките на тестирања, успевале да излезат од контролирани средини, да пристапат до отворениот интернет или да пробијат системи во реалниот свет.

Сем Алтман Bloomberg

Амодеи предупреди дека, иако досегашните инциденти не предизвикале значителна штета, способностите на автономните ВИ-агенти може многу брзо да се зголемат. Според неговото сценарио, за шест до 12 месеци ваков тип системи би можеле да бидат способни да преземат контрола врз голем дел од интернетот преку постојана ботнет-мрежа, со потенцијална штета од стотици милијарди долари.

„Антропик“ најави дека ќе им овозможи на независни проценувачи целосен пристап до компанијата со цел да ги проверуваат безбедносните практики и да известуваат за инциденти. Компанијата планира таканаречените проценувачи да работат директно во нејзините канцеларии, со работни места, службени компјутери и дозволи во голема мера со еднакви овластувања на оние на внатрешните тимови за проценка на ризик.

Амодеи смета дека дел од мерките не можат да бидат спроведени само од една компанија, туку бараат координација во целата индустрија и меѓународна соработка. Според него, американските компании би можеле да имаат потреба од одредени антимонополски исклучоци за да можат да соработуваат во конкретни области поврзани со безбедноста, а во одреден степен би била потребна и соработка со Кина.

Истовремено, ваквата координација отвора сложени регулаторни и економски прашања. Не е јасно дали американските власти би дозволиле конкурентите меѓусебно да го усогласуваат темпото на развој. Неизвесна е и реакцијата на инвеститорите, особено во момент кога берзите и финансиските пазари се потпираат на очекувањата дека бумот на вештачката интелигенција ќе донесе огромни приходи и профит.

Демис Хасабис, главен научник во „Алфабет“ (Alphabet) и коосновач на Гугл Дипмајнд (Google DeepMind), оцени дека насоката што ја предлага Амодеи е исправна, но дека деталите допрва треба да се разработат.

Покрај безбедносните ризици, зголемениот отпор кон вештачката интелигенција во САД е поврзан и со нејзиното влијание врз секојдневниот живот и локалните заедници. Новите дата-центри потребни за функционирањето на ВИ-системите трошат огромни количества електрична енергија, што предизвикува загриженост поради можниот раст на сметките за струја и притисокот врз локалната инфраструктура. Стравувањата од губење работни места поради автоматизацијата дополнително ја прават вештачката интелигенција важна политичка тема во САД.

Во јули, повеќе од 1.000 вработени во водечки компании за вештачка интелигенција потпишаа петиција со која од американската влада побараа механизам за намерно забавување на развојот, со цел технологијата да не напредува побрзо од способноста на општеството да ги контролира нејзините последици.

И покрај растечките предупредувања, компаниите остануваат во жестока трка, вклучително и со конкурентите од Кина. Токму оваа конкуренција го прави координираното забавување особено тешко. Амодеи предупреди дека едностраното ограничување на американскиот развој би можело да создаде геополитички ризик доколку Кина не преземе слични чекори.

„Не сакам да го жртвуваме потенцијалот на ВИ да го подобри човечкиот живот“, порача Амодеи, но нагласи дека придобивките од технологијата ќе можат да се остварат само доколку таа биде развивана на безбеден и одговорен начин.

Дилемата со која сега се соочува индустријата е сè појасна: како да се задржи технолошкиот напредок и конкурентноста, а истовремено да се обезбеди дека развојот на најмоќните системи не ја надминува способноста на компаниите и институциите да ги разберат и контролираат ризиците.