Драматични предупредувања од Силициумската долина за егзистенцијалните ризици од вештачката интелигенција

Со години веќе, некои од водечките личности во Силициумската долина предупредуваа дека вештачката интелигенција (ВИ) може да претставува егзистенцијална закана за човештвото, дури и додека тие самите се залагаа за развој на технологијата. Оваа недела, оставката на еден истражувач од „Антропик“ го донесе овој наратив во фокусот на јавноста.

Џејкоб Коксон, кој не беше дел од раководните структури,  даде отказ од работа и ги обвини двајцата свои поранешни работодавци – „Антропик“ и „Опен -еј-ај“ - дека „се коцкаат со нашите животи“ со „трката кон супер-интелигентна ВИ “. Коксон рече дека луѓето што ја градат ВИ веруваат дека таа би можела „да нè убие сите до крајот на деценијата“, поента што подоцна ја повторија и другите во компанијата, преку социјалните мрежи. Еден истражувач од „Антропик“ рече дека верува оти има поголема од 10 отсто шанса ВИ да ги елиминира сите луѓе во следната деценија.

Bloomberg

 

Објавите на Коксон се прегледани повеќе од 100 милиони пати на X и предизвикаа поплава од реакции од креаторите на политики како сенаторот Берни Сандерс до поп-пејачката Шерил Кроу, сите повикувајќи ги луѓето да ја разберат ВИ пред таа да воспостави доминација над човечката раса. Неговата оставка беше дочекана и со бран поддршка од вработените во разни компании за ВИ, вклучувајќи и неколку поранешни колеги.

Виралното внимание за забелешките на претходно малку познат вработен го одразува постојаниот јавен песимизам за ВИ - особено во САД - како и зголемената вознемиреност во Силициумската долина, бидејќи технологијата напредува и се однесува на помалку предвидливи начини.

Последниве денови, раководителите во „Опен еј-ај“ и „Енвидија“ го најавија почетокот на нова „ера на AGI“, осврнувајќи се на помоќна форма на вештачка интелигенција позната како вештачка општа интелигенција (Artificial General Inteligence), која би можела да ги стигне или надмине луѓето во повеќето задачи. Концептот е слабо дефиниран и многу дебатиран. Но, во рамките на технолошката индустрија, постои широка загриженост дека вештачката интелигенција се приближува до точката кога може да се подобри и потенцијално да се развива надвор од наша контрола.

„Сега верувам дека постои значаен ризик дека огромното забрзување на можностите на ВИ води до катастрофално и неповратно губење на контролата во многу краток рок“, рече Пол Кристијано, истражувач за безбедност на вештачката интелигенција и советник на американската влада, кој беше назначен во непрофитниот одбор на „Опен еј-ај“ оваа недела. „Не мислам дека индустријата за вештачка интелигенција воопшто, вклучително и Опен еј-ај, моментално е на добар пат да го намали овој ризик на прифатливо ниво.“

Кон крајот на јули, повеќе од 1.000 вработени во сите големи компании за ВИ потпишаа петиција со која се бара механизам за забавување на темпото на развој на ВИ. Неколку вработени во овој сектор кои работат на безбедноста поднесоа оставки од големите лаборатории во последните месеци. А врвниот научник на „Опен еј-ај“, Јакуб Пачоки, рече дека „никој не е подготвен за последиците од континуираниот брз пораст на машинската интелигенција“.

Bloomberg

 

Иако овие предупредувања добија на итност, тие не се сосема нови. Во текот на бумот на ВИ, имаше таканаречени „прогнозери на пропаст“ во и околу водечките лаборатории за ВИ кои предупредуваа за иднината. Високи раководители како Дарио Амодеи од „Антропик“ и Илон Маск од „Спејсекс“ отворено размислуваа за веројатноста ВИ да го уништи човештвото . Маск процени дека шансата може да биде и до 20 отсто. Амодеи рече дека има 25 отсто можност работите да тргнат „навистина, навистина лошо“.

Овие ужасни предвидувања честопати беа отфрлени како обиди на технолошките лидери да ги пласираат можностите на своите производи и да се позиционираат како најдобри управители на технологијата или да поттикнат регулатива што им користи на лидерите во индустријата.

„Антропик“, „Опен еј-ај“ и други фирми работеа на развој на пософистицирани модели на ВИ, со наведена цел да преземат соодветни чекори за усогласување на технологијата со човечките интереси. Целта долго време беше да се ублажат ризиците и да се обезбедат сеопфатни општествени придобивки, без разлика дали станува збор за зголемување на продуктивноста или лекување на болести.

„Секогаш сме биле транспарентни дека вештачката интелигенција ќе донесе и огромни придобивки и невидени ризици“, рече портпаролот на „Антропик“ во соопштението. „За да се справиме со овие ризици, продолжуваме да градиме модели со некои од најсилните заштитни мерки во индустријата.“

Портпаролот на „Опен еј-ај“ посочи на есејот на Пачоки во кој се предупредува за опасностите од сегашниот пат на развој на ВИ, во кој тој повика и на зајакнување на заштитните огради на постојната ВИ и потенцијално „координирање за забавување на идниот развој по потреба“. „Опен еј-ај“ рече дека забавил делови од развојот на модели и неодамна паузирал одредена внатрешна обука за ВИ поради безбедносни проблеми.

Многу набљудувачи на индустријата беа исплашени од неодамнешните откритија дека „одметнати“ агенти на вештачка интелигенција од „Опен еј-ај“ работеле заедно за да го пробијат ограничувањето и да влезат во веб-страница на друг субјект. Овој и други слични безбедносни инциденти ги покажаа зголемените сајбер можности на новите модели и очигледните неуспеси на компаниите за вештачка интелигенција да спречат неконтролирано работење на тековните верзии на нивната технологија, а да не зборуваме за понапредните идни модели.

Во исто време, „Антропик“ и „Опен еј-ај“ се на прагот да го направат своето деби на Волстрит- пресвртница што веројатно ќе обезбеди поголеми ресурси за фирмите да го поттикнат развојот на ВИ, а исто така ќе создаде поголем притисок врз акционерите да се движат поагресивно во комерцијализацијата на нивната технологија.

Depositphotos

 

Во отсуство на значајна федерална регулатива, фирмите за ВИ во голема мера се оставени сами да го поставуваат своето темпо, додека бараат надзор, како што е создавање надзорен орган сличен на ФИНРА (непрофитна организација за саморегулација на финансиски компании и брокерски куќи во САД, н.з.) за проверка на моделите на вештачка интелигенција. Засега, забавувањето веројатно би барало жестоки конкуренти кои ќе се координираат едни со други и ќе работат со добра намера.

„Веруваме дека светот би имал корист од тоа што индустријата ќе усвои законски, проверлив начин за соработка за да го темпира начинот на кој објавуваме моќни модели“, рече портпаролот на „Антропик“.

Повишената реторика од обичните претставници на технологијата би можела да обезбеди дополнителен поттик за акција од американските законодавци, од кои многумина веќе реагираа на влошувањето на јавното расположение за вештачката интелигенција со заземање построг став за големите проекти за центри за податоци.

Како одговор на објавите на Коксон, двопартиски микс од членови на Конгресот упати повици за акција. „Конгресот треба да свика посебна седница за вештачката интелигенција и каква е иднината на САД“, објави во среда републиканската конгресменка Ана Паулина Луна. „Конгресот не се фокусира доволно на ова.“

Нејзниот колега, пак,  Грег Касар, претседател на Конгресниот прогресивен групен комитет, слично изјави: „Ова е вонредна состојба.“