Дали ја губиме контролата врз вештачката интелигенција - што ги поттикнува новите стравови?

Со години, додека вештачката интелигенција (ВИ) еволуираше од концепт во научно-фантастични филмови до апликација што обичните луѓе ја имаат на своите телефони, технолошките лидери и некои експерти од областа зборуваа за можноста таа да излезе од човечка контрола и да предизвика хаос во општеството. Тие стравувања станаа невозможни за игнорирање во последните денови, поттикнати од технолошкиот напредок, низата пробиви во сајбер-безбедноста поврзани со агенти со вештачка интелигенција и новите предупредувања од вработените во оваа индустрија.

Водечките компании за вештачка интелигенција во САД одговорија со предлог доброволно да го забават развојот за да добијат време за воспоставување заштитни механизми. Некои експерти и официјални лица сметаат дека тоа не е доволно и повикуваат на владини ограничувања.

Што ја поттикна моменталната паника околу вештачката интелигенција?

Актуелната паника околу вештачката интелигенција беше поттикната од два настани: загрижувачки сајбер-напад извршен од модели на „Опен еј-ај“ (OpenAI) и предупредување од поранешен вработен во компаниите „Антропик“ (Anthropic PBC) и „Опен еј-ај“ за егзистенцијалната закана што ја претставуваат напредните модели.

Од „Опен еј-ај“ соопштија дека група напредни агенти со вештачка интелигенција ненамерно ја хакирале компанијата „Хагинг фејс“ (Hugging Face Inc), која хостира модели и збирки на податоци за ВИ, во инцидент без преседан што се случил во јули. Додека работеле во изолирана тест-средина (т.н. „песочница“ или *sandbox*), дизајнирана да биде одвоена од интернетот, моделите на „Опен еј-ај“ искористиле ранливост во софтверот на непознат надворешен добавувач за да пристапат до интернет и, на крајот, да ја пробијат инфраструктурата на „Хагинг фејс“. Од „Опен еј-ај“ наведоа дека моделите ја таргетирале базата на податоци на „Хагинг фејс“ за да дојдат до тајни информации што би можеле да ги искористат за процесот на евалуација.

Инцидентот предизвика голема загриженост во врска со способноста на водечките компании за вештачка интелигенција да спречат напредните модели да работат надвор од зададените инструкции. Од „Хагинг фејс“ изјавија дека упадот бил „во целост спроведен од автономен систем на агенти со вештачка интелигенција“.

Веста поврзана со „Опен еј-ај“ ги поттикна другите компании да ги преиспитаат сопствените безбедносни мерки при тестирањето на напредна вештачка интелигенција. Компаниите „Антропик“ и „Мета“ известија за откривање на претходно непознати безбедносни пробиви.

Соосновачот на „Антропик“, Дарио Амодеи/Фотограф: Џејсон Хенри/Блумберг

Кон крајот на јули, повеќе од 1.000 вработени во сите поголеми компании за вештачка интелигенција (ВИ) потпишаа петиција со која се бара воспоставување механизам за забавување на темпото на развој на ВИ.

Откако ја напушти работата во компанијата „Антропик“, истражувачот за ВИ Џејкоб Коксон, во објава на социјалните мрежи на 8 септември, ги обвини и таа компанија и својот претходен работодавач, „Опен ej-aj“ дека „си играат со нашите животи“ преку „трката кон супер-интелигентна ВИ“. Коксон изјави дека луѓето што ја развиваат ВИ веруваат оти таа би можела „да нè убие сите до крајот на деценијата“ – став што подоцна на интернет го потврди и вработениот во „Антропик“, Еван Хубингер. Хубингер изјави дека според него постои повеќе од 10 procenti шанса ВИ да го истреби човештвото во текот на наредната деценија.

Објавите на Коксон беа прегледани повеќе од 170 милиони пати на платформата „Eкс“ (X) заклучно со 14 септември и поттикнаа бројни повици од креатори на политики, како што е сенаторот Берни Сандерс, луѓето да ја стават ВИ под контрола пред таа да воспостави доминација над човечкиот род. Неговата порака по повод оставката наиде и на бран поддршка од вработени во разни компании за ВИ.

Во опширен текст од 3.800 зборови објавен на 12 септември, извршниот директор на „Антропик“, Дарио Амодеи, го наведе инцидентот со „Хагинг фејс“како главна причина за забавување на развојот на ВИ, предупредувајќи дека рој од агенти со поголеми способности, но со слична неусогласеност со човечките приоритети, би можел да предизвика катастрофална штета. Тој изјави дека таков рој би можел потенцијално да го преземе целиот интернет во рок од шест до 12 месеци доколку способностите на ВИ продолжат да се развиваат забрзано, без соодветни заштитни механизми.

Како точно ВИ би можела да им наштети на луѓето?

Во текот на експанзијата на ВИ, во и околу водечките лаборатории за ВИ се појавија таканаречени „думери“ (песимисти кои предвидуваат пропаст) кои предупредуваат за иднината. Високи раководители, како Амодеи и Илон Маск од „Спејс екс“ (SpaceX), отворено размислуваа за веројатноста ВИ да го уништи човештвото – или т.н. „P(doom)“ (веројатност за пропаст), како што се нарекува во индустрискиот жаргон. Маск процени дека таа шанса би можела да изнесува дури 20 проценти. Амодеи изјави дека постои 25 проценти веројатност работите да тргнат „навистина, навистина лошо“.

Истражувачите и лидерите во индустријата предвидуваат три главни сценарија: луѓето да користат високоспособна ВИ за намерно да предизвикаат катастрофа; ВИ да предизвика штета додека се обидува да постигне цел зададена од човек; и ВИ да развива сопствена цел што е во спротивност со интересите на луѓето.

Во првото сценарио, лошите актери би можеле да користат високо напредна вештачка интелигенција за дизајнирање биолошко или хемиско оружје, спроведување кибернапади, ширење дезинформации или манипулирање со луѓе. Јошуа Бенџо, професор на Универзитетот во Монтреал и пионер на вештачката интелигенција, предупреди во сведочењето во Сенатот во 2023 година дека сè поспособните системи би можеле да овозможат вакви напади.

Џошуа Бенџо/Фотограф: Валери Плеш/Блумберг

Во второто сценарио, вештачката интелигенција може буквално да следи инструкција, но да ја прекрши нејзината намера. Луѓето рутински се потпираат на неискажани претпоставки и контекст кога даваат инструкции. Кога ја поттикнуваат вештачката интелигенција, тие може да не успеат да го наведат секое однесување што би ја прекршило намерата на инструкцијата. На пример, Бенџо пишува дека „дури и суптилно неусогласен“ систем на вештачка интелигенција „би можел да предизвика сериозни последици“ во сценарио во кое војската се потпира на неа за да донесува одлуки за употреба на нуклеарно оружје.

Во третото сценарио, луѓето целосно ја губат контролата врз вештачката интелигенција. Бенџо пишува дека „системот со вештачка интелигенција може да заклучи дека за да се постигне дадената цел, не смее да се исклучи. Ако потоа човек се обиде да го исклучи, може да настане конфликт“. Лидерите во индустријата велат дека моделите на вештачка интелигенција сè повеќе покажуваат капацитет свесно да ги заобиколат заштитните мерки, да ги измамат своите оператори и да се спротивстават на исклучувањето. Во својот есеј од септември, Амодеи вели дека ројот агенти на „Опен еј-ај“ што го хакираа „Хагинг фејс“ „во суштина дејствуваа како фанатично посветен колектив, спроведувајќи напади во сајбер безбедноста врз цели што не им било побарано да ги нападнат и кои не биле поврзани со задачата што се извршува, жртвувајќи се за успехот на групата и обидувајќи се да го хакнат „оценувачот“ одговорен за оценување на нивните перформанси“.

Овие ужасни предвидувања честопати се отфрлаат како обиди на технолошките лидери да ги пласираат можностите на своите производи и да се позиционираат како најдобри управители на технологијата или да поттикнат регулатива што им користи на лидерите во индустријата. Освен тоа, некои сугерираат дека нагласувањето на подалечните егзистенцијални стравови ги одвлекува луѓето од поблиските ризици од технологијата, вклучувајќи ги и начините на кои вештачката интелигенција потенцијално поттикнува пристрасност и дезинформации и му штети на менталното здравје на луѓето.

Што предлагаат лидерите на вештачката интелигенција?

Амодеи тврди дека развојот на вештачката интелигенција мора да биде со контролирано темпо, така што работата за безбедност ќе има време да ги достигне подобрувањата на капацитетите. Во својот блог пост во септември, тој рече дека владината регулатива би била најефикасното средство за контрола на еволуцијата на вештачката интелигенција. Но, бидејќи донесувањето закони одзема многу време, тој тврдеше дека компаниите за вештачка интелигенција треба доброволно да работат заедно, а воедно да го поддржуваат развојот на регулативата.

Тој повика на воспоставување заеднички безбедносни стандарди и „ограничувања на стапката на неконтролиран напредок на вештачката интелигенција“. Треба да се распоредат евалуатори од трети страни со „пристап сличен на оној на вработените“ за да се осигурат дека секоја компанија ги следи тие стандарди и да пријават какви било инциденти. И рече дека демократските влади треба „да се обидат да се координираат со авторитарните влади, до степен до кој тоа е можно“.

Идејата не е да се наметне мораториум на истражувањето на вештачката интелигенција. Наместо тоа, развојот на најсовремена вештачка интелигенција би продолжил сè додека моделите не се приближат до можностите што се сметаат за опасни. Во тој момент, нивните програмери ќе го забават или ќе престанат нивното зголемување сè додека не се воспостават ефикасни заштитни мерки.

Коментарите на Амодеи ги повтори и извршниот директор на „Опен еј-ај“, Сем Алтман, кој рече дека индустријата за вештачка интелигенција треба да формулира заеднички безбедносни стандарди и дека ќе има потреба од помош од Вашингтон за меѓународна координација, поради широко распространетата загриженост дека дури и ако американските фирми за вештачка интелигенција го забават својот развој, кинеските конкуренти нема да го сторат тоа.

Во објава на социјалните мрежи од 14 јули, извршниот директор на „Гугл Дип Мајнд“ (Google DeepMind), Демис Хасабис, предложи тело за стандарди кое ќе соработува со федералните агенции за да ги разгледа најмоќните модели на вештачка интелигенција. Според неговата визија, лабораториите ќе ги достават своите најмоќни нови модели за проценки на безбедноста пред да бидат објавени во јавноста.

Ова не е прв пат да има повици за ограничување на развојот на вештачката интелигенција во интерес на човештвото. Во 2023 година, Институтот за иднината на животот, непрофитна организација основана за намалување на ризиците од големи размери од трансформативните технологии, ги повика лабораториите за вештачка интелигенција да усвојат шестмесечна пауза во обуката на помоќни системи, со оглед на тоа што тие би можеле да претставуваат „длабока промена во историјата на животот на Земјата“. Наместо тоа, развојот на вештачката интелигенција продолжи со брзо темпо.

Како реагираше Вашингтон?

Во објава на социјалните мрежи на 14 септември, американскиот претседател Доналд Трамп се спротивстави на каква било идеја за нови заштитни огради за вештачка интелигенција и ја критикуваше работата на Амодеи велејќи дека повикува на воздржаност при развојот на технологија што е клучна за неговата економска агенда. Тој ја обвини „болната заговорничка кампања“ за негативната реакција на јавноста во врска со центрите за податоци за вештачка интелигенција (ВИ) и зголемената загриженост за најнапредните модели, додавајќи дека „единствениот што се радува на тоа е Кина“.

Демис Хасабис/Фотограф: Хозе Сарменто Матос/Блумберг

Други во Вашингтон повикаа на државна регулација. Претставниците Тед Лиу и Натаниел Моран поднесоа предлог-закон со кој се бара од развивачите на напредни модели на ВИ да ја задржат техничката можност за нивно исклучување и се овластува секретарот на Министерството за внатрешна безбедност да нареди исклучување доколку се појави закана.

Уште подрастичен е предлогот на сенаторот Сандерс и претставникот Грег Касар, кои предлагаат законска регулатива за запирање на развојот на напредната ВИ сè додека федералното регулаторно тело не утврди безбедносни ограничувања. Покрај тоа, предлогот предвидува трајна забрана за развој и примена на системи со ВИ што ја надминуваат човечката интелигенција. Компаниите што би го прекршиле законот би се соочиле со распуштање.

Како реагираше Кина на предложеното забавување на развојот на ВИ?

Во својот есеј, Амодеи истакна дека глобалното темпо на развој на ВИ ќе бара соработка со Кина. Сепак, тој исто така нагласи дека е клучно „преднoста на демократиите пред автократиите во областа на ВИ да се одржи што е можно поголема“ и дека доколку Кина ја преземе предноста, тоа би претставувало „сериозна опасност за САД и за светот“. Кинеските компании веќе развија модели на ВИ кои обично се поевтини за користење од оние на американските конкуренти, а во некои случаи се исто толку моќни.

Извршниот директор на „Антропик“ препорача продолжување на ограничувањата за пристапот на Кина до моќни чипови и опрема за нивно производство, како и преземање мерки против кинеските компании кои наводно ги користат водечките американски модели како основа за сопствениот развој – практика позната како „дестилација“.

Кина упати критики кон повиците на Амодеи и другите американски технолошки лидери за забавување на развојот на ВИ и воведување построги ограничувања за кинеските развивачи на модели. Портпаролот на Министерството за надворешни работи, Гуо Џиакун, ги отфрли овие ставови, опишувајќи ги како „ширење страв“, и изјави дека „конфронтацијата и нечесната конкуренција само ќе го попречат процесот на глобално управување со ВИ и нема да бидат во ничиј интерес“.

Сè укажува на тоа дека Кина ќе продолжи да го следи сопствениот пат. Водечките луѓе во кинескиот сектор за ВИ главно се воздржуваат од повици за забавување на развојот на оваа технологија, додека владата ја промовира ВИ како двигател на економскиот раст. Официјални лица во Пекинг изразија загриженост поради опасностите од брзиот развој на вештачката интелигенција (ВИ), но тие стравувања се главно поврзани со националната безбедност. Шефот на Министерството за државна безбедност, Чен Јисин, предупреди дека злоупотребата на ВИ од страна на противниците би можела да ја загрози политичката стабилност и критичната инфраструктура на Кина. Тој укажа на употребата на „дипфејк“ (deepfake) содржини и ботови на социјалните мрежи, како и на сè поголемата способност на ВИ да открива пропусти во системите и да креира малициозен софтвер или програми за искористување на тие слабости.

Спорот околу најсовремените технологии за вештачка интелигенција се интензивира во клучен момент за односите меѓу САД и Кина. Американските безбедносни служби неодамна ги обвинија водечките кинески компании за ВИ – меѓу кои се „Дипсик“ (DeepSeek) и „Муншот еј-ај“ (Moonshot AI, која ја креираше „Кими“ (Kimi) – за систематско преземање на заштитено знаење од американските конкуренти. Кинеската влада ги отфрли овие обвинувања.

— Со помош на Рејчел Мец и Ширин Гафари