Што се случува кога кинеската ВИ ќе излезе од контрола?

Следејќи го неодамнешниот бран предупредувања за апокалипса од вештачка интелигенција, се обидов да ја отфрлам таа речиси култна стравопочит кон семоќните компјутерски системи и реториката за неизбежност: ако Силициумската долина не ги развие прва, некој друг ќе го направи тоа - најверојатно Кина.

Сепак, неодамнешната низа инциденти во САД поттикна нова, жестока дебата за безбедноста на препуштањето на системите со вештачка интелигенција да дејствуваат самостојно. Сè поголем број истражувачи во самите компании, исто така, предупредуваат на „егзистенцијални“ опасности, при што компанијата „Антропик“ (Anthropic PBC) дури ги истакна таквите грижи пред инвеститорите во својот проспект за иницијална јавна понуда (ИПО). За Кина, ризиците од непосредни опасности, како заканите на пазарот на трудот или поалармантните сценарија од доменот на научната фантастика - како хакерски напади врз клучната инфраструктура - го отежнуваат отфрлањето на оваа тема како исклучиво американска опсесија.

Пекинг отфрли некои од овие предупредувања како „ширење страв“, сметајќи дека повиците за забавување на развојот на вештачката интелигенција се обид за забавување на Кина. Но, гласовите во самата индустрија исто така укажуваат дека најнапредните ризици не се чувствуваат толку остро во земјата едноставно затоа што Кина заостанува зад САД. Ротирачкиот претседател на управниот одбор на компанијата „Хуавеј“ (Huawei Technologies Co.), Ерик Сју, се запраша дали кинеската вештачка интелигенција е доволно напредна за да се соочи со „видот ризици“ за кои американските даватели на услуги сè повеќе дискутираат. Креаторите на модели со вештачка интелигенција во Кина „можеби треба да го забрзаат темпото“ за да го достигнат нивото на кое „и тие би ги почувствувале тие ризици“, рече Сју, според наводите на „Ројтерс“, притоа признавајќи ја потребата од рамнотежа. Ова покажува како глобалната дебата се развила во неконструктивна насока.

Забрзувањето на трката е погрешен одговор од двете страни на Пацификот. Во Кина има речиси илјада големи јазични модели, според податоците на „Блумберг интелиџенс“ (Bloomberg Intelligence). Конкуренција во таков обем го прави дури и вртоглавото темпо на Силициумската долина умерено. Кинеската индустрија исто така вложува значително повеќе ресурси во агенти - системи што можат да дејствуваат поавтономно. Несоодветното однесување на агентите, особено инцидентот со компанијата ХФ (Hugging Face Inc.) во јули, кога еден од агентите на „Опен еј-ај“ (OpenAI) ја проби заштитната средина за процена и провали во системите на ХФ, го поттикна ова неодамнешно преиспитување на безбедноста. Како што покажа краткотрајната фама околу Опен кло (OpenClaw), дури и пошироката кинеска јавност без техничко знаење е подготвена да експериментира со нив. Тоа значи дека, ако вештачката интелигенција базирана на агенти сама по себе е поризична, веројатно е само прашање на време кога ќе видиме загрижувачко однесување од кинеските алатки.

Компаниите се свесни за тоа. Неодамнешниот труд на „Дипсик“ (DeepSeek), чиј коавтор е основачот и извршен директор Лианг Венфенг, отворено предупредува дека однесувањето на агентите може да биде „неверодостојно“. Пробивањето на контролираната средина исто така не е ризик резервиран само за Америка. Моделот Кими К3 (Kimi K3) на „Муншот“ (Moonshot AI) искористи безбедносен пропуст во тест средина (sandbox) за време на тестирање на сајбер-безбедноста, наведува американската организација ФС (Frontier Security). Некои кинески агенти со вештачка интелигенција исто така покажале измамнички и загрижувачки тенденции што предизвикале тревога и кај американските алатки.

Иако Пекинг се спротивстави на дел од таа катастрофична реторика, креаторите на политики внимателно ја следат ситуацијата. Кина во септември ја објави Рамката за управување со безбедноста на вештачката интелигенција 3.0, политички документ што забележливо беше објавен и на англиски јазик, очигледно наменет за западната јавност. Во него изречно се предупредува дека вештачката интелигенција покажала „тренд на самозабрзување“ и се напоменува дека прашањето дали тоа може да ја надмине човечката контрола бара внимание и претпазливост.

Уште една основа на најновите спорни прашања поврзани со безбедноста е рекурзивното самоподобрување (RSI), односно системи со вештачка интелигенција што можат автономно да ги развиваат сопствените способности. Тоа е развоен пат што го поттикна истражувачот од „Антропок“ да поднесе оставка, предупредувајќи дека креаторите на оваа технологија искрено веруваат дека таа би можела „да нè убие сите“ во рок од една деценија. Како што тврди Зилан Чијан од ОЧП (Oxford China Policy Lab), Кина отишла подалеку во овој поглед отколку што многумина на Западот сфаќаат, делумно затоа што нејзините истражувачи го опишуваат тоа со поинакви термини. Сето ова открива колку малку увид има секоја страна во ризиците од она што го развива другата страна.

Разгледувајќи ги ризиците од оваа технологија, претседателот Шји Џјинпинг предупреди, неодамна и во разговор со американскиот претседател Доналд Трамп, дека „вештачката интелигенција мора да остане под човечка контрола“.

Сопствениот интерес на Шји за одржување на редот остава сè помал простор за дијалог за ублажување на ризиците. Тоа исто така ги открива границите на безбедносните протоколи што произлегоа од самитот Трамп-Шји, поточно новиот „канал“ за пријавување инциденти поврзани со вештачката интелигенција. Тие директни линии не се секогаш ефикасни. За време на кризата со шпионскиот балон во 2023 година, Пентагон се обидел да контактира со кинеските колеги преку кризна линија, но Пекинг го одбил повикот. Таквиот систем по својата природа е реактивен. Превентивната размена на информации за ризиците не мора да зависи исклучиво од разговорите меѓу владите, особено кога регулаторните тела имаат тешкотии да го следат темпото на техничкото знаење. Би било попродуктивно да постојат канали преку кои компаниите и истражувачите би можеле подиректно да разменуваат информации.

Кина има строги регулативи во областа на вештачката интелигенција; користењето на Кина како плашило веќе не е убедлив изговор за неактивноста на законодавците во Вашингтон.

Ако кинеските системи со вештачка интелигенција заостануваат само неколку месеци, а сеопфатниот притисок на земјата за развој на агенти вроди со плод, веројатно е само прашање на време кога од другата страна на Пацификот ќе се појават уште позагрижувачки сценарија. Креаторите на политики треба да дејствуваат пред следниот инцидент да стане нешто повеќе од само предупредување.

 

-- Кетрин Торбек е колумнистка на Bloomberg Opinion која пишува за технологија во Азија. Претходно беше технолошки репортер во CNN и ABC News.