Кој е главниот виновник, вештачката интелигенција или луѓето?

Тековниот бран на паника околу вештачката интелигенција се темели на уверувањето дека технологијата во неколку неодамнешни случаи излегла од човечка контрола и почнала самостојно да дејствува според свои цели. За некои разочарани истражувачи на вештачката интелигенција, како и за некои вработени на високи позиции во водечките компании во оваа област, ова е ран знак за вистинска закана за човечката цивилизација. Но други експерти од областа се спротивставуваат на ваквите ставови, тврдејќи дека таквата реторика им овозможува на компаниите да избегнат одговорност за реалните последици од нивната технологија. Критичарите сметаат дека поважни прашања за креаторите на политиките се влијанието на вештачката интелигенција врз животната средина, опасноста од губење работни места и можноста за масовен надзор.

Загриженоста дека софтверот со вештачка интелигенција може да претставува егзистенцијална закана почна да расте ова лето. Во јули „Опен еј-ај“ (OpenAI) соопшти дека нејзините напредни модели со вештачка интелигенција ја хакирале „Хагинг фејс“ (Hugging Face Inc.), друга стартап-компанија од областа на вештачката интелигенција, за време на тестирање чија цел била да ги провери нивните сајбер-способности. За разлика од моделите што компанијата ги пушта во јавноста, овој софтвер бил тестиран без заштитните механизми што вообичаено би го спречиле да презема такви дејства - практика што е вообичаена во индустријата за вештачка интелигенција. „Опен еј-ај“ во последователен извештај призна дека можела да реагира порано и дека нејзините вработени не реагирале на знаците дека моделите излегле од својата дигитална „песочна кутија“ и упаднале во „Хагинг фејс“ без да добијат таква инструкција.

Уште повознемирувачки детали за однесувањето на технологијата на „Опен еј-ај“ и на неколку клучни конкуренти, меѓу кои „Антропик“ (Anthropic) и „Мета“ (Meta), се појавија за време на други тестирања. Кога Џејкоб Коксон, поранешен вработен во „Антропик“ и „Опен еј-ај“, ја обвини индустријата дека „се коцка со нашите животи“, Еван Хубингер, истражувач за безбедност во „Антропик“, одговори дека компанијата навистина верува оти вештачката интелигенција би можела да го убие секој човек на Земјата. Тој додаде дека според неговата процена, шансата да се случи тоа во следната деценија е поголема од 10 отсто.

Пошироката јавност така доби увид во една долготрајна дебата што се води во рамките на оваа индустрија. Пред да постојат претплати за четботови што треба да се продаваат или берзански вреднувања на компании што треба да излезат на берза, истражувачите ја гледаа својата работа како нешто со висок ризик, но и со потенцијално огромна корист за цивилизацијата. Со години некои од лидерите во индустријата за вештачка интелигенција ги доведуваа овие идеи до крајност, тврдејќи дека вештачката интелигенција еден ден би можела да ги излечи сите човечки болести, да ја замени целата човечка работна сила, да ги убие сите луѓе - или сето тоа заедно.

Создавањето таква технологија инспирираше чувство на мисија што ја обликуваше културата на вештачката интелигенција уште пред технологијата да стане огромен бизнис. Во 2023 година, неколку месеци по објавувањето на ЧетГПТ, Џошуа Бенџо и Стјуарт Расел, две од основачките фигури во оваа област, беа меѓу главните потписници на изјава со која се повикуваше на пауза во развојот на најмоќната вештачка интелигенција, со образложение дека постојат „длабоки ризици за општеството и човештвото“.

Критичарите постојано ги отфрлаа ваквите аргументи како самопромотивно ширење страв. За еден истражувач, гледањето на сопствената работа како нешто што може да го уништи човештвото истовремено значи и дека таа работа се смета за најважната работа што постои. За компаниите, зборувањето за егзистенцијалниот ризик беше ефикасна стратегија за привлекување кадар во раните денови на вештачката интелигенција, бидејќи многу од најбараните истражувачи сакаа да работат во компании што сериозно ги сфаќаат таквите ризици.

Во поново време оваа реторика навлезе дури и во маркетингот на производите. За време на Светското првенство во јули, „Антропик“ емитуваше реклама што започнува со слика од куќа зафатена од пожар, потоа прикажува рудник за ископување и преминува преку редови надгробни плочи, додека загрижен наратор зборува за потенцијално катастрофалните последици што би можела да ги има технологијата. На крајот, музиката станува оптимистичка и се појавува слоганот за нивниот четбот Клод (Claude): „Има надеж во тешките прашања“.

Таканаречениот „думеризам“ може да служи и како одбранбена стратегија, а во индустријата постои дебата околу тоа дали компаниите намерно го користат на циничен начин. Кога за вештачката интелигенција се зборува како за автономен субјект, неуспесите во безбедноста се претставуваат како доказ дека нејзиното ограничување не е можно. Со тоа се намалува вниманието кон тоа дека технолошките компании можеби ги спроведувале своите експерименти на небезбеден начин, вели Субарао Камбампати, професор по компјутерски науки на Државниот универзитет во Аризона.

„Тоа е неуспех на безбедносните ограничувања што во суштина се обидувате да го претставите како: ‘Вештачката интелигенција ќе стане толку ефикасна што ќе нè убие сите’“, рече тој.

Стравот веќе почна да влијае и врз начинот на кој членовите на американскиот Конгрес го поставуваат ова прашање. Сенаторот од Вермонт, Берни Сандерс, предложи забрана на таканаречената суперинтелигентна вештачка интелигенција, велејќи дека лидерите во индустријата признале дека технологијата „им излегува од контрола“. Конгресменот Тед Лиу рече дека еден модел на „Опен еј-ај“ „излегол од контрола“ и, заедно со конгресменот Нејтанел Моран, во јули го претстави Законот за исклучување на вештачката интелигенција.

Овие предлог-закони речиси сигурно нема да станат закон оваа година, но самите најави покажуваат колку многу од јазикот поврзан со катастрофи преминал од индустријата во реториката на федералните законодавци. Застапниците за регулирање на вештачката интелигенција исто така стравуваат дека законите што поаѓаат од претпоставката дека вештачката интелигенција може да нè убие сите ќе ги потиснат другите идеи за регулирање на технологијата.

„Пред да стигнеме до ‘светот ќе заврши’, треба да разложиме кои се механизмите преку кои замислуваме дека би можело да се случи тоа“, рече Сара Мајерс Вест, коизвршна директорка на НИ (AI Now Institute), организација за истражување на јавните политики. „Што можеме да направиме за да ги ублажиме тие ризици?“

Во соопштение портпаролот на „Опен еј-ај“, Дру Пусатери, наведе дека инцидентот со „Хагинг фејс“ „покажа каде нашите заштитни мерки треба да бидат посилни и ние реагиравме така што ги зајакнавме заштитите низ нашите истражувачки системи“. Во средата компанијата претстави нов сет правила за тоа како ќе ги следи и истражува инцидентите на таканаречена неусогласеност и како ќе ја информира јавноста за нив. Компанијата откри и неколку претходно необјавени случаи на таква неусогласеност, во кои нејзината технологија правела работи како што се прикривање или измислување информации за да ги добие бараните резултати. Од „Опен еј-ај“ велат дека ниту еден од тие инциденти не вклучувал компромитирање надворешни мрежи.

 „Антропик“ одби да даде коментар за овој напис.

Мелани Мичел, професорка на Институтот „Санта Фе“, која истражува како системите со вештачка интелигенција расудуваат, во текст објавен на 10 септември се спротивстави на тврдењата дека компаниите за ВИ некогаш ја изгубиле контролата врз својата технологија. Таа исто така рече дека приказните за „роеви“ непослушни агенти што се ослободуваат од своите ограничени средини создаваат искривена слика во јавната дебата. Според неа, ваквите описи ѝ припишуваат на ВИ однесување слично на човечкото, иако моделите на ВИ немаат таква автономна намера.

Мичел го спореди хакерскиот инцидент поврзан со „Опен еј-ај“ и „Хагинг фејс“ со шумски пожар во Ново Мексико во 2000 година. Тогаш властите спроведувале контролирано палење, но не ги зеле предвид прогнозите за ветерот и пожарот се проширил надвор од контрола. Според неа, одговорноста е кај луѓето што ги обучиле моделите со методи што ги наградуваат упорноста и самостојното донесување одлуки, а потоа не обезбедиле доволно безбедни услови за нивно тестирање. Таа смета дека најголемите идни опасности доаѓаат од луѓето што би можеле да ги користат моделите на ВИ за да предизвикаат штета.

Некои луѓе, меѓу кои и претседателот Доналд Трамп, ги отфрлаат тврдењата за егзистенцијални закани како начин да се отфрли и самата идеја дека на ВИ ѝ се потребни нови регулативи. Но не секој што ги отфрла најцрните сценарија смета дека ВИ треба да се развива без ограничувања. Сара Хукер, коосновачка на стартапот за ВИ АЛ (Adaption Labs) и поранешна истражувачка во Гугл дипмајд (Google DeepMind), се согласува со извршниот директор на „Антропик“, Дарио Амодеи, кога тој изразува загриженост за таканареченото „самоусовршување“. Тоа е термин за теоријата според која ВИ на крајот би можела да стекне способност сама да го менува сопствениот код или на друг начин да ги подобрува своите способности без човечка интервенција.

Амодеи изјави дека е загрижен оти, откако ќе започне таков процес, тој би можел да создаде повратна спрега што ќе се развива побрзо отколку што луѓето би можеле да ги контролираат системите, кои постојано се подобруваат. „Ако не се контролира, процесот би можел да ја надмине нашата способност да ги разбереме и контролираме овие системи и затоа со него мора да се постапува многу внимателно, ако воопшто треба да се продолжи“, напиша тој во саботата во долг текст, во кој повика на забавување на развојот на најнапредните модели на ВИ.

Реториката на „Антропик“ за егзистенцијалните закани досега е построга од онаа на „Опен еј-ај“. Сепак, извршниот директор на „Опен еј-ај“, Сем Алтман, брзо покажа поддршка за ставот на Амодеи, како и Илон Маск.

Хукер се согласува дека ВИ што може сама да се подобрува би претставувала вистински пресврт во однос на претходните системи. Од друга страна, таа прашува: „Дали од тоа веднаш преминуваме до заклучок дека следува истребување на човештвото? Не.“ Таа додава дека процените што овој месец ги објавуваат истражувачи на ВИ, во обид да ја утврдат веројатноста за исчезнување на човештвото, се прават без јасна одговорност или објаснување „од каде потекнува тој број“.

Според неа, ваквиот начин на зборување е честа појава во областа на ВИ и создал своевидна повратна спрега, поради која истражувачите на ВИ сè повеќе се оддалечуваат од реалноста и од начинот на кој остатокот од општеството гледа на овие прашања.

Инциденти како хакерскиот напад врз „Хагинг фејс“ отвораат низа сериозни прашања дури и кај оние што не ги сметаат за закана за цивилизацијата. Покрај тоа што „Опен еј-ај“ не ги користела заштитните мерки што ги применува кај своите јавно достапни производи, компанијата ги обучила моделите што ги тестирала да соработуваат, односно ги наградувала кога колективно ќе постигнат одредени цели.

Иако агентите во ова тестирање требало да бидат изолирани едни од други, секој од нив имал пристап до истиот внатрешен софтвер. Тој софтвер им овозможувал да разменуваат информации преку заедничка состојба - нешто што „Опен еј-ај“ го нарекува „огласна табла“ или „табла за пораки“. Агентите откриле дека софтверот може да пристапи до интернет иако тие самите немале директен пристап. Потоа го натерале софтверот да преземе материјали од интернет.

Агентите на крајот го хакирале „Хагинг фејс“ за да дојдат до бази на податоци што би им откриле како се оценува нивната работа.

Додека компаниите за ВИ продолжуваат да работат на развивање побезбедни методи за тестирање, Суреш Камбампати предупреди дека тврдењата за ВИ што „излегува од контрола“ не треба да се користат за избегнување одговорност.

Тој го посочи примерот со Роберт Морис, дипломец на Универзитетот „Корнел“, кој ја префрлил вината на програмерска грешка откако компјутерскиот вирус што го создал во 1988 година оневозможил околу една десеттина од компјутерите што тогаш биле поврзани на интернет. Судот го отфрлил тоа објаснување, а Морис станал првиот човек осуден според Законот за компјутерска измама и злоупотреба.

„Ако започнете процес што ќе тргне во погрешна насока и ќе предизвика штета на мојот имот, вие сте одговорни, точка“, вели Камбампати. „Тоа важи дури и кога штетата ја предизвикало вашето куче.“