Карен Хао: ВИ не мора да биде изградена на овој начин - постои похуман модел

„Опен еј-ај“ (OpenAI) се соочува со ново внимание од јавноста откако откри дека два од неговите напредни модели на ВИ хакирале системи на друга компанија за време на тестирањето на сајбер-способностите, повторно отворајќи ја дебатата за безбедносните практики во индустријата. Карен Хао, авторка на книгата „Империјата на ВИ“ (Empire of AI), тврди дека овие грижи се само дел од многу поголема приказна. Таа вели дека скриената работна сила што стои зад големите јазични модели - како и одлуките што се носат во врска со обемот, моќта и профитот - заслужуваат многу поголемо внимание, особено додека водечките компании за ВИ се приближуваат кон излегување на берза.

 

 

Во овој дел Хао исто така ја проучува работната сила во областа на ВИ во земјите во развој. На пример, во 2021 година, додека „Опен еј-ај“ се подготвуваше за подоминантното присуство на „Чет ГПТ“, беше потребно да се обезбеди навредливата содржина да биде филтрирана пред да стигне до корисниците. „За да направи автоматизиран филтер, на ‘Опен еј-ај’ прво му беа потребни луѓе кои внимателно ќе прегледаат и каталогизираат стотици илјади примери“, пишува Хао. Работата им била доверена на надворешни соработници во Кенија, каде што, според Хао, работниците морале да класифицираат „гротескни текстуални описи“ во категории што вклучувале експлицитно насилство, говор на омраза, вознемирување и бестијалност. Еве што уште мисли авторката за овие теми и зошто самата не користи ниту еден модел на ВИ.

Ги споредивте компаниите за ВИ со империи бидејќи велите дека тие присвојуваат и извлекуваат скапоцени ресурси за да ја остварат својата визија. Зошто имате толку силен став за тоа?

Овие компании консолидираа историски огромно количество економска и политичка моќ. Тие стануваат врховни сили во светот, исто како империите од минатото. Присвојуваат ресурси што не се нивни: податоците на поединците [и] интелектуалната сопственост на уметниците, писателите и творците. Тие експлоатираат огромно количество труд, како преку работниците што ги користат и исцрпуваат за да ги произведат своите технологии, така и преку работниците чии работни места се автоматизираат со примената на тие технологии.

Работата со податоци сега е четвртиот најбрзорастечки вид работа во САД. Луѓето што се занимаваат со оваа работа се научници, адвокати [и] лица со докторски дипломи. Тие ги даваат своето знаење и стручност за обука на овие модели, но во крајно експлоататорски услови и за ниски плати. Со овој вид работа се занимавам речиси осум години; приказната постојано се повторува.

Сепак, тоа и понатаму е работа? Постои ли аспект во тоа што едноставно е предизвик на нашето време, а не нужно нешто поексплоататорско од она што постоело порано?

[Тие] луѓе се високообразовани и можеле да добијат вработување со полно работно време. Причината поради која сега немаат пристап до подобра работа исто така е индустријата за ВИ. Таа ја дизајнира својата технологија и ја продава како алатка за автоматизација на интелектуалниот труд. Пазарот на трудот се намалува - 25 отсто од невработеното население во САД се луѓе со четиригодишна факултетска диплома. Тоа е историски рекорд.

Значи, не станува збор само за тоа да им се даде работа на луѓето што ја немаат; станува збор за деградирање на можностите за работа што моментално постојат - извлекување квалификувани работници од вработувања со полно работно време и нивно префрлање на повремена работа.

(заб. авт. Економистите жестоко дебатираат за тоа во колкава мера за ова е заслужна ВИ. Истражувачите од Стенфорд пронајдоа одредени докази дека ВИ го намалува бројот на почетни работни места, а „Голдман Сакс“ (Goldman Sachs) неодамна објави извештај во кој тврди дека секторите изложени на ВИ бележат побавен раст на вработеноста.)

Карен Хао за време на интервју за „Блумберг“ во Лондон/Betty Laura Zapata/Bloomberg

 

Дали велите дека треба да размислуваме за експлоатацијата на трудот кога ги користиме Клод или ЧетГПТ?

Апсолутно. Други индустрии имаа слични проблеми. Модната индустрија исто така се соочуваше со голема експлоатација на трудот и голема деградација на животната средина. Одговорот никогаш не беше: Ајде едноставно целосно да се ослободиме од облеката. Одговорот секогаш беше: Ајде да поставиме повисоки стандарди за производство на облека без тие проблеми.

Што ѝ велите на земја како Малта, која потпиша голем договор со „Опен еј-ај“, според кој сите што живеат на Малта добиваат бесплатен пристап до ЧетГПТ плус во текот на една година? Малта вели дека тоа ја става на чело на дигиталната ера.

Запознав многу креатори на политики од земјите во развој [и] помали земји [кои веруваат] дека можат да учествуваат во оваа револуција само ако се понудат на продажба. Само затоа што владата е горда на ова партнерство и мисли дека тоа ѝ дава [а] место на масата, не значи нужно дека тоа води кон подостоинствен живот за нејзините граѓани.

Нивната влада би го гледала тоа како оспособување на граѓаните за работа или пристап до знаење.

Склона сум да тврдам дека тие се експлоатирани и навистина би ме интересирало што мислат луѓето во Малта, а не што мисли владата на Малта. Нивните податоци се собираат за да се обучуваат следните генерации модели.

Затоа овие компании излегуваат и склучуваат вакви партнерства: потребни им се сè повеќе и повеќе податоци. Останаа без висококвалитетни податоци од интернет, па еден од најдобрите извори се директно корисниците. Ако можат да склучат вакви партнерства со цели држави, добивате база на податоци од цела држава што може слободно да се вчита.

Некои луѓе на ова гледаат едноставно како: „Па, користев Гугл“. Но никогаш не сум видела луѓе да ги поставуваат своите медицински картони на Гугл за да бараат толкување. Луѓето го прават тоа со ЧетГПТ, Џемини, Клод.

(заб. авт. Се обративме до „Опен еј-ај“ и „Мајкрософт“ за коментар на тврдењата на Хао за собирањето податоци, бидејќи двете компании соработуваат со Малта. Одговорот на „Опен еј-ај“ нè упати на неговата постапка за исклучување за луѓето кои не сакаат нивните податоци да се користат за обука на моделите. „Мајкрософт“ соопшти: „Ние не ги користиме податоците на корисниците на Копајлот во рамките на апликациите Мајкрософт 365 со персонални претплати за обука.“ Во меѓувреме, неодамнешно истражување покажа дека повеќе од половина од жителите на Малта очекуваат ВИ да има позитивно влијание врз нивниот живот во текот на следната деценија - над просекот на ЕУ.)

Зарем за вас не постои никаква позитивна страна? Тоа давање медицински податоци - ако се прави со согласност - зарем не е дел од напредокот на науката? Можеби нешто би ви било дијагностицирано или би можеле да придонесете за пошироката дијагностика.

Имам проблем со фактот што тоа е во рацете на исклучително моќни компании кои немаат апсолутно никаква одговорност кон луѓето ширум светот врз кои тоа влијае.

Затоа ги нарекувам империи. Луѓето на врвот можат да донесуваат стотици одлуки дневно што имаат верижни последици, а не постојат формални механизми преку кои милијарди луѓе навистина можат да ги оспорат, да ги доведат во прашање [или] да дадат повратна информација. Историски преминавме од империи кон демократии затоа што демократиите се институционализирани начини луѓето да кажат кога нешто им се допаѓа, кога нешто не им се допаѓа и како сакаат заеднички да управуваат и самите да ја одредуваат својата иднина.

Дали всушност велите дека моќта на овие компании е поголема од моќта на владите?

Сè повеќе станува таква, апсолутно.

Дури и од владата на САД?

Би рекла дека да. Неодамна дојде до судир меѓу „Антропик“ и Министерството за војна. Министерството за војна ја употреби нуклеарната опција во обид да ја принуди компанијата да се потчини, а тоа значи закана дека компанијата ќе биде прогласена за ризик за синџирот на снабдување. „Антропик“ не попушти. 

(заб. авт. Односот на „Антропик“ со Пентагон се влоши во февруари, осум месеци по склучувањето договор вреден 200 милиони долари за обезбедување специјализирана верзија на Клод за тоа министерство. „Антропик“ се обиде да ја забрани употребата на моделот за масовен надзор на Американците или во целосно автономни системи за вооружување.)

Но „Антропик“ на друг начин помина добро - зазеде морално висока позиција и доби многу повеќе корисници благодарение на публицитетот во тој момент.

Апсолутно. Овие компании се подготвени да ѝ се спротивстават на владата на САД бидејќи знаат дека секоја казна што би можела да следува може да биде надоместена со други придобивки.

Тогаш кажете ми, кој е одговорот? Мислите ли дека личност како Папата, кој е целосно надвор од доменот на владината политика, е некој што може да понуди некаков патоказ?

Важно е сите лидери во општеството, без разлика дали се верски или некои други, да размислуваат за овие прашања и за тоа како на крајот да се заштити човечката автономија во момент кога Силициумската долина ѝ се заканува.

ВИ е како зборот „транспорт“. Транспортот опфаќа сè, од велосипеди до ракети. ВИ опфаќа огромна збирка различни технологии, од кои некои се дизајнирани како ракети: бараат многу ресурси и скапи се за производство. Генерално, ракетите ги користиме само за тесен опсег потреби во транспортот. Никогаш не одиме наоколу и не велиме: Секој човек треба да има ракета и да ја користи таа ракета за секоја своја потреба за превоз.

Мора да го промениме нашето портфолио на технологии за ВИ за подобро да ја одразува специјализираната ВИ што ни е потребна за решавање на вистинските општествени предизвици - како унапредување на здравствената заштита и забрзување на откривањето лекови.

Алфа Фолд на „Дипмајнд“ (DeepMind) е пример за систем што го нарекувам велосипед на ВИ. Тој со голема прецизност предвидува како секвенца на аминокиселини ќе се свитка во структура на протеин. Тоа е навистина важно за забрзување на разбирањето на човечките болести и дизајнирањето лекови - освои Нобелова награда за хемија. Алфа Фолд користи многу малку податоци, многу малку компјутерски ресурси, нема потреба од експлоатација на трудот, а сепак може да донесе многу придобивки. Кога ќе го погледнете портфолиото на технологии за ВИ, зарем не би сакале да ги изберете оние што носат голема корист [и] многу мал трошок?

(заб. авт. Интересен факт: Алфа Фолд сепак бараше податоци за обука, како и секоја алатка за ВИ, но „Дипмајнд“ користеше јавно достапни извори. Добиената База на податоци за протеински структури сега е слободно достапна и има повеќе од три милиони корисници во 190 земји.

Тоа се вредносни судови, нели? Да ја земеме ВИ во одбраната - многу армии ја користат за избирање цели. Вие можеби го гледате тоа како погрешно; други може да го гледаат како неопходно.

Тоа е особено контроверзно прашање за кое луѓето имаат различни ставови.

Она што го тврдам е дека постојат многу различни начини за создавање ВИ. Не мора да ги отклучувате нејзините придобивки преку штетен пристап. Зошто овие компании не ги повикуваме на одговорност според тие повисоки стандарди?

Свесна сум дека и „Антропик“ и „Опен еј-ај“ се движат кон излегување на берза. Мислите ли дека тоа би можел да биде момент што ќе донесе поголема одговорност?

(заб. авт. Според извештаите на „Блумберг“, излегувањето на „Антропик“ на берза би можело да се случи уште во октомври, додека „Опен еј-ај“ се насочува кон 2027 година.)

Се надевам дека би можело, бидејќи кога компаниите стануваат јавни, тие навистина воведуваат повеќе структури на управување. Но оваа критика ја упатувам и кон постојните јавни компании - „Гугл“, „Амазон“ [и] „Мајкрософт“ ги нарекувам „империи на ВИ“. На крајот, управувањето мора да доаѓа и од јавноста и од демократски избраните функционери, а не само од пазарните сили.

Не од основачите? Звучи како да немате доверба во луѓето што ги водат овие компании. Голем дел од вашата книга се однесува конкретно на „Опен еј-ај“ и Сем Алтман. Како го запознавте?

Почнав да се занимавам со ВИ во 2018 година за „МИТ технолоџи ривју“. Секоја недела читав научни трудови, разговарав со истражувачи на универзитетите и во корпоративните лаборатории. Во 2019 година му предложив на „Опен еј-ај“ дека во организацијата се случуваат многу промени - токму беа создале профитен огранок и можеби сакаа повторно да ѝ се претстават на јавноста. Поминав три дена во организацијата.

Не им се допадна профилот што го напишавте, нели?

Не.

Рековте дека постои несовпаѓање меѓу она што навистина го правеле и нивните ветувања. Што видовте што ве доведе до тој заклучок?

Се нарекуваа „Опен еј-ај“ поради посветеноста на транспарентноста, [но] таа организација уште тогаш беше крајно таинствена. Вработените беа многу, многу нервозни поради она што ми го кажуваа и поради тоа каде ми беше дозволено да одам во канцелариите, така што тоа веќе ми изгледаше прилично бизарно. Исто така велеа дека како непрофитна организација никогаш нема да ги комерцијализираат своите технологии.

(заб. авт. Профилот на Хао, објавен во февруари 2020 година, беше фокусиран на тројцата мажи кои тогаш беа на чело на „Опен еј-ај“: Грег Брокман, кој и натаму е таму како претседател и коосновач; Илја Суцкевер, кој замина и ја коосноваше „Сејф суперинтелиџенс“ (Safe Superintelligence); и Дарио Амодеи, кој подоцна го коосноваше „Антропик“. Во него Хао напиша дека „Опен еј-ај“ „дозволил жестоката конкуренција и растечкиот притисок за сè поголемо финансирање да ги нагризат неговите основачки идеали за транспарентност, отвореност и соработка“.)

Сега тие се целосно профитна компанија, оттаму и случајот меѓу Илон Маск и Сем Алтман. Дали Маск во оваа приказна за вас е „добриот“?

(заб. авт. Маск, коосновач на „Опен еј-ај“, ја тужеше компанијата поради наводното напуштање на нејзината првична непрофитна мисија. Тужбата беше актуелна кога разговарав со него во мај 2025 година; поротата нешто повеќе од една година подоцна ги отфрли тврдењата.)-

Не. [Се смее]

Често сме опседнати со ликовите на врвот и секогаш се обидуваме да анализираме: Кој е добриот? Кој е лошиот? Кој е помалку лошиот со кого можам да се спогодам? Јас велам: Тоа не е единствениот избор што го имаме.

Не би требало да мора да живееме со компании што се толку огромно моќни, каде што еден човек на врвот може да одлучува за сето тоа. Проблемот е управувањето, а не замената на еден лик со друг.

И вие бевте дел од истиот тој свет. Студиравте на МИТ; работевте за стартап. Ова всушност можеше да биде индустријата на вашиот живот.

Можеше, да.

Коосновачите на „Опен еј-ај“, Сем Алтман (десно) и Грег Брокман, пристигнуваат во федералниот суд на 30 април 2026 година на соочување со Илон Маск/David Paul Morris/Bloomberg

Имам впечаток дека сепак имате проблем со тие личности.

Имам посебен проблем со културата во која се потопени и со идеологиите што ги имаат. Тоа е империјалистичка идеологија. Пред да ја преземе позицијата извршен директор на „Опен еј-ај“, Сем Алтман беше претседател на „Ј комбинатор“ (Y Combinator). Тој рече: Ќе инвестирам во десетпати повеќе компании секоја година сè додека не инвестирам во секоја компанија под сонцето.

Но тогаш беше прилично млад? Можеби тоа беше ароганција или лудост.

Освен што тоа се одразува во начинот на кој ѝ пристапува на стратегијата на „Опен еј-ај“ - зголемувај ги моделите десетпати повеќе секоја година додека не го достигнеме обемот на човечкиот мозок. Сите тие размислуваат во рамки на зголемување на обемот по секоја цена.

Постојат ли некои помалку лоши момци? Мислите ли дека „Антропик“ е попринципиелна компанија од „Опен еј-ај“?

Не.

Дури и откако му се спротивстави на Пентагон?

[Извршниот директор на „Антропик“] Дарио Амодеи рече дека нема проблем со целосно автономното оружје. Проблемот е едноставно во тоа што не сакаше таа верзија на Клод да се користи за тоа.

А Клод беше користен при избирање цели со помош на ВИ: беше користен во Иран.

Така е. 

Дарио Амодеи разговара со новинарката на „Блумберг“, Емили Чанг, во седиштето на „Антропик“ во Калифорнија/Jason Henry/Bloomberg

Дали ги следите и кинеските играчи во ВИ, како „Дипсик“?

Многу површно.

Верувате ли дека тие се однесуваат поинаку? Дали и нив ги обвинувате за империјализам?

Се однесуваат поинаку. Непосредно пред да се појави ЧетГПТ, владата на САД воведе контрола на извозот за да им го блокира пристапот на кинеските компании до најнапредните компјутерски чипови за ВИ дизајнирани од „Енвидија“ (Nvidia). Одеднаш, тие кинески компании се соочија со огромно ограничување на еден од клучните ресурси што американските компании ги користеа за забрзување на развојот на својата ВИ - па [тие] мораа да пронајдат поинаков пат.

„Дипсик“ беше пример за кинеска компанија што успеа да ги развие истите способности на овие модели на ВИ [со] значително помалку компјутерски ресурси. [Тоа] ја илустрира поентата што ја изнесувам - дека всушност е можно да се произведе ВИ со значително помалку ресурси и со тоа да има многу помалку штетно влијание врз здравјето на заедницата и планетата. Зошто не го правиме тоа?

(заб. авт. „Дипсик“, кој сега вреди повеќе од 50 милијарди долари и, според извештаите, се подготвува за ИПО, и „Муншот“ се меѓу кинеските компании за ВИ што сакаат да ги потиснат „Опен еј-ај“ и „Антропик“ на странските пазари. „Опен еј-ај“ и „Антропик“ ги обвинија кинеските конкуренти дека користат американски модели за неправедно да го забрзаат развојот на сопствените производи, што ја наведе администрацијата на Трамп да ги испита кинеските модели на ВИ поради можна кражба на интелектуална сопственост.)

Иако мислите дека во САД постои недостиг од управување, сепак постои одредено ниво на надзор и одговорност, што во Кина целосно отсуствува.

Постои тенденција во медиумите да се претпоставува дека трката се води меѓу [САД и] Кина - националните држави - наместо меѓу отворените и затворените модели. Се чувствувам сосема спокојно ако [еден] модел со отворен код доаѓа од Кина или од САД, затоа што е отворен; тоа е нешто што може да се проверува. Доминантните играчи што ги критикувам се сите затворени.

Луѓето од академската заедница во оваа област на крајот почнаа да основаат сопствени компании паралелно со својата работа. Мислите ли дека тоа е лош развој на настаните?

Проблематично е само ако станува збор за истата група луѓе од кои добиваат финансирање. Тоа беше проблемот со нашиот стартап: моделот на финансирање со ризичен капитал и притисокот секогаш да се расте [и] многу брзо да се стане профитабилен.

Кога би постоеле компании што се фокусираат на видовите проблеми за кои мислам дека е важно да ги решиме и кои исто така развиваат ВИ со пристап насочен кон заштита на човечката автономија, одржливоста и така натаму, тогаш, да, со задоволство би разгледала таква можност. Не мислам дека би им била особено корисна; мислам дека е подобро да бидам новинарка.

На крајот, Клод или ЧетГПТ - што користите?

Ниту едното ниту другото.

Навистина? Која е алтернативата во вашиот живот?

Нема. Мојот ум.

Не чувствувате ли дека тоа ве ограничува?

Всушност, ме ослободува.