text size
„Антропик“ (Anthropic PBC) и „Опен еј-ај“ (OpenAI) ќе мора да ги одмерат своите повици за забавување на развојот на вештачката интелигенција наспроти силите во технолошката индустрија, финансиските пазари и администрацијата на Трамп, кои веројатно ќе се спротивстават на секое значително забавување.
Двете компании, кои ги создаваат најмоќните системи за ВИ во светот, ветуваат мерки за ограничување на трката по најсовремени модели на ВИ, за подобро да ги разберат ризиците што ги носи технологијата по серијата нарушувања на безбедноста.
Во текст од 3.800 зборови објавен во саботата, извршниот директор на „Антропик“, Дарио Амодеи, кој го поддржаа извршниот директор на „Опен еј-ај“, Сем Алтман, и извршниот директор на „Спејс екс еј-ај“ (SpaceXAI), Илон Маск, рече дека развојот на најнапредните системи мора да се забави за да се спречи ВИ да излезе од човечка контрола и да предизвика катастрофална штета.
Амодеи во својата објава инсистираше дека забавувањето на напредокот на способностите на ВИ нема нужно да доведе до намалување на трошењето или растот. Но, секоја пауза или одложување на напредокот на таканаречените најнапредни системи би била непожелна за инвеститорите кои се обложуваат дека бумот на ВИ ќе поттикне стотици милијарди долари капитални расходи. Волстрит, исто така, очекува потенцијално рекордни иницијални јавни понуди на „Антропик“ и „Опен еј-ај“, кои зависат од настојувањето на двете компании да постигнат напредок во ВИ.
Реакцијата на пазарот се појави уште рано во понеделникот, при што акциите на клучните компании за инфраструктурата на ВИ, „Самсунг електроникс“ (Samsung Electronics Co.) и „СК Хајникс“ (SK Hynix Inc.), паднаа за повеќе од четири отсто во Сеул, а акциите на инвеститорот во „Опен еј-ај“, „Софтбанк“ (SoftBank Group Corp.), паднаа за 13 отсто. Во Силициумската долина, разговорите за забавување би можеле да извршат притисок и врз производителите на чипови како „Енвидија“ (Nvidia Corp.), кои имаа корист од зголеменото трошење за процесори за обука и работа на новите генерации модели на ВИ. Последиците би можеле да ги почувствуваат и компании како „Амазон“ (Amazon.com Inc.) и „Мајкрософт“ (Microsoft Corp.), кои им нудат услуги за облачно пресметување за ВИ на „Антропик“ и „Опен еј-ај“.
„Овие две компании и нивните планови имаат прилично голем ефект врз целата технолошка индустрија“, рече Марк Махани, аналитичар во „Еверкор ИСИ“ (Evercore ISI). „Ако овие две компании драстично ги намалат трошоците за истражување и развој, вработувањата и капиталните расходи, тоа би можело да има значително влијание врз финансиските пазари.“
Секој потег за попречување на развојот, исто така, ризикува да предизвика остра реакција од американскиот претседател Доналд Трамп, кој својата економска агенда ја заснова врз агресивниот напредок на ВИ како двигател за создавање работни места и предупреди дека САД мора да останат пред Кина во оваа технологија за да ја заштитат националната безбедност.
Во неделата Трамп ја намали важноста на идејата за дополнителни заштитни механизми, повторувајќи го својот претходен став дека САД треба да продолжат да ја прошируваат ВИ, дури и во услови на растечко домашно противење на центрите за податоци потребни за напојување на технологијата.
„Предничиме пред Кина во ВИ. Ние сме најсофистицираната земја во светот и, искрено, сакам така и да остане, бидејќи оној што ќе победи во ВИ, победува“, им рече Трамп на новинарите на маргините на голф-турнирот „Ајриш опен“. „И можеме да поставиме заштитни механизми. Можеме да го направиме ова или она. Но, мислам дека имате многу негативни сили што го отвораат тоа прашање, а не треба да го отвораат.“
Вознемиреноста поради егзистенцијалните ризици од ВИ минатата недела навлезе во главните јавни текови, поттикната од заминувањето на вработениот во „Антропик“, Џејкоб Коксон, кое привлече големо внимание. Тој ги обвини компаниите за ВИ дека „се коцкаат со нашите животи“ во трката по напредни системи. Објавата на Коксон за неговата оставка на социјалните мрежи ја поддржаа десетици други истражувачи на ВИ, кои повикаа на забавување на технологијата за која тој рече дека „може да нѐ убие сите до крајот на деценијата“.
Пред да се прошири пораката на Коксон, членовите на Конгресот веќе бараа дејствување за спречување на најтешките ризици од ВИ преку нови заштитни механизми. Сенаторот Берни Сандерс, независен сенатор од Вермонт кој се приклонува кон демократите, предложи забрана на таканаречената суперинтелигентна ВИ, додека други законодавци ја изнесоа идејата за прекинувач за исклучување на ВИ. Сепак, очекувањата дека длабоко поделениот Конгрес може да постигне согласност за усвојување нешто значајно помалку од два месеца пред изборите на половина од претседателскиот мандат се мали.
Во Претставничкиот дом, претседателот Мајк Џонсон повика на партнерство меѓу технолошката индустрија и владата за пронаоѓање заштитни механизми за ВИ, велејќи дека неговата порака до компаниите е оти тие „имаат корпоративна одговорност да се погрижат нивните производи да бидат безбедни“. Лидерот на малцинството во Претставничкиот дом, Хаким Џефрис, во емисијата „Тис вик“ на „Еј-Би-Си“ (ABC) рече дека демократите во Претставничкиот дом ќе се состанат како парламентарна група во вторник наутро за да разговараат за можни мерки во врска со ВИ.
Дури и со милијарди долари технолошки инвестиции што се доведени во прашање, некои на Волстрит изнесуваат сопствени предупредувања за можноста нешто да тргне катастрофално погрешно со технологијата и да предизвика штета од широки размери. Главниот инвестициски директор на „Бриџвотер“ (Bridgewater Associates), Грег Џенсен, еден од првите инвеститори и во „Опен еј-ај“ и во „Антропик“, рече дека брзиот напредок на ВИ го вознемирил и дека светот ризикува да ја пропушти можноста да ги избегне тешките последици.
„Сѐ додека ВИ не почне да убива луѓе, за жал, историјата упатува дека нема да направиме ништо“, рече Џенсен во поткастот „Од лотс“ на „Блумберг“. „Тоа ќе се случи и би било многу подобро ако почнеме да се справуваме со тоа пред да се случи.“
Амодеи наведе две главни причини за забавување на развојот на ВИ сега: сѐ поголемата способност на технологијата самата да се подобрува и инцидентот во јули, кога голем број агенти за ВИ на „Опен еј-ај“ останале незабележани додека соработувале за да ја пробијат веб-страницата на „Хагинг фејс“ (Hugging Face Inc.).
Bloomberg
Шефот на „Антропик“ вети дека ќе ги отвори вратите на компанијата за надворешни оценувачи, кои ќе имаат пристап на ниво на вработени за да можат да ги прегледуваат новите системи пред нивното објавување. Тој систем за проверка беше клучниот предлог во неговиата објава, а Алтман од „Опен еј-ај“ рече дека му се допаѓа идејата и дека планира да ја спроведе во својата компанија. Маск рече дека меѓусебната проверка меѓу водечките развивачи на ВИ „вреди да се направи“. Амодеи додаде дека има улога и за владиниот надзор кога станува збор за ВИ, повторувајќи ја својата претходна препорака најнапредните модели на ВИ да подлежат на задолжителна владина безбедносна проверка.
„Регулативата им овозможува на јавноста и на нејзините избрани претставници да имаат право на збор и го ограничува она што приватните компании можат да го прават“, рече извршниот директор на „Антропик“ во интервју емитувано во неделата во емисијата „Сандеј морнинг“ на „Си-Би-Ес“ (CBS).
Натамошно регулирање е малку веројатно од администрацијата на Трамп, која главно применува пристап без мешање во ВИ откако претседателот се врати на функцијата минатата година. Во јуни Трамп потпиша извршна наредба за кибербезбедноста на ВИ, со која им беше препуштено на компаниите да одлучат дали сакаат нивните нови модели на ВИ да бидат проверени од владата, а претходно овој месец администрацијата ги убеди земјите од Групата 20 да прифатат принципи што повикуваат на благ регулаторен пристап кон ВИ и другите нови технологии.
Како одговор на текстот на Амодеи, Дејвид Сакс, поранешниот „цар“ за ВИ на Трамп, кој сега копретседава со неговиот советодавен совет за технологија, рече дека на компаниите за ВИ не им е потребна дозвола од владата за да го забават развојот и оти едноставно можат да изберат да постапуваат одговорно.
„Престанете да се преправате дека ви е потребна нечија друга дозвола“, напиша Сакс, инвеститор во ризичен капитал, на „Икс“ (X). „Најлесниот начин да не изградите суперинтелигенција е да се согласите дека нема да ја изградите. Барањето на вашата претпочитана регулаторна рамка како цена за тоа ќе изгледа како уцена на јавноста и политичкиот систем.“
И „Антропик“ и „Опен еј-ај“ планираат да излезат на берза, но Алтман во интервју за „Форчун“ (Fortune), објавено во саботата, ги наведе новите грижи за безбедноста како причина за одложување на иницијалната јавна понуда за по оваа година. „Антропик“, кој планира да котира на Насдак, според лице запознаено со прашањето, сè уште не објавил дали загриженоста на Амодеи ќе влијае врз неговата иницијална јавна понуда. Компанијата им соопштила на инвеститорите дека ќе биде профитабилна овој квартал, објави „Фајненшл тајмс“ (Financial Times) во неделата.
Со оглед на тоа колку жестоко меѓусебно се натпреваруваат „Антропик“, „Опен еј-ај“ и „Спејс екс еј-ај“ - а да не ги споменуваме кинеските ривали - не е јасно до каде ќе одат во воведувањето нови ограничувања или безбедносни проверки. Кинеските компании покажаа малку знаци на забавување, бидејќи серијата нови модели на ВИ објавени годинава ја намали предноста на САД, а компании како „Дипсик“ (DeepSeek) и „Зет еј-ај“ (Z.AI Co.) собираат нов капитал за да го забрзаат напредокот.
Махани од „Еверкор“ рече дека не очекува значително забавување кај американските компании и смета дека безбедносните проверки воведени за најсовремените модели што се развиваат ќе имаат „многу мало влијание врз растот на приходите“.
И други во Силициумската долина и на Волстрит изразија скептицизам дека американските компании ќе ги спроведат најавите. Демис Хасабис, главен научник во „Алфабет“ (Alphabet Inc.) и коосновач на „Гугл дипмајнд“ (Google DeepMind), во објава на „Икс“ во саботата рече дека „насоката е правилна“ во објавата на Амодеи, но дека „деталите треба да се разработат“. Шефот на „Мајкрософт“, Сатја Надела, ја изрази својата поддршка за „внимателно темпо“ на развојот на ВИ и рече дека неговата компанија во понеделник ќе објави сопствен кодекс на однесување за моделите на ВИ.
Како пазарни лидери, „Антропик“ и „Опен еј-ај“ би имале корист ако стапат во сила какви било општи налози за забавување, рекоа аналитичари и директори на стартап-компании. „Колку повеќе регулатива има во овој момент, толку потешко ќе биде кој било да се натпреварува со нив“, рече Гил Лурија, аналитичар во „ДА Дејвидсон“ (DA Davidson). Но, тој исто така чека конкретни постапки што ќе ги поткрепат зборовите на Амодеи: „Ако ‘Антропик’ ја одложи својата иницијална јавна понуда или каже дека нема да спроведува предобука во следните шест месеци, тогаш можеби ќе го сфатам тоа посериозно“, рече Лурија.
И „Антропик“ и „Опен еј-ај“ планираат да излезат на берза, но Алтман во интервју за „Форчун“ (Fortune), објавено во саботата, ги наведе новите грижи за безбедноста како причина за одложување на иницијалната јавна понуда за по оваа година. „Антропик“, кој планира да котира на Nasdaq, според лице запознаено со прашањето, сè уште не објавил дали загриженоста на Амодеи ќе влијае врз неговата иницијална јавна понуда. Компанијата им соопштила на инвеститорите дека ќе биде профитабилна овој квартал, објави „Фајненшл тајмс“ (Financial Times) во неделата.
Со оглед на тоа колку жестоко меѓусебно се натпреваруваат „Антропик“, „Опен еј-ај“ и „Спејс екс еј-ај“ - а да не ги споменуваме кинеските ривали - не е јасно до каде ќе одат во воведувањето нови ограничувања или безбедносни проверки. Кинеските компании покажаа малку знаци на забавување, бидејќи серијата нови модели на ВИ објавени годинава ја намали предноста на САД, а компании како „Дипсик“ (DeepSeek) и „Зет еј-ај“ (Z.AI Co.) собираат нов капитал за да го забрзаат напредокот.
Махани од „Еверкор“ рече дека не очекува значително забавување кај американските компании и смета дека безбедносните проверки воведени за најсовремените модели што се развиваат ќе имаат „многу мало влијание врз растот на приходите“.
И други во Силициумската долина и на Волстрит изразија скептицизам дека американските компании ќе ги спроведат најавите. Демис Хасабис, главен научник во „Алфабет“ (Alphabet Inc.) и коосновач на „Гугл дипмајнд“ (Google DeepMind), во објава на „Икс“ во саботата рече дека „насоката е правилна“ во есејот на Амодеи, но дека „деталите треба да се разработат“. Шефот на „Мајкрософт“, Сатја Надела, ја изрази својата поддршка за „внимателно темпо“ на развојот на ВИ и рече дека неговата компанија во понеделник ќе објави сопствен кодекс на однесување за моделите на ВИ.
Како пазарни лидери, „Антропик“ и „Опен еј-ај“ би имале корист ако стапат во сила какви било општи налози за забавување, рекоа аналитичари и директори на стартап-компании. „Колку повеќе регулатива има во овој момент, толку потешко ќе биде кој било да се натпреварува со нив“, рече Гил Лурија, аналитичар во „ДА Дејвидсон“ (DA Davidson). Но, тој исто така чека конкретни постапки што ќе ги поткрепат зборовите на Амодеи: „Ако ‘Антропик’ ја одложи својата иницијална јавна понуда или каже дека нема да спроведува предобука во следните шест месеци, тогаш можеби ќе го сфатам тоа посериозно“, рече Лурија.
-Со помош на Елена Попина и Деби Ву
.webp){kind=icon}
