Трамп го смени ставот за безбедноста на ВИ - поддржува независни проверки

Претседателот Доналд Трамп ја поддржа употребата на надворешни ревизори за проценка на безбедноста на системите за вештачка интелигенција преку договор со лидерите од Силициумската долина, со кој се настојува да се избегнат нови владини правила во справувањето со сè поголемата загриженост околу ризиците од ВИ.

Според договорот постигнат на ручек во Белата куќа во вторникот со дваесетина врвни директори од технолошката индустрија, компаниите за ВИ исто така се обврзаа редовно да се состануваат за да ги утврдуваат најдобрите практики за индустријата. Документот нема правна тежина, иако претседателот им рече на новинарите дека е „морално обврзувачки“.

„На некој начин, тоа е речиси како устав“, им рече Трамп на новинарите пред Белата куќа по настанот. „Најголемите луѓе во светот го потпишаа тоа, а јас го потпишав како претседател, и тоа навистина претставува еден вид заштита.“

Договорот произлезе од речиси двочасовната средба меѓу претседателот и неговите гости, која се одржа во услови на зголемена глобална загриженост поради потенцијално катастрофалните ризици од ВИ. Меѓу потписниците беа и лидерите на некои од најпознатите компании што развиваат ВИ: главниот извршен директор на „Антропик“, Дарио Амодеи, главниот извршен директор на „Енвидија“, Џенсен Хуанг, и Илон Маск од „Спејс екс-еј-ај“.

Меѓу другите потписници беа претседателот на „Опен еј-ај“, Грег Брокман, Марк Закерберг од „Мета“ и Сундар Пичаи, главен извршен директор на „Алфабет“, матичната компанија на „Гугл“, според копијата што Трамп ја објави на својата мрежа Трут сошл. Неколку од компаниите, вклучително и „Антропик“ и „Опен еј-ај“, и претходно се обврзаа дека ќе ангажираат независни оценувачи.

Bloomberg Mercury

Подготвеноста на Трамп да се вклучи во прашањето за безбедноста, откако претходно ги отфрли стравувањата од катастрофални сценарија како „измама“, покажува како ВИ сè повеќе станува политички чувствително прашање во пресрет на изборите во ноември. Трамп се наметна како еден од најгласните поборници за непречен развој на ВИ, што го става спроти гласачите кои се скептични кон технологијата. Повеќе од седум од десет гласачи изјавиле дека претпочитаат кандидати кои поддржуваат построги заштитни мерки за ВИ, според новата анкета на Универзитетот Квинипијак.

Стравувањата на јавноста во врска со ризиците од ВИ се зголемија по серијата високопрофилни хакерски напади од одметнати агенти на „Опен еј-ај“, вклучително и еден што беше насочен кон веб-страница на австралиската влада, како и по неодамнешните предупредувања од поранешни вработени во компании за ВИ дека технологијата претставува егзистенцијална закана за човештвото.

Со договорот, администрацијата остана цврста на својот претходен став дека компаниите за ВИ се одговорни самите да се надгледуваат, но документот сигнализира нова отвореност кон одредени заштитни мерки. Во него се сугерира дека компаниите за ВИ „треба“ да воведат четири нивоа на контрола и се наведува дека „можеби би имало смисла“ неговите препораки во иднина да се преточат во закон или регулатива.

Прифаќањето на надворешни оценувачи претставува промена во ставот на администрацијата кон безбедноста на ВИ. Додека индустријата бараше користење независни оценувачи за проверка на нејзините најнапредни модели, претставници на администрацијата на Трамп со скепса гледаа на групите што се сметаат за најсоодветни за спроведување на тие проверки поради нивните идеолошки определби.

Врските меѓу многу од оценувачите на безбедноста и движењето познато како ефективен алтруизам претходно се закануваа целосно да ја исклучат можноста Трамп да прифати надворешни оценувачи. Приврзаниците на движењето, кое е популарно во Силиконската долина, настојуваат секоја одлука да ја темелат на математички веројатности за кои веруваат дека би ја максимизирале користа за другите луѓе, а генерално се залагаат за забавување на развојот на ВИ поради стравувањата дека таа би можела да доведе до исчезнување на човештвото.

Поранешниот советник на Трамп, познат како цар за ВИ, Дејвид Сакс, кој присуствуваше на ручекот во Белата куќа во вторникот, ги отфрли надворешните проценки како „псевдонаука“. Сепак, некои од компаниите кои би можеле да ги спроведуваат тие проверки веќе се сретнале со Центарот за стандарди и иновации во ВИ, единица во рамките на Министерството за трговија, објави претходно „Блумберг њуз“.

Покрај независните оценувачи, договорот препорачува компаниите да преземат безбедносни мерки преку воведување внатрешни контроли за ризиците поврзани со сајбер-безбедноста, биолошката безбедност, хемиските закани и ненамерните дејства на моделите на ВИ. Компаниите, исто така, треба да формираат внатрешен тим кој ќе ги следи тие контроли и да назначат независен комитет во рамките на одборот на директори кој ќе ги надгледува тимовите за безбедност и независните ревизии, се наведува во документот.

И покрај тоа што во вторникот беше укажано на загриженоста за безбедноста, снимките од Трамп како настојува да ја придобие групата директори милијардери, кои ги нарече „најбрилијантните луѓе во светот“, би можеле да им дадат материјал на неговите политички противници кои го обвинуваат дека е премногу близок со технолошката индустрија.

За време на неговото појавување со директорите пред Белата куќа, Трамп покажа промена во ставот кон Амодеи, кој веќе долго време застапува значително поинаква позиција од претседателот во однос на безбедноста на ВИ. Заложбата на шефот на „Антропик“ од почетокот на овој месец да го забави развојот на најнапредната ВИ предизвика критика од Трамп на социјалните мрежи, но атмосферата во вторникот беше поинаква.

Трамп рече дека Амодеи „беше фантастичен“ и го повика да им се обрати на новинарите, приближувајќи се до него и предупредувајќи го „да биде внимателен“. Амодеи, кој во неделата вечерта се сретна со претседателот на приватна вечера, го поддржа повикот на Трамп САД да го зачуваат водството во ВИ, но посочи дека клучните прашања поврзани со безбедноста и натаму остануваат нерешени.

„Технологијата носи многу реални ризици“, рече Амодеи. „Сите треба да работиме заедно за да се погрижиме дека можеме да победиме и дека можеме безбедно да победиме ако го направиме ова како што треба“, додаде тој, пред да излезе од кадарот додека Трамп се жалеше на „лажните вести“.