„Антропик“ предлага пауза во развојот на вештачката интелигенција поради големи ризици

„Антропик“ (Anthropic) повика на создавање механизам на ниво на целата индустрија кој привремено би го запрел развојот на вештачката интелигенција (ВИ), давајќи му можност на општеството да се „соочи со огромните последици од неа“.

Технологијата напредува до точка во која ВИ ќе го направи човечкиот труд илјадници пати поефикасен или дури ќе го замени, создавајќи нов сет на ризици, соопшти компанијата во обемна објава што неодамна ја поставија коосновачот Џек Кларк и директорката на „Антропик Институт“ (Anthropic Institute), Марина Фаваро.

Вештачката интелигенција би можела да почне самата да се усовршува и да гради сопствени наследници, со што би се намалила улогата на луѓето, напишаа Кларк и Фаваро. „Тој судир, во кој интелигенцијата што сама се надградува сè побрзо се среќава со светот на луѓето, односите и управувањето, е уште еден дел од иднината што не можеме да го предвидиме“, напишаа тие.

Во блог-објавата оваа идеја беше споредена со меѓународната регулација на нуклеарното оружје. Секој механизам за паузирање би морал да обезбеди и помалку совесните лаборатории за вештачка интелигенција да не продолжат тајно да работат на напредокот на технологијата за време на паузата, што веројатно би се спроведувало преку проверки од експерти.

„Анропик“ планира да организира разговори со носители на политики, истражувачи и други компании од областа на вештачката интелигенција за да разговараат за структура за „координација и промислување“, а потоа ќе ги објави резултатите, се наведува во објавата.

 

 

Ова не е првпат водечки истражувач од областа на напредната вештачка интелигенција да повика на пауза во развојот. Во 2023 година, ФЛИ (Future of Life Institute), непрофитна организација насочена кон ублажување на ризиците од технологијата, повика на пауза од најмалку шест месеци за да се воспостават заштитни механизми за вештачката интелигенција, предупредувајќи на потенцијално катастрофални последици. Илон Маск го потпиша тој апел заедно со повеќе од илјада други истражувачи и менаџери.

Самиот „Антроипик“ продолжи да објавува напредни модели и алатки, како што се неговиот популарен асистент Клод (Claude) и новиот модел Митос (Mythos), за кој компанијата тврди дека може да открива и искористува пропусти во сајбер безбедноста со исклучителна брзина. Компанијата исто така се подготвува за иницијална јавна понуда (ИПО).

Критичарите на писмото од 2023 година тврдеа дека запирањето на развојот непотребно би ги задушило иновациите и дека американските компании, со прифаќање на забавување, би им дале предност на други земји. Поранешниот извршен директор на „Гугл“, Ерик Шмид, предупреди дека паузата би им дала предност на конкурентите во Кина, која е вклучена во технолошка и трговска војна со САД.

Авторите од „Антропик“ ги признаа овие тешкотии и наведоа дека „контролата на вооружувањето“ со вештачка интелигенција е попредизвикувачка отколку за другите технологии.

„Процесите на тренирање модели многу полесно се кријат отколку ракетните силоси, нивните влезни податоци се од општа намена, а поттикот за тајно прекршување на договорот е огромен бидејќи оној што ќе продолжи додека другите паузираат може да го преземе водството“, напишаа тие. Иако светот и претходно градел слични платформи, за нив „беа потребни децении за да се изградат, како инфраструктурата, така и довербата. Ние немаме толку време.“