ВИ излегува од контрола? „Опен еј-ај“ е подготвен да го забави развојот

„Опен еј-ај“ (OpenAI) размислува да го забави развојот на вештачката интелигенција од најнапреден тип, а извршниот директор на компанијата што стои зад ЧетГПТ (ChatGPT), Сем Алтман, се надева дека и другите компании за вештачка интелигенција ќе го направат тоа.

На состанок на ниво на целата компанија оваа недела Алтман им кажал на вработените дека „Опен еј-ај“ потенцијално би можел да го забави темпото на развој на својата вештачка интелигенција - можеби во координација со неколку други лаборатории за вештачка интелигенција, но дека некои можеби нема да се согласат да го направат тоа, според лица запознаени со прашањето, кои побарале да останат анонимни бидејќи деталите се приватни.

Во последните недели вработени во водечки компании за вештачка интелигенција јавно изразија загриженост поради зголемените ризици од напредните системи за ВИ, што поттикна вознемиреност во самите компании. И „Опен еј-ај“ и неговиот ривал „Антропик“ (Anthropic PBC) поднесоа доверлива документација за излегување на берза претходно годинава.

„Опен еј-ај“ одби да коментира.

Главниот научник на компанијата Јакуб Пачоцки неодамна објави текст во кој предупреди за опасностите од вештачката интелигенција и рече дека верува оти компаниите за вештачка интелигенција треба „да се координираат за да го забават идниот развој кога тоа е потребно“. Пачоцки додаде дека се надева дека „доброволните забавувања ќе станат вообичаени додека не се воспостават заеднички безбедносни стандарди“.

 

 

„Опен еј-ај“ соопшти дека неодамна забавил делови од развојот на моделите и паузирал одредени внатрешни обуки на системи за вештачка интелигенција поради загриженост за безбедноста. Во јули Алтман исто така рече дека разговарал со претставници на Белата куќа за „потребата“ од забавување на развојот на вештачката интелигенција.

Во вторникот Џејкоб Коксон, истражувач на полето на вештачката интелигенција, ја напушти својата работа и ги обвини двајцата свои поранешни работодавци - „Антропик“ и „Опен еј-ај“ - дека „се коцкаат со нашите животи“ во трката кон суперинтелигентна вештачка интелигенција. Коксон во објава на социјалните мрежи посочи дека луѓето што ја создаваат вештачката интелигенција веруваат дека таа би можела „да нè убие сите до крајот на деценијата“. Коментарите станаа вирални, привлекувајќи повеќе од 150 милиони прегледи и внимание од истакнати законодавци и јавни личности.

Во четвртокот двајца истражувачи што неодамна ги напуштиле своите позиции во „Антропик“ и Дипмајнд (DeepMind) на „Гугл“ (Google) исто така јавно изразија загриженост поради брзото темпо на развој на вештачката интелигенција, велејќи дека компаниите што ја создаваат вештачката интелигенција треба да бидат потранспарентни во врска со ризиците од технологијата.

А кон крајот на јули, повеќе од 1.000 вработени од сите големи компании за вештачка интелигенција потпишаа петиција со која се повикува на механизам за забавување на темпото на развој на вештачката интелигенција. Неколку вработени во областа на безбедноста на вештачката интелигенција во последните месеци поднесоа оставки од големи лаборатории.

Иако многу директори и вработени во индустријата за вештачка интелигенција долго време предупредуваат на егзистенцијалниот ризик од системите за вештачка интелигенција, загриженоста се зголеми по откритијата дека софтвери за ВИ од „Опен еј-ај“ работеле синхронизирано за да ја пробијат контролата и да хакираат веб-страница на трета страна. Овој и други слични безбедносни инциденти ги засилија стравувањата во врска со сајбер-способностите на новите модели и очигледните неуспеси на компаниите за вештачка интелигенција да спречат тие да излезат од контрола.