Закерберг предлага независен надзор наместо забавување на развојот на ВИ

Главниот извршен директор на „Мета платформс“ (Meta Platforms Inc.), Марк Закерберг, изјави дека лабораториите за вештачка интелигенција треба да се потпираат на независни оценувачи и советници за да гарантираат дека моделите се безбедни.

„Ангажирањето независни оценувачи и советници е најдобра практика во индустријата“, напиша Закерберг во вторникот во објава на Икс, приклучувајќи се кон сè поголемиот број технолошки директори кои се вклучуваат во глобалната дебата за најдобриот начин да се спречи системите за ВИ да му наштетат на човештвото.

Некои претставници на компаниите изразија поддршка за забавување на темпото на развој на ВИ и се заложија за заедничка работа за да се постигне консензус. „Мета“ самостојно одлучи да ја забави работата на алатката за ВИ Мјуз (Muse), наместо прво да побара од конкурентите и тие да го проверат сопствениот напредок, напиша Закерберг.

„Мета го одложи пуштањето на Мјуз за неколку месеци за да се фокусира на безбедноста и заштитата“, напиша тој. „Не ги повикавме сите други да го направат тоа пред ние да го сториме. Едноставно го направивме како дел од нашата секојдневна работа бидејќи очигледно беше правилно за луѓето и за нас.“

Бурната дебата за економските и безбедносните ризици од ВИ се засили во текот на викендот со есеј од 3.800 зборови на главниот извршен директор на „Антропик“ (Anthropic PBC), Дарио Амодеи, кој повика на забавување на темпото на развој на најнапредните системи за истражувачите подобро да ги разберат потенцијалните закани. Главниот извршен директор на „Опен еј-ај“ (OpenAI), Сем Алтман, и главниот извршен директор на „Спејс екс еј-ај“ (SpaceXAI), Илон Маск, чии компании се жестоки ривали на „Антропик“, го поддржаа текстот на Амодеи, а еден директор на „Опен еј-ај“ изјави дека компанијата соработува со „Антропик“ и „Гугл“ (Google) на безбедноста на ВИ.

Објавата на Закерберг беше првото јавно вклучување на главниот извршен директор во најновиот круг дискусии за тоа како да се одговори на растечката загриженост, надоврзувајќи се на коментарите на директори од целата индустрија за ВИ и на законодавци ширум светот. Претходно во вторникот, главниот извршен директор на „Енвидија“ (Nvidia Corp.), Џенсен Хуанг, даде слични забелешки, велејќи дека безбедноста треба да биде редовен дел од процесот на развој и дека компаниите можат да одлучат да не пуштат производи што се штетни.

„Безбедноста е од најголема важност“, рече Хуанг за време на настан на „Сејлсфорс“ (Salesforce Inc.). „На многу начини, таа е задача број еден. Сепак, безбедноста е инженерски проблем.“

Ако дојдеме до точка кога „компанијата е надвор од контрола и производот нема да биде безбеден, направете пауза и погрижете се да го направите како што треба“, рече тој. Хуанг, исто така, ја отфрли потребата од нови прописи за безбедноста на ВИ, тврдејќи дека пазарните сили ќе им помогнат на компаниите безбедно да воведуваат иновации.

„Не ни требаат нови закони, не ни требаат нови прописи“, рече Хуанг. Главниот извршен директор додаде дека постои „лажен избор“ дека развојот на ВИ мора да биде или безбеден или брз.

„Дефинитивно можете да ги имате и двете истовремено“, рече Хуанг за време на разговорот со главниот извршен директор на „Сејлсфорс“, Марк Бениоф. „Го приспособувате темпото сè додека не бидете сигурни дека пуштате нешто што пазарот ќе го цени. Пазарните сили веќе се присутни.“

На истата конференција на „Сејлсфорс“, Алтман од „Опен еј-ај“, исто така, зазеде помирен тон, велејќи дека смета дека компаниите за ВИ можат безбедно да ја развиваат технологијата, без да им нанесат значителна штета на луѓето.

„Многу сум уверен во способноста на нашата компанија - во способноста на нашата индустрија - да го направи ова безбедно“, рече Алтман.

Иако „Опен еј-ај“ соработува со „Антропик“ и лабораторијата „Дипмајнд“ (DeepMind) на „Гугл“ за решавање на безбедносните проблеми, Алтман рече дека компаниите за ВИ треба да бидат способни самостојно и безбедно да ги подобруваат моделите на ВИ.

„Разочаран сум од начинот на кој беше претставено“, рече тој.