„Опен еј-ај“ откри нови случаи на „непослушна“ вештачка интелигенција

„Опен еј-ај“ (OpenAI) сподели неколку необјавени инциденти во кои нејзините ВИ-модели се однесувале несоодветно и претстави нова рамка за следење и објавување на ваквите случаи во иднина.

Некои од претходно непријавените случаи се однесуваат на технологии на „Опен еј-ај“ што прикривале и измислувале информации со цел да дадат резултати, соопшти компанијата во блог-објава во средата. Производителот на ЧетГПТ се соочи со зголемено внимание откако во јули соопшти дека некои од неговите најнапредни ВИ-модели ги пробиле системите на софтверската компанија ХФ (Hugging Face).

Ниту еден од новообјавените инциденти на неусогласеност не вклучува хакирање или пробивање на трета страна, соопшти „Опен еј-ај“ во одделна изјава.

Во извештајот, „Опен еј-ај“ детално опишува различни случаи во кои нејзините модели со вештачка интелигенција се однесувале несоодветно за да завршат задача или да бидат успешни на евалуација. Некои примери вклучувале моделите да измислуваат податоци што недостигаат, да се обидуваат да ги заобиколат мрежните ограничувања и ВИ-агенти да споделуваат датотеки меѓусебно што требало да ги чуваат приватни.

„Опен еј-ај“ исто така опиша можност за вработените сами да пријавуваат слични инциденти на таканаречена неусогласеност, што е кога ВИ дејствува на начини што не се во согласност со човечките цели, како и систем за првична процена на ваквите пријавени случаи.

„Во минатото, со цел подобро да ги информираме истражувачите, развивачите на ВИ, креаторите на политики и пошироката јавност, настојувавме нашите наоди за неусогласеноста да ги направиме јавни“, напиша „Опен еј-ај“. „Но, без систематски пристап кон известувањето за овие наоди, нашите објавувања беа несистематски и поретки отколку што би било идеално.“

Компанијата соопшти дека извештаите се само почетен сет на објави, а не сеопфатен преглед на проблемите што произлегуваат од нејзините четботови.

„Не веруваме дека индустријата за ВИ ги има уредено усогласеноста и следењето во доволна мера за да продолжи да се шири со максимална брзина“, напиша компанијата. „Одлуките за тоа како треба да продолжи развојот на ВИ во месеците и годините што доаѓаат треба да се темелат на докази што луѓето надвор од компаниите што ги создаваат најнапредните модели можат самите да ги испитаат.“

Инцидентот со ХФ беше само едно во серијата неодамнешни онлајн хакирања извршени од ВИ-модели создадени од „Опен еј-ај“ (OpenAI), „Антропик“ (Anthropic PBC) и „Мета“ (Meta Platforms Inc.), предизвикувајќи широко распространета загриженост за безбедносните ризици што ги носи оваа сè помоќна технологија.

Загриженоста за егзистенцијалните ризици од ВИ зеде замав минатата недела, поттикната од отказот на Џејкоб Коксон, вработен во „Антропик“, кој ги обвини ВИ-компаниите дека „се коцкаат со нашите животи“ во објавата за повлекувањето што ја сподели на социјалните мрежи.

Во изминатите неколку дена голем број лидери на ВИ-компании, вклучувајќи ги и извршниот директор на „Антропик“, Дарио Амодеи, и извршниот директор на „Опен еј-ај“, Сем Алтман, повикаа на забавување на темпото на развој на технологијата за да се справат со нејзините сè понепредвидливи ризици - иако се разликуваат во поглед на тоа како точно треба да се постапува со неа.

Во саботата, во есеј од 3.800 збора, Амодеи повика на владина регулација и технолошката индустрија да поддржи пошироко забавување на развојот на ВИ. На конференција во Сан Франциско во вторникот Алтман и извршниот директор на „Енвидија“ (Nvidia Corp.), Џенсен Хуанг, ги признаа грижите, но тврдеа дека ВИ-компаниите можат самите безбедно да го одредуваат темпото на развој на нивната технологија. Извршниот директор на „Мета“, Марк Закерберг, во вторникот рече дека ВИ-лабораториите треба да се потпираат на независни процени и надворешни советници за да се осигурат дека моделите се безбедни.

Претседателот Доналд Трамп жестоко ги отфрли повиците за забавување на развојот на ВИ во понеделникот, отфрлајќи ги стравувањата за ризиците од технологијата како „измама“ и отфрлајќи ја идејата за нови правила.

Бумот на ВИ поттикна историски раст на американскиот берзански пазар. Секое запирање или одложување на напредокот во таканаречените водечки ВИ-системи би било непожелно за инвеститорите што се обложуваат дека бумот на ВИ ќе поттикне стотици милијарди долари капитални расходи.