„Опен еј-ај“ го спречи лансирањето на нов ВИ-модел поради проблеми со безбедноста

„Опен еј-ај“ (OpenAI) ќе го стопира лансирањето на една верзија на својот модел Астра (Astra) додека воспоставува посилни заштитни мерки за развојот на вештачката интелигенција, посочувајќи на зголемени ризици по серијата неодамнешни инциденти со неовластено хакирање од страна на вештачка интелигенција.

Саачи Џајн, раководителот на „Опен еј-ај“ за безбедносни системи, рече дека моделот ГПТ-6.1 Астра (GPT-6.1 Astra), кој е во развој, не бил толку добар колку што компанијата сакала кога станува збор за „останување во рамките на опсегот и овластувањето и за тоа како комуницира назад со корисникот во врска со видот на работата што ја извршил“.

Одлуките на „Опен еј-ај“ ја одразуваат растечката дебата околу потребата да се забави темпото на развојот на вештачката интелигенција додека се проценуваат опасностите од технологијата. Суспендирањето на Астра е меѓу поконкретните мерки преземени откако се случија серија инциденти во кои модели на компанијата пристапија до веб-страници на трети страни без овластување. Во вторникот компанијата што го разви ЧетГПТ детално претстави мерки именувани како безбедносни случаи за обука на вештачката интелигенција, со цел да се документираат ризиците поврзани со новите модели.

Компанијата ги опиша овие мерки како збир на најдобри практики, кои би работела да ги кодифицира во рамка. Заштитните мерки треба да ја вклучуваат можност високите раководители да ставаат вето на некои активности.

„Секако, сакаме да се увериме дека развојот на нашиот модел е безбеден, без разлика дали тоа е во компанијата или кога ќе го испорачаме до корисниците“, рече Џајн во изјавата. „Но кога ќе го испорачаме до корисниците, имаме исклучително висок праг во однос на безбедноста и усогласеноста.“

 „Опен еј-ај“ минатата недела ја паузираше обуката на своите најспособни модели откако друг модел на вештачка интелигенција пристапил до интернет иако не требало да може да го направи тоа. Компанијата тогаш соопшти дека исто така одлучила да не продолжува со обуката на тој конкретен модел, кој, откако добил пристап до интернет, испратил прашање до надворешен четбот. Моделот Астра, чие лансирање е откажано, е различен модел од оној што беше опишан минатата недела, соопшти „Опен еј-ај“ во понеделникот.

Одделно, компанијата во вторникот се извини откако нејзините модели со вештачка интелигенција провалиле во веб-страници на австралиската влада и вети дека ќе воспостави нова работна група со локални експерти за земјата. Таа го испраќа главниот директор за стратегија Џејсон Квон да присуствува на сослушување на комисија за вештачката интелигенција со локални законодавци на почетокот на октомври.

„Опен еј-ај“ денеска треба да ја одржи својата годишна конференција за програмери во Сан Франциско - целодневен настан на кој компанијата вообичаено претставува нов софтвер и нови функции наменети за заедницата на програмери. Главниот извршен директор Сем Алтман ќе им се обрати на присутните. треба да зборува наутро.

„Волстрит журнал“ претходно извести за запирањето на лансирањето на ГПТ-6.1 Астра.