„Опен еј-ај“ ќе дозволи надворешни лица да ги оценуваат ВИ моделите во рана фаза

“Опен еј-ај“ (OpenAI) планира да им дозволи на надворешни групи да ги проверуваат нејзините модели на вештачка интелигенција (ВИ) за безбедносни ризици во раните фази од развојниот циклус, како дел од тековните напори за справување со зголемената загриженост околу потенцијалните штети од оваа технологија.

Компанијата што го создаде „Чет ГПТ“ (ChatGPT)  има намера да им дозволи на надворешни организации да спроведуваат технички проценки на безбедноста на нејзините модели за време на процесот на обука, евалуација и пуштање во употреба на нови модели на вештачка интелигенција, компанијата објави во блог-пост во вторник.

“Опен еј-ај“ исто така ги наведе приоритетите за успешно спроведување на овие проверки, вклучувајќи обезбедување „силни механизми за независност, научна ригорозност, цврсти безбедносни практики и јасни одговорности“.

Претходно, “Опен еј-ај“ главно се фокусираше на вклучување на такви групи за безбедносни проценки пред лансирањето на моделите и за евалуација на нивните способности, изјави Лама Ахмад, која ги предводи напорите на компанијата за соработка со надворешни експерти на безбедносни проверки.

Во последните недели, вработени во водечките компании за ВИ изразија загриженост за потенцијалот на ВИ да предизвика катастрофални штети. Овие стравувања во голема мера беа поттикнати од неколку инциденти во изминатите неколку месеци, кога напредни модели на ВИ од “Опен еј-ај“ и други развивачи ненамерно навлегле во системите на други фирми за време на тестирањето.

„Како што влогот станува сè поголем, сакаме да се осигуриме дека ги разгледуваме и аспектите како што се обуката и евалуацијата – кои исто така носат голем ризик – покрај самото пуштање во употреба“, рече Ахмад во интервју.

Тие напори може да вклучуваат ангажирање надворешни евалуатори во просториите на “Опен еј-ај“ за некои од најчувствителните задачи, рече Ахмад, напоменувајќи дека тоа е пристап што “Опен еј-ај“ го има испробано и во минатото.

Дарио Амодеи, извршен директор на „Антропик“ (Anthropic PBC), ривал на “Опен еј-ај“, неодамна ја повика индустријата да го поддржи забавувањето на темпото на развој на вештачката интелигенција и најави спроведување нови безбедносни мерки, вклучително и ангажирање надворешни евалуатори – потег со кој подоцна се согласи и извршниот директор на “Опен еј-ај“, Сем Алтман. Кон крајот на минатата недела, „Антропик“ соопшти дека ќе вклучи евалуатори од „Аксенчр“ (Accenture Plc) за да ја тестираат безбедноста на нивните најсовремени модели на вештачка интелигенција.

“Опен еј-ај“ води разговори со групи кои би можеле да работат на такви проценки, соопшти компанијата во блог-објавата. Ахмад изјави дека фирмата разговара со комбинација од организации со кои претходно соработувала и такви со кои не соработувала, вклучувајќи ги и истражувачките групи за вештачка интелигенција „МЕТР“ (METR ) и „Редвуд Рисрч“ (Redwood Research), на кои “Опен еј-ај“ им ја довери истрагата за инцидентот во кој моделите на компанијата навлегле во системот на „Хагинг Фејс“ (Hugging Face). „Лабораториите имаат одговорност да овозможат суштинска проверка, истовремено штитејќи ги чувствителните информации“, соопшти “Опен еј-ај“ во објавата на блогот.

Во понеделникот, “Опен еј-ај“ ги повика САД да предводат иницијатива со други земји за утврдување стандарди за најсовремената технологија за вештачка интелигенција.