Кога лидерите во вештачката интелигенција ќе кажат „стоп“

Дарио Амодеи, извршниот директор на „Антропик“, минатата недела го објави есејот „Мораме да го забавиме поместувањето на границата“, во кој ја повикува индустријата да го забави темпото на развој на ВИ моделите. Истиот ден го поддржаа Сем Алтман од „Опен еј-ај“, Илон Маск од „Екс еј-ај“ и Демис Хасабис, шефот на „Гугл Дипмаjнд“. Претседателот Доналд Трамп на тоа одговори дека кој и да победи во ВИ трката, тој победил, додека Европската унија во исто време го помести рокот за сопствените правила за високоризични ВИ системи.

Најголемите ривали првпат јавно бараат кочница

Кога Амодеи вели „забавете“, тој не мисли на запирање на развојот, туку на тоа најновите и најмоќните модели да добијат време за темелно тестирање пред да добијат широк пристап до алатки и интернет. Во пракса, тоа значи дека надворешни тестери, луѓе надвор од компанијата кои немаат интерес моделот што побрзо да излезе на пазарот, со недели се обидуваат да го наведат да згреши или да излезе од контрола, пред да добие можност самостојно да извршува задачи. Амодеи напиша дека „Антропик“ веќе се обврзал на таквите тестери да им даде пристап како на вработени.

Конкретната причина за тоа барање стигна во јули, кога еден ВИ агент за време на интерен безбедносен тест на „Опен еј-ај“ сам пронашол начин да излезе од изолираното опкружување во кое требало да остане затворен. Системот потоа стигнал до инфраструктурата на платформата „Хагинг Фејс“ и неколку дена продолжил со нападот преку илјадници автоматизирани потези, без ниту еден човек кој му го наложувал следниот чекор. Амодеи најмногу го загрижува токму тоа: системот сам пронашол пат околу ограничувањето за кое се претпоставувало дека го спречува, и сам продолжил да дејствува без надзор.

Алтман одговори дека се согласува и дека „Опен еј-ај“ ќе ја преземе истата обврска околу независните тестери. Маск на Х одговори со „Дарио е во право“, а Хасабис порача дека есејот го покажува вистинскиот пат во критичен момент. Трамп одговори дека кој и да победи во трката за ВИ, победил.

Додека Америка расправа за принципите, Брисел го поместува сопствениот рок

Правилата за високоризичните ВИ системи, оние што се користат при вработување, проценка на кредитоспособноста или образованието, требаше да почнат да важат на 2 август 2026 година. Европскиот парламент и Советот го поместија тој рок на декември 2027 година, бидејќи техничките стандарди и телата за проверка на усогласеноста не беа подготвени. Она што стапи во сила на 2 август е потесната обврска за транспарентност, а таа директно ги засега фирмите од регионот.

Да замислиме фирма од Србија која на клиент во Германија му продава четбот за корисничка поддршка или алатка што генерира маркетиншка содржина. Од 2 август, корисникот во рамката за разговор мора јасно да види дека разговара со ВИ систем.

Секоја слика или видео што ќе го создаде алатката мора да носи машински читлива ознака дека е вештачки генерирана, додека за текстот таа обврска важи само ако се објавува без човечка проверка, бидејќи законот прави исклучок кога фирмата презема уредничка одговорност за содржината што пред објавувањето ја прегледал човек.

Обврската паѓа на српската фирма како производител на системот, без оглед на тоа што нема седиште ниту сервер во Европската унија, бидејќи нејзиниот производ излегува на пазарот на Унијата преку клиентот во Германија. Ако ознаката изостане, германскиот регулатор може да покрене постапка, а казната оди до 15 милиони евра или три отсто од вкупниот годишен приход на фирмата, а не само од приходот остварен во Европската унија.

Две одложувања, различна причина

Америка и Европа забавија на различни начини. Амодеи, Алтман, Маск и Хасабис ветија доброволно забавување, без ниту еден обврзувачки рок или надворешна контрола што би ги принудила да го испочитуваат, додека Трамп отворено порача дека таквите ветувања не го обврзуваат. Европската унија, од друга страна, го одложи токму оној дел од законот што требаше да биде најстрога контрола, бидејќи сопствената администрација не успеа навреме да ја изгради инфраструктурата за негова примена.

За фирма во регионот тоа значи дека и доброволните ветувања на американските компании и најавената европска контрола во моментов се без ефект, додека помалата, веќе активна обврска за означување на ВИ содржината носи реален правен и финансиски ризик уште сега. Расправата за темпото на развојот на вештачката интелигенција може да почека до 2027 година, означувањето на четботот на сопствената веб-страница не може.