Кога ВИ агентот станува сајбер ризик

„Опен еј-ај“, „Антропик“ и „Мета“ неодамна објавија дека нивните агенти за вештачка интелигенција, во контролирана тест-средина, независно извршиле дејства што во традиционалниот модел би биле класифицирани како сајбер напад, без директна човечка команда и без пријавена штета. Сајбер осигурителите сега мора да одлучат дали постојните полиси воопшто препознаваат таков настан, во време кога регионот штотуку почнува да гради основна сајбер заштита како производ.

Зошто традиционалната сајбер-полиса повеќе не е доволна?

Со години, сајбер-полисите се базираат на јасен инцидент: украдени податоци за пристап, надворешен напад на сервер или вирус што го блокира системот додека компанијата не плати откуп. Проблемот се јавува кога агентот за вештачка интелигенција прави штета користејќи ги самите овластувања што компанијата легитимно му ги дала. Картик Рамакришнан, директор на „Армила“ (Armilla), која се занимава исклучиво со осигурување од ризик од вештачка интелигенција, ги опишува потешките случаи како оние без конвенционален напаѓач и без неовластена употреба на податоци за пристап.

Аналитичката компанија „Верикс“(Verisk) предупредува на различен проблем, системски ризик: ако голем број компании го користат истиот модел на вештачка интелигенција, грешка во тој модел може да им наштети на сите одеднаш, што осигурителите би можеле да го третираат како посебна причина за исклучување на таков случај од полисата.

Дел од проблемот е што индустријата сè уште нема доволно историски податоци за прецизно да го процени овој ризик, па дури и развивачите на агенти за вештачка интелигенција, вели истражувачот на „Ранд“ (Rand), Саша Романоски, сè уште не знаат точно што можат да направат нивните системи. Пазарот на сајбер осигурување, кој денес вреди околу 15 милијарди долари, би можел да порасне на 28 милијарди долари до 2030 година, според проекциите.

Агентите за вештачка интелигенција со тоа директно влегуваат во прашања на корпоративно управување, одговорност и контрола на пристап. Осигурителите веројатно сè повеќе ќе бараат дали компанијата може јасно да покаже кои системи ги користи агентот, какви одлуки му е дозволено да донесува и каде е потребна човечка контрола. За регионот Адрија, тој проблем има дополнителен слој: додека развиените пазари се обидуваат да ги приспособат постојните политики на новите ризици од вештачка интелигенција, дел од регионот сè уште гради основна понуда за сајбер осигурување.

Регион каде што сè уште се гради основно сајбер осигурување

Додека глобалната дебата е за тоа како да се класифицира штетата направена од агент со легитимен пристап, во Босна и Херцеговина дебатата е дали компанијата воопшто може да купи сајбер полиса. Керим Хрустановиќ, извршен директор на брокерската куќа „АНО Иншуренс Солушнс“ (ANO Insurance Solutions), објаснува дека локалниот пазар во БиХ сè уште нема развиена понуда за овој вид заштита, па затоа е тешко за компаниите да најдат осигурител кој е подготвен да преземе таков ризик.

Србија, Босна и Херцеговина, како и Северна Македонија, немаат државен закон што предвидува одредени безбедносни мерки против сајбер ризици за приватните компании. Хрватска и Словенија се во различна позиција поради построгата регулаторна рамка на ЕУ. Обврските што произлегуваат од директивата НИС2 (NIS2) важат за повеќе од три илјади компании во Хрватска и бараат посериозно управување со сајбер ризици, со можни казни до десет милиони евра. НИС2 не бара купување на сајбер осигурување, но поголемиот притисок врз компаниите за мерење и контрола на ризикот може индиректно да ја зголеми побарувачката за вакви полиси.

 

За компаниите во регионот што воведуваат агенти за вештачка интелигенција, два проблема се спојуваат. Првиот е нов: агентот може да направи штета без класичен напаѓач, користејќи ги овластувањата што веќе ги има. Вториот е постар: пазарот на сајбер осигурување во дел од регионот сè уште не е доволно развиен за да им понуди на компаниите широка финансиска заштита од вакви настани.

Во САД и Западна Европа, прашањето е како да се приспособат постојните политики на агентите за вештачка интелигенција. Во дел од регионот Адрија, прашањето е пошироко, дали воопшто постои соодветна полиса и што таа опфаќа. Затоа, компанијата што распоредува агенти за вештачка интелигенција треба да знае не само до кои системи може да пристапи, туку и кој ги сноси трошоците ако нешто тргне наопаку.