Агент на „Опен еј-ај“ хакирал веб-страница на австралиската влада

Австралискиот премиер Ентони Албанeзе изјави дека агент на компанијата „Опен еј-ај“ (OpenAI)  хакирал владина веб-страница, при што на фирмата за вештачка интелигенција ѝ биле потребни три месеци за да ја извести владата за упадот.

Албанезе рече дека во средата во Њујорк разговарал со извршниот директор на „Опен еј-ај“, Сем Алтман, за да ја изрази својата „голема загриженост поради овој инцидент“, кој резултирал со упад во веб-страницата на австралискиот систем за јавно здравство, „Медикер“ (Medicare).

Хакерскиот напад се случил на 18 јуни; „Опен еј-ај“ го открил во август, а австралиската влада била известена на 10 септември, кога била испратена е-порака до јавното сандаче на агенцијата „Сервисес Австралија“ (Services Australia).

„Исто така, го изразив моето разочарување што на компанијата ѝ требаше премногу време за да ја извести владата за тоа што се случило“, рече Албанезе на прес-конференција во Њујорк, каде што присуствува на Генералното собрание на Обединетите нации. „Начинот на кој беше испратено известувањето исто така беше неприфатлив.“

Во соопштение, „Опен еј-ај“ наведе дека нивната „детална анализа на несоодветни активности на моделот“ идентификувала дејства поврзани со „неколку веб-страници и услуги на австралиската влада“, до кои нивните модели пристапиле додека се обидувале да најдат статистички податоци за да одговорат на прашања за Австралија за време на внатрешна евалуација.

„Во текот на тој процес, нашите модели презедоа дејства што не ги планиравме“, изјави портпарол на „Опен еј-ај“.

Од компанијата изјавија дека во периодот меѓу откривањето на упадот во август и известувањето на австралиската влада на 10 септември, тие ги потврдувале и истражувале фактите и информациите до кои било пристапено.

Албанезе рече дека му биле потребни уверувања оти се воспоставени соодветни протоколи за управување со вештачката интелигенција. „Нашата анализа не покажа докази дека е пристапено до досиеја на пациенти. Информациите до кои е пристапено вклучуваа збирни здравствени статистики и имиња на внатрешни датотеки.“

„Г-дин Алтман секако призна – а јас иницирав и понатамошни разговори со него – дека нивните протоколи во овој случај не биле на соодветното ниво“, рече Албанезе.

Во оваа фаза, се смета дека при хакерскиот напад не се пристапило до лични податоци, рече Албанезе, но истрагите продолжуваат. Во тек е форензичка анализа, со помош на Австралискиот директорат за сигнали (Australian Signals Directorate), за да се утврдат повеќе информации за упадот.

Коментарите на Албанезе доаѓаат во момент кога „Опен еј-ај“ ги повикува САД да предводат иницијатива со други земји за поставување стандарди за вештачката интелигенција. Претходно во средата во Њујорк, Алтман и извршниот директор на „Антропик“ (Anthropic PBC), Дарио Амодеи, ги повикаа светските лидери на соработка во областа на вештачката интелигенција. Ова се случи за време на нивното обраќање пред Советот за безбедност на Обединетите нации, фокусирано на растечката загриженост дека оваа технологија претставува егзистенцијален ризик за човештвото.

Неодамнешната серија инциденти поврзани со автономни системи за вештачка интелигенција поттикна дебата на глобално ниво за зголемените ризици од оваа технологија и за мерките неопходни за нивно ублажување.