ЧетГПТ не краде податоци, компаниите сами ги доставуваат

Компаниите „губат време и пари на токени, честопати без никаква вредност, а компаниите за вештачка интелигенција ја земаат нивната интелектуална сопственост“, изјави ​Алекс Карп, извршен директор на „Палантир“, за Си-ен-би-си (CNBC). Акциите на „Палантир“ скокнаа за 9 проценти истиот ден, иако неговата компанија продава платформи што ветуваат контрола на податоците како решение за проблемот за кој тој предупредува. Изјавата брзо стана вирална бидејќи ја допира дилемата со која мора да се соочи секоја компанија што користи ЧетГПТ (ChatGPT) или Клод (Claude): без разлика дали ги храни туќите модели со сопствените деловни тајни.

Карп ја погрешил адресата на проблемот

„Форчн“ ги провери тврдењата на Карп и заклучи дека се претежно неточни или контрадикторни. Водечките даватели на вештачка интелигенција не користат договорно податоци за деловни корисници за обука на модели, освен ако компанијата конкретно не се согласи на тоа. Сепак, ниеден договор со давател на вештачка интелигенција не може да ја заштити компанијата од вработен што копира доверлив документ на лична сметка и го користи по своја волја.

Слични критики во последните месеци изнесува  и извршниот директор на „Мајкрософт“, Сатја Надела, но од различен агол. Тој ја доведува во прашање врската помеѓу цената на токените за вештачка интелигенција и деловната вредност што компаниите всушност ја добиваат. Вистинскиот ризик лежи на друго место.

Според истражувањето на безбедносната фирма „Зскалер“ (Zscaler), само ЧетГПТ беше поврзан со повеќе од 410 милиони внатрешни прекршувања на заштитата на податоците минатата година. Тоа се случи само затоа што самите вработени внесоа доверливи информации во јавни алатки за вештачка интелигенција без да размислат како ќе се користат тие податоци.

Вработените често користат лични сметки затоа што компаниите не сакаат да плаќаат за поскапи лиценци за претпријатија (API), па вработените вообичаено користат бесплатни или приватни сметки што споделуваат податоци по дифолт. Ова е грешка што самите компании ја прават затоа што не ги разбираат потребите на своите вработени.

Типичниот пример изгледа сосема безопасно. Програмер копира дел од изворниот код за вештачката интелигенција да може да му објасни грешка. Адвокат вметнува нацрт-договор за да предложи подобар текст. Продавач лепи табела во ексел со цени и маржи за да создаде извештај за претстојниот состанок. Маркетинг-тим внесува план за лансирање нов производ за да добие идеи за кампања.

Depositphotos

Во повеќето случаи, целта е да се заштедат неколку минути работа, а не намерно да се прекршат политиките на компанијата. Меѓутоа, ако компанијата нема јасни правила за тоа што може, а што не може да го напушти нејзиниот информациски систем, вработените стануваат најголем безбедносен ризик.

Регионот штотуку влегува во оваа фаза

Американските компании дискутираат за правилата по неколку години масовна употреба на генеративна вештачка интелигенција. Нашиот регион ги презема само првите чекори, што во овој случај е предност за поставување на вистинските процеси за иднината.

Според анкетата на ИКТ Хаб (ICT Hub) и Српското здружение на менаџери на примерок од 157 компании, вештачката интелигенција ја користат само 34 проценти од компаниите во Србија. Главните пречки што ги наведуваат компаниите се високите трошоци и недостигот од внатрешна експертиза, додека безбедноста на податоците е во втор план. Фактот дека 85 проценти од големите компании имаат стратегија за вештачка интелигенција дава лажна слика. Ова е претежно труд предложен од надворешен консултант, додека вистинската оперативна имплементација во процесите е драстично помала.

Во исто време, првото регионално истражување за влијанието на вештачката интелигенција врз вработените и компаниите, започнато од „Харткаунт“ (HeartCount) и „Џоберти“ (Joberty) во Србија, Хрватска, Босна и Херцеговина, Северна Македонија и Црна Гора, сè уште не покажа колку организации имаат дефинирано правила за користење алатки за вештачка интелигенција.

Одбраната започнува пред првото прашање

Заштитата на податоците не започнува со избор помеѓу ЧетГПТ и Клод, туку со одлучување кој има право да користи вештачка интелигенција, преку која сметка и со кои податоци.

Поголемите компании исто така можат да имплементираат систем DLP (Data Loss Prevention - превенција од губење податоци), кој идентификува чувствителни информации и спречува нивно копирање или испраќање до неовластени услуги за вештачка интелигенција. На пример, „Мајкрософт“ веќе дозволува блокирање чувствителни податоци во потрошувачките верзии на ЧетГПТ и други алатки за вештачка интелигенција.

Доколку користат лични сметки, поединците можат да ја оневозможат опцијата „Подобрување на моделот за сите“, по што новите разговори не се користат за обука на моделот. Корисниците на Клод можат да ја оневозможат дозволата за користење разговори за подобрување на моделот и да ги избришат старите разговори, кои потоа се отстрануваат од системот во рок од 30 дена, со исклучоци поврзани со безбедноста и законските обврски.

Иако постојат сомневања дека „Опен еј-ај“ и „Антропик“ „крадат“ интелектуална сопственост, важно е раководителите на компаниите да разберат што нивните вработени внесуваат во алатките за вештачка интелигенција на дневна основа, без разлика дали користат личен профил или профил на компанија, и какво ниво на пристап до податоците им дозволиле на алатките за вештачка интелигенција да имаат. Иако вештачката интелигенција во просек ја користат само една третина од компаниите во регионот, сè уште имаме можност да ги поставиме правилата на почетокот. Американските корпорации сега ја учат таа лекција многу поскапо, по години неконтролирана употреба на вештачката интелигенција.