Стартап открива дали одреден глас е реален или генериран со вештачка интелигенција

Најновиот бран на технологија за вештачка интелигенција може да го имитира гласот на речиси секој – претседател, роднина или клиент на банка. Тоа претставува проблем и можност со кои се справува стартапот за аудио-технологија „Пиндроп“ (Pindrop Security Inc). Компанијата долго време обезбедува услуги за проверка на говорна автентичност за банки и осигурителни компании. Минатата недела објави нов производ за кој вели дека може да открие говор генериран од вештачка интелигенција и во телефонски повици и во дигитални медиуми. Нејзиниот маркетинг е насочен кон медиумските организации, владините агенции и социјалните мрежи.

„Пиндроп“ е една од сè поголемиот број на безбедносно ориентирани компании кои имаат за цел да се борат против заканата од фалсификати и измами со вештачка интелигенција. Во оваа група се компании како „Протект еј-ај“ (Protect AI Inc.), „Тулс фор хјуманити“ на Сем Алтман, и „Ворлдкоин“, која ги идентификува луѓето со помош на скенирање на нивните очи.

Со специјалност за аудио, „Пиндроп“ се најде на насловните страници во јануари откако го откри изворот на дип фејкот со  претседателот Џо Бајден, кој ги повикува луѓето да не гласаат на прелиминарните избори во Њу Хемпшир преку автоматско повикување. Компанијата соопшти дека нападите се зголемуваат односно дека забележала повеќе од петкратно зголемување на бројот на обиди за напади насочени кон нејзините клиенти од минатата година.

„Прилично е лесно да се спојат гласовниот клон и софтверот за измама за ефективно да изгледаат како некој друг на телефонот“, рече Рејчел Тобак, главен извршен директор „Сошл пруф секјурити“ (SocialProof Security).

Пиндроп привлече пари од група инвеститори од висок профил, вклучувајќи ги Андресен Хоровиц и ГВ. Оваа година, компанијата собра 100 милиони долари за финансирање на долгот од „Херкулес Капитал АД“. Најновата проценка на компанијата е 925 милиони долари.

Ко-основачот Виџај Баласубраманијан почнал да размислува за проблемот со аудио фалсификатите откако се обидел да купи одело додека патувал во Индија како докторант. Неговата американска банка го повикала да ја потврди трансакцијата околу три часот по полноќ по негово време, прашувајќи го за неговиот број за социјално осигурување. Без начин да се потврди кој е тој што се јавувал, и без многу информации од банката, тој го прекинал повикот.

„Ова е лудо“, се сеќава Баласубраманијан како размислувал додека се враќал со авион во САД. „Телефоните постојат толку долго, уште од Александар Греам Бел, и сè уште немаме начин да идентификуваме што има на другиот крај на таа интеракција“. (Тој никогаш не го добил оделото.)

Технологијата на „Пиндроп“ работи со анализа на аудио за да се утврди дали гласот е навистина човек или само налик на човек. Луѓето зборуваат правејќи специфични звуци, кои формираат зборови, рече Баласубраманијан. Но, машините не произведуваат звук како што прават луѓето и повремено генерираат варијанти кои им пркосат на физичките ограничувања во однос на тоа како човечката уста произведува звук. Бидејќи секоја секунда од гласовното аудио има 8.000 примероци во себе, има илјадници точки во кои вештачката интелигенција може да направи грешка.

„Како што добивате сè повеќе аудио, почнувате да ги гледате овие аномалии “, рече Баласубраманијан, кој додаде дека бидејќи сите луѓе испуштаат звуци на ист начин, нивниот софтвер за откривање е јазично агностички.

Компанијата вели дека нејзината нова алатка може да го идентификува звукот генериран од вештачка интелигенција со 99 проценти точност, но сè уште има дебата во индустријата за ограничувањата во откривањето на вештачката интелигенција. За наставниците, истражувачите и корисниците на социјалните медиуми, забележувањето на текст и слики со вештачка интелигенција е зачудувачки проблем додека технологијата напредува. Во март, кога „Опен еј-ај“ (OpenAI) објави алатка која може да ги реплицира гласовите на луѓето, компанијата предложи во блог пост дека бизнисите треба постепено да ја укинат гласовната автентикација за пристап до банкарски сметки и други чувствителни информации.

Џон Чемберс, поранешен шеф на „Циско“ (Cisco Systems Inc.), е член на одборот на „Пиндроп“ и го промовираше гласовниот ај-ди (ID) како невообичаено безбедна форма на автентикација на интернет. Чемберс инвестираше во стартапот преку неговата фирма, „ЈЦ2 венчрс“ (JC2 Ventures). „Гласот ќе биде примарен начин за сајбер-безбедност за да ве идентификуваме во иднина“, рече тој. Кога гласот е поврзан со биометрика и податоци за употребениот уред, „ќе биде речиси невозможно некој целосно да го наруши тоа“, рече тој.

Некои во индустријата изразија сомневање во однос на зголемувањето на компаниите кои користат вештачка интелигенција за борба против проблемите со вештачката интелигенција. Освен ако не се усвојат закони за намалување на количината на лични податоци достапни на интернет, индустријата може да се најде заробена во трајна борба помеѓу добрата и лошата вештачка интелигенција, смета Џејмс Е. Ли од Истражувачкиот центар за кражба на идентитет.

Како што се развива безбедносната технологија, така ќе се развиваат и заканите. Можно е лошите актери да тренираат алгоритам за избегнување на проверките што компаниите како „Пиндроп“ ги користат за да идентификуваат длабоки фалсификати, рече Ендрју Грото, експерт за политика за сајбер безбедност на Универзитетот Стенфорд. „Доаѓа до трка во вооружување, односно игра на мачка и глушец меѓу бранителите и актерите кои се закана“,рече Грото.

 

 

Во моментов нема коментари за веста. Биди прв да коментира...

Остави коментар