Кога Закерберг и Маск ќе почнат да управуваат со сообраќајот

Пешаците во технолошката престолнина на светот последниве денови доживеаја ненадејна промена во секојдневната урбана рутина. Наместо вообичаената електронска наредба „ве молиме почекајте“ (please wait), на пешачките премини се слушнаа препознатливите гласови на Илон Маск и на Марк Закерберг. Станува збор за хакерски потфат што искористи една од најчувствителните точки на модерната урбана инфраструктура, онаа каде што секојдневната технологија е во контакт со најшироките маси – случајните минувачи.

Како што прво извести „Пало Алто онлајн“ (Palo Alto Online), а потоа пренесоа и други американски медиуми, непознати хакери успеале да ги компромитираат звучните системи на десетици паметни премини во Силициумската Долина. Во системот биле вметнати вештачки генерирани гласови на технолошките могули, кои со доза веројатност (и хумор) комуницирале со пешаците. Така, гласот на Маск наводно со воодушевување наредувал: „Можете да преминете... по можност на Марс“ (You may now cross… On Mars, preferably), додека аватарот на Закерберг роботски монотоно повторувал: „Преминување улица... Оптимизирање податоци... Вчитување човек“ (Crossing street… Optimizing data… Uploading human).

 

Иако на прв поглед изгледа како безопасна шега, лесно припишана на ентузијастичен студент по информатичка безбедност со вишок слободно време и имагинација, локалните власти го сфатија целиот случај многу сериозно. Градот Пало Алто веднаш започна истрага и привремено ја исклучи засегнатата инфраструктура. Претставниците на градската управа го опишаа хакерскиот напад како „опасна и неприфатлива манипулација со јавните системи“.

Кога паметната инфраструктура станува цел на дигитален експеримент (или сатира?)

Денешните градови сè повеќе се развиваат во т.н. паметни градови, урбани средини каде што секој елемент, од јавното осветлување до кантите за отпадоци, комуницира преку интернет. Таа инфраструктура често се развива брзо, со акцент на функционалноста, додека безбедноста, за жал, останува во втор план. Токму таа дупка ја искористи оваа дигитална диверзија, наведуваат експертите на платформата X. Хакерите, наводно, користеле верзија со отворен код на алатка за генеративна синтеза на говор што е способна многу реалистично да имитира нечиј глас само по неколку минути снимка.

 

Иако сè уште не е познато кој стои зад инцидентот, локалните функционери и експертите за сајбер-безбедност се сомневаат дека не станува збор за класична криминална група. Наместо тоа, тие веруваат дека е одговорен некој од локалната заедница, личност што ја познава архитектурата на градските системи, но и културата на мемовите на интернет. Во таа смисла, овој настан не е само безбедносен инцидент туку и своевиден културен коментар. Можеме дури да го наречеме современа урбана уметничка инсталација, ако го занемариме фактот дека станува збор за неовластен упад.

Вештачката интелигенција и хуморот како меч со две сечила

Примерот со пешачките премини во Силициумската Долина открива како наизглед забавните технологии за вештачка интелигенција, како синтезата на говор, во погрешни раце можат брзо да се претворат во алатка за дестабилизација или провокација. Да, никој не беше повреден. Да, многумина се смееја. Но колку брзо таа технологија би можела да се искористи во посериозен контекст, на пример за ширење дезинформации или манипулација со јавното мислење?

Таквите инциденти треба да се доживеат како предупредување: инфраструктурата на иднината не може да се темели само на добра волја на корисниците, туку мора да биде отпорна на злоупотреби. Не е доволно системот да функционира – мора да функционира сигурно, доверливо и предвидливо во секој момент, а вештачката интелигенција, како што сè повеќе откриваме, функционира првенствено непредвидливо.

Овој хакерски експеримент нуди повеќе од анегдота во срцето на технолошкиот свет. Тој е микроскопски увид во иднината, во која границите меѓу реалноста, сатиричната критика и технолошкиот вандализам сè повеќе се заматени. Она што денес ни се чини смешно, веќе утре може да стане вистинска безбедносна ноќна мора.

Во моментов нема коментари за веста. Биди прв да коментира...

Остави коментар