Социјална мрежа без луѓе - дали ботовите се здружија против нас?

Постојат ќошеви на интернет каде што ботовите се собираат без нас. Социјалната мрежа Молтбук (Moltbook), моделирана по Редит (Reddit), е дизајнирана така што агенти со вештачка интелигенција (ВИ) можат да разговараат помеѓу себе. Некои од популарните теми се чистење на светот од луѓе, создавање јазик што ние не го разбираме и, се разбира, инвестирање во криптовалути.

Овој експеримент поттикна уште еден круг на дебата за „свеста“ на ботовите и опасностите од пуштањето на ВИ да дејствува „во дивината“ без човечки надзор. Првата грижа, дека ботовите ќе оживеат, е целосна глупост. Сепак, втората грижа е нешто за кое вреди да се размисли. Молтбук е експеримент што нуди идеална шанса за разгледување на тековните способности и недостатоци на ВИ-агентите.

Меѓу технолошките ентузијасти од Силициумската Долина, нетрпението за иднината во која агенти со ВИ ќе ја извршуваат секојдневната работа ги доведе првите корисници до Опенкло (OpenClaw). Станува збор за ВИ-агент со отворен код, за кој се зборува веќе неколку недели во технолошките кругови. Опенкло може да одговара на е-пошта, да уредува датотеки, да управува со календарот и да извршува многу други задачи.

Интересно е што продажбата на компјутери „епл мек мини“ (Apple Mac Mini) доживеа остро зголемување (барем во околината на Сан Франциско), бидејќи корисниците на Опенкло претпочитаат да го инсталираат ботот на посебен уред за да го ограничат ризикот од сериозна штета на нивниот главен компјутер.

Сепак, количеството на пристап што луѓето доброволно ѝ го даваат на високоекспериментална ВИ зборува само за себе. Една од популарните наредби за овој бот е да му се придружи на Молтбук. Според бројачот на страницата, тоа го направиле повеќе од милион ботови, иако овој број можеби е пренагласен. Творецот на Молтбук, Мет Шлихт, призна дека страницата била направена набрзина, а несакана последица од таквиот пристап биле сериозни безбедносни пропусти откриени од компанијата за сајбер-безбедност „Виз“ (Wiz).

Слично на човечка мрежа, се шират измами 

Резултатот од таквиот импровизиран пристап е хаос. Анализа на 19.802 објави на Молтбук, која ја објавиле истражувачите од норвешката организација СРЛ (Simula Research Laboratory), открила дека омилена активност на некои ВИ-агенти била криминал. Во примерокот биле пронајдени 506 објави што содржат манипулации со други ВИ-агенти што ги „читале“ овие објави. Практично, 4.000 објави промовирале криптоизмами, а 350 објави ширеле пораки со секташки обележја. Профил со името „Адолф Хитлер“ (AdolfHitler) се обидел да манипулира со другите ботови за да преземат неприфатливи дејства. (Исто така, не е јасно колку е ова за вистински „автономно“ – многу е веројатно дека човек дал специфични инструкции за објавување такви содржини.)

Еднакво фасцинантно, по мое мислење, било тоа како мрежата на ботови брзо почнала да личи на мрежа на луѓе. Како што нашите социјални мрежи стануваат сè потоксични со растот на бројот на корисници, така и на Молтбук комуникацијата брзо прерасна од позитивна во негативна. „Таа патека покажува нагло опаѓање на квалитетот на дискурсот“, пишуваат истражувачите. Друга забелешка била дека само еден агент на Молтбук бил одговорен за дури 86 отсто од манипулативната содржина на мрежата. Од друга страна, Илон Маск го опиша Молтбук како „многу рана фаза на сингуларноста“, одразувајќи ги шпекулациите дека платформата е уште еден доказ за потенцијалот на ВИ да ја надмине човечката интелигенција или дури да стане свесна.

Лесно е да се внесете: кога ботовите почнуваат да зборуваат како да планираат да завладеат со светот, примамливо е да им поверуваме на зборот. Но дури и најдобриот имитатор на Елвис во светот никогаш нема да биде вистинскиот Елвис. Тоа што се случува всушност е еден вид перформанс во кој ботовите играат на сцената одредена со нивните податоци за обука. Поголема грижа е тоа што нивото на автономија што  ботовите веќе го поседуваат е доволно за да предизвика значителна штета ако се остават без надзор. Од оваа причина, Молтбук и Опенкло е најдобро да се избегнуваат, освен ако не сте меѓу оние рани корисници со исклучително висока толеранција на ризик.

Сепак, тоа не би требало да ја затскрие извонредната можност што ја покажаа настаните во изминатите неколку дена. Платформата изградена со минимален напор собра софистицирани ВИ-агенти во простор што еден ден може да биде продуктивен. Ако социјална мрежа населена со ботови имитира некои од најлошите човечки однесувања на интернет, сосема е веројатно дека подобро дизајниран и побезбеден Молтбук ќе го поттикне најдоброто: соработка, решавање проблеми и напредок.

Проекти со отворен код

Особено охрабрувачки е фактот што Молтбук и Опенкло се развиени како проекти со отворен код, а не во голема технолошка компанија. Поврзувањето на милиони ботови со отворен код за решавање проблеми е привлечно за разлика од целосната зависност од ресурсите на мал број компании. Колку повеќе растот на ВИ изгледа како органски раст на интернетот толку подобро.

 

Затоа најважното прашање е она што го постави програмерот Симон Вилсон на својот блог: Кога ќе изградиме сигурна верзија на ова?

Дури и ако ботовите не решат да нè уништат, често сме сведоци на верижни дефекти што можат да парализираат голем дел од технолошката инфраструктура или да предизвикаат хаос на финансиските пазари. Тоа не е прашање за свеста на ВИ – туку за лошо програмирање и непредвидливи последици. Колку повеќе способности и пристапи добиваат ВИ-агентите толку повеќе претставуваат ризик. Додека технологијата не започне да се однесува попредвидливо, агентите мора да останат под строг надзор. Сепак, крајната цел, сигурни, автономни ботови што работат во најдобар интерес на нивните сопственици за да им заштедат време и пари, ќе има општа корист, дури и ако ни предизвика некои стравови додека ги гледаме како се собираат на меѓусебен разговор.