Фил Менцер првпат се сретнал со „социјални ботови“ на почетокот на 2010 година. Проучувајќи како информациите се шират на Твитер, тој наишол на неколку групи профили што му изгледале малку сомнително. Некои од нив ја споделувале истата објава илјадапати. Други одново споделувале илјадници објави. „Ова не се луѓе“, се сеќава како размислувал во тоа време.
Тоа беше почеток на богата кариера со следење ботови. Како истакнат професор по компјутерски науки на Универзитетот „Индијана“ во Блумингтон, Менцер проучувал како ботовите се умножуваат, манипулираат со луѓето и ги вртат едни против други. Во 2014 година тој бил дел од тимот што ја развил алатката „Бот ор нот“ (BotOrNot), која им помага на луѓето да откриваат лажни профили на интернет. Менцер сега има репутација на еден од најистакнатите ловци на ботови.
Ако некој може да ги забележи ботовите меѓу нас, тоа е Менцер. Пред неколку години, кога почна да се дискутира за теоријата за мртов интернет, поаѓајќи од претпоставката дека разговорите се генерирани од вештачка интелигенција (ВИ), која ја презела речиси целата комуникација на интернет, тој ја отфрли како бесмислица. Но, бумот во генеративната вештачка интелигенција со сите тие четбот-момчиња и ВИ-инфлуенсери го натера Менцер да ја согледа оваа теорија во поинакво светло. Тој сè уште не ја зема идејата здраво за готово, но, како што велат, почнува сериозно да ја сфаќа нејзината скриена порака. „Дали сум загрижен?“, прашува тој. „Да, многу сум загрижен.“
Теоријата за мртвиот интернет стана популарна во 2021 година, кога корисник под името Илуминати Пират (lluminatiPirate) постави објава на малку посетен онлајн форум. Илуминати Пират тврдеше дека интернетот станал огромна безлична пустелија исполнета со алгоритамски оптимизирани имитациски објави (објавите се приспособени за што е можно подобро да функционираат на платформите, на пример да добиваат повеќе прегледи, лајкови или полесно и побрзо да се шират). Според оваа теорија, зад сето тоа стои таен владин заговор - тврдење што лесно се отфрла. Меѓутоа, со доаѓањето на дигиталните алатки како ЧетГПТ (ChatGPT) и Мидџрни (Midjourney) – ВИ-алатка што генерира слики врз основа на текстуален опис - оваа теорија почна да изгледа помалку реално. Социјалните медиуми изгледаат сè почудно. Прекуноќ се појавија цели мрежи со вести генерирани од ВИ. „Мета платформс“ (Meta Platforms Inc.) предвидува иднина во која ВИ ќе биде вклучена во креирањето добар дел од објавите на Фејсбук и Инстаграм. Интернет-страници како Википедија се мачат под товарот на ВИ-пребарувачите, кои пребаруваат низ нивните страници во потрага по нови информации за да ги нахранат своите модели. Сето тоа води до повратна спрега - содржината генерирана од вештачка интелигенција се создава така што ќе одговара на системите за вештачка интелигенција за испраќање препораки до корисниците, со што луѓето се истиснуваат.
Рене Диреста, водечка истражувачка во областа на дезинформациите, и Џош Голдштајн, научен соработник на Универзитетот „Џорџтаун“, минатата година започнаа да ја истражуваат употребата на содржините генерирани од ВИ во спамови и онлајн измами. Тие се фокусираа на повеќе од сто фејсбук-страници со десетици слики генерирани од ВИ, кои заедно имаа милиони следбеници. Некои од нив содржеа лажни слики од минијатурни крави што ги насочуваа следбениците кон лажни интернет-страници каде што корисниците наводно би можеле да ги купат. Други страници содржеа идилични слики од мали куќи и колиби што водеа до сајтови со реклами.
Сето тоа претставува продолжение на традицијата на создавање таканаречени фарми за содржини (веб-страници што масовно произведуваат евтина содржина со низок квалитет) за да се заработуваат пари од дигитални реклами. Благодарение на ВИ, сега е многу полесно да се полнат тие страници со содржини. Дополнително, истражувањата во областа на маркетинг-индустријата покажаа дека, благодарение на ВИ, сега на ботовите им е полесно да симулираат активности на реални корисници, правејќи да изгледа како луѓето да кликаат на реклами.
Во својата работа Диреста и Голдштајн идентификуваа многу фејсбук-страници врз основа на истите описи што се повторуваат. „Ова е мојата прва торта! Би сакала да го чујам вашето мислење“, гласеше описот на најмалку 18 различни слики од 18 различни торти објавени од 18 различни луѓе генерирани од вештачка интелигенција. Страниците привлекуваа вистински луѓе, честопати несвесни што се случува. Уште позабунувачко е што сликата генерирана од ВИ на Исус Христос во облик на рак доби стотици илјади лајкови и реакции со емотикони за прегратка. Уметноста со вештачка интелигенција со слаб квалитет е толку распространета онлајн што набљудувачите измислија термин за неа: слоп (англ. slop – ѓубре, шунд).
Depositphotos
Во некои случаи мотивацијата што стои зад слоп-содржините не е исклучиво комерцијална. Руската мрежа за ширење дезинформации „Правда“, на пример, објави милиони и милиони статии на стотици нови интернет-страници од почетокот на руската инвазија врз Украина, веројатно за да манипулира со моделите на вештачка интелигенција со пласирање неверојатни количества пропагандна содржина дизајнирана да биде собрана и обработена од ВИ-пребарувачи. Неодамна организацијата за следење на медиумите „Њузгард“ (NewsGuard) пронајде референци за тие страници во одговорите генерирани од водечки четботови.
Алатките на генеративната вештачка интелигенција за создавање огромни количества на слоп-содржини доаѓаат во погодно време, токму кога социјалните мрежи почнаа да промовираат содржина од профили што корисниците не ги следат, наместо објави од нивното семејство и пријателите. Тоа помогна шунд-содржината од случајни профили да стигне до многу повеќе корисници отколку што можеше кога социјалните мрежи беа навистина социјални. Всушност, колку повеќе Диреста беше активна на тие страници, толку повеќе гледаше слот-содржина. „Не само што се создаваше туку и се препорачуваше“, вели Диреста, која е соработник-истражувачка во Џорџтаун. „Машините ѝ помагаат да нè пронајде“.
Слоп-содржината понекогаш може да им биде привлечна на луѓето. Може да биде доволно чудна или одвратна за да ги натера луѓето да останат на страницата; понекогаш содржината што не е ограничена од реалноста е посимпатична и попривлечна од сцените од физичкиот свет. „Ако се ограничите на работи што всушност се случиле или шеги што луѓето ги измислиле, тоа е однапред одредена база на содржини“, вели Џеф Ален, коосновач на Институтот за интегритет, аналитички центар што се залага за поодговорни социјални платформи. „Вештачката интелигенција ја зголемува таа база.“
Меѓутоа, содржината генерирана и промовирана од ВИ се однесува како инвазивен вид, ширејќи се толку брзо што влијае негативно на другите појави на интернет. „Тоа е како цветањето на алгите, кое може брзо да се шири и да го задуши животот што треба да го има еден здрав екосистем“, вели Ален.
Во февруари „Опен еј-ај“ (OpenAI) извести за „злонамерна употреба“ на неговите модели. Во еден таков случај лажна младинска организација во Гана користеше статии и коментари генерирани од ВИ за да се обиде да влијае на исходот од изборите во таа земја во 2024 година. Во друг случај десетици профили веројатно поврзани со севернокорејски сајбер-криминалци успеале да добијат работа во западни компании користејќи биографии, мотивациски писма, па дури и препораки генерирани од ВИ. Тие ги користеле алатките на „Опен еј-ај“ за да поминат низ интервјуата за работа, а бидејќи ја добиле работата потоа морале да им објаснат на колегите зошто никогаш не учествуваат во видеоповици. (Разбирливо, „Опен еј-ај“ изјави дека неговите политики строго ја забрануваат употребата на технологијата за измами.)
Друг проблем претставува обемот на напор што компаниите за ВИ го вложуваат во собирањето податоци за своите модели. Според „Толбит“ (Tollbit), компанија што им дозволува на издавачите на интернет-страниците да добијат надомест кога нивната содржина е преземена за ВИ, обемот на автоматизирани преземања на податоци по страница се дуплирал во четвртиот квартал во споредба со третиот квартал од минатата година. Кога почина поранешниот американски претседател Џими Картер, услугите на „Викимедија“ (Wikimedia) привремено беа забавени поради порастот на сообраќајот на т.н. скрепери (англ. scraper – програма што автоматски собира податоци од сајтовите), кои пристапуваа до видеоснимката од дебатата од 1980 година.
„Нашата инфраструктура е дизајнирана да се справи со ненадеен пораст на сообраќајот од луѓе за време на настани од висок профил. Сепак, никогаш не сме виделе толку голем сообраќај генериран од скрепер-ботови, а тоа доаѓа со поголем ризик и трошок“, напиша фондацијата „Викимедија“ (матичната фондација што ги одржува и развива „Википедија“ и други слични проекти) на својот блог.
За да го спречат тоа, некои издавачи на сајтови склучуваат договори со компании за ВИ, кои им плаќаат за пристап до нивната содржина или имплементираат плаќачки ѕидови за да ги обесхрабрат пребарувачите. Овој тренд би можел да ја загрози самата идеја за бесплатен и отворен интернет-простор, предупредува Шејн Лонгпре, докторанд на Институтот за технологија во Масачусетс (МИТ) и лидер на Иницијативата за потекло на податоци, проект за транспарентност и одговорно користење податоци. „На просечниот корисник ќе му биде потешко да добие некои информации без да плати или ќе мора да се претплати на некои ботови со вештачка интелигенција за да добие пристап до тие информации“, вели тој. Во меѓувреме, помалите издавачи на интернет-страници би можеле да бидат изоставени, додава тој.
Bloomberg
Трансформацијата на интернетот во мрежа управувана од четботови би можела да ги загрози дури и најголемите играчи на него. Најочигледен пример е „Гугл“ на „Алфабет“ (Alphabet Inc.), чиј пребарувач се базира на насочување на корисниците кон други извори на информации. Компанијата почна да објавува кратки резимеа како одговори на прашања, услуга наречена „Еј-ај оувервјус“ (AI Overviews) - прегледи на вештачката интелигенција. Покрај тоа што повремено нуди сомнителни совети, „Оувервјус“ би можел да им го отежни на луѓето привлекувањето други луѓе на нивните страници. Како што претходно објави „Блумберг бизнисвик“, некои издавачи на веб-страници забележале пад на нивниот сообраќај, а за тоа во голема мера ја обвинуваат вештачката интелигенција. („Гугл“ го отфрла ова објаснување, велејќи дека постојат многу причини зошто сообраќајот на една страница се зголемува или се намалува и дека „Еј-ај оувервјус“ создава нови можности за поврзување на луѓето и веб-содржината.) Подемот на интернетот управуван од ВИ покажува колку често плановите на технолошките гиганти не се во чекор со тоа што е во најдобар интерес на нивните корисници. Овие компании, во трка да доминираат во идниот свет управуван од ВИ, итаат да ја направат оваа промена што е можно побрзо, без разлика дали светот е подготвен за тоа или не. Дали корисниците навистина сакаат профили на ВИ измешани со објави на поранешни соученици и далечни роднини, како што раководителите на компаниите често замислуваат? Којзнае? Но, „Мета“ е повеќе од подготвена да го преземе ризикот ако тоа им помогне на вистинските луѓе да останат залепени за нејзините апликации кога нема многу содржина што ја објавуваат луѓето.
Не е тешко да се замисли дистописка иднина во која сите овие трендови се спојуваат, вели Ален. Во свет каде што вистинските луѓе повеќе не можат да заработат доволно пари од дигитално рекламирање за да опстанат нивните веб-страници, а нивните објави не можат да се пробијат до корисниците низ метежот на социјалните медиуми генериран од вештачката интелигенција, теоријата за мртвиот интернет ќе се оствари. Уште полошо, истражувањата сугерираат дека моделите на ВИ можат да се распаднат ако се обучени за содржина генерирана од ВИ. Без никаква онлајн содржина генерирана од луѓе, интернетот на некој начин умира, вели Ален.
Менцер засега не верува во најлошото сценарио. Ако технолошките компании дозволат нивните производи да се деградираат во евтини гнезда на ботови, луѓето на крајот ќе го насочат своето внимание кон нешто друго, вели тој. „Ако односот сигнал-шум е толку лош што станува бесмислен, луѓето ќе престанат да го користат“, вели тој. Технолошките компании нема да дозволат да се случи тоа.
Тоа може да биде вистина. Од друга страна, една од објавите со најмногу прегледи на Фејсбук минатата година беше слика од уредна соба со огромен вентилатор вграден во страната од креветот над главата во стилот на 1950-тите и празен душек: имаше околу 179.000 реакции. „Конечно го најдов совршениот кревет, се обложувам дека нема да се потам ноќе со ова!“, напиша авторот на објавата. Објавата имаше некои елементи на содржина од ВИ слоп-содржина - решетката на вентилаторот беше малку изобличена, а идентични објави споделуваа и други корисници, но тоа не можеше да се тврди со сигурност. И токму во тоа е и поентата.
.webp){kind=icon}
Во моментов нема коментари за веста. Биди прв да коментира...