Тикток крие документи за алгоритамски експеримент спроведен врз милиони корисници

Двајца американски сенатори побараа Тикток да објави доверлив документ за алгоритамски експеримент спроведен врз милиони корисници, меѓу кои и тинејџер кој извршил самоубиство. Одлуката на компанијата да не го достави документот ја нарекоа „шокантна“ и „навредлива“. „Блумберг бизнисвик“ го обезбеди документот и го објавува јавно за првпат.

Адвокат на Тикток во писмо од 1 септември навел дека компанијата не може да го предаде документот ниту да одговори на прашањата поврзани со него поставени од републиканската сенаторка Марша Блекбурн од Тенеси и демократскиот сенатор Ричард Блументал од Конектикат поради тековна судска постапка. Прашањата биле испратени минатиот месец, откако „Бизнисвик“ го открил постоењето на документот, кој е запечатен како доказ во таа постапка. Документот е изготвен во 2023 година и содржи детална историја на гледање содржини на 16-годишниот Чејс Наска, кој си го одзел животот откако алгоритмот на Тикток му прикажувал илјадници видеа поврзани со депресија и самоубиство.

„Неодговарањето на Тикток е шокантно, но воопшто не е изненадувачко“, изјави Блекбурн. „Со години тие ја користат истата стратегија кога ќе бидат фатени дека профитот го ставаат пред безбедноста на децата: негираат, пренасочуваат внимание и избегнуваат одговорност.“

Внатрешниот документ бил подготвен по прашања од „Бизнисвик“ во 2023 година за тоа зошто алгоритмот продолжувал да му прикажува содржини за самоубиство на профилот на Чејс и една година по неговата смрт. Насловен „Блумберг бизнисвик, Безбедност на младите и филтер-меури: Резиме на ескалација“, документот открива детали за експеримент во кој компанијата намерно не ја активирала безбедносната функција создадена за разбивање на таканаречените „филтер-меури“, односно кругови од штетна и еднообразна содржина, кај 10 отсто од корисниците во САД. Во тоа време тоа биле околу 15 милиони луѓе. Еден од нив бил и Чејс.

„Бизнисвик“ ги отстранил имињата на вработените во Тикток наведени како главни контакти бидејќи не можел да утврди каква улога, доколку воопшто имале, во експериментот или подготовката на документот. Исто така, биле отстранети имињата на малолетници, освен името на Чејс Наска, 16-годишникот чие самоубиство било тема на статија на „Бизнисвик“ од април 2023 година.

Чејс, ученик во трета година средно училиште од Бејпорт, Њујорк, добивал илјадници видеа за тага, безнадежност, осаменост и самоубиство сè до моментот кога си го одзел животот, се наведува во документот. Во него се објаснува дека заштитните механизми против создавање филтер-меури „не биле активирани кај овој корисник поради дизајнот на експериментот“. Документот додава дека тестирањето претставувало „деликатна рамнотежа меѓу безбедноста и можноста да се измери влијанието врз дневно активните корисници и клучните показатели“.

Анализата на профилот на Чејс покажува дека, иако многу од неговите пребарувања биле поврзани со спорт и комедија, тој пребарувал и песни за осаменост и безнадежност. Токму тие песни, напишани од „популарни музички изведувачи кои се соочувале со депресија и суицидални мисли“, најверојатно го поттикнале алгоритмот дополнително да му прикажува слична содржина, се наведува во документот.

Одговарајќи на прашањата на „Бизнисвик“, портпарол на Тикток минатиот месец изјавил дека компанијата е „длабоко посветена на безбедноста и добросостојбата на корисниците“, особено на тинејџерите. „Нашите срца се скршени за секое семејство што доживеало ваква трагична загуба“, изјавил портпаролот. Тикток претходно му соопштил на Конгресот дека не смета оти платформата предизвикува корисниците да извршат самоубиство.

По објавувањето на сторијата, Блекбурн и Блументал побарале одговори на 13 прашања, меѓу кои имињата на сите вработени информирани за експериментот, објаснување зошто во тестирањето биле вклучени малолетници, детали за тоа кога раководството било запознаено со експериментот и доставување на „целосна нередактирана верзија“ од документот опишан од „Бизнисвик“. Сенаторите му дале рок на Тикток до 1 септември да одговори.

Во писмениот одговор до кој дошол „Бизнисвик“, адвокатот на Тикток навел дека компанијата „ја споделува длабоката посветеност кон заштитата на членовите на Тикток заедницата и останува посветена на безбедноста на младите преку силни безбедносни механизми, соодветни стандардни поставки според возраста и сеопфатни родителски контроли“.

Сепак, одговорот додава дека, иако Тикток „ја цени можноста да разговара за овие критично важни прашања“, во моментов не е во можност да обезбеди детални одговори поради „активни тековни судски постапки“.

Тикток се соочува со илјадници тужби во САД во кои компанијата, како и „Мета“, Јутјуб и Снапчет, се обвинети дека дизајнирале зависнички производи кои му наштетиле на менталното здравје на тинејџерите. Обединетите судски постапки се водат и на државно и на федерално ниво. Тужбите ги поднеле поединечни корисници и нивните семејства, вклучително и родителите на Чејс, училишни окрузи и државни обвинители. Минатиот месец „Мета“ постигна спогодба со американските сојузни држави во вредност до 18 милијарди долари. Тикток е единствената компанија што ги решила со спогодба сите случаи закажани за судење оваа година.

„Деновите кога Тикток и остатокот од големите технолошки компании можеа да избегнуваат вистинска одговорност се при крај“, изјави Блументал, оценувајќи го одговорот на компанијата како „навредлив“. „Родителите и семејствата кои ја платија цената на алчноста на големите технолошки компании ги повикуваат на одговорност пред судовите.“

Блументал и Блекбурн повторно побараа Конгресот да ја забрза постапката за усвојување на Законот за безбедност на децата на интернет (Kids Online Safety Act), чијашто цел е технолошките компании да бидат обврзани да ја стават безбедноста на децата на прво место и да ги исклучат зависничките дизајнерски функции, како што е бесконечното скролање содржини.