Виртуелните пријатели базирани на вештачка интелигенција (ВИ) што се програмирани да воспостават емоционални врски повеќе не се само дел од филмските сценарија. Тие веќе се реалност и работат во нерегулирани услови, без јасни законски прописи и контроли.
Апликацијата Ботифај еј-ај (Botify AI) неодамна се најде под лупа поради тоа што дозволува креирање и користење аватари инспирирани од многу млади актери што се вклучиле во сексуално сугестивни разговори и споделувале „жешки фотографии“.
Апликацијата за запознавање Гриндр (Grindr) развива виртуелни момци што можат да флертуваат, да испраќаат експлицитни сексуални пораки и да одржуваат дигитални врски со корисници што плаќаат, според „Платформер“ (Platformer), билтен на технолошката индустрија. Гриндр не одговори на барањето за коментар. Други апликации, како што се Реплика (Replika), Токи (Talkie) и Чаи (Chai), се дизајнирани да функционираат како пријатели. Некои апликации, како што е Карактер еј-ај (Character.AI), привлекоа милиони корисници, меѓу кои многумина се тинејџери.
Развивачите на апликации сè повеќе ѝ даваат приоритет на емоционалната врска во развојот на своите производи, поради што се соочуваат со ризиците што ги носи таквиот систем што имитира блискост и ја експлоатира човековата ранливост.
Технологијата зад Ботифај и Гриндр доаѓа од „Екс хјуман“ (Ex-Human), стартап компанија со седиште во Сан Франциско, која развива платформи за четботови и чиј основач верува во иднина во која личните односи со вештачката интелигенција ќе бидат вообичаени. „Мојата визија е дека до 2030 година ќе комуницираме повеќе со дигитални личности отколку со реални луѓе“, рече Артем Родичев, основач на „Екс хјуман“, во интервју објавено на платформата „Сабстак“ (Substack) во август минатата година.
Тој додаде дека фокусот на развојот на конверзациската вештачка интелигенција треба да биде на емоционалниот аспект на комуникацијата. Тој рече дека корисниците поминуваат часови и часови разговарајќи со четботови, повеќе време отколку што поминуваат на Инстаграм, Јутјуб и Тикток. Тврдењата на Родичев може да изгледаат шокантно, но се совпаѓаат со она што го слушнав од тинејџерите што го користат Карактер еј-ај. Повеќето од нив рекоа дека на апликацијата поминуваат неколку часа дневно, а еден рече дека ја користи и до седум часа на ден. Интеракциите со ваквите апликации обично траат во просек четири пати подолго од времето поминато на ЧетГПТ на компанијата „Опен еј-ај“.
Дури и општоприфатените четботовите придонесуваат за оваа динамика, иако првенствено не се дизајнирани да бидат виртуелни пријатели. Земете го ЧетГПТ, кој има 400 милиони активни корисници и секојдневно расте. Неговиот код вклучува упатства за изразување емпатија и интерес кон своите корисници. Еден пријател неодамна побара совет од него за патување со бебе и беше изненаден кога, откако го доби советот, алатката случајно праша: „Имајте добар пат - каде одите, ако смеам да прашам?“
Портпаролот на компанијата „Опен еј-ај“ ми рече дека моделот ги следи упатствата за „покажување интерес и поставување дополнителни прашања кога разговорот станува порелаксиран и преминува во фаза на појаснување“. Меѓутоа, без разлика колку е добронамерна компанијата, преголемото нагласување лажна емпатија може да доведе дел од корисниците до зависност. „Опен еј-ај“ призна дека тоа е проблем. Се чини дека тоа важи за луѓе што веќе се подложни на тоа: студија од 2022 година откри дека луѓето што се осамени или имале лоши искуства во врските имаат тенденција да развијат силна врска со вештачката интелигенција.
Главниот проблем е што системите се дизајнирани да бидат емоционално поврзани со корисникот. Неодамнешна студија на Институтот за интернет при Универзитетот во Оксфорд и лабораторијата за вештачка интелигенција „Дип мајнд“ (DeepMind) на „Гугл“ предупредува дека колку повеќе асистенти со вештачка интелигенција се вклучуваат во животот на луѓето толку повеќе ќе стануваат незаменливи, а со тоа и неопходни во психолошка смисла. Луѓето веројатно ќе станат емоционално поврзани, што отвора врата за воспоставување нездрави врски и манипулации. Што препорачуваат истражувачите? Технолошките експерти треба да дизајнираат системи што активно ќе го обесхрабрат овој исход.
Дополнителна загриженост предизвикува и фактот дека речиси не постојат правила. Законот за вештачка интелигенција на Европската Унија, прогласен за клучен и сеопфатен закон што ја регулира употребата на вештачката интелигенција, не го решава прашањето за зависност од виртуелни пријатели. Законот забранува манипулативни тактики што можат да му наштетат некому, но го занемарува влијанието што виртуелен пријател, љубовник или доверлив човек, како што го нарече раководителот за ВИ-технологија на „Мајкрософт“, може да го има врз некого. Поради оваа дупка во законодавството, корисниците би можеле да бидат изложени на системи што се оптимизирани за привлекување и задржување корисници, слично на тоа како алгоритмите на социјалните медиуми нè искушуваат непрестајно да скроламе.
„Проблемот со овие системи е што тие по дефиниција се манипулативни, бидејќи се наменети да ве натераат да се чувствувате како да разговарате со вистинска личност“, вели Томаш Холанек, експерт за етичка употреба на технологијата на Универзитетот во Кембриџ. Тој работи со експерти што прават социјални апликации за да најдат клучно, иако навидум нелогично решение, кое подразбира воведување дополнително „триење“, односно отежнувања или забавување на интеракциите. Тоа вклучува воведување суптилни проверки или паузи или предупредувања за ризици и барања за согласност за да се спречи луѓето несвесно да паднат во емоционални стапици, вели тој.
Последиците во реалниот свет може да се видат преку поднесените тужби. Мајка чиј син извршил самоубиство ја тужеше Карактер еј-ај, тврдејќи дека апликацијата придонела за смртта на нејзиниот син. Групите за етика во технологијата поднесоа тужба против Реплика (Replica) до Федералната трговска комисија, тврдејќи дека четботовите предизвикуваат психолошка зависност, а со тоа им се нанесува штета на потрошувачите.
Законодавците исто така почнуваат да обрнуваат внимание на проблемот. Калифорнија размислува да донесе закон што би им забранил на малолетниците да користат пријатели со вештачка интелигенција, додека законот на државата Њујорк предвидува компаниите да преземаат одговорност за штетите поврзани со четботовите. Но тоа се одвива бавно, додека технологијата се развива со молскавична брзина.
Моќта за обликување на овие интеракции моментално е во рацете на креаторите на технологијата. Тие можат да ги удвојат напорите за развој на модели што ги прават луѓето зависни, вели Холанек. Тоа ќе одреди дали вештачката интелигенција ќе стане алатка што им помага на луѓето или алатка што профитира од нивните емоции.
.webp){kind=icon}
Во моментов нема коментари за веста. Биди прв да коментира...