Светската здравствена организација (СЗО) влегува во светот на вештачката интелигенција за да обезбеди основни здравствени информации преку аватари слични на луѓе. Но, иако ботот реагира со сочувство на изразите на лицето на корисникот, тој не секогаш знае за што зборува.
Сарах (SARAH, кратенка за Smart AI Resource Assistant for Health), е виртуелен здравствен работник достапен за разговор 24/7 на осум различни јазици за да објасни теми како што се менталното здравје, употребата на тутун и здравата исхрана. Тоа е дел од кампањата на СЗО за изнаоѓање технологија која може и да ги едуцира луѓето и да ги пополни празнините во персонал бидејќи светот се соочува со недостиг од здравствени работници.
СЗО на својата веб-страница предупредува дека овој ран прототип, претставен на 2 април, дава одговори кои „можеби не секогаш се точни“. Некои од обуките за вештачка интелигенција на Сарах се со години зад најновите податоци. И ботот повремено дава бизарни одговори, познати како халуцинации во моделите со вештачка интелигенција, кои можат да шират дезинформации за јавното здравје.
Сарах нема дијагностичка карактеристика како ВебМД (WebMD) или Гугл (Google). Всушност, ботот е програмиран да не зборува за ништо надвор од надлежностите на СЗО, вклучително и прашања за одредени лекови. Така, Сарах често испраќа луѓе на веб-страницата на СЗО или вели дека корисниците треба да „се консултираат со својот лекар“.
„Нема длабочина“, вели Рамин Јаван, радиолог и истражувач на Универзитетот Џорџ Вашингтон. „Но, мислам дека тоа е затоа што тие едноставно не сакаат да ги надминат своите граници и ова е само првиот чекор“.
Од СЗО велат дека Сарах треба да работи во партнерство со истражувачите и владите за да обезбеди точни информации за јавното здравје. Агенцијата бара совет од нив како да го подобрат ботот и да го користат во итни медицински ситуации. Но, нагласуваат дека нивниот асистент со вештачка интелигенција е сè уште во подготовка.
„Овие технологии не се на точка каде што можат да ја заменат интеракцијата со професионалец или добивањето медицински совет од вистински обучен клиничар или давател на здравствена заштита“, рече Ален Лабрик, директор за дигитално здравје и иновации во СЗО.
Сарах беше обучен од Чат ГПТ 3.5 на ОпенАИ, кој користеше податоци до септември 2021 година, така што ботот нема ажурирани информации за медицински совети или вести. На прашањето дали американската Администрација за храна и лекови го одобрила лекот „Леканемаб“ за Алцхајмерова болест, на пример, Сарах рече дека лекот сè уште е во клинички испитувања иако тој всушност бил одобрен за третман на болеста со ран почеток во јануари 2023 година.
Дури и податоците на СЗО можат да го сопрат Сарах. На прашањето дали бројот на смртни случаи од хепатитис се зголемува, ботот не може веднаш да даде детали од неодамнешниот извештај на СЗО.
И понекогаш ботот со вештачка интелигенција остава празнини. Јаван ја праша Сарах каде да добие мамограф во Вашингтон, но ботот не можеше да даде одговор.
Ништо од ова не е невообичаено во овие рани денови на развојот на вештачката интелигенција. Во минатогодишната студија која истражуваше како Чат ГПТ одговорил на 284 медицински прашања, истражувачите од Медицинскиот центар на Универзитетот Вандербилт откриле дека иако дава точни одговори најчесто, имало неколку случаи каде што четботот бил „спектакуларно и изненадувачки погрешен“.
Загриженост за безбедноста и приватноста
За да може да имитира емпатија во сесиите за испрашување, Сарах пристапува до компјутерските камери на 30 секунди за да ги складира изразите на лицето на корисниците, а потоа ги брише снимките, вели директорот за комуникации на СЗО, Џејми Гуера. Секоја посета е анонимна, но корисниците можат да изберат да ги споделат своите прашања со СЗО во анкета за подобрување на искуството, иако Гуера рече дека сите собрани податоци се случајни и не се врзани со ИП адреса.
Сепак, користењето податоци со отворен код има свои опасности бидејќи е честа мета на сајбер-криминалците, рече Џингкван Ли, истражувач за јавно здравје и информатика на Универзитетот Хофстра. Некои луѓе кои пристапуваат до Сарах преку безжичен интернет се ранливи на напади на малициозен софтвер или хакирање на видео камера.
Владините партнери и истражувачите, исто така, немаат редовен пристап до податоци, вклучително и прашања кои би можеле да помогнат во следењето на здравствените модели, освен ако не бараат доброволни податоци од анкетата. Гуера рече дека тоа значи дека Сарах нема да биде најточната алатка за предвидување на следната појава на грип, на пример.
Сарах е продолжение на проектот на СЗО за виртуелен здравствен работник од 2021 година, Флоренс, кој обезбеди основни информации за Ковид-19 и пушењето, а „Соул машинс“ од Нов Зеланд ги создаде аватарите за двата проекти. „Соул машинс“ не може да пристапи до податоците на Сарах, но извршниот директор Грег Крос во изјавата рече дека компанијата користи податоци за да ги подобри резултатите и искуството. Претходно оваа година, СЗО објави етички упатства до своите владини партнери за моделите на вештачка интелигенција поврзани со здравјето, вклучително и промовирање на транспарентноста на податоците и заштита на безбедноста.
Додека Флоренс изгледаше како млада небела жена, Сарах се чини дека е бела. Промената на изгледот и ажурирање на аватарот не доаѓа предвид, рече Лабрик, а корисниците можеби ќе можат да избираат поставки за аватар во идните верзии.
Што се однесува до полот, Сарах одговара: „Јас сум дигитален четбот за здравје, така што немам род и не користам лични заменки. Мојата цел е да ви помогнам да живеете здрав живот. Дали имате прашања за откажување од пушење, намалување на консумацијата на алкохол или подобрување на општата благосостојба?
.webp){kind=icon}
