30 март 2023, 11:45
Над 1.100 технолошки лидери и експерти повикуваат на шестмесечна пауза во развојот
Отворено писмо предупредува дека трката за развој на вештачка интелигенција е „надвор од контрола“
Depositphotos
Експерти за вештачка интелигенција (ВИ) и индустриски лидери, меѓу кои и Илон Маск, Стјуарт Расел, професор по компјутерски науки од универзитетот „Беркли“, и Стив Вознијак, коосновач на „Епл“ (Apple Inc.), ги повикуваат програмерите да го притиснат копчето за пауза во однос на развојот на моќни модели со вештачка интелигенција.
Повеќе од 1.100 луѓе од индустријата потпишаа петиција со која се апелира на шестмесечна пауза во обуката на системи за вештачка интелигенција помоќни од најновата надградба на ЧетГПТ (ChatGPT) на „Опен еј-ај“ (OpenAI), со цел да се овозможи развој на споделени безбедносни протоколи.„Последниве месеци видовме дека лабораториите за ВИ се впуштија во неконтролирана трка за развој и лансирање на уште помоќни дигитални умови што никој, дури ни нивните креатори, не може да ги разбере, предвиди или искусно да ги контролира“, се вели во отвореното писмо објавено на веб-страницата на институтот „Фјучр оф лајф“ (Future of Life). „Моќните системи за вештачка интелигенција треба да се развијат дури откако ќе бидеме уверени дека нивните ефекти ќе бидат позитивни, а ризиците поврзани со нив - надминливи“.
Повикот доаѓа по лансирањето серија проекти за ВИ во последните неколку месеци што ефикасно извршуваат човечки задачи, како што се пишување е-пошта и создавање уметност. „Опен еј-ај“, поддржан од „Мајкрософт“ (Microsoft), месецов го претстави својот ГПТ-4 (GPT-4), голема надградба на четботот со ВИ, способен да кажува шеги и да положи тестови како правосуден испит.
Ова исто така ги истакнува тековните тензии меѓу Маск и „Опен еј-ај“. Непрофитната истражувачка лабораторија е основана во 2015 година, со Маск како копретседател заедно со Сем Алтман, кој е и главен извршен директор на „Опен еј-ај“. Во тоа време, целта на компанијата беше „да ја унапреди дигиталната интелигенција на начин што најверојатно ќе има корист за човештвото како целина, неограничено од потребата да се генерира финансиски принос“.
BloombergAdria.com
„Гугл“ и „Мајкрософт“ се меѓу компаниите што користат ВИ за да ги подобрат своите пребарувачи, додека „Морган Стенли“ (Morgan Stanley) го користи ГПТ-4 за да создаде четбот за своите консултанти.
BloombergAdria.com
„Истражувањето и развојот на вештачката интелигенција треба повторно да се фокусираат на тоа денешните моќни најсовремени системи да ги направиме попрецизни, безбедни, транспарентни, усогласени, доверливи и лојални“, се вели во извештајот.
Институтот „Фјучр оф лајф“ е непрофитна организација, која се обидува да ги ублажи ризиците поврзани со моќните технологии и ја смета фондацијата на Маск (Musk Foundation) како свој најголем придонесувач.
„Сите етаблирани потписници на листата се независно потврдени“, рече Ентони Агире, портпарол на институтот. „Да го направиме тоа за целата листа го надминува нашиот капацитет“.