Маск и други технолошки лидери: Ситуацијата со ВИ е надвор од контрола

Експерти за вештачка интелигенција (ВИ) и индустриски лидери, меѓу кои и Илон Маск, Стјуарт Расел, професор по компјутерски науки од универзитетот „Беркли“, и Стив Вознијак, коосновач на „Епл“ (Apple Inc.), ги повикуваат програмерите да го притиснат копчето за пауза во однос на развојот на моќни модели со вештачка интелигенција.

Повеќе од 1.100 луѓе од индустријата потпишаа петиција со која се апелира на шестмесечна пауза во обуката на системи за вештачка интелигенција помоќни од најновата надградба на ЧетГПТ (ChatGPT) на „Опен еј-ај“ (OpenAI), со цел да се овозможи развој на споделени безбедносни протоколи.„Последниве месеци видовме дека лабораториите за ВИ се впуштија во неконтролирана трка за развој и лансирање на уште помоќни дигитални умови што никој, дури ни нивните креатори, не може да ги разбере, предвиди или искусно да ги контролира“, се вели во отвореното писмо објавено на веб-страницата на институтот „Фјучр оф лајф“ (Future of Life). „Моќните системи за вештачка интелигенција треба да се развијат дури откако ќе бидеме уверени дека нивните ефекти ќе бидат позитивни, а ризиците поврзани со нив  - надминливи“.  

Повикот доаѓа по лансирањето серија проекти за ВИ во последните неколку месеци што ефикасно извршуваат човечки задачи, како што се пишување е-пошта и создавање уметност. „Опен еј-ај“, поддржан од „Мајкрософт“ (Microsoft), месецов го претстави својот ГПТ-4 (GPT-4), голема надградба на четботот со ВИ, способен да кажува шеги и да положи тестови како правосуден испит.

Ова исто така ги истакнува тековните тензии меѓу Маск и „Опен еј-ај“. Непрофитната истражувачка лабораторија е основана во 2015 година, со Маск како копретседател заедно со Сем Алтман, кој е и главен извршен директор на „Опен еј-ај“. Во тоа време, целта на компанијата беше „да ја унапреди дигиталната интелигенција на начин што најверојатно ќе има корист за човештвото како целина, неограничено од потребата да се генерира финансиски принос“.

Маск, кој раководи со повеќе компании, вклучувајќи ја и „Тесла“ (Tesla Inc.), го напушти одборот на „Опен еј-ај“ во 2018 година. Тој ја критикуваше организацијата, која создаде профитен оддел во 2019 година, велејќи дека таа станала „затворен извор, компанија со максимална добивка, ефективно контролирана од 'Мајкрософт'“, и дека „застранила многу од патот на доблеста“. Според „Информејшн“ (The Information), Маск исто така размислува за создавање ривалска истражувачка лабораторија. Во меѓувреме, во неодамнешниот поткаст со новинарката Кара Свишер, Алтман рече дека Маск е „кретен“ и истакна оти верува дека Маск „е многу под стрес за тоа како ќе изгледа иднината за човештвото“.

„Гугл“ и „Мајкрософт“ се меѓу компаниите што користат ВИ за да ги подобрат своите пребарувачи, додека „Морган Стенли“ (Morgan Stanley) го користи ГПТ-4 за да создаде четбот за своите консултанти.

Програмерите треба да соработуваат со креаторите на политиките за да создадат нови системи за управување со ВИ и тела за надзор, се вели во писмото. Во него се повикуваат владите да интервенираат во развојот на системи за ВИ доколку главните играчи веднаш не се согласат на јавна, транспарентна пауза.

„Истражувањето и развојот на вештачката интелигенција треба повторно да се фокусираат на тоа денешните моќни најсовремени системи да ги направиме попрецизни, безбедни, транспарентни, усогласени, доверливи и лојални“, се вели во извештајот.

Институтот „Фјучр оф лајф“ е непрофитна организација, која се обидува да ги ублажи ризиците поврзани со моќните технологии и ја смета фондацијата на Маск (Musk Foundation) како свој најголем придонесувач.

„Сите етаблирани потписници на листата се независно потврдени“, рече Ентони Агире, портпарол на институтот. „Да го направиме тоа за целата листа го надминува нашиот капацитет“.

Во моментов нема коментари за веста. Биди прв да коментира...

Остави коментар