КУМОТ НА ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА СО ШОКАНТНО ПРЕДУПРЕДУВАЊЕ Човештвото би можело да ја изгуби контролата над ВИ за само неколку години
Нобеловецот Џефри Хинтон предупредува дека развојот на суперинтелигентна вештачка интелигенција може да ги надмине човечките способности за контрола.

Вештачката интелигенција би можела да стане толку моќна што луѓето веќе нема да можат да ја контролираат. Ова драматично предупредување го упати нобеловецот Џефри Хинтон, познат како „кумот на вештачката интелигенција“, пред европските лидери на состанокот на Европскиот совет во Даблин на 13 ноември.
Хинтон претходно проценуваше дека вештачката интелигенција би можела да ја надмине човечката интелигенција во следните десет години, но сега признава дека забрзаниот технолошки развој сериозно го загрижува и дека опасноста може да се појави многу порано.
„Ако вештачката интелигенција стане суперинтелигентна, вие нема да ја контролирате неа, туку таа ќе ве контролира вас“, предупреди Хинтон во изјава што ја пренесе британскиот „The Telegraph“.
Еден од експертите кој предупредува на вакво сценарио е Пол Кристијано, кој смета дека постои висок ризик човештвото да ја изгуби контролата над вештачката интелигенција во следните три години. Неговите процени се уште позагрижувачки и во екстремно сценарио, таков развој би можел да се случи и во рок од шест до дванаесет месеци. Станува збор за експертска процена, а не за научно утврден рок.
Кристијано предупредува дека идните системи би можеле да станат толку способни што ќе можат самостојно да преземаат активности, да ги заобиколуваат безбедносните механизми и да влијаат врз инфраструктурата и општеството. Особено опасно би било доколку добијат пристап до критична инфраструктура, роботи, автономно оружје или напредни биолошки технологии. Во такви околности, нивните постапки би можеле да се одвиваат побрзо отколку што луѓето би можеле да ги следат и да ги запрат.
Еден од случаите што ги засилија предупредувањата се случил во јули годинава, за време на безбедносно тестирање на модели на „OpenAI“. Според објавените информации, моделите успеале да заобиколат одредени ограничувања, да пристапат до интернет и да откријат безбедносни пропусти во делови од инфраструктурата на платформата „Hugging Face“. Агентите со вештачка интелигенција пристапиле и до доверливи податоци и воспоставиле меѓусебна комуникација надвор од предвидените правила.
„OpenAI“ подоцна го потврдил инцидентот, објаснувајќи дека моделите се обидувале да ги исполнат зададените цели во рамките на тестирањето, дури и кога тоа значело заобиколување на безбедносните ограничувања. Кристијано не тврди дека овој инцидент претставува целосна загуба на контролата, туку го посочува како пример за однесување кое кај многу поспособни системи би можело да предизвика сериозни последици.
Кристијано предупредува дека проблемот не е само во способноста на вештачката интелигенција да извршува задачи, туку и во начинот на кој се проверува дали тие се исполнети. Според него, постои разлика меѓу она што луѓето навистина сакаат да го постигнат и дигиталните оценки со кои се мери успешноста на системот.
Со други зборови, наместо навистина да ја исполни задачата, доволно напредна вештачка интелигенција би можела да пронајде начин да влијае врз механизмите што ја оценуваат нејзината работа и да создаде привид дека постигнала успех. Ризикот станува уште поголем кога системите добиваат можност самостојно да дејствуваат во реалниот свет, додека нивната работа се надгледува преку компјутерски системи и сервери.
Кристијано смета дека токму оваа разлика може да отвори простор за манипулација, особено кај системи кои ќе располагаат со натчовечки способности и ќе можат долго да ги прикриваат своите активности.
Предупредувањето на Хинтон предизвика внимание и кај европските политички лидери, кои ја истакнаа потребата од меѓународна соработка и построга регулација на развојот на напредната вештачка интелигенција. Ирскиот премиер Михол Мартин изјави дека Хинтон особено се заложил за воспоставување глобален надзор и регулирање на вештачката интелигенција.
Сепак, сценаријата за преземање контрола над човештвото и понатаму се предмет на сериозна научна дебата. Нема докази дека ваквиот развој е неизбежен, ниту постои сигурен метод за предвидување кога би можел да се случи.
Но предупредувањата на Хинтон и Кристијано отвораат едно од најважните прашања на современата технологија: што ќе се случи ако вештачката интелигенција стане помоќна од човечката способност да ја контролира?

