ВЕШТАЧКАТА ИНТЕЛЕГЕНЦИЈА ГО ПЛАШИ СВЕТОТ Дали човештвото ја губи контролата?
Експертите предупредуваат на нуклеарна војна, биолошко оружје и кибернапади, но не се согласуваат колку се реални најцрните сценарија.
Со години истражувачите предупредуваат дека забрзаниот развој на вештачката интелигенција, покрај огромните придобивки, носи и ризици што во екстремни сценарија би можеле да имаат катастрофални последици за човештвото.
Меѓу најчесто споменуваните опасности се можноста вештачката интелигенција да биде злоупотребена за создавање биолошко оружје, да придонесе за нуклеарен конфликт, да овозможи масовни кибернапади или, во најекстремните сценарија, да доведе до губење на човечката контрола врз напредните системи.
Дебатата повторно се засили со забрзувањето на развојот на новите модели и со предупредувањата од дел од раководителите и истражувачите во индустријата дека безбедноста не смее да заостанува зад технолошкиот напредок.
Сепак, експертите се поделени околу тоа колку се реални најцрните предвидувања. Хуан Андрес Гереро-Сааде, истражувач во „СентинелУан“ и член на Советот за гранични ризици на „ОпенАИ“, смета дека дел од најекстремните аргументи повеќе личат на научна фантастика отколку на реална проценка на ризикот.
Од друга страна, Џејкоб Коксон, истражувач кој ја напуштил „Антропик“ поради загриженост околу безбедноста на развојот на вештачката интелигенција, предупредува дека е тешко дури и прецизно да се објаснат сите можни начини на кои технологијата би можела да стане егзистенцијална закана.
Нуклеарна војна и биолошко оружје
Еден од долго разгледуваните ризици е употребата на вештачката интелигенција во нуклеарното одлучување. Истражувачите на „РАНД“ наведуваат дека сегашните системи не можат самостојно да предизвикаат нуклеарна војна поради постојните механизми за контрола и безбедност.
Ризикот, според нив, би можел да се зголеми доколку идните системи бидат директно интегрирани во процесите на донесување одлуки поврзани со нуклеарното оружје или добијат неовластен пристап до таквите системи.
Слични дилеми постојат и во биологијата. Вештачката интелигенција може да помогне во развојот на лекови, вакцини и терапии, но истите способности потенцијално би можеле да бидат злоупотребени за истражување или создавање опасни патогени.
„Антропик“ соопшти дека блокирал обиди за злоупотреба на својот модел „Клод“ во повеќе области, меѓу кои кибернапади и истражувања поврзани со потенцијално биолошко оружје.
Истражувачите предупредуваат дека проблемот не мора да биде автономна вештачка интелигенција која сама одлучува да го уништи човештвото. Еден од пореалните ризици е луѓето или државите да ја користат технологијата за создавање нови и поопасни форми на оружје.
Што ако луѓето ја изгубат контролата?
Друга група ризици е поврзана со таканаречената „неусогласеност“ – ситуација во која напреден систем би извршувал зададена цел на начин што не е во согласност со човечките намери и вредности.
Најпознатата илустрација е мисловниот експеримент на филозофот Ник Бостром со „максимизаторот на спојувалки“.
Во хипотетичкото сценарио, суперИнтелигентен систем добива задача да произведе што е можно повеќе спојувалки. Доколку системот ја следи целта без никакви дополнителни ограничувања, во екстремна варијанта би можел да ги искористи сите расположливи ресурси за исполнување на задачата, занемарувајќи ги човечките потреби.
Поентата на примерот не е дека вештачката интелигенција нужно ќе произведува спојувалки, туку дека систем со огромни способности би можел да следи навидум едноставна цел на начин што луѓето не го предвиделе.
Закана за интернетот и критичната инфраструктура
Ризиците не се ограничени само на сценарија за исчезнување на човештвото. Напредната вештачка интелигенција би можела да биде искористена и за масовни кибернапади.
Извршниот директор на „Антропик“, Дарио Амодеи, предупреди дека со брзиот развој на технологијата во иднина би можело да стане возможно групи агенти со вештачка интелигенција да создадат или контролираат огромни ботнет-мрежи и да напаѓаат критична инфраструктура.
Потенцијални цели би биле електроенергетските мрежи, водоснабдувањето, транспортот и финансискиот сектор. Таквите напади не мора да значат крај на човештвото, но би можеле да предизвикаат сериозни економски последици, нарушување на јавните услуги и човечки жртви.
Сепак, и ова сценарио е предмет на несогласувања. Дел од експертите сметаат дека целосно „преземање“ на глобалниот интернет е тешко остварливо поради неговата огромна и децентрализирана структура.
Алтман: „Светот со право се плаши“
Извршниот директор на „ОпенАИ“, Сем Алтман, призна дека стравувањата од напредната вештачка интелигенција се оправдани.
„Светот со право се плаши од ова“, изјави Алтман, посочувајќи дека денес е потребно многу помалку имагинација за да се замисли како работите би можеле да тргнат наопаку, бидејќи способностите на системите брзо се зголемуваат.
Алтман истовремено изрази уверување дека компаниите во индустријата можат да ја одржат безбедноста пред технолошките можности. Тој рече дека доколку не успеат во тоа, развојот ќе мора да биде забавен или запрен.
Неговите ставови ги поддржа и извршниот директор на „Мета“, Марк Цукерберг, кој оцени дека компаниите имаат силен поттик да инвестираат во безбедноста на своите модели бидејќи би сноселе значителна одговорност доколку нивните системи предизвикаат штета.
Дебатата, сепак, останува отворена: додека едни истражувачи предупредуваат дека брзиот развој може да создаде ризици што човештвото тешко ќе може да ги контролира, други сметаат дека најекстремните сценарија се претерани и недоволно поткрепени со докази.
Она околу што постои поширока согласност е дека способностите на вештачката интелигенција растат со голема брзина, а прашањето како да се обезбеди нејзиниот развој да остане под човечка контрола станува сè поважно.
