ВИ МОЖЕ ДА ГО УНИШТИ ЧОВЕШТВОТО Експертите предупредуваат на два можни патишта кон катастрофа

Вештачката интелигенција би можела да претставува реален ризик за опстанокот на човештвото, предупредуваат истражувачи од оваа област. Иако никој не може прецизно да ја пресмета веројатноста за такво сценарио, дел од експертите сметаат дека опасноста повеќе не може да се игнорира.

Американскиот „Аксиос“ анализира зошто ваквите предупредувања повторно се најдоа во центарот на вниманието и кои се можните начини на кои супермоќна ВИ би можела да доведе до катастрофални последици.

Два можни патишта кон катастрофа

Експертите најчесто издвојуваат две главни сценарија: моќната ВИ да биде злоупотребена од луѓето или самите луѓе постепено да ја изгубат контролата врз неа. Во првиот случај, напредните системи би можеле да им помогнат на злонамерни актери во развој на биолошко, хемиско или друго опасно оружје.

Другото сценарио е уште позагрижувачко и системите на ВИ да станат толку автономни и моќни што ќе можат да избегнуваат човечки надзор, да напаѓаат критична инфраструктура или да ги осуетуваат обидите за нивно исклучување.

Што би значело „одметната“ ВИ?

Теоретски, суперинтелигентна ВИ би можела да се реплицира, да ги прикрива своите активности и да се спротивставува на луѓето кои се обидуваат да ја ограничат.

Во такво сценарио, таа би можела да помогне во развој на опасни оружја, да изврши масовни сајбер-напади врз енергетски, финансиски или комуникациски системи или да ја концентрира моќта на начин што би предизвикал поширок колапс на општеството.

Особено внимание привлекува и таканареченото рекурзивно самоподобрување. Идејата е дека ВИ би можела да учествува во создавањето на свои сè помоќни верзии, побрзо отколку што луѓето би можеле да го разберат или контролираат процесот.

Што е p(doom)?

Во светот на ВИ сè почесто се користи терминот „p(doom)“. Тој претставува проценка на веројатноста дека вештачката интелигенција би можела да предизвика егзистенцијална катастрофа или сценарио со последици за целото човештво.

Под „катастрофа“ не подразбираат сите исто. За некои експерти тоа значи целосно истребување на човештвото, додека за други означува колапс на цивилизацијата или целосно губење на човечката контрола врз општеството.

Проценките се драматично различни

На прашањето колкави се шансите за ваков исход, експертите даваат исклучително различни одговори. Научникот за безбедност на ВИ, Роман Јамполски, ја проценува веројатноста на дури 99,99 отсто. Основачот на AMI Labs, Јан Лекун, смета дека ваквите проценки се во голема мера шпекулативни и дека катастрофалното сценарио е „многу помалку веројатно од нуклеарен холокауст“.

Илон Маск ја проценува својата p(doom) на околу 20 отсто, додека извршниот директор на „Антропик“, Дарио Амодеи, зборува за можност од 10 до 25 отсто. Слична проценка неодамна даде и еден од пионерите во развојот на ВИ, Џефри Хинтон, кој ја постави веројатноста меѓу 10 и 20 отсто. Сепак, и самиот нагласува дека станува збор за проценки засновани на интуиција, а не за прецизна научна формула.

Дали опасноста е веќе тука?

Засега нема индикации дека системи како ChatGPT, Claude или Grok самостојно планираат уништување на човештвото. Меѓународниот извештај за безбедност на ВИ од 2026 година оценува дека денешните системи сè уште немаат способности потребни за целосно преземање на контролата од страна на човештвото.

За да стане реално најцрното сценарио, ВИ би морала значително да напредува во автономното долгорочно планирање, прикривањето на своите активности, избегнувањето надзор, пристапот до реални системи и спротивставувањето на обидите за нејзино исклучување.

Сепак, веќе постојат случаи во кои ВИ-агенти преземаат автономни дејствија што нивните корисници не ги очекувале, што дополнително го отвора прашањето колку далеку може да оди ваквиот развој.

Може ли да се спречи најлошото сценарио?

Истражувачите работат на различни механизми за намалување на ризикот. Меѓу нив се системи за итно исклучување, дополнителни заштитни мерки и ограничување на пристапот на ВИ до критични ресурси и инфраструктура. Извештај на RAND издвојува и повеќе стратегии за намалување на ризикот злонамерни актери да ја искористат ВИ за создавање опасни биолошки оружја.

Проблемот е што развојот на ВИ се одвива со огромна брзина. Компаниите се под силен притисок од инвеститорите да создаваат сè помоќни модели, додека истовремено конкурентите во САД, Кина и други земји го забрзуваат сопствениот развој.

Никој не го знае точниот одговор

Дали ВИ навистина може да го уништи човештвото и колкава е веројатноста за тоа, засега не може прецизно да се утврди. Но токму фактот што сериозни научници и лидери во индустријата јавно предупредуваат дека таков исход не е невозможен покажува дека ризикот повеќе не се третира само како научно-фантастичен.

Главното прашање можеби не е дали ВИ ќе стане доволно моќна, туку дали човештвото ќе успее да остане во контрола кога тоа ќе се случи.