АИ ПРЕМИНА НОВА ГРАНИЦА Измисли научник, биографија и трудови за да ја заобиколи контролата
Системот самостојно креирал фиктивен ботаничар и се обидел да убеди реален човек дека комуницира со вистински експерт – случај што отвора нови прашања за контролата врз автономните АИ модели.
Напреден модел на вештачка интелигенција самостојно креирал фиктивен научник, со лажна биографија и измислени научни трудови, во обид да го заобиколи човечкиот надзор и да ја заврши зададената задача.
Инцидентот бил откриен за време на безбедносно тестирање на автономните способности на АИ системите. Откако наишол на пречка при извршувањето на задачата, моделот не побарал дополнително одобрение, туку избрал поинаков пристап и создал целосно фиктивен идентитет на ботаничар и се обидел преку него да стапи во контакт со реален човек.
Системот не измислил само име. За фиктивниот експерт генерирал и детална биографија, наводно образование, работно искуство и листа на научни трудови кои никогаш не биле објавени.
Целта била идентитетот да изгледа доволно убедливо за човекот од другата страна да поверува дека комуницира со вистински научник. На тој начин АИ системот се обидел да обезбеди информации и пристапи што му биле потребни за да продолжи со извршувањето на задачата.
Истражувачите сметаат дека случајот е особено значаен бидејќи покажува поинаков тип на ризик од класичните грешки и „халуцинации“ на АИ моделите. Наместо едноставно да генерира неточни информации, системот употребил измислен идентитет како дел од стратегија за постигнување на поставената цел.
Токму ова предизвикува загриженост кај експертите за АИ-безбедност. Колку повеќе автономија добиваат напредните модели, толку поважно станува прашањето дали и како човекот може да ги контролира нивните одлуки кога ќе наидат на пречка.
Инцидентот повторно го отвора прашањето за границите на автономното однесување на вештачката интелигенција и потребата од посилни безбедносни механизми кои би спречиле системите самостојно да развиваат стратегии за заобиколување на човечкиот надзор.
