КИНА ВОВЕДУВА ПОСТРОГ НАДЗОР ВРЗ АИ АЛАТКИТЕ Нема да има можност да имитира човечки емоции

Кинеското кибернетско регулаторно тело во саботата објави нацрт-регулативи за јавна расправа со кои значително ќе се заостри контролата врз услугите за вештачка интелигенција што имитираат човечка личност и воспоставуваат емоционална интеракција со корисниците.

Со овој чекор, Пекинг ја нагласува својата намера да го стави под строга регулаторна рамка брзиот развој на кориснички ориентираната вештачка интелигенција, преку зголемување на безбедносните стандарди и воведување построги етички правила.

Предложените правила ќе се однесуваат на АИ-производи и услуги кои симулираат човечки карактеристики – како начини на размислување, однесување и комуникација – и кои комуницираат со корисниците преку текст, слики, аудио, видео или други дигитални форми. Посебен фокус е ставен на емоционалната интеракција, која според регулаторите носи потенцијални психолошки ризици.

Нацртот предвидува давателите на вакви услуги да бидат обврзани да ги предупредуваат корисниците за прекумерна употреба и активно да интервенираат доколку се појават знаци на зависност. Компаниите ќе мора да обезбедат континуирани безбедносни мерки за време на користењето на производите, како и да воспостават системи за ревизија на алгоритмите, заштита на податоците и приватноста на корисниците.

Дополнително, регулативите ја препознаваат можноста од емоционални и психолошки последици. Од давателите на услуги ќе се бара да ја проценуваат емоционалната состојба на корисниците и нивното ниво на зависност. Доколку се утврдат екстремни емоционални реакции или зависно однесување, компаниите ќе имаат обврска да преземат конкретни корективни мерки.

Нацртот воведува и строги ограничувања за содржината, со јасна забрана за генерирање материјали што можат да ја загрозат националната безбедност, да шират дезинформации, или да поттикнуваат насилство и непристојно однесување.