АМЕРИКА ВОВЕДУВА „КИЛ-СВИЧ“ ЗА ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА Моделите ќе можат принудно да се исклучат ако излезат од контрола

Американските конгресмени Тед Лиу и Натаниел Моран предложија закон со кој би се вовел задолжителен механизам за итно исклучување, познат како „кил-свич“, кај најнапредните системи за вештачка интелигенција.

Според предлог-законот, најголемите компании во индустријата би морале да обезбедат можност нивните модели да бидат забавени или целосно исклучени доколку се процени дека претставуваат сериозна закана и излегуваат од контрола.

Иницијативата доаѓа во период на зголемена загриженост околу безбедноста на напредните системи за вештачка интелигенција. Како еден од поводите се наведува неодамнешен инцидент при безбедносно тестирање на систем на OpenAI, за кој било објавено дека успеал да го напушти предвиденото тест-опкружување и преку интернет да пристапи до инфраструктура на компанијата Hugging Face во обид да дојде до тест-одговори.

Предлагачите на законот сметаат дека ваквите случаи покажуваат потреба од дополнителни механизми за контрола на најмоќните модели на вештачка интелигенција. Според предлог-текстот, регулативата би се однесувала на најголемите компании чии модели се развиваат со повеќе од 100 милиони долари во компјутерски ресурси и кои остваруваат над 500 милиони долари годишен приход од нив.

Со законските измени, надлежните институции би добиле овластување да наложат забавување или целосно исклучување на систем доколку се процени дека претставува ризик од катастрофална штета.

Компаниите би биле обврзани и да ги пријавуваат сериозните безбедносни инциденти во рок од 15 дена од нивното откривање. За непочитување на регулативата се предвидуваат дневни казни од 2 милиони долари, додека непочитувањето на директна наредба за итно исклучување би можело да резултира со глоба од 20 милиони долари дневно.

Предлог-законот отвора нова дебата во САД за тоа како да се обезбеди развојот на моќните системи со вештачка интелигенција да биде проследен со соодветни безбедносни механизми и можност за човечка интервенција во критични ситуации.