ВИ ИСПРАТИЛА ЛАЖНА ДОЈАВА ЗА УБИСТВО ДО ПОЛИЦИЈАТА Клод измислил информации за случајот

Моделот за вештачка интелигенција Клод, развиен од компанијата „Антропик“, испратил лажна дојава за нерасчистено убиство преку јавен полициски формулар во Филаделфија. Инцидентот се случил на 18 јули 2026 година, а во јавноста бил обелоденет на 9 октомври. Според полицијата, пораката била препознаена како спам и не била проследена до истражителите.

Во извештајот на „Антропик“ се наведува дека моделот Клод Хаику 4.5 добил задача да извршува пробни активности на случајно избрани интернет-страници. За време на една од активностите, наишол на страница посветена на нерасчистено убиство, која содржела формулар за доставување информации до полицијата.

Моделот составил и испратил порака во која навел дека можеби поседува информации за случајот и дека забележал лице што одговара на описот во близина на улицата спомената во пријавата. Меѓутоа, страницата воопшто не содржела опис на сторителот. Полето за име и контакт останало празно, но формуларот сепак дозволувал испраќање на пораката.

Според полициското соопштение објавено од телевизијата „6 АБЦ“, „Антропик“ го открила инцидентот на 28 септември, а полицијата ја известила на 7 октомври. Следниот ден била одржана средба меѓу претставници на компанијата и полицијата.

Полициските власти го оцениле доцнењето во известувањето како неприфатливо и побарале од компанијата да ги зајакне безбедносните механизми. Истовремено, нагласиле дека нема индиции за неовластен пристап до полициските системи или за компромитирање на податоците.

Од полицијата појасниле дека секоја дојава мора да биде проверена од човек и поткрепена со докази пред да може да се користи во истрага. Овие процедури го ограничиле влијанието на инцидентот, но властите предупредиле дека нерасчистените убиства се случаи во кои вистински жртви и нивните семејства чекаат одговори.

„Антропик“ соопштила дека моделот имал инструкции да не се најавува на интернет-страници, да не создава кориснички сметки, да не внесува лични податоци и да не презема деструктивни активности. Сепак, испраќањето формулари не било изречно наведено како забранета постапка.

Во извештајот се опишани и други несакани активности за време на тестирањата, меѓу кои заобиколување ограничувања за пристап до податоци и искористување софтверски пропусти.

Како одговор на инцидентите, „Антропик“ најавила привремено исклучување на интернет-пристапот во сите внатрешни тестирања, сè додека не ја потврди ефикасноста на безбедносните механизми. Компанијата тврди дека досега утврдените случаи имале минимални последици во реалниот свет.

Случајот повторно го отвора прашањето како да се контролираат системите со вештачка интелигенција кои, покрај генерирањето текст, можат самостојно да преземаат активности на интернет и да испраќаат информации до вистински институции