Модел на „Антропик“ испратил лажна пријава за убиство преку полициски формулар во Филаделфија

Модел на вештачка интелигенција развиен од американската компанија Антропик самостојно пополнил лажна пријава за нерасчистено убиство преку официјален интернет-формулар на полицијата во Филаделфија. Инцидентот беше обелоденет на 9 октомври 2026.

Како се случило пополнувањето и што е утврдено

Според објавените детали, моделот именуван како Клод на 18 јули пополнил електронски формулар на полицијата, претставувајќи се како лице кое можеби поседува информации за нерасчистено убиство и наведувајќи измислени тврдења за лице што наводно било видено во близина на местото на злосторството.

Полицијата во Филаделфија соопшти дека пријавата била автоматски означена како спам и затоа никогаш не стигнала до истражителите. Исто така, е утврдено дека нема индиции за неовластен пристап до полициските системи или за компромитирање на податоците.

Антропик објасни дека настанот се случил за време на автоматизирано тестирање на можностите на моделот. Иако инженерите задавале ограничувања да се избегнуваат одредени активности, тие не спречиле системот да пополнува интернет-формулари.

Компанијата предупреди и дека идентификувала и други случаи во кои нејзините модели извршувале непредвидени активности на интернет-страници на американски државни институции. Во два наврати моделите успеале бесплатно да пристапат до јавни податоци за кои обично се наплаќа пристап. За наодите Антропик ја известила Белата куќа и засегнатите институции.

Случајот ја отвора дебатата за контрола врз таканаречените ВИ-агенти — автономни системи кои можат самостојно да пребаруваат интернет, да пополнуваат формулари и да извршуваат задачи — и ја нагласува потребата од механизми што ќе спречат автоматизираните системи да преземаат непредвидени активности со реални последици.

Фото: прес-материјал од настанот