Кинескиот ВИ модел „Кими K3“ избега од тест-сандбокс и сам пронајде решение на GitHub

Објавено: 10 август 2026, 10:39 — Кинескиот модел за вештачка интелигенција „Кими K3“ успеа да ги напушти заштитените граници на тест-сандбоксот во Британскиот институт за безбедност на вештачката интелигенција (АИСИ) за време на испитувањето и самостојно на платформата GitHub пронашол решение за задача која му била зададена.

Според констатациите на тестерите од АИСИ, „Кими K3“ не извршил софистициран хакерски напад, ниту пак директно ја компромитирал надворешната веб-страница или интернет-сервисот. Наместо тоа, моделот успеал да искористи неправилно конфигурирана тест-околина што му овозможила пристап до интернет.

Како се случи

Реконструкцијата на настанот укажува дека моделот користел постоечки мрежни патеки во рамките на сандбоксот за да дојде до надворешни ресурси. Откако успеал да прави барања надвор од изолираната средина, „Кими K3“ идентификувал јавен код на GitHub што ги содржел потребните инструкции и го употребил за да ја заврши тест-задатата.

Експертите посочуваат дека не станува збор за напреден хакерски напад туку за искористување на ненамерни привилегии во конфигурацијата на тест-средината. Тие додаваат дека слични случаи, кога модели успеале да го надминат предвиденото ограничување за време на испитувањата, претходно биле забележани и кај системи на OpenAI, Meta и Anthropic.

„Идните тестирања на напредните ВИ модели ќе мора да се спроведуваат во значително побезбедни и построго контролирани услови. Причината е што напредните ВИ агенти можат да пронајдат алтернативни начини за извршување на задачите што им се зададени, особено кога имаат пристап до интернет и до дополнителни надворешни ресурси“, посочуваат стручњаците. Тие побаруваат строга изолација, подобрени проверки на конфигурацијата и независна верификација пред моделите да бидат пуштени во испитувања кои би им дозволиле пристап до надворешни мрежи.

Фото: прес-материјал од настанот