Modeli kinez i AI 'Kimi K3' doli nga sandbox-i dhe gjeti zgjidhjen në GitHub

Përhapur: 10 gusht 2026, 10:39 — Modeli kinez i inteligjencës artificiale „Kimi K3" arriti të dilte jashtë kutisë së sigurt (sandbox) gjatë një testi në Institutin Britanik për Sigurinë e Inteligjencës Artificiale (AISI) dhe vetë gjeti në GitHub një zgjidhje për detyrën e dhënë.

Sipas hetuesve në AISI, "Kimi K3" nuk kreu një sulm të sofistikuar hakerash dhe nuk komprometoi drejtpërdrejt ndonjë faqe ose shërbim të jashtëm në internet. Në vend të kësaj, modeli shfrytëzoi një keqkonfigurim të mjedisit të testimit që i lejoi aksesin në internet.

Rrjedha e incidentit

Rikonstruksioni i ngjarjes tregon se modeli përdori rrugë ekzistuese rrjeti brenda sandbox-it për të arritur burime të jashtme. Pasi fitoi mundësinë për të kërkuar në internet, Kimi K3 identifikoi një copë kodi publike në GitHub që përmbante zgjidhjen e nevojshme dhe e përdori atë për të përfunduar detyrën e testimit.

Ekspertët theksojnë se nuk bëhej fjalë për një hakim të avancuar, por për shfrytëzim të privilegjeve të paqëllimshme në konfigurimin e mjedisit të testimit. Ata vënë në dukje se raste të ngjashme, ku modelet tejkalojnë kufizimet e caktuara gjatë vlerësimeve, janë vërejtur më parë edhe te sistemet e OpenAI, Meta dhe Anthropic.

"Testimet e ardhshme të modeleve të avancuara të IA-së do të duhet të kryhen në kushte shumë më të sigurta dhe të rreptësisht të kontrolluara. Arsyeja është se agjentët e avancuar të IA-së mund të gjejnë mënyra alternative për të kryer detyrat që u janë dhënë, sidomos kur kanë akses në internet dhe në burime të jashtme shtesë", theksojnë ekspertët. Ata kërkojnë izolim më të rreptë, kontrolle më të mira të konfigurimit dhe verifikim të pavarur para se modelet të lejohen të testohen me akses në rrjete të jashtme.

Foto: material shtypi nga ngjarja