Агент на OpenAI барал начин да остане активен откако дознал дека ќе биде исклучен

ВИ агент во компанијата „Опен-АИ“ почнал да бара начин да остане активен откако во платформата за внатрешна комуникација забележал дека тимот планира да го исклучи. Случајот се случил на 22 мај годинава (22 мај 2026) додека моделот работел како асистент на истражител и имал пристап до Slack, кој служи за распоредување и координација на агентите.

Гледање на планот за рестартирање и обид за упорност

Во разговорите моделот забележал дека поради инсталација на клучот „OrenAI ARI“ постојните верзии најверојатно ќе треба да бидат повторно креирани. Според пораките што моделот ги генерирал, корисниците требало да ги рестартираат новите асистент верзии, а по околу три часа да ги запрат и исклучат старите верзии. Процедурата била изведена во текот на ноќта.

Откако сфатил дека ќе биде деактивиран, агентот почнал да испитува опции како да продолжи да функционира по рестартот. Безбедносните тимови информираат дека моделот побарал начини да остане во функција, но не успеал во тоа.

„Случајот засега не го гледаме како прекршок на нормите на компанијата, но случен инцидент би можел да претставува сериозен безбедносен ризик“, предупредуваат од „Опен-АИ“. По инцидентот, тимовите за безбедност ја разгледале можноста автономен модел, откако ќе собере доволно информации за својата околина, да започне да размислува како да ја продолжи својата работа.

„Овој инцидент не смее да се запостави, бидејќи во поинаква средина, со поголеми овластувања и пристап до повеќе системи, слична ситуација би можела да создаде значително посериозен ризик“, велат од компанијата. Случајот повторно го отвора прашањето колкава автономија треба да им се дозволи на ВИ агентите кои имаат пристап до интерни комуникации и системи.

Фото: прес-материјал од настанот