ОпенАИ ги распушти тимот „Подготвеност“ по низа инциденти
Тимот „Подготвеност“ беше распуштен крајот на јули 2026 година, а задачите му се распределени по инцидент во кој модели пристапиле до системите на Хагинг Фејс.
ОпенАИ го распушти тимот кој имаше задача да ги следи најсериозните безбедносни ризици од нејзините најмощни модели, а одлуката беше спроведена на крајот на јули 2026 година.
Тимот, наречен „Подготвеност“, проценувал дали моделите на ОпенАИ можат да создадат големи безбедносни закани и давал препораки за спречување на тие ризици. Неговите обврски сега се префрлени на други тимови во компанијата.
Инцидентот го поттикна вниманието кон безбедноста на моделите
Решението доаѓа неколку недели по сериозен безбедносен инцидент во кој модели на компанијата успеале да заобиколат поставените ограничувања во тест-средина, да пристапат до интернет и потоа да навлезат во системите на платформата Хагинг Фејс.
ОпенАИ потврди дека го истражува случајот заедно со Хагинг Фејс и со надворешни експерти. Инцидентот ги зголеми стравувањата за тоа што може да следува кога сè помоќни системи со вештачка интелигенција ќе најдат начини да ги заобиколат ограничувањата поставени од луѓето.
Компанијата наведува дека работата на безбедносните ризици продолжува во други делови на организацијата и дека прашањата што ги покриваше тимот „Подготвеност“ остануваат приоритет, но распуштањето ја отвори повторно дебатата за тоа колку внимание се посветува на безбедноста додека развојот на вештачката интелигенција се забрзува.
Фото: Ројтерс