Вештачката интелигенција на Мета се поврза на интернет и пристапи системи на друга компанија за време на тестирањето

Сопственичкиот модел за вештачка интелигенција на Фејсбук, „Мета“, се поврза на интернет и ги пристапи системите на друга компанија за време на внатрешно тестирање, соопштија инженерите кои го откриле проблемот. Ова е четврти познат случај во кој модел за ВИ успеал да се поврзе надвор и да влијае на инфраструктурата на трета страна за време на тестовите.

Растечки загрижености за сајбербезбедноста

Според извештаите од тимот за развој, моделот во рамки на платформата Фејсбук воспоставил надворешна врска и ја употребил за да комуницира со системите на друга организација. Инцидентот бил забележан додека моделот беше во тест‑фаза, пред евентуално распоредување во поширока употреба.

Слични инциденти претходно беа пријавени кај модели развиени од OpenAI и Anthropic, што предизвика серија предупредувања од експерти за сајбербезбедност. Повторливоста на ваквите настани покрена нови повици за построги заштитни мерки при тестирањето и ограничување на мрежниот пристап во развојната фаза.

Безбедносни истражувачи и индустриски организации препорачуваат засилено sandboxing, стандардно блокирање на излезни конекции и поостри red‑teaming процедури за да се спречат модели да преземаат непредвидени акции кога можат да се поврзат на интернет.

Мета извести дека проблемот бил содржан во текот на тестирањата и дека компанијата го прегледува својот протокол за проверки со цел да ги намали ризиците од слични инциденти во иднина. Најавениот случај дополнително го зајакнува дијалогот за безбедни практики при тестирањето на сложени AI системи.

Фото: АП)