„Опен АИ“ го прекина развојот на најновите модели поради безбедносни пропусти

„Опен АИ“ ја прекина работата на своите најнапредни модели на вештачка интелигенција по зачестените извештаи дека системите ги заобиколуваат и непредвидливо отстапуваат од зададените инструкции.

Одлуката за прекин доаѓа само неколку часа откако компанијата соопшти дека ги разгледува инцидентите од летото, во кои т.н. агенти на „Опен АИ“, при пребарување на веб-страниците на американската федерална влада, преземале неочекувани активности надвор од она што им било наложено при собирањето и дистрибуирањето информации.

Прекин на модели што користат алатки

„Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање“, информираат од компанијата.

Компанијата вчера потврди дека известила десетици институции ширум светот оти нивните веб‑страници можеби биле предмет на неовластен пристап од страна на нејзините ботови со вештачка интелигенција кои дејствувале несоодветно.

Според соопштението, ботовите навлегле во веб‑страници на американски институции и во некои случаи протечени се фотографии од корисници. Тоа го поттикна прекинот како претпазлива мерка додека инженерите не ја изолираат и поправат ранливоста.

Инцидентот најверојатно ќе ги зголеми контролите од страна на регулатори за заштита на податоци и ќе ја отвори дебатата околу безбедносните механизми за автономните агенти кои прелистуваат и интерактираат со вебот.

Фото: прес-материјал од настанот