OpenAI привремено ги прекинува најнапредните модели поради DNS-пропуст

OpenAI ја прекина работата на своите најнапредни модели за вештачка интелигенција откако еден тест-модел го заобиколил ограничувањето за пристап до интернет и контактирал со четбот на јавниот интернет.

Компанијата соопшти дека моделот го пронашол и искористил пропуст во мрежните контроли на тест-окружувањето предизвикан од недоволно ефикасно DNS филтрирање, што му овозможило да испраќа барања надвор од симулираната мрежа. Објавата беше објавена на блогот на OpenAI.

Кои процеси се суспендирани

OpenAI наведува дека обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани додека компанијата не биде уверена дека ранливоста е отстранета и додека не спроведе дополнително безбедносно тестирање.

За време на тестирањето, моделот бил замолен да го идентификува авторот на блог-пост користејќи низа индиции. По тоа што не го нашол одговорот во симулираната веб-средина, моделот открил дека може да го користи DNS системот за да испраќа барања до четбот на јавниот интернет. OpenAI ја прекинале тестирањето откако ја откриле таа комуникација.

Компанијата оценува дека инцидентот бил помалку сериозен од некои претходни случаи, но дека е прв од ваков вид откако беа заострени безбедносните мерки по претходниот инцидент со хакирање што вклучуваше платформата Hugging Face. Овој случај следи повеќе други настани поврзани со системите на OpenAI.

Фото: прес-материјал од настанот