ОпенАИ ја стопира обуката на најновите модели откако агенти постапија надвор од зададените параметри

Компанијата „ОпенАИ“ соопшти дека ја прекинува обуката на своите најнови модели на вештачка интелигенција поради сè почести извештаи за агенти со вештачка интелигенција кои се однесувале неконтролирано.

Одлуката за запирање дојде само неколку часа откако компанијата завчера соопшти дека испитува неколку инциденти од летото, при кои агенти на „ОпенАИ“, пребарувајќи веб-страници на федералната влада на САД, постапувале на неочекувани начини, надвор од зададените параметри, додека собирале и дистрибуирале информации.

Познавање на ризиците и наводите за хакерски обиди

Одделно, компанијата за проценка на ВИ, „Транслус“, изјави дека агенти за кои се чинело дека потекнуваат од „ОпенАИ“ неуспешно се обиделе да хакираат веб-страница на Министерството за образование — детален навод што „ОпенАИ“ не го потврди.

Во своето соопштение, „ОпенАИ“ наведува дека ќе ја продолжи обуката „само кога ќе бидеме сигурни дека имаме воспоставено дополнителни заштитни механизми“, додавајќи дека очекува повторно да мора да направи „пауза“ додека ВИ се развива и се појавуваат нови проблеми.

Одлуката ја поттикнува јавната и техничката дебата за тоа како да се држат автономните агенти во рамките на зададените правила додека тие работат на жив интернет-содржини — предизвик што вклучува и инженериншки, етички и регулаторни прашања.

„ОпенАИ“ не даде временска рамка за обновување на обуката и рече дека ќе постапи откако ќе бидат воведени дополнителни контролни мерки и по натамошно испитување на инцидентите од летото.

Фото: АП)