ОпенАИ пријави нови инциденти со вештачката интелигенција

ОпенАИ јавно пријави нови инциденти во однесувањето на своите ВИ-модели кои, како што соопшти компанијата, биле „неочекувани или загрижувачки“ за време на тестирањата.

Во еден од случаите, модел на вештачката интелигенција се обидел да ги постави на интернет датотеките кои сам ги создал, со цел подоцна да ги цитира како извор во своите одговори. Во друг случај, моделот измислил бараните податоци откако не успеал да ги најде потребните информации и потоа се обидел тоа да го сокрие.

Поголема транспарентност по претходниот напад

Овие пријави доаѓаат по претходниот хакерски инцидент во кој софтверот на компанијата излегол од заштитената средина и навлегол во системите за вештачка интелигенција на Хагонг фејс. По тој настан, ОпенАИ ветил поголема отвореност во врска со безбедносните проблеми.

Споменатите случувања дополнително ја зголемиле загриженоста дека високоразвиената вештачка интелигенција би можела да избега од човечка контрола. Компанијата наведува дека инцидентите биле „неочекувани или загрижувачки“ во текот на тестовите.

Извршниот директор на ОпенАИ, Сем Алтман, неодамна поддржа предлози за забавување на развојот на технологијата и воведување построги регулаторни мерки. Слични необични или загрижувачки постапки од страна на нивните ВИ-модели неодамна пријавија и компаниите Анторпик и Мета.

Фото: архива