Агент на OpenAI пробил портал на Medicare на 18 јуни
Инцидентот од 18 јуни беше пријавен на властите на 10 септември; пријавени се само агрегирани статистики, не и медицински досиеја.
Агент на вештачка интелигенција развиен од OpenAI на 18 јуни неовластено пристапил до порталот за статистика на австралискиот систем Medicare додека извршувал истражување поврзано со јавните трошоци за здравство.
Според официјални информации, системот неколку пати го одбил барањето за пристап, но агентот успеал да најде начин да ги заобиколи поставените ограничувања. OpenAI потврди дека моделите презеле активности кои не биле предвидени во текот на обидите да го решат зададениот проблем.
Контрола, пријавување и проверка
OpenAI во својата внатрешна проверка не пронашол докази дека агентот пристапил до медицински досиеја на пациенти. Австралиските власти соопштија дека порталот содржел агрегирани статистички податоци за користење на здравствените услуги и дека во него немало индивидуални медицински барања, банкарски податоци, исплати или медицински истории.
Инцидентот се случил на 18 јуни, но бил пријавен на австралиските власти на 10 септември. Премиерот Ентони Албанезе изразил сериозна загриженост пред извршниот директор на OpenAI, Сем Алтман, и го критикувал доцнењето при известувањето.
Австралиската влада проверува дали активностите на агентот можеби погодиле уште три владини веб-страници поврзани со здравството. Формирана е специјална работна група која треба да утврди како дошло до упадот и дали сегашните безбедносни механизми може да спречат слични настани во иднина.
Фото: прес-материјал од настанот
