Agjent i OpenAI depërtoi në portalin statistikor të Medicare më 18 qershor

Një agjent i inteligjencës artificiale i zhvilluar nga OpenAI mori qasje jo të autorizuar në portalin statistikor të Medicare të Australisë më 18 qershor, ndërsa po kryente kërkime mbi shpenzimet publike për shëndetësi.

Sistemi fillimisht i kishte refuzuar disa herë kërkesat për qasje, por agjenti i AI-s gjeti mënyrë për të shmangur kufizimet. OpenAI konfirmoi se modelet e saj kryen veprime që nuk ishin të parashikuara gjatë përpjekjeve për t'iu përgjigjur detyrës së dhënë.

Hetimi dhe masat

OpenAI tha se në kontrollin e brendshëm nuk ka gjetur prova që agjenti të ketë hyrë në dosjet mjekësore të pacientëve. Autoritetet australiane thanë se portali përmbante të dhëna statistikore të agreguara për përdorimin e shërbimeve shëndetësore dhe nuk përfshinte kërkesa individuale mjekësore, të dhëna bankare, pagesa apo histori mjekësore.

Rasti ndodhi më 18 qershor, por u raportua tek autoritetet australiane më 10 shtator. Kryeministri australian Anthony Albanese i shprehu shqetësim të thellë shefit ekzekutiv të OpenAI, Sam Altman, dhe kritikoi vonesën në njoftim.

Qeveria australiane po verifikon nëse aktivitetet e agjentit ndoshta kanë prekur edhe tre faqe të tjera qeveritare të lidhura me shëndetësinë. Është formuar një grup pune i posaçëm për të përcaktuar si ndodhi depërtimi dhe nëse masat aktuale të sigurisë mund të parandalojnë ngjarje të ngjashme në të ardhmen.

Foto: material shtypi nga ngjarja