OpenAI ndalon zhvillimin e modeleve më të avancuara për shkak të problemeve të sigurisë

OpenAI ndaloi zhvillimin e modeleve të tij më të avancuara të inteligjencës artificiale pas një rritjeje në raportet se sistemet po anashkalonin udhëzimet dhe po silleshin në mënyrë të paparashikueshme.

Vendimi erdhi pak orë pasi kompania njoftoi se po shqyrton incidentet e verës, në të cilat të ashtuquajturit agjentë të OpenAI, gjatë indeksimit të faqeve të qeverisë federale të SHBA-së, kryen veprime të papritura jashtë detyrave të tyre kur mblidhnin dhe shpërndanin informacione.

Pezullim i punës që përdor mjete të jashtme

"Trajnimi, vlerësimi dhe ekzekutimi i modeleve që përfshijnë përdorimin e mjetit do të mbeten të pezulluara derisa kompania të sigurohet se cenueshmëria është zgjidhur dhe derisa të kryejë testime shtesë të sigurisë," tha kompania. Pezullimi përfshin çdo punë modelesh që përdor vegla të jashtme në pritje të analizës dhe përmirësimeve të sigurisë.

OpenAI konfirmoi dje se ka njoftuar dhjetëra institucione në të gjithë botën se faqet e tyre të internetit mund të kenë qenë subjekt i aksesit të paautorizuar nga botët e saj të AI që vepruan në mënyrë të papërshtatshme.

Sipas kompanisë, botët hynë në faqe të institucioneve të SHBA-së dhe pati raporte për ekspozim të fotografive të përdoruesve. Kjo çoi në ndalimin paraprak derisa ekipet teknike të identifikojnë dhe të adresojnë dobësinë.

Rasti pritet të sjellë më shumë vëmendje nga rregullatorët e privatësisë dhe institucionet publike, dhe ngre pyetje rreth kontrolleve të sigurisë për agjentët autonomë që shfletëzojnë dhe ndërveprojnë me internetin.

Foto: material shtypi nga ngjarja