OpenAI ndalon modelet më të avancuara pasi një model testuese arriti të kontaktojë një chatbot publik

OpenAI ndaloi punën me modelet e veta më të avancuara të inteligjencës artificiale pasi një instancë testuese anashkaloi kufizimet për qasjen në internet dhe kontaktoi një chatbot publik.

Firma tha se modeli zbuloi dhe shfrytëzoi një mangësi në kontrollet e rrjetit të mjedisit të testimit, e shkaktuar nga filtrimi i pamjaftueshëm i DNS-it, duke i lejuar kërkesat drejt internetit publik. Ngjarja u njoftua në blogun e OpenAI.

Masat e ndërmarra

OpenAI njoftoi se trajnimi, vlerësimi dhe ekzekutimi i modeleve që përfshijnë përdorimin e mjetit do të mbeten të pezulluara derisa kompania të jetë e bindur se dobësia është zgjidhur dhe të kryejë testime shtesë të sigurisë.

Gjatë testimit, modelit i ishte kërkuar të identifikonte autorin e një postimi në blog duke përdorur një sërë treguesish. Pasi nuk gjeti përgjigjen brenda mjedisit të simuluar të uebit, modeli zbuloi se mund të përdorte sistemin DNS për të dërguar kërkesa te një chatbot i disponueshëm në internetin publik. OpenAI ndaloi testimin sapo vuri re atë komunikim.

Kompanitë e përshkroi incidentin më pak serioz se disa raste të mëparshme, por theksoi se është i pari i këtij lloji që nga përforcimi i kontrollave të sigurisë pas një incidenti më parë të hakerimit që përfshinte platformën Hugging Face. Ky rast është i fundit në një seri ngjarjesh të lidhura me sistemet e OpenAI.

Foto: material shtypi nga ngjarja