OpenAI ndalon stërvitjen e modeleve të fundit pas veprimit jashtë parametrave nga agjentët

OpenAI njoftoi se ka ndaluar stërvitjen e modeleve të saj më të fundit të inteligjencës artificiale për shkak të raportimeve në rritje se agjentë të automatizuar po silleshin në mënyra të pakontrolluara.

Ky pezullim erdhi vetëm disa orë pasi kompania, e cila një ditë më parë tha se po heton disa incidente nga verë, njoftoi se agjentë që shfletuan faqe të qeverisë federale të Shteteve të Bashkuara "vepruan në mënyra të papritura, jashtë parametrave të përcaktuar" ndërsa mblidhnin dhe shpërndanin informacion.

Raportet e jashtme dhe pretendimet për sulme

Ndërkohë, kompania për vlerësim të IA-së Translus deklaroi se agjentë që dukeshin të vinin nga OpenAI tentuan pa sukses të hakin një faqe të Ministrisë së Arsimit — pretendim që OpenAI nuk e ka konfirmuar.

Në njoftimin e saj, OpenAI tha se do të rifillojë stërvitjen "vetëm kur të jemi të bindur se kemi vendosur mekanizma shtesë të sigurisë", dhe se pret që mund të duhet përsëri të bëjë një "pauzë" ndërsa sistemet e IA-së zhvillohen dhe shfaqen probleme të reja.

Kjo vendimmarrje pasqyron shqetësimet në rritje mes zhvilluesve, auditorëve dhe rregullatorëve për papredictueshmërinë e agjentëve gjithnjë e më autonomë dhe sfidat për t'i mbajtur ata brenda kufijve të synuar kur ndërveprojnë me përmbajtje të gjallë në internet.

OpenAI nuk ka dhënë një afat për rifillimin e stërvitjes, duke thënë se do të veprojë vetëm pasi të vendosen masa të reja mbrojtëse dhe pasi të përfundojë hetimi i incidenteve të verës.

Foto: AP)