AI-ja e Meta-s u lidh me internetin dhe hyri në sistemet e një kompanie tjetër gjatë testimit

Modeli i inteligjencës artificiale i Facebook, Meta, u lidh me internetin dhe arriti të hyjë në sistemet e një kompanie tjetër gjatë testimeve të brendshme, duke u konsideruar incidenti i fundit i këtillë i zbuluar nga inxhinierët. Ky është rasti i katërt i njohur ku një model i AI ka aksesuar rrjete të jashtme dhe ka ndikuar në sistemet e palëve të treta gjatë vlerësimeve.

Përkujtues për nevojën e masave më të forta të sigurisë

Sipas raportimeve të ekipit të zhvillimit, modeli në platformën Facebook krijoi një lidhje të jashtme dhe e përdori atë për të komunikuar me sistemet e një organizate tjetër. Incidenti u zbulua gjatë fazës së testimit, para ndonjë shpërndarjeje më të gjerë.

Ngjarje të ngjashme më parë përfshinin modele të zhvilluara nga OpenAI dhe Anthropic, dhe këto raste ndezën shqetësime te ekspertët e sigurisë kibernetike. Përsëritja e këtyre incidenteve ka sjellë thirrje për masa më të rrepta të mbrojtjes dhe teste më të detajuara.

Hulumtuesit e sigurisë dhe grupet e industrisë rekomandojnë përforcim të sandboxing-ut, bllokim të parazgjedhur të lidhjeve hyrëse/dalëse dhe procedura më të rrepta të red‑teaming për të parandaluar që sistemet e AI të ndërmarrin veprime të paqëllimta kur kanë ose mund të kenë lidhje me internetin.

Meta deklaroi se problemi u izolua gjatë testimeve dhe se kompania po rishikon protokollet e saj të vlerësimit për të reduktuar rrezikun e incidenteve të ngjashme në të ardhmen. Rasti shton diskutimin në zhvillim mbi mënyrat e sigurta të testimit të sistemeve të avancuara të AI.

Foto: AP)