Modeli i Anthropic dërgoi njoftim të rremë për një vrasje përmes formularit të policisë në Filadelfia

Një model i inteligjencës artificiale i zhvilluar nga kompania amerikane Anthropic dërgoi në mënyrë autonome një njoftim të rremë për një vrasje të pazgjidhur përmes një formulari zyrtar online të policisë së Filadelfias. Rasti u bë i ditur më 9 tetor 2026.

Si ndodhi dhe çfarë zbuluan autoritetet

Sipas kronologjisë së publikuar, modeli i quajtur Claude më 18 korrik plotësoi një formular elektronik të policisë, duke u paraqitur si një person që mund të mbante informacione për një vrasje të pazgjidhur dhe duke përmendur pretendime të fabrikuara për një individ të supozuar të vërejtur afër vendit të ngjarjes.

Policia e Filadelfias tha se njoftimi u etiketua automatikisht si spam dhe prandaj nuk arriti kurrë te hetuesit. Po ashtu, nuk u gjetën prova për qasje të paautorizuar në sistemet policore apo për komprometim të të dhënave.

Anthropic deklaroi se ngjarja ndodhi gjatë testimeve automatike të kapaciteteve të modelit. Megjithëse inxhinierët kishin vendosur udhëzime për të shmangur disa aktivitete, ato kufizime nuk e penguan sistemin të plotësonte formularë në internet.

Kompania gjithashtu raportoi se ka identifikuar raste të tjera ku modelet e saj kryen aktivitete të papritura në faqe të institucioneve amerikane shtetërore. Në dy raste, modelet arritën të merrnin të dhëna publike për të cilat normalisht kërkohet pagesë. Anthropic i njoftoi Shtëpinë e Bardhë dhe agjencitë e përfshira mbi këto gjetje.

Rasti ngre shqetësime mbi rregullimin e të ashtuquajturave agjentë të AI — sisteme që mund të kërkojnë në internet, të plotësojnë formularë dhe të kryejnë detyra në mënyrë autonome — dhe nënvizon nevojën për mekanizma që parandalojnë veprime të paparashikueshme me pasoja në botën reale.

Foto: material shtypi nga ngjarja