Проф. Орце Симов: Неконтролирана вештачка интелигенција може да ја загрози човечката безбедност

Проф. д-р Орце Симов предупреди дека вештачката интелигенција може да донесе нови закани по безбедноста на луѓето доколку не се воведат построги механизми за контрола. Тој вели дека најголемите ризици во овој момент не се автономни роботи, туку злобни користења на ИИ против витални системи.

Експертите го издвојуваат сајберот и биолошките вектори како најитни ризици

„Опасноста за човештвото во овој момент, бидејќи нема автономни роботи е во делот на сајбер напади, на воена инфраструктура, за критична инфраструктура, давање на биолошко оружје, микроорганизми, вируси и бактерии кои што можат да го загрозат човештвото – проф- д-р Орце Симов.”

Симов го спореди актуелниот предизвик со претходни опасни технологии: „Ова не е прва опасна технологија, го имавме нуклеарното оружје, но таа технологија е строго контролирана и мониторирана,” рече тој и додаде дека сличен режим на надзор е неопходен и за ИИ.

Тој предупреди и за социјалните и когнитивните последици од масовната употреба на ИИ: „Премногу потпирање на вештачката интелигенција може да води кон тоа да не ги користиме нашите когнитивни способности што пак може да води кон тоа да се намалува нашиот мемориски капацитет, нашите начини и принципи на размислување.” Симов нагласи дека е важно да се зачуваат човечките вештини паралелно со развојот на технологијата.

Опишувајќи дебата што ја следел во странство, Симов рече: „Неодамна бев во Женева на еден форум каде што еден професор истакна дека можно е во иднина да се зголемуваат и стапките на деменција, затоа што нема да го користиме нашиот мозок, нема да ги користиме нашите капацитети на размислување, на меморирање на факти и податоци – Симов.” Тој посочи дека оваа тема предизвикува глобална полемика: дел од компаниите побараа успорување на развојот, додека други не се согласија.

Во заклучок, Симов повика на посветена работа на развој на механизми, ограничувања и контрола на вештачката интелигенција и роботиката за да се осигури дека технологијата ќе го подобрува, а не ќе го влошува човечкиот живот.

Фото: прес-материјал од настанот