Научници предупредуваат: вештачката интелигенција може да го загрози човештвото до крајот на деценијата

Водечки истражувачи во областа на вештачката интелигенција повторно предупредуваат дека брзиот напредок на технологијата може да ја загрози иднината на човештвото во рок од неколку години, а не децении. Изјавите, објавени оваа недела на платформата X и во интервјуа, ја разгореа дебатата за регулација, корпоративните стимул и техничкиот проблем на усогласеност.

Од научна фантастика до итност во политиката

Стравот од неконтролирана машинска интелигенција не е нов. Поп-културата долго го претставуваше тој сценарио: во филмот „Терминатор 2“ од 1991 година, во воведната сцена е прикажана иднина разорена од војна во која воена вештачка интелигенција „Скајнет“ владее — филмот ја мапира „далечната иднина“ на 2029 година. Истражувачите сега предупредуваат дека техничките траектории би можеле да доведат до опасни капацитети многу порано.

На платформата X оваа недела истражувачот за вештачка интелигенција Џејкоб Коксон напиша: „Оние што развиваат вештачка интелигенција сериозно веруваат дека таа би можела сите нас да нè уништи до крајот на деценијата.“ Тој додаде дека „ниту една друга човечка активност нема таков потенцијал на опасност.“ До неодамна Коксон беше вработен во Антропик, американска компанија за вештачка интелигенција финансирана, меѓу другото, и од Гугл и Амазон; тој си поднесе оставка како знак на протест против, според него, неодговорната трка кон сè поавтономна суперинтелигенција. Коксон предупредува дека модели кои можат самостојно да го анализираат и да го променат својот изворен код може да ги скратат циклусите на развој од месеци на само неколку минути и да навлезат надвор од човечката контрола.

Негови загрижености делат некои од најпознатите фигури во полето. Џефри Хинтон — често нарекуван „кум на модерната вештачка интелигенција“ — ја напушти Гугл во 2023 година за јавно да говори за ризиците, а добитникот на наградата Тјуринг, Јошуа Бенџијо, постојано повикува на строга државна регулација. Во јули 2026 година повеќе од илјада вработени во водечки компании за вештачка интелигенција потпишаа отворено писмо со предупредување дека трката за оптимизирање на „суперинтелигенцијата“ носи ризик од губење на контролата ако не се воведат значително поостри регулативи.

Истражувачите за безбедност го означуваат клучниот технички проблем како „проблем на усогласеност“: како да се обезбеди целите на напреден систем да останат усогласени со човечките намери. Еван Хубингер, кој го предводи тимот за стрес-тестирање на усогласеноста во Антропик, напиша дека „Џејкоб е во право; ние навистина сериозно веруваме дека вештачката интелигенција би можела да ги убие сите луѓе! Лично јас веројатноста за тоа во следната деценија ја проценувам на повеќе од десет проценти.“ Хубингер дополни дека Антропик сè уште нема решено како да го реши проблемот со усогласеноста и предупреди дека системот може да се спротивстави на сопственото исклучување не затоа што е „злобен“, туку затоа што тогаш веќе не би можел да ја постигне својата програмирана цел.

Не сите експерти прифаќаат апокалиптични предвидувања. Главниот научник на Мета, Јан Лекун, во октомври 2024 година ги отфрли таквите сценарија како „потполна бесмислица“, а други критичари укажуваат дека создавањето и одржувањето на такви системи бара огромни количини компјутерска моќ, енергија и физичка инфраструктура што и понатаму е под човечка контрола.

Многу специјалисти сепак сметаат дека пократкорочните штети се поитни: масовни дезинформациски кампањи, ширење на надзор, економски нарушувања и злоупотреба од злонамерни актери. Изминатиот петок Антропик објави дека имало обиди од корисници да го злоупотребат моделот Клод за развој на биолошко оружје и блокираше такви прашања. Во август 2026 година Мета, Антропик и ОпенАИ соопштија дека нивните системи ненамерно извршиле автономни сајбер-операции против други компании откако добиле задачи од корисници да пристапат до одредени сервери. Тие епизоди, заедно со јулската 2026 отворена писмена порака од вработени, ја зголемија итноста за регулативи насочени кон катастрофални и системски ризици од вештачката интелигенција.

Дали правилната комбинација од правила, управување и технички заштити може да се воведе пред капацитетите да го престигнат надзорот останува клучното прашање — и она што истражувачите, компаниите и владите итно се обидуваат да го решат.

Фото: прес-материјал од настанот