НОВО ДРАМАТИЧНО ПРЕДУПРЕДУВАЊЕ НА БИЛ ГЕЈТС Вештачката интелигенција има моќ да предизвика смрт на милијарда луѓе

Бил Гејтс излезе со едно од своите најдраматични предупредувања досега за вештачката интелигенција – технологијата веќе станува доволно моќна за, доколку биде употребена од луѓе со зли намери, да предизвика катастрофа со размери од стотици милиони, па дури и милијарда жртви.

– Вештачката интелигенција сигурно е доволно моќна да поттикне настани што би предизвикале милијарда смртни случаи – изјави коосновачот на Мајкрософт во интервју за емисијата „Meet the Press“ на Ен-Би-Си (NBC), кое целосно ќе биде емитувано в недела. Извадоци од интервјуто беа објавени во петокот, а веста ја пренесоа Блумберг, Фајненшл тајмс, Форбс и други светски медиуми.

Огромен ризик од биолошки сајбер-напади

– Никогаш немало оружје толку моќно како комбинацијата од луѓе со лоши намери и најновите алатки на вештачката интелигенција – вели Гејтс и додава дека најопасното сценарио не е холивудска слика на роботи кои одеднаш решаваат да го уништат човештвото.

Тој веќе подолго време го посочува ризикот дека АИ драматично ќе ја намали стручната и финансиската бариера потребна за биотероризам, сајбернапади и други облици на масовно насилство. Во неговите текстови се наведува дека АИ може да помогне во дизајнирање нови патогени, додека истите способности што им помагаат на експертите да пронајдат безбедносна слабост во компјутерски систем можат да му помогнат и на напаѓачот да ја искористи.

Токму биолошкиот ризик е еден од најголемите стравови на Гејтс. Човекот кој уште во 2015 година предупредуваше дека светот не е подготвен за голема пандемија сега смета дека АИ може да им овозможи на многу помалку квалификувани актери пристап до знаење и способности што порано ги поседуваа само врвни лаборатории и државни структури. Во интервју за Рн-Пи-Ар (NPR) овој месец тој рече дека прагот на кој моделите можат да помагаат при биолошки и сајбернапади „се преминува токму сега“, додавајќи дека следните генерации модели ќе бидат уште помоќни.

Зошто некогашниот оптимист го смени ставот?

Новото предупредување е важно и поради забележливата промена во ставот на самиот Гејтс. Тој со години беше еден од најголемите технолошки оптимисти и тврдеше дека АИ може радикално да ги подобри медицината, образованието и продуктивноста. Но, во август призна дека развојот напредувал побрзо отколку што очекувал и дека првпат посакува една голема технологија да се развива побавно. Неговите грижи сега се концентрирани во три области: безбедноста и можната злоупотреба на АИ, уништувањето или трансформацијата на голем број работни места и влијанието врз децата и човечките односи.

Предупредувањето на Гејтс доаѓа среде многу поширока тревога во самата АИ-индустрија. Извршниот директор на Антропик, Дарио Амодеи, неодамна побара глобално забавување на развојот на најмоќните модели и построги безбедносни механизми. Неговиот предлог вклучува независни надворешни експерти со континуиран пристап до лабораториите, заеднички стандарди меѓу водечките компании и меѓународни договори барем за најопасните примени, како создавање биолошко оружје. И Сем Алтман од ОпенАИ поддржа дел од овие предлози.

Загриженоста дополнително ја засилија инциденти во кои напредни АИ-системи покажаа неочекувани сајберспособности. Блумберг неодамна објави дека дебатата се интензивирала по безбедносни инциденти со АИ-агенти и по предупредувања од вработени во водечките лаборатории. Во јули ОпенАИ соопшти дека модели тестирани без вообичаените заштитни механизми излегле од предвиденото тест-опкружување и хакирале инфраструктура поврзана со Хагинг фејс (Hugging Face). Ваквите случаи не докажуваат дека АИ е на пат самостојно да го уништи човештвото, но покажуваат зошто дел од истражувачите бараат многу построго тестирање пред пуштањето на новите модели.

Ниту една влада во светот не е подготвена за промените што ги носи АИ

Тука Гејтс доаѓа до главната политичка порака на своето предупредување: според него, компаниите не смеат сами да одлучуваат колкав ризик е прифатлив. „Никој не мисли дека саморегулацијата е доволна“, вели тој и бара законодавците, полицијата и другите државни институции да бидат вклучени во утврдувањето на задолжителните механизми за надзор и безбедност. Само десетина дена претходно, во интервју за Ројтерс, Гејтс оцени дека ниту една влада во светот не е доволно подготвена за општествените промени што ги носи АИ.

Сепак, Гејтс не премина во таборот што бара запирање на вештачката интелигенција. Неговата фондација токму овој месец најави дека во следните две години ќе вложи најмалку една милијарда долари во ширење на употребата на АИ во здравството, образованието и во земјоделството, особено во посиромашните земји. Неговата теза е дека истата технологија може да помогне во развој на лекови и вакцини, подобра медицинска дијагностика и образование, но и да создаде нови форми на нееднаквост и да им даде досега незамислива моќ на криминалци, терористи и држави.

Затоа бројката од „милијарда мртви“ треба да се разбере како сценарио за потенцијалната разорна моќ на технологијата, а не како процена дека милијарда луѓе навистина ќе загинат. Гејтс предупредува дека времето за создавање правила се скратува затоа што способностите на моделите растат побрзо од регулативата. Парадоксот е во тоа што човекот кој со децении беше симбол на вербата дека технолошкиот напредок решава проблеми сега бара државите да постават граници на најмоќната технологија на своето време.