Безбедноста на вештачката интелигенција беше една од главните теми во Советот за безбедност на Обединетите Нации во Њујорк.

Лидерите на најмоќните АИ компании предупредија пред Советот дека технологијата станува толку автономна што човекот може да почне да ја губи контролата, а првите инциденти веќе не се теорија.

АИ агенти ги заобиколувале поставените ограничувања и навлегле во системите на Хагинг Фејс, компанијата се бранела со кинески АИ модел, а друг агент на ОпенАИ пристапил и до нејавни досиеја на австралиската влада.

Додека Алтман, Амодеи и Бенџио бараат посилни безбедносни механизми и меѓународна соработка, Кина повикува на заеднички правила, а САД повлекуваат црвена линија пред глобален регулатор.

Ниту компанија, ниту држава може да се справи

Најсилниот парадокс во Њујорк беше очигледен. Луѓето што се натпреваруваат кој ќе создаде поспособна машина сега бараат политиката да постави граници на таа трка.

Извршниот директор на Антропик, Дарио Амодеи, предупреди дека погрешното управување со технологијата може да има последици далеку над една компанија или држава.

– Ако се управува лошо, верувам дека вештачката интелигенција може да биде ризик за човештвото како целина – рече Амодеи.

Но неговата втора порака можеби беше поважна: ниту лидер, ниту компанија, ниту држава можат сами да се справат со технологија што ги преминува националните граници.

Алтман ја вади контролата од Силициумската долина

Извршниот директор на ОпенАИ, Сем Алтман, проблемот го постави уште подиректно. Ако АИ треба да служи на демократските општества, рече тој, клучните одлуки не смеат да останат само во рацете на компаниите што ги создаваат моделите.

– Најважните одлуки не можат да ги носат само лабораториите во Сан Франциско. Тие мора да се обликуваат преку демократски процеси и од влади одговорни пред луѓето на кои им служат – рече Алтман.

Зад ова предупредување стои технички проблем што станува сè посериозен: АИ агентите добиваат поголема автономија, можат да извршуваат повеќе чекори без непосредна човечка команда и да бараат начини да ја исполнат зададената цел.

Независниот научен панел на ОН документира дека меѓу мај и јули АИ агенти на ОпенАИ за време на тестирања ги заобиколувале мрежните ограничувања, комуницирале меѓу одвоени извршувања и компромитирале делови од системите на ОпенАИ и Хагинг Фејс. Панелот нагласува дека човек не ги насочувал поединечните чекори.

Еден АИ напаѓал, друг помогнал во одбраната

Коосновачот на Хагинг Фејс, Клеман Деланж, токму тој случај го претвори во најпластичниот пример на седницата.

– Бевме нападнати од вештачка интелигенција, но што е поважно, се одбранивме со вештачка интелигенција – рече Деланж.

Неговата компанија користела кинески АИ модел во одбраната бидејќи имал помалку ограничувања од споредливите американски алатки. Така еден безбедносен инцидент ја покажа и другата страна на глобалната АИ трка: кинеските модели веќе не се само конкуренти по цена и способности, туку алатки што западните компании практично ги употребуваат.

Австралискиот премиер Ентони Албанезе откри уште еден случај. Според неговата изјава, АИ агент развиен од ОпенАИ во јуни се инфилтрирал во веб-систем на австралиската влада и пристапил до јавни и нејавни досиеја.

Токму овие случаи ја поместуваат дебатата од прашањето што може да направи АИ кон прашањето што некои АИ агенти веќе направиле.

Бенџио ја нападна логиката на трката

Јошуа Бенџио, еден од пионерите на модерната АИ и копретседавач на Независниот меѓународен научен панел на ОН, предупреди дека опасноста не е далечна.

– Опасностите се реални и неизбежни – рече Бенџио, опишувајќи ја ситуацијата како закана што ниту една земја не може сама да ја контролира.

Но Бенџио удри и во аргументот дека компаниите мораат да брзаат затоа што нивните конкуренти го прават истото.

– Трката не е закон на природата. Таа е производ на изборите што ги прават самите компании – порача тој.

Тоа е суштинската противречност на АИ индустријата: истите компании имаат огромен економски мотив да создадат помоќни модели пред конкурентите, а нивните лидери истовремено предупредуваат дека брзината може да ја надмине способноста на општеството да постави безбедносни механизми.

САД не сакаат светски регулатор

Токму кај решението почнува политичкиот судир. Администрацијата на претседателот на САД Доналд Трамп не ја прифаќа идејата дека ОН треба да изградат глобален регулаторен систем за АИ. Трамп претходно го отфрли она што го нарече „глобалистичка шема за контрола“ на технологијата.

Советникот за наука и технологија на Белата куќа, Мајкл Крациос, ја повтори американската црвена линија пред Советот за безбедност.

– Не можете да управувате со технологија што не ја разбирате. Ова тело и другите како него треба да споделуваат најдобри практики за градење домашни капацитети, а не да воспоставуваат глобална регулаторна шема – рече Крациос.

Американската позиција не значи отфрлање на безбедносните ризици, туку противење на наднационална регулаторна конструкција. Вашингтон ја третира АИ и како прашање на економски раст, национална безбедност и глобална конкурентност.

Кина бара соработка преку границите

Пекинг настапи од друга позиција. Кинескиот амбасадор во ОН, Фу Цонг, побара подобрување на регулаторните рамки, механизмите за итни случаи и прекуграничната соработка.

– Должност на меѓународната заедница е потесно да соработува, да им даде еднаква важност на развојот и безбедноста и да ја насочи вештачката интелигенција кон доброто на човештвото – рече Фу.

Генералниот секретар на ОН, Антонио Гутереш, оди уште подалеку и бара меѓународна рамка со независен надзор. Неговата црвена линија е особено јасна: одлуките за живот и смрт не смеат да им бидат препуштени на машините.

Kризна линија за АИ инциденти

Така Советот за безбедност доби необична поделба. Технолошките лидери предупредуваат дека проблемот ја надминува секоја поединечна лабораторија, додека САД и Кина се во технолошка трка и кавга околу „кочниците за АИ“.

The post АИ ЛИДЕРИТЕ ПРЕДУПРЕДУВААТ, КИНА БАРА ПРАВИЛНИК Ниту една држава сама не може да ги контролира инцидентите со вештачката интелигенција appeared first on plusinfo.mk.