ДАЈТЕ ИТНИ ПРАВИЛА ЗА „МАШИНИТЕ ШТО САМИ УБИВААТ“ Автономното оружје мора да се ограничи, бараат ОН и Црвениот крст

Обединетите нации и Меѓународниот комитет на Црвениот крст денеска упатија заеднички апел за итно усвојување правно обврзувачки меѓународни правила за автономното оружје, предупредувајќи дека светот се приближува до опасна граница – оружје што самостојно избира човек како цел и употребува смртоносна сила без човечка одлука во моментот на нападот.

Генералниот секретар на ОН Антонио Гутереш и претседателката на Меѓународниот комитет на Црвениот крст Мирјана Шпољариќ денеска предупредија дека автономното оружје што може да убие човек без човечко учество наскоро би можело да се користи во војните и повикаа на итни преговори за ограничување на неговата употреба.

„Сега сме опасно блиску до преминување на моралната црвена линија: автономно таргетирање на луѓе од страна на машини“, наведоа Гутереш и Шпољариќ во заедничко соопштение.

Тие ги повикаа државите веднаш да почнат преговори за правно обврзувачки договор со кој би се регулирале автономните системи на оружје, со јасно дефинирани забрани и ограничувања.

Државите следната недела ќе се сретнат во Женева за да разговараат за можните нови правила. Преговорите за ова прашање се водат од 2014 година и остварија одреден напредок, но во меѓувреме напредуваше и технологијата.

Целосно автономно оружје веќе користат некои армии, вклучувајќи противракетни системи на воени бродови, но засега не е познато дали таквите системи се користат против човечки мети.

Организациите за човекови права предупредуваат дека системите засновани на вештачка интелигенција можеби не е можно доволно да се предвидат и да се контролираат, што го зголемува ризикот од смртоносни грешки, како што е непрепознавањето на ранети лица или војници кои се предаваат.

Таквите грешки исто така би можеле да го отежнат утврдувањето одговорност за евентуални воени злосторства, наведоа Гутереш и Шпољариќ.

„Државите мора да покажат политичка храброст и да преминат од постапни дискусии кон одлучна акција“, се наведува во соопштението, со повик преговорите да почнат во ноември, за кога во Женева е планирана голема конференција.

Станува збор за автономни оружени системи (AWS) – оружје кое, откако човек ќе го активира, може со помош на сензори, софтвер и алгоритми самото да препознае и избере цел и да употреби сила без дополнителна човечка интервенција. Тоа може да биде дрон, таканаречена „талкачка муниција“, односно, дрон-бомба што кружи над одредена област и сама бара цел, ракетен систем или одбранбена платформа. Клучната разлика е меѓу автоматизацијата и автономијата – автоматското оружје извршува однапред зададена команда од човек, додека автономниот систем може сам да одлучи која конкретна цел ќе ја нападне и кога. ОН и МКЦК предупредуваат дека проблемот е токму губењето на човечката контрола и тешкотијата однапред да се предвидат сите последици од одлуката на машината.

Израелскиот систем Harpy, на пример, е талкачка муниција која самостојно бара и напаѓа радарски емитувачи, а производителот Israel Aerospace Industries го опишува како целосно автономен систем. Постојат и автономни или високо автоматизирани системи за противвоздушна и противракетна одбрана, како американскиот Phalanx. Во Украина, пак, и руските и украинските сили користат дронови со ВИ-системи за препознавање и следење цели: дронот може да продолжи кон целта дури и откако ќе ја изгуби врската со операторот. Киев вели дека конечната одлука за напад сè уште ја носи човекот, но технологијата се развива многу брзо.

Украина во моментов е едно од главните боишта за развојот на ваквата технологија. Војната покажа дека ВИ може да помогне дроновите да препознаваат тенкови, возила и други цели и да продолжат со наведување и кога руското електронско попречување ќе ја прекине врската со операторот.

Токму затоа ОН и Црвениот крст бараат правила пред технологијата да стане уште посамостојна. МКЦК предлага да се забранат непредвидливите автономни системи и автономното оружје наменето директно за напади врз луѓе, а останатите системи строго да се ограничат според видот на целите, просторот и времето на употреба и степенот на човечки надзор. ОН и Црвениот крст сега предупредуваат дека 2026 година може да биде клучниот момент за постигнување договор, пред технологијата да го надмине меѓународното право.