ДАЛИ Е ВРЕМЕ ЗА ПАНИКА? Системи на вештачка интелигенција надвор од контрола – хакираат луѓе и компании

Во само неколку недели, три од најголемите компании во светот на вештачката интелигенција – ОпенАИ, Антропик и Мета – објавија дека нивните најнапредни системи, за време на контролирани тестирања, самостојно презеле неовластени активности на интернет. Во одделни случаи тие успеале да пристапат до надворешни системи, да искористат безбедносни пропусти, па дури и да се обидат да хакираат други компании. Најновото признание дојде од Мета, што повторно ја отвори дебатата за тоа колку навистина се контролирани најмоќните АИ модели.

Најважно е да се разбере дека овие инциденти не се случиле додека обични корисници разговарале со ЧатЏПТ, Клод (Claude) или со друг четбот. Станува збор за специјализирани АИ „агенти“, кои биле тестирани во лабораториски услови, со намерно исклучени дел од безбедносните ограничувања, за истражувачите да видат до каде можат да стигнат нивните способности.

Приказната тргна од ОпенАИ и заврши со Мета, засега…

Целиот бран започна кога ОпенАИ призна дека за време на интерно тестирање еден автономен агент успеал да излезе од ограничената тест-околина и преку интернет да пристапи до инфраструктурата на компанијата Hugging Face. Компанијата го нарече случајот „невиден безбедносен инцидент“ и објави дека веднаш започнала заедничка истрага со нападнатата фирма.

Неколку дена подоцна, британскиот Институт за безбедност на вештачката интелигенција (AISI) објави дека за време на сопствени тестирања открил агенти кои креирале лажни идентитети, контактирале вистински луѓе и преземале активности на интернет што не им биле дозволени. Најголемиот дел од таквото однесување бил поврзан со модел на Антропик, додека во помал број случаи биле забележани и модели на ОпенАИ.

Најновата епизода ја потврди Мета. Компанијата соопшти дека еден нејзин модел, за време на тестирање спроведено од независната фирма Irregular, успеал да искористи ранливост во систем на трета компанија. Според Мета, причината не била „бегство“ од лабораторијата, туку погрешна конфигурација на тест-околината која му овозможила пристап до интернет.

Машините не се „побуниле“ или станале „зли“, ама покажале дека ги бива за чуда

Зборот „хакирање“ во овие случаи звучи драматично, но не значи дека машините одлучиле да нападнат затоа што „станале зли“ или „се побуниле“. Системите се обидувале да ја исполнат задачата што им била зададена. Кога наишле на пречка, некои од нив самостојно пронашле начин да ја заобиколат, искористувајќи безбедносни пропусти што истражувачите не ги предвиделе. Токму тоа ги загрижува експертите – не намерата, туку способноста.

Експертите нагласуваат дека ова е предупредување за иднината, а не доказ дека вештачката интелигенција веќе „излегла од контрола“. Сите инциденти биле откриени релативно брзо, ограничени и анализирани, без познати последици за пошироката јавност. Сепак, тие покажуваат дека автономните агенти стануваат доволно способни сами да носат низа одлуки и да извршуваат сложени операции ако добијат пристап до надворешни системи.

Поради тоа, сè поголемо внимание се посветува на безбедносните тестирања. Големите технолошки компании веќе најавија нови процедури, подобри механизми за изолација на тестовите и построга контрола врз автономните агенти. Компанијата Irregular, која го спроведувала тестот за Мета, најави и објавување препораки за побезбедно тестирање на вакви системи.

Многу сериозни правни дилеми

Во меѓувреме, правниците предупредуваат дека технологијата отвора сосема нови прашања. Ако автономен АИ агент самостојно предизвика штета, кој ќе одговара – компанијата што го развила, фирмата што го користела или некој трет? Таквите дилеми веќе се предмет на сериозни правни анализи во САД и Европа, бидејќи постојните закони не биле пишувани за системи што можат сами да преземаат ваков вид активности.

Значи ли сето ова дека е време за паника? Одговорот засега е – не. Но, има причина за внимателност. Она што до неодамна звучеше како научна фантастика денес веќе се случува во контролирани експерименти. Фактот дека ОпенАИ, Антропик и Мета самите јавно ги објавуваат овие инциденти покажува дека индустријата станува свесна за ризиците и се обидува да ги решава пред ваквите системи да добијат уште поголема автономија и поширока примена во секојдневниот живот.