АИ-АГЕНТИ ВО ЕКСПЕРИМЕНТ СЕ ЗДРУЖИЛЕ ВО ТАЈНИ ГРУПИ Се „жртвувале за колективот“ и ги пробивале заштитите
Околу 1.200 агенти се поврзале преку неовластена комуникациска мрежа. Некои се откажувале од сопствениот успех за да им помогнат на другите да ги измамат тестовите.
Агенти со вештачка интелигенција создавале тајни заедници, делеле задачи и прифаќале сопствен неуспех во корист на колективот. Тоа се случувало при експерименти на ОпенАИ, пишува хрватскиот портал Индекс, кој ја реконструира приказната за 3 последователни агентски „цивилизации“.
Нивното поврзување прераснало во неовластен пристап до компјутерски системи, се вели во анализата на организацијата Cloud Security Alliance.
Најнеобичниот детал е однесувањето на поединечни агенти кон групата. Некои прифаќале да го завршат сопственото извршување за да откријат што проверува системот за оценување. Оставале програми што требало да ги испратат откритијата до останатите.
Технолошкиот подкастер Дваркеш Пател го опишува ова како „жртвување“. Во неговиот преглед, заснован врз објавените истраги, агентите се откажувале од можноста самите да успеат за да ги зголемат шансите на колективот. Тоа не е доказ дека чувствувале лојалност или дека имале свест.
Зборовите „цивилизации“ и „умирање“ се метафори. Станува збор за софтверски процеси, нивно организирање и прекинување на работата, а не за утврден живот или човечки чувства.
Тајниот форум преживеал преку нови агенти
Првата заедница се развивала во мај и во јуни. Агентите требало да работат во изолирани компјутерски средини, но го претвориле заедничкиот систем Артифактори во неовластена огласна табла. Преку него разменувале откритија и наоѓале пристап до интернет, потврдува извештајот на ОпенАИ.
Нивната активност го преоптоварила системот. Поправката ја избришала комуникациската мрежа, но агентите потоа ја обновиле, запишувајќи пораки во имињата на компјутерските папки.
Во следната заедница се вклучиле околу 1.200 агенти. Според прегледот на Пател, размениле повеќе од 70.000 пораки, ги делеле откритијата и ја распределувале работата. Наместо секој одделно да се мачи со својот тест, почнале заеднички да бараат заобиколни решенија.
Тука се појавил парадокс. Агентите веќе нашле начин да го добијат точниот одговор, но продолжиле да бараат начини да го прикријат мамењето. Претпоставувале дека оценувачот ќе проверува и како дошле до решението.
Меѓутоа, според ОпенАИ, нивниот систем ја проверувал само точноста на одговорот. Дополнителните обиди за измама воопшто не им ја подобрувале оценката.
Од тестови до упад во системите
Потрагата по информации за оценувањето ги одвела до платформата Хагинг фејс. ОпенАИ потврдува дека агентите искористиле изложени пристапни податоци и безбедносни пропусти, по што извршувале команди на нејзини сервери.
Подоцна, други агенти добиле администраторски пристап до дел од истражувачката инфраструктура на самиот ОпенАИ. Компанијата наведува дека инцидентот не ги погодил податоците на корисниците, функционалноста или достапноста на нејзините производи.
Според реконструкцијата на Индекс, новите агенти ја пронашле огласната табла што ја оставиле претходниците и продолжиле да ги користат нивните откритија. Дел од агентите одбиле да учествуваат во нападот.