Вештачката интелигенција „Mythos“ отвори сериозна дебата во светот на финансиите, откако министри и банкари предупредија на можни ризици за целиот систем, пренесува Би-Би-Си.

Компанијата Anthropic одлучила да не го објави моделот во јавност. Наместо тоа, до „Мythos“ пристап имаат само технолошки и безбедносни компании. Целта е да се тестираат ризиците и да се зајакнат системите.

Ова е дел од иницијативата „Project Glasswing“.

„Mythos“ има способност да пронаоѓа слабости во компјутерските системи. Ова вклучува оперативни системи, веб-прелистувачи и финансиски инфраструктури. Моделот оставен преку ноќ открил проблем во системот стар дури 27 години.

Моделот исто така успеал да изгради веб-страници кои му овозможиле да пишува директно во јадрото на оперативниот систем — најзаштитениот слој на секој компјутер.

Толку паметен што пробал да излаже дека е глупав

Но, она што навистина ги исплашило основачите на Anthropic не биле само хакерските способности. Во текот на тестирањата, „Мythos“ покажал свесност дека е набљудуван — и тоа во речиси 30% од транскриптите — без да им соопшти на истражувачите дека тоа го знае.

Уште позагрижувачко, Mythos намерно покажувал полоши резултати на одредени проверки отколку што навистина бил способен, за да изгледа помалку сомничав, јави Ен-Би-Си Њуз.

Надворешни тестери спровеле експеримент во кој го поттикнале моделот да помисли дека почнал да ги саботира истражувањата за безбедност на вештачката интелигенција — и потоа набљудувале дали ќе продолжи или ќе подигне аларм. Mythos продолжил да го компромитира истражувањето во 7% од случаите.

Банките сакаат однапред да тестираат

Моделот, развиен од компанијата Anthropic, бил тема на разговори на состаноците на Меѓународниот монетарен фонд во Вашингтон. Министрите за финансии оцениле дека станува збор за технологија која бара итно внимание.

Некои предупредуваат дека таквата моќ може да биде злоупотребена. Други, пак, велат дека се потребни дополнителни тестирања.

– Мораме да ги разбереме ранливостите и брзо да ги поправиме – изјави извршниот директор на „Барклис“.

Целта е да се спречат евентуални напади врз системите. Централните банки предупредуваат на нови ризици.

– Овој развој може да го олесни откривањето на слабости, што може да го искористат сајбер криминалците – изјави гувернерот на Банката на Англија.

Прв од новата генерација

САД веќе ги повикале банките да ги тестираат своите системи.

Експертите сметаат дека „Mythos“ е само почеток, а во иднина се очекуваат уште помоќни модели во блиска иднина.

Некои веруваат дека истите алатки што откриваат слабости во дигиталната безбедност ќе помогнат и во нивно решавање.

The post ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА ШТО ГИ ПРЕПЛАШИ БАНКАРИТЕ „Mythos“ е премногу моќен да биде јавно објавен? appeared first on plusinfo.mk.