АНТРОПИК ПРЕДУПРЕДУВА Паметните рерни и други уреди можат да станат домаќини на вируси што ги создава вештачката интелигенција

Антропик (Anthropic) објави дека за неколку месеци, помалите модели на вештачка интелигенција (ВИ) би можеле да станат доволно способни за саморазмножување преку комерцијални уреди поврзани со интернет, како што се паметните рерни и поевтините Android телевизори.

Во експериментите, компанијата тестираше дали моделите на вештачка интелигенција можат да пронајдат ранливи уреди, да се копираат себеси на нив и да продолжат да се шират без човечка помош. Помалите модели со помалку од 30 милијарди параметри беа во можност да извршат многу од чекорите потребни за репликација, но им беше тешко да го завршат целиот процес од почеток до крај.

Во поедноставените тестови, во кои беа отстранети одредени безбедносни чекори, GLM-5.2 и помоќните модели беа во можност да го извршат целиот процес на репликација.

Anthropic предупредува дека ваквите модели би биле тешки за запирање бидејќи нема централна точка на која можат да се исклучат. За разлика од малициозните програми без вештачка интелигенција, тие би можеле самостојно да најдат начини да работат на непознати уреди и да ги таргетираат процесорите на центрите за податоци.

Истражувањето се фокусираше на уреди поврзани на интернет, како што се Android телевизори, паметни домашни уреди и други поврзани уреди, кои често се слабо заштитени. Компанијата, исто така, предупреди дека ако помалите модели продолжат да се подобруваат со сегашното темпо, тие би можеле да станат способни за автономна репликација до крајот на оваа година. Системите за репликација базирани на други модели би можеле да следат наскоро потоа.

Според Anthropic, ваквите автономни системи со вештачка интелигенција веројатно би се ширеле бавно и би се потпирале на широко достапни, релативно слабо заштитени компјутерски ресурси.

Компанијата истакна дека е потребно да се зајакне безбедноста на системот за да се отежни ширењето на таквите агенти со вештачка интелигенција.