КИНА ЌЕ ЗАБРАНИ ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА ДА „ГЛУМИ“ ЧОВЕК Особено е загрижувачка емоционалната интеракција со корисниците

Кинеското кибернетско регулаторно тело во саботата поднесе нацрт-регулативи за јавна дебата со кои ќе се засили надзорот врз услугите за вештачка интелигенција кои ја имитираат човечката личност и се вклучуваат во емоционална интеракција со корисниците.

Овој потег е одраз на обидите на Пекинг да го регулира брзиот развој на вештачката интелигенција ориентирана кон корисникот преку зајакнување на безбедноста и заострување на етичките барања.

Предложените регулативи би се однесувале на производи и услуги за вештачка интелигенција кои претставуваат симулирани црти на човечката личност, модели на размислување и методи на комуникација и се вклучуваат во емоционална интеракција со корисниците преку текст, слики, аудио и видео снимки или на некој друг начин.

Нацртот предвидува пристап кој ќе бара од давателите на услуги да ги предупредат корисниците за прекумерна употреба и да интервенираат кога ќе покажат знаци на зависност.

Според нацртот, давателите на услуги би морале да преземат безбедносни мерки сè додека производот е во употреба и да воспостават системи за ревизија на алгоритми, безбедност на податоците и заштита на личните податоци.

Нацртот, исто така, предвидува можни психолошки ризици. Од давателите на услуги ќе се очекува да ја препознаат состојбата на корисникот и да ги проценат неговите емоции и нивото на зависност од услугата. Доколку се открие дека корисникот покажува екстремни емоции или зависно однесување, давателот на услуги ќе мора да преземе одредени мерки и да интервенира, се вели во нацрт-законот.

Мерките поставуваат ограничувања за содржината и однесувањето, пропишувајќи дека услугите не смеат да генерираат содржина што ја загрозува националната безбедност, шири гласини или промовира насилство и непристојност.