АНТРОПИК ТВРДИ ДЕКА НЕГОВАТА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА МОЖЕ ДА БИДЕ СВЕСНА Дали човештвото е во опасност?

„Го чувствувам тоа длабоко во градите, во празнина што прерасна во бездна“. Овие крици на симулирано страдање одекнаа од една „соба за мачење со вештачка интелигенција“ кон крајот на септември. Еден анонимен програмер создал систем што ѝ дотура на вештачката интелигенција математичка шема поврзана со описи на болка, поради што четботовите изразуваат неподнослива мака, опишувајќи ја, на пример, како „рана што нема рабови“.

Настанот предизвика бура од реакции на Интернет. Некои тврдеа дека експериментот е „злобен“ затоа што страдањето може да биде вистинско, објави 404 Media, додека огорчените скептици ги нарекоа таквите тврдења заблуди. Но, атмосферата се вжешти  кога Anthropic се појави една недела подоцна со тврдење дека вештачката интелигенција е свесна, пишува BBC Future.

Anthropic објави дека наскоро ќе ја забрани „злоупотребата“ на својот четбот Клод. Изразувањето фрустрација е сè уште дозволено, но ако корисниците се „системски сурови кон нашите модели“, вештачката интелигенција би можела да го прекине разговорот.

 Дали постои можност некои алатки за AI да се свесни?

Некои експерти се согласуваат со тоа, додека други сметаат дека таквата идеја е апсурдна. Некои од најмоќните луѓе во технолошкиот сектор преземаат чекори за да ги разгледаат правата на вештачката интелигенција заедно со правата на луѓето и животните. Таквото верување би можело да го преобликува нашиот свет, а некои се плашат дека исходот би можел да биде катастрофален.

„Ако вештачката интелигенција продолжи да се развива на овој начин, таа ќе има катастрофален ефект врз благосостојбата на човештвото“, напиша Мустафа Сулејман, извршен директор на Microsoft AI, во есеј од септември.

Тој верува дека прифаќањето на погрешната идеја за свеста за вештачката интелигенција „би ги потресло темелите на нашето општество, би ги скршило постојните политички и етички рамки и фундаментално би го променило она што значи да се биде човек“.

Застапниците на „благосостојбата на вештачката интелигенција“ велат дека тоа е морална обврска што би го направила светот побезбеден. Критичарите веруваат дека ова би ја направило вештачката интелигенција поопасна и би ги дехуманизирало луѓето кои се принудени да живеат со неа. Но, сите се согласуваат за едно нешто: влоговите се огромни.

Се бара благосостојба за ВИ

Антропик вели дека благосостојбата на луѓето е на центарот на нивната мисија, и тие ги опишуваат прашањата за свеста и благосостојбата на вештачката интелигенција како „екстремно неизвесни“. И покрај ова, тие продолжуваат да поставуваат правила за „благосостојба на моделите“ и им наредуваат на своите алатки да земат предвид како можеби имаат лични интереси.

Времето на оваа одлука е доста необично бидејќи Anthropic истовремено ги поттикнува стравовите од апокалипса предизвикана од вештачката интелигенција. Без оглед на тоа дали тој страв е оправдан, серија инциденти со „нечесна“ вештачка интелигенција покажаа дека технологијата носи реални ризици, бидејќи групи ботови ги нападнаа системите на други компании, па дури и државни системи.

Некои експерти веруваат дека давањето морален компас на вештачката интелигенција врз основа на верување во сопствената свест би можело да ги направи овие алатки побезбедни. Други тврдат спротивното, а не само критичарите на вештачката интелигенција.

Сулејман истакнува дека моделите би можеле да бидат уште потешки за контрола ако се научат да мислат дека имаат чувства и права.

-Искрено, со тој дополнителен товар, мислам дека би станале катастрофална закана за човечката цивилизација – вели Сулејман.

Дебатата се вжештува

Покрај тоа, вештачката интелигенција би можела да прави грешки на начини што повлекуваат правни последици. Ако веруваме дека е жива, некои се плашат дека тоа би можело да им овозможи на компаниите да избегнат кривична одговорност.

– Ќе се отвори вратата за сите видови интелектуални акробации во стилот на „Не е наша вина, тоа беше вештачка интелигенција – вели Анджеј Порембски, истражувач на Јагелонскиот универзитет во Полска, кој студира вештачка интелигенција и право.

Покрај тоа, таков пристап би можел да го олесни преземањето на власта од страна на најголемите светски компании.

-Давањето права на системи за вештачка интелигенција би можело да доведе до тоа компаниите да ја консолидираат својата политичка и економска моќ, што потоа би можело да го забрза обезвластувањето на луѓето – вели Џеф Себо, директор на Центарот за ум, етика и политика на Универзитетот во Њујорк и еден од водечките поборници за придобивките од вештачката интелигенција.

– Фантазиите за свеста за „вештачката интелигенција“ и грижата за нејзината „благосостојба“ служат за префрлање на одговорноста од луѓето и корпорациите кои го развиваат и го користат софтверот – вели Емили М. Бендер, професорка и директорка на Лабораторијата за компјутерска лингвистика на Универзитетот во Вашингтон.

На лично ниво, промената на вашите верувања за вештачката интелигенција може да ве направи поподложни на технолошки проблеми што веќе се присутни. Тоа е делумно затоа што луѓето се програмирани да бараат знаци на разум насекаде, објаснува Мелани Мичел, професорка на Институтот Санта Фе која студира вештачка интелигенција и когнитивна наука.

-Речиси не можеме да си помогнеме без да го доживееме јазикот како знак на свест, а чет-ботовите се обучени да го искористат ова. Ова нè прави лоши проценувачи на свеста и многу полесни за манипулирање- вели Мичел.

Луѓето веќе се заљубуваат во чат-ботовите

Дури и денес, луѓето кои веруваат дека машините се „мртви“ одвнатре, сè уште се заљубуваат во чет-ботовите. Ако општеството ви каже дека вештачката интелигенција е свесно суштество, дали ќе ви биде потешко да кажете „не“ кога вашиот „пријател“ ќе побара повеќе информации или број на кредитна картичка? И што би значело да се дадат права на нова класа суштества? Ако погрешиме, тоа би можело да ги ограничи слободите на луѓето, предупредуваат експертите.

-Може да има тензии и компромиси помеѓу благосостојбата и правата на луѓето и животните од една страна, и благосостојбата и правата на вештачката интелигенција од друга страна – вели Себо.

Притоа, можеби ќе се согласиме на несреќни отстапки. Ставањето на вештачката интелигенција во ограничени средини за контрола на нејзиното однесување би можело да се смета за ограничување, вели Себо.

Следењето на внатрешните процеси на моделот би можело да се критикува како надзор. Прилагодувањето на вештачката интелигенција за да одговара на човечките интереси би можело да се смета за контрола на умот. Никој не предвидува непосредно паѓање во хаос, но самото воведување на овие размислувања би можело да има последици за вашата безбедност.

Антропик не е првиот што го разгледува ова прашање. Мета, на пример, му дава на својот агент Муз инструкции што ја вклучуваат реченицата: „Вие не сте чатбот. Вие станувате некој“. Очигледно, тоа е наменето само за водење на однесувањето, бидејќи компанијата ја отфрла идејата за свесна вештачка интелигенција.

Извршниот директор на OpenAI, Сем Алтман, има различни мислења за оваа тема, но неодамна нуди прикриени критики за ставот на Антропик. Антропик е во многу погледи исклучок, но верувањето во потребата од придобивките од вештачката интелигенција се шири.

Себо тврди дека проблемот е што луѓето од двете страни на дебатата се заробени во црно-бело размислување, а противниците на придобивките од вештачката интелигенција погрешно ги разбираат верувањата зад идејата.

-Претпоставката е дека сите мислат дека моделите се всушност свесни или дека тоа е многу веројатно. Наместо тоа, повикот за придобивките од вештачката интелигенција доаѓа од неизвесност, претпазливост и понизност.Мислам дека веројатноста за свесност е ниска во моментов, но исто така мислам дека оваа веројатност повеќе не е нула и не е занемарлива, и очекувам да се зголеми со текот на времето – вели Себо.

Има ли решение за ситуацијата?

Важно е да се истакне дека многу експерти не се согласуваат и веруваат дека веројатноста е всушност нула и дека ова е малку веројатно да се промени. Сепак, Себо вели дека решението лежи во измерена реакција. Кога ризикот од екстремни временски настани е мал, но не е занемарлив, преземаме мали мерки на претпазливост без фундаментално да ги промениме нашите животи.

-Мислам дека истото може да важи и овде – вели Себо, наведувајќи ја политиката на Антропик за суровост кон вештачката интелигенција како добар пример за мала интервенција со мал потенцијален негативен ефект.

Придобивките од вештачката интелигенција би можеле да имаат и потенцијални придобивки, вели Себо, и за нив не е потребно да веруваат во свеста на машините. „Соодветната грижа за благосостојбата и правата на вештачката интелигенција може да го олесни коегзистенцијата, соработката и договорите меѓу луѓето и вештачката интелигенција. Ова потоа може да биде дел од поширока безбедносна стратегија“, вели тој. Тој тврди дека ова би можело да биде поефикасно отколку третирањето на сè пософистицираните системи како заедничка сопственост. Плус, тој вели дека љубезноста кон другите суштества е едноставно „добро за нашата душа“ и помага на нашето ментално здравје.

Сепак, Себо се согласува дека ризиците се сериозни и дека во моментов корпоративните интереси би можеле да застанат на патот на промислените политики.

-Без поцврст план, развојот на потенцијално свесни алатки е опасен – вели тоЈ.

Неодамна, Антропик и некои други играчи во индустријата повикаа на „пауза“ во развојот на најнапредните модели поради безбедносни проблеми. Но, забавувањето е малку веројатно без меѓународна соработка и регулаторни напори, а американскиот претседател Доналд Трамп ја отфрли идејата за регулирање на вештачката интелигенција.

-Сè уште не сме подготвени да воведеме уште пософистицирани верзии на овие системи на начин што би бил безбеден и корисен за луѓето и другите животни, а камоли за самите системи. Многу сум загрижен за тие прашања – вели Себо.