До крајот на 2026 година или во текот на 2027 година, би можеле да бидеме сведоци на „Чернобил на вештачката интелигенција“, инцидент од такви размери што конечно ќе ги принуди владите и корпорациите сериозно да ги сфатат ризиците што ги носи оваа технологија, предупредува Џефри Хинтон, добитник на Нобеловата награда за физика за 2024 година и еден од пионерите на модерната вештачка интелигенција.

Тоа е вознемирувачко сценарио, особено по неделата обележана со напади, заплашување и саботажи.

Иако нема докази дека вештачката интелигенција била користена во овие конкретни инциденти, таа веќе е алатка што сајбер-криминалците и хакерите спонзорирани од државата ја користат широко за автоматизирање на нападите, откривање на ранливости, пишување злонамерен код и смислување поверливи измами.

Покрај тоа, Хинтон, кој го напушти Google во 2023 година (на 78-годишна возраст), делумно за да може слободно да зборува за опасностите од технологијата во чие создавање самиот учествувал, во интервју за „The Guardian“ сугерира дека вештачката интелигенција наскоро би можела да еволуира во нешто многу поопасно.

„Чернобил“ е метафора, а не буквална референца за нуклеарна експлозија или катастрофа. Овој научник, на пример, предвидува кибер напад со помош на вештачка интелигенција врз електричната мрежа, што би можело да предизвика големи прекини на електричната енергија.  Или замислете напад што би го парализирал финансискиот систем една недела, спречувајќи милиони луѓе и бизниси да пристапат до банкарски сметки или да вршат плаќања.

– Ќе можеме да се опоравиме – забележува Хинтон, но таков настан конечно би ги принудил владите сериозно да го сфатат овој проблем, сите, прецизира тој, „освен администрацијата на Доналд Трамп, која сè уште се спротивставува на меѓународната регулација на вештачката интелигенција“.

Хинтон како преседан го наведува инцидентот од минатиот јули во кој биле вклучени „нечесни агенти на вештачка интелигенција“ од OpenAI. Тој настан доведе до неколку загрижувачки епизоди, од кои најсериозен беше нападот врз системите на платформата Hugging Face, која ја користат развивачите на вештачка интелигенција.

Веќе имавме еден инцидент, следен е „Чернобил“?
„Кумот на вештачката интелигенција“ го споредува овој настан со инцидентот во нуклеарната централа Три Мајл Ајленд во Пенсилванија во 1979 година, кога имаше делумно топење на јадрото на реакторот, иако без последиците од обемот на советската катастрофа од 1986 година.
Инцидентот во јули беше момент како оној на „Три Мајл Ајленд“, а научникот предупредува дека по него може да следи „Чернобил“.

Хинтон не штеди критики кон клучните личности од Силиконската долина. Тој вели дека воопшто не му верува на Сем Алтман, извршен директор на OpenAI. Тој им дава иста оценка на Марк Закерберг и Елон Маск, тврдејќи дека тие се целосно свесни за ризиците поврзани со технологиите што ги развиваат, но дека „воопшто не им е грижа“.

– Тие претпочитаат пари – вели тој.

Решението што го предлага овој добитник на Нобелова награда е најнапредните системи да бидат предмет на задолжително, независно следење пред да стигнат на пазарот, слично на регулаторниот процес што се однесува на фармацевтските производи.

Тој го наведува случајот со талидомид, лек што предизвикал тешки вродени дефекти во 1950-тите и 1960-тите, како пример за да ја илустрира својата поента: чекањето производот да предизвика штета, а потоа барањето надомест не е прифатлива стратегија.

Сепак, тој тврди дека токму тоа сакаат да го прават големите технолошки компании со вештачката интелигенција.

И покрај сè, Хинтон не мисли дека катастрофата е неизбежна. Тој објаснува дека неговата интуиција му кажува дека „сè уште ги имаме работите под контрола“. Сепак, за навистина да се одржи таа контрола, би бил потребен огромен напор, и од владата и од истражувачите и деловните субјекти.

Пред неколку недели, Хинтон беше меѓу потписниците на уште еден манифест на академски експерти и експерти, кој повикува на поголема претпазливост и регулатива во областа на вештачката интелигенција, со посебен фокус на сајбер безбедноста.

The post НИ ПРЕТСТОИ АИ „ЧЕРНОБИЛ“ Апокалиптично предупредување на Џефри Хинтон, нобеловец и кум на вештачката интелигенција appeared first on plusinfo.mk.