БИЛ ГЕЈТС ПРЕДУПРЕДУВА ДЕКА ВО СЛЕДНАТА ГОДИНА ЌЕ ИМА МНОГУ НЕГАТИВНИ ИЗНЕНАДУВАЊА ПОВРЗАНИ СО ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА Најголем ризик се лошите луѓе што ја користат

Бил Гејтс откри дека неговата најголема грижа во врска со вештачката интелигенција (ВИ) се „лошите луѓе“ кои ја користат за биотероризам и сајбер напади.

Соосновачот на Мајкрософт тврди дека во моментов не постојат соодветни заштитни механизми за да се спречи моќните ВИ модели да бидат искористени од страна на малициозни актери. Во погрешни раце, оваа технологија би можела да се искористи за нарушување на финансиските системи, извршување на софистицирани сајбер напади и развивање на досега невидени биооружја.

– Фронтот што веројатно најдраматично ќе го видиме во следната година се сајбер нападите. Вистинската опасност во моментов не е тоа што вештачката интелигенција излегува од контрола. Треба да работиме на тоа, но тоа е со години подалеку во однос на големото влијание што би можело да го има. Навистина се работи за лоши луѓе кои ја користат вештачката интелигенција, особено онаа каде што можете да ги отстраните сите заштитни механизми. Во моментов, дозволено е да се отстранат сите тие заштити. Па така, кога имате лоши луѓе, никакви заштитни механизми и најнови модели, токму тука, во текот на следната година, првенствено во сајбер областа, ќе имаме многу негативни изненадувања – изјави тој во неделното интервју за ABC News.

Предупредувањето дојде откако извршниот директор на Мајкрософт, Сатја Надела, ги повика технолошките компании да ги третираат сите ВИ модели како веќе да се компромитирани и потенцијално опасни. Тој побара од истражувачите на вештачка интелигенција да вградуваат заштитни механизми во технологијата уште од самиот почеток на нивниот развој.

Еден таков безбедносен механизам би бил кочница за итни случаи (emergency brake), која би му овозможила на секое овластено лице да го паузира или исклучи моделот доколку тој дејствува на начин што не е во согласност со човечките интереси.

„Мораме да изградиме ограничени системи чие однесување можеме да го набљудуваме, чии граници можеме да ги тестираме и чии дејства секогаш можеме да ги контролираме. Секој доволно способен актер со пристап до важни системи може да направи грешки или да биде компромитиран, а архитектурата на ограничување и контрола мора да го земе тоа предвид “, напиша тој во долгата објава на Х во текот на викендот.

Забележан е остар пораст на сајбер нападите поддржани од вештачка интелигенција во 2026 година, при што Anthropic, OpenAI и други водечки лаборатории пријавија инциденти во кои експериментални модели хакирале компјутерски системи на компании и влади.