ФЕЈСБУК ЈА ИСКЛУЧИ ПРОГРАМАТА ШТО ПИШУВАШЕ ЛАЖНИ НАУЧНИ ТРУДОВИ Галактика успеала да го имитира академскиот јазик

Програма за вештачка интелигенција развиена од компанијата Мета, или по старо Фејсбук, мораше да биде исклучена од употреба. Софтверот Галактика почнал самиот да пишува и да објавува научни студии на Википедија кои изгледаат како да се вистински, но всушност се само комбинации од зборови од други студии кои всушност на крајот немаат смисла. Програмата можела да произведува лажни академски трудови само по три дена постоење, пишува Футуризам.

Она што ѝ овозможило на програмата успешно да го имитира јазикот на научниците е т..н. ЛЛМ-модел, софтер кој може да „исплука“ различни комбинации на зборови, кои за експертот по вештачка интелигенција, Гери Маркус, се „срање“. Програмата ги следи стапките на GPT-3, генератор на произволни текстови на компанијата OpenAI.

Еден од најсмешните примери за тоа како работи Галактика е кога програмата напишала научен труд за измислената мачка Барс, која, во својот бизарен универзум, е лансирана во леталото Спутник 2 исто како кучето Лајка кое изгоре во советска ракета.

„Тоа е урнебесно лошо“, напиша Дејвид Чепмен, колегата на Маркус.

#Galactica AI does not disappoint. Look how short that proof is, and it saved me time generating my own LaTeX error and false claim about projected gradient. pic.twitter.com/xLYG1v54pt

— Mark Schmidt (@MarkSchmidtUBC) November 16, 2022

Меѓутоа, настрана шегите, со брзото отстранување на проектот се чинеше дека науниците признацаат дека ботот е пуштен премногу рано во употреба, напиша Маркус.

„Реалноста е дека големите јазични модели како GPT-3 [и] Galactica се како бикови во продавница за порцелан, моќни, но непромислени. И тие веројатно значително ќе го зголемат предизвикот со лажните информации“, напиша тој.

Сите беа задоволни од одлуката, освен главниот научник за вештачка интелигенција на Мета, Јан ЛеКун, кој беше лут и објави дека луѓето одат предалеку кога ја обвинуваат Галактика за објавување „срање“.