БНР | 24.07.2018 09:47:43 | 844

Преслав Наков: Борбата с фалшивите новини е като борбата със спама


Има смисъл да се борим с фалшивите новини – по същия начин, по който има смисъл да се борим със спама. Това каза в предаването "Преди всички" Преслав Наков, софтуерен специалист, който работи в Катар. Тази вечер Наков ще бъде изнесе лекция "Идентифициране на фалшиви новини чрез дълбоки невронни мрежи" в Софтуерния университет.

"Проблемът с фалшивите новини не е, че не са верни. Проблемът е, че всъщност те са превърнати в оръжие. Те могат да профилират потребителите. Фалшивите новини имат много реално изражение в реалния свят", поясни Преслав Наков. неговата изследователска дейност е свързана основно с текст, но казва, че най-интересните неща сега се случват на ниво видео и звук.

"От около две години има тулове, които могат да генерират видео и всъщност могат да накарат всеки човек да каже долу-горе всичко. Ако имаме определено количество видео на определена личност, ние всъщност можем да накараме тази личност да каже всичко. Включително преди две години имаше изследователи, които направиха фалшивия Обама - генерираха видео на Обама, което да представи тяхната работа. Всъщност те вкараха цяла реч във видео: Обама седнал на един стол и това нещо го говори. Това е нещо, което хвърли в ужас журналистите. Преди два месеца имах лекция на тема фалшивите новини в "Ал Джазира" - говоря им за тези неща и те казват: "Това на нас не ни е чак толкова интересно. На нас ни е интересно как ще борим ние фалшивите видеа, защото за момента можем да ги хващаме, обаче след време? Това е бъдещето на фалшивите новини".

Възможно е човек да генерира автоматично нещо, което е в стил Ван Гог. Как работи механизмът:
"Има две невронни мрежи, които се обучават заедно. Едната се опитва да генерира по случаен начин картинка, която е да кажем на Ван Гог. Другата се опитва да каже дали това е истинският Ван Гог или е генериран от другата, като идеята е, че те се учат една от друга. Да кажем, че имаме хора. Имаме един фалшификатор на картини, имаме един експерт и имаме информация, която върви между двамата. Ако фалшификаторът направи нещо, това се дава на експерта. Експертът казва дали това според него, е истинско или не, и тази информация се дава обратно на фалшификатора. Идеята е, че колкото по-добър фалшификатор получаваме, толкова добър експерт получаваме. Ако искам да имам добър експерт – получавам добър фалшификатор. Ако искам да имам добър фалшификатор – получавам добър експерт. Тези неща са горе-долу на едно и също ниво. Малко като борбата със спама – в момента, в който имаме много добър спам филтър, и спамърите стават по-добри, защото се научават. Само че докато преди трябваше да го правят ръчно, с тези невронни мрежи се автоматизира. Тоест, в момента, в който някой направи много добър детектор на фалшиви картинки, или на фалшиво видео, този детектор може да бъде даден на друга невронна мрежа, която да го заблуждава."

Преслав Наков даде пример от практиката си в Катар със система на английски и арабски, която разпознава фалшивите новини:

"Човек там слага някакъв текст, например може да бъде дебат между Хилъри Клинтън и Тръмп, може да бъде просто някаква новинарска публикация, някакъв текст от Интернет и казва: "Ето, тук това са най-съмнителните твърдения" - това е някакво средство в помощ на журналистите, които всъщност проверяват факти. Оттам нататък имаме друга система, която проверява дадени твърдения. Например, да кажем, че Хилъри Клинтън казва, че Тръмп вярва, че глобалното затопляне е измислица на китайците или нещо такова. Това е твърдение, което ние всъщност можем да отидем по някакъв начин да проверим."

Напоследък фокусът е върху профилирането на медии, което може да се окаже най-полезно в момента, подчерта експертът:

„Тази медия в миналото публикувала ли е фалшиви новини или не? Отвъд това – какви са пристрастията на медията – дали е лява, дали е дясна, в арабския свят – дали е ислямистка, дали е светска. Виждаме например някаква медия написала нещо критично по отношение на човека Х. Хайде да видим: това днес ли се е случило или във времето и тази медия има пристрастия по отношение на определена политическа партия, фирма, човек. Всички тези неща ги правим с невронни мрежи."

Един от проблемите, пред който беше изправен Фейсбук е, че много от нещата, свързани с фалшивите новини, са въпрос на мнение и въпрос на гледна точка и интерпретация, посочи още Наков: 
"По тази причина Фейсбук дълго време се противопоставяше на натиска да направи нещо по отношение на фалшивите новини, защото те не искат да бъдат министерство на истината. Друг е въпросът, че там има и икономически аспект, свързан с това, че всъщност фалшивите новини се шерват. Оказа се, че фалшивите новини се разпространяват доста по-бързо от истинските."
Цялото интервю е в звуковия файл.

Прочети цялата публикация