Как терористите се възползват от изкуствения интелект

Групировки като "Ислямска държава" и Ал Каида призовават последователите си да използват най-новите технологии, за да разпространяват екстремистките си послания, да избягват цензурата и да набират хора

Снимка: 20th Century Fox/Courtesy Everett Collection/IMAGO

Как терористите се възползват от изкуствения интелект

22:00 | 29 юли 2024 | Автор: Катрин Шеър, DW 0 2417 Снимка: 20th Century Fox/Courtesy Everett Collection/IMAGO

"Оръжията ни са тежки, редиците ни са многобройни, войниците на Аллах са повече от готови", пее Питър Грифин, основният персонаж в сериала "Семейният тип", във видеоклип, което се разпространява онлайн. Само че песничката и гласът не са на създателя на шоуто Сет Макфарлън, който по принцип озвучава Грифин, а са генерирани с изкуствен интелект (ИИ). Целта му е да окуражи последователите на терористичната групировка "Ислямска държава".

Тероризъм

Този пост е само един от многото примери как екстремистки групи използват технологиите и по-конкретно изкуствения интелект, за да създават съдържание за последователите си.

Екстремистите използват все повече технологии за пропаганда

Терминът "изкуствен интелект" всъщност включва много различни технологии и с него може да се има предвид както например бързото обработване на голямо количество данни, така и генерирането на текстово и визуално и аудио съдържание, както в случая с Питър Грифин. "Бързото демократизиране на технологията за генеративен изкуствен интелект през последните години оказва огромно влияние върху начина, по който екстремистките организации създават операциите си за оказване на влияние онлайн", пише американският експерт по ИИ Даниел Сийгъл.

В последните години все повече екстремистки организации призовават своите членове да използват новите технологии. През февруари например група, свързвана с Ал Каида, обяви, че ще организира уъркшопи за ИИ онлайн, съобщи "Вашингтон пост". След това същата група публикува и наръчник как да се използват чатботове.

През март, след като клон на "Ислямска държава" (ИД) уби над 135 души при терористично нападение в Москва, един от последователите на групировката създаде фалшив репортаж за събитието и го публикува четири дни след нападението. По-рано този месец пък испанското вътрешно министерство обяви, че е арестувало девет души, които разпространяват пропаганда, величаеща терористичната групировка, като един от тях се е специализирал в "екстремистко мултимедийно съдържание, използвайки приложения за монтаж с помощта на изкуствен интелект."

Терористичните организации и преди са използвали новите технологии

"Знаем, че изкуственият интелект днес служи като допълнение към официалната пропаганда на Ал Каида и ИД", казва Мустафа Аяд от Института за стратегически диалог в Лондон. "Той позволява на последователите да създават емоционално съдържание, използвано специално за провокиране на базата от поддръжници."

И това не изненадва хората, които отдавна следят дейността на терористите. Още когато набира сила през 2014 година "Ислямска държава" вече използва пропагандни видеа с високо качество, за да привлича последователи и да заплашва враговете си. "Терористичните групи и техните привърженици рано адаптират новите технологии в своя полза", коментира експертът.

Реалният свят продължава да е по-опасен от виртуалния

Но колко опасно е това съдържание? Изфабрикуваните видеоклипове от атаката в Москва изглеждат фалшиви, а песента на Питър Грифин не заплашва всъщност никого. Или? Групите, които следят активността на екстремистите, предупреждават, че има и други начини, по които може да се използва изкуствения интелект. Те могат да използват чатботове на различни езици например, за да привличат нови последователи. Тяхната цел е да започнат комуникацията и когато предизвикат интерес у събеседника, истински човек да продължи разговора.

Макар ИИ моделите като ChatGPT да имат вградени правила, които не им позволяват да дават съвети по опасни теми и чувствителни въпроси, в миналото се е доказвало, че тези алгоритми могат да бъдат заобиколени и потенциалните терористи да получат информацията, която търсят. Все по-големи стават и опасенията, че екстремистите могат да използват ИИ, за да организират дигитални и кибер атаки или пък като помощник за организиране на физически атаки.

Експертите казват, че макар ИИ да отваря тревожни нови възможности пред екстремистите, реалният живот продължава да е по-опасен. "Не знам дали на този етап използването на изкуствен интелект от терористични организации и техните поддръжници е по-опасно от съвсем реалната и нагледна пропаганда, включваща убийства на цивилни и нападения срещу силите за сигурност", коментира Мустафа Аяд. "В момента по-голямата заплаха представлява това тези групи действително да извършват нападения, да вдъхновяват самотни извършители или успешно да набират нови членове с реакциите си на геополитическите събития, а именно войната в Газа, която започна в отговор на нападението от 7 октомври", продължава той. "Те използват цивилните жертви и действията на Израел като оръжие за набиране на нови членове и за провеждане на кампании."

Материалът е публикуван ТУК>>

ИЗБРАНО