Eволюцията на ИИ спама във „Фейсбук“

Eволюцията на ИИ спама във „Фейсбук“

Въпреки твърденията, че платформата „Фейсбук“ вече „умира“, на фона на новите социални мрежи, цифрите говорят друго. Поколението, което през 2023 г. навърши пълнолетие не си спомня живота без „Фейсбук“. Ето и друга цифра – социалната мрежа надмина 3 млрд. активни потребители месечно.

На фона на тези цифри е нормално да се предположи, че „Мета“ непрекъснато повишава нивото на сигурност. От компанията обаче отговарят непоследователно нa въпросите за сигурността, докато „Фейсбук“ е залят от измами, генерирани от изкуствен интелект.

Спамът и измамите във „Фейсбук“ са сериозни проблеми, които могат да засегнат както личните профили на потребителите, така и бизнес страниците.
Спамът, генериран от изкуствен интелект (ИИ), е нарастващ проблем в дигиталния свят. Технологиите на ИИ са достатъчно напреднали, за да създават реалистични и персонализирани съобщения, които могат да измамят дори и най-опитните потребители.

Ето какво представлява този вид спам

Автоматизирани съобщения: Използване на ботове и алгоритми за изпращане на хиляди или дори милиони съобщения до потребители в социалните мрежи, електронна поща или други платформи.

Персонализирани атаки: Използване на данни от социалните мрежи и други източници за създаване на персонализирани съобщения, които изглеждат като изпратени от реални хора.

Машинно обучение: Използване на техники за машинно обучение за анализ на поведението на потребителите и адаптиране на съобщенията, така че да бъдат по-ефективни и трудно разпознаваеми като спам.

Спамът, създаден от изкуствен интелект може да бъде под формата на фалшиви новини. Те подвеждат потребителите да генерират трафик към определени уебсайтове. Фишинг съобщения също са риск. Изпращат реалистични имейли или съобщения, които искат лична информация, като пароли или данни за кредитни карти. Рекламният спам изпраща масови съобщения с рекламно съдържание, използвайки реалистични текстове и изображения.

Генерираните от ИИ спам публикации започват да се появяват в профилите на някои потребители на „Фейсбук“, което прави предизвикателство за тях да направят разлика между истинско и фалшиво съдържание.

Репортери на 404 Media, уебсайт на технологичната индустрия, наблюдават неотдавнашното нарастване на генерираните от ИИ публикации във „Фейсбук“. Тези изображения, генерирани от ИИ, се появяват във „Фейсбук“ и други социални медийни платформи като Threads, която е собственост на „Мета“, и LinkedIn.

Новините за публикациите, генерирани от ИИ, идват няколко месеца, след като „Мета“ заяви през февруари, че потребителите на „Фейсбук“ и „Инстаграм“ ще започнат да виждат етикети на генерирани от ИИ изображения, които се появяват в техните социални медийни емисии като част от плана на технологичната индустрия да филтрира фалшивите публикации.

"Работим за намаляване на разпространението на съдържание, което е спам или сензационно, защото искаме потребителите да имат добро преживяване, поради което им предлагаме контрол върху това, което виждат в емисията си", заяви говорител на „Мета“ в изявление пред FOX Television Stations.

Изследователи от университетите в Джорджтаун и Станфорд откриха, че някои страници във „Фейсбук“ са спам, публикувайки връзки към уебсайтове, където „Мета“ може да събира приходи от реклами. NPR отбеляза, че други публикации са от измамници, популяризиращи ИИ-генерирани елементи, които не съществуват.

„Мета“ вече поставя етикет "Imagined with AI" върху фотореалистични изображения, направени от неговия инструмент. Но по-голямата част от генерираното от AI съдържание в нейните социални медийни услуги идва от други места, съобщи Асошиейтед прес.

Освен това няколко сътрудничества в технологичната индустрия работят за определяне на стандарти. Натискът за дигитален воден знак и етикетиране на генерирано от ИИ съдържание също беше част от изпълнителна заповед, която президентът Джо Байдън подписа през октомври 2023 г.

През последните няколко месеца мнозина предложиха, че ИИ спамът, който превзема „Фейсбук“, е чудесен пример за "Теорията за мъртвия интернет", която постулира, че големи части от интернет са съставени от ботове, които говорят с ботове, филтрирани през обектива на алгоритмите за препоръки и ангажираност. Както 404 Media пише: „Фейсбук“ е безспорно сготвена, разлагаща се, депресираща зала на ужасите, пълна с вирусно съдържание, генерирано от ИИ“, което изглежда се влошава с всеки изминал ден.