Централната избирателна комисия на Израел е изправена пред необичайна задача в навечерието на предстоящите избори – да разрешава спорове, свързани с изкуствения интелект, политическата пропаганда и фалшифицираното съдържание, можещо да представя несъществуващи събития като реални, предаде израелската агенция ТПС.
Преди изборите на 27 октомври комисията въведе изисквания за обозначаване на предизборната пропаганда, създадена с помощта на изкуствен интелект, а нейният председател, съдията от Върховния съд Ноам Солберг, разпореди премахването на видеоклипове, определени като подвеждащи. Експерти обаче заявиха пред ТПС, че възможностите за прилагане на тези мерки са ограничени и че други демократични държави са изправени пред сходни предизвикателства, тъй като фалшифицираното съдържание и координираните онлайн кампании затрудняват разграничаването на достоверната политическа информация от манипулациите.
„Проблемът не е в самото използване на технологията, а в опита това да бъде прикрито“, заяви пред ТПС Авиад Нимековски, заместник главен юридически съветник на Централната избирателна комисия. Той определи политическото убеждаване като основополагащо за демокрацията, но посочи, че проблемите възникват, когато предизборните кампании се опитват да заблудят аудиторията.
Израел прие временна законодателна поправка, която изисква предизборната пропаганда, създадена с помощта на изкуствен интелект, да бъде придружена от изрично обозначение, че съдържанието е генерирано изкуствено. Комисията създаде и специализиран екип, който да проучва изкуствения интелект и други форми на потенциално незаконно политическо влияние, като същевременно поддържа връзка с технологични компании, сред които Фейсбук, Майкрософт и Гугъл.
„Ние сме сред първите в света, които прилагат подобна мярка“, заяви Нимековски, като добави, че ефективността ѝ ще бъде оценена с течение на времето.
Когато всеки може да създаде фалшификат
Комисията може да издава разпореждания за забрана в рамките на минути или часове, но премахването на даден видеоклип не предотвратява повторното му публикуване другаде. Нимековски посочи, че комисията получава около 250 жалби, повечето от които са свързани с предизборна пропаганда и идват от представители на целия политически спектър.
Лекотата, с която може да се създава подобно съдържание, допълнително усложнява ситуацията. Йонатан Хасидим, главен изпълнителен директор и съосновател на компанията от град Бней Барак „Скупър“ (Scooper), която се занимава с наблюдение на социалните мрежи и анализ на общественото мнение, заяви, че изкуственият интелект е намалил значително ресурсите, необходими за създаването на политически видеоклипове.
„В днешно време вече не са необходими снимачен екип, актьори, определени места за снимки или големи бюджети, за да се създаде убедителен политически видеоклип“, заяви Хасидим пред ТПС. „Необходими са само идея, компютър и няколко минути работа.“
Предизборните щабове могат да представят политическите си противници като участници в срещи с непопулярни личности или като сключващи компрометиращи съюзи, дори когато подобни събития никога не са се случвали. Някои видеоклипове са очевидно измислени, докато други силно наподобяват автентични кадри.
Ая Ядлин, старши преподавател във Факултета по комуникации на университета „Бар Илан“, заяви, че дори откровено измислените видеоклипове могат да влияят върху възприятията, като представят политическите противници в унизителни или заплашителни ситуации.
„Сред очевидно измисленото съдържание има пародийни видеоклипове в стила на компютърната игра Джи Ти Ей (GTA), публикувани от партии, които представят съперниците им като герои от видеоигри“, заяви Ядлин. „Основният риск при този вид съдържание не е заблудата, а по-скоро обезчовечаването на политическите противници.“
По-реалистичните фалшификации създават различен проблем, защото зрителите могат да приемат измислени събития или отношения за действителни. През юли Солберг разпореди на министъра на финансите Бецалел Смотрич, лидер на партията „Религиозен ционизъм“, да премахне видеоклип, показващ как лидерът на партия „Яшар!“ („Право!“) Гади Айзенкот се ръкува с палестинския лидер Махмуд Абас.
„Този откъс от видеоклипа представя събитие, което не се е случило, но изглежда реалистично. Той показва политическа връзка между Айзенкот и Абас, каквато не съществува, и следователно може да заблуди по този въпрос“, заяви Солберг.
Ограниченията на обозначенията за изкуствен интелект
Проблемът се простира отвъд съдържанието, генерирано с изкуствен интелект, заяви Ядлин. Тя посочи т.нар. фалшиви подкасти (fauxcasts), които прадставляват предизборни видеоклипове, инсценирани така, че да наподобяват журналистически подкасти, със студиа и микрофони, но без действително направено интервю.
„Фалшивият подкаст не лъже с думите си. Той лъже с декора си и се възползва от доверието, което аудиторията е изградила към формата на подкастите“, заяви тя.
Израелският Закон за изборите (методи на пропаганда) датира от 1959 г., много преди появата на социалните мрежи и изкуствения интелект. Макар че предизборното съдържание, създадено с изкуствен интелект, вече трябва да бъде обозначавано, Ядлин отбеляза, че подобни изисквания не обхващат всички подвеждащи формати, които имитират журналистика.
Самите обозначения не са съвършена предпазна мярка. Видеоклиповете могат да бъдат изрязвани или публикувани повторно без първоначалните предупреждения.
„Обозначенията помагат, но по-малко, отколкото хората очакват“, заяви Ядлин пред ТПС. „При експерименти, направени в САЩ, изпробваните обозначения за изкуствен интелект са намалили доверието в твърденията, съдържащи се във фалшивите материали, но обозначенията, които просто посочват, че съдържанието е генерирано с изкуствен интелект, са оказали слабо влияние върху намерението на хората да взаимодействат с публикацията. Трябва да разберем, че простото обозначаване на нещо като „изкуствен интелект“ не е същото като задължителното му обозначаване като „невярно“.
Хасидим призова за по-широк подход, който да съчетава законодателство, наблюдение, прилагане на правилата и обществено образование. Той предупреди също, че с усъвършенстването на технологиите никоя система за разпознаване не може надеждно да идентифицира всяко изображение, видео или глас, генерирани с изкуствен интелект.
„Изискването съдържанието да бъде обозначавано като „генерирано с изкуствен интелект“ е все едно да се опитваш да излекуваш терминално болен пациент с обикновено болкоуспокояващо“, заяви той. „В епоха, в която всеки може лесно да създава съдържание с помощта на изкуствен интелект, регулация, която се прилага само за политиците, далеч не е достатъчна.“
Затова властите трябва да проверяват не само дали съдържанието изглежда изкуствено създадено, но и кой го разпространява, колко бързо се разпространява и дали отделни профили координират действията си, подчерта Хасидим.
От дийпфейкове до координирани кампании
Опитът на Израел отразява по-широко предизвикателство пред демократичните държави, макар използваните методи да се различават. В САЩ имитация на гласа на президента Джо Байдън, генерирана с изкуствен интелект, беше използвана през 2024 г. в автоматизирано телефонно обаждане, призоваващо избирателите в Ню Хемпшир да не участват в първичните избори на Демократическата партия за президент. В Словакия само два дни преди парламентарните избори през 2023 г. беше разпространен фалшифициран запис, който създаваше впечатлението, че кандидат обсъжда манипулиране на изборите с журналист.
Президентските избори в Румъния през 2024 г. откроиха свързан проблем – координираната онлайн активност може да увеличи разпространението на политически послания дори когато самото съдържание не е фалшифицирано. Ядлин посочи мрежа от около 25 000 синхронизирано действащи профила, които са помогнали на слабо известен кандидат да придобие популярност в Тикток, показвайки как привидно независима онлайн активност може да бъде координирана в голям мащаб.
Общото между тези случаи не е просто създаването на фалшиви видеоклипове. Евтиният генеративен изкуствен интелект може да осигури убедително съдържание, докато мрежи от профили и влиятелни личности в интернет го разпространяват, създавайки впечатлението, че координираната пропаганда представлява спонтанно обществено мнение.
Ядлин заяви, че властите трябва да се съсредоточат върху установимите участници, като изискват от официалните предизборни щабове да разкриват произхода на материалите си и да поемат отговорност за тях още при публикуването им. Компаниите за социални мрежи биха могли да въведат допълнителни проверки при споделяне и да създадат специализирани екипи за съдържание, свързано с изборите.
„Структурният проблем е във времето. Решенията идват, след като видеоклиповете вече са натрупали гледания“, заяви тя по повод ролята на Централната избирателна комисия.
Рисковете не се ограничават до фалшифицираните материали. Хасидим предупреди, че политиците могат да използват изкуствения интелект като оправдание, за да отхвърлят автентични доказателства като манипулирани. Това явление е известно като „дивидент на лъжеца“ (liar’s dividend).
Ядлин заяви, че произтичащото от това подкопаване на доверието може да бъде по-вредно от отделните лъжи. „Демокрацията зависи от обща фактологична основа“, каза тя. „Избирателите могат да държат лидерите си отговорни само ако са съгласни за това какво действително се е случило.“
Усилията на Израел да регулира предизборната пропаганда, генерирана с изкуствен интелект, могат да предложат поуки за други държави, заяви Нимековски. Комисията е проучила международни случаи, организирала е кампании за повишаване на обществената осведоменост и се е консултирала с технологични платформи относно прилагането на правилата.
Според експертите обаче предизвикателството е да се противодейства на заблудата, без самият изкуствен интелект да се разглежда като нещо недопустимо и без да се приема, че съдържание, което изглежда подозрително, непременно е невярно.
„Резултатът е общество, което не вярва на нищо, вместо общество, което вярва на лъжи“, заяви Ядлин. „Такова общество е по-лесно да бъде обезкуражено от участие в обществения живот и по-трудно да бъде информирано.“
(Тази информация се разпространява по споразумение между БТА и ТПС)
/ВС/
