- 10,546
- 18
- 8 Ноя 2022
Когда ИИ-фейки успели стать главным цифровым оружием 21 века?
OpenAI , Meta * и TikTok активно борются с кампаниями скрытого влияния, многие из которых используют искусственный интеллект для манипуляции общественным мнением и политическими результатами. Действия компаний помогли выявить и пресечь несколько таких операций, что мы и рассмотрим подробнее ниже.
<h4> Действия OpenAI </h4> OpenAI Для просмотра ссылки Войдиили Зарегистрируйся сразу пять операций по влиянию, связанных с различными странами, включая Китай, Иран, Израиль и Россию. Эти операции использовали ИИ-модели для создания комментариев и статей, создания фальшивых профилей в соцсетях, проведения исследований, отладки кода и перевода текстов.
Сеть под кодовым названием Bad Grammar использовала Telegram для рассылки некачественного контента, нацеленного на аудиторию в разных странах. Вторая сеть, Doppelganger, генерировала комментарии и переводила статьи для публикации на фейковых новостных сайтах в социальных сетях.
Другие выявленные сети включают сеть Spamouflage, IUVM и Zero Zeno, все из которых использовали ИИ для создания и распространения пропагандистского контента.
<h4> Усилия Meta </h4> Meta также активно противостоит координированным кампаниям скрытого влияния. В Для просмотра ссылки Войдиили Зарегистрируйся о противодействии угрозам, компания сообщила об удалении почти 500 фейковых и скомпрометированных аккаунтов на Facebook* и Instagram*, связанных с операцией STOIC.
Meta также удалила сотни аккаунтов из различных стран за координированное неаутентичное поведение, направленное на влияние на общественное мнение и продвижение политических нарративов.
Помимо этого, Meta обнаружила, что многие кампании скрытого влияния используют современные цифровые инструменты, включая ИИ, для создания реалистичного текста, изображений и даже видео. Несмотря на это, компания подчеркнула, что пока не зафиксировала значительного увеличения аудитории этих кампаний.
<h4> Меры TikTok </h4> Видеоплатформа TikTok также Для просмотра ссылки Войдиили Зарегистрируйся несколько сетей скрытого влияния. Эти сети, берущие начало в разных странах, пытались манипулировать общественным мнением и политическими результатами, используя ИИ и другие современные технологии.
В целом, платформа TikTok, находящаяся под пристальным вниманием американских властей, в последнее время стала весьма популярным местом для распространения дезинформации. Так, недавно на площадке была обнаружена сложная кампания влияния, известная как Emerald Divide, использующая ИИ для создания и распространения контента, направленного на дестабилизацию израильского общества.
<h4>Что в сухом остатке?</h4> Совместные усилия OpenAI, Meta и TikTok показывают важность глобального сотрудничества в борьбе с кампаниями скрытого влияния. Использование ИИ для создания и распространения дезинформации становится всё более распространённым, и технологические компании играют ключевую роль в противодействии этим угрозам.
Исследователи продолжают внимательно следить за ситуацией и делиться информацией, чтобы предотвратить дальнейшее распространение дезинформации и манипуляций в сети.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
OpenAI , Meta * и TikTok активно борются с кампаниями скрытого влияния, многие из которых используют искусственный интеллект для манипуляции общественным мнением и политическими результатами. Действия компаний помогли выявить и пресечь несколько таких операций, что мы и рассмотрим подробнее ниже.
<h4> Действия OpenAI </h4> OpenAI Для просмотра ссылки Войди
Сеть под кодовым названием Bad Grammar использовала Telegram для рассылки некачественного контента, нацеленного на аудиторию в разных странах. Вторая сеть, Doppelganger, генерировала комментарии и переводила статьи для публикации на фейковых новостных сайтах в социальных сетях.
Другие выявленные сети включают сеть Spamouflage, IUVM и Zero Zeno, все из которых использовали ИИ для создания и распространения пропагандистского контента.
<h4> Усилия Meta </h4> Meta также активно противостоит координированным кампаниям скрытого влияния. В Для просмотра ссылки Войди
Meta также удалила сотни аккаунтов из различных стран за координированное неаутентичное поведение, направленное на влияние на общественное мнение и продвижение политических нарративов.
Помимо этого, Meta обнаружила, что многие кампании скрытого влияния используют современные цифровые инструменты, включая ИИ, для создания реалистичного текста, изображений и даже видео. Несмотря на это, компания подчеркнула, что пока не зафиксировала значительного увеличения аудитории этих кампаний.
<h4> Меры TikTok </h4> Видеоплатформа TikTok также Для просмотра ссылки Войди
В целом, платформа TikTok, находящаяся под пристальным вниманием американских властей, в последнее время стала весьма популярным местом для распространения дезинформации. Так, недавно на площадке была обнаружена сложная кампания влияния, известная как Emerald Divide, использующая ИИ для создания и распространения контента, направленного на дестабилизацию израильского общества.
<h4>Что в сухом остатке?</h4> Совместные усилия OpenAI, Meta и TikTok показывают важность глобального сотрудничества в борьбе с кампаниями скрытого влияния. Использование ИИ для создания и распространения дезинформации становится всё более распространённым, и технологические компании играют ключевую роль в противодействии этим угрозам.
Исследователи продолжают внимательно следить за ситуацией и делиться информацией, чтобы предотвратить дальнейшее распространение дезинформации и манипуляций в сети.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
