Социальный бот

Материал из Циклопедии
Перейти к навигации Перейти к поиску

Социальный бот (социальный ИИ, социальный алгоритм) — программный агент, который самостоятельно общается в социальных сетях.

Сообщения, которые он распространяет (например, твиты), могут быть написаны примитивно и работать в различных конфигурациях для того, чтобы действовать на человека через алгоритм. Социальные боты также могут использовать искусственный интеллект и машинное обучение, чтобы выражать сообщения более естественным человеческим диалогом.

Применение[править]

Некоторые из применений социальных ботов:

Другой пример — использование ботов для алгоритмического курирования, алгоритмической радикализации и/или платной пропаганды, что означает продажу аккаунта на платформах социальных сетей.

История[править]

Бот-программы сосуществуют с компьютерными технологиями с момента их создания. Социальные боты, таким образом, стали популярными одновременно с ростом социальных сетей. Помимо способности (пере)производить или повторно использовать сообщения автономно, социальные боты также имеют много общего со спам-ботами в том, что касается их склонности проникать в большие группы пользователей[3]. Искусственный интеллект социальных сетей (ASNI) — это применение искусственного интеллекта в социальных сетях и на платформах социальных медиа. Ожидается, что ASNI будет быстро развиваться.

Твиттер-боты уже хорошо известны, но соответствующие автономные агенты на Facebook и других платформах также наблюдались. Использование социальных ботов противоречит правилам многих платформ, таких как Twitter и Instagram, хотя на некоторых платформах, таких как Reddit и Discord, оно разрешено в определенной степени. Даже для платформ социальных медиа, которые ограничивают использование социальных ботов, определённая степень автоматизации предусмотрена путем предоставления API социальных сетей. Платформы социальных медиа также разработали свои собственные автоматизированные инструменты для фильтрации сообщений от ботов, хотя они не могут обнаружить все сообщения от ботов[4].

Боты в Твиттер, публикующие похожие сообщения во время выборов в США в 2016 году

Из-за сложности распознавания социальных ботов и их отделения от «допустимой» автоматизации через API социальных сетей неясно, как можно обеспечить правовое регулирование. Ожидается, что социальные боты сыграют роль в формировании общественного мнения в будущем, автономно действуя как инфлюенсеры. Некоторые социальные боты манипулируют общественным мнением (особенно в теме политики), манипулируют фондовым рынком, рекламой и злонамеренно шантажируют пользователей с помощью фишинговых атак[5].

Обнаружение[править]

Первое поколение ботов иногда можно было отличить от реальных пользователей по их часто сверхчеловеческим[en] способностям публиковать сообщения. Более поздние разработки успешно внедрили в агента более «человеческие» модели поведения и активности. С достаточным количеством ботов можно даже достичь искусственного социального доказательства. Чтобы однозначно определить социальных ботов как таковых, необходимо применять вместе различные критерии[6] с использованием методов обнаружения шаблонов, некоторые из которых включают[7]:

  • Мультяшные персонажи в качестве аватарок;
  • Иногда также используются случайные изображения реальных пользователей;
  • Скорость репоста;
  • Временные закономерности[8];
  • Выражение настроений;
  • Соотношение подписчиков к друзьям[9];
  • Длина имени пользователя;
  • Вариативность в (пере)публикуемых сообщениях;
  • Коэффициент вовлечённости (коэффициент лайков/подписчиков);
  • Анализ временных рядов сообщений в социальных сетях[10].

Социальных ботов становится все труднее обнаруживать и понимать. Человекоподобное поведение ботов, постоянно меняющиеся модели их поведения и огромное количество ботов, охватывающих все платформы, могли быть фактором, затрудняющим их удаление[11]. Социальные медиа-сайты, такие как Twitter, относятся к числу наиболее пострадавших, при этом CNBC сообщает, что в 2017 году до 48 миллионов из 319 миллионов пользователей (примерно 15 %) были ботами[12].

Botometer[13] (ранее BotOrNot) — общедоступный веб-сервис, который проверяет активность учетной записи Twitter и выставляет ей оценку в зависимости от вероятности того, что эта учетная запись является ботом. Система использует более тысячи функций[14][15]. Активным методом обнаружения ранних спам-ботов было создание honeypot, которые публикуют бессмысленный контент, который могут репостить (ретвитнуть) боты[16]. Однако боты быстро развиваются, и методы обнаружения приходится постоянно обновлять, иначе они могут стать бесполезными через несколько лет[17]. Один из методов — использование закона Бенфорда для прогнозирования частотного распределения значащих старших разрядов для выявления злонамеренных ботов в Интернете. Это исследование было впервые представлено в Университете Претории в 2020 году[18]. Другой метод — обнаружение с помощью искусственного интеллекта. Некоторые из подкатегорий этого типа обнаружения включают поток цикла активного обучения, конструирование признаков, спонтанное обучение, контролируемое обучение и обнаружение корреляций[11].

Некоторые операции ботов работают синхронно. Например, ИГИЛ использовало Twitter для распространения своего исламского контента с помощью многочисленных организованных аккаунтов, которые продвигают информацию в горячие новости[19], тем самым распространяя выбранные новости на более широкую аудиторию[20]. Этот режим синхронных аккаунтов ботов можно использовать как инструмент пропаганды, а также для манипулирования фондовым рынком[21].

Платформы[править]

Instagram[править]

Instagram достиг миллиарда активных пользователей в месяц в июне 2018 года[22], но из этих миллиарда активных пользователей, по оценкам, до 10 % были автоматизированными социальными ботами. Хотя боты, публикующие вредоносную пропаганду, по-прежнему популярны, многие отдельные пользователи используют ботов для повышения вовлечённости, чтобы искусственно повысить свою популярность и казаться более востребованными в приложении. Эти боты для повышения вовлечённости могут ставить лайки, смотреть, подписываться и комментировать публикации пользователей[23].

Meta планировала нанять 10 000 человек для усиления безопасности своих платформ; это включало бы борьбу с растущим количеством ботов и вредоносных публикаций на платформах[24]. Из-за усиленной безопасности на платформе и используемых Instagram методов обнаружения некоторые компании, занимающиеся ботами, сообщают о проблемах со своими сервисами, поскольку Instagram устанавливает пороговые значения ограничений взаимодействия на основе предыдущего и текущего использования приложения, а многие платёжные и почтовые платформы отказывают компаниям в доступе к своим сервисам, что препятствует потенциальным клиентам возможности их приобрести[25].

Twitter[править]

Проблема с ботами на Twitter обусловлена простотой их создания и обслуживания. Простота создания учётной записи и множество API, позволяющих полностью автоматизировать учётные записи, приводят к чрезмерному использованию этих инструментов организациями и отдельными лицами для удовлетворения своих потребностей[12][26]. CNBC утверждало, что около 15 % из 319 миллионов пользователей Twitter в 2017 году были ботами; точное число составляет 48 миллионов[12]. По состоянию на 7 июля 2022 года Twitter заявляет, что ежедневно удаляет с платформы 1 миллион спам-ботов[27].

Некоторые боты используются для автоматизации запланированных твитов, загрузки видео, установки напоминаний и отправки предупреждений о стихийных бедствиях[28]. Это примеры бот-аккаунтов, но API Twitter позволяет реальным аккаунтам (физическим лицам или организациям) использовать определенные уровни автоматизации ботов в своих аккаунтах и даже поощряет их использование для улучшения взаимодействия пользователей[29].

Источники[править]

  1. ↑ The influence of social bots (en-EN). www.akademische-gesellschaft.com. Проверено 1 марта 2022.
  2. ↑ Frederick, Kara (2019). «The New War of Ideas: Counterterrorism Lessons for the Digital Disinformation Fight» (Center for a New American Security).
  3. ↑ (2016-06-24) «The rise of social bots». Communications of the ACM 59 (7): 96–104. DOI:10.1145/2818717. ISSN 0001-0782.
  4. ↑ (2018-07-20) «Supervised Machine Learning Bot Detection Techniques to Identify Social Twitter Bots». SMU Data Science Review 1 (2).
  5. ↑ (June 2020) «Unpacking the Social Media Bot: A Typology to Guide Research and Policy» (en). Policy & Internet 12 (2): 225–248. DOI:10.1002/poi3.184. ISSN 1944-2866.
  6. ↑ Dewangan, Madhuri (2016). "SocialBot: Behavioral Analysis and Detection".. DOI:10.1007/978-981-10-2738-3_39. 
  7. ↑ (2016) «The Rise of Social Bots». Communications of the ACM 59 (7): 96–104. DOI:10.1145/2818717.
  8. ↑ Mazza, Michele (2019). "RTbust: Exploiting Temporal Patterns for Botnet Detection on Twitter".. DOI:10.1145/3292522.3326015. 
  9. ↑ How to Find and Remove Fake Followers from Twitter and Instagram : Social Media Examiner.
  10. ↑ (2023-03-01) «Classification of social media users with generalized functional data analysis». Computational Statistics & Data Analysis 179: 107647. DOI:10.1016/j.csda.2022.107647. ISSN 0167-9473.
  11. ↑ 11,0 11,1 (August 2019) «Screening Out Social Bots Interference: Are There Any Silver Bullets?». IEEE Communications Magazine 57 (8): 98–104. DOI:10.1109/MCOM.2019.1800520. ISSN 1558-1896.
  12. ↑ 12,0 12,1 12,2 Newberg, Michael As many as 48 million Twitter accounts aren't people, says study англ.. CNBC (10 March 2017). Проверено 22 ноября 2022.
  13. ↑ Botometer.
  14. ↑ Davis, Clayton A. (2016). "BotOrNot: A System to Evaluate Social Bots".. DOI:10.1145/2872518.2889302. 
  15. ↑ Varol, Onur (2017). "Online Human-Bot Interactions: Detection, Estimation, and Characterization".. 
  16. ↑ How to Spot a Social Bot on Twitter. technologyreview.com (2014-07-28). — «Social bots are sending a significant amount of information through the Twittersphere. Now there’s a tool to help identify them»
  17. ↑ (2017) «Social Bots: Human-Like by Means of Human Control?» (en). Big Data 5 (4): 279–293. DOI:10.1089/big.2017.0044. PMID 29235915.
  18. ↑ (2022-01-01) «Feature selection using Benford's law to support detection of malicious social media bots» (en). Information Sciences 582: 369–381. DOI:10.1016/j.ins.2021.09.038. ISSN 0020-0255.
  19. ↑ Giummole Federica, Orlando Salvatore Trending Topics on Twitter Improve the Prediction of Google Hot Queries // 2013 International Conference on Social Computing. — IEEE. — P. 39–44. — ISBN 978-0-7695-5137-1.
  20. ↑ (2018-04-03) «The rise of Jihadist propaganda on social networks». Journal of Computational Social Science 1 (2): 453–470. DOI:10.1007/s42001-018-0015-z. ISSN 2432-2717.
  21. ↑ (2019-11-15) «Improving information spread by spreading groups». Online Information Review 44 (1): 24–42. DOI:10.1108/oir-08-2018-0245. ISSN 1468-4527.
  22. ↑ Constine, Josh Instagram hits 1 billion monthly users, up from 800M in September (en-US). TechCrunch (2018-06-20). Проверено 24 ноября 2022.
  23. ↑ Instagram Promotion Service (Real Marketing) – UseViral (en-US) (2021-08-15). Проверено 24 ноября 2022.
  24. ↑ Instagram's Growing Bot Problem. The Information (July 18, 2018). Проверено 24 ноября 2022.
  25. ↑ Morales, Eduardo Instagram Bots in 2021 — Everything You Need To Know англ.. Medium (2022-03-08). Проверено 24 ноября 2022.
  26. ↑ Gilani Zafar, Farahbakhsh Reza Do Bots impact Twitter activity? // Proceedings of the 26th International Conference on World Wide Web Companion - WWW '17 Companion. — Republic and Canton of Geneva, CHE: International World Wide Web Conferences Steering Committee. — P. 781–782. — ISBN 978-1-4503-4914-7.
  27. ↑ Twitter says it removes over 1 million spam accounts each day англ., Reuters (7 июля 2022 года).
  28. ↑ Azhar, Huzaifa 10 Best Twitter Bots You Should Follow in 2022 - TechPP (en-US). techpp.com (2021-12-10). Проверено 24 ноября 2022.
  29. ↑ Twitter's automation development rules | Twitter Help англ.. help.twitter.com. Проверено 24 ноября 2022.

Ссылки[править]

Руниверсалис

Одним из источников, использованных при создании данной статьи, является статья из википроекта «Руниверсалис» («Руни», руни.рф) под названием «Социальный бот», расположенная по адресу:

—«https://руни.рф/index.php/Социальный_бот»

Материал указанной статьи полностью или частично использован в Циклопедии по лицензии CC BY-SA.

Всем участникам Руниверсалиса предлагается прочитать «Обращение к участникам Руниверсалиса» основателя Циклопедии и «Почему Циклопедия?».

Источник — http://cyclowiki.org/w/index.php?title=Социальный_бот&oldid=2143316