ChatGPT заблокировал аккаунты, связанные с российской операцией по дезинформации

Компания OpenAI заблокировала группу пользователей на ИИ-платформе ChatGPT из-за участия в скрытой кампании по политической дезинформации. По данным компании, аккаунты использовали люди из России и, возможно, Израиля. С помощью чат-бота они готовили публикации для соцсетей. Материалы продвигали несуществующий Международный институт Берка (International Burke Institute, IBI). «Это первый случай, когда мы пресекли связанную с Россией операцию по оказанию влияния, которая зашла настолько далеко», — заявили в OpenAI.

Сайт Международного института Берка был зарегистрирован в феврале 2025 года. Его позиционировали как экспертное сообщество, на нем публиковались исследовательские материалы. В качестве экспертов значились американские политологи Фрэнсис Фукуяма и Ноам Хомский. Значительная часть исследований не была оригинальной — 34 из 36 материалов на сайте IBI были скопированы и часто с неверными именами авторов.

IBI создал «индекс суверенитета». С его помощью «институт» сравнивал страны и оценивал степень их самостоятельности. Россия была представлена в выгодном свете, а  США, Франция, Германия и Евросоюз подвергались критике. Авторы материалов выступали против зависимости европейских стран от США и обвиняли западные правительства и пренебрежении интересами населения.

По данным OpenAI, участники проекта обращались к ChatGPT через VPN и писали запросы на русском языке. Большинство материалов создавались на английском. Пользователи также просили ИИ-модель убрать особенности языка, которые могли указывать на российское происхождение автора. В одном из англоязычных материалов использовалось выражение «Svetofor coalition» (о правительственной коалиции в Германии) вместо обозначения «traffic-light coalition». OpenAI считает, что это может указывать на машинный перевод со русского языка.

ChatGPT использовали прежде всего для продвижения сайта IBI и его публикаций в соцсетях Telegram, X, Facebook, LinkedIn и Substack. В публикациях содержались ссылки на материалы IBI и призывы подписаться на их каналы. Один из участников операции также создавал с помощью ChatGPT материалы на немецком языке для Telegram-канала Lahme Ente («Хромая утка»). В них критиковались Украина, Евросоюз и правительство Германии. Авторы выступали за улучшение отношений с Россией. Другой оператор с помощью модели создавал логотипы примерно для десяти Telegram-каналов. Они были ориентированы на аудитории Германии, США, Франции, Польши и Турции.

Охват кампании оказался небольшим, а аккаунты IBI имели небольшую аудиторию. Связанные с операцией Telegram-каналы смогли привлечь от 10 тыс. до 20 тыс. подписчиков каждый. В OpenAI считают, что созданная инфраструктура могла быть масштабирована и использована для распространения политических нарративов. Российские власти отвергали обвинения западных стран в организации скрытых информационных операций. Представитель МИД России Мария Захарова заявляла, что эти обвинения используются в пропагандистских целях.