Разработчик "Платона" создает систему мониторинга соцсетей

Глава компании "Национальные телематические системы" (НТС), разработчик IT-инфраструктуры "Платона" Алексей Нащекин разрабатывает систему мониторинга соцсетей "Лев Толстой", которая в автоматическом режиме способна собирать данные и прогнозировать угрозы — суициды, проявления экстремизма и разжигание межнациональных конфликтов. Система была представлена Нащекиным на IT-форуме "Русский день" в Сочи.

Аналог "Льва Толстого" начали тестировать еще в декабре прошлого года, и на сегодня доступ к ней предоставлен 50 регионам. Помимо этой разработки в России мониторингом соцсетей занимаются госструктуры и несколько частных компаний, однако новшество этой системы заключается в прогнозировании возможных конфликтов и подготовке рекомендаций по противодействию угрозам.

"Лев Толстой" наблюдает за тобой

Система представляет собой алгоритм, который без участия человека собирает информацию из социальных сетей и блогов, в том числе зарубежных, а также из закрытых сообществ. Данные о пользователях мессенджеров сервис пока изучить не может, но, как заверил "Ведомости" Нащекин, теоретически их можно получить при установке некоего "специального оборудования".

После анализа собранных данных система определит возможные угрозы, точку их возникновения и динамику развития. Кроме того, "Лев Толстой" также сможет давать пользователю рекомендации по противодействию угрозам. В их числе разработчик системы назвал широкий спектр "от детских самоубийств до терактов и межнациональных конфликтов".

Разработку системы глава НТС оценил в "сотни миллионов рублей". Нащекин также сообщил, что уже сотрудничает с неназванными партнерами и в перспективе заказчиками системы видит силовые структуры, крупные корпорации и госсектор. Силовые структуры, по его словам, уже проявили интерес, но контрактов пока нет, сообщил он газете.

Между тем "Лев Толстой" уже используется для мониторинга межнациональных отношений Федеральным агентством по делам национальностей (ФАДН) и собирает данные из таких социальных сетей, как Facebook, "ВКонтакте", "Одноклассники", Twitter и LiveJournal, рассказал газете заместитель главы управления мониторинга, анализа и прогноза ведомства Роман Сафронов. Он отметил вклад системы в предупреждение беспорядков после инцидента с осквернением статуи Будды в Калмыкии.

Ассортимент мониторинга

За последние полгода в России были протестированы и запущены сразу несколько систем мониторинга блогов, социальных сетей и сайтов. Так, в феврале 2016 года глава ФАДН Игорь Баринов анонсировал запуск в 50 субъектах РФ системы мониторинга состояния межнациональных и межконфессиональных отношений, которая была введена для оперативного реагирования органов власти на возникающие угрозы. В тестовом режиме систему запустили в конце прошлого года на Камчатке, одним из первых регионов стала Чечня.

В том же феврале по инициативе прокуратуры Республики Татарстан "в целях автоматизированного выявления запрещенного интернет-контента" был внедрен информационно-аналитический комплекс "Система противодействия правонарушениям в Интернете ICM" Система также позволяет в автоматизированном режиме выявлять сайты с возможными признаками распространения запрещенной информации.

В конце апреля Роскомнадзор в своем докладе сообщил, что во всех регионах России до конца года будет запущена автоматизированная система постоянного мониторинга региональных СМИ, в том числе и телерадиовещания. Пилотный проект был запущен еще в прошлом году в 21 регионе. В этом году планируется расширить перечень СМИ (сейчас это около 7 тыс. ресурсов), а также автоматизировать процесс принятия мер реагирования по выявленным нарушениям.

Для управления внутренней политики Кремля обзоры блогосферы готовила глава Фонда открытой новой демократии Кристина Потупчик, ранее в администрации президента готовили обзоры на базе систем мониторинга "Гласс" и "Призма". Кроме того, закрытая система мониторинга блогосферы есть у первого заместителя главы администрации президента, отмечают "Ведомости".

Помимо госструктур, мониторингом соцсетей занимаются несколько крупных частных компаний. В их числе основанная в 2003 году "Медиалогия" — анализ СМИ и соцсетей, мониторингом и анализом социальных медиа занимается компания "Крибрум" (разработка Infowatch и "Ашманов и партнеры"). Система мониторинга и анализа бренда представлена, в частности, компаниями Brand Analytics и УouScan. Собственная система мониторинга соцсетей также есть у Фонда развития гражданского общества.

Человеческий фактор

Мониторингом социальных медиа занимаются компании, госструктуры и силовые ведомства многих стран, однако задача прогнозирования и предупреждения конфликтов, заявленная НТС Нащекина, пока не была реализована на практике. Одно из последних исследований прогнозирования терактов на основе мониторинга соцсетей представила группа исследователей из университета Майами. Согласно публикации в Science, эту модель построили в ходе исследования, проводившегося на базе "ВКонтакте".

За 8 месяцев аналитики выявили 196 происламистских сообществ, охватывавших более 100 тыс. пользователей. Исследователи разработали математическую модель, которая позволит вовремя зафиксировать возрастания активности групп риска и определить возможную подготовку теракта. В ответ специалист по проблемам терроризма из университета Джорджа Вашингтона Дж. М. Бергер назвал методику интересной, но требующей проверки на практике.

Системы мониторинга поведения в соцсетях уже успешно работают во многих странах мира. Другое дело, что результаты работы таких экспертных систем — это только некие маркеры, разбираться с которыми для судебного или иного преследования должны уже эксперты-филологи, отмечает замглавы Лаборатории компьютерной криминалистики Group-IB Сергей Никитин.

При этом ни одна система на основании каких-либо алгоритмов не может дать юридически значимое распознавание экстремизма. Это только вспомогательная система, которая позволит отсеивать и выявлять характерные фразы и обороты, и она требует серьезного машинного обучения. После выявления будет необходимо провести соответствующие судебные экспертизы, которые в любом случае будут делать люди.

"Внедрение таких систем в госструктурах необходимо с той же целью — выявлять группы вербовки в террористы или группы самоубийц и пресекать их деятельность. Важно, чтобы это не превратилось в конвейер уголовных дел по надуманным поводам. Во всех случаях требуется серьезная экспертная оценка действий пользователя, в том числе и его смысловая и мотивационная часть, контекст, что современным программам и алгоритмам пока неподвластно", — уверен Никитин.

В " Медиалогии" отмечают, что система мониторинга может работать автономно, обеспечивая сбор со всех основных площадок, технически возможно создать алгоритмы, распознающие любые темы. "Разработку и поддержание функционирования системы обеспечивают люди", — напоминают в компании.

Автономную работу системы мониторинга соцсетей подтверждают и в "Крибрум". Система компании работает именно таким образом и располагает алгоритмом распознавания признаков экстремизма в постах и комментариях. "Пользователи не пострадают от действий системы, потому что санкции применяют госорганы и суды, а не система. И это их ответственность — наказывать по-настоящему виновных. Система мониторинга может просто давать материал для рассмотрения компетентными органами", — подчеркивает сооснователь "Крибрум" Игорь Ашманов.

Комментируя создание системы "Лев Толстой", Ашманов отмечает, что говорить о готовом проекте еще рано, а возможное повсеместное использование этой системы в госструктурах зависит не от самого продукта, а от степени влиятельности его разработчика, работы маркетинга. "Там "внедрено" уже много неработающих систем", — резюмирует глава "Крибрума".