В России разработают IT-систему «Вепрь», которая будет распознавать фейки, негатив и оскорбления властей
Главный радиочастотный центр (ГРЧЦ), находящийся в подчинении Роскомнадзора, ищет разработчика для создания IT-системы, способной выявлять «точки информационной напряжённости» в Сети. Это поможет обнаружению фейковых новостей, негатива и оскорблений, а также кампаний по дезинформации общественности. Стоимость проекта оценивается в 60 млн рублей.
Источник изображения: Elisa Ventur/unsplash.com
Как сообщают «Известия», под «точками информационной напряжённости» понимаются «факты распространения общественно значимой информации под видом достоверных сообщений, которая создаёт угрозу причинения вреда жизни и (или) здоровью граждан, имуществу, угрозу массового нарушения общественного порядка и (или) общественной безопасности». Другими словами, в первую очередь речь идёт об информационных провокациях.
Ожидается, что система «Вепрь» должна охватывать ресурсы, аудитория которых составляет не менее 1 млн человек ежедневно, причём она должна уметь оценивать точки напряжённости по степени влияния на посетителей и способности превращения фейкового материала в угрозу национальной безопасности. Помимо «Вепря» на вооружении ГРЧЦ должен появиться и «Окулус», способный выявлять запрещённые российскими законами видео и изображения. Такая система должна обладать потенциалом анализа не менее 200 тыс. изображений ежесуточно, с погрешностью не более 20 %. В числе прочего должны распознаваться материалы экстремистского характера, призывы к массовым беспорядкам, оскорбления в адрес органов власти и государственных символов и, конечно, контент террористической тематики.
По мнению экспертов, подобных систем, способных работать в полностью автономном режиме, пока нет, даже самые современные разработки для социальных сетей вроде Twitter и Facebook* маркируют признанный подозрительным контент для последующей оценки модераторами-людьми. Тем не менее эксперты уверены, что организовать мониторинг довольно просто, но для принятия окончательных решений по содержанию публикаций всё равно потребуется проверка живыми модераторами. Впрочем, даже в этом случае не исключена субъективная оценка, поскольку нет никаких точных критериев того, какую информацию считать достоверной.
Источник изображения: Headway/unsplash.com
Эксперты прогнозируют, что после выявления IT-системами нарушающих законы публикаций представители власти смогут либо связываться с медиаплатформой, запрашивая удаление контента, либо возбуждать дела в отношении его авторов. Впрочем, одно не исключает другого.
Представители отрасли считают, что в случае успеха проекта соответствующие алгоритмы сможет внедрять и руководство веб-ресурсов, а заказываемые решения представляют интерес не только для представителей властных структур, но и для корпоративных ведомств, отвечающих за коммуникации, в частности — антикризисные.
* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».
