Facebook надеется остановить плохое поведение пользователей, имитируя его с помощью ботов

Facebook ведёт разработку новых технологий, призванных помочь в реализации усилий, направленных на то, чтобы ИИ научился противодействовать домогательствам в Сети. В тестовой среде Web-Enabled Simulation (WES) используется армия ботов, настроенных на имитацию плохого человеческого поведения, для которых инженеры Facebook стараются подобрать лучшие контрмеры.

Исследователь из Facebook Марк Харман (Mark Harman) пояснил, что у WES есть три ключевых аспекта. Во-первых, используется машинное обучение для тренировки ботов, чтобы имитировать реальное поведение людей в Facebook. Во-вторых, WES может автоматизировать взаимодействие ботов в больших масштабах, от тысяч до миллионов. Наконец, развёртывание ботов производится на основе текущего состоянии социальной сети, что позволяет им взаимодействовать как друг с другом, так и с реальным контентом в Facebook, но при этом тестовая среда отделена от реальных пользователей.

Боты предпринимают такие действия, как попытка купить или продать запрещённые предметы вроде оружия и наркотиков. Бот может использовать Facebook как обычный человек, проводя поиск и посещая страницы. Инженеры следят за тем, чтобы они не смогли обойти меры безопасности. В результате тестов должны быть выработаны поведенческие шаблоны и способы, затрудняющие людям нарушать стандарты сообщества.

Facebook давно разрабатывает методы по предотвращению домогательств, преследований, человеконенавистнических высказываний, преступной деятельности, дезинформации и других видов правонарушений на своей платформе. На конференции Facebook F8 в 2018 году главный технолог Майк Шропфер (Mike Schroepfer) сказал, что компания вкладывает большие средства в исследования искусственного интеллекта и широкую масштабируемость его работы практически без контроля со стороны человека.