Навыки Amazon Alexa Skills могут научить детей плохому
Голосовые ассистенты типа Amazon Alexa, Google Assistant или Алисы Яндекса предлагают систему навыков, которая расширяет возможность получения специальных знаний одними лишь голосовыми командами. Подобные возможности должны регулироваться строгими правилами, особенно, если это касается навыков для детей. Дети любопытны, а ответы на некоторые вопросы лучше придержать до этапа их взросления. Но пока с соблюдением этих правил не очень хорошо.
Группа учёных в США недавно завершила годовой эксперимент по проверке магазина Amazon Alexa Skills на предмет соблюдения навыками политики компании. Выяснилось, что сертификация навыков по-прежнему организована из рук вон плохо. Злоумышленник может без особого труда пройти сертификацию навыка с серьёзными нарушениями политики самой Amazon.
В качестве эксперимента исследователи создали 234 детских навыка Alexa Skills с преднамеренным нарушением политики компании. К их величайшему удивлению 193 навыка были сертифицированы с первого раза. Остальные 41 навык были отклонены, но прошли сертификацию со второго раза (32 навыка были классифицированы, как нарушающие политику конфиденциальности, а 9 имели проблемы с пользовательским интерфейсом).
Среди сертифицированных для детей провокационных навыков Alexa Skills, которые одобрила служба Amazon, были навыки для изготовления глушителя для огнестрельного оружия (навык ремесла), навык для изготовления лёгких наркотиков (навык по данным о пустыне), скрытая реклама (навык по географии), сбор данных об именах детей (навык с историями) и другие. Все вредные навыки исследователи удаляли сразу после сертификации, чтобы пользователи случайно их не установили.
По мнению исследователей, о чём они регулярно и неоднократно докладывали Amazon, служба сертификации навыков компании крайне несовершенна и работает халатно. Это непоследовательность в проверке (навыки с одним и тем же нарушением получают различные экспертные оценки), выборочная проверка голосовых команд (отсутствие глубины проверки навыков), слепое доверие разработчикам (достаточно заполнить форму в заявке, которую никто не будет проверять), отсутствие автоматизации при проверке (люди допускают ошибки), банальная халатность и найм на работу по сертификации иностранных специалистов.
Компания Amazon опровергает все представленные выше выводы. По словам её представителя, детские навыки проходят дополнительную проверку уже после получения сертификата, а исследователи сразу поле сертификации удалили плохие навыки и не позволили специалистам Amazon провести их комплексную проверку. В ответ на это исследователи заявили, что они смогли обнаружить в магазине Alexa Skills 52 навыка с нарушением политики компании. Аналогичная проверка навыков Google Assistant, кстати, показала, что Google серьёзнее относится к проблеме, хотя к ней тоже есть вопросы.
В заключение остаётся рекомендовать родителям стараться прислушиваться к тому, о чём их дети беседуют с голосовыми ассистентами. Многие наверняка будут удивлены и даже шокированы. Но кто сказал, что родителем быть легко?
