Готовятся законодательные предложения, регулирующие правила использования IT-компаниями и, в первую очередь соцсетями, рекомендательных сервисов. Это специальные программы, создающих так называемую «умную ленту», как бы угадывающую, что человек хотел бы посмотреть. Даже если он этого совсем не хотел, программа все равно покажет.
С идеей выступила комиссия по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России. По данным «РГ», инициатива нашла поддержку у законодателей, в том числе сенаторов, и в ближайшей перспективе соответствующий проект может быть внесен в Госдуму.
«Действительно ли мы сегодня сами решаем какой контент смотреть, какой товар купить, какой услугой воспользоваться или умные алгоритмы цифровых платформ делают это за нас? — говорит председатель Комиссии по правовому обеспечению цифровой экономики Московского отделения АЮР Александр Журавлев. — Например, сейчас почти 70% времени, которое пользователь проводит на YouTube — это результат работы алгоритмов рекомендаций платформы. Facebook показывают пользователям новости в том порядке, который выбирает рекомендательный алгоритм, при этом площадка предпочитает выводить в топ тот контент, который вызывает больше всего разногласий. TikTok рекомендует пользователям ролики к просмотру, основываясь на их предыдущих оценках, а алгоритмы некоторых известных Интернет-магазинов, продающих электронную технику, работают на основе знаний о пользователях, их предпочтениях к тем или иным товарам и услугам, тем самым предлагая клиентам релевантный для них по мнению алгоритма продукт. Кроме того, эксперты из Revealing Reality обнаружили, что даже минимальное взаимодействие подростков в Instagram с контентом про фитнес и диеты может спровоцировать алгоритмы соцсети на рекомендацию публикаций о похудении. Instagram знает, что аккаунты зарегистрированы на подростков, но все равно предлагает им ориентированную на взрослого пользователя рекламу».
По его словам, рекомендательные сервисы — это комплекс алгоритмов и программ, задача которых предсказать, что может заинтересовать того или иного пользователя. В основе большинства таких сервисов нередко лежат технологии искусственного интеллекта, в том числе основанные на самообучении. Рекомендации формируются на основе собранных или купленных данных о человеке и его пользовательском поведении. «Сегодня рекомендательные сервисы стали одним из самых широко используемых достижений «революции искусственного интеллекта», об этом говорится в Financial Times, — продолжает Александр Журавлев. — Такие сервисы помогают бизнесу создавать персонализированные рекомендации для клиентов, поддерживать их лояльность к бренду, тем самым повышать продажи и увеличивать свою прибыль. Но вместе с тем, массовое применение рекомендательных сервисов может являться эффективным инструментом социальной инженерии, в том числе способно усугублять социальные проблемы «уязвимых» слоев населения, например, детей и подростков».
Использование таких сервисов вызывает большую обеспокоенность у специалистов в самых разных странах. Например, представители Королевского колледжа Лондона считают, что влияние подобных сервисов на людей недостаточно изучено, а отсутствие информации о том, кто и как управляет алгоритмами, только усиливает напряженность. А по мнению профессора Калифорнийского университета Стюарта Рассела, «алгоритмы выдачи и подбора контента в социальных сетях гарантированно манипулируют людьми».
Поэтому в Европе, Великобритании и США уже работают над регулированием отношений, связанных с использованием рекомендательных сервисов. Например, как рассказывает Александр Журавлев, в Европе проект закона «О цифровых сервисах» регламентирует обязательство крупных онлайн-платформ информировать пользователей в доступной и понятной форме об основных принципах работы рекомендательных сервисов. В США Федеральная торговая комиссия у крупных цифровых компаний запрашивает информацию о том, как они собирают, используют и представляют личную информацию, о рекламе и методах взаимодействия с пользователями, а также о том, как их методы влияют на детей и подростков.
«На сегодняшний день в России следует также выработать правила по регулированию рекомендательных сервисов, которые бы учли интересы всех участников процесса, — заявляет Александр Журавлев. — Эти правила, в том числе должны предполагать возможность отключения рекомендательных сервисов, если пользователь это захочет. На данный момент рекомендательные алгоритмы, или «умную ленту», можно отключить только в ВКонтакте. В Facebook такая настройка есть формально, но на деле она не работает. А Instagram сказал, что будет размещать в ленте пользователей посты людей, на которых человек не подписан.
Важно закрепить принцип транспарентности, то есть работу рекомендательных сервисов необходимо сделать максимально прозрачной для человека, а именно цифровым платформам важно добавлять специальные маркировки, а также понятным и доступным языком предупреждать пользователей о том, что сервис использует подобные алгоритмы и порядок работы рекомендательных сервисов. Но следует понимать, что есть сервисы в которых такой алгоритм технически отключить невозможно именно поэтому к ним должны применяться подобные правила.
На мой взгляд, все эти меры позволят защитить российских граждан и компаний от манипулирования со стороны цифровых платформ, использующих рекомендательные сервисы, а также создать разностороннее информационное пространство для пользователя».
Как сказано в предложениях комиссия московского отделения АЮР, в отдельных сферах, связанных с распространением информации требует проработки вопрос депонирования используемых алгоритмов, а также введение требования о «приземлении» в российской юрисдикции владельцев прав на соответствующие программы. «Наиболее актуально такие требования вводить по отношению к деятельности аудиовизуальных сервисов», говорится в документе.
Свежие комментарии