Рекомендательные алгоритмы

Рекомендательные алгоритмы – это технология, которая позволяет на основе анализа данных о пользователе предлагать ему соответствующие его потребностям товары, услуги и цифровой контент.

Рекомендательные алгоритмы можно сравнить с продавцом-консультантом, который готов помочь с поиском товара, сообщить о похожих товарах. Отличие рекомендательного алгоритма от продавца в том, что последний, как правило, ничего о вас не знает, а рекомендательному алгоритму может быть известно даже то, что вы, возможно, предпочли бы никому не рассказывать.

Иными словами, рекомендательный алгоритм – это инструмент для бизнеса, с помощью которого можно  значительно увеличивать продажи, расширять и удерживать аудиторию.

Международная консалтинговая компания Mc Kinsey&Company отмечает, что рекомендательные алгоритмы генерируют 35% продаж для компании Amazon, а на платформе Netflix 75% контента, к которому пользователи проявляют интерес, предлагается рекомендательными алгоритмами. Кроме того, алгоритмы являются основной бизнес-моделей для таких цифровых платформ, как TikTok, YouTube, Tinder и др.

Алгоритмы каждой компании уникальны. Для их создания и постоянного улучшения нанимается целый штат IT-специалистов. В результате их труда у компании появляется дорогостоящий IT-актив, имеющий статус коммерческой тайны, принципы работы которого программистам запрещается разглашать. Поэтому в общем доступе мы не сможем найти точные сведения о принципах работы алгоритмов компаний.

Однако общие принципы работы рекомендательных алгоритмов все же известны. К примеру, в одной из статей описывается следующая классификация алгоритмов:

• Рекомендации того, что популярно среди большинства пользователей. Это наиболее простая система ранжирования без элементов персонификации.
• Рекомендации контента, похожего на тот, которым вы ранее интересовались. В данном случае уже есть персонификация, однако алгоритм все еще технически прост, так как не использует большого объема данных о вашем поведении.
• Совместное ранжирование на основе первоначальных данных о пользователях совокупно с данными о том, какой контент пользователь смотрел больше всего или отметил, как понравившийся. Данный вид рекомендаций позволяет точнее угадать то, что пользователю интересно. Однако у него есть проблема – требуются существенный объем первоначальных данных о пользователях, без которых алгоритм не будет работать надлежащим образом. Далеко не у каждой компании есть такие данные, особенно на начальной стадии запуска продукта.
• Разделение пользователей на категории по интересам и последующая демонстрация соответствующего контента – другой вид совместного ранжирования. Данный способ является более точным, чем предыдущий, но при этом требует большего объема данных. В частности, матричных данных о том, какой контент предпочитает та или иная группа людей. Такие данные формируются в ходе анализа поведения пользователей и их оценок, поставленных просмотренному контенту. Соответственно, такой вид рекомендаций получится создать не сразу, поскольку вначале потребуется накопить какое-то количество данных о поведении пользователей.
• Гибридное ранжирование – способ, сочетающий в себе все предыдущие разновидности. Он самый дорогой и сложный в настройке, однако показывает наиболее точные результаты.

Рекомендательные алгоритмы полезны не только крупным IT-компаниям, но и пользователям. Так, благодаря им частично решается актуальная проблема работы с информацией в условиях ее переизбытка. Благодаря рекомендательным алгоритмам у пользователей увеличивается шанс найти желаемую информацию, даже если их поисковый запрос не был точным.

Однако не стоит забывать, что рекомендательные алгоритмы в первую очередь созданы для удовлетворения интересов бизнеса, а не потребителя, поэтому наравне с плюсами их появление создало ряд существенных проблем.

В частности, к наиболее значимым проблемам, из-за которых в отдельных странах, в том числе в России, законодатель задумывается о регулировании использования рекомендательных алгоритмов, можно отнести:

• способность порождать избыточное потребление товаров или услуг, спонтанные покупки. Предложение товара потребителю в момент, когда он о нем задумывается, существенно повышает шанс его покупки, даже если потребитель не планировал такую покупку. Как следствие, потребители могут стать жертвами маркетинга. Согласно опросу ВЦИОМ, больше половины опрошенных россиян (57%) совершали спонтанные, импульсивные покупки. Среди них 79% – молодые люди в возрасте от 18 до 24 лет; 60% – женщины. Две трети респондентов (68%) делали такие покупки примерно раз в несколько месяцев или реже, 21% – раз в месяц, 7% – каждую неделю. Из приобретенных товаров склонные к импульсивным покупкам россияне выделили одежду, продукты, бытовую технику и товары для дома. Чаще всего россияне совершают импульсивные покупки, находясь в одиночестве (60%). При этом треть опрошенных (33%) полагают необходимым принимать меры к избежанию спонтанных покупок.
• способность вызывать зависимость от цифрового контента. Предварительное профилирование пользователя позволяет демонстрировать ему самый яркий и запоминающийся контент, соответствующий его интересам.
• Как следствие, потребитель может неосознанно стать заложником рекомендательной ленты, которая, как профессиональный манипулятор, будет часами напролет развлекать пользователя, показывая ему то, что он хочет видеть и слышать, и не будет заниматься действительно важными делами.
• способность распространять пропаганду и манипулировать сознанием. Так или иначе, владельцы цифровых платформ имеют возможность влиять на принципы работы своих рекомендательных алгоритмов, поэтому при желании они могут ограничивать распространение контента определенной тематики и, напротив, усиливать тот контент, который им наиболее выгоден. Это можно использовать как в ходе политической борьбы, так и для недобросовестной конкуренции в бизнесе.

«К сожалению, большинство людей предпочитают кормить свой разум не реальными фактами, которые могут позволить нам изменить мир, а случайными эпизодами шоу Netflix или видеороликами TikTok. На глубоком уровне наш мозг не может отличить вымысел от реальности, поэтому обилие цифровых развлечений заставляет наше подсознание заниматься поиском решений несуществующих проблем».

Российский предприниматель, один из создателей социальной сети «ВКонтакте» и одноимённой компании, кроссплатформенного мессенджера Telegram Павел Дуров 

Регулирование 

Осознавая описанные выше проблемы и риски негативного воздействия рекомендательных алгоритмов на благополучие пользователей, в некоторых странах законодатель предпринял попытки урегулировать их использование.

Например, рекомендательные алгоритмы были урегулированы в Китае – Положения об управлении алгоритмическими рекомендациями в Интернете от 2022 года:

• Алгоритмы должны в первую очередь способствовать распространению доброго и позитивного контента. Запрещается распространение не соответствующей закону информации (ст. 6).
• Алгоритмы не должны приводить к зависимостям и чрезмерному потреблению (ст. 8).
• Алгоритмы должны иметь особую модель взаимодействия с несовершеннолетними, которая не причиняет вреда их физическому и психическому здоровью (ст. 11).
• Новостные ресурсы не должны распространять фейки (ст. 13).
• Запрещается вмешательство в процесс распространения информации посредством ограничения одного вида контента и чрезмерного продвижения другого, а также совершать иные действия, которые нацелены на формирование общественного мнения в Интернете и манипулирование им (ст. 14).
• Запрещается ценовая и иная дискриминация на основе потребительских предпочтений, торговых привычек и иных особенностей поведения (ст. 15).
• Алгоритмы должны иметь особую модель взаимодействия с пожилыми людьми с учетом их потребностей в лечении, поездках, особенностей потребления. Обеспечивать пожилых возможностью проконсультироваться со специалистами о принципах работы сервисов (ст. 19).

Соответствующее регулирование также есть в Европейском союзе. Закон «О цифровых услугах» Европейского парламента и Европейского Совета от октября 2022 года признает, что ключевой составляющей цифровых платформ является система приоритизации и представления информации, в частности рекомендательные алгоритмы. Они определяют то, какая информация будет показана пользователю, какой контент станет вирусным. Из-за способности рекомендательных алгоритмов оказывать влияние на поведение людей цифровые платформы должны обеспечить пользователям возможность ознакомиться с принципами их работы: как они приоритизируют показываемую информацию, как можно повлиять на приоритизацию (преамбула 70).

Указанный закон содержит определение: рекомендательная система означает полностью или частично автоматизированную систему, используемую онлайн-платформой, чтобы предлагать в своем онлайн-интерфейсе конкретную информацию получателям услуги или устанавливать приоритетность этой информации, в том числе в результате поиска, инициированного получателем услуги или иным образом (ст. 3).

Операторы цифровых платформ, которые используют рекомендательные системы, должны установить в правилах и условиях на понятном языке основные параметры их рекомендательных систем, а также какие-либо другие опции для пользователей, включая способы повлиять на такие параметры. Параметры должны объяснять, почему информация показывается пользователю и как минимум содержать сведения о:

• критериях, которые больше всего влияют на предлагаемую получателям информацию;
• причинах важности данных параметров (ст. 27).

Поставщики крупных онлайн-платформ и поисковых систем, использующих рекомендательные системы, должны предоставить по крайней мере один вариант для каждой из своих рекомендательных систем, который не основан на профилировании (ст. 38). Кроме того, поставщики крупных платформ или поисковых систем обязаны предоставлять в уполномоченные органы (the Digital Services Coordinator of establishment или the Commission) сведения о дизайне, логике, функционировании и тестировании рекомендательных алгоритмов (ст. 40).

В России предпринимаются попытки урегулировать рекомендательные алгоритмы, однако на текущий момент какого-либо законодательства не имеется.

«В попытках повлиять на алгоритм людям приходится теперь совершать какие-то неочевидные действия вроде проматывания ненужных постов, отказа от желания поставить лайк или написать комментарий. А кто-то просто переходит на те сервисы, которые практикуют отказ от рекомендательных алгоритмов <…> Одним словом, вред, который наносят обществу рекомендательные алгоритмы – а, точнее, их непрозрачное применение, с каждым днем становится все более очевидным. А регулирование их работы – вызовом для законодателей всего мира».

Заместитель председателя Комитета Государственной Думы по информационной политике, информационным технологиям и связи Антон Горелкин

Полагаем, что в интересах соблюдения прав человека необходимо законодательно обеспечить прозрачность применения рекомендательных алгоритмов, предоставив ему возможность принять их использование или отказаться от него.

Обзор подготовлен ведущим специалистом по юридическому сопровождению Ширмановым В.А.