Фото: Freepik Министерство цифрового развития РФ подготовила законопроект, направленный на регулирование сфер применения искусственного интеллекта (ИИ). Предполагается, что документ может ввести ограничения на использование онлайн-платформами нейросетей с целью влияния на потребительское или иное поведение пользователей.Как пишут «Известия», имеется в виду ситуации, когда программы, анализируя активность человека в сети, побуждают его к определенным действиям, в частности к совершению покупок, без его осознанного желания.
Согласно представленному документу, разработчики и интеграторы систем ИИ должны будут информировать потребителей о недопустимости манипулирования их поведением с использованием таких технологий. Это касается случаев, когда платформы учитывают психологические, возрастные или социально-экономические характеристики людей для оказания на них воздействия.
Эксперты, на которых ссылается издание, указывают, что ответственность за предотвращение такого рода манипуляций будет возложена на создателей и операторов сервисов. Они обязаны гарантировать, что алгоритмы не будут подталкивать пользователей к решениям, которые они не приняли бы при отсутствии скрытого давления. «Яндекс» научит Алису совершать покупки по поручению пользователя
По мнению специалистов, современные ИИ-системы способны существенно усиливать воздействие цифровых сервисов. Анализируя огромные объемы данных, алгоритмы формируют персонализированные рекомендации, повышая вероятность желаемого для сервиса отклика.
Подобные методы активно применяются в рекламной индустрии, рекомендательных системах, онлайн-торговле и диалоговых ботах. Например, сервисы могут подбирать контент или элементы интерфейса таким образом, чтобы создать у пользователя ощущение срочности или вызвать доверие.
Часть опрошенных экспертов полагает, что полная блокировка манипуляций через нейросети будет затруднительной. Поведение ИИ зависит от используемых моделей и контекста взаимодействия, а количество возможных сценариев практически неограниченно, что затрудняет предвидение всех потенциальных уловок.
Кроме того, чрезмерно строгие нормы регулирования могут негативно сказаться и на функциях, выполняемых рекомендательными алгоритмами. Эти системы, напротив, помогают пользователям ориентироваться в большом объеме информации, облегчая поиск нужных товаров или услуг.
В Минцифры пояснили, что законопроект находится на этапе согласования с другими ведомствами, и окончательный текст документа еще не утвержден. В ведомстве подчеркивают, что развитие ИИ остается приоритетом, однако его применение должно соответствовать интересам и правам граждан.
Ранее сообщалось, что на сегодня уже 35% интернет-покупателей в РФ используют ИИ при выборе и покупке товаров. Ожидается, что в среднесрочной перспективе доля покупателей, использующих формат ИИ-покупок, может вырасти до 74%.
***
Больше новостей и возможность поделиться своим мнением в комментариях в наших каналах в и MAX.
И подписывайтесь на итоговую рассылку самых важных новостей.
New Retail
Источник: http://new-retail.ru/novosti/retail/v_rf_khotyat_zapretit_manipulirovat_potrebitelskim_povedeniem_s_pomoshchyu_ii/