рубрики
Министерство цифрового развития РФ подготовила законопроект, направленный на регулирование сфер применения искусственного интеллекта (ИИ). Предполагается, что документ может ввести ограничения на использование онлайн-платформами нейросетей с целью влияния на потребительское или иное поведение пользователей.
Как пишут «Известия», имеется в виду ситуации, когда программы, анализируя активность человека в сети, побуждают его к определенным действиям, в частности к совершению покупок, без его осознанного желания.
Согласно представленному документу, разработчики и интеграторы систем ИИ должны будут информировать потребителей о недопустимости манипулирования их поведением с использованием таких технологий. Это касается случаев, когда платформы учитывают психологические, возрастные или социально-экономические характеристики людей для оказания на них воздействия.
Эксперты, на которых ссылается издание, указывают, что ответственность за предотвращение такого рода манипуляций будет возложена на создателей и операторов сервисов. Они обязаны гарантировать, что алгоритмы не будут подталкивать пользователей к решениям, которые они не приняли бы при отсутствии скрытого давления.
По мнению специалистов, современные ИИ-системы способны существенно усиливать воздействие цифровых сервисов. Анализируя огромные объемы данных, алгоритмы формируют персонализированные рекомендации, повышая вероятность желаемого для сервиса отклика.
Подобные методы активно применяются в рекламной индустрии, рекомендательных системах, онлайн-торговле и диалоговых ботах. Например, сервисы могут подбирать контент или элементы интерфейса таким образом, чтобы создать у пользователя ощущение срочности или вызвать доверие.
Часть опрошенных экспертов полагает, что полная блокировка манипуляций через нейросети будет затруднительной. Поведение ИИ зависит от используемых моделей и контекста взаимодействия, а количество возможных сценариев практически неограниченно, что затрудняет предвидение всех потенциальных уловок.
Кроме того, чрезмерно строгие нормы регулирования могут негативно сказаться и на функциях, выполняемых рекомендательными алгоритмами. Эти системы, напротив, помогают пользователям ориентироваться в большом объеме информации, облегчая поиск нужных товаров или услуг.
В Минцифры пояснили, что законопроект находится на этапе согласования с другими ведомствами, и окончательный текст документа еще не утвержден. В ведомстве подчеркивают, что развитие ИИ остается приоритетом, однако его применение должно соответствовать интересам и правам граждан.
Сообщает New Retail