Государство разрабатывает меры по защите граждан от систем ИИ - Ассоциация больших данных
Государство разрабатывает меры по защите граждан от систем ИИ
26 января 2022

Совет федерации поручил ряду министерств, включая Минцифры, Минздрав и Минэкономики, разработать меры по защите прав граждан при применении систем искусственного интеллекта. Это следует из протокола решений, составленного по итогам совещания совета по развитию цифровой экономики верхней палаты парламента, который прошел в Иннополисе 22 декабря.

Министерствам предстоит разработать и утвердить “дорожную карту” по этому направлению до конца 2022 года. В нее должны войти инициативы, которые исключат “дискриминацию граждан по различным признакам при использовании алгоритмов ИИ”, обеспечат прозрачность работы искусственного интеллекта и законодательно закрепят порядок обжалования решений ИИ. Также предлагается обязательно уведомлять граждан о при решении “жизненно важных вопросов” (например, получения госуслуг) о том, что они взаимодействуют с технологией ИИ.

Первые предложения министерства должны подготовить к концу марта. Идею разработки “дорожной карты” поддержали Минэкономики, Минцифры, информационное управление администрации президента, аналитический центр при правительстве РФ, экспертное и бизнес-сообщество.

В 2021 году правительство обозначило масштабные инициативы по развитию ИИ. Ведомства подготовили планы цифровой трансформации, в каждом из которых так или иначе говорится об использовании этой технологии. МВД анонсировало проект по созданию ИИ-системы, позволяющей находить серийных убийц, а Минсельхоз – о планах применения искусственного интеллекта для увеличения производства сельхозпродукции. Власти также интересуют перспективы использования искусственного интеллекта для анализа психологического состояния россиян по их аккаунтам в соцсетях.

Уже применяющиеся сервисы с элементами ИИ начинают активно влиять на жизнь людей. Так, в августе 2021 года компания по обработке платежей в видеоиграх Xsolla по итогам ИИ-анализа уволила 150 сотрудников. Широко известным также стал случай, когда робот Tele2 позвонил абоненту, но трубку взял бот Олег банка “Тинькофф”. Робот Tele2 предложил боту Олегу подключить новый тариф. Последний согласился без участия владельца смартфона. Рамки и ограничения нужны отрасли, чтобы иметь ориентиры для развития, в противном случае есть риски для бизнеса и общества, отметил зампред комиссии московского отделения Ассоциации юристов России Борис Едидин.

Но участники рынка считают инициативу Совета федерации преждевременной. К тому же, по их мнению, отрасль саморегулируется с помощью кодекса этики, подписанного в 2021 году крупными компаниями, а дополнительное регулирование только затормозит развитие новых технологий.

Например, представители Ассоциации Больших Данных отметили:

“На данном уровне развития технологий не стоит говорить, что права людей подвергаются опасности при использовании ИИ. Он не принимает решений за человека, тем более в важных ситуациях”.

Добавил Александр Ханин, гендиректор МТС AI:

“Чтобы разработчиков ИИ правильно понимало общество, а кодекс этики работал, нужна программа просвещения в этой сфере. Важно, чтобы у пользователей не возникало неправильной ассоциации, что ИИ – это имитация человеческого мозга, которая способна выйти из-под контроля”.

Задумываются о регулировании применения искусственного интеллекта и в Европе. В прошлом году Еврокомиссия опубликовала “Предложения о регулировании искусственного интеллекта на основе европейского подхода”, который в ряде случаев декларирует необходимость полного запрета на применение систем ИИ.

28.03.2024
При поддержке АБД состоялся XI Федеральный форум по цифровизации городской среды «Smart City & Region»

26 марта 2024 г. в Москве при поддержке Министерства строительства и жилищно-коммунального хозяйства РФ и Ассоциации больших данных...

25.03.2024
При поддержке АБД состоялся II Федеральный форум «Цифровая Химия»

14 марта 2024 г. в Москве состоялся II Федеральный форум по цифровизации и ИТ в химической и нефтехимической промышленности «Цифровая...

20.02.2024
XI Федеральный форум по цифровизации городской среды Smart City & Region

Информационная группа ComNews при поддержке Ассоциации больших данных приглашает принять участие в XI Федеральном форуме по цифровизации...