В Москве завершился международный форум "Этика искусственного интеллекта: начало доверия" - Ассоциация больших данных
В Москве завершился международный форум «Этика искусственного интеллекта: начало доверия»
27 октября 2021

Международный форум «Этика ИИ: начало доверия» , ставший первой в России специализированной площадкой для выработки принципов этики ИИ (ИИ), прошел при поддержке Правительства РФ в информационном агентстве России ТАСС 26 октября. Знаковым событием форума стало подписание разработанного Альянсом в сфере ИИ совместно с Аналитическим центром при Правительстве РФ и Минэкономразвития этического Кодекса ИИ (далее — Кодекс).

В течение всего дня участники мероприятия, представляющие органы власти, бизнес, а также экспертное сообщество, обсуждали перспективы развития ИИ и его использования во всех сферах жизни современного общества, а также проблемы этического и нормативного регулирования. Особое внимание участники форума обратили на необходимость повышения доверия к ИИ. Наряду с указанными вопросами на заключительной дискуссии форума «Механизмы внедрения этики ИИ» участники обсудили перспективы развития ИИ в России на ближайшее десятилетие и необходимость человекоцентричности при проведении этой работы.

«Нам потребуется прожить поколение, чтобы научиться жить с ИИ в наших повседневных образовательных процессах как с данностью. Мне кажется, что одна из задач, в частности, образовательного сектора заключается в том, чтобы все-таки этот период ускорить, потому что поколение — это, наверное, слишком долго», — считает генеральный директор «Университета 2035» Нина Яныкина.

При этом создание этического Кодекса ИИ, по мнению президента Ассоциации больших данных Анны Серебряниковой, демонстрирует консенсус, которого удалось достичь в обществе. «Это важный старт, потому что от этого базиса можно строить новые сущности, создавать новую реальность. На сегодняшний день мы не видим ни одного промышленного применения сильного ИИ, пока это научные разработки. Поэтому мы не можем гарантировать отсутствие ошибок, встроенных в технологию, и это не прямолинейные алгоритмы, а вероятностные, соответственно, мы не можем сегодня доверить ни одного решение ИИ — это пока рекомендательные системы»,- сказала она.

Тот факт, что ИИ на сегодняшний день требует развития, так как пока в силу недостаточной мощности и степени проработанности имеет в большей степени прикладное значение, подтвердил и старший вице-президент по инновациям фонда «Сколково» Кирилл Каем. «Следующие лет 15, если оптимистично, нам надо не забывать, что в первую очередь речь идет о слабом ИИ и о прикладных решениях или узком ИИ. Это означает, что следующие 10-15 лет мы все-таки будем иметь в руках решения, которые не обладают сознанием еще в отличие от общего или сильного ИИ. Мне кажется, Кодекс должен быть динамичным документом, то, что он принят сейчас, — это такой экспериментальный этический режим», — сказал он.

Каем отметил, что документ в будущем обязательно нужно пересматривать, в том числе в рамках саморегулируемых систем. «Набор кейсов, тех самых практик, конкретных решений, которые будут накапливать ошибки, позволят выдержать баланс между максимальной эффективностью решения и соблюдением норм, которые при создании этой системы будут закладываться как корректирующие коэффициенты», — добавил старший вице-президент по инновациям фонда «Сколково».

По мнению управляющего директора Центра регулирования AI ПАО «Сбербанк» Андрея Незнамова, российский этический Кодекс ИИ разработан с учетом международных механизмов и практик. «Мы взяли те механизмы, которые сейчас, например, обсуждаются в ЮНЕСКО, только обсуждаются. Вот в ноябре будут рассматривать многие механизмы. Брались те механизмы, которые в Совете Европы обсуждались много», — пояснил он.

Вице-президент по взаимодействию с органами государственной власти и связям с общественностью ПАО «МТС» Руслан Ибрагимов отметил, в свою очередь, что принятый документ «довольно четко отражает существующую реальность».

«Реальность такова, что действительно в условиях, когда нет еще сильного ИИ, я тут соглашусь, что пока есть еще слабый ИИ, этические нормы могут временно выступать регулятором в этих отношениях. Но это не значит, что мы не должны думать о будущем, человек так устроен, и нехватка знаний, нехватка понимания процессов вызывает у людей тревожность. <…> Половина в России, и это очень большая цифра, 48% доверяют ИИ, остальные пока еще нет. В других странах меньше доверия к ИИ, люди более впечатлительны. Именно это и заставляет закладывать в нормы Кодекса вопросы человекоцентричности, вопросы, когда за человеком оставляется последнее слово, вопросы, когда разработчики должны учитывать воздействие ИИ на гуманитарную сферу, на жизнь людей», — подытожил он.

Справка

ИИ — это главная технология XXI века. Высокие темпы внедрения и распространения решений с использованием технологий машинного обучения мотивируют общество привыкать доверять таким системам. В условиях стремительного развития возникает необходимость в разработке ясных этических ориентиров, которые позволят предотвратить ошибки, влекущие неблагоприятные для человека последствия.

В декабре 2020 года Президент Российской Федерации Владимир Путин призвал к разработке внутреннего морально-нравственного кодекса в сфере ИИ. Глава государства отметил важность участия профессионального сообщества и бизнеса в формировании этических принципов использования ИИ.


26.10.2021
Эксперт считает, что кодекс этики ИИ должен на практике внедряться в компаниях

Президент Ассоциации больших данных Анна Серебряникова напомнила, что в декабре 2019 года был также принят кодекс этики использования...

11.10.2021
Data Award 2022 ищет CDO и его команду

Открылся прием заявок на получение премии для data-driven-организаций и директоров по данным.

Издательство «Открытые системы» и...

24.09.2021
«Управление данными — 2021»: больше практики!

На организованном издательством «Открытые системы» форуме представители бизнес-сообщества поделились опытом решения проблем, возникающих в...