Доверие и наказание: почему роботы не заменят чиновников

Вопросы реализации в современном цифровом обществе принципов справедливости, равенства, свободы и приватности обсудили 15 января на XI Гайдаровском форуме, проходящем в Президентской Академии, участники дискуссии «Этические проблемы применения цифровых технологий: как искать решение?».

Проникновение в нашу жизнь новых технологий заставляет нас постоянно задумываться о безопасности. «Мы уже обсуждали с Министерством юстиции, не пора ли вводить такое понятие, как “техническое лицо”, которое регламентировало бы действия роботов. Тогда Министерство посчитало, что рано, но я думаю, мы к этому вернемся», — сообщил декан факультета информационных технологий и анализа данных РАНХиГС Павел Голосов.

Вице-президент Российской ассоциации искусственного интеллекта, руководитель отделения нейрокогнитивных наук и интеллектуальных систем НИЦ «Курчатовский институт» Валерий Карпов отметил важность прозрачности системы принятия решений нейросетью: «Если интеллектуальная система принимает критически важное для человека решение, она должна объяснить, почему она его приняла. Это не должно быть “черным ящиком”. Не будет объяснения – не будет доверия со стороны человека. Объяснительная компонента очень важна, для коммерческого использования в том числе».

Говорить о тотальной цифровизации преждевременно, во многом это связано с вопросом доверия к решениям, которые принимают машины, подчеркнул директор Департамента развития цифрового государства Министерства цифрового развития, связи и массовых коммуникаций РФ Алексей Горобцов. «Отключить сейчас аналоговые услуги, оставив только “цифру”, нельзя. Есть люди, готовые к электронным услугам, и есть те, кто хочет сами прийти в МФЦ, потому что они не верят машине. Думаю, что пройдет минимум три поколения, прежде чем мы будем готовы», — сказал представитель Минкомсвязи России.

В ходе дискуссии также обсуждались принципы цифровой трансформации госуправления, вопросы неравенства в доступе к цифровым технологиям и различий в их использовании представителями разных поколений. Модератор сессии Мария Шклярук, академический директор Центра подготовки руководителей цифровой трансформации РАНХиГС, генеральный директор Центра перспективных управленческих решений, напомнила, что в этических спорах одним из самых важных остается вопрос «кто виноват?»: «Когда речь идет о государственном управлении, в случае ошибки понятно, что наказывать нужно чиновника. А как наказать искусственный интеллект, если он допустил сбой?»

В дискуссии приняли участие: исполнительный директор группы компаний Seldon Илия Димитров, доцент факультета социологии и философии Европейского университета в Санкт-Петербурге, научный сотрудник Центра STS Лилия Земнухова, председатель совета директоров группы компаний «Русские инвестиции» Кирилл Игнатьев и другие эксперты.

Аналитический доклад


XI Гайдаровский форум «Россия и мир: Вызовы нового десятилетия» проходит в Президентской Академии 15 и 16 января 2020 г. Форум сконцентрирован на целях национального и глобального развития и поиске практических ответов на наиболее актуальные вызовы современности. В работе форума принимают участие министры Правительства РФ, члены Федерального собрания, губернаторы российских регионов, крупнейшие мировые эксперты, представители иностранных государств.

Организаторы XI Гайдаровского форума – Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации, Институт экономической политики им. Е.Т. Гайдара и Ассоциация инновационных регионов России.

Генеральные партнеры Гайдаровского форума – ПАО «Газпром», АО «Газпромбанк», ВЭБ.РФ. Стратегические партнеры – Coca-Cola, Mastercard, ОАО «РЖД», АО «Фармстандарт», Johnson & Johnson, «Санофи», группа компаний «Новартис», MSD, группа компаний «АКИГ», компания EF Education First. Партнеры – группа компаний «Просвещение», EY, компания Huawei, АО «РВК», АО «Россельхозбанк».

Генеральные информационные партнеры Гайдаровского форума – телеканал «Россия-24», ТАСС, РБК, Business FM. Стратегические инфопартнеры – ИД «Коммерсантъ», «Интерфакс», «Российская газета», журнал «Инвест-Форсайт», РИА «ФедералПресс». Главные инфопартнеры – Anews.com, Газета.Ru, Lenta.Ru, News.ru, «Профиль». Международные партнеры – RT, Thomson Reuters, Sputnik, EFE, Cision, Pan Pacific Agency. Информационные партнеры – медиапроект «Сноб», АЭИ «ПРАЙМ», RNS, журнал «Эксперт», «Парламентская газета», «Полит.ру», радиостанция «Эхо Москвы», телеканал «ПРО бизнес», информационно-аналитическое агентство FINAM.RU, Давыдов.Индекс, журнал «Стратегия», газета «Экономика и жизнь», портал «Эконс», журнал «Государственная служба», TV BRICS.

Гайдаровский форум в социальных сетях: Facebook, Twitter, YouTube, Instagram.