Париж, 25 ноября. В четверг Генеральный директор ЮНЕСКО Одрэ Азуле представила первые в истории глобальные стандарты этических аспектов искусственного интеллекта, принятые государствами-членами ЮНЕСКО в ходе Генеральной конференции.
В этом историческом тексте изложены общие ценности и принципы, которые будут определять создание необходимой правовой инфраструктуры для обеспечения здорового развития ИИ.
ИИ повсеместно распространен и поддерживает многие из наших повседневных дел, от бронирования рейсов, управления автомобилями без водителя до персонализации наших утренних новостных лент. ИИ также поддерживает процесс принятия решений правительствами и частным сектором.
Технологии искусственного интеллекта дают замечательные результаты в узкоспециализированных областях, таких как диагностика рака и создание инклюзивной среды для людей с ограниченными возможностями. Эти технологии также могут помочь в борьбе с глобальными проблемами, такими как изменение климата и голод в мире, и способствовать сокращению масштабов нищеты путем оптимизации экономической помощи.
Но эти технологии также ставят новые беспрецедентные задачи. Мы являемся свидетелями усиления гендерных и этнических предубеждений, серьезных угроз для частной жизни, достоинства и деятельности, опасностей массового наблюдения и более широкого использования ненадежных технологий искусственного интеллекта в правоохранительной деятельности, и это лишь некоторые из примеров. До сих пор не существовало универсальных стандартов, которые могли бы дать ответ на эти вопросы.
В 2018 году Генеральный директор ЮНЕСКО Одрэ Азуле презентовала амбициозный проект: предоставить миру этическую основу для использования искусственного интеллекта. Три года спустя, благодаря мобилизации сотен экспертов со всего мира и интенсивным международным переговорам, 193 государства-члена ЮНЕСКО только что официально приняли эти этические рамочные нормы.
«Миру необходимы правила с целью разработки таких технологий искусственного интеллекта, которые работали бы на благо человечества. Рекомендация по этическим аспектам ИИ - это важнейший шаг в этом направлении. Она устанавливает первую глобальную нормативную основу, возлагая на государства ответственность за ее применение на своем уровне. ЮНЕСКО окажет поддержку 193 государствам-членам в осуществлении Рекомендации и обращается к ним с просьбой регулярно представлять доклады о достигнутом прогрессе и практике», - заявила Генеральный директор ЮНЕСКО Одрэ Азуле.
Содержание Рекомендации
Рекомендация направлена на реализацию преимуществ, которые искусственный интеллект приносит обществу, и уменьшение связанных с этим рисков. Она обеспечивает, чтобы цифровые преобразования способствовали поощрению прав человека и достижению целей в области устойчивого развития, затрагивая вопросы транспарентности, подотчетности и конфиденциальности, с ориентированными на конкретные действия политическими главами, посвященными управлению данными, образованию, культуре, труду, здравоохранению и экономике.
- Защита данных
В Рекомендации содержится призыв принять меры, выходящие за рамки того, что делают технологические компании и правительства, для того чтобы гарантировать отдельным лицам более надежную защиту путем обеспечения транспарентности, управления и контроля над их персональными данными. В Рекомендацие говорится, что все лица должны иметь возможность доступа к личным данным или даже их стирания. Она также включает в себя меры по улучшению защиты данных и повышению осведомленности отдельного лица о своих собственных данных и праве на контроль над ними. Рекомендация также расширяет возможности регулирующих органов во всем мире по обеспечению соблюдения этого требования.
- Запрет социальной оценки и массового наблюдения
Рекомендация прямо запрещает использование систем искусственного интеллекта для социальной оценки и массового наблюдения. Эти виды технологий являются весьма инвазивными, они ущемляют права человека и основные свободы и широко используются. В Рекомендации подчеркивается, что при разработке нормативно-правовой базы государствам-членам следует учитывать, что конечная ответственность и подотчетность всегда должны лежать на людях и что технологии искусственного интеллекта не должны становиться правосубъектными.
- Содействие мониторингу и оценке
Рекомендация также закладывает основу для инструментов, которые будут содействовать ее осуществлению. Оценка этического воздействия призвана помочь странам и компаниям, разрабатывающим и развертывающим системы искусственного интеллекта, в оценке воздействия этих систем на людей, общество и окружающую среду. Методология оценки готовности помогает государствам-членам оценить степень своей готовности с точки зрения правовой и технической инфраструктуры. Этот инструмент поможет укрепить институциональный потенциал стран и рекомендовать надлежащие меры, которые необходимо принять для обеспечения соблюдения этических норм на практике. Кроме того, в Рекомендации содержится призыв к государствам-членам рассмотреть вопрос о создании роли независимого должностного лица по вопросам этических аспектов ИИ или какого-либо другого механизма для надзора за проведением ревизий и непрерывным мониторингом.
- Охрана окружающей среды
В Рекомендации подчеркивается, что субъектам в сфере искусственного интеллекта следует отдавать предпочтение эффективным методам использования данных, энергии и ресурсоэффективным технологиям ИИ, которые помогут обеспечить, чтобы искусственный интеллект стал более важным инструментом в борьбе с изменением климата и в решении экологических проблем. В Рекомендации правительствам предлагается оценивать прямое и косвенное воздействие на окружающую среду на протяжении всего жизненного цикла систем ИИ. Это включает углеродный след, потребление энергии и экологические последствия добычи сырья для поддержки производства технологий искусственного интеллекта. Рекомендация также направлена на уменьшение воздействия систем ИИ и инфраструктур данных на окружающую среду. Она стимулирует правительства к инвестированию в экологически чистые технологии, и если системы ИИ оказывают непропорциональное негативное воздействие на окружающую среду, Рекомендация предписывает не использовать их.
«Решения, затрагивающие миллионы людей, должны быть справедливыми, прозрачными и оспариваемыми. Эти новые технологии должны помочь нам решить основные проблемы современного мира, такие как усиление неравенства и экологический кризис, а не усугубить их», - заявила Габриэла Рамос, заместитель Генерального директора ЮНЕСКО по социальным и гуманитарным наукам.
Новые технологии, такие как искусственный интеллект, доказали свою огромную способность приносить пользу. Однако негативные последствия, усугубляющие и без того расколотый и неравный мир, необходимо контролировать. Разработки ИИ должны основываться на верховенстве права, избегая причинения вреда и обеспечивая наличие механизмов подотчетности и возмещения ущерба пострадавшим.