ЭТИКА ИИ

Искусственный интеллект уже является частью нашей повседневной жизни. Когда мы размещаем фотографии в социальных сетях, занимаемся поиском в интернете или задаём вопросы чат-ботам, мы взаимодействуем с ИИ.

Органы власти полагаются на ИИ при предоставлении государственных услуг, а правительства ищут решения глобальных проблем, используя знания, полученные с помощью алгоритмов.

Цель этого курса — помочь вам развить собственные навыки этического мышления.

Что такое этика ИИ? Какую роль в ней играют ценности и нормы? Принципы этики ИИ.

С момента зарождения вычислительной техники Аланом Тьюрингом человечество возлагало большие надежды на мощь компьютеров и искусственного интеллекта. Ожидается, что ИИ принесёт значительную пользу обществу — от повышения эффективности и производительности до решения ряда глобальных проблем, таких как изменение климата, бедность, болезни и конфликты.

ИИ уже формирует наше общество и оказывает огромное влияние на повседневную жизнь. Однако одновременно возникают многочисленные правовые и социальные вопросы. Алгоритмы могут усугублять существующие предвзятости, приводить к дискриминации, угрожать безопасности, манипулировать людьми и даже иметь летальные последствия.

По этим причинам необходимо исследовать этические, социальные и правовые аспекты ИИ-систем. В обществе звучит общий запрос к этике ИИ — как развивать и использовать технологии этично? Какими моральными принципами мы должны руководствоваться?

В этом курсе рассматриваются этические вопросы, связанные с современным ИИ, раскрывается их философский фон и даётся интерпретация с точки зрения компьютерных наук и других дисциплин.

Цель курса — развить навыки этического мышления.

Он предлагает руководство по этичному проектированию, внедрению и использованию ИИ. Вы познакомитесь с базовыми концепциями, их теоретической основой и ролью в дискуссиях о современном ИИ.

Прежде чем говорить об этике ИИ, важно понять, что означает сама этика.

Этика отвечает на вопросы: «что хорошо, а что плохо», «что правильно, а что неправильно», «что такое справедливость, благополучие и равенство». Как дисциплина, этика систематизирует, обосновывает и рекомендует концепции правильного и неправильного поведения, используя концептуальный анализ, мысленные эксперименты и аргументацию.

Три основных направления этики:

Этика ИИ — это часть прикладной этики, связанная с разработкой и использованием технологий, роботов и других объектов ИИ. Область изучает, как разработчики, производители, власти и операторы должны действовать, чтобы снизить этические риски при проектировании, неправильном применении или злонамеренном использовании ИИ.

Этические вопросы ИИ можно разбить по временным рамкам:

• неотложные: безопасность, приватность, прозрачность;
• среднесрочные: воздействие на военную сферу, здравоохранение, правосудие и образование;
• долгосрочные: фундаментальные цели этичного развития и внедрения ИИ в обществе.

В наши дни этика ИИ — более широкая область, близкая к инженерной: машину не нужно считать моральным агентом, чтобы анализировать её этические аспекты.

Исследования охватывают внедрение этических принципов в автономные системы, практические задачи (например, решение дилеммы вагонетки), системный анализ понятий справедливости и критическую оценку различных этических рамок.

Ценности и нормы — это основные элементы этики.

Понятие «ценность» примерно означает степень важности вещи или действия. Ценности помогают устанавливать идеалы и стандарты для оценки вещей, выбора, действий и событий. В этике акцент обычно делается на моральных ценностях, хотя и другие типы — экономические, эстетические, эпистемические (связанные с знанием) — иногда имеют значение. Например, экономические решения могут иметь морально значимые последствия для людей.

Традиционно технологическое развитие фокусировалось на функциональности, удобстве, эффективности и надежности. Но ИИ требует более широкого обсуждения социальной приемлемости, затрагивая моральные и политические вопросы, влияя на общество и окружающую среду с этической точки зрения.

Понятия, связанные с этической релевантностью, могут меняться с появлением новых технологий (например, концепция приватности изменилась с появлением соцсетей). Пользователи часто применяют технологии не по прямому назначению, что меняет этическую ситуацию и требует постоянного переосмысления.

Этические рамки представляют собой попытку достичь согласия вокруг ценностей и норм, приемлемых для сообщества — людей, граждан, правительств, бизнеса либо других заинтересованных сторон.

Далее курс подробно изучает эти принципы: их философские основы, практическое применение, возникающие проблемы и открытые вопросы.

Нужно отметить, что этика ИИ — первая тема при обсуждении социальных последствий, но существуют и другие перспективы, например, алгоритмическая культура, гендерные и медиаисследования. Когнитивные и психологические аспекты взаимодействия человека и машины также влияют на выбор соответствующих этических рамок.

Таким образом, этика ИИ гораздо шире, чем просто этика данных или алгоритмов.

Что означают для ИИ принципы благодеяния и ненасилия, и как они соотносятся с концепцией «общего блага»?

Критики указывают, что акцент на ненанесении вреда сводит этику к решению технических задач техническими средствами. При этом более широкий этический и социальный контекст, в котором функционируют ИИ-системы, упускается. Многие важные вопросы управления и общественных последствий остаются без внимания.

Технологический исследователь Евгений Морозов называет это «техрешенчеством» — убеждением, что проблемы, вызванные технологиями, всегда можно решить с помощью технологий.

В результате глубокие сложные этические вопросы оказываются упрощёнными и без ответа. Один из таких вопросов — понятие общего блага. Что именно мы понимаем под этим?

Представьте, что вы директор по цифровым технологиям городской администрации. Вас просят рассмотреть переход городской системы здравоохранения от реактивной модели (лечение после болезни) к профилактической модели (предотвращение заболеваний).

В полученном вами отчёте рассказывается о современных системах машинного обучения, которые умеют прогнозировать риски здоровья, анализируя множество медицинских данных. Это позволило бы выявлять группы повышенного риска и приглашать их заранее на приём к врачу.

Если человек теряет сознание в реальной жизни, мы вызываем скорую помощь, не имея на это явного разрешения. В цифровом мире соображения конфиденциальности могут помешать нам связаться с гражданами.

Как директор по цифровым технологиям, стали бы вы продвигать использование превентивных методов? Если ваш ответ примерно такой: «Да, город должен искать этически и юридически приемлемый способ применения этих методов, они дают гораздо больше преимуществ по сравнению с возможными рисками», вы, вероятно, использовали форму морального рассуждения, называемую «утилитаризмом».

Утилитаризм — это семейство этических теорий, которые оценивают «благо» как действия, максимизирующие благополучие всех затронутых лиц. Утилитаризм утверждает, что последствия любого действия являются единственным критерием правильности.

По мнению утилитаристов, морально правильные действия — это действия, которые обеспечивают максимальный баланс пользы и вреда для всех участников.

Утилитаризм в равной степени учитывает интересы всех людей. Однако его сторонники расходятся во мнениях по многим конкретным вопросам, например, действия следует выбирать на основе их вероятных результатов или согласно предопределённым правилам, максимизирующим полезность.

Джереми Бентам, отец утилитаризма, характеризовал выгоду как «свойство, которое имеет тенденцию приносить пользу, преимущество, удовольствие, благо, счастье или предотвращать возникновение беды, боли, зла или несчастья для стороны, чьи интересы учитываются».

Утилитаризм предоставляет простой алгоритм определения моральной правильности поступка:

1. Определение доступных действий.
2. Оценка возможных выгод и вреда для каждого действия.
3. Выбор наиболее полезного действия с учётом затрат.

Данный подход не является идеальным: он требует оценки выгод и вреда, возникающих в результате наших действий, и сравнения их с альтернативными последствиями, что зачастую сложно, а порой и вовсе невозможно.

На практике сложно сравнивать риски и выгоды по следующим причинам.

Несмотря на проблемы, описанные ранее, принципы утилитаризма помогают учитывать как немедленные, так и отложенные последствия наших действий. Важно помнить, что в реальной жизни понятие «общее благо» требует учёта разных точек зрения.

Большинство современных подходов объединяют эти теории, рассматривая благополучие как комплексный психологический, социальный и физический феномен.

Более того, исследователи постоянно разрабатывают новые подходы к изучению благополучия. Современные методы включают в себя более продвинутый анализ демографических и социально-экономических данных, текстовый майнинг из соцсетей, анализ цифровых следов и даже черт лица.

Общее благо требует, чтобы все имели доступ к преимуществам ИИ, что подчёркивает необходимость равного распределения выгод и учёта культурного и индивидуального разнообразия.

Общее благо — это многогранное понятие. Необходимо учитывать социальные и моральные нормы конкретных сообществ, где внедряется ИИ. Это единственный способ раскрыть его потенциал для повышения благополучия и социального обеспечения всех.

Кто должен нести ответственность?

Ответственность — это состояние, при котором субъект отвечает за систему, её поведение и потенциальные последствия.

Ответственность бывает двух видов:
• правовая (юридическая) — когда субъект может быть наказан законом за конкретное событие;
• моральная (этическая) — когда субъект может быть обвинён или осуждён за поступок на моральной основе.

Правовая и моральная ответственность не всегда совпадают — можно быть юридически ответственным, но не морально, и наоборот.

В этике ИИ основное внимание уделяется моральной ответственности, которое рассматривается с трёх сторон:

В этике ответственность тесно связана с понятием «моральный агент». Это субъект, способный действовать с учётом понятий правильного и неправильного. Важно, что только моральные агенты могут нести моральную ответственность за свои действия.

Иммануил Кант, один из выдающихся европейских философов-моралистов, утверждал, что практический разум — наша способность использовать доводы для выбора собственных действий — предполагает свободу. Действия базируются на собственной воле подчиниться моральному закону. В этом и заключена высшая моральная ценность.

Согласно Канту, мы обязаны уважать себя за нашу автономию и действовать, исходя из фундаментального уважения к другим людям в силу их автономии.

Таким образом, автономия служит как моделью практического разума для определения моральных обязательств, так и основанием для уважения к другим.

В контексте ИИ ответственность обычно понимается как юридическое и этическое обязательство конкретных лиц или организаций принимать решения, контролировать использование ИИ и делать результаты работы прозрачными. Она предполагает чёткое разделение на субъекта и контролёра.

Однако на практике очень сложно установить точные критерии этого разделения: кто именно несёт ответственность и за что. Такие вопросы обсуждаются на международном уровне (например, в ЕС и G7), но остаются открытыми.

Почему это так сложно?

Технологии могут влиять на людей и управлять их поведением, иногда даже принуждать (как, например, звуковой сигнал, заставляющий пристегнуть ремень). Современные алгоритмы часто могут незаметно ограничивать или подталкивать пользователя к выбору.

Для этически корректного применения такие технологии должны уважать свободу воли и осознанность выбора, но это требует от пользователя как минимум понимания принципов работы системы. Не всегда ясно, что именно должен знать пользователь для такой свободы — достаточно ли прозрачности, объяснимости или возможности проверки? Где граница, когда пользователь способен сделать самостоятельный осознанный выбор?

Нужно ли нам знать, как работает ИИ?

Прозрачность в системах ИИ необходима для доверия, справедливости и этической ответственности. Если система, например, ошибочно определяет невиновных людей как опасных, как в истории с распознаванием лиц в аэропорту, крайне важно иметь возможность понять — и объяснить! — почему произошла ошибка и как принято то или иное решение.

Прозрачность означает возможность получить информацию о принципах работы ИИ. Это не обязательно этическая ценность сама по себе, а скорее идеал, который позволяет решать ряд этических задач.

Технически прозрачность может проявляться по-разному и помогает:

• обосновывать конкретные решения (например, разобраться, почему принято решение о кредите, о приёме на работу и т. д.);
• реализовывать право человека знать, как его данные используются и какие выводы сделаны о нём системой;
• выполнять моральный долг, предвидеть возможные последствия внедрения технологии — нельзя оправдываться неведением при запуске потенциально опасной системы.

Почему это важно?

Проблемы прозрачности:

Вывод: прозрачность — ключевой принцип этики ИИ, без которого невозможны ни регулирование, ни защита прав, ни доверие, ни этическая ответственность всех участников технологической цепочки.

Прозрачность в ИИ можно понимать по-разному. Существуют близкие понятия, которые иногда используют как синонимы: объяснимость, интерпретируемость, понимаемость и термин «чёрный ящик».

В общем смысле прозрачность — это свойство системы, отражающее, насколько мы можем теоретически понять её внутреннюю работу. Она также означает предоставление пользователям объяснений о моделях и решениях алгоритмов в явной форме. То есть прозрачность связана с тем, насколько общество и пользователи понимают, как функционирует ИИ. Более широко: это социально-технический и нормативный идеал «открытости».

Множество вопросов связано с тем, что именно считать прозрачностью и какой уровень достаточен для разных заинтересованных сторон. Значение этого термина меняется в зависимости от контекста: например, для юридического анализа несправедливых предубеждений или для технического обсуждения свойств машинного обучения.

Прозрачность относится к пониманию внутренней работы модели. Её подразделяют на:

• симулируемость — понимание основных принципов работы модели целиком;
• декомпозируемость — понимание работы отдельных компонент;
• алгоритмическую прозрачность — видимость самих алгоритмов.

Почему многие системы — «чёрные ящики»?

Сложность. Современные нейросети кодируют своё поведение миллионами числовых параметров, которые учатся на тренировке. Из-за сложных взаимодействий между параметрами практически невозможно понять, как сеть принимает решение, даже если параметры известны.

Трудности объяснимости. Создание понятных пользователю объяснений требует дополнительной разработки. Это непросто, нужно сделать объяснения тщательно продуманными и легко воспринимаемыми.

Риски. Слишком открытые системы могут стать уязвимыми — их проще «обмануть», например, заставить принять неправильное решение.

Поэтому некоторые модели сознательно делают менее открытыми.

Как повысить прозрачность моделей?

Существует пять основных подходов:

1. Использовать более простые, но менее точные модели.
2. Комбинировать простые и сложные модели: сложная для вычислений, простая для объяснений.
3. Изменять входные данные, чтобы отслеживать связи между входом и выходом.
4. Проектировать модели с учётом психологических особенностей восприятия пользователя — визуализировать промежуточные элементы.
5. Следить за новыми научными разработками в области объяснимого ИИ.

Таким образом, необходим рост прозрачности ИИ для решения этических вопросов, но вместе с тем нужны механизмы защиты от злоупотреблений.

Полная открытость алгоритмов без осторожности может навредить развитию ИИ и подорвать доверие. Необходимо найти баланс между требованиями безопасности и прозрачности, чтобы максимально эффективно и этично использовать ИИ.

Что такое права человека и как они соотносятся с действующими этическими нормами и принципами ИИ?

Во время пандемии COVID-19 правительства разных стран искали эффективные стратегии выхода из локдауна. Для контроля ситуации они стали использовать технологии мониторинга, которые позволяли отслеживать контакты и передвижение граждан, но одновременно поднимали серьёзные вопросы о конфиденциальности и безопасности. Многие критики видели в них шаг к алгоритмическому надзору за населением.

Хотя конфиденциальность и безопасность — самые обсуждаемые темы, они не единственные.

Необходимо понимать, как ИИ влияет на весь спектр фундаментальных прав и свобод:

• на образование и труд,
• на справедливое судебное разбирательство,
• на честные выборы,
• на свободу слова,
• на свободу собраний,
• и на права уязвимых групп, например, детей.

Права человека — это основа современных этических принципов и руководств по ИИ. Они являются универсальными и принадлежат каждому просто потому, что он человек. Не важно, кто вы и где живёте — права человека справедливы для всех.

Это нормы, защищающие людей от политических, юридических и социальных нарушений. Они включают:

Главная роль прав человека — дать людям возможность самим формулировать и преследовать своё представление о достойной жизни, а не просто выживать.

Концептуально права человека основаны на свободе воли и автономии, предусматривающей:

В последние годы внимание сосредоточено на аспектах конфиденциальности и безопасности, что вызвано применением больших данных, технологий наблюдения и биометрии. Также обсуждается равенство и инклюзивность.

Конфиденциальность
Опасения по поводу конфиденциальности связаны с цифровыми записями, которые могут раскрывать чувствительные данные (возраст, пол, ориентация, политические взгляды и т. п.). Биометрические данные тоже вызывают тревогу, поскольку могут раскрыть информацию о физическом и психическом здоровье.

Главная опасность — не столько сами данные, сколько возможности их использования для манипуляций, вреда или дискриминации.

Этика связывает конфиденциальность с личной автономией и целостностью. По Джону Локку, право контролировать свою личную жизнь является фундаментальным для автономии нравственного индивида.

Общий регламент по защите данных (GDPR)
GDPR — это юридическая база обеспечения прав на конфиденциальность в ЕС. Любая информация, позволяющая идентифицировать человека, считается персональными данными. Для обработки данных требуется явное, информированное согласие.

Безопасность
Безопасность — это право быть защищённым от физических, социальных и эмоциональных угроз, включая аварии и злонамеренные атаки.

Рассматриваются следующие концепции:

1. ИИ как экзистенциальная угроза (суперинтеллект), что подвергается сомнению как философами, так и технологами.
2. Практическая безопасность ИИ связана с проектированием надёжных и предсказуемых систем, устойчивых к необычным условиям (например, системы предотвращения съезда с дорожной полосы).

Право на безопасность обязывает производителей технологий учитывать подобные сценарии: тот факт, что окружающая среда не была идеальной, не оправдывает сбои в работе системы. Исследователи машинного обучения называют эту характеристику надёжностью — способностью системы предсказуемо работать в новых и непредсказуемых обстоятельствах.

Этически и юридически значимый вопрос заключается в следующем: «Каковы приемлемые пределы надёжности?»

Вполне возможно, существует набор настолько невероятных обстоятельств, что мы сможем признать: «никто не мог реально предвидеть этого». Однако где находится этот предел — сложная проблема, и она определённо касается не только искусственного интеллекта, но и технологий в целом.

Тем не менее, прогрессивный энтузиазм, связанный с видением будущего ИИ, поднял вопросы о пределах безопасности и снижении неопределенности окружающей среды совершенно новым способом. Примером этого может служить дискуссия вокруг автономных транспортных средств.

Постоянная слежка создаёт «сковывающий эффект», то есть осознание того, что за нашими действиями постоянно следят, ограничивает нашу истинную свободу действий в мире.

Представьте, что, выходя из дома, вы оказываетесь в окружении двух полицейских. Они не общаются с вами, а просто следуют в десяти метрах. Вы, вероятно, почувствуете себя неуютно и не сможете жить своей обычной жизнью. Таким образом, безопасность порой противоречит личной свободе и неприкосновенности частной жизни.

Безопасность и экология
Право на безопасную и здоровую окружающую среду становится все более значимым на фоне климатических изменений.

ИИ может содействовать:

• мониторингу и прогнозированию последствий,
• устойчивому развитию городов и транспортной сети,
• снижению вредного воздействия промышленности.

Однако ИИ требует больших ресурсов и энергии, что тоже влияет на экологию.

Подводя итог, призыв «ИИ во благо» звучит многообещающе, но на практике реализация прав и нормативных ценностей часто сталкивается с множеством противоречивых интересов и глубокой несправедливостью, существующей в мире. При оценке безопасности важно учитывать пересечение с другими правами.

Инклюзивность и гендерный разрыв
Инклюзивность означает равные возможности участия в обществе вне зависимости от пола, расы, способностей и других характеристик.

Важно обеспечивать разнообразие и учитывать возрастные, гендерные, демографические, культурные и географические особенности пользователей.

Дети сталкиваются с алгоритмами дома, в школе и во время игр. Алгоритмы формируют их окружающую среду, услуги, которыми они пользуются, и способы проведения времени.

Дети играют с интерактивными умными игрушками, смотрят видео с рекомендациями алгоритмов, управляют телефонами голосовыми командами, используют их для обработки изображений и развлечения в соцсетях.

Появление ИИ в жизни детей вызывает множество вопросов. Можно ли использовать рекомендательные алгоритмы для детей, если они не осознают, что взаимодействуют с компьютером? Как родителям давать советы об использовании интерактивных игрушек с ИИ и их влиянии на когнитивное развитие ребёнка? Что дети должны узнать об ИИ в школе, чтобы понимать технологии вокруг себя? С какого возраста ребёнок должен сам принимать решение о согласии на сбор данных? Как долго хранить эти данные?

Уязвимость детей и огромная роль ИИ в их жизни делают эту тему приоритетной.

Международные нормы пока не охватывают многие вопросы, связанные с ИИ и детьми. Но они выделяют ключевые права, затрагиваемые им: право на конфиденциальность, образование, игру и недискриминацию.

Что означает справедливость по отношению к ИИ, как проявляется дискриминация посредством ИИ и что мы можем сделать, чтобы сделать эти системы менее предвзятыми?

Этот пример показывает, как алгоритмы могут не только создавать несправедливые результаты, но и усиливать уже существующие экономические и социальные предрассудки.

Справедливость — ключевой элемент стабильного общества.

Пример с оценками показывает сложность понятия справедливости. Алгоритм создавался для борьбы с завышением оценок, но в итоге он усилил социальную предвзятость.

Виды справедливости:

• распределительная справедливость — степень, в которой общество справедливо распределяет выгоды и нагрузки между своими членами;
• воздающая справедливость — разумность наказаний, учитывающая серьёзность преступления и намерения нарушителя, исключая не относящиеся к делу критерии, например расу;
• компенсаторная справедливость — насколько справедливую компенсацию получают люди за причинённые им травмы. Например, спор о том, должны ли владельцы шахт компенсировать шахтёрам ущерб здоровью, полученный на работе.

Предвзятость в последнее время стала ключевой проблемой этики ИИ, поскольку надежда на объективность алгоритмов оказалась несостоятельной.

Рассмотрим три примера алгоритмических систем.

Слово «дискриминация» может иметь нейтральное значение — просто различать. Здесь же речь идёт о морально значимой дискриминации — несправедливом различении людей.

Рассмотрим два подхода:

Различают два вида наносимого вреда:

• распределённый — связанный с неравенством в доступе к ресурсам и возможностям вроде зарплаты, шанса на собеседование или получения кредита. Например, алгоритмы хуже распознают темнокожих людей, что увеличивает риск аварий с участием автономного транспорта;
• репрезентативный — связанный с образом группы в обществе: стереотипы, клевета и эксноминация. Может порождать социальную несправедливость, поддерживать угнетение и оправдывать репрессивные практики.

Предвзятость — это:

Дискриминационные практики подпитывают друг друга, поэтому предвзятость ИИ — это не только техническая проблема, но и результат истории социальных практик.

Рассмотрим основные способы проникновения предвзятости в систему.

Важно отметить, что при анализе систем ИИ на предмет предвзятости недостаточно просто анализировать алгоритмы. Предвзятость может возникать по историческим, культурным, проектным и иным причинам, поэтому весь процесс разработки ИИ должен находиться под пристальным вниманием.

Как сделать ИИ более справедливым и менее предвзятым? Нет универсального решения — предвзятость проявляется по-разному, и нет единого определения алгоритмической справедливости. Но можно рассмотреть кейсы и подумать, как решить проблемы.

Например, ситуация с дискриминацией в найме, В основе предвзятости исторические практики, на которых обучался алгоритм, и предположение, что прошлое определяет допустимые границы. Эту проблему нельзя решить только технологически. Нужны культурные и структурные перемены.

Важно не сводить этику ИИ к простым метрикам вроде «отсутствия предвзятости».

Например, интеграция подобной технологии в систему персонализированной онлайн-рекламы. Даже если классифицирующий ИИ по всем техническим стандартам справедлив и беспристрастен, он основывает выдачу на дискриминационном принципе, согласно которому предполагаемая сексуальная ориентация является веской причиной для различного отношения к людям.

Это подводит нас к важному выводу: остерегайтесь ловушки упрощений — избегайте сведения понятия этики к поверхностным, количественным значениям. ИИ участвует в сложных социальных процессах, этика которых не ограничивается входами и выходами алгоритмов.

Актуальные проблемы в этике ИИ и прогноз развития событий.

Вопрос этических аспектов технологий не нов. Он поднимался на протяжении многих этапов технологического развития.

Социолог Лэнгдон Виннер в своей статье 1990 года «Этика инженеров и политическое воображение» отмечает, что этические дискуссии часто ограничены гипотетическими случаями без критического осмысления всей инженерной индустрии. Аналогичные проблемы есть и у современной этики ИИ спустя 30 лет.

Современный проект этики ИИ вовлекает гораздо больше заинтересованных лиц — компаний, сообществ, государств и отдельных специалистов. Публикация этических руководств стала стандартным способом заниматься этикой.

Перформативность — это идея о способности слов влиять на действия в мире, выходя за рамки описания.

Например, когда сотрудник ЗАГСа объявляет пару «мужем и женой», он не описывает состояние их отношений. Скорее, институт брака возникает именно благодаря этому заявлению — слова совершают бракосочетание двух людей.

Аналогично, этические тексты создают и управляют ожиданиями разных участников ИИ-экономики.

Три способа функционирования этических руководств:

Даже если руководства мало влияют на практику, они выполняют важные коммуникационные функции и задают ориентиры для будущего этичного ИИ.

Как этика ИИ должна развиваться дальше? Какие темы обсуждать? Какие практики и методы применять?

Ответить сложно, но взглянем на то, что осталось вне поля текущих этических руководств.

Справедливость, ответственность и прозрачность — доминирующие темы этики ИИ. При этом, как показывает AuroraAI, тактические вопросы помощи, благополучия и отношений граждан и государства — ключевые моральные аспекты для внедрения ИИ в муниципальные службы.

Пример такого подхода — схема Кроуфорда и Джолера, показывающая полный жизненный цикл ИИ: от разработки, рынков, инфраструктур до добычи ресурсов и условий труда.

Этот взгляд выявляет часто скрываемые этические аспекты, например экологический ущерб от добычи сырья и трудовые условия сотрудников обработки данных.

Создание справедливого ИИ — это не только публикация правил, но и вовлечение граждан, бизнеса и НКО в построение будущего.

По словам Карли Кинд, эта третья волна этического ИИ уже наступила:

• суд в Нидерландах закрыл систему выявления мошенничества на основе ИИ,
• студенты в Великобритании выходят на протесты из-за алгоритмических решений,
• американские компании добровольно ограничивают технологии распознавания лиц.

Это движение выходит за рамки технических и принципиальных вопросов, стремясь к реальному исправлению дисбалансов и достижению социальной справедливости.

Вопросы этики ИИ касаются всех этапов жизненного цикла системы — от исследований и разработки до использования, поддержки и утилизации. Участники — исследователи, программисты, компании, государство, пользователи — все влияют и несут ответственность.

«Выбор, а не случай, определяет вашу судьбу» ©Аристотель.

Если вас волнует тема этичности ИИ так же как и нас, давайте обсуждать, вырабатывать общее видение и действовать согласно ему!

Также приглашаем подписаться на Ябуку, наш Телеграм-канал об этичных коммуникациях.