Формирование доверительных отношений

Искусственный интеллект уже проник в нашу повседневную жизнь, бизнес, государственный сектор, медицину и другие сферы деятельности. Компания IBM делает все возможное, что помочь людям и организациям использовать ИИ с должной ответственностью. Только придерживаясь этических норм использования ИИ в приложениях и процессах, мы сможем создать системы, основанные на доверии.

*Источник: исследование IBM «Преодоление глобальных преград на пути к масштабному внедрению искусственного интеллекта», 2020 г.

Диаграмма с изображением 3/4

3 из 4 компаний находятся на этапе изучения или внедрения ИИ.

Диаграмма с изображением 78%

78% бизнес-руководителей считают, что уверенность в справедливых, безопасных и надежных результатах ИИ имеет высокую или чрезвычайно высокую важность.

Ответственные инновации

На протяжении уже более 100 лет компания IBM демонстрирует постоянную приверженность идеям ответственных инноваций, чтобы современные технологии были доступны каждому человеку, а не только избранным.

Принципы

Ценности, лежащие в основе подхода IBM

Цель ИИ

Механизм внутри лампы

Цель ИИ — дополнить человеческий интеллект. Компания IBM придерживается того мнения, что ИИ поможет сделать работу каждого из нас более эффективной, а достижения эпохи ИИ должны быть доступны многим людям, а не только элите.

Права собственности на данные и аналитику

Соединения между человеком и геометрическими формами

Данные и аналитические материалы принадлежат создателю. Данные и аналитическая информация клиентов IBM принадлежат клиентам.

Прозрачность и обоснованность

Соединения между глазом и узлами

Новые технологии, включая системы ИИ, должны быть прозрачными и обоснованными. ИТ-компании должны иметь четкое представление о том, кто обучает системы ИИ, какие данные лежат в основе обучения и, что особенно важно, на чем основаны рекомендации алгоритмов.

Базовые принципы

Фундаментальные свойства, лежащие в основе этических норм использования ИИ

Обоснованность

Хорошо спроектированное решение не может приносить прозрачность в жертву удобству.

Справедливость

Правильно отрегулированная система ИИ позволяет принимать более справедливые решения.

Надежность

Поскольку системы используются для принятия важных решений, нужны защищенные и надежные алгоритмы ИИ.

Прозрачность

Прозрачность способствует росту доверия, а лучшим способом повышения прозрачности является предоставление информации.

Конфиденциальность

Приоритетной задачей в системах ИИ должна быть защита конфиденциальных данных потребителей и прав владельцев.

Политика

Некоторые рекомендации и точки зрения IBM Policy Lab

Контроль точности для ИИ

Что касается управления ИИ, компании должны придерживаться подхода, основанного на анализе рисков, а также целенаправленных стратегий разработки и внедрения надежных и безопасных алгоритмов ИИ.

Распознавание лиц

IBM прекратила распространение программного обеспечения общего назначения для анализа или распознавания лиц. Мы придерживаемся того мнения, что стратегия контроля точности может обеспечить сбалансированную среду управления для систем распознавания лиц. Разработчики стратегий должны руководствоваться нормами контроля точности, которые включают в себя ограничения и мониторинг определенных конечных пользователей и сценариев использования, где существует повышенный риск нанесения вреда обществу.

Ответственность за данные

Организации, осуществляющие сбор, хранение, обработку данных или управление ими, обязаны действовать с должной ответственностью, гарантируя защиту прав владельцев, конфиденциальность, безопасность и доверие.

Дополнительные ресурсы

Дополнительная информация о политиках и практиках IBM в отношении новейших технологий

IBM Policy Lab

Новый форум для разработчиков стратегий, где собрана ценная информация о концепциях и рекомендациях по реализации преимуществ инноваций и обеспечению доверия в мире, в котором правят данные.

IBM Trust Center

Ознакомьтесь с нашими принципами защиты клиентов и бизнеса с помощью методик по обеспечению конфиденциальности и безопасности.

Комитет по этическим нормам использования ИИ

Комитет IBM по этическим нормам использования ИИ — результат естественного развития инициатив IBM в сфере внедрения этических норм использования ИИ для принятия решений.

Этот комитет был учрежден как центральный, междисциплинарный орган в поддержку культуры этического, ответственного и надежного использования ИИ во всех подразделениях IBM.

Наша миссия заключается в обеспечении централизованного управления, проверки и поддержки процессов принятия решений в отношении политик, практик, рекомендаций, исследований, продуктов и услуг IBM в сфере соблюдения этических норм. Этот единый механизм, обеспечивающий интеграцию наших устоявшихся принципов и этического мышления, помогает контролировать соблюдение стандартов этики всеми сотрудниками IBM и компанией IBM в целом.

Дополнительная информация →

Фотография Франчески Росси

Франческа Росси

Руководитель Комитета IBM по этическим нормам использования ИИ

Фотография Кристины Монтгомери

Кристина Монтгомери

Вице-президент и директор по вопросам конфиденциальности

Инициативы

Материалы открытого сообщества

Мы стремимся дать миру надежные решения ИИ и для этого предоставляем доступ к нашим учебным материалам. В рамках инициативы Linux Foundation компания IBM стала финансовым спонсором трех совместных проектов с открытым исходным кодом, направленных на создание надежных технологий на основе ИИ.

Ресурсы

Предлагаемый продукт

Обеспечьте непрерывное соблюдение нормативных требований путем отслеживания и обоснования решений ИИ в разных процессах, а также интеллектуальное обнаружение и устранение предвзятости для повышения качества результатов. IBM Watson OpenScale прекрасно работает в сторонних средах разработки моделей и инструментах с открытым исходным кодом. Этот продукт предоставляет инновационный набор средств мониторинга и управления для формирования доверия и реализации механизмов контроля в отношении инвестиций в ИИ.  

Подробнее о Watson OpenScale →

Во имя всеобщего блага

Открытое решение, которое помогает преодолеть препятствия на пути внедрения ИИ в масштабе предприятия

Основные проекты

Совместная работа над этическими нормами использования ИИ

IBM сотрудничает с государственными, образовательными, некоммерческими организациями и партнерами по отрасли для дальнейшего внедрения этических норм использования ИИ.