Las últimas tendencias de IA presentadas por expertos
Obtenga insights curados sobre las noticias más importantes e intrigantes de la IA. Suscríbase a nuestro boletín semanal Think. Consulte la Declaración de privacidad de IBM .
¿Qué es la IA responsable?
Publicado el 6 de febrero de 2024
La inteligencia artificial (IA) responsable es un conjunto de principios que ayudan a guiar el diseño, desarrollo, despliegue y uso de la IA, generando confianza en las soluciones de IA que tienen el potencial de empoderar a las organizaciones y a sus partes interesadas. La IA responsable implica la consideración de un impacto social más amplio de los sistemas de IA y las medidas necesarias para alinear estas tecnologías con los valores de las partes interesadas, las normas legales y los principios éticos. La IA responsable tiene como objetivo integrar dichos principios éticos en las aplicaciones y flujos de trabajo de IA para mitigar los riesgos y los resultados negativos asociados con el uso de la IA, al tiempo que maximiza los resultados positivos.
Este artículo tiene como objetivo proporcionar una visión general de la IA responsable. Para Aprenda más sobre el punto de vista específico de IBM, consulte nuestra página de ética de IA.
La adopción generalizada dmachine learning en la década de 2010, impulsada por los avances en big data y potencia informática, trajo nuevos desafíos éticos, como el sesgo, la transparencia y el uso de datos personales. La ética de la IA surgió como una disciplina distinta durante este periodo, ya que las compañías tecnológicas y las instituciones de investigación en IA trataron de gestionar de forma proactiva sus esfuerzos de IA de forma responsable.
Las herramientas de IA generativa y los agentes de IA que las empresas están adoptando rápidamente exigen nuevos marcos de uso ético. Las organizaciones visionarias que reinventan sus principios de IA responsable para un mundo agéntico pueden ayudar a los usuarios a aprovechar todo el potencial de estas herramientas minimizando los resultados no deseados.
La IA debe ser confiable y, para que los stakeholders confíen en ella, debe ser transparente. Las empresas tecnológicas deben dejar claro quién entrena a sus sistemas de IA, qué datos se utilizaron en ese entrenamiento y, lo que es más importante, qué se incluyó en las recomendaciones de sus algoritmos. Si vamos a utilizar la IA para ayudar a tomar decisiones importantes, debe ser explicable.
La IA responsable es una práctica sociotécnica que reúne a personas, procesos, herramientas y gobernanza. Requiere que las organizaciones consideren el ciclo de vida completo de los sistemas de IA, desde la recopilación de datos y el desarrollo de modelos hasta el despliegue, el monitoreo y la mejora. También requiere prestar atención a los efectos más amplios de la IA en las personas, las organizaciones, la sociedad y el medio ambiente.
El Marco de gobernanza y tecnología responsable de IBM reúne principios, propiedades, dimensiones de impacto y prácticas de gobernanza en un único enfoque para construir y desplegar tecnología responsable. La IA responsable sigue siendo fundamental para este enfoque, mientras que el marco extiende el mismo modelo de gobernanza a tecnologías emergentes, como los sistemas agénticos, la computación cuántica y los dominios futuros.
El marco está organizado en torno a cuatro componentes:
Principios para la confianza
Compromisos fundamentales de IBM para el desarrollo y despliegue responsables de tecnología:La tecnología debe aumentar las capacidades humanas.
La tecnología debe basarse en una gobernanza de datos responsable.
La tecnología debe ser abierta y transparente.
Pilares de una IA confiable
Las cualidades que deben demostrar los sistemas de IA para permitir la confianza:Transparencia
Equidad y alineación de valores humanos
Robustez
Privacidad
Dimensiones de impacto
Los resultados más amplios que IBM considera al evaluar la tecnología:Agencia humana y confianza
Bienestar social
Sustentabilidad ambiental
Gobernanza
Los programas, herramientas, educación, políticas, alianzas y mecanismos de revisión que conectan los compromisos tecnológicos responsables con la práctica cotidiana.
En conjunto, estos componentes permiten que la responsabilidad se integre por diseño. A medida que los sistemas de IA se vuelven más capaces y se incorporan más en las operaciones del negocio, las organizaciones deben ser capaces de demostrar que la confianza se pone en funcionamiento a través de la gobernanza integrada en sus sistemas y procesos.
La implementación de prácticas de IA responsable a nivel empresarial implica un enfoque holístico de extremo a extremo que aborde varias etapas del desarrollo y el despliegue de la IA.
Definir los principios de la IA responsable
Desarrolle un conjunto de principios de IA responsable que se alineen con los valores y objetivos de la innovación en IA en la empresa. Considere los aspectos clave descritos anteriormente en los “Pilares de la confianza”. Dichos principios pueden ser desarrollados y mantenidos por un equipo dedicado de ética de IA multifuncional con representación de diversos departamentos, incluidos especialistas en IA, especialistas en ética, expertos legales y líderes empresariales.
Educar y crear conciencia
Llevar a cabo programas de capacitación para educar a los empleados, partes interesadas y responsables de la toma de decisiones sobre prácticas responsables de IA. Esto incluye la comprensión de los posibles sesgos, las consideraciones éticas y la importancia de incorporar una IA responsable en las operaciones empresariales.
Integrar la ética en todo el ciclo de vida del desarrollo de la IA
Integre prácticas de IA responsable en todo el pipeline de desarrollo de IA, desde la recopilación de datos y el entrenamiento de modelos hasta el despliegue y el monitoreo continuo. Emplee técnicas para abordar y mitigar los sesgos en los sistemas de IA. Evalúe periódicamente la equidad de los modelos utilizando métricas establecidas, especialmente en lo que respecta a atributos sensibles como la raza, el género o el nivel socioeconómico. Priorice la transparencia haciendo que los sistemas de IA sean explicables. Proporcione documentación clara sobre fuentes de datos, algoritmos y procesos de decisión. Los usuarios y los stakeholders deben poder comprender cómo los sistemas de IA toman decisiones.
Proteja la privacidad del usuario
Establezca prácticas de IA responsable y salvaguardas para proteger la privacidad de los usuarios finales y los datos sensibles. Comunique claramente las políticas de uso de datos, obtenga el consentimiento informado y cumpla con las regulaciones de protección de datos.
Facilitar la supervisión humana
Integrar mecanismos de supervisión humana en los procesos críticos de toma de decisiones. Definir líneas claras de rendición de cuentas para garantizar que las partes responsables están identificadas y pueden ser consideradas responsables de los resultados de los sistemas de IA. Establecer una supervisión continua de los sistemas de IA para identificar y abordar las preocupaciones éticas, los sesgos o los problemas que puedan surgir con el tiempo. Auditar periódicamente los modelos de IA para evaluar el cumplimiento de las directrices éticas.
Fomentar la colaboración externa
Fomente la colaboración con organizaciones externas, instituciones de investigación y grupos de código abierto que trabajan en la seguridad de la IA. Manténgase informado sobre los últimos desarrollos en prácticas e iniciativas de IA responsable y contribuya a los esfuerzos de toda la industria.