La inteligencia artificial (IA) responsable es un conjunto de principios que ayudan a guiar el diseño, el desarrollo, la implementación y el uso de la IA, creando confianza en las soluciones de IA que tienen el potencial de empoderar a las organizaciones y a sus partes interesadas. La IA responsable implica la consideración de un impacto social más amplio de los sistemas de IA y las medidas necesarias para alinear estas tecnologías con los valores de las partes interesadas, las normas legales y los principios éticos. La IA responsable tiene como objetivo incorporar dichos principios éticos en las aplicaciones y flujos de trabajo de IA para mitigar los riesgos y los resultados negativos asociados con el uso de IA, al tiempo que maximiza los resultados positivos.
Este artículo pretende ofrecer una visión general de la IA responsable. Para obtener más información sobre el punto de vista específico de IBM, consulte nuestra página de ética de la IA.
La adopción generalizada del machine learning en la década de 2010, impulsada por los avances en big data y la potencia computacional, trajo consigo nuevos desafíos éticos, como el sesgo, la transparencia y el uso de datos personales. La ética de la IA surgió como una disciplina distinta durante este período, a medida que las empresas tecnológicas y las instituciones de investigación de la IA trataban de gestionar de forma proactiva sus esfuerzos de IA de manera responsable.
Las herramientas de IA generativa y los agentes de IA que ahora están adoptando rápidamente las empresas exigen nuevos marcos para un uso ético. Las organizaciones visionarias que reinventan sus principios de IA responsable para un mundo agente pueden ayudar a los adoptantes a aprovechar todo el potencial de estas herramientas mientras minimizan los resultados no deseados.
La IA debe ser fiable y, para que las partes interesadas confíen en ella, debe ser transparente. Las empresas tecnológicas deben dejar claro quién entrena a sus sistemas de IA, qué datos se utilizaron en ese entrenamiento y, lo que es más importante, qué se incluyó en las recomendaciones de sus algoritmos. Si vamos a utilizar la IA para ayudar a tomar decisiones importantes, debe ser explicable.
Manténgase al día sobre las tendencias más importantes e intrigantes del sector en materia de IA, automatización, datos y mucho más con el boletín Think. Consulte la Declaración de privacidad de IBM.
La IA responsable es una práctica sociotécnica que reúne a personas, procesos, herramientas y gobierno. Requiere que las organizaciones consideren el ciclo de vida completo de los sistemas de IA, desde la recopilación de datos y el desarrollo de modelos hasta la implementación, la monitorización y la mejora. También requiere prestar atención a los efectos más amplios de la IA en las personas, las organizaciones, la sociedad y el medio ambiente.
El Marco de tecnología responsable y gobierno de IBM reúne principios, propiedades, dimensiones de impacto y prácticas de gobierno en un único enfoque para construir e implementar tecnología responsable. La IA responsable sigue siendo fundamental para este enfoque, mientras que el marco extiende el mismo modelo de gobierno a las tecnologías emergentes, como los sistemas de agencia, la computación cuántica y los dominios del futuro.
El marco se organiza en torno a cuatro componentes:
Principios de confianza
Los compromisos fundamentales de IBM en materia de desarrollo y implementación responsables de la tecnología:
La tecnología debe amplificar las capacidades humanas.
La tecnología debe basarse en un gobierno de datos responsable.
La tecnología debe ser abierta y transparente.
Los pilares de una IA confiable
Las cualidades que los sistemas de IA deben demostrar para fomentar la confianza:
Transparencia
Equidad y alineación con los valores humanos
Robustez
Privacidad
Dimensiones del impacto
Los resultados más amplios que IBM tiene en cuenta al evaluar la tecnología:
La acción humana y la confianza
El bienestar social
Sostenibilidad medioambiental
Gobierno
Los programas, las herramientas, la formación, las políticas, las colaboraciones y los mecanismos de revisión que vinculan los compromisos en materia de tecnología responsable con la práctica cotidiana.
Juntos, estos componentes permiten diseñar la responsabilidad mediante el diseño. A medida que los sistemas de IA ganan en capacidad y se integran cada vez más en las operaciones empresariales, las organizaciones deben ser capaces de demostrar que la confianza se materializa a través de un marco de gobierno integrado en sus sistemas y procesos.
La implementación de prácticas de IA responsable a nivel empresarial implica un enfoque holístico de extremo a extremo que aborde varias etapas del desarrollo y la implementación de la IA.
Desarrolle un conjunto de principios de IA responsable que se alineen con los valores y objetivos de innovación en IA de la empresa. Considere los aspectos clave descritos anteriormente en los "Pilares de la confianza". Tales principios pueden ser desarrollados y mantenidos por un equipo interdisciplinar dedicado de ética de la IA con representación de diversos departamentos, incluidos especialistas en IA, especialistas en ética, expertos jurídicos y líderes empresariales.
Llevar a cabo programas de formación para educar a los empleados, las partes interesadas y los responsables de la toma de decisiones sobre las prácticas de la IA responsable. Esto incluye comprender posibles sesgos, consideraciones éticas y la importancia de incorporar una IA responsable en las operaciones comerciales.
Incorpore prácticas de IA responsables en todo el proceso de desarrollo de la IA, desde la recopilación de datos y el entrenamiento de modelos hasta la implementación y la monitorización continua. Emplee técnicas para abordar y mitigar los sesgos en los sistemas de IA. Evalúe regularmente los modelos para garantizar la equidad utilizando métricas establecidas, especialmente en lo que respecta a atributos sensibles como raza, género o estatus socioeconómico. Priorice la transparencia haciendo que los sistemas de IA sean explicables. Proporcione documentación clara sobre fuentes de datos, algoritmos y procesos de decisión. Los usuarios y las partes interesadas deben poder comprender cómo toman decisiones los sistemas de IA.
Establecer prácticas de gobierno de la IA responsable y medidas de protección para salvaguardar la privacidad de los usuarios finales y los datos sensibles. Comunique claramente las políticas de uso de datos, obtenga el consentimiento informado y cumpla con la normativa de protección de datos.
Integre mecanismos de supervisión humana en los procesos cruciales de toma de decisiones. Defina líneas claras de responsabilidad para garantizar que las partes responsables sean identificadas y puedan ser consideradas responsables de los resultados de los sistemas de IA. Lleve a cabo una monitorización continua de los sistemas de IA para identificar y abordar las preocupaciones éticas, los sesgos o los problemas que puedan surgir con el tiempo. Audite periódicamente los modelos de IA para evaluar el cumplimiento de las directrices éticas.
Fomente la colaboración con organizaciones externas, instituciones de investigación y grupos de código abierto que trabajen en la seguridad de la IA. Manténgase informado sobre los últimos avances en prácticas e iniciativas de IA responsable y contribuya a los esfuerzos de todo el sector.