Fundamentos de una IA fiable: datos controlados e IA, ética de la IA y un ecosistema abierto y diverso

Las empresas de todo el mundo se están dando cuenta de que generar confianza en la IA es clave para la adopción generalizada de la tecnología. Saben que la confianza en la IA y la capacidad de explicar las decisiones tomadas mediante algoritmos de IA son cruciales para el éxito de su negocio desde el punto de vista de la marca. Según el índice de adopción de IA global de 2021, el 86 % de los profesionales de TI globales están de acuerdo en que es más probable que los consumidores elijan los servicios de una empresa que ofrece transparencia y un marco ético sobre cómo se construyen, gestionan y utilizan sus datos y modelos de IA.

En última instancia, los clientes tienen una mayor confianza en los resultados a través de soluciones de IA fiables arraigadas en los cimientos de datos controlados y herramientas y procesos de IA, la ética de la IA y un ecosistema abierto y diverso.

Los datos controlados y la IA se refieren a la tecnología, las herramientas y los procesos que supervisan y mantienen la fiabilidad de los datos y las soluciones de IA. Las empresas deben ser capaces de dirigir y monitorizar su IA para asegurarse de que funciona según lo previsto y cumple con la normativa. La tecnología de datos controlados e IA de IBM se basa en la aplicación de nuestros principios fundamentales para una IA ética: transparencia, explicabilidad, equidad, solidez y privacidad. Estas cinco áreas de enfoque son la forma en que definimos la IA fiable.

La transparencia refuerza la confianza y la divulgación es la mejor manera de promoverla. La transparencia también es necesaria para que una solución de IA sea ética. Permite inspeccionar fácilmente la tecnología de IA y significa que los algoritmos utilizados en las soluciones de IA no están ocultos ni pueden analizarse más de cerca.

Si bien la transparencia ofrece una visión de la tecnología de IA y los algoritmos en uso, se necesitan explicaciones sencillas y directas sobre cómo se utiliza la IA. Las personas tienen derecho a comprender cómo la IA llegó a una conclusión, especialmente cuando esas conclusiones afectan a las decisiones sobre su empleabilidad, su solvencia crediticia o su potencial. Las explicaciones proporcionadas tienen que ser fáciles de entender.

La equidad en una solución de IA significa reducir los prejuicios humanos y tratar equitativamente a las personas y los grupos de personas. Una solución de IA diseñada para ser justa debe seguir siéndolo. La monitorización y las salvaguardas son críticas para evitar que los sesgos se infiltren en la solución.

A medida que la IA continúa formando parte cada vez más de nuestra experiencia humana, también se hace más vulnerable a los ataques. Para ser considerada fiable, una solución de IA debe ser lo suficientemente sólida como para gestionar eficazmente condiciones excepcionales y minimizar el riesgo de seguridad. La IA debe ser capaz de resistir ataques y mantener su integridad mientras está bajo ataque.

Para ser una IA fiable, la IA debe garantizar la privacidad en todo momento, no solo de los datos sin procesar, sino de los conocimientos obtenidos a partir de esos datos. Los datos pertenecen a sus creadores humanos y la IA debe garantizar la privacidad con la máxima integridad.

Los datos controlados y las herramientas y prácticas de IA deben estar firmemente arraigados en una base de principios éticos. La IA aumenta los seres humanos, su inteligencia y sus comportamientos, y debe ser accesible para todos, no solo para unos pocos. Los datos y conocimientos obtenidos por la IA pertenecen a los humanos que la crearon, y la IA ética mantiene ese derecho. La ética de la IA también significa que la forma en que las empresas utilizan esos datos en la IA es transparente y explicable.

Las soluciones de IA fiables requieren algo más que una base de ética y gobierno. Una cultura de diversidad, inclusión y responsabilidad compartida, reforzada en un ecosistema abierto, es imprescindible para construir y gestionar la IA mientras se aporta un valor real tanto para las empresas como para la sociedad. Esto puede requerir un cambio cultural para que los equipos que crean soluciones de IA estén formados por personas de diferentes orígenes y se asemejen mucho a la diversidad de género, racial y cultural de las sociedades a las que sirven esas soluciones.

Al ofrecer herramientas, experiencia, formación y orientación, estamos ayudando a las empresas a generar confianza en su IA y en los resultados que genera.