Fundamentos de una IA confiable: datos gobernados e IA, ética de la IA y un ecosistema abierto y diverso

Las empresas de todo el mundo se están dando cuenta de que generar confianza en la IA es clave para la adopción generalizada de esta tecnología. Saben que la confianza en la IA y la capacidad de explicar las decisiones tomadas a través de algoritmos de IA son cruciales para el éxito de su negocio desde la perspectiva de la marca. Según el Índice de adopción de IA global 2021, el 86 % de los profesionales de TI globales están de acuerdo en que es más probable que los consumidores elijan los servicios de una empresa que ofrece transparencia y un marco ético sobre cómo se construyen, gestionan y utilizan sus datos y modelos de IA.

En última instancia, los clientes tienen una mayor confianza en los resultados a través de soluciones de IA confiables arraigadas en los cimientos de datos gobernados y herramientas y procesos de IA, ética de IA y un ecosistema abierto y diverso.

Los datos gobernados y la IA se refieren a la tecnología, herramientas y procesos que monitorizan y mantienen la fiabilidad de los datos y las soluciones de IA. Las empresas deben poder dirigir y monitorear su IA para garantizar que funcione según lo previsto y de conformidad con las regulaciones. La tecnología de datos gobernados e IA de IBM se estructura sobre la aplicación de nuestros principios fundamentales para la IA ética: transparencia, explicabilidad, imparcialidad, solidez y privacidad. Estas cinco áreas de enfoque son las que definen lo que consideramos una IA confiable.

La transparencia refuerza la confianza, y la mejor manera de promover la transparencia es mediante la divulgación. También se requiere transparencia para que una solución de IA sea ética. Permite que la tecnología de IA se inspeccione fácilmente y significa que los algoritmos utilizados en las soluciones de IA no están ocultos o no se pueden observar más de cerca.

Si bien la transparencia ofrece una visión de la tecnología y los algoritmos de IA en uso, se necesitan explicaciones simples y directas sobre cómo se utiliza la IA. Las personas tienen derecho a comprender cómo la IA llegó a una conclusión, especialmente cuando esas conclusiones afectan las decisiones sobre su empleabilidad, su solvencia crediticia o su potencial. Las explicaciones proporcionadas deben ser fáciles de entender.

La equidad en una solución de IA significa la reducción del sesgo humano y el trato equitativo de las personas y de los grupos de personas. Una solución de IA diseñada para ser justa debe seguir siéndolo. La monitorización y las salvaguardas son críticas para evitar que se infiltren sesgos en la solución.

A medida que la IA se va integrando cada vez más en nuestra experiencia humana, también se vuelve más vulnerable a los ataques. Para ser considerada confiable, una solución de IA debe ser lo suficientemente robusta como para manejar condiciones excepcionales de manera efectiva y minimizar el riesgo de seguridad. La IA debe ser capaz de resistir los ataques y mantener su integridad mientras está bajo ataque.

Para ser de confianza, la IA debe garantizar la privacidad en todo momento, no solo de los datos sin procesar, sino también de las insights obtenidas a partir de esos datos. Los datos pertenecen a sus creadores humanos y la IA debe garantizar la privacidad con la mayor integridad.

Los datos controlados y las herramientas y prácticas de IA deben estar firmemente arraigados en una base de principios éticos. La IA aumenta a los humanos, su inteligencia y sus comportamientos, y debería ser accesible para todos, no solo para unos pocos elegidos. Los datos y los insights obtenidos por la IA pertenecen a los humanos que los crearon, y la IA ética mantiene ese derecho. La ética de la IA también significa que la forma en que las empresas utilizan esos datos en IA es transparente y explicable.

Las soluciones de IA confiables requieren más que una base de ética y gobernanza. Una cultura de diversidad, inclusión y responsabilidad compartida, reforzada en un ecosistema abierto, es imprescindible para construir y gestionar la IA, al tiempo que ofrece un valor real tanto para las empresas como para la sociedad. Esto puede requerir un cambio cultural para que los equipos que crean soluciones de IA estén formados por personas de diferentes orígenes y se asemejen mucho a la diversidad de género, racial y cultural de las sociedades a las que sirven esas soluciones.

Al ofrecer herramientas, experiencia, educación y orientación, ayudamos a las empresas a generar confianza en su IA y en los resultados que genera.