Por dónde empezar: tres líderes de IBM ofrecen orientación a los directores de IA recién nombrados

El número de directores de inteligencia artificial (CAIO) casi se ha triplicado en los últimos cinco años, según LinkedIn. Las empresas de todas las industrias se están dando cuenta de la necesidad de integrar la inteligencia artificial (IA) en sus estrategias principales desde arriba para evitar quedarse atrás. Estos líderes de IA son responsables de desarrollar un proyecto técnico para la adopción y supervisión de la IA tanto en las empresas como en el gobierno.

Tras una reciente orden ejecutiva de la administración Biden y un aumento meteórico en la adopción de la IA en todos los sectores, la Oficina de Administración y Presupuesto (OMB) publicó un memorándum sobre cómo las agencias federales pueden aprovechar las oportunidades de la IA al tiempo que gestionan sus riesgos.

Muchos organismos federales están designando CAIO para monitorear el uso de la IA en sus ámbitos, promover la innovación de IA responsable y abordar los riesgos asociados a la IA, incluyendo la IA generativa, teniendo en cuenta su impacto en los ciudadanos. Pero, ¿cómo equilibrarán estos CAIO las medidas regulatorias y la innovación? ¿Cómo cultivarán la confianza?

Tres líderes de IBM ofrecen sus insights sobre las importantes oportunidades y desafíos que enfrentan los nuevos CAIO en sus primeros 90 días:

Los primeros 90 días como director de IA serán intensos y rápidos, pero debe reducir la velocidad y no tomar atajos. Considere la seguridad, la inclusión, la confiabilidad y la gobernanza desde el principio en lugar de como consideraciones que deben agregarse al final. Pero no permita que la cautela y la perspectiva crítica de su agente de cambio social interno apaguen el optimismo de su tecnólogo interno. Recuerde que el hecho de que la IA esté aquí ahora no exime a su agencia de sus responsabilidades actuales con las personas. Considere a los más vulnerables entre nosotros al especificar el problema, entender los datos y evaluar la solución.

No tenga miedo de replantearte la equidad, pasando de simplemente repartir los recursos limitados de forma equitativa a averiguar cómo puede cuidar de los más necesitados. No tenga miedo de replantear la responsabilidad de simplemente cumplir con las regulaciones a administrar la tecnología. No tenga miedo de replantear la transparencia, pasando de simplemente documentar las decisiones tomadas a posteriori a solicitar el aporte del público de antemano.

Al igual que la planeación urbana, la IA es infraestructura. Las decisiones tomadas ahora pueden afectar a las generaciones futuras. Guíese por el principio de la séptima generación, pero no sucumba a los argumentos sobre riesgos existenciales a largo plazo a expensas de daños claros y presentes. Esté atento a los daños que hemos encontrado durante varios años a través del modelado de machine learning, y también a los daños nuevos y amplificados que estamos viendo a través de modelos fundacionales. Elija modelos más pequeños cuyo costo y comportamiento puedan regularse. Ponga a prueba e innove con una cartera de proyectos; reutilizar y endurecer las soluciones a los patrones comunes que surgen; y solo entonces entregar a escala a través de un enfoque de plataforma multimodelo.

Para impulsar la eficiencia y la innovación y generar confianza, todos los CAIO deben comenzar implementando un programa de gobernanza de la IA para ayudar a abordar los problemas éticos, sociales y técnicos centrales para crear un desarrollo y despliegue de IA confiable.

En los primeros 90 días, comience por realizar una evaluación de madurez organizacional de la referencia de su agencia. Revise las infraestructuras y las evaluaciones para que tenga una indicación clara de las fortalezas y debilidades que afectarán su capacidad para implementar herramientas de IA y ayudar con los riesgos asociados. Este proceso puede ayudarle a identificar un problema u oportunidad que una solución de IA puede abordar.

Más allá de los requisitos técnicos, también necesitará documentar y articular la ética y los valores de toda la agencia con respecto a la creación y uso de IA, lo que informará sus decisiones sobre el riesgo. Estas pautas deben abordar cuestiones como la privacidad de datos, el sesgo, la transparencia, la responsabilidad y la seguridad.

IBM ha desarrollado principios de confianza y transparencia y un playbook “Ética por diseño” que puede ayudarle a usted y a su equipo a poner en práctica esos principios. Como parte de este proceso, establezca mecanismos de responsabilidad y supervisión para garantizar que el sistema de IA se utilice de manera responsable y ética. Esto incluye establecer líneas claras de responsabilidad y supervisión, así como procesos de monitoreo y auditoría para garantizar el cumplimiento de las pautas éticas.

A continuación, debería empezar a adaptar las estructuras de gobernanza existentes de su agencia para apoyar la IA. La IA de calidad requiere datos de calidad. Muchos de sus programas y prácticas existentes, como la gestión de riesgos de terceros,adquisiciones, arquitectura empresarial, aspectos legales, privacidad y seguridad de la información, ya se superpondrán para crear eficiencia y aprovechar todo el poder de los equipos de su agencia.

 La fecha límite del 1 de diciembre de 2024 para incorporar las prácticas mínimas de gestión de riesgos a la IA que impacta la seguridad y los derechos, o dejar de usar la IA hasta que se logre el cumplimiento, llegará más rápido de lo que piensa. En sus primeros 90 días en el trabajo, use herramientas automatizadas para agilizar el proceso y recurra a socios de confianza, como IBM, para ayudarle a implementar las estrategias que necesitará para crear soluciones de IA responsable.

Durante más de una década, IBM ha estado trabajando con agencias federales de EE. UU. para ayudarlas a desarrollar IA. La tecnología ha permitido avances importantes para muchas agencias federales en eficiencia operativa, productividad y toma de decisiones. Por ejemplo, la IA ha ayudado al Servicio de Impuestos Internos (IRS) a acelerar el procesamiento de declaraciones de impuestos en papel (y la entrega de reembolsos de impuestos a los ciudadanos), el Departamento de Asuntos de Veteranos (VA) a disminuir el tiempo que lleva procesar las reclamaciones de veteranos y el Comando de las Fuerzas de Flota de la Marina a planificar y equilibrar mejor los suministros de alimentos, al tiempo que reduce los riesgos relacionados con la cadena de suministro. 

IBM también ha reconocido desde hace tiempo los riesgos potenciales de la adopción de la IA y ha abogado por una gobernanza sólida y por una IA que sea transparente, explicable, robusta, justa y segura. Para ayudar a mitigar los riesgos, simplificar la implementación y usar las oportunidades, todos los CAIO recién nombrados deben establecer un enfoque de datos en toda la empresa y una infraestructura para la adopción de IA. La accesibilidad de los datos, el volumen de datos y la complejidad de los datos son áreas que deben entenderse y abordarse. "En toda la empresa" sugiere que el desarrollo y el despliegue de IA y gobernanza de datos salgan de los silos organizativos tradicionales de las agencias. Involucre a los stakeholders de toda su agencia, así como de cualquier socio de la industria. Mida sus resultados y aprenda sobre la marcha, tanto de los esfuerzos de su agencia como de los de sus colegas en todo el gobierno.

Y, por último, el antiguo adagio "comenzar con el fin en mente" es tan cierto hoy como siempre. IBM recomienda que los CAIO fomenten el seguimiento de un enfoque de IA basado en casos de uso, lo que significa identificar los resultados y experiencias específicos que espera crear y respaldar las tecnologías de IA específicas que utilizará (IA generativa, IA tradicional, etc.) a partir de ahí.

El liderazgo público puede marcar la pauta para la adopción de la IA en todos los sectores. La creación del puesto de CAIO desempeña un papel crítico en el futuro de la IA, permitiendo que nuestro gobierno modelice un enfoque responsable para la adopción de la IA en los negocios, el gobierno y las industrias.

IBM ha desarrollado herramientas y estrategias para ayudar a las agencias a adoptar la IA de manera eficiente y responsable en diversos entornos. Estamos listos para apoyar a estos nuevos CAIO a medida que comienzan a crear implementaciones de IA responsable dentro de sus agencias.

¿Se pregunta qué priorizar en su camino hacia la IA?