Cómo la oficina de privacidad y tecnología responsable de IBM aumenta la confianza en los sistemas de IA
A medida que la innovación en IA se acelera, las organizaciones necesitan un gobierno de la IA eficaz para crear y gestionar modelos de machine learning de forma responsable. La oficina de privacidad y tecnología responsable (OPRT) de IBM sabe que este desafío no es solo una cuestión técnica, sino un imperativo empresarial.
Durante años, el enfoque que IBM ha adoptado hacia la IA responsable se ha guiado por sus Principios fundacionales de confianza y transparencia, que el Consejo de tecnología responsable de IBM ha puesto en práctica en toda la empresa. En 2022, la OPRT lanzó el sistema de gestión de la privacidad y la IA (PIMS) para ayudar a IBM a gestionar de manera fiable los modelos de ML, facilitar el cumplimiento de la normativa sobre privacidad e IA y promover la transparencia y la responsabilidad.
Sin embargo, estos componentes críticos funcionaban de forma independiente con el PIMS. Para dar el siguiente paso en su camino hacia la IA organizativa y el gobierno del ciclo de vida de la IA, la OPRT necesitaba integrar y centralizar sus mecanismos. A medida que aumentan los retos, sigue en el aire la pregunta: ¿pueden las organizaciones priorizar la innovación y la responsabilidad en la misma medida?
La única respuesta viable es "sí". Y la iniciativa de la OPRT es un gran ejemplo de cómo las empresas pueden impulsar la innovación a la vez que mitigan los riesgos asociados.
A partir de sus principios de privacidad, el equipo desarrolló el programa de gobierno integrado (IGP), un enfoque unificado de la responsabilidad y el cumplimiento. "Un programa de gobierno integral puede lograr un equilibrio entre el valor empresarial que promete la IA y la necesidad de supervisión y gestión de riesgos, lo que permite una IA responsable a escala", explica Lee Cox, vicepresidente de gobierno integrado y preparación para el mercado de IBM.
Al crear una visión holística e integral de todos los datos y modelos construidos y utilizados por IBM, el IGP escala los flujos de trabajo de gobierno en torno a los datos, la privacidad y la IA sin interrumpir la innovación y los procesos empresariales. Esto se consigue al integrar tecnologías como IBM watsonx.governance, IBM Cloud Pak for Data, IBM Knowledge Catalog e IBM OpenPages.
Dirigido por los responsables de IA de las unidades de negocio, el programa proporciona una gestión de riesgos más proactiva y ayuda a cumplir los requisitos normativos teniendo en cuenta las prioridades e intereses únicos de las distintas partes interesadas. Steven Eliuk, vicepresidente y CTO de datos, IA y gobierno de IBM, señala: "Hemos unificado nuestros procesos de admisión de datos, lo que agiliza el aprovisionamiento, la investigación y el desarrollo para ayudar a superar los retos de la gestión de datos".
IGP ha capacitado a IBM para implementar estándares de datos internos uniformes, lo que permite la transparencia de los datos y el desarrollo de una IA fiable que impulsa la innovación a escala.
Cox señala que "la precisión de los datos es solo el punto de partida. El PIMS sienta las bases e IGP eleva la adquisición de datos a nuevas cotas, al orquestar todo el proceso, desde el abastecimiento hasta la entrega. Juntos forman un dúo dinámico que potencia a las organizaciones y desbloquea nuevas oportunidades de ventaja competitiva".
El programa ha contribuido a los esfuerzos de IBM para escalar la IA de forma responsable, al impulsar el desarrollo de productos y servicios fiables basados en esta tecnología, al tiempo que apoya el cumplimiento en todas sus operaciones. De hecho, los modelos fundacionales de IBM Granite TM son reconocidos por su transparencia, gracias en parte a su adhesión a los criterios de gobierno de datos y riesgo permitidos a través del IGP.
Por ejemplo, durante los ocho meses transcurridos desde que se empezaron a probar e implantar las nuevas normas de procedencia de datos a principios de 2024 como parte de IGP, estas normas han contribuido a mejorar la eficiencia operativa de IBM, incluida la estimada:
- 58 % de reducción del tiempo de tramitación de las solicitudes de autorización de datos de terceros.
- 62 % de reducción del tiempo de tramitación de las solicitudes de autorización de datos de terceros.
- Más de 1000 conjuntos de datos y modelos aprobados para su posible reutilización.
IGP ayuda a facilitar un acceso más rápido a datos de calidad, lo que permite a los desarrolladores crear modelos y sistemas más responsables, no solo de cara al uso interno, sino también al de socios y clientes que utilizan las soluciones de IA de IBM. Y la adaptabilidad del IGP permite a IBM abordar la dirección de las tecnologías actuales y prepararse para las emergentes, como la IA agéntica. Cox resume: “Hemos creado un ecosistema de socios confiable, donde nuestros clientes pueden aprovechar el mismo valor y experiencia que hemos obtenido de nuestra propia transformación”.
La oficina de privacidad y tecnología responsable de IBM supervisa las políticas globales de protección y confidencialidad de datos. Colabora con el Consejo de tecnología responsable de IBM para guiar los procesos de gobierno y toma de decisiones para políticas y prácticas de IA responsables, fomentando una cultura de responsabilidad y confianza dentro de IBM.
Legal
© Copyright IBM Corporation 2025. IBM, el logo de IBM e IBM Cloud Pak, OpenPages y watsonx.governance son marcas comerciales o marcas comerciales registradas de IBM Corp., en los EE. UU. y/o en otros países. Este documento está actualizado a la fecha inicial de publicación y puede ser modificado por IBM en cualquier momento. No todas las ofertas están disponibles en todos los países en los que opera IBM.
Los ejemplos de clientes se presentan como ilustraciones de cómo dichos clientes han utilizado los productos de IBM y los resultados que pueden haber obtenido. El rendimiento, coste, ahorro u otros resultados reales en otros entornos operativos pueden variar.