Democratización de la IA: ¿qué significa y cómo funciona?

Parpadee y es posible que se pierda el último grupo de personas que utilizan inteligencia artificial (IA).

Un día, serán los amantes de los tacos los que pidan a simpáticos bots en su autoservicio local.¹ El siguiente, son los perfumistas que utilizan herramientas de IA para diseñar fragancias sostenibles.² O agricultores de hortalizas orgánicas que implementan desmalezadores robóticos.³ O usuarios de bifocales que se someten a exámenes oculares con IA.⁴

No hace falta tener una visión 20/20 para hacerse una idea: a medida que los casos de uso y los beneficios de la IA crecen a una velocidad vertiginosa, también lo hace el gran número de humanos que la emplean. La tecnología de IA avanzada, que antes era esotérica, empodera tanto a los consumidores como a los usuarios empresariales. Y este nivel de ubicuidad es posiblemente un indicador de la democratización de la IA.

Sin embargo, una mirada más atenta a las prácticas actuales de la IA sugiere que aún hay margen de mejora en la democratización de la IA. Para entender por qué, es importante considerar qué implica la democratización, cómo afecta a las personas y a las empresas en la actualidad y cómo podría afectarles en el futuro.

La definición de democratización de la IA ha variado a lo largo de los años. En términos generales, puede considerarse la distribución más equitativa de las aplicaciones y capacidades de la IA en toda la sociedad. A un nivel más granular, los investigadores suelen estar de acuerdo en al menos tres aspectos básicos de la democratización de la IA:⁵

• Democratización del uso de la IA
• Democratización del desarrollo de la IA
• Democratización del gobierno de la IA

Democratizar el uso de la IA se refiere a proporcionar acceso a la IA a una gama más amplia de usuarios, más allá de los expertos en machine learning (ML). Entre los medios habituales para mejorar el acceso se encuentran la reducción de los costes de IA y la incorporación de ésta a las herramientas y plataformas que la gente ya utiliza.

Es una noción que lleva años en desarrollo, mucho antes de que la IA entrara en el discurso público. En 2016, por ejemplo, Microsoft declaró que democratizaría la IA con un enfoque para "sacarla de las torres de marfil y hacerla accesible para todos".⁶ La democratización del uso de la IA implica que más personas se beneficiarán de sus capacidades, tanto en su vida personal como laboral.

El lanzamiento y la rápida adopción de aplicaciones de IA generativa orientadas al consumidor sugieren que la democratización del uso de la IA entre los consumidores está en marcha. Una encuesta global de sentimiento del consumidor de 2023 reveló que el 75 % de los encuestados utilizaba herramientas impulsadas por IA.⁷ La aplicación de modelos de lenguaje de gran tamaño (LLM) más popular orientada al consumidor, ChatGPT de OpenAI, cuenta con más de 200 millones de usuarios activos semanales.

Sin embargo, en las empresas, el uso de la IA varía según el tamaño y el sector. Por ejemplo, una investigación encargada por IBM descubrió que el 42 % de las organizaciones de nivel empresarial (las que tienen más de 1000 empleados) utilizan activamente sistemas de IA, mientras que otro 40 % está explorando la tecnología. Sin embargo, una encuesta que incluyó a empresas más pequeñas (con una plantilla media inferior a 48 empleados) determinó que menos del 4 % de las empresas utilizan la IA para producir bienes y servicios.

En esa encuesta, realizada por la Oficina del Censo de EE. UU., los porcentajes de adopción también variaban según el sector, siendo los servicios de alimentación y las empresas de construcción los que declaraban un menor uso. Las empresas tecnológicas, como era de esperar, contaron con las tasas de uso más altas.⁸

Democratizar el desarrollo de la IA se refiere a incluir a más personas en la creación de soluciones de IA. Pero quiénes son exactamente esas personas depende de cómo interprete el concepto. A menudo, se trata de proporcionar a los desarrolladores, investigadores y científicos de datos recursos informáticos y herramientas técnicas gratuitos o de bajo coste que ya son accesibles para los empleados de las grandes empresas tecnológicas.

Sin embargo, en otros casos, democratizar el desarrollo implica incluir a usuarios no técnicos en las soluciones de IA y el desarrollo de modelos. Significa mirar más allá de los círculos de expertos enrarecidos a aquellas personas que no necesariamente poseen un conocimiento profundo de los algoritmos de IA, los conjuntos de datos y la informática.

Esto se puede lograr proporcionando herramientas que ayuden a los usuarios sin conocimientos técnicos a crear y adaptar aplicaciones con IA. Este concepto guarda cierta similitud con la democratización de datos dentro de las empresas: el proceso de creación de sistemas y adopción de herramientas que permiten a cualquier empleado, independientemente de su formación técnica, incorporar la ciencia de datos en sus procesos de toma de decisiones.

En ambos casos, la democratización del desarrollo de la IA se considera algo bueno para el futuro de la innovación en IA. Esta innovación podría optimizar los modelos de IA para servir de forma más eficaz a una gama más amplia de partes interesadas y usuarios que en la actualidad. Por ejemplo, las empresas más pequeñas que antes no podían permitirse crear aplicaciones de IA a medida podrían encontrar estos esfuerzos más factibles debido a herramientas y servicios más asequibles.

Mientras tanto, los consumidores de grupos infrarrepresentados también podrían beneficiarse porque el desarrollo democratizado podría ayudar a prevenir el sesgo de la IA, que es cuando los sesgos de la sociedad se incrustan inadvertidamente en el diseño algorítmico, los datos de entrenamiento de la IA y otros aspectos del desarrollo de la IA. El sesgo de la IA puede producir resultados poco útiles o incluso perjudiciales para las personas de grupos infrarrepresentados, lo que dificulta su capacidad de participar en la economía y la sociedad.

Parte del problema de la parcialidad se debe a que, como señalan los investigadores del Centro para el Gobierno de la IA, las principales empresas de IA suelen emplear a "un reducido grupo demográfico" de desarrolladores. Los investigadores concluyeron que incluir a más personas en el desarrollo de la IA podría dar lugar a aplicaciones que sirvieran a intereses más diversos.⁹

Por ahora, la mayor parte del desarrollo y la innovación de la IA sigue concentrada en ciertos países y en el sector con fines de lucro. Según un estudio de 2024, los desarrolladores de Estados Unidos produjeron cinco veces más modelos fundacionales de IA en un solo año como en China, hogar del segundo nivel más alto de desarrollo. Mientras tanto, los desarrolladores de los sectores tecnológicos crearon casi cuatro veces más modelos que los procedentes del mundo académico.¹⁰

El gobierno de la IA se refiere a los procesos, normas y barreras que ayudan a garantizar que los sistemas y herramientas de la IA son seguros y éticos. Por consiguiente, democratizar el gobierno de la IA es la idea de que más personas y organizaciones, más allá de los desarrolladores y las empresas tecnológicas, tengan influencia sobre la implementación segura y ética de la tecnología de IA.

Tal democratización, dicen los defensores del gobierno, puede ayudar a minimizar los daños relacionados con la implementación de la IA, como la discriminación o las violaciones de la privacidad. También podría ayudar a fomentar una mayor explicabilidad, interpretabilidad, transparencia y otras características de la IA que mejoren la confianza en los sistemas de IA.

Sin embargo, al igual que con la democratización del desarrollo de la IA, los detalles de quién, exactamente, debe participar en la democratización de la gobernanza pueden variar. Algunos argumentan que debería incluir deliberadamente a aquellos que se ven afectados por la implementación de la IA.¹¹ Otros sugieren que, de alguna manera, todos los miembros de la sociedad deberían participar en el gobierno de la IA.¹²

Las medidas de democratización del gobierno pueden llevarse a cabo a nivel empresarial, y las empresas recopilan entrada sobre el gobierno de sus sistemas de IA de empleados o clientes. A mayor escala, los esfuerzos de democratización se están llevando a cabo a través de acciones de gobierno, es decir, marcos voluntarios y regulaciones obligatorias, e iniciativas de colaboración en los sectores público y privado.

Diferentes herramientas y tecnologías apoyan la democratización de la IA al permitir que más personas y organizaciones desarrollen sus propias aplicaciones de IA.

El software de código abierto es un software desarrollado y actualizado colectivamente por una comunidad de usuarios. También está disponible para que cualquiera la utilice, modifique y redistribuya sin coste alguno. En cuanto a la IA, las bibliotecas de modelos de código abierto, como las que ofrece Hugging Face, partner de IBM, incluyen modelos fundacionales que las empresas pueden adaptar para casos de uso específicos.

Las herramientas adicionales de código abierto pueden ayudar a los usuarios a aprovechar al máximo los modelos disponibles. Por ejemplo, InstructLab, un proyecto de código abierto de IBM Research y Red Hat, genera datos sintéticos, lo que ayuda a acelerar la formación de LLM. Los datos sintéticos se pueden adaptar a objetivos, valores y casos de uso específicos, mientras que recopilar datos del mundo real que cumplan con especificaciones similares puede ser arduo y prohibitivamente costoso.

La infraestructura necesaria para adaptar e implementar con éxito los sistemas de IA puede ser un obstáculo importante para las organizaciones que desean adoptar soluciones de IA. Dicha infraestructura incluye soluciones de almacenamiento de datos, recursos, marcos de machine learning y plataformas de operaciones de machine learning (MLOps).

Afortunadamente, los modelos de software como servicio permiten a las empresas acelerar la adopción de la IA sin grandes inversiones en infraestructura. Una colaboración entre IBM y Amazon podría facilitar a las empresas el acceso a SaaS centrado en la IA, ya que IBM ofrece ahora soluciones clave de almacenamiento de datos y gobierno de la IA a través del mercado de AWS de Amazon.

Gracias a las herramientas y plataformas no-code, aquellos con habilidades de codificación limitadas o nulas pueden crear algunas aplicaciones de IA. Las soluciones no-code, como Amazon SageMaker Canvas, ofrecen la automatización de los flujos de trabajo de desarrollo de IA y cuentan con interfaces de arrastrar y soltar para un enfoque centrado en la visualización.

En los últimos años han surgido varias iniciativas en los sectores público y privado para avanzar en las tres formas de democratización de la IA: uso, desarrollo y gobierno. Estas iniciativas incluyen:

AI Alliance es una comunidad internacional de desarrolladores, investigadores y adoptantes de IA que colaboran para promover una IA abierta, segura y responsable. El grupo, lanzado en 2023 por IBM y Meta, incluye líderes de universidades, sectores y gobiernos. Los objetivos del grupo incluyen desarrollar puntos de referencia y herramientas de evaluación para permitir el desarrollo y uso responsables de la IA, avanzar en el desarrollo de modelos fundacionales de código abierto y desarrollar contenido educativo para informar al público y a los responsables de las políticas.

La Alianza de gobierno de la IA (AIGA) fue lanzada por el Foro Económico Mundial en 2023 tras la Cumbre de Liderazgo de IA responsable del FEM. La AIGA promueve la inclusión, la ética y la sostenibilidad en el desarrollo y la implementación de la IA. Su comité directivo, que se encarga de asesorar sobre los outputs de la alianza, incluye líderes académicos, funcionarios del gobierno y ejecutivos de organizaciones de Tecnología como Google, IBM, Meta y OpenAI.

El proyecto piloto National AI Research Resource (NAIRR) de la Fundación Nacional de la Ciencia de EE.UU. pretende poner en contacto a investigadores de todo el país con recursos de infraestructura de IA. El piloto consiste en una asociación con otras 12 agencias federales y otras 26 organizaciones, incluidas Amazon Web Services, Google, Hugging Face, IBM, Intel, Meta, Microsoft y OpenAI.

Diferentes gobiernos y organizaciones intergubernamentales han desarrollado marcos de IA fiable con el fin de promover una mayor equidad y transparencia, entre otras cualidades clave, en el desarrollo y la implementación de los sistemas de IA. Entre estos marcos figuran los Principios de la IA de la Organización de Cooperación y Desarrollo Económicos y el Marco de Gestión de Riesgos de la IA del Instituto Nacional de Estándares y Tecnología. Los principios de al menos un marco, las directrices éticas de la Unión Europea para una inteligencia artificial digna de confianza, se incorporaron posteriormente a la legislación: La Ley de IA de la UE.

La mejora de las habilidades de la IA prepara a los empleados con las habilidades y la Formación necesarias para utilizar la IA en el trabajo. Entre las disciplinas en las que la mejora de las competencias mediante IA ha resultado especialmente útil para los trabajadores se encuentran el servicio de atención al cliente, los servicios financieros, la sanidad, los recursos humanos y el desarrollo web. Aunque los trabajadores o sus empleadores pueden invertir en programas de formación de IA de pago, varias empresas de tecnología y universidades ofrecen cursos de IA gratuitos, como Amazon, IBM, la Universidad de Harvard y la Universidad de Pensilvania.¹³