Explorar los riesgos y alternativas de ChatGPT: allanando el camino hacia una IA fiable

Está preparando un batido para sus amigos. Ya lo ha mezclado con frutas variadas y yogur, cuando de repente llega su amigo Ruchir con una manzana madura y se la da para finalizar su refrescante obra maestra. Una vez acabado, el aroma de la manzana inunda la estancia mientras sirve los vasos. Antes del primer sorbo, Ruchir dice: “He cambiado de idea, me tengo que ir y quiero mi manzana". Usted responde: "Lo siento, pero eso no va a poder ser". Volveremos a esta historia en un momento para explicar su relación con ChatGPT y la IA fiable.

A medida que evoluciona el mundo de la inteligencia artificial (IA), nuevas herramientas como ChatGPT deOpenAI han llamado la atención por sus capacidades conversacionales. Sin embargo, también hay que tener en cuenta la importancia de evaluar los riesgos inherentes antes de embarcarse en su adopción directa dentro de nuestras organizaciones. En esta discusión, exploramos los riesgos y desafíos asociados con ChatGPT en un contexto empresarial, lo que requiere un enfoque cuidadoso para su implementación. Además, enfatizaremos la importancia de adoptar IBM® watsonx para garantizar soluciones de IA fiable. Y en caso de duda, recomendamos emplear el mismo sentido común que ha guiado siempre a la hora de contratar nuevos servicios de internet.

ChatGPT aprovecha el inmenso poder de GPT-3 (enlace externo a ibm.com) y GPT-4, perteneciente a una nueva clase de modelos de lenguaje de gran tamaño “gigantescos” y ampliamente populares, utilizados en diversas aplicaciones de IA. Con ChatGPT, los usuarios pueden hacer preguntas, generar texto, redactar correos electrónicos, discutir código en diferentes lenguajes de programación, traducir lenguaje natural a código y más. Destaca como un chatbot conversacional de alta calidad que busca proporcionar respuestas coherentes y conscientes del contexto.

ChatGPT es una excelente herramienta para explorar la escritura creativa, generar ideas e interactuar con la IA. Es de uso gratuito para todo el mundo, con una versión más avanzada disponible para suscriptores de ChatGPT Plus. La capacidad del chatbot para recordar conversaciones anteriores se suma a su experiencia interactiva y atractiva.

Aunque ChatGPT ha ganado una atención y popularidad significativas, se enfrenta a la competencia de otros chatbots con IA y sistemas de procesamiento del lenguaje natural (PLN). Google, por ejemplo, ha desarrollado Bard, su chatbot de IA, que funciona con su propio motor de lenguaje llamado PaLM 2. De manera similar, Meta lanzó recientemente su impresionante modelo LLaMA2. A medida que evolucione el campo de los chatbots con IA, sin duda aumentará la competencia y surgirán nuevos actores. Es esencial mantenerse al día sobre los avances en este ámbito para explorar las mejores soluciones para las necesidades empresariales.

El uso directo de ChatGPT en una empresa presenta riesgos y desafíos. Entre ellas se incluyen la seguridad y la fuga de datos, los problemas de confidencialidad y responsabilidad, las complejidades de la propiedad intelectual, el cumplimiento de las licencias de código abierto, las limitaciones en el desarrollo de la IA y la incertidumbre sobre la privacidad y el cumplimiento de las leyes internacionales. Aquí, exploramos estos riesgos y compartimos ejemplos que ilustran cómo estos riesgos pueden manifestarse en las actividades diarias de su empresa.

Comenzaremos examinando soluciones alternativas que tienen como objetivo mitigar los riesgos relacionados con el uso directo de ChatGPT, incluido IBM watsonx, que recomendamos para el uso empresarial, porque aborda la dirección de los datos y las preocupaciones sobre la privacidad a través de una curación y un gobierno rigurosos. Concluiremos esta conversación volviendo a la historia del batido, lo prometemos, pero, al hacer referencia a "sus datos", sustitúyalos por "su manzana".

Antes de explorar soluciones alternativas, es crucial que las empresas sean conscientes de los riesgos y desafíos potenciales que conlleva el uso directo de ChatGPT. Como recordatorio de sentido común, la historia de Internet ha mostrado la aparición y evolución de nuevos servicios (por ejemplo, búsqueda de Google, plataformas de redes sociales, etc.), lo que subraya la importancia de la protección de datos en la empresa. Teniendo esto en cuenta, estos son los factores clave que deben tenerse en cuenta:

Seguridad y fuga de datos

Si se introduce información confidencial de terceros o interna de la empresa en ChatGPT, pasa a formar parte del modelo de datos del chatbot y puede compartirse con otras personas que hagan preguntas relevantes. Esto podría dar lugar a fugas de datos y violar las políticas de seguridad de una organización.

Ejemplo: no se deben compartir con ChatGPT los planes para un nuevo producto que su equipo está ayudando a lanzar a un cliente, incluidas las especificaciones confidenciales y las estrategias de marketing, para evitar el riesgo de fuga de datos y posibles violaciones de seguridad.

Confidencialidad y privacidad

Al igual que en el punto anterior, compartir información confidencial de clientes o socios puede infringir los acuerdos contractuales y los requisitos legales de protección de dicha información. Si la seguridad de ChatGPT se ve comprometida, el contenido confidencial puede filtrarse, lo que podría afectar a la reputación de la organización y exponerla a responsabilidades.

Ejemplo: supongamos que una organización sanitaria utiliza ChatGPT para ayudar a responder a las consultas de los pacientes. Si se comparte información confidencial del paciente, como registros médicos o detalles personales de salud, con ChatGPT, podría violar las obligaciones legales y los derechos de privacidad del paciente protegidos por leyes como la HIPAA (Ley de Portabilidad y Responsabilidad del Seguro Médico) (enlace externo a ibm.com) en los Estados Unidos.

Problemas de propiedad intelectual

La propiedad del código o texto generado por ChatGPT puede ser compleja. Los términos de servicio establecen que el output pertenece al proveedor de la entrada, pero pueden surgir problemas cuando el output incluye datos protegidos legalmente procedentes de otras entradas. Las preocupaciones sobre los derechos de autor también puede surgir si se utiliza ChatGPT para generar material escrito basado en propiedad protegida por derechos de autor.

Ejemplo: la generación de material escrito con fines de marketing que incluya contenido protegido por derechos de autor de fuentes externas sin la atribución o el permiso adecuados podría infringir los derechos de propiedad intelectual de los creadores del contenido original. Esto puede conllevar consecuencias legales y daños reputacionales para la empresa.

Cumplimiento de las licencias de código abierto

Si ChatGPT utiliza bibliotecas de código abierto e incorpora ese código en productos, podría violar potencialmente las licencias de software de código abierto (OSS) (por ejemplo, GPL), lo que generaría complicaciones legales para la organización.

Ejemplo: si una empresa utiliza ChatGPT para generar código para un producto de software y no está claro el origen de los datos de entrenamiento utilizados para entrenar GPT, existe el riesgo de infringir potencialmente los términos de las licencias de código abierto asociadas a ese código. Esto puede provocar complicaciones legales, incluidas las denuncias por infracción de licencia y posibles acciones legales por parte de la comunidad de código abierto.

Limitaciones en el desarrollo de la IA

Los términos de servicio de ChatGPT especifican que no se puede utilizar en el desarrollo de otros sistemas de IA. Utilizar ChatGPT de esta manera podría obstaculizar futuros planes de desarrollo de IA si la empresa opera en ese ámbito.

Ejemplo: una empresa especializada en tecnología de reconocimiento de voz planea mejorar su sistema existente integrando las capacidades de procesamiento del lenguaje natural de ChatGPT. Sin embargo, las condiciones de servicio de ChatGPT establecen explícitamente que no se puede utilizar en el desarrollo de otros sistemas de IA.

Volviendo a nuestra historia del batido, el ChatGPT público utiliza sus datos de entrada para mejorar su red neuronal, del mismo modo que la manzana añade sabor al batido. Una vez que sus datos entran en ChatGPT, usted ya no tiene control ni conocimiento sobre cómo se están utilizando. Por lo tanto, uno debe asegurarse de tener todos los derechos para incluir su manzana y de que esta no contiene datos confidenciales.

Para abordar estas preocupaciones, IBM watsonx ofrece datos y modelos seleccionados y transparentes, lo que proporciona un mayor control y confianza en la creación y uso de su batido. En pocas palabras, si Ruchir pidiera que le devolvieran su manzana, watsonx podría atender su solicitud. Ahí lo tiene: la analogía y la historia completas.

IBM watsonx introduce tres características clave: watsonx.data, watsonx.ai y watsonx.governance, que colaboran para establecer una IA fiable de una manera que aún no existe en los modelos de OpenAI. Estas características conservan y etiquetan los datos y los modelos de IA, y garantizan la transparencia en los detalles de origen y propiedad. También rigen los modelos y los datos, y abordan los problemas continuos de desviación y sesgo. Este enfoque riguroso mitiga eficazmente las preocupaciones sobre la propiedad de los datos y la privacidad que se analizan en este artículo.

IBM se ha asociado con Hugging Face, una empresa de código abierto, para crear un ecosistema de modelos. Ambas empresas están aprovechando las características de watsonx para seleccionar y respaldar modelos en función de su funcionalidad y fiabilidad.

El uso directo de chatbots de IA como ChatGPT dentro de una empresa presenta riesgos relacionados con la seguridad, la fuga de datos, la confidencialidad, la responsabilidad, la propiedad intelectual, el cumplimiento, las limitaciones en el desarrollo de la IA y la privacidad. Estos riesgos pueden tener consecuencias perjudiciales para las organizaciones, como daños a la reputación y costosas complicaciones legales.

Para mitigar estos riesgos y establecer una IA fiable, IBM watsonx se perfila como la solución recomendada. Ofrece datos seleccionados y etiquetados y modelos de IA, lo que garantiza la transparencia en la propiedad y el origen. Aborda las preocupaciones relacionadas con los prejuicios y la deriva, proporcionando una capa adicional de confianza. IBM watsonx logra un equilibrio entre innovación y uso responsable de la IA. Además, la colaboración entre IBM y Hugging Face fortalece el ecosistema de modelos.

Aunque watsonx ofrece mayor fiabilidad y rigor, pocos modelos pueden igualar actualmente la amplia gama de usos generales de ChatGPT y la familia de modelos GPT. El campo de los modelos de IA continúa evolucionando y se pueden esperar mejoras continuas. Para asegurar resultados óptimos, es fundamental entender cómo se valoran y entrenan los modelos. Este conocimiento permite tomar decisiones informadas y permite a las organizaciones seleccionar los modelos que mejor se alinean con sus necesidades y estándares de calidad.

Al adoptar watsonx, las organizaciones pueden aprovechar el potencial de la IA mientras mantienen el control sobre sus datos y garantizan el cumplimiento de las normas éticas y legales. Pueden salvaguardar sus datos, proteger su propiedad intelectual y fomentar la confianza con los stakeholders, al tiempo que se benefician de modelos seleccionados y una mayor transparencia. A medida que las empresas navegan por el ámbito de la IA, es crucial proceder con cautela, explorar soluciones y dar prioridad a una IA fiable.