Explorando los riesgos y las alternativas de ChatGPT: allanando el camino hacia una IA confiable

Está preparando un batido para que lo disfruten sus amigos. Ya mezclado con fruta surtida y yogurt, su amigo Ruchir llega con una manzana madura y se la da para completar su refrescante obra maestra. Ahora completo, casi todavía se puede oler el toque de manzana mientras se vierte la bebida. Antes de su primer sorbo, Ruchir dice: “He cambiado de opinión, necesito irme y me gustaría recuperar mi manzana”. Usted responde: "Ah, disculpe, pero eso no es posible". Volveremos a esta historia en un momento y explicaremos cómo se relaciona con ChatGPT y la IA confiable.

A medida que evoluciona el mundo de la inteligencia artificial (IA), surgen nuevas herramientas como ChatGPT de OpenAI ganó atención por sus capacidades de conversación. Sin embargo, también entiendo la importancia de evaluar los riesgos inherentes antes de embarcarse en su adopción directa dentro de nuestras organizaciones. En esta discusión, exploro los riesgos y desafíos asociados con ChatGPT en un contexto empresarial, lo que requiere un enfoque cuidadoso para su implementación. Además, enfatizaré la importancia de adoptar IBM® watsonx para garantizar soluciones de IA confiable. Y en caso de duda, le recomiendo que utilice el mismo sentido común que siempre ha utilizado al emplear nuevos servicios de Internet.

ChatGPT aprovecha el inmenso poder de GPT-3 (enlace externo a ibm.com) y GPT-4, perteneciente a una nueva clase de modelos de lenguaje grandes, “gigantescos” y ampliamente populares, utilizados en diversas aplicaciones de IA. Con ChatGPT, los usuarios pueden hacer preguntas, generar texto, redactar correos electrónicos, discutir el código en diferentes lenguajes de programación, traducir el lenguaje natural al código y más. Destaca como un chatbot conversacional de alta calidad que busca proporcionar respuestas coherentes y conscientes del contexto.

ChatGPT es una excelente herramienta para explorar la escritura creativa, generar ideas e interactuar con la IA. Es gratis para todos, con una versión más avanzada disponible para suscriptores de ChatGPT Plus. La capacidad del chatbot para recordar conversaciones anteriores se suma a su experiencia interactiva y atractiva.

Si bien ChatGPT ha ganado una gran atención y popularidad, se enfrenta a la competencia de otros chatbots impulsados por IA y sistemas de procesamiento de lenguaje natural (PLN). Google, por ejemplo, desarrolló Bard, su chatbot de IA, que funciona con su propio motor de lenguaje llamado PaLM 2. De manera similar, Meta lanzó recientemente su impresionante modelo LLaMA2. A medida que el campo de los chatbots de IA continúe evolucionando, sin duda habrá una mayor competencia y la aparición de nuevos jugadores. Es fundamental mantener al día de los avances en este ámbito para explorar las mejores soluciones a las necesidades empresariales.

El uso directo de ChatGPT en una compañía presenta riesgos y desafíos. Estos incluyen seguridad y fuga de datos, preocupaciones de confidencialidad y responsabilidad, complejidades de propiedad intelectual, cumplimiento de licencias de código abierto, limitaciones en el desarrollo de IA y privacidad incierta y cumplimiento de leyes internacionales. Aquí, exploro estos riesgos y comparto ejemplos que ilustran cómo estos riesgos podrían manifestarse en sus actividades empresariales diarias.

Comenzaré examinando soluciones alternativas que tienen como objetivo mitigar los riesgos relacionados con el uso directo de ChatGPT, incluido IBM watsonx, que recomiendo para uso empresarial, porque aborda la dirección de los datos y las preocupaciones de privacidad a través de una curaduría y gobernanza rigurosas. Concluiré esta conversación volviendo a la historia del batido, lo prometo, pero cuando mencione “sus datos” a continuación, siéntase libre de sustituir la frase por “su manzana”.

Antes de explorar soluciones alternativas, es crucial que las empresas sean conscientes de los riesgos y desafíos potenciales que conlleva el uso directo de ChatGPT. Como recordatorio de sentido común, la historia de Internet ha mostrado la aparición y evolución de nuevos servicios (por ejemplo, búsqueda de Google, plataformas de redes sociales, etc.), lo que subraya la importancia de la privacidad de datos en la empresa. Teniendo esto en cuenta, estos son los factores clave que deben tenerse en cuenta:

Seguridad y fuga de datos

Si se ingresa información confidencial de terceros o interna de la empresa en ChatGPT, se convierte en parte del modelo de datos del chatbot y puede compartirse con otras personas que hagan preguntas relevantes. Esto podría dar lugar a filtraciones de datos y violar las políticas de seguridad de una organización.

Ejemplo: Los planes para un nuevo producto que su equipo está ayudando a lanzar a un cliente, incluidas las especificaciones confidenciales y las estrategias de marketing, no deben compartirse con ChatGPT para evitar el riesgo de filtración de datos y posibles violaciones de seguridad.

Confidencialidad y privacidad

De manera similar al punto anterior, compartir información confidencial de clientes o socios puede violar acuerdos contractuales y requisitos legales para proteger dicha información. Si la seguridad de ChatGPT se ve comprometida, el contenido confidencial puede filtrarse, lo que podría afectar la reputación de la organización y exponerla a responsabilidades.

Ejemplo: supongamos que una organización de atención médica utiliza ChatGPT para ayudar a responder a las consultas de los pacientes. Si la información confidencial del paciente, como registros médicos o detalles de salud personal, se comparte con ChatGPT, podría violar las obligaciones legales y los derechos de privacidad del paciente protegidos por leyes como HIPAA (Ley de Portabilidad y Responsabilidad del Seguro Médico) (enlace externo a ibm.com) en los Estados Unidos.

Preocupaciones sobre la propiedad intelectual

La propiedad del código o texto generado por ChatGPT puede ser compleja. Los términos de servicio establecen que la salida pertenece al proveedor de la entrada, pero pueden surgir problemas cuando la salida incluye datos protegidos legalmente procedentes de otras entradas. Preocupaciones sobre los derechos de autor También puede surgir si se emplea ChatGPT para generar material escrito basado en propiedad protegida por derechos de autor.

Ejemplo: Generar material escrito con fines de marketing y el resultado incluye contenido protegido por derechos de autor de fuentes externas sin la atribución o el permiso adecuados, podría infringir los derechos de propiedad intelectual de los creadores del contenido original. Esto puede conllevar consecuencias legales y daños reputacionales para la compañía.

Cumplimiento de licencias de código abierto

Si ChatGPT emplea bibliotecas de código abierto e incorpora ese código en productos, podría potencialmente violar las licencias de software de código abierto (OSS) (por ejemplo, GPL), lo que genera complicaciones legales para la organización.

Ejemplo: Si una empresa utiliza ChatGPT para generar código para un producto de software y el origen de los datos de entrenamiento utilizados para entrenar GPT no está claro, existe el riesgo de violar potencialmente los términos de las licencias de código abierto asociadas con ese código. Esto puede conllevar complicaciones legales, incluyendo reclamaciones de infracción de licencia y posibles acciones legales por parte de la comunidad de código abierto.

Limitaciones en el desarrollo de IA

Los términos de servicio de ChatGPT especifican que no se puede utilizar en el desarrollo de otros sistemas de IA. El uso de ChatGPT de esta manera puede obstaculizar los planes futuros de desarrollo de IA si la empresa opera en ese espacio.

Ejemplo: Una empresa especializada en tecnología de reconocimiento de voz planea mejorar su sistema existente integrando las capacidades de procesamiento de lenguaje natural de ChatGPT. Sin embargo, los términos de servicio de ChatGPT establecen explícitamente que no se puede utilizar en el desarrollo de otros sistemas de IA.

En relación con nuestra historia de batidos, ChatGPT público utiliza su instrucción para mejorar sus Neural Networks, como la manzana agrega sabor al batido. Una vez que sus datos ingresan a ChatGPT, como la manzana combinada, no tiene control ni conocimiento de cómo se utilizan. Por lo tanto, uno debe estar seguro de que tiene todos los derechos para incluir su apple y que no contiene datos confidenciales, por así decirlo.

Para abordar estas preocupaciones, IBM watsonx ofrece datos y modelos curados y transparentes, lo que proporciona un mayor control y confianza en la creación y el uso de su batido. En pocas palabras, si Ruchir le pidiera su vuelta de manzana, watsonx podría honrar su petición. Aquí tiene... Analogía e historia completas.

IBM watsonx presenta tres características clave: watsonx.data, watsonx.ai y watsonx.governance que colaboran para establecer una IA confiable de una manera que aún no está presente en los modelos de OpenAI. Estas características curan y etiquetan los datos y los modelos de IA, garantizando la transparencia en cuanto a los detalles de origen y propiedad. También gobiernan los modelos y los datos, abordando las preocupaciones continuas de desviación y sesgo. Este enfoque riguroso mitiga eficazmente las preocupaciones sobre la propiedad y la privacidad de los datos que se analizan en este artículo.

IBM se asoció con Hugging Face, una compañía de código abierto, para crear un ecosistema de modelos. Ambas empresas están aprovechando las características de watsonx para curar y respaldar modelos en función de su funcionalidad y confiabilidad.

El uso directo de chatbots de IA como ChatGPT en una compañía presenta riesgos relacionados con la seguridad, la filtración de datos, la confidencialidad, la responsabilidad, la propiedad intelectual, el cumplimiento normativo, las limitaciones en el desarrollo de IA y la privacidad. Estos riesgos pueden tener consecuencias perjudiciales para las organizaciones, incluyendo daños reputacionales y costosas complicaciones legales.

Para mitigar estos riesgos y establecer una IA confiable, IBM watsonx surge como una solución recomendada. Ofrece datos curados y etiquetados, así como modelos de IA, lo que garantiza la transparencia en cuanto a la propiedad y el origen. Aborda las preocupaciones relacionadas con el sesgo y la desviación, proporcionando una capa adicional de confianza. IBM watsonx logra un equilibrio entre innovación y uso de IA responsable. Además, la colaboración entre IBM y Hugging Face fortalece el ecosistema de modelos.

Si bien watsonx ofrece mayor confianza y rigor, actualmente pocos modelos pueden igualar la amplia gama de uso de uso general que se observa con ChatGPT y la familia de modelos GPT. El campo de los modelos de IA continúa evolucionando y se pueden esperar mejoras continuas. Para garantizar resultados óptimos, es crucial comprender cómo se califican y entrenan los modelos. Este conocimiento permite tomar decisiones informadas y permite a las organizaciones seleccionar los modelos que mejor se alinean con sus necesidades y estándares de calidad.

Al adoptar watsonx, las organizaciones pueden aprovechar el poder de la IA mientras mantienen el control sobre sus datos y garantizan el cumplimiento de los estándares éticos y legales. Pueden salvaguardar sus datos, proteger su propiedad intelectual y fomentar la confianza con los stakeholders, todo mientras se benefician de modelos curados y una mayor transparencia. A medida que las empresas navegan por el ámbito de la IA, es crucial proceder con cautela, explorando soluciones y priorizando la IA confiable.