Explorando os riscos e alternativas do ChatGPT: abrindo um caminho para uma IA confiável

Você está preparando um smoothie para seus amigos apreciarem. Já misturado com frutas variadas e iogurte, seu amigo Ruchir chega com uma maçã madura e entrega para você completar sua refrescante obra-prima. Agora finalizada, ainda dá para sentir o leve aroma da maçã enquanto a bebida é servida. Antes do primeiro gole, Ruchir diz: “Mudei de ideia, preciso ir e gostaria da minha maçã de volta.” Você responde: “Ah, desculpe, mas isso simplesmente não é possível.” Voltaremos a essa história em um minuto para explicar como ela se relaciona ao ChatGPT (link externo ao ibm.com) e à IA confiável.

À medida que o mundo da inteligência artificial (IA) evolui, novas ferramentas como o ChatGPT da OpenAI ganham destaque por seus recursos conversacionais. No entanto, também entendo a importância de avaliar os riscos inerentes antes de embarcar em sua adoção direta dentro de nossas organizações. Nesta discussão, exploro os riscos e desafios associados ao ChatGPT em um contexto empresarial, exigindo uma abordagem cuidadosa para sua implementação. Além disso, enfatizarei a importância de adotar o IBM watsonx para garantir soluções de IA confiável. E, quando houver dúvida, recomendo usar o mesmo bom senso que você sempre utilizou ao adotar novos serviços da Internet.

O ChatGPT aproveita o imenso poder do GPT-3 (link externo ao ibm.com) e do GPT-4, pertencentes a uma nova classe de modelos de linguagem de “proporções gigantescas”, amplamente populares e usados em diversas aplicações de IA. Com o ChatGPT, usuários podem fazer perguntas, gerar textos, redigir e-mails, discutir código em diferentes linguagens de programação, traduzir linguagem natural para código e muito mais. Ele se destaca como um chatbot conversacional de alta qualidade, projetado para fornecer respostas coerentes e sensíveis ao contexto.

O ChatGPT é uma excelente ferramenta para explorar escrita criativa, gerar ideias e interagir com IA. É gratuito para todos, com uma versão mais avançada disponível para assinantes do ChatGPT Plus . A capacidade do chatbot de lembrar conversas anteriores contribui para uma experiência interativa e envolvente.

Embora o ChatGPT tenha ganhado grande atenção e popularidade, ele enfrenta concorrência de outros chatbots e sistemas de processamento de linguagem natural (PLN) impulsionados por IA. O Google, por exemplo, desenvolveu o Bard, seu chatbot de IA, alimentado por seu próprio mecanismo linguístico chamado PaLM 2. Da mesma forma, a Meta lançou recentemente seu impressionante modelo LLaMA2. À medida que o campo dos chatbots IA continua a evoluir, certamente haverá mais concorrência e o surgimento de novos players. É essencial manter-se atualizado sobre esses avanços neste espaço para explorar as melhores soluções para as necessidades corporativas.

O uso direto do ChatGPT em uma empresa apresenta riscos e desafios. Isso inclui segurança e vazamento de dados, preocupações com confidencialidade e responsabilidade, complexidades de propriedade intelectual, conformidade com licenças de código aberto, limitações no desenvolvimento de IA e privacidade e conformidade incertas com as leis internacionais. Aqui, eu exploro esses riscos e compartilho exemplos que ilustram como esses riscos podem se manifestar em suas atividades empresariais diárias.

Começarei examinando soluções alternativas que visam mitigar os riscos relacionados ao uso direto do ChatGPT, incluindo IBM watsonx, que eu recomendo para uso corporativo, porque lida com questões de propriedade e privacidade de dados por meio de seleção e governança rigorosas. Vou concluir esta conversa trazendo você de volta à história do smoothie, eu prometo, mas quando eu mencionar “seus dados” abaixo, sinta-se à vontade para substituir a frase por “sua maçã”.

Antes de explorar soluções alternativas, é crucial que as empresas estejam atentas aos riscos e desafios potenciais que acompanham o uso direto do ChatGPT. Como lembrete de senso comum, a história da Internet mostrou o surgimento e a evolução de novos serviços (por exemplo, pesquisa do Google, plataformas de redes sociais etc.), o que ressalta a importância da privacidade de dados na empresa. Tendo isso em mente, aqui estão os principais fatores que devem ser levados em consideração:

Segurança e vazamento de dados

Se informações confidenciais de terceiros ou internas da empresa forem inseridas no ChatGPT, elas se tornarão parte do modelo de dados do chatbot e poderão ser compartilhadas com outras pessoas que fizerem perguntas relevantes. Isso pode levar ao vazamento de dados e violar as políticas de segurança de uma organização.

Exemplo: os planos para um novo produto que sua equipe está ajudando um cliente a lançar, incluindo especificações confidenciais e estratégias de marketing, não devem ser compartilhados com o ChatGPT para evitar o risco de vazamento de dados e possíveis violações de segurança.

Confidencialidade e privacidade

Semelhante ao ponto acima, o compartilhamento de informações confidenciais de clientes ou parceiros pode violar acordos contratuais e requisitos legais para proteger tais informações. Se a segurança do ChatGPT for comprometida, o conteúdo confidencial poderá ser vazado, afetando potencialmente a reputação da organização e expondo-a à responsabilidade.

Exemplo: suponha que uma organização de saúde use o ChatGPT para ajudar a responder às consultas dos pacientes. Se informações confidenciais do paciente, como registros médicos ou detalhes de integridade, forem compartilhadas com o ChatGPT, isso poderá violar obrigações legais e direitos de privacidade do paciente protegidos por leis como a HIPAA (Lei de portabilidade e responsabilidade de planos de saúde)(link fora de ibm.com) nos Estados Unidos.

Preocupações de propriedade intelectual

A propriedade do código ou texto gerado pelo ChatGPT pode ser complexa. Os termos de serviço afirmam que a produção pertence ao provedor do input, mas podem surgir problemas quando a produção inclui dados legalmente protegidos provenientes de outros inputs. Preocupações de direitos autorais também podem surgir se o ChatGPT for usado para gerar material escrito com base em propriedade protegida por direitos autorais.

Exemplo: gerar material escrito para fins de marketing e o output incluir conteúdo protegido por direitos autorais de fontes externas sem a devida atribuição ou permissão adequada, isso poderia potencialmente violar os direitos de propriedade intelectual dos criadores do conteúdo original. Isso pode resultar em consequências legais e danos à reputação da empresa.

Conformidade com licenças de código aberto

Se o ChatGPT usar bibliotecas de código aberto e incorporar esse código a produtos, ele poderá violar licenças de software de código aberto (OSS) (por exemplo, GPL), levando a complicações legais para a organização.

Exemplo: se uma empresa usa o ChatGPT para gerar código para um produto de software e a origem dos dados de treinamento usados para treinar o GPT não for clara, há um risco de potencialmente violar os termos das licenças de código aberto associadas a esse código. Isso pode levar a complicações legais, incluindo reivindicações de violação de licença e possíveis ações legais da comunidade de código aberto.

Limitações no desenvolvimento de IA

Os termos de serviço do ChatGPT especificam que ele não pode ser usado no desenvolvimento de outros sistemas de IA. Usar o ChatGPT dessa forma pode dificultar os planos de desenvolvimento de IA futuros se a empresa operar nesse espaço.

Exemplo: uma empresa especializada em tecnologia de reconhecimento de voz planeja aprimorar seu sistema existente integrando os recursos de processamento de linguagem natural do ChatGPT. No entanto, os termos de serviço do ChatGPT afirmam explicitamente que ele não pode ser usado no desenvolvimento de outros sistemas de IA.

Em relação à nossa história com o smoothie, o ChatGPT público usa seus dados de prompt para aprimorar sua rede neural, como como a maçã adiciona sabor ao smoothie. Depois que seus dados entram no ChatGPT, como a maçã misturada, você não tem controle ou conhecimento de como eles estão sendo usados. Portanto, é preciso ter certeza de que eles têm todos os direitos para incluir sua maçã e que ela não contém dados confidenciais, por assim dizer.

Para lidar com essas preocupações, o IBM watsonx oferece dados e modelos selecionados e transparentes, proporcionando maior controle e confiança na criação e uso do seu smoothie. Simplificando, se Ruchir pedisse sua maçã de volta, o watsonx poderia atender ao pedido. Aqui está.... analogia e história completas.

O IBM watsonx introduz três características principais — watsonx.data, watsonx.ai e watsonx.governance — que colaboram para estabelecer IA confiável de uma forma que ainda não está presente nos modelos OpenAI. Essas funcionalidades selecionam e rotulam dados e modelos de IA, garantindo a transparência nos detalhes de origem e propriedade. Eles também controlam os modelos e dados, lidando com preocupações contínuas sobre desvios e viés. Essa abordagem rigorosa mitiga efetivamente as preocupações com a propriedade dos dados e a privacidade discutidas neste artigo.

A IBM fez uma parceria com a Hugging Face, uma empresa de código aberto, para criar um ecossistema de modelos. Ambas as empresas estão aproveitando os recursos do watsonx para selecionar e endossar modelos com base em sua funcionalidade e confiabilidade.

O uso direto de chatbots de IA como o ChatGPT dentro de uma empresa apresenta riscos relacionados à segurança, vazamento de dados, confidencialidade, responsabilidade, propriedade intelectual, compliance, limitações no desenvolvimento de IA e privacidade. Esses riscos podem gerar consequências prejudiciais para as organizações, incluindo danos reputacionais e complicações jurídicas custosas.

Para mitigar esses riscos e estabelecer uma IA confiável, o IBM watsonx surge como a solução recomendada. Ele oferece dados e modelos de IA curados e rotulados, garantindo transparência de propriedade e origem. Aborda preocupações relacionadas a viés e desvios, proporcionando uma camada adicional de confiança. O IBM watsonx equilibra inovação com uso responsável de IA. Além disso, a colaboração entre IBM e Hugging Face fortalece o ecossistema de modelos.

Embora o watsonx ofereça maior confiança e rigor, poucos modelos podem, no momento, igualar a ampla gama de usos gerais vista no ChatGPT e na família de modelos GPT. O campo de modelos de IA continua a evoluir, e melhorias contínuas são esperadas. Para garantir os melhores resultados, é essencial entender como os modelos são avaliados e treinados. Esse conhecimento permite decisões informadas e possibilita que as organizações selecionem modelos que melhor se alinhem às suas necessidades e padrões de qualidade.

Ao adotar o watsonx, as organizações podem aproveitar o poder da IA mantendo controle sobre seus dados e garantindo conformidade com padrões éticos e legais. Podem proteger seus dados, salvaguardar sua propriedade intelectual e cultivar confiança com seus stakeholders, tudo isso enquanto se beneficiam de modelos curados e maior transparência. À medida que as empresas navegam no universo da IA, é fundamental avançar com cautela, explorando soluções e priorizando uma IA verdadeiramente confiável.