O que é IA senciente?

Desde que os computadores foram inventados, os cientistas desenvolveram benchmarks, como o Teste de Turing, com o objetivo de avaliar a “inteligência” das máquinas. Logo depois, os debates sobre a inteligência das máquinas se transformaram em deliberações sobre sua consciência ou senciência.

Embora as discussões sobre a consciência da IA circulem desde o início dos anos 2000, a popularidade dos grandes modelos de linguagem, o acesso dos consumidores à IA generativa, como o ChatGPT, e uma entrevista no Washington Post com o ex-engenheiro do Google Blake Lemoine reacenderam o interesse na pergunta: a IA é senciente?

Lemoine disse ao Post que o LaMDA, o gerador de chatbots com inteligência artificial do Google, é senciente porque começou a falar sobre direitos e condição de pessoa e parecia ter percepção das próprias necessidades e sentimentos.

Os especialistas em ética do Google negaram publicamente essas afirmações. Yann LeCun, diretor de pesquisa em IA da Meta, disse ao The New York Times que esses sistemas não são poderosos o suficiente para alcançar a "verdadeira inteligência". O consenso atual entre os principais especialistas é que a IA não é senciente.

À medida que o aprendizado de máquina se torna mais avançado, os cientistas da computação buscam mais inovações nas ferramentas de IA, na esperança de criar dispositivos com uma compreensão mais profunda do comportamento humano, o que levaria a mais personalização e a respostas relevantes em tempo real, sem exigir tanta programação humana tediosa. Isso resultou em avanços na computação cognitiva, em que os sistemas interagem naturalmente com os humanos e resolvem problemas por meio de algoritmos de autoaprendizagem. O modelo GPT, da OpenAI, e o LaMDA, do Google, dão uma ideia do que pode estar em desenvolvimento em outras empresas de tecnologia, como Meta, Apple ou Microsoft.

A senciência seria um passo além. Ela se define pela capacidade de ter experiências subjetivas, percepção, memória e sentimentos. Mas as definições de senciência, cognição e consciência costumam ser inconsistentes e ainda são muito debatidas por filósofos e cientistas cognitivos.

Em teoria, a IA senciente perceberia o mundo ao seu redor, processaria estímulos externos e usaria tudo isso para tomar decisões, além de pensar e sentir como os seres humanos.

Embora a IA aprenda como os seres humanos aprendem e seja capaz de raciocinar até certo ponto, ela não é tão complexa quanto os humanos ou mesmo alguns cérebros de animais. Ainda é relativamente desconhecido como o cérebro humano dá origem à consciência, mas há mais envolvido do que apenas o número de células cerebrais conectadas entre si. Muitas vezes, a senciência é confundida com inteligência, que é outra funcionalidade que a comunidade científica ainda está trabalhando para quantificar nas máquinas.

As máquinas inteligentes aprendem por meio da exploração e podem se adaptar a novas entradas. A maioria dos programas de IA atualmente são especializados, em vez de generalistas, mais diretos que cerebrais. Cada programa é treinado para ser bom em uma tarefa ou tipo de problema muito restrito, como jogar xadrez ou fazer um teste padronizado.

Na pesquisa em ciência da computação, os especialistas em IA vêm explorando o conceito de "inteligência artificial geral" (AGI), também conhecida como IA forte, cujo objetivo é dotar a IA de uma inteligência mais semelhante à humana, que não seja específica para tarefas. Para além dela, há ainda o estado futuro hipotético da superinteligência artificial.

Essas habilidades têm o objetivo de proporcionar à IA uma melhor compreensão dos comandos e contextos humanos e, como resultado, automatizar o processamento de informações que permitem que as máquinas deduzam a função correta a ser executada em uma determinada condição por conta própria.

Ferramentas como o Teste de Turing foram criadas para avaliar como os comportamentos das máquinas são discerníveis dos humanos. Ele considera que um programa é inteligente se puder enganar outro ser humano, fazendo-o acreditar que ele também é humano.

Mas a inteligência é complicada de classificar. Por exemplo, o Argumento da Sala Chinesa ilustrou falhas no Teste de Turing para determinar a inteligência. É importante ressaltar que a inteligência geralmente se refere à capacidade de adquirir e usar o conhecimento. Não equivale a senciência. Não há evidências de que um modelo de IA tenha monólogos internos ou possa sentir sua própria existência em um mundo maior, que são duas qualidades da senciência.

Os grandes modelos de linguagem podem replicar a fala humana de forma convincente por meio de processamento de linguagem natural e natural language understanding.

Alguns tecnólogos argumentam que a arquitetura de redes neurais subjacentes à IA, como os LLMs, imita as estruturas do cérebro humano e estabelece as bases para a consciência.

Muitos cientistas da computação discordam, dizendo que a IA não é senciente e que ela simplesmente aprendeu como funciona a linguagem humana regurgitando conteúdo ingerido de sites como Wikipedia, Reddit e redes sociais sem realmente entender o significado por trás do que está dizendo ou por que está dizendo.

Os sistemas de IA historicamente se destacaram no reconhecimento de padrões, que pode se estender a imagens, vídeos, áudio, dados complexos e textos. Também podem assumir personas estudando os padrões de fala dessa pessoa específica.

Alguns especialistas se referem à IA como papagaios estocásticos que estão "costurando de forma aleatória sequências de formas linguísticas que observaram em seus vastos dados de treinamento, de acordo com informações probabilísticas sobre como elas se combinam, mas sem qualquer referência ao significado".

O problema é que os humanos têm esse desejo inato de conexão, que os leva a antropomorfizar objetos e a projetar neles seus sentimentos e personalidades, porque isso facilita os vínculos sociais.

Como disseram os pesquisadores do artigo sobre o papagaio estocástico: "Temos que levar em conta o fato de que nossa percepção do texto em linguagem natural, independentemente de como ele foi gerado, é mediada por nossa própria competência linguística e nossa predisposição para interpretar atos comunicativos como se transmitissem um significado e uma intenção coerentes, independentemente de serem ou não."

É por isso que algumas pessoas podem acreditar no que a IA diz, mesmo sabendo que essas tecnologias não podem realmente perceber ou entender o mundo além do que está disponível por meio de seus dados de treinamento.

Como os chatbots de IA conseguem manter conversas coerentes e transmitir sentimentos, as pessoas podem interpretar isso como algo significativo e muitas vezes esquecem que os LLMs, entre outras máquinas humanoides, são "programados para ser críveis", segundo a Scientific American. Cada uma de suas características, sejam as palavras que diz ou a forma como tenta emular expressões humanas, alimenta esse design.

A IA cria uma ilusão de presença ao seguir os movimentos da comunicação entre humanos, sem depender da experiência física do ser.

"Todas as sensações (fome, sentir dor, ver vermelho, apaixonar-se) são resultado de estados fisiológicos que um LLM simplesmente não tem", escreveram Fei-Fei Li e John Etchemendy, cofundadores do Institute for Human-Centered Artificial Intelligence da Universidade Stanford, em um artigo da TIME. Portanto, mesmo que um chatbot de IA seja levado a dizer que está com fome, ele não pode realmente estar com fome, porque não tem estômago.

As IAs atuais não são sencientes. Em experimentos e testes, esse tipo de modelo de IA também mostrou que ainda é bastante falho e pode cometer erros ou inventar informações com frequência, o que resulta em um fenômeno conhecido como alucinações.

Esses erros geralmente surgem quando os modelos não conseguem colocar o contexto em que a informação existe ou é incerta. Existe o risco de que essas falhas possam ser amplificadas se a IA se tornar mais autônoma.

Além disso, os especialistas em ética estão preocupados com a IA senciente porque não sabem o que pode acontecer se os cientistas da computação perderem o controle de sistemas que aprendem a pensar de forma independente. Isso pode representar um problema "existencial" se os objetivos da IA entrarem em conflito com os objetivos humanos. Se isso ocorrer, não está claro onde estaria a responsabilidade pelos danos, pela má tomada de decisões e pelos comportamentos imprevisíveis em que a lógica não pode ser rastreada até um comando original inserido por humanos.

Além disso, os especialistas temem não conseguir se comunicar com a IA ou confiar totalmente em suas saídas. No total, alguns concluem que a IA tendo senciência pode resultar em ameaças à segurança, à proteção e à privacidade.

À medida que a IA se torna mais integrada às tecnologias existentes, especialistas do setor pressionam por mais frameworks regulatórios e proteções técnicas. Eles são mais relevantes à luz dos dilemas morais e éticos em torno da autonomia e dos recursos da IA.