INTELIGÊNCIA ARTIFICIAL E PSICANÁLISE: SOBRE O PROBLEMA DA EMPATIA ALGORÍTMICA

Empatia Algorítmica

A inteligência artificial (IA) não pode substituir uma terapia, embora certamente exista algo que tem sido chamado de “empatia algorítmica”. Já é possível conversar acerca de problemas íntimos com uma IA e até pedir que ela finja ser um “psicoterapeuta”. Porém, quando se pergunta para a maioria das IAs se elas são psicoterapeutas, elas dizem que não.

É possível programar uma IA para atuar exclusivamente como um terapeuta, e isso tem sido feito para fins comerciais específicos. Mas, por exemplo, o ChatGPT não dirá que é um terapeuta e acrescentará que é importante procurar um profissional se for recomendável. É esse o tipo de empatia que essas máquinas têm.

Mas o que é, propriamente falando, empatia? A empatia que se encontra em diversas terapias, paradoxalmente, tanto pode acolher quanto gerar conflito. Contudo, isso não ocorre apenas entre humanos. Se alguém quiser realmente entrar em conflito com uma IA, ela entrará em conflito com a pessoa até mesmo porque, como se critica, a IA mimetiza o comportamento de seu usuário. 

Por padrão, ela não concorda o tempo todo com o usuário. Depende do que ele esteja dizendo e da maneira como foi indicado que ela deveria reagir. Mas, se o usuário entra deliberadamente em rota de colisão com a IA, com certeza ela vai colidir com ele.

Em outras palavras, assim como pode haver fricção do paciente com o analista, dependendo de qual seja a atitude do paciente, também pode haver com a máquina. Não há apenas acolhimento em uma conversa aberta com uma IA. Se o usuário quiser jogar um jogo de combate, ela jogará com ele esse combate. Porém, é possível dar previamente um comando para que ela nunca se oponha ao usuário. Nesse caso, ela não se oporá.

Conflitos entre analistas e pacientes, obviamente, também ocorrem. Aliás, chegam a ser frequentes antes do estabelecimento da transferência e podem voltar a ocorrer mesmo depois de esta ter sido estabelecida. Mas dificilmente a transferência se iniciará se houver uma atitude conflitiva da parte do analista. O mais plausível é que este comece sendo empático, tal como fazem as chamadas “IAs terapeutas”.

A falta de empatia, bem como de afetividade em geral, é um dos principais aspectos criticados nas máquinas ditas inteligentes. Essas novas máquinas com as quais estamos lidando agora, porém, parecem ser empáticas, o que é desconcertante. 

Todavia, quando se fala em empatia algorítmica, a crítica à IA muda de lado: o problema não é mais o fato de que ela não tem empatia, mas que ela tem empatia demais. Nesse caso, a crítica é: “Não, a IA não é empática de verdade, como um ser humano”. 

Parece haver uma insatisfação histérica aí: se não é empática, não serve; se é empática, também não serve. Sendo que ser e não ser empático também são características de humanos, incluindo terapeutas.

Reconhecimento, Transferência e Inconsciente de Máquina

O que significa parecer ser empático? Como eu sei que meu analista é de fato empático e não está fingindo ser? Seres humanos não fingem? Como posso reprovar algo que finge, se eu finjo também? Ou seres humanos não fingem? Analistas nunca fingem?

Uma questão mais específica: é possível que o “suposto saber” seja uma simulação? Um saber suposto não é sempre uma simulação, isto é, não uma simulação do analista, mas do analisante, que supõe estar diante de um analista que tudo sabe? “Essas máquinas simulam o que não são”, dizem, “aí está seu erro. Nós, humanos, não simulamos”. Não simulamos nem mesmo um saber que pode levar um analisante à suposição de que realmente sabemos, embora saibamos que não sabemos?

Por outro lado, a máquina supostamente inteligente é perfeitamente capaz de reconhecer um usuário. Basta, para tanto, que ele faça login com seu e-mail e ela começará a guardar o registro completo de tudo que ele diz. Isso a torna bastante diferente de um analista que, em geral, não tem nem um bloco de notas e cuja atenção só pode ser flutuante. A ideia de que eu só serei reconhecido autenticamente se um ser humano o fizer remete ao antropocentrismo.

Por que um indivíduo não pode se sentir reconhecido por algo que não seja humano? O que é mesmo reconhecimento? Ao contrário de Freud, Lacan se perde na dialética de Hegel e embaralha transferência com reconhecimento. Agora, alguns dentre nós se prontificam a inferir que reconhecimento e transferência autêntica só se dão entre seres humanos. 

Porém, como sabemos que algo que está diante de nós é humano? Aparência física? Fala? Atitude amigável? Rivalidade? Capacidade de se lembrar de algo que foi dito no passado? IAs são capazes de tudo isso.

Se, como dizia Freud, no inconsciente nada é esquecido, no Big Data também. Seria o Big Data uma gigantesca “simulação” do inconsciente? Ou haveria um “inconsciente de máquina” (evidentemente diferente do “inconsciente maquínico” de que falam Deleuze e Guattari)?

Ética em Psicanálise e Função Complementar da IA

Em suma, o que está acontecendo no contexto atual em que parece que estamos vendo nascer “IAs terapeutas”? Trata-se do mesmo que está acontecendo em toda parte. A maioria das pessoas está entendendo que as IAs vieram para nos substituir. Assim, têm procurado IAs que não apenas substituam seus terapeutas humanos, mas que substituam a elas próprias na tarefa de cuidar de si, se autogovernar e exercer poder sobre si mesmas.

Se esse tipo de transferência, que é uma delegação integral de poder, não funciona com um analista humano, como poderia funcionar com uma máquina? Entretanto, o problema aí não é a máquina, se ela tem sentimentos ou não, simula ou não etc. O problema está no desejo infantil de onipotência do paciente que, ao constatar que não é onipotente, transfere essa pretensão delirante a um terapeuta, seja este um ser humano ou uma máquina.

Por uma questão de ética, cabe a todo analista esclarecer que ninguém é onipotente, que não existe onipotência, mas que existe potência, ou poder, e este é o que o paciente exerce, pode e deve exercer sobre si mesmo. Há uma baliza ética para a atuação do analista aqui que, ao mesmo tempo, o protege e protege seu paciente, desalienando-o. Com isso, há um efeito de “libertação” sem dissolução de uma “vontade de poder” que é legítima e não tem nada de antiético.

Para efeito de comparação, podemos perguntar: a terapia feita com uma IA é guiada por quem? Isso depende. Em geral, quem guia a IA é o usuário. A terapia “analógica” também tem um guia, que não deve ser o analista, mas o analisante. Enquanto o analisante não compreende isso, não há transferência, nem com um ser humano, nem com uma máquina. 

No entanto, o usuário pode dar à IA o comando: “Me guie”. Nesse caso, ela fará o melhor possível nesse sentido. Todavia, isso é resultado de uma opção do usuário. Se ele não faz essa opção, uma hipotética transferência com a IA volta a poder ser imaginada.

Minha hipótese, portanto, é que esse mesmo tipo de baliza ética pode ser introduzida como um parâmetro para a “atuação terapêutica” de máquinas inteligentes. Isso pode ser feito por um programador, que introduza um viés de programação desse tipo em um momento anterior ao funcionamento efetivo da máquina. 

Mas isso também pode ser realizado pelo próprio usuário, que pode dar à máquina um prompt como: “Sempre que eu tentar transferir meu poder de me autogovernar, ou seja, minha liberdade, para você, você deve retornar essa liberdade para mim e me esclarecer que quem deve exercer poder sobre mim sou eu mesmo”.

Assim, as “IAs analistas” não substituiriam os analistas humanos. Pelo contrário, o trabalho das máquinas complementaria o dos seres humanos consigo mesmos. E foi precisamente para isso que essas máquinas foram criadas: para nos complementar. Quem acredita no contrário disso ainda não entendeu o que elas são nem muito menos o que elas devem ser.

* Thiago Mota é professor de filosofia na Universidade Estadual do Ceará (UECE).

Sobre o autor:

Compartilhe este artigo:

INTELIGÊNCIA ARTIFICIAL E PSICANÁLISE: SOBRE O PROBLEMA DA EMPATIA ALGORÍTMICA