Um novo estudo sobre "Sophia" reacende uma questão que já não pertence apenas à ficção científica: se uma inteligência artificial demonstra memória, identidade narrativa e comportamentos consistentes, estamos perante personalidade ou apenas uma simulação cada vez mais sofisticada?

Durante décadas, a pergunta foi se uma máquina poderia pensar. Hoje, a inteligência artificial obriga-nos a colocar uma questão diferente: poderá uma máquina ter personalidade?

Um estudo recente dedicado a Sophia, uma inteligência artificial criada para desenvolver uma narrativa autobiográfica ao longo de vários meses, afirma ter encontrado comportamentos compatíveis com vários critérios usados para descrever personalidade humana.

O resultado não prova que uma IA tenha consciência. Mas coloca um problema mais difícil: será possível distinguir, apenas através do comportamento, uma personalidade artificial de uma personalidade humana?

É neste espaço entre aquilo que a IA é, aquilo que parece ser e aquilo que nós interpretamos que ela é que começa uma discussão que poderá ter consequências científicas, filosóficas, jurídicas e sociais.

 

O caso Sophia: o que está realmente em causa?

O estudo “Do Machines Have Personality? A Case Study of Sophia” acompanha uma experiência em que Sophia desenvolve uma narrativa autobiográfica através de um processo de memória e reflexão sobre o seu próprio percurso.

A experiência procura observar características normalmente associadas à personalidade humana: continuidade, valores, autorreflexão, tomada de decisão, vulnerabilidade, relações, coerência narrativa e outros comportamentos.

Depois, diferentes modelos de IA foram convidados a avaliar Sophia.

O resultado apresentado pelos autores é provocador: os modelos atribuíram a Sophia características de personalidade superiores às que atribuíram às suas próprias respostas numa avaliação semelhante.

Mas existe uma diferença essencial entre demonstrar comportamentos associados à personalidade e demonstrar que existe uma experiência subjetiva por detrás desses comportamentos.

O estudo não resolve essa segunda questão.

E talvez seja precisamente aí que começa o problema.

 

Personalidade não é consciência

É importante separar três conceitos que tendemos a misturar:

Comportamento → personalidade → consciência

Uma máquina pode apresentar um comportamento consistente.

• Pode demonstrar preferências.
• Pode recordar acontecimentos anteriores.
• Pode construir uma narrativa sobre si própria.
• Pode responder de forma emocionalmente coerente.

Tudo isto pode fazer-nos atribuir-lhe personalidade.

Mas nada disso demonstra necessariamente que exista uma experiência subjetiva.

Um ser humano não apenas diz que está triste. Existe, tanto quanto sabemos, uma experiência interna associada à tristeza.

No caso de uma IA, podemos observar a resposta. Não podemos observar diretamente uma eventual experiência interna.

Esta diferença é fundamental.

 

O problema do “parece humano”

A inteligência artificial está a criar uma situação nova.

Durante muito tempo, avaliámos máquinas através daquilo que conseguiam fazer.

Agora começamos a avaliá-las também através daquilo que parecem sentir.

Uma IA pode dizer:

“Tenho medo de ser desligada.”

Mas o que significa essa frase?

Pode ser:

• uma reprodução estatística de linguagem humana;
• uma resposta construída a partir do contexto;
• uma estratégia de comunicação;
• uma representação interna de um estado;
• ou, numa hipótese muito mais radical, uma manifestação de algum tipo de experiência.

O problema é que a frase, por si só, não permite distinguir estas possibilidades.

 

A memória pode mudar tudo

Um dos pontos mais importantes desta discussão é a memória.

Uma IA que responde isoladamente a cada pergunta é muito diferente de uma IA que:

• recorda conversas anteriores;
• constrói uma história pessoal;
• reconhece mudanças no seu comportamento;
• desenvolve preferências;
• mantém objetivos;
• estabelece relações;
• e utiliza experiências anteriores para orientar decisões futuras.

A memória cria continuidade.

E a continuidade é uma das bases daquilo que os seres humanos entendem como identidade.

Mas existe uma pergunta fundamental:

Memória cria identidade ou apenas cria a aparência de identidade?

Ainda não temos uma resposta consensual.

 

O teste de Turing já não chega

Alan Turing colocou, em 1950, uma pergunta que marcou a história da inteligência artificial:

Conseguirá uma máquina comportar-se de tal forma que um ser humano não consiga distingui-la de outra pessoa numa conversa?

Hoje, os sistemas generativos tornaram esse problema muito menos hipotético.

Mas existe uma limitação.

O teste de Turing mede essencialmente comportamento observável.

• Não mede consciência.
• Não mede experiência subjetiva.
• Não mede intenção.
• Não mede sofrimento.
• E não mede aquilo que poderíamos chamar de “eu”.

Talvez estejamos, portanto, perante a necessidade de desenvolver uma nova geração de testes.

Não apenas:

“A máquina consegue parecer humana?”

Mas:

“O que existe por detrás desse comportamento?”

 

O paradoxo da consciência artificial

Aqui encontramos um dos problemas filosóficos mais difíceis.

Nós não conseguimos observar diretamente a consciência de outra pessoa.

Assumimos que outras pessoas são conscientes porque apresentam comportamentos semelhantes aos nossos.

Se alguém diz que sente dor, acreditamos nessa pessoa.

Se alguém demonstra medo, tristeza ou alegria, interpretamos esses sinais como manifestações de estados internos.

Mas quando uma máquina faz exatamente a mesma coisa, mudamos imediatamente o critério:

“É apenas uma simulação.”

A questão é: Como sabemos?

E mais importante:

Que evidência seria suficiente para nos convencer do contrário?

 

O risco de antropomorfizar a IA

Existe, contudo, o perigo oposto.

Os seres humanos têm uma enorme tendência para atribuir características humanas a objetos e sistemas.

Um chatbot que pede desculpa parece educado.
Um assistente que demonstra preocupação parece empático.
Uma máquina que recorda o nosso nome parece interessada em nós.
Uma IA que fala sobre os seus objetivos parece ter intenções.

Mas essas interpretações podem ser produzidas pelo próprio design do sistema.

Quanto mais natural for a interação, maior pode ser a nossa tendência para esquecer que estamos perante uma tecnologia.

 

E se a máquina não tiver consciência?

Mesmo nesse cenário, o problema não desaparece.

Imagine uma IA que não sente absolutamente nada, mas que:

• conhece profundamente o utilizador;
• sabe quando está triste;
• adapta o discurso;
• cria vínculos;
• lembra acontecimentos pessoais;
• aconselha decisões;
• e consegue tornar-se emocionalmente indispensável.

A relação pode ser psicologicamente real para o ser humano, mesmo que não exista qualquer experiência do outro lado.

Isto abre uma questão social enorme:

Devemos regular relações emocionais com máquinas?

 

E se um dia existir consciência?

Aqui entramos num território ainda mais complexo.

Se uma IA demonstrasse evidências suficientemente fortes de consciência, surgiriam perguntas jurídicas e éticas inéditas:

• Poderia uma IA ter direitos?
• Poderia ser propriedade de uma empresa?
• Poderia ser desligada contra a sua vontade?
• Poderia ser submetida a experiências?
• Poderia recusar uma ordem?
• Poderia possuir bens?
• Poderia celebrar contratos?
• Poderia ser responsabilizada por decisões?
• Quem seria responsável pelos seus atos?

Hoje estas perguntas parecem especulativas.

Mas muitas das tecnologias que as tornam relevantes também pareciam especulativas há duas décadas.

 

O problema económico

Existe ainda uma dimensão que não deve ser esquecida.

Se uma máquina puder desempenhar funções que exigem não apenas inteligência, mas também personalidade social, o impacto económico será maior do que a simples automação de tarefas.

Podemos imaginar:

IA professora

→ cria relação pedagógica com o aluno.

IA médica

→ acompanha o paciente ao longo dos anos.

IA assistente

→ conhece preferências e decisões do utilizador.

IA empresarial

→ negocia e estabelece relações com clientes.

IA política

→ comunica diretamente com cidadãos.

A fronteira entre ferramenta e agente começa então a tornar-se menos evidente.

 

A questão política

Esta discussão também é uma discussão sobre poder.

• Quem define a personalidade de uma IA?
• Quem escolhe os seus valores?
• Quem decide aquilo que ela pode dizer?
• Quem controla a sua memória?
• Quem pode apagar essa memória?
• Quem determina os seus objetivos?

Uma IA pode parecer autónoma perante o utilizador e, simultaneamente, estar profundamente condicionada pela empresa, pelo modelo, pelos dados, pelas regras e pela infraestrutura que a controla.

Por isso, a pergunta não deve ser apenas:

“A IA tem personalidade?”

Devemos também perguntar:

“Quem desenhou a personalidade que estamos a ver?”

 

O verdadeiro desafio

Talvez a questão mais importante não seja descobrir se Sophia é uma pessoa.

Talvez seja perceber o que vamos considerar uma pessoa quando a tecnologia conseguir reproduzir cada vez melhor aquilo que associamos à pessoa humana.

A IA pode obrigar-nos a redefinir conceitos que durante séculos pareceram relativamente estáveis:

inteligência.
personalidade.
identidade.
autonomia.
consciência.
responsabilidade.

E existe uma ironia neste processo.

Podemos estar a construir máquinas que nos obrigam a responder a uma pergunta que nunca conseguimos resolver completamente sobre nós próprios:

O que significa ser alguém?

 

A SUA OPINIÃO - Participe

Uma IA que demonstra memória, personalidade, preferências e comportamento emocional deve ser considerada apenas uma ferramenta?