IA está criando um processo de pensamento fora das nossas mentes?

Baseado em artigo de Nicola Cerbino/UNICATT - 24/10/2024

Teste de Turing para inteligência artificial deve ser substituído por teste psicológico?
[Imagem: Andy Kelly/Unsplash]

Sistema 0 da IA

A interação entre os humanos e a inteligência artificial está moldando um novo sistema de pensamento, um novo esquema cognitivo, externo à mente humana.

O professor Massimo Chiriatti e seus colegas de várias universidades italianas chamam isso de Sistema 0, que opera junto com os dois modelos de pensamento humano: O Sistema 1, caracterizado pelo pensamento intuitivo, rápido e automático, e o Sistema 2, um tipo de pensamento mais analítico e reflexivo.

No entanto, o Sistema 0 introduz um nível adicional de complexidade, alterando radicalmente o cenário cognitivo em que os seres humanos tradicionalmente operam, podendo, portanto, marcar um passo monumental à frente na evolução da nossa capacidade de pensar e de tomar decisões.

Mas há riscos, dizem os pesquisadores, e será nossa responsabilidade garantir que esse progresso seja usado para melhorar nossa autonomia cognitiva sem comprometê-la.

A computação inteligente está levantando questões científicas fundamentais.
[Imagem: Pete Linforth/Pixabay]

Uma nova forma de pensamento externo

Assim como uma unidade externa de disco nos permite armazenar dados que não estão presentes no computador, e podemos acessar esses dados conectando nossa unidade a um PC onde quer que estejamos, a inteligência artificial, com seus recursos inigualáveis de processamento e manipulação de dados, pode representar um circuito cognitivo externo ao cérebro humano.

Daí nasceu o conceito do Sistema 0, que é essencialmente uma forma de pensamento "externo" que depende das capacidades da IA.

Ao gerenciar enormes quantidades de dados, a IA pode processar informações, encontrar padrões onde não os vemos e fornecer sugestões ou decisões com base em algoritmos complexos. No entanto, diferentemente do pensamento intuitivo ou analítico, o Sistema 0 não atribui significado intrínseco às informações que processa. Em outras palavras, a IA pode executar cálculos, fazer previsões e gerar respostas sem realmente "entender" o conteúdo dos dados com os quais trabalha.

Os humanos, portanto, têm que interpretar por conta própria e dar significado aos resultados produzidos pela IA. É como ter um assistente que reúne, filtra e organiza informações de forma eficiente, mas ainda requer nossa intervenção para tomar decisões fundamentadas. Esse suporte cognitivo fornece informações valiosas, mas o controle final deve sempre permanecer nas mãos humanas.

A aprendizagem de Turing já cria máquinas que aprendem.
[Imagem: U. Sheffield]

Os riscos do Sistema 0

"O risco é confiar demais no Sistema 0 sem exercitar o pensamento crítico. Se aceitarmos passivamente as soluções oferecidas pela IA, podemos perder nossa capacidade de pensar de forma autônoma e desenvolver ideias inovadoras. Em um mundo cada vez mais automatizado, é crucial que os humanos continuem a questionar e desafiar os resultados gerados pela IA," destacam os autores do artigo.

Além disso, a transparência e a confiança nos sistemas de IA representam outro grande dilema: Como podemos ter certeza de que esses sistemas estão livres de preconceitos ou distorções e que fornecem informações precisas e confiáveis?

"A tendência crescente de usar dados sintéticos ou gerados artificialmente pode comprometer nossa percepção da realidade e influenciar negativamente nossos processos de tomada de decisão," alertam os pesquisadores, acrescentando que a IA pode até sequestrar nossas habilidades introspectivas, ou seja, o ato de refletir sobre os próprios pensamentos e sentimentos, que é um processo tipicamente humano.

Por outro lado, com o avanço da IA, pode-se tornar possível confiar em sistemas inteligentes para analisar nossos comportamentos e estados mentais. Isso levanta a questão: Até que ponto podemos realmente nos entender por meio da análise de IA? E poderá a IA replicar a complexidade da experiência subjetiva? São questões em aberto.

Um programa de IA reduziu um problema de física quântica de 100.000 para apenas 4 equações.
[Imagem: Domenico Di Sante/Flatiron Institute]

O lado bom da IA

Apesar das questões e dúvidas, o Sistema 0 também oferece enormes oportunidades, apontam os pesquisadores. Graças à sua capacidade de processar dados complexos de forma rápida e eficiente, a IA pode ajudar a humanidade a lidar com problemas que excedem nossas capacidades cognitivas naturais.

Seja resolvendo questões científicas complexas, analisando conjuntos de dados massivos ou gerenciando sistemas sociais intrincados, a IA pode se tornar uma aliada indispensável.

Para tirar proveito de todo o potencial do Sistema 0, os autores do estudo sugerem que é urgente desenvolver diretrizes éticas e responsáveis para seu uso.

"Transparência, responsabilidade e alfabetização digital são elementos-chave para permitir que as pessoas interajam criticamente com a IA," alertam. "Educar o público sobre como navegar neste novo ambiente cognitivo será crucial para evitar os riscos de dependência excessiva desses sistemas."

A conclusão da equipe é que, se não for controlado, o Sistema 0 pode interferir no pensamento humano no futuro: "É essencial que permaneçamos conscientes e críticos sobre como o usamos; o verdadeiro potencial do Sistema 0 dependerá da nossa capacidade de guiá-lo na direção certa."

Mais tópicos