Tópicos principais: Inteligência artificial, psicologia cognitiva, tomada de decisão e relação humana com o conhecimento.
A utilização de inteligência artificial reduz significativamente a capacidade humana de reconhecer a própria ignorância, fazendo com que usuários confiem cegamente em respostas erradas e abandonem a humildade epistêmica. Por outro lado, quando usada de forma crítica para apontar lacunas e perspectivas ocultas, a tecnologia pode ajudar os humanos a explorarem o território do desconhecido ("o que nem sabemos que não sabemos").
Inteligência artificial pode revelar aquilo que nem sabemos que não sabemos
Resumo
Uma das respostas mais inteligentes que alguém pode dar é também a mais difícil: 'Não sei'. Em uma realidade em que a IA já responde sobre tudo e todos, precisamos então pensar sobre como isso muda a nossa interação com o próprio conhecimento humano.
Existem diferentes formas de entender essa relação, mas eu gosto de uma que divide o conhecimento em quatro categorias: "o que sabemos que sabemos", "o que sabemos que não sabemos", "o que sabemos sem perceber que sabemos" e "o que nem sabemos que não sabemos".
Nesta coluna, vou explorar especialmente duas delas. A primeira é o "o que sabemos que não sabemos". Dizer 'não sei' muitas vezes pode soar como uma coisa ruim, como uma confissão de ignorância, mas é exatamente o oposto. Quando reconhecemos o limite do que sabemos, passamos a enxergar que os problemas podem ter outras soluções e possibilidades que estão além do nosso repertório.
Essa humildade epistêmica é uma habilidade cognitiva importantíssima para descobrir coisas novas e nos adaptarmos mais rapidamente em cenários de incerteza. O problema é que essa é uma capacidade que nunca foi verdadeiramente valorizada. E agora a IA traz mais complicações - e também novas oportunidades - na forma como interagimos com o conhecimento.
Nesta semana, eu li um artigo científico que mostra como a IA pode corroer essa nossa "sabedoria da ignorância". Para avaliar isso, os pesquisadores montaram um experimento em que as pessoas respondiam perguntas difíceis sobre filmes. Elas também podiam dizer "não sei" sempre que quisessem, sem qualquer tipo de punição.
Os participantes então foram divididos em dois grupos: os que responderiam sozinhos e os que poderiam consultar a IA. A engenhosidade do experimento estava nas perguntas, que traziam de propósito detalhes tão escondidos que a IA não saberia e provavelmente inventaria respostas em boa parte das vezes.
Quando estavam sozinhas, 44% das pessoas admitiam que não sabiam uma resposta. Mas esse número despencou para apenas 3% quando elas tinham acesso à IA. As pessoas simplesmente pararam de dizer 'não sei' e passaram a confiar cegamente na resposta da IA. O resultado é que as pessoas respondiam mais, mas acertavam bem menos. E, curiosamente, se sentiam mais confiantes mesmo errando mais.
Esse é um fenômeno mais sutil e perigoso do que o tão discutido debate de "não devemos confiar demais na máquina". E para me debruçar nisso, vou voltar aos quatro tipos de conhecimento do começo da coluna. Quando a pessoa dizia que não sabia, ela estava navegando pelo quadrante do "o que sabemos que não sabemos".
No momento em que ela recebeu e confiou em uma resposta pronta da IA, ela mudou rapidamente para o primeiro quadrante do "o que sabemos que sabemos". Como se agora ela dominasse aquela certeza. Só que isso é uma mentira. Ela passa a agir como se soubesse, sem de fato saber. Ou, pior ainda, confia em uma informação errada.
Esse é um desafio posto por uma máquina que escreve de maneira persuasiva e nos dá respostas prontas. Mas seria simplista e injusto achar que a IA só tem esse lado ruim a oferecer. A mesma máquina que some com a nossa dúvida pode fazer exatamente o contrário para que possamos expandir as fronteiras do nosso conhecimento individual. E tudo depende do uso que fazemos da tecnologia.
Um dos terrenos do conhecimento que temos mais dificuldade de navegar é "o que não sabemos que não sabemos". Afinal, é a zona do desconhecido. Se nem sabemos que existe uma lacuna, como cruzá-la ou preenchê-la?
É nesse movimento que a IA pode nos ajudar. Em vez de pedirmos uma resposta pronta ou pedirmos para a máquina fazer algo, podemos pedir para ela nos ajudar a enxergar o que está faltando naquele texto que estamos escrevendo ou naquele projeto que estamos fazendo.
Pergunte para a IA: "O que estou deixando de considerar?", "Quais outras teorias, métodos e ferramentas estou deixando de lado?", "Onde meu raciocínio pode falhar ou está incompleto?", "o que poderia ser feito de diferente?".
Dessa forma, vamos abrir mais a questão do que fechá-la. A IA sai do lugar de uma máquina de respostas prontas e vira uma pequena fábrica de perguntas que pode impulsionar o pensamento crítico e a metacognição.
E aqui não quero fazer o papel de um intelectual idealista. Não é isso mesmo. Eu sei que muitas vezes o que precisamos é só de uma resposta pronta. E o próprio mercado impõe essa lógica. O problema é que nada nos empurra para o outro lado. Os chatbots de IA são desenhados para a resposta rápida, única e confiante, porque assim prendem mais os usuários em uma promessa de velocidade e utilidade.
É por isso que precisamos reforçar o movimento contrário. Em muitos casos, precisamos fazer uma espécie de "engenharia da dúvida" para sair da conversa com a IA com perguntas melhores, novos conceitos e conhecimentos inéditos do que tínhamos ao começar.
Quando fazemos isso, a IA nos ajuda não apenas a produzir melhores respostas, projetos e resultados, mas também a pensar melhor e expandir o nosso repertório individual. É uma das habilidades que separam quem pensa com a IA de quem se limita a operá-la.
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Meridiano
