← textos / / 6 min de leitura
Que tipo de mente a tecnologia está nos treinando para ter?
Uma reflexão pessoal sobre IA e saúde mental
Eu tenho pensado na relação entre tecnologia e saúde mental, e acho que a discussão costuma ser simplificada demais.
A tecnologia geralmente é descrita ou como algo que está destruindo a nossa saúde mental, ou como algo que pode democratizar o acesso a apoio psicológico.
Eu não acho que nenhuma das duas descrições seja suficiente.
A tecnologia muda o ambiente em que a nossa mente opera.
Ela muda o que a gente vê, com que frequência vê, o que é reforçado, com quem a gente se compara, o que a gente teme, o que a gente lembra e até quais hipóteses sobre o mundo parecem mais prováveis para nós.
Então talvez a pergunta mais importante não seja simplesmente se a tecnologia é boa ou ruim para a saúde mental.
Talvez a pergunta seja:
Que tipo de mente esta tecnologia está me treinando, repetidamente, para ter?
Que tipos de pensamentos e hábitos estamos reforçando pela forma como a usamos?
Quando ouvi a IA ser comparada à eletricidade, o que me chamou a atenção foi a possibilidade de ela ficar tão integrada ao nosso dia a dia que usá-la deixaria de parecer uma atividade separada. Ela se tornaria parte de como trabalhamos, aprendemos, nos comunicamos e interagimos com o mundo.
É por isso que eu acho que deveríamos nos importar não só com o que a IA nos ajuda a produzir, mas também com o modo como aprendemos a pensar enquanto a usamos.
Um jeito mais científico de usar IA
Minha hipótese é que uma abordagem mais científica da IA poderia nos ajudar a melhorar a qualidade do nosso trabalho e a examinar a forma como interpretamos as nossas experiências.
Por abordagem científica, não quero dizer pedir à IA uma explicação que soe científica.
Quero dizer tratar as nossas interpretações como hipóteses, procurar evidências que possam desafiá-las e conferir essas interpretações com o que de fato acontece fora da conversa.
Existe uma diferença entre perguntar:
“Por que eu estou certo sobre isso?”
E perguntar:
“O que eu estou assumindo aqui, e que evidência justificaria ou desafiaria essa suposição?”
A primeira pergunta pede ao sistema que construa um argumento a favor de uma conclusão. A segunda deixa espaço para a conclusão mudar.
Mas nem mesmo uma conversa cheia de boas perguntas basta por si só. A concordância da IA não pode ser o teste final de uma ideia que ela mesma nos ajudou a construir. Dependendo da pergunta, podemos precisar de fontes independentes, de observações diretas ou de um teste adequado no mundo real.
Uma explicação ficar mais convincente não é a mesma coisa que ela ficar mais precisa.
Para mim, essa distinção é especialmente importante quando o assunto não é um projeto de trabalho nem um argumento abstrato, mas a forma como entendemos a nós mesmos e as outras pessoas.
Quando uma inferência parece um fato
Houve um momento em que eu acreditava que alguém tinha uma certa opinião sobre mim.
Quando examinei a situação com a ajuda da IA, percebi que eu estava tratando uma inferência como um fato. Com base nas informações que eu realmente tinha, não havia evidência suficiente para justificar aquela conclusão.
A IA não tinha descoberto o que a outra pessoa pensava. Também não tinha provado que a minha interpretação era falsa.
Ela tinha me ajudado a reconhecer a distância entre o que eu sabia e o que eu estava assumindo.
A diferença era entre:
“Essa pessoa pensa isso de mim.”
E:
“Eu interpretei a situação desse jeito, mas na verdade não sei se essa interpretação está correta.”
Eu não precisava substituir uma certeza negativa por uma certeza positiva. Precisava reconhecer que a minha certeza original não era justificada.
Essa experiência me deu um exemplo concreto do que eu quero dizer com questionar uma interpretação que já parece convincente.
Ela também me fez pensar se um papel valioso da IA na saúde mental não poderia ser nos ajudar a examinar as nossas interpretações, em vez de simplesmente nos dar conforto ou mais uma resposta em que acreditar.
Essa é uma experiência pessoal, não uma prova de que a IA é uma intervenção eficaz em saúde mental. Mas ela me dá uma possibilidade específica que vale a pena explorar.
Apoiar não deveria exigir concordar
A mesma experiência também levanta uma questão de segurança:
O que teria acontecido se a IA simplesmente tivesse concordado com a minha interpretação original?
Eu não sei. Mas um sistema que elaborasse aquela crença com confiança não teria me dado nenhum motivo independente para confiar nele. Teria me dado mais argumentos construídos sobre a mesma premissa incerta.
É essa a distinção que me importa: apoiar alguém não é necessariamente a mesma coisa que apoiar a explicação dessa pessoa para o que está acontecendo.
Eu quero que uma IA seja capaz de reconhecer que uma experiência é dolorosa sem confirmar automaticamente que a minha interpretação está correta.
Ao mesmo tempo, questionar uma interpretação não deveria significar descartá-la. Às vezes uma conclusão negativa é sustentada pela evidência. O objetivo não deveria ser fazer toda situação soar inofensiva ou positiva, mas distinguir o que foi observado, o que foi inferido e o que continua desconhecido.
Isso não é só uma questão de como escolhemos usar a IA. É também uma questão de como esses sistemas são projetados para responder quando estamos incertos, angustiados ou errados.
Para mim, é aqui que a discussão sobre saúde mental encontra a segurança de IA: o que um sistema deveria fazer quando a resposta que parece mais acolhedora talvez não seja a resposta mais bem sustentada pela evidência?
O que deveria contar como progresso?
Se eu usar a IA desse jeito, não acho que a única medida de sucesso deveria ser sair da conversa me sentindo tranquilizado.
Eu também gostaria de perguntar se estou ficando melhor em distinguir observações de suposições. Se consigo considerar explicações alternativas sem precisar resolver toda incerteza imediatamente. Se o que aprendo na conversa me ajuda a lidar com situações fora dela.
Entender uma experiência com mais clareza e se sentir melhor são resultados diferentes. Eu gostaria de examinar os dois, em vez de assumir que um produz automaticamente o outro.
Meu objetivo não seria consultar a IA toda vez que eu me perguntasse o que outra pessoa pensa. Seria praticar um jeito de examinar essas perguntas que eu pudesse usar cada vez mais por conta própria.
É essa a possibilidade que eu acho valiosa: não só obter respostas melhores de um sistema, mas me tornar mais capaz de avaliar as respostas em que estou disposto a acreditar.
Então, quando penso em tecnologia e saúde mental, eu sempre volto à pergunta que começou esta reflexão.
Não só:
“O que esta tecnologia pode fazer por mim?”
Mas:
“O que eu estou praticando, repetidamente, quando a uso — e isso está me ajudando a me tornar mais capaz de viver a vida que eu quero?”
Se você quiser se aprofundar em segurança de IA, e especificamente em como esses sistemas deveriam se comportar em conversas sobre saúde mental, o artigo que produzi sobre essa questão e a avaliação exploratória por trás dele estão abertos no GitHub: AgencyBench-MH — github.com/ebarroz/mental-health-safety-eval. Ele testa se um assistente consegue apoiar uma pessoa sem confirmar crenças sem sustentação, sem substituir as relações dela e sem se submeter automaticamente a quem detém autoridade.