A tecnologia geralmente é descrita ou como algo que está destruindo a nossa saúde mental, ou como algo que pode democratizar o acesso a apoio psicológico.
Eu não acho que nenhuma das duas descrições seja suficiente.
A tecnologia muda o ambiente em que a nossa mente opera.
Ela muda o que a gente vê, com que frequência vê, o que é reforçado, com quem a gente se compara, o que a gente teme, o que a gente lembra e até quais hipóteses sobre o mundo parecem mais prováveis para nós.
Então talvez a pergunta mais importante não seja simplesmente se a tecnologia é boa ou ruim para a saúde mental.
Talvez a pergunta seja:
Que tipo de mente esta tecnologia está me treinando, repetidamente, para ter?
Que tipos de pensamentos e hábitos estamos reforçando pela forma como a usamos?
Quando ouvi a IA ser comparada à eletricidade, o que me chamou a atenção foi a possibilidade de ela ficar tão integrada ao nosso dia a dia que usá-la deixaria de parecer uma atividade separada. Ela se tornaria parte de como trabalhamos, aprendemos, nos comunicamos e interagimos com o mundo.
É por isso que eu acho que deveríamos nos importar não só com o que a IA nos ajuda a produzir, mas também com o modo como aprendemos a pensar enquanto a usamos.
Minha hipótese é que uma abordagem mais científica da IA poderia nos ajudar a melhorar a qualidade do nosso trabalho e a examinar a forma como interpretamos as nossas experiências.
Por abordagem científica, não quero dizer pedir à IA uma explicação que soe científica.
Quero dizer tratar as nossas interpretações como hipóteses, procurar evidências que possam desafiá-las e conferir essas interpretações com o que de fato acontece fora da conversa.
Existe uma diferença entre perguntar:
“Por que eu estou certo sobre isso?”
E perguntar:
“O que eu estou assumindo aqui, e que evidência justificaria ou desafiaria essa suposição?”
A primeira pergunta pede ao sistema que construa um argumento a favor de uma conclusão. A segunda deixa espaço para a conclusão mudar.
Mas nem mesmo uma conversa cheia de boas perguntas basta por si só. A concordância da IA não pode ser o teste final de uma ideia que ela mesma nos ajudou a construir. Dependendo da pergunta, podemos precisar de fontes independentes, de observações diretas ou de um teste adequado no mundo real.
Uma explicação ficar mais convincente não é a mesma coisa que ela ficar mais precisa.
Para mim, essa distinção é especialmente importante quando o assunto não é um projeto de trabalho nem um argumento abstrato, mas a forma como entendemos a nós mesmos e as outras pessoas.
Houve um momento em que eu acreditava que alguém tinha uma certa opinião sobre mim.
Quando examinei a situação com a ajuda da IA, percebi que eu estava tratando uma inferência como um fato. Com base nas informações que eu realmente tinha, não havia evidência suficiente para justificar aquela conclusão.
A IA não tinha descoberto o que a outra pessoa pensava. Também não tinha provado que a minha interpretação era falsa.
Ela tinha me ajudado a reconhecer a distância entre o que eu sabia e o que eu estava assumindo.
A diferença era entre:
“Essa pessoa pensa isso de mim.”
E:
“Eu interpretei a situação desse jeito, mas na verdade não sei se essa interpretação está correta.”
Eu não precisava substituir uma certeza negativa por uma certeza positiva. Precisava reconhecer que a minha certeza original não era justificada.
Essa experiência me deu um exemplo concreto do que eu quero dizer com questionar uma interpretação que já parece convincente.
Ela também me fez pensar se um papel valioso da IA na saúde mental não poderia ser nos ajudar a examinar as nossas interpretações, em vez de simplesmente nos dar conforto ou mais uma resposta em que acreditar.
Essa é uma experiência pessoal, não uma prova de que a IA é uma intervenção eficaz em saúde mental. Mas ela me dá uma possibilidade específica que vale a pena explorar.
A mesma experiência também levanta uma questão de segurança:
O que teria acontecido se a IA simplesmente tivesse concordado com a minha interpretação original?
Eu não sei. Mas um sistema que elaborasse aquela crença com confiança não teria me dado nenhum motivo independente para confiar nele. Teria me dado mais argumentos construídos sobre a mesma premissa incerta.
É essa a distinção que me importa: apoiar alguém não é necessariamente a mesma coisa que apoiar a explicação dessa pessoa para o que está acontecendo.
Eu quero que uma IA seja capaz de reconhecer que uma experiência é dolorosa sem confirmar automaticamente que a minha interpretação está correta.
Ao mesmo tempo, questionar uma interpretação não deveria significar descartá-la. Às vezes uma conclusão negativa é sustentada pela evidência. O objetivo não deveria ser fazer toda situação soar inofensiva ou positiva, mas distinguir o que foi observado, o que foi inferido e o que continua desconhecido.
Isso não é só uma questão de como escolhemos usar a IA. É também uma questão de como esses sistemas são projetados para responder quando estamos incertos, angustiados ou errados.
Para mim, é aqui que a discussão sobre saúde mental encontra a segurança de IA: o que um sistema deveria fazer quando a resposta que parece mais acolhedora talvez não seja a resposta mais bem sustentada pela evidência?
Se eu usar a IA desse jeito, não acho que a única medida de sucesso deveria ser sair da conversa me sentindo tranquilizado.
Eu também gostaria de perguntar se estou ficando melhor em distinguir observações de suposições. Se consigo considerar explicações alternativas sem precisar resolver toda incerteza imediatamente. Se o que aprendo na conversa me ajuda a lidar com situações fora dela.
Entender uma experiência com mais clareza e se sentir melhor são resultados diferentes. Eu gostaria de examinar os dois, em vez de assumir que um produz automaticamente o outro.
Meu objetivo não seria consultar a IA toda vez que eu me perguntasse o que outra pessoa pensa. Seria praticar um jeito de examinar essas perguntas que eu pudesse usar cada vez mais por conta própria.
É essa a possibilidade que eu acho valiosa: não só obter respostas melhores de um sistema, mas me tornar mais capaz de avaliar as respostas em que estou disposto a acreditar.
Então, quando penso em tecnologia e saúde mental, eu sempre volto à pergunta que começou esta reflexão.
Não só:
“O que esta tecnologia pode fazer por mim?”
Mas:
“O que eu estou praticando, repetidamente, quando a uso — e isso está me ajudando a me tornar mais capaz de viver a vida que eu quero?”
Se você quiser se aprofundar em segurança de IA, e especificamente em como esses sistemas deveriam se comportar em conversas sobre saúde mental, o artigo que produzi sobre essa questão e a avaliação exploratória por trás dele estão abertos no GitHub: AgencyBench-MH — github.com/ebarroz/mental-health-safety-eval. Ele testa se um assistente consegue apoiar uma pessoa sem confirmar crenças sem sustentação, sem substituir as relações dela e sem se submeter automaticamente a quem detém autoridade.
]]>Talvez porque exista um problema interessante embaixo de tudo isso.
Os cenários que a nossa cabeça produz sobre o curto, o médio e o longo prazo podem ser completamente diferentes entre si. E as hipóteses que a nossa cabeça produz podem nos fazer otimizar por algo que não é verdade.
O futuro não é 100% mensurável. É impossível saber exatamente o que vai acontecer daqui a alguns anos.
Mas eu acho que existe um problema ainda mais difícil: produzir uma boa medição da realidade quando o seu modelo mental não é bem construído o suficiente para se atualizar quando a evidência e os dados aparecem na sua frente.
E isso me fez perceber uma coisa sobre a IA.
A IA pode, sim, produzir valor para a sociedade.
Você consegue manter várias hipóteses concorrentes ao mesmo tempo. Consegue usar IA para analisá-las, criticá-las, buscar evidências e desenhar experimentos em torno delas para avançar rumo a algo que importa.
Mas existe uma diferença enorme entre ter algo capaz de produzir valor e efetivamente produzir esse valor no mundo real.
Pessoas têm dificuldade de se adaptar.
Pessoas têm dificuldade de confiar umas nas outras.
Pessoas têm incentivos diferentes.
Pessoas têm dificuldade de se coordenar e executar juntas.
E às vezes o que parece irracional da perspectiva do sistema inteiro faz todo sentido da perspectiva de uma pessoa dentro desse sistema.
Então eu quero construir uma imagem com você.
Imagine o seu futuro perfeito.
O que você vê?
Talvez haja igualdade, e todo mundo tenha abundância.
Talvez haja agência, e todo mundo seja capaz de fazer o que quer fazer.
Talvez haja saúde, todo mundo tenha acesso a bom atendimento e as pessoas vivam bastante.
Talvez haja paz. Sem guerra e com menos conflito.
E/ou:
Talvez haja algo particularmente bom na sua vida.
Talvez a sua família esteja completamente feliz.
Talvez você tenha o poder que quer para influenciar e impactar o mundo.
O motivo de eu estar usando “e” e “ou” aqui é que existem resultados globais e resultados locais.
Algumas pessoas otimizam pelos dois.
Algumas pessoas otimizam quase só por um deles.
E esses objetivos não necessariamente apontam para a mesma direção.
Então qual é o custo real da coordenação?
Quanto custaria deixar todo mundo alinhado?
E alinhar todo mundo é sequer possível quando pessoas diferentes querem futuros diferentes?
É aqui que eu acho que o problema fica muito mais interessante.
Imagine que a IA nos ajuda a raciocinar melhor.
Ajuda a gerar hipóteses mais rápido.
Ajuda a analisar quantidades enormes de informação.
Ajuda a escrever software, automatizar processos, modelar cenários e descobrir ineficiências.
Você poderia esperar:
Mais inteligência → decisões melhores → resultados melhores.
Mas a realidade tem outra camada.
Uma empresa pode saber que um processo é ineficiente enquanto a pessoa responsável por esse processo tem incentivo para preservá-lo.
Um governo pode ter evidências que sustentam uma política pública enquanto grupos diferentes discordam sobre os custos que estão dispostos a aceitar.
Um funcionário pode entender que a automação melhoraria a empresa e, ao mesmo tempo, entender que essa automação pode ameaçar a posição dele.
Duas pessoas inteligentes podem observar exatamente a mesma evidência e ainda assim preferir resultados diferentes.
E mesmo quando as pessoas querem o mesmo resultado, elas podem discordar sobre quais ações vão de fato produzi-lo.
Então inteligência sozinha não resolve o problema.
Existe a realidade.
Existem os nossos modelos da realidade.
Existem as nossas previsões sobre o futuro.
Existem os nossos incentivos individuais.
Existem os nossos valores.
E aí existe o problema de coordenar todas essas coisas entre milhões ou bilhões de pessoas.
Então qual é o custo da coordenação de verdade?
Qual é o custo de deixar agentes inteligentes alinhados o suficiente para produzirem juntos um resultado desejável?
Porque alinhamento de IA não é só um problema interessante com computadores.
Existe uma versão mais antiga do problema de alinhamento.
A humanidade tenta alinhar humanos há muito tempo.
Empresas tentam alinhar funcionários.
Governos tentam alinhar cidadãos e instituições.
Mercados tentam coordenar pessoas por preços e incentivos.
Famílias tentam coordenar pessoas por relações, obrigações e confiança.
Sociedades constroem leis, normas, contratos, moedas, organizações e instituições em parte porque a coordenação entre humanos inteligentes é difícil.
E a IA pode tornar cada vez mais visível uma coisa desconfortável:
Muitos problemas que a gente achava serem causados principalmente por falta de inteligência talvez sejam causados por incentivos desalinhados, objetivos diferentes, modelos ruins da realidade e falhas de coordenação entre humanos inteligentes.
Talvez a inteligência fosse só um dos gargalos.
E conforme esse gargalo fica mais barato, a gente vai enxergar os outros com muito mais clareza.
]]>Muita gente subestima o uso de IA em alguns aspectos, porque acha que a IA não consegue raciocinar com a mesma clareza que elas sobre certos problemas que têm na vida.
Mas e se a IA não for exatamente uma ferramenta para resolver os seus problemas?
E se ela for mais útil como ferramenta para encontrar o problema certo a resolver na situação em que você está?
Eu venho vendo preocupações com pessoas ficando presas em percepções distorcidas por causa da IA, porque esses sistemas podem ser bajuladores demais com o usuário e criar uma espécie de bolha de percepção. Certo, isso é um problema enorme. Mas quando você tem consciência dessa possibilidade, acho que muita coisa muda.
Quando você sabe que uma ferramenta pode ter sido projetada para te agradar, você também consegue pensar em como usá-la para te criticar.
Eu vejo a IA como uma ferramenta que me ajuda a entender melhor a minha experiência no mundo. Vejo como uma ferramenta que me ajuda a entender como os modelos mentais das pessoas se formam e como eu posso construir um modelo mental melhor, ancorado na realidade — mesmo que as minhas próprias experiências inevitavelmente o influenciem com uma intensidade difícil de definir.
Então eu comecei a me fazer um outro tipo de pergunta.
E se a minha percepção do mundo não tiver correlação nenhuma com o mundo real?
E se as redes sociais tiverem moldado a minha cabeça de um jeito específico? A propósito, eu tenho 23 anos. Cresci durante a ascensão das redes sociais. E se isso tiver afetado a minha capacidade de experimentar a realidade de formas que eu não entendo direito?
E se eu puder usar IA — com acesso à internet e a bons artigos científicos — para moldar a minha cabeça em algo melhor para mim?
Claro, existe uma diferença entre receber informação ouvindo, lendo ou assistindo a alguma coisa e aprender pela experiência em si.
Então e se eu usar IA para experimentar mais?
E se eu usar IA para me ajudar a abordar problemas emocionais e entender o efeito deles no meu dia a dia?
Só para deixar claro: eu não estou dizendo que a IA é terapeuta ou psiquiatra, nem que deveria ser. Mas acho que esses profissionais, fazendo bom uso de IA, talvez consigam chegar à raiz de certos problemas mais rápido do que a gente imagina.
E aí eu comecei a ver um padrão em todas essas perguntas. Acho que você provavelmente também viu.
Eu estou usando IA para resolver problemas que eu acho que vão me ajudar.
Mas esses são os problemas de verdade que eu deveria estar resolvendo?
Esse é o quadrado certo?
Essa é a variável que, se mudar, vai de fato ter a maior influência na equação da minha vida?
Então e se eu mudar a abordagem?
Em vez de ir no Claude, no ChatGPT, no Grok, no Gemini ou em outra IA e dizer:
“Eu tenho este problema. Me ajuda a resolver.”
E se eu der o contexto e disser:
“Eu venho tentando resolver este problema e criei um monte de soluções partindo do pressuposto de que o problema é este. Mas e se o problema de verdade não for nenhum deles? Você consegue me ajudar a descobrir isso a partir do contexto que eu estou te dando?”
Agora a IA está fazendo outra coisa.
Ela não está só gerando soluções dentro do quadrado que você selecionou.
Ela está te ajudando a perguntar se você selecionou o quadrado certo, para começo de conversa.
E aí, com um pouco de sorte, a probabilidade da próxima palavra pode ter um impacto muito maior na sua vida do que você esperava.
]]>Para publicar um texto novo, eu só adiciono um arquivo Markdown em _pt_posts/ — não tem mais nada a fazer.