O que a inteligência barata não resolve

Se a inteligência está ficando mais barata, por que empresas, sociedades e governos não estão produzindo resultados proporcionalmente melhores?

Talvez porque exista um problema interessante embaixo de tudo isso.

Os cenários que a nossa cabeça produz sobre o curto, o médio e o longo prazo podem ser completamente diferentes entre si. E as hipóteses que a nossa cabeça produz podem nos fazer otimizar por algo que não é verdade.

O futuro não é 100% mensurável. É impossível saber exatamente o que vai acontecer daqui a alguns anos.

Mas eu acho que existe um problema ainda mais difícil: produzir uma boa medição da realidade quando o seu modelo mental não é bem construído o suficiente para se atualizar quando a evidência e os dados aparecem na sua frente.

E isso me fez perceber uma coisa sobre a IA.

A IA pode, sim, produzir valor para a sociedade.

Você consegue manter várias hipóteses concorrentes ao mesmo tempo. Consegue usar IA para analisá-las, criticá-las, buscar evidências e desenhar experimentos em torno delas para avançar rumo a algo que importa.

Mas existe uma diferença enorme entre ter algo capaz de produzir valor e efetivamente produzir esse valor no mundo real.

Pessoas têm dificuldade de se adaptar.

Pessoas têm dificuldade de confiar umas nas outras.

Pessoas têm incentivos diferentes.

Pessoas têm dificuldade de se coordenar e executar juntas.

E às vezes o que parece irracional da perspectiva do sistema inteiro faz todo sentido da perspectiva de uma pessoa dentro desse sistema.

Então eu quero construir uma imagem com você.

Imagine o seu futuro perfeito.

O que você vê?

Talvez haja igualdade, e todo mundo tenha abundância.

Talvez haja agência, e todo mundo seja capaz de fazer o que quer fazer.

Talvez haja saúde, todo mundo tenha acesso a bom atendimento e as pessoas vivam bastante.

Talvez haja paz. Sem guerra e com menos conflito.

E/ou:

Talvez haja algo particularmente bom na sua vida.

Talvez a sua família esteja completamente feliz.

Talvez você tenha o poder que quer para influenciar e impactar o mundo.

O motivo de eu estar usando “e” e “ou” aqui é que existem resultados globais e resultados locais.

Algumas pessoas otimizam pelos dois.

Algumas pessoas otimizam quase só por um deles.

E esses objetivos não necessariamente apontam para a mesma direção.

Então qual é o custo real da coordenação?

Quanto custaria deixar todo mundo alinhado?

E alinhar todo mundo é sequer possível quando pessoas diferentes querem futuros diferentes?

É aqui que eu acho que o problema fica muito mais interessante.

Imagine que a IA nos ajuda a raciocinar melhor.

Ajuda a gerar hipóteses mais rápido.

Ajuda a analisar quantidades enormes de informação.

Ajuda a escrever software, automatizar processos, modelar cenários e descobrir ineficiências.

Você poderia esperar:

Mais inteligência → decisões melhores → resultados melhores.

Mas a realidade tem outra camada.

Uma empresa pode saber que um processo é ineficiente enquanto a pessoa responsável por esse processo tem incentivo para preservá-lo.

Um governo pode ter evidências que sustentam uma política pública enquanto grupos diferentes discordam sobre os custos que estão dispostos a aceitar.

Um funcionário pode entender que a automação melhoraria a empresa e, ao mesmo tempo, entender que essa automação pode ameaçar a posição dele.

Duas pessoas inteligentes podem observar exatamente a mesma evidência e ainda assim preferir resultados diferentes.

E mesmo quando as pessoas querem o mesmo resultado, elas podem discordar sobre quais ações vão de fato produzi-lo.

Então inteligência sozinha não resolve o problema.

Existe a realidade.

Existem os nossos modelos da realidade.

Existem as nossas previsões sobre o futuro.

Existem os nossos incentivos individuais.

Existem os nossos valores.

E aí existe o problema de coordenar todas essas coisas entre milhões ou bilhões de pessoas.

Então qual é o custo da coordenação de verdade?

Qual é o custo de deixar agentes inteligentes alinhados o suficiente para produzirem juntos um resultado desejável?

Porque alinhamento de IA não é só um problema interessante com computadores.

Existe uma versão mais antiga do problema de alinhamento.

A humanidade tenta alinhar humanos há muito tempo.

Empresas tentam alinhar funcionários.

Governos tentam alinhar cidadãos e instituições.

Mercados tentam coordenar pessoas por preços e incentivos.

Famílias tentam coordenar pessoas por relações, obrigações e confiança.

Sociedades constroem leis, normas, contratos, moedas, organizações e instituições em parte porque a coordenação entre humanos inteligentes é difícil.

E a IA pode tornar cada vez mais visível uma coisa desconfortável:

Muitos problemas que a gente achava serem causados principalmente por falta de inteligência talvez sejam causados por incentivos desalinhados, objetivos diferentes, modelos ruins da realidade e falhas de coordenação entre humanos inteligentes.

Talvez a inteligência fosse só um dos gargalos.

E conforme esse gargalo fica mais barato, a gente vai enxergar os outros com muito mais clareza.