A superinteligência chegou. Você provavelmente não percebeu, porque acabou sendo algo meio incremental.
Não acredita em mim? Faça o teste. Converse com o Fable 5 por uma hora, depois converse com seus dez amigos mais inteligentes. Qual deles é mais inteligente? Não se preocupe, eles não vão se ofender.
Nos disseram para esperar algo maior. Assim que as máquinas cruzassem alguma linha, o QI do sistema subiria a alturas que não conseguiríamos acompanhar, e estaríamos dividindo o planeta com algo que projeta motores de dobra e pensa pensamentos tão distantes de nós quanto os meus estão do meu cachorro.
O que temos é uma ferramenta que escreve código excelente, supera os humanos em uma gama impressionante de tarefas e, claramente, vai remodelar a economia. É, também, de alguma forma, incremental. Sem decolagem. Sem explosão. Essa é a parte estranha.
Acho que superestimamos a inteligência, ou interpretamos mal o que ela é.
Aqui está como eu a definiria. Seguimos um punhado disperso de fatos sobre o mundo, e a inteligência, ou o raciocínio, é o que preenche o espaço entre eles. Extrapola entre coisas que já sabemos, e os LLMs são incríveis nisso. Ao estudar nossas palavras, eles aprenderam a estrutura dos nossos pensamentos. Em breve, teremos isso em oferta ilimitada, com QI de 200, por quase nada.
Onde o espaço entre os fatos se comporta bem, isso é quase divino. O direito imobiliário não é difícil. Nós o inventamos, é internamente consistente, e um modelo que detém todo estatuto e jurisprudência deve superar qualquer advogado de graça. Programação, matemática e a maior parte do trabalho administrativo são igualmente benignos. O que os torna fáceis é que eles têm espaços de solução relativamente suaves e são verificáveis de forma tratável.
A maior parte do que importa não se comporta assim. O universo é, em grande parte, o comportamento emergente de sistemas complexos. Mexa o creme no café. Observe uma tempestade se formar a partir de nada além de diferenças de temperatura atmosférica e vapor d'água. As regras locais são simples e o tornado não é. Em sistemas como esses, nenhuma quantidade de raciocínio entrega a resposta, porque não há atalho escondido nas lacunas. Você tem que executar a coisa. E executá-la tem seu próprio teto, já que pequenos erros se acumulam, e é por isso que nenhum supercomputador jamais lhe dará uma previsão limpa de duas semanas. O menor objeto que pode simular perfeitamente o universo é o próprio universo. Sistemas humanos são igualmente complexos. Não podemos nem prever nossos próprios comportamentos de forma confiável, quanto mais as propriedades emergentes de grandes grupos de pessoas agindo ao longo do tempo.
Isso, suspeito, é a razão pela qual a explosão nunca veio. A história da decolagem assumia que o limite era o pensamento. Não é. O limite é o contato com a realidade. Um raciocinador mais inteligente preenche as lacunas entre fatos conhecidos em áreas simples de forma mais rápida e melhor, mas não produz novos fatos.
Uma IA vai te entregar um design genuinamente engenhoso para uma pá de turbina a jato. Pode ser muito mais provável de funcionar do que qualquer coisa que seus engenheiros criaram. Ainda assim, provavelmente falhará, porque essa é a taxa base na fronteira do que qualquer um sabe. A única maneira de descobrir é construir a pá e tentar quebrá-la.
Esse é o verdadeiro limite do aprendizado, e ele não se importa com o quão inteligente você é. Criar ideias nunca foi a parte difícil. A parte difícil é a rapidez com que a realidade as responde.
Nada disso deve te preocupar. Qualquer coisa que uma pessoa pudesse resolver em uma mesa pensando, um computador agora resolverá de graça. Isso é muito, e essas ferramentas aumentarão bastante nosso padrão de vida. Mas a maioria dos problemas não pode ser resolvida em uma mesa pensando. Esses permanecem limitados pela rapidez com que podemos construir a coisa e ver se ela se sustenta, e esse relógio mal se move.
Para ser claro, estou muito otimista! Raciocínio de QI 200 na palma da mão será uma dádiva, assim como a força mecanizada foi. Se o trabalho da mente é tão valioso quanto o trabalho do músculo, as mudanças podem ser da ordem da revolução industrial. Meus netos se maravilharão com minha pobreza assim como eu me maravilho com a dos meus bisavós. Mas não vamos ver alguma "decolagem" estranha com motores de dobra e pensamentos que entenderíamos como meu cachorro entende os meus. O futuro é brilhante. E compreensível.
