A superinteligência chegou. Você provavelmente não percebeu, porque acabou sendo meio incremental.
Não acredita em mim? Faça o teste. Converse com o Fable 5 por uma hora, depois converse com seus dez amigos mais inteligentes. Qual deles é mais inteligente? Não se preocupe, eles não vão se ofender.
Nos disseram para esperar algo maior. Quando as máquinas cruzassem alguma linha, o QI do sistema subiria a patamares que não conseguiríamos acompanhar, e estaríamos dividindo o planeta com algo que projeta motores de dobra e pensa pensamentos tão distantes de nós quanto os meus estão do meu cachorro.
O que recebemos é uma ferramenta que escreve código excelente, supera as pessoas em uma impressionante gama de tarefas e claramente vai remodelar a economia. É também, de alguma forma, incremental. Sem decolagem. Sem explosão. Essa é a parte estranha.
Acho que superestimamos a inteligência, ou interpretamos mal o que ela é.
Eis como eu a definiria. Temos um punhado disperso de fatos sobre o mundo, e a inteligência ou raciocínio é o que preenche o espaço entre eles. Ela extrapola entre coisas que já sabemos, e os LLMs são incríveis nisso. Ao estudar nossas palavras, eles aprenderam a estrutura de nossos pensamentos. Em breve teremos isso em oferta ilimitada, com QI 200, por quase nada.
Onde o espaço entre os fatos se comporta bem, isso é quase divino. O direito imobiliário não é difícil. Nós o inventamos, é internamente consistente, e um modelo que contém todos os estatutos e decisões judiciais deve superar qualquer advogado de graça. Codificação, matemática e a maior parte do trabalho administrativo são igualmente benignos. O que os torna fáceis é que têm espaços de solução relativamente suaves e são verificáveis de forma tratável.
A maior parte do que importa não se comporta assim. O universo é, em grande parte, o comportamento emergente de sistemas complexos. Mexa o creme no café. Observe uma tempestade se formar a partir de nada além de diferenças de temperatura atmosférica e vapor d'água. As regras locais são simples e o tornado não é. Em sistemas como esses, nenhuma quantidade de raciocínio entrega a resposta, porque não há atalho escondido nas lacunas. Você tem que executar a coisa. E executá-la tem seu próprio teto, já que pequenos erros se acumulam, e é por isso que nenhum supercomputador jamais lhe dará uma previsão limpa de duas semanas. O menor objeto que pode simular perfeitamente o universo é o universo. Os sistemas humanos são igualmente complexos. Não podemos nem prever nossos próprios comportamentos de forma confiável, quanto mais as propriedades emergentes de grandes grupos de pessoas agindo ao longo do tempo.
É por isso, suspeito, que a explosão nunca veio. A história da decolagem assumia que o limite era o pensamento. Não é. O limite é o contato com a realidade. Um raciocinador mais inteligente preenche as lacunas entre fatos conhecidos em áreas simples de forma mais rápida e melhor, mas não produz fatos novos.
Uma IA vai te entregar um design genuinamente engenhoso para uma lâmina de turbina a jato. Pode ser muito mais provável de funcionar do que qualquer coisa que seus engenheiros tenham criado. Ainda assim, provavelmente falhará, porque essa é a taxa base na fronteira do que qualquer um sabe. A única maneira de descobrir é construir a lâmina e tentar quebrá-la.
Esse é o limite real do aprendizado, e não importa o quão inteligente você seja. Criar ideias nunca foi a parte difícil. A parte difícil é a rapidez com que a realidade responde a elas.
Nada disso deve preocupá-lo. Qualquer coisa que uma pessoa pudesse resolver numa mesa pensando, um computador agora resolverá de graça. Isso é muito, e essas ferramentas aumentarão muito nosso padrão de vida. Mas a maioria dos problemas não pode ser resolvida numa mesa pensando. Esses permanecem limitados pela rapidez com que podemos construir a coisa e ver se ela se sustenta, e esse relógio quase não se move.
Para ser claro, estou muito otimista! Raciocínio de QI 200 à disposição será uma bênção, assim como a força mecanizada foi. Se o trabalho da mente é tão valioso quanto o trabalho do músculo, as mudanças podem ser da ordem da revolução industrial. Meus netos se maravilharão com minha pobreza assim como eu me maravilho com a de meus bisavós. Mas não vamos ver alguma estranha "decolagem" com motores de dobra e pensamentos que entenderíamos como meu cachorro entende os meus. O futuro é brilhante. E compreensível.
