Parecemos dispostos a acreditar em quase tudo sobre o futuro da IA, menos na ideia de que as pessoas comuns possam ter controle sobre ela.
A IA pessoal introduziu sistemas com um acesso sem precedentes às nossas vidas. À medida que começamos a depender deles para tomar decisões e agir em nosso nome, quem controla essa inteligência se tornará algo incrivelmente importante.
Agora mais do que nunca, precisamos construir um futuro que pertença ao indivíduo.
Ser dono é um produto melhor.
Na era da internet, havia razões fundamentais para centralizar.
Negócios baseados em marketplaces, como Amazon, Uber ou DoorDash, só funcionavam porque oferta e demanda estavam reunidas no mesmo lugar. Facebook e Instagram eram úteis porque todo mundo que você conhecia já estava lá. Produtos como o Google representavam problemas técnicos proibitivamente grandes, na escala de petabytes. Em todos esses casos, ter a sua própria versão destruiria completamente o propósito.
Com a IA pessoal, é diferente. O valor dela vem do quanto ela se torna exclusivamente sua, e não de quantas outras pessoas usam o mesmo sistema.
O agente pessoal mais útil terá contexto completo sobre toda a sua vida. Tudo: seus e-mails, prontuários médicos e finanças até as conversas que você tem e os dispositivos da sua casa. Se você não confia plenamente nas empresas a quem entrega isso, o gargalo deixa de ser a inteligência do modelo e passa a ser o nível de acesso que você está disposto a conceder.
Ser dono da máquina onde seu agente roda elimina esse dilema. Você aproveita o valor dos seus dados sem a preocupação de vê-los enviados a terceiros para serem armazenados e analisados.
Um hardware dedicado também aumenta drasticamente a quantidade de trabalho que a inteligência pode fazer por você. Sem uma plataforma cobrando por cada token adicional, podemos rodar modelos que processam continuamente novas informações à medida que chegam e agem de forma proativa. Se for bem feito, a IA rapidamente se tornará muito melhor em gerar valor — com base na consciência do que acontece na sua vida — do que você jamais será ao tentar guiá-la com prompts.
Com o tempo, o seu agente deve passar a pensar, responder e trabalhar de forma diferente do meu, porque nossas vidas e o que queremos delas são diferentes. Isso deve valer em todos os níveis: desde o contexto sobre o qual o agente raciocina até a infraestrutura, chegando aos próprios pesos do modelo.
Inteligência é poder.
A pergunta então passa a ser: para quem vão os benefícios de um sistema assim?
Quanto mais capaz e essencial a IA se tornar para as nossas vidas, mais poderoso será quem a controla. Se entregarmos o controle da inteligência a um punhado de laboratórios e gigantes da tecnologia, daremos a eles autoridade unilateral para decidir como essa inteligência deve compreender o mundo e agir nele.
Quem merece confiança com tanto poder?
Um laboratório que afirma saber o que é melhor para a humanidade não ganha o direito de impor esse julgamento de forma centralizada. A geração anterior de empresas de tecnologia fez promessas moralizantes parecidas ("não seja mau") e cedeu assim que os incentivos deixaram de estar alinhados.
No fim das contas, quando um agente age em meu nome, eu devo ter a palavra final sobre como ele se comporta. Essa autoridade precisa continuar sendo minha, mesmo quando a empresa que o construiu discordar de mim.
É profundamente distópico imaginar um sistema construído a partir das informações mais sensíveis da minha vida pertencendo a uma empresa multitrilionária e sendo alugado de volta para mim, token por token.
Quanto mais de nós mesmos confiamos a esses sistemas, menos aceitável se torna que a propriedade esteja em qualquer outro lugar.
As pessoas merecem escolha.
Nos desconectamos perigosamente daquilo que as pessoas realmente sentem sobre a tecnologia que construímos.
As pessoas protestam contra as câmeras da Flock, fazem campanhas para manter a Palantir fora de suas instituições públicas, reclamam de laboratórios treinando modelos com seus dados privados e, ainda assim, a indústria insiste que "consumidores não ligam para privacidade". Prometemos abundância enquanto construímos um futuro em que elas possuem cada vez menos e dependem cada vez mais de nós. Por que esperaríamos que ficassem animadas com isso?
Passamos anos tornando a vigilância conveniente e a posse difícil. Mas mal começamos a oferecer às pessoas outra opção.
Alternativas bem-intencionadas, como o DuckDuckGo ou o self-hosting, tentaram reagir e garantir privacidade, mas exigiam aceitar um produto significativamente pior ou assumir boa parte do trabalho por conta própria. Você não pode pedir que consumidores escolham um princípio em vez de uma experiência melhor, mais fácil e muitas vezes gratuita.
Esse dilema não existe mais. Hoje temos modelos abertos que rodam em um notebook de alto desempenho e entregam uma inteligência do calibre do Sonnet 5 inteiramente de forma local. Nos próximos três a seis meses, teremos a inteligência equivalente ao nível Opus de hoje rodando de maneira privada em hardwares de consumo. Para 90% das tarefas do dia a dia, os modelos locais já são bons o suficiente.
Estamos vendo a capacidade de sistemas enormes e hospedados de forma centralizada chegar a máquinas que pessoas comuns podem possuir. Pela primeira vez, escolher ser dono não significa escolher ter menos.
Nosso foco
Os termos sob os quais vamos trazer a IA pessoal para as nossas vidas ainda estão sendo escritos. À medida que esses sistemas se tornarem mais capazes, mais íntimos e mais difíceis de dispensar, mudar essas regras será cada vez mais complicado.
Sistemas independentes, como a IA local, foram construídos majoritariamente para entusiastas e curiosos. Nosso trabalho é tornar essa experiência útil e simples o bastante para que a posse se torne o padrão.
Eu quero viver em um mundo onde a tecnologia mais poderosa que a humanidade já construiu pertença às pessoas cujas vidas ela transforma. Precisamos lutar por isso sem pedir desculpas.
