Este é um momento crucial na história da humanidade. A Inteligência Geral Artificial (AGI), um sistema que exibe todas as capacidades cognitivas que o cérebro humano possui, provavelmente está a apenas alguns anos de distância. Quando olharmos para trás, para esta época, nas próximas décadas, acredito que perceberemos que estávamos nos contrafortes da singularidade — nada menos que o amanhecer de uma nova era para a humanidade.
Passei minha vida inteira trabalhando em AGI porque sempre tive a profunda convicção de que, se construída e implantada de forma responsável, ela se mostraria uma das tecnologias mais benéficas e transformadoras já inventadas. A AGI não pode ser comparada a avanços tecnológicos comuns, nem mesmo a invenções tão impactantes quanto a internet ou o celular — ela é muito mais parecida com a descoberta da eletricidade ou do fogo. Se você parar para pensar, nós essencialmente encontramos uma maneira de fazer areia pensar. É milagroso.
A magnitude do impacto desta tecnologia será sem precedentes, talvez 10 vezes maior que a da Revolução Industrial, a 10 vezes a velocidade. Ela nos ajudará a resolver alguns dos maiores problemas que a sociedade enfrenta, desde acelerar a descoberta de medicamentos até desenvolver novas fontes de energia limpa e criar novos materiais avançados. Poderíamos até chegar a um ponto em que os recursos não sejam mais o fator limitante para o progresso humano, inaugurando uma nova era incrível de abundância.
Os Desafios da Fronteira
A IA já está começando a gerar benefícios no mundo real, mas para realizar sua imensa promessa, precisamos navegar por este período crítico de desenvolvimento de forma ponderada e cuidadosa. Ações urgentes são necessárias para lidar com os riscos que podem surgir à medida que nos aproximamos da AGI. Já vimos os desafios que os modelos de fronteira representam para a segurança cibernética, e outras ameaças, incluindo riscos nucleares e biológicos, podem surgir em breve, à medida que as capacidades continuam a avançar. No horizonte, precisaremos de salvaguardas robustas para manter o controle de sistemas cada vez mais agentivos e auto-aprimoráveis de forma recursiva — e lidar com questões desconhecidas que só se tornarão mais claras com o tempo.
Sempre acreditei no poder da engenhosidade e criatividade humana para resolver qualquer problema. Estou confiante de que mitigar os riscos técnicos relacionados à IA é um desafio que podemos enfrentar coletivamente, mas apenas se nos dermos o tempo e o espaço para acertar este próximo passo crucial. Atualmente, como campo e como sociedade em geral, não estamos fazendo isso.
No momento, estamos presos a uma corrida comercial e geopolítica extremamente intensa e multifacetada. Embora essas dinâmicas competitivas alimentem o progresso rápido e acelerem os benefícios incríveis, os avanços na fronteira estão superando nossa compreensão da tecnologia. Ninguém no mundo sabe ao certo o que vai acontecer a partir daqui, e até mesmo os especialistas discordam. Quando há um alto grau de incerteza e os riscos são tão grandes, prosseguir com otimismo cauteloso é a estratégia sensata e correta. Isso exige políticas públicas que promovam a inovação, ao mesmo tempo que incentivem a responsabilidade e a segurança, fomentem a colaboração internacional em questões-chave de segurança, e encorajem uma consideração cuidadosa de como a IA é implantada para o benefício da sociedade.
Um Framework para um Órgão de Padrões de IA de Fronteira
O rápido progresso que estamos vendo na IA exige uma nova abordagem para testar as capacidades dos modelos de IA de fronteira que seja dinâmica, adaptável e rigorosa. Os EUA estão bem posicionados, dado seu status econômico e técnico, para dar o primeiro passo no desenvolvimento de tal framework. Eles poderiam estabelecer um novo Órgão de Padrões, modelado a partir de uma parceria público-privada supervisionada federalmente ou de uma organização autorreguladora, muito parecida com a Autoridade Reguladora do Setor Financeiro (FINRA), com um conselho que inclua especialistas técnicos líderes independentes e representantes de código aberto. O financiamento precisaria ser substancial e provavelmente vir principalmente da indústria, para atrair talentos técnicos de classe mundial e fornecer os recursos computacionais necessários para testes em larga escala.
O Órgão de Padrões seria responsável por desenvolver protocolos de avaliação e trabalhar com agências federais apropriadas e os Laboratórios Nacionais dos EUA para realizar testes em áreas relevantes para a segurança nacional. Um modelo seria qualificado como 'Classe Fronteira' se atingisse certos limites em um conjunto de benchmarks determinados pelo Órgão de Padrões e atualizados regularmente para acompanhar a evolução das capacidades de IA. Organizações com 'Modelos de Fronteira', conforme definidos por esses benchmarks, seriam consideradas 'Laboratórios de Fronteira', e seriam incentivadas a adotar as melhores práticas, como publicar fichas técnicas dos modelos com detalhes técnicos, manter fortes medidas internas de segurança cibernética, verificar o histórico de pessoal-chave e fornecer recursos suficientes para pesquisa em segurança e proteção, entre outras.
Inicialmente, os Laboratórios de Fronteira compartilhariam voluntariamente os modelos com o Órgão de Padrões para revisão até 30 dias antes do lançamento. Uma vez que o protocolo de avaliação se mostrasse eficaz e robusto, a formalização poderia ocorrer rapidamente, significando que os Modelos de Fronteira seriam obrigados a passar por ele para serem implantados no mercado dos EUA. Os Laboratórios também trabalhariam com o Órgão de Padrões para lidar com quaisquer vulnerabilidades críticas pós-lançamento.
As avaliações de modelos devem incluir avaliações científicas rigorosas das capacidades em segurança cibernética, ameaças biológicas e outros domínios de alto risco. Testes específicos de IA agentiva poderiam buscar tentativas de burlar as salvaguardas de segurança ou sinais de engano, e garantir as melhores práticas, como marcar digitalmente imagens geradas por IA e gerar tokens de saída legíveis por humanos para entender o raciocínio do modelo.
Essas avaliações seriam atualizadas regularmente, talvez trimestralmente no início, com benchmarks desatualizados ou saturados sendo descontinuados e substituídos. Inicialmente, seriam desenvolvidas em consulta com os Laboratórios de Fronteira, mas eventualmente o Órgão de Padrões deveria construir a capacidade técnica para criar seus próprios testes de validação independentes dos Laboratórios, para evitar overfitting. Trabalhando com o governo dos EUA, ele poderia promover um ecossistema de auditores terceirizados para ajudar nas avaliações e no desenvolvimento de novos benchmarks e avaliações.
A força desta abordagem é que ela seria tecnicamente focada, ao mesmo tempo que apoiaria a inovação e incentivaria o comportamento responsável. Ela é projetada para acompanhar a aceleração do campo e se adaptar aos maiores riscos à medida que são identificados, e poderia ser intensificada se a gravidade da situação exigir, incluindo a coordenação de uma desaceleração no desenvolvimento entre os Laboratórios de Fronteira, se considerado necessário. Ser designado um Laboratório de Fronteira traria prestígio significativo e estaria aberto a qualquer organização que construísse modelos que atendessem aos critérios de benchmark. O framework poderia ser aplicado a modelos Classe Fronteira, independentemente do seu país de origem ou se são abertos ou fechados, mas quaisquer modelos não-fronteira, digamos de startups ou academia, estariam isentos deste processo.
Este esforço iniciado pelos EUA forneceria um forte ponto de partida para a criação de padrões internacionais compartilhados sobre IA de Fronteira. Como esta tecnologia vai afetar todo o planeta, idealmente este framework estimularia a comunidade internacional a chegar a um consenso sobre como gerenciar os riscos mais sérios, garantindo ao mesmo tempo que todos tenham acesso e possam se beneficiar das oportunidades que a IA traz.
O Futuro Ainda Não Está Escrito
A AGI tem o potencial de ser a ferramenta definitiva para o avanço da ciência e da medicina, e para impulsionar enormes ganhos de produtividade e crescimento econômico. Mas, para alcançar isso, precisamos acertar as bases técnicas, coordenando-nos em torno de um framework global compartilhado, usando os métodos científicos mais rigorosos e reunindo as melhores mentes para trabalhar nos desafios que enfrentamos.
Mesmo que resolvamos esses difíceis desafios técnicos, haverá questões econômicas e filosóficas complexas adicionais a serem enfrentadas: que tipos de novos modelos econômicos serão necessários para ajudar todos a prosperar em um mundo pós-escassez? Que valores queremos ter, qual será o significado e o propósito, e como a própria condição humana pode mudar? Resolver essas questões obviamente não pode e não deve ser deixado apenas para os tecnólogos. Exige que todas as partes da sociedade se unam para ajudar a definir este novo capítulo.
Há uma enorme excitação e incerteza em torno da IA, e ambas são justificadas. Mas o futuro ainda não está escrito, devemos usar esta preciosa janela antes da chegada da AGI para moldar esta tecnologia para o benefício de toda a humanidade. O que fizermos coletivamente agora determinará como a próxima fase da civilização se desenrolará. Ao administrar a AGI com segurança no mundo, podemos entrar em uma nova era de ouro de descoberta científica e progresso, e inaugurar um futuro brilhante de um florescimento humano incrível.
