Este é um momento crucial na história da humanidade. A Inteligência Artificial Geral (AGI), um sistema que exibe todas as capacidades cognitivas que o cérebro humano possui, provavelmente está a apenas alguns anos de distância. Quando olharmos para trás, para esta época, nas próximas décadas, acho que perceberemos que estávamos no sopé da singularidade — nada menos que o amanhecer de uma nova era para a humanidade.
Dediquei toda a minha vida a trabalhar na AGI porque sempre tive a profunda convicção de que, se for construída e implementada de forma responsável, se revelará uma das tecnologias mais benéficas e transformadoras já inventadas. A AGI não pode ser comparada a avanços tecnológicos comuns, nem mesmo a invenções tão impactantes como a internet ou o telemóvel — é muito mais semelhante à descoberta da eletricidade ou do fogo. Se pararmos para pensar, essencialmente encontrámos uma forma de fazer a areia pensar. É milagroso.
A magnitude do impacto desta tecnologia será sem precedentes, talvez 10 vezes o da Revolução Industrial, a 10 vezes a velocidade. Ajudar-nos-á a resolver alguns dos maiores problemas que a sociedade enfrenta, desde acelerar a descoberta de medicamentos até desenvolver novas fontes de energia limpa e criar novos materiais avançados. Poderemos até atingir um ponto em que os recursos já não serão o fator limitante para o progresso humano, conduzindo a uma nova era extraordinária de abundância.
Os Desafios da Fronteira
A IA já está a começar a gerar benefícios no mundo real, mas para concretizar a sua imensa promessa, temos de navegar por este período crítico de desenvolvimento de forma ponderada e cuidadosa. É necessária uma ação urgente para lidar com os riscos que podem surgir à medida que nos aproximamos da AGI. Já vimos os desafios que os modelos de fronteira colocam à cibersegurança, e outras ameaças, incluindo riscos nucleares e biológicos, podem emergir em breve à medida que as capacidades continuam a avançar. No horizonte, precisaremos de salvaguardas robustas para manter o controlo sobre sistemas cada vez mais agentivos e que se autoaperfeiçoam recursivamente — e para enfrentar questões desconhecidas que só se tornarão mais claras com o tempo.
Sempre acreditei no poder da engenhosidade e criatividade humanas para resolver qualquer problema. Estou confiante de que mitigar os riscos técnicos relacionados com a IA é um desafio que podemos resolver coletivamente, mas apenas se nos dermos o tempo e o espaço para acertar neste próximo passo crucial. Atualmente, enquanto campo e enquanto sociedade em geral, não estamos a fazer isso.
Neste momento, estamos presos numa corrida comercial e geopolítica extremamente intensa e multifacetada. Embora estas dinâmicas competitivas alimentem um progresso rápido e acelerem os benefícios incríveis, os avanços na fronteira estão a ultrapassar a nossa compreensão da tecnologia. Ninguém no mundo sabe ao certo o que vai acontecer a partir daqui, e até os especialistas discordam. Quando há um grande grau de incerteza e os riscos são tão elevados, avançar com otimismo cauteloso é a estratégia sensata e correta. Isso exige políticas públicas que promovam a inovação, ao mesmo tempo que incentivam a responsabilidade e a segurança, fomentam a colaboração internacional em questões-chave de segurança e encorajam uma reflexão cuidadosa sobre como a IA é implementada em benefício da sociedade.
Um Quadro para um Órgão de Padrões de IA de Fronteira
O progresso rápido que estamos a ver na IA exige uma nova abordagem para testar as capacidades dos modelos de IA de fronteira que seja dinâmica, adaptável e rigorosa. Os EUA estão bem posicionados, dada a sua posição económica e técnica, para dar o primeiro passo no desenvolvimento de tal quadro. Poderiam estabelecer um novo Órgão de Padrões, modelado a partir de uma parceria público-privada supervisionada federalmente ou de uma organização de autorregulação, muito semelhante à Autoridade Reguladora da Indústria Financeira (FINRA), com um conselho que inclua especialistas técnicos independentes de topo e representantes de código aberto. O financiamento teria de ser substancial e provir maioritariamente da indústria, de forma a atrair talento técnico de classe mundial e fornecer os recursos computacionais necessários para testes em grande escala.
O Órgão de Padrões seria responsável por desenvolver protocolos de avaliação e trabalhar com as agências federais apropriadas e os Laboratórios Nacionais dos EUA para realizar testes em áreas relevantes para a segurança nacional. Um modelo qualificar-se-ia como 'de classe de Fronteira' se cumprisse certos limiares num conjunto de critérios de referência determinados pelo Órgão de Padrões e atualizados regularmente para acompanhar a evolução das capacidades da IA. As organizações com 'Modelos de Fronteira', conforme definidos por esses critérios, seriam designadas 'Laboratórios de Fronteira' e seriam incentivadas a adotar melhores práticas, como publicar fichas de modelo com detalhes técnicos, manter uma forte cibersegurança interna, avaliar o pessoal-chave e fornecer recursos suficientes para a investigação em segurança e proteção, entre outras.
Inicialmente, os Laboratórios de Fronteira partilhariam voluntariamente os modelos com o Órgão de Padrões para revisão até 30 dias antes do lançamento. Assim que o protocolo de avaliação se mostrasse eficaz e robusto, a formalização poderia seguir-se rapidamente, o que significaria que os Modelos de Fronteira teriam de ser aprovados para serem implementados no mercado dos EUA. Os Laboratórios também trabalhariam com o Órgão de Padrões para resolver quaisquer vulnerabilidades críticas detetadas após o lançamento.
As avaliações dos modelos devem incluir avaliações científicas rigorosas das capacidades em cibersegurança, ameaças biológicas e outros domínios de alto risco. Testes específicos de IA agentiva poderiam procurar tentativas de contornar as salvaguardas de segurança ou sinais de engano, e garantir melhores práticas, como a marcação digital de água em imagens geradas por IA e a geração de tokens de saída legíveis por humanos para compreender o raciocínio do modelo.
Estas avaliações seriam atualizadas regularmente, talvez trimestralmente no início, com critérios de referência desatualizados ou saturados a serem descontinuados e substituídos. Inicialmente, seriam desenvolvidas em consulta com os Laboratórios de Fronteira, mas, eventualmente, o Órgão de Padrões deveria construir capacidade técnica para criar os seus próprios testes independentes, sem a participação dos Laboratórios, para evitar o sobreajuste. Trabalhando com o governo dos EUA, poderia promover um ecossistema de auditores terceiros para ajudar nas avaliações e no desenvolvimento de novos critérios de referência e avaliações.
A força desta abordagem é que seria tecnicamente focada, ao mesmo tempo que apoia a inovação e incentiva o comportamento responsável. Foi concebida para acompanhar a aceleração do campo e adaptar-se aos maiores riscos à medida que são identificados, podendo ser intensificada se a gravidade da situação o exigir, incluindo a coordenação de uma desaceleração no desenvolvimento entre os Laboratórios de Fronteira, se considerado necessário. Ser designado Laboratório de Fronteira traria um prestígio significativo e estaria aberto a qualquer organização que construísse modelos que cumprissem os critérios de referência. O quadro poderia aplicar-se a modelos de classe de Fronteira, independentemente do seu país de origem ou se são abertos ou fechados, mas quaisquer modelos não pertencentes à fronteira, digamos de startups ou da academia, estariam isentos deste processo.
Este esforço iniciado pelos EUA forneceria um ponto de partida sólido para a criação de padrões internacionais partilhados sobre IA de Fronteira. Uma vez que esta tecnologia vai afetar todo o planeta, idealmente este quadro levaria a comunidade internacional a chegar a um consenso sobre como gerir os riscos mais graves, garantindo ao mesmo tempo que todos têm acesso e podem beneficiar das oportunidades que a IA traz.
O Futuro Ainda Não Está Escrito
A AGI tem o potencial de ser a ferramenta suprema para o avanço da ciência e da medicina, e para impulsionar enormes ganhos de produtividade e crescimento económico. Mas para alcançar isso, precisamos de acertar nas bases técnicas, coordenando-nos em torno de um quadro global partilhado, utilizando os métodos científicos mais rigorosos e reunindo as melhores mentes para trabalhar nos desafios que enfrentamos.
Mesmo que resolvamos estes difíceis desafios técnicos, haverá questões económicas e filosóficas complexas a abordar: que tipos de novos modelos económicos serão necessários para ajudar todos a prosperar num mundo pós-escassez? Que valores queremos seguir, qual será o significado e o propósito, e como poderá até a própria condição humana mudar? Resolver estas questões obviamente não pode nem deve ser deixado apenas aos tecnólogos. Requer que todas as partes da sociedade se unam para ajudar a definir este novo capítulo.
Há uma enorme excitação e incerteza em torno da IA, e ambas são justificadas. Mas o futuro ainda não está escrito, devemos usar esta janela preciosa antes da chegada da AGI para moldar esta tecnologia em benefício de toda a humanidade. O que fizermos coletivamente agora determinará como a próxima fase da civilização se desenrolará. Ao orientar com segurança a AGI para o mundo, podemos entrar numa nova era dourada de descoberta científica e progresso, e inaugurar um futuro brilhante de um florescimento humano incrível.
