Este es un momento crucial en la historia de la humanidad. La Inteligencia General Artificial (AGI, por sus siglas en inglés), un sistema que exhibe todas las capacidades cognitivas que posee el cerebro humano, probablemente esté a solo unos pocos años de distancia. Cuando miremos atrás a esta época en las próximas décadas, creo que nos daremos cuenta de que estábamos en las puertas de la singularidad, nada menos que el amanecer de una nueva era para la humanidad.
He dedicado toda mi vida a trabajar en AGI porque siempre he tenido la profunda convicción de que, si se construye y despliega de manera responsable, demostrará ser una de las tecnologías más beneficiosas y transformadoras jamás inventadas. La AGI no se puede comparar con los avances tecnológicos estándar, ni siquiera con aquellos tan trascendentales como internet o el móvil; se asemeja mucho más al descubrimiento de la electricidad o el fuego. Si te detienes a pensar, básicamente hemos encontrado la manera de hacer que la arena piense. Es milagroso.
La magnitud del impacto de esta tecnología no tendrá precedentes, quizás 10 veces la de la Revolución Industrial a 10 veces la velocidad. Nos ayudará a resolver algunos de los problemas más grandes que enfrenta la sociedad, desde acelerar el descubrimiento de fármacos hasta desarrollar nuevas fuentes de energía limpia y crear nuevos materiales avanzados. Incluso podríamos llegar a un punto en el que los recursos ya no sean el factor limitante para el progreso humano, dando paso a una nueva era increíble de abundancia.
Los Desafíos de la Frontera
La IA ya está comenzando a ofrecer beneficios en el mundo real, pero para cumplir su inmensa promesa, debemos navegar este período crítico de desarrollo de manera reflexiva y cuidadosa. Se necesita una acción urgente para abordar los riesgos que podrían surgir a medida que nos acercamos a la AGI. Ya hemos visto los desafíos que los modelos fronterizos plantean para la ciberseguridad, y otras amenazas, incluidos los riesgos nucleares y biológicos, podrían surgir pronto a medida que las capacidades continúen avanzando. En el horizonte, necesitaremos salvaguardas sólidas para mantener el control de sistemas cada vez más agentivos y recursivamente auto-mejorables, y abordar problemas desconocidos que solo se aclararán con el tiempo.
Siempre he creído en el poder del ingenio y la creatividad humana para resolver cualquier problema. Estoy convencido de que mitigar los riesgos técnicos relacionados con la IA es un desafío que podemos abordar colectivamente, pero solo si nos damos el tiempo y el espacio para hacer bien este próximo paso crucial. Actualmente, como campo y como sociedad en general, no lo estamos haciendo.
En este momento, estamos inmersos en una carrera comercial y geopolítica extremadamente intensa y multifacética. Si bien estas dinámicas competitivas impulsan un progreso rápido y aceleran los increíbles beneficios, los avances en la frontera están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a pasar a partir de aquí, e incluso los expertos están en desacuerdo. Cuando hay un alto grado de incertidumbre y lo que está en juego es tan grande, proceder con un optimismo cauteloso es la estrategia sensata y correcta. Esto requiere políticas públicas que promuevan la innovación y al mismo tiempo incentiven la responsabilidad y la seguridad, fomenten la colaboración internacional en cuestiones clave de seguridad, y alienten una consideración cuidadosa de cómo se despliega la IA en beneficio de la sociedad.
Un Marco para un Organismo de Estándares de IA Fronteriza
El rápido progreso que estamos viendo en la IA requiere un nuevo enfoque para probar las capacidades de los modelos de IA fronterizos que sea dinámico, adaptable y riguroso. Estados Unidos está bien posicionado, dada su posición económica y técnica, para dar el primer paso en el desarrollo de dicho marco. Podría establecer un nuevo Organismo de Estándares modelado sobre una asociación público-privada supervisada federalmente u organización autorreguladora, similar a la Autoridad Reguladora de la Industria Financiera (FINRA, por sus siglas en inglés), con una junta que incluya expertos técnicos líderes independientes y representantes de código abierto. La financiación tendría que ser sustancial y probablemente provendría en su mayoría de la industria, para atraer talento técnico de clase mundial y proporcionar los recursos computacionales necesarios para las pruebas a gran escala.
El Organismo de Estándares sería responsable de desarrollar protocolos de evaluación y trabajar con las agencias federales apropiadas y los Laboratorios Nacionales de EE.UU. para realizar pruebas en áreas relevantes para la seguridad nacional. Un modelo calificaría como 'de clase fronteriza' si cumple ciertos umbrales en un conjunto de puntos de referencia determinados por el Organismo de Estándares y actualizados periódicamente para mantenerse al ritmo de la evolución de las capacidades de la IA. Las organizaciones con 'Modelos Fronterizos' según lo definido por esos puntos de referencia serían consideradas 'Laboratorios Fronterizos', y se les alentaría a adoptar mejores prácticas, como publicar tarjetas de modelo con detalles técnicos, mantener una sólida ciberseguridad interna, evaluar al personal clave, y proporcionar recursos suficientes para la investigación en seguridad y protección, entre otras.
Inicialmente, los Laboratorios Fronterizos compartirían voluntariamente los modelos con el Organismo de Estándares para su revisión hasta 30 días antes del lanzamiento. Una vez que se demuestre que el protocolo de evaluación es efectivo y sólido, la formalización podría seguir rápidamente, lo que significa que los Modelos Fronterizos tendrían que aprobarlo para ser desplegados en el mercado estadounidense. Los laboratorios también trabajarían con el Organismo de Estándares para abordar cualquier vulnerabilidad crítica posterior al lanzamiento.
Las evaluaciones de los modelos deben incluir evaluaciones científicas rigurosas de las capacidades en ciberseguridad, amenazas biológicas y otros dominios de alto riesgo. Las pruebas específicas de IA agente podrían buscar intentos de eludir las barreras de seguridad o signos de engaño, y garantizar mejores prácticas, como el marcado de agua digital de imágenes generadas por IA y la generación de tokens de salida legibles por humanos para comprender el razonamiento del modelo.
Estas evaluaciones se actualizarían periódicamente, quizás trimestralmente al principio, y los puntos de referencia obsoletos o saturados se eliminarían y reemplazarían. Inicialmente, se desarrollarían en consulta con los Laboratorios Fronterizos, pero eventualmente el Organismo de Estándares debería desarrollar la capacidad técnica para crear sus propias pruebas independientes de los laboratorios para evitar el sobreajuste. Trabajando con el gobierno de EE.UU., podría promover un ecosistema de auditores externos para ayudar con las evaluaciones y el desarrollo de nuevos puntos de referencia y evaluaciones.
La fortaleza de este enfoque es que estaría técnicamente enfocado, al mismo tiempo que apoya la innovación e incentiva el comportamiento responsable. Está diseñado para mantenerse al día con la aceleración del campo y adaptarse a los riesgos más grandes a medida que se identifican, y podría intensificarse si la gravedad de la situación lo exige, incluida la coordinación de una desaceleración en el desarrollo entre los Laboratorios Fronterizos si se considera necesario. Ser designado como Laboratorio Fronterizo conllevaría un prestigio significativo y estaría abierto a cualquier organización que construya modelos que cumplan con los criterios de referencia. El marco podría aplicarse a modelos de clase fronteriza sin importar su país de origen o si son abiertos o cerrados, pero cualquier modelo no fronterizo, por ejemplo de startups o del ámbito académico, estaría exento de este proceso.
Este esfuerzo iniciado por EE.UU. proporcionaría un punto de partida sólido para crear estándares internacionales compartidos sobre IA Fronteriza. Dado que esta tecnología va a afectar a todo el planeta, idealmente este marco impulsaría a la comunidad internacional a alcanzar un consenso sobre cómo gestionar los riesgos más graves, al tiempo que garantiza que todos tengan acceso y puedan beneficiarse de las oportunidades que la IA trae consigo.
El Futuro Aún No Está Escrito
La AGI tiene el potencial de ser la herramienta definitiva para avanzar en la ciencia y la medicina, e impulsar enormes ganancias de productividad y crecimiento económico. Pero para lograrlo, necesitamos establecer las bases técnicas correctas coordinándonos en torno a un marco global compartido, utilizando los métodos científicos más rigurosos y reuniendo a las mejores mentes para trabajar en los desafíos que enfrentamos.
Incluso si resolvemos estos difíciles desafíos técnicos, habrá preguntas económicas y filosóficas más complejas que abordar: ¿qué tipos de nuevos modelos económicos se necesitarán para ayudar a todos a prosperar en un mundo de pos-escasez? ¿Qué valores queremos seguir, cuál será el significado y el propósito, y cómo podría cambiar incluso la propia condición humana? Resolver estas preguntas, obviamente, no puede ni debe dejarse solo a los tecnólogos. Requiere que todas las partes de la sociedad se unan para ayudar a definir este nuevo capítulo.
Hay una gran emoción e incertidumbre en torno a la IA, y ambas están justificadas. Pero el futuro aún no está escrito; debemos usar esta valiosa ventana antes de que llegue la AGI para dar forma a esta tecnología en beneficio de toda la humanidad. Lo que hagamos colectivamente ahora determinará cómo se desarrollará la próxima fase de la civilización. Al gestionar de forma segura la llegada de la AGI al mundo, podemos entrar en una nueva edad de oro de descubrimiento científico y progreso, y dar paso a un futuro brillante de florecimiento humano increíble.
