Este es un momento crucial en la historia de la humanidad. La Inteligencia General Artificial (AGI), un sistema que exhibe todas las capacidades cognitivas que posee el cerebro humano, probablemente está a solo unos pocos años de distancia. Cuando miremos atrás a esta época en las próximas décadas, creo que nos daremos cuenta de que estábamos en las faldas de la singularidad — nada menos que el amanecer de una nueva era para la humanidad.
He dedicado toda mi vida a trabajar en la AGI porque siempre he tenido la profunda convicción de que, si se construye y despliega de manera responsable, resultará ser una de las tecnologías más beneficiosas y transformadoras jamás inventadas. La AGI no puede compararse con los avances tecnológicos estándar, ni siquiera con otros tan trascendentales como internet o el móvil; se asemeja mucho más al descubrimiento de la electricidad o el fuego. Si te detienes a pensarlo, básicamente hemos encontrado la manera de hacer pensar a la arena. Es milagroso.
La magnitud del impacto de esta tecnología será sin precedentes, quizás 10 veces la de la Revolución Industrial, a 10 veces la velocidad. Nos ayudará a resolver algunos de los mayores problemas que enfrenta la sociedad, desde acelerar el descubrimiento de fármacos hasta desarrollar nuevas fuentes de energía limpia y crear materiales avanzados novedosos. Incluso podríamos llegar a un punto en el que los recursos ya no sean el factor limitante para el progreso humano, dando paso a una nueva era de abundancia asombrosa.
Los desafíos de la frontera
La IA ya está empezando a ofrecer beneficios reales, pero para alcanzar su inmenso potencial, debemos navegar este período crítico de desarrollo con reflexión y cuidado. Se necesitan acciones urgentes para abordar los riesgos que puedan surgir a medida que nos acercamos a la AGI. Ya hemos visto los desafíos que los modelos frontera representan para la ciberseguridad, y otras amenazas, incluidos los riesgos nucleares y biológicos, podrían surgir pronto a medida que las capacidades sigan avanzando. En el horizonte, necesitaremos salvaguardas robustas para mantener el control de sistemas cada vez más agentivos y autorreforzados — y abordar problemas desconocidos que solo se volverán más claros con el tiempo.
Siempre he creído en el poder del ingenio y la creatividad humana para resolver cualquier problema. Confío en que mitigar los riesgos técnicos relacionados con la IA es un desafío que podemos abordar colectivamente, pero solo si nos damos el tiempo y el espacio para hacer bien este próximo paso crucial. Actualmente, como campo y como sociedad en general, no lo estamos haciendo.
En este momento, estamos inmersos en una carrera comercial y geopolítica extremadamente intensa y multifacética. Si bien estas dinámicas competitivas impulsan un progreso rápido y aceleran las increíbles ventajas, los avances en la frontera están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a pasar a partir de aquí, y hasta los expertos discrepan. Cuando hay un gran grado de incertidumbre y lo que está en juego es tan alto, proceder con optimismo cauteloso es la estrategia sensata y correcta. Eso requiere políticas públicas que promuevan la innovación, al mismo tiempo que incentiven la responsabilidad y la seguridad, fomenten la colaboración internacional en temas clave de seguridad, y alienten una consideración cuidadosa de cómo se despliega la IA en beneficio de la sociedad.
Un marco para un organismo de estándares de IA de frontera
El rápido progreso que estamos viendo en la IA requiere un nuevo enfoque para evaluar las capacidades de los modelos de IA de frontera que sea dinámico, adaptable y riguroso. Estados Unidos está bien posicionado, dado su estatus económico y técnico, para dar el primer paso en el desarrollo de dicho marco. Podría establecer un nuevo organismo de estándares basado en una asociación público-privada supervisada federalmente o en una organización autorreguladora, similar a la Autoridad Reguladora de la Industria Financiera (FINRA), con una junta que incluya expertos técnicos líderes independientes y representantes de código abierto. La financiación tendría que ser sustancial y probablemente provenir en su mayoría de la industria, para atraer talento técnico de clase mundial y proporcionar los recursos computacionales necesarios para las pruebas a gran escala.
El organismo de estándares sería responsable de desarrollar protocolos de evaluación y trabajar con las agencias federales apropiadas y los Laboratorios Nacionales de EE. UU. para realizar pruebas en áreas relevantes para la seguridad nacional. Un modelo calificaría como «de clase frontera» si cumple ciertos umbrales en un conjunto de puntos de referencia determinados por el organismo de estándares y actualizados periódicamente para mantenerse al día con las capacidades evolutivas de la IA. Las organizaciones con «modelos frontera» según esos puntos de referencia serían consideradas «laboratorios frontera», y se les alentaría a adoptar mejores prácticas, como publicar tarjetas de modelo con detalles técnicos, mantener una ciberseguridad interna sólida, verificar al personal clave y proporcionar recursos suficientes para la investigación en seguridad y protección, entre otras.
Inicialmente, los laboratorios frontera compartirían voluntariamente los modelos con el organismo de estándares para su revisión hasta 30 días antes de su lanzamiento. Una vez que se demuestre que el protocolo de evaluación es efectivo y robusto, la formalización podría seguir rápidamente, lo que significa que los modelos frontera tendrían que aprobarlo para ser desplegados en el mercado estadounidense. Los laboratorios también trabajarían con el organismo de estándares para abordar cualquier vulnerabilidad crítica posterior al lanzamiento.
Las evaluaciones de modelos deberían incluir evaluaciones científicas rigurosas de capacidades en ciberseguridad, amenazas biológicas y otros dominios de alto riesgo. Las pruebas específicas de IA agentiva podrían buscar intentos de eludir las barreras de seguridad o signos de engaño, y garantizar mejores prácticas, como marcar digitalmente con marcas de agua las imágenes generadas por IA y generar tokens de salida legibles por humanos para comprender el razonamiento del modelo.
Estas evaluaciones se actualizarían periódicamente, quizás trimestralmente al principio, y los puntos de referencia obsoletos o saturados se eliminarían y reemplazarían. Inicialmente, se desarrollarían en consulta con los laboratorios frontera, pero eventualmente el organismo de estándares debería desarrollar la capacidad técnica para crear sus propias pruebas independientes de los laboratorios para evitar el sobreajuste. Trabajando con el gobierno de EE. UU., podría promover un ecosistema de auditores externos para ayudar con las evaluaciones y el desarrollo de nuevos puntos de referencia y evaluaciones.
La fortaleza de este enfoque es que estaría centrado técnicamente, al mismo tiempo que apoya la innovación e incentiva el comportamiento responsable. Está diseñado para mantenerse al día con la aceleración del campo y adaptarse a los mayores riesgos a medida que se identifican, y podría intensificarse si la gravedad de la situación lo exige, incluida la coordinación de una desaceleración en el desarrollo entre los laboratorios frontera si se considera necesario. Ser designado como laboratorio frontera conllevaría un gran prestigio y estaría abierto a cualquier organización que construya modelos que cumplan con los criterios de referencia. El marco podría aplicarse a los modelos de clase frontera independientemente de su país de origen o si son abiertos o cerrados, pero los modelos no frontera, por ejemplo de startups o academia, estarían exentos de este proceso.
Este esfuerzo iniciado por EE. UU. proporcionaría un punto de partida sólido para crear estándares internacionales compartidos sobre la IA de frontera. Dado que esta tecnología va a afectar a todo el planeta, idealmente este marco impulsaría a la comunidad internacional a alcanzar un consenso sobre cómo gestionar los riesgos más graves, al mismo tiempo que garantiza que todos tengan acceso a las oportunidades que trae la IA y puedan beneficiarse de ellas.
El futuro aún no está escrito
La AGI tiene el potencial de ser la herramienta definitiva para avanzar en la ciencia y la medicina, e impulsar enormes ganancias de productividad y crecimiento económico. Pero para lograrlo, necesitamos sentar las bases técnicas correctas coordinándonos en torno a un marco global compartido, utilizando los métodos científicos más rigurosos y reuniendo a las mejores mentes para trabajar en los desafíos que enfrentamos.
Incluso si resolvemos estos difíciles desafíos técnicos, habrá preguntas económicas y filosóficas más complejas que abordar: ¿qué tipos de nuevos modelos económicos se necesitarán para ayudar a todos a prosperar en un mundo post-escasez? ¿Qué valores queremos adoptar, qué serán el significado y el propósito, y cómo podría cambiar incluso la condición humana misma? Resolver estas preguntas obviamente no puede ni debe dejarse solo a los tecnólogos. Requiere que todas las partes de la sociedad se unan para ayudar a definir este nuevo capítulo.
Hay una gran emoción e incertidumbre en torno a la IA, y ambas están justificadas. Pero el futuro aún no está escrito; debemos usar esta valiosa ventana antes de que llegue la AGI para moldear esta tecnología en beneficio de toda la humanidad. Lo que hagamos colectivamente ahora determinará cómo se desarrollará la próxima fase de la civilización. Al guiar la AGI hacia el mundo de manera segura, podemos entrar en una nueva edad de oro de descubrimiento científico y progreso, y dar paso a un futuro brillante de increíble florecimiento humano.
