Estamos en el umbral de una transformación profunda. Los sistemas de IA actuales poseen capacidades impresionantes y el rápido ritmo de la innovación sugiere que nos acercamos a la inteligencia artificial general (AGI), un sistema que exhibe todas las capacidades cognitivas del cerebro humano. Si bien la IA aún puede fallar en tareas básicas y carece de la consistencia y creatividad necesarias para alcanzar el nivel de una AGI completa, esperamos que esas brechas se cierren pronto. Siempre hemos creído que la AGI podría convertirse en la herramienta definitiva para acelerar los avances científicos. Al abrir nuevas vías para comprender y curar enfermedades, desarrollar energía limpia e impulsar la prosperidad económica, podría desbloquear una nueva edad de oro de descubrimiento científico y progreso muy más allá de lo que podríamos lograr sin ella.
Sin embargo, también existen desafíos y riesgos asociados con la llegada de una tecnología tan transformadora. Ya estamos viendo las implicaciones de una IA cada vez más capaz en materia de ciberseguridad y biorriesgos, y existe el potencial de pérdida de control en futuros sistemas auto-mejorables. Este es un momento crítico para garantizar que construyamos la AGI de manera segura y que sus beneficios para la sociedad superen con creces cualquier riesgo.
Lanzamos el DeepMind Institute (DMI) para impulsar la investigación interdisciplinaria, la colaboración y el debate necesarios para responder a las preguntas técnicas y sociales más críticas de la era de la AGI. ¿Qué valoraremos y cómo impactará la AGI en lo que significa ser humano? ¿Cómo construimos y gobernamos de forma segura los sistemas de AGI y las comunidades de agentes que formarán? ¿Qué instituciones y políticas necesitará adaptar la sociedad ante la AGI o reimaginar por completo?
El DMI es una plataforma para investigadores y pensadores de Google DeepMind, Google y la comunidad global de investigación más amplia, dedicada a trabajar y publicar ideas creativas y profundamente informadas sobre un mundo con AGI. No siempre estarán de acuerdo y probablemente cambiarán de opinión a medida que surjan más datos e información en esta frontera de rápido movimiento. Creamos este instituto precisamente porque se requiere una discusión intelectual amplia y un debate para llegar a un consenso sobre cómo abordar los desafíos y oportunidades que enfrentamos como sociedad.
Nadie tiene todas las respuestas sobre cómo desarrollar y desplegar la AGI de manera responsable en el mundo, y no deberían ser solo los tecnólogos quienes las proporcionen. El progreso tecnológico y la experiencia establecen únicamente la posibilidad de una nueva era; la responsabilidad de dar forma colectivamente a su realidad pertenece a toda la sociedad, incluyendo las artes, las humanidades y los gobiernos. El DMI reúne diversas perspectivas para identificar los desafíos críticos que debemos abordar, debatir soluciones potenciales y ayudar a garantizar que la AGI mejore la vida de todos. Esperamos con interés estos debates, esenciales mientras la sociedad reflexiona sobre cómo guiar la AGI hacia el mundo de manera segura.
Directores del DeepMind Institute: Demis Hassabis, James Manyika, Shane Legg
