La superinteligencia llegó. Probablemente no te diste cuenta, porque resultó ser algo incremental.
¿No me crees? Haz la prueba. Habla con Fable 5 durante una hora, luego habla con tus diez amigos más inteligentes. ¿Cuál es más inteligente? No te preocupes, no se ofenderán.
Nos dijeron que esperáramos algo más grande. Una vez que las máquinas cruzaran cierta línea, el coeficiente intelectual del sistema escalaría a alturas que no podríamos seguir, y compartiríamos el planeta con algo que diseña motores warp y piensa pensamientos tan superiores a los míos como los míos lo son respecto a los de mi perro.
Lo que obtuvimos es una herramienta que escribe código excelente, supera a las personas en una sorprendente variedad de tareas y, claramente, reconfigurará la economía. También es, de alguna manera, incremental. Sin despegue. Sin explosión. Esa es la parte extraña.
Creo que sobrevaloramos la inteligencia, o malinterpretamos lo que es.
Así es como la definiría. Tenemos una tenue dispersión de datos sobre el mundo, y la inteligencia o el razonamiento es lo que llena el espacio entre ellos. Extrapola entre cosas que ya conocemos, y los LLM son increíbles en eso. Al estudiar nuestras palabras, aprendieron la estructura de nuestros pensamientos. Pronto lo tendremos en oferta ilimitada, con un coeficiente intelectual de 200, por casi nada.
Donde el espacio entre los hechos se comporta bien, esto es casi divino. El derecho inmobiliario no es difícil. Lo inventamos, es internamente consistente, y un modelo que contenga todos los estatutos y fallos debería superar a cualquier abogado de forma gratuita. La programación, las matemáticas y la mayor parte del trabajo administrativo son igualmente benignos. Lo que los hace fáciles es que tienen espacios de solución relativamente suaves y se pueden verificar de manera manejable.
La mayor parte de lo que importa no se comporta así. El universo es, en su mayoría, el comportamiento emergente de sistemas complejos. Revuelve crema en el café. Observa cómo se forma una tormenta a partir de nada más que diferencias de temperatura atmosférica y vapor de agua. Las reglas locales son simples y el tornado no lo es. En sistemas como estos, ninguna cantidad de razonamiento da la respuesta, porque no hay un atajo escondido en los huecos. Tienes que ejecutar la cosa. Y ejecutarla tiene su propio techo, ya que los pequeños errores se acumulan, por lo que ninguna supercomputadora te dará jamás un pronóstico limpio de dos semanas. El objeto más pequeño que puede simular perfectamente el universo es el universo. Los sistemas humanos son igualmente complejos. Ni siquiera podemos predecir nuestros propios comportamientos de manera confiable, y mucho menos las propiedades emergentes de grandes grupos de personas actuando a lo largo del tiempo.
Eso, sospecho, es la razón por la que nunca llegó la explosión. La historia del despegue asumía que el límite era el pensamiento. No lo es. El límite es el contacto con la realidad. Un razonador más inteligente llena los vacíos entre los hechos conocidos en áreas simples más rápido y mejor, pero no produce nuevos hechos.
Una IA te dará un diseño genuinamente ingenioso para una pala de turbina de avión. Podría tener muchas más probabilidades de funcionar que cualquier cosa que hayan creado tus ingenieros. Aun así, probablemente fallará, porque esa es la tasa base en el límite de lo que cualquiera sabe. La única manera de averiguarlo es construir la pala e intentar romperla.
Ese es el verdadero límite del aprendizaje, y no le importa lo inteligente que seas. Tener ideas nunca fue la parte difícil. La parte difícil es qué tan rápido las responde la realidad.
Nada de esto debería preocuparte. Cualquier cosa que una persona pudiera resolver en un escritorio pensando, ahora una computadora lo resolverá gratis. Eso es mucho, y estas herramientas aumentarán enormemente nuestro nivel de vida. Pero la mayoría de los problemas no se pueden resolver en un escritorio pensando. Esos siguen limitados por lo rápido que podemos construir la cosa y ver si aguanta, y ese reloj apenas se mueve.
¡Para que quede claro, soy muy optimista! Tener razonamiento de 200 IQ a la mano será una bendición, tal como lo fue la fuerza mecanizada. Si el trabajo de la mente es tan valioso como el trabajo del músculo, los cambios podrían ser del orden de la revolución industrial. Mis nietos se maravillarán de mi pobreza así como yo me maravillo de la de mis bisabuelos. Pero no vamos a ver un extraño "despegue" con motores warp y pensamientos que entenderíamos como mi perro entiende los míos. El futuro es brillante. Y comprensible.
