La superinteligencia llegó. Probablemente no te diste cuenta, porque resultó ser algo incremental.
¿No me crees? Haz la prueba. Habla con Fable 5 durante una hora, luego habla con tus diez amigos más inteligentes. ¿Cuál es más listo? Tranquilo, no se ofenderán.
Nos dijeron que esperáramos algo más grande. Una vez que las máquinas cruzaran cierta línea, el coeficiente intelectual del sistema escalaría a alturas que no podríamos seguir, y compartiríamos el planeta con algo que diseña motores warp y piensa pensamientos tan lejanos a los míos como los míos lo están de los de mi perro.
Lo que tenemos es una herramienta que escribe código excelente, supera a las personas en una asombrosa variedad de tareas y, claramente, transformará la economía. También es, de algún modo, incremental. Sin despegue. Sin explosión. Esa es la parte extraña.
Creo que sobrevaloramos la inteligencia, o malinterpretamos lo que es.
Así es como la definiría. Tenemos una delgada dispersión de datos sobre el mundo, y la inteligencia o el razonamiento es lo que llena el espacio entre ellos. Extrapola entre cosas que ya sabemos, y los LLM son increíbles en eso. Al estudiar nuestras palabras, aprendieron la estructura de nuestros pensamientos. Pronto lo tendremos en suministro ilimitado, con un coeficiente intelectual de 200, por casi nada.
Donde el espacio entre los hechos se comporta bien, esto es casi divino. El derecho inmobiliario no es difícil. Lo inventamos nosotros, es internamente coherente, y un modelo que tenga todas las leyes y sentencias debería ganarle a cualquier abogado gratis. La programación, las matemáticas y la mayoría del trabajo administrativo son igualmente benignos. Lo que los hace fáciles es que tienen espacios de solución relativamente suaves y son verificables de manera manejable.
La mayor parte de lo que importa no se comporta así. El universo es, en su mayoría, el comportamiento emergente de sistemas complejos. Revuelve crema en el café. Observa cómo se forma una tormenta a partir de nada más que diferencias de temperatura atmosférica y vapor de agua. Las reglas locales son simples y el tornado no lo es. En sistemas como estos, ninguna cantidad de razonamiento da la respuesta, porque no hay un atajo escondido en los vacíos. Tienes que ejecutar la cosa. Y ejecutarla tiene su propio techo, ya que los pequeños errores se acumulan, por lo que ninguna supercomputadora te dará un pronóstico limpio de dos semanas. El objeto más pequeño que puede simular perfectamente el universo es el universo. Los sistemas humanos son igualmente complejos. No podemos predecir ni siquiera nuestros propios comportamientos de manera confiable, y mucho menos las propiedades emergentes de grandes grupos de personas actuando a lo largo del tiempo.
Eso, sospecho, es por qué nunca llegó la explosión. La historia del despegue asumía que el límite era pensar. No lo es. El límite es el contacto con la realidad. Un razonador más inteligente llena los vacíos entre hechos conocidos en áreas simples más rápido y mejor, pero no produce nuevos hechos.
Una IA te dará un diseño genuinamente ingenioso para una pala de turbina de avión. Podría tener muchas más probabilidades de funcionar que cualquier cosa que hayan ideado tus ingenieros. Aun así, probablemente fallará, porque esa es la tasa base en el límite de lo que cualquiera sabe. La única forma de averiguarlo es construir la pala e intentar romperla.
Ese es el verdadero límite del aprendizaje, y no le importa lo inteligente que seas. Tener ideas nunca fue lo difícil. Lo difícil es lo rápido que la realidad las responde.
Nada de esto debería preocuparte. Cualquier cosa que una persona pudiera resolver en un escritorio pensando, una computadora ahora lo resolverá gratis. Eso es mucho, y estas herramientas aumentarán enormemente nuestro nivel de vida. Pero la mayoría de los problemas no se pueden resolver en un escritorio pensando. Esos siguen limitados por lo rápido que podemos construir la cosa y ver si aguanta, y ese reloj apenas se mueve.
¡Para ser claro, soy muy optimista! Tener razonamiento de 200 IQ a disposición será una bendición, igual que lo fue la fuerza mecanizada. Si el trabajo de la mente es tan valioso como el trabajo del músculo, los cambios podrían ser del orden de la revolución industrial. Mis nietos se maravillarán de mi pobreza así como yo me maravillo de la de mis bisabuelos. Pero no vamos a ver ningún extraño "despegue" con motores warp y pensamientos que entenderíamos como mi perro entiende los míos. El futuro es brillante. Y comprensible.
