Parecemos dispuestos a creer casi cualquier cosa sobre el futuro de la IA, excepto que las personas comunes podrían tener el control sobre ella.
La IA personal ha introducido sistemas con un acceso sin precedentes a nuestras vidas. A medida que empezamos a depender de ellos para tomar decisiones y actuar en nuestro nombre, quién controle esa inteligencia se volverá increíblemente importante.
Ahora más que nunca, debemos construir pensando en un futuro que pertenezca al individuo.
Lo propio es un mejor producto.
En la era de internet, había razones fundamentales para centralizar.
Los negocios de marketplace como Amazon, Uber o DoorDash solo funcionaban porque la oferta y la demanda se concentraban en un mismo lugar. Facebook o Instagram eran útiles porque todas las personas que conocías ya estaban ahí. Productos como Google representaban problemas técnicos prohibitivamente grandes, a escala de petabytes. En todos estos casos, tener tu propia versión habría arruinado por completo el propósito.
La IA personal es diferente. Su valor no proviene de cuántas otras personas usen ese mismo sistema, sino de lo completamente tuya que llega a ser.
El agente personal más útil tendrá contexto absoluto sobre toda tu vida. Desde tus correos electrónicos, historial médico y finanzas, hasta las conversaciones que mantienes y los dispositivos de tu hogar. Si no confías plenamente en las empresas a las que les entregas todo esto, el cuello de botella deja de ser la inteligencia del modelo y pasa a ser el nivel de acceso que estás dispuesto a darle.
Ser dueño de la máquina en la que se ejecuta tu agente elimina esa disyuntiva. Puedes aprovechar el valor de tus datos sin preocuparte de que se envíen a un tercero para ser almacenados y analizados.
El hardware dedicado también multiplica drásticamente la cantidad de trabajo que la inteligencia puede hacer por ti. Sin un proveedor cobrando por cada token adicional, podemos ejecutar modelos que procesan continuamente la nueva información a medida que llega y actúan de forma proactiva. Si se hace bien, la IA se volverá rápidamente mucho mejor aportando valor gracias a su comprensión de lo que ocurre en tu vida de lo que tú jamás podrías ser indicándole qué hacer mediante prompts.
Con el tiempo, tu agente debería evolucionar para pensar, responder y trabajar de manera distinta al mío, porque nuestras vidas y lo que esperamos de ellas son diferentes. Y esto debería cumplirse en todos los niveles: desde el contexto sobre el que razona el agente hasta la infraestructura que lo soporta, e incluso los propios pesos del modelo.
La inteligencia es poder.
Entonces, la pregunta pasa a ser: ¿dónde se acumulan los beneficios de un sistema así?
Cuanto más capaz y esencial sea la IA en nuestras vidas, más poderoso será quien la posea. Si cedemos el control de la inteligencia a un puñado de laboratorios y grandes tecnológicas, les otorgamos autoridad unilateral para decidir cómo debe entender y actuar esa inteligencia en el mundo.
¿A quién se le puede confiar tanto poder?
Que un laboratorio afirme saber qué es lo mejor para la humanidad no le da derecho a imponer ese criterio de forma centralizada. La generación anterior de empresas tecnológicas hizo promesas morales similares («no seas malvado») y cedió en cuanto los incentivos dejaron de estar alineados.
En definitiva, cuando un agente actúa en mi nombre, yo debería tener la última palabra sobre cómo se comporta. Esa autoridad debe seguir siendo mía incluso si la empresa que lo creó no está de acuerdo conmigo.
Resulta profundamente distópico imaginar un sistema construido con la información más sensible de mi vida en manos de una empresa multimillonaria, que luego me lo alquila cobrándome por token.
Cuanto más deleguemos de nosotros mismos en estos sistemas, menos aceptable será que la propiedad esté en cualquier otro lugar.
Las personas merecen elegir.
Nos hemos desconectado peligrosamente de lo que la gente realmente siente acerca de la tecnología que construimos.
La gente protesta contra las cámaras de Flock, hace campaña para mantener a Palantir fuera de sus instituciones públicas, denuncia a los laboratorios que entrenan modelos con sus datos privados y, aun así, la industria insiste en que «a los consumidores no les importa la privacidad». Les prometemos abundancia mientras construimos un futuro en el que poseen menos y dependen más de nosotros. ¿Por qué esperaríamos que eso les entusiasmara?
Llevamos años haciendo que la vigilancia sea cómoda y que la propiedad resulte difícil. Pero apenas hemos empezado a ofrecerle a la gente otra alternativa.
Opciones bien intencionadas como DuckDuckGo o el self-hosting intentaron resistir y proteger la privacidad, pero implicaban aceptar un producto significativamente peor o hacer gran parte del trabajo uno mismo. No puedes pedirle a los consumidores que elijan un principio por encima de una experiencia mejor, más sencilla y, muchas veces, gratuita.
Esa disyuntiva ya no existe. Hoy contamos con modelos abiertos capaces de funcionar en un portátil de gama alta y ofrecer una inteligencia a la altura de Sonnet-5 de forma completamente local. En los próximos tres a seis meses, tendremos la inteligencia equivalente al Opus de hoy ejecutándose de manera privada en hardware de consumo. Para el 90 % de las tareas del día a día, los modelos locales ya son lo bastante buenos.
Estamos viendo cómo las capacidades de enormes sistemas alojados de forma centralizada llegan a máquinas que cualquier persona puede tener en propiedad. Por primera vez, elegir ser dueño no significa conformarse con menos.
Nuestro enfoque
Las condiciones bajo las cuales integramos la IA personal en nuestras vidas aún se están escribiendo. A medida que estos sistemas se vuelvan más capaces, más íntimos y más difíciles de dejar, cambiar esas condiciones será cada vez más complicado.
Los sistemas independientes, como la IA local, se han diseñado en gran medida para aficionados y entusiastas del cacharreo tecnológico. Nuestro trabajo es lograr que esa experiencia sea tan útil y sencilla que la propiedad se convierta en la opción por defecto.
Quiero vivir en un mundo donde la tecnología más poderosa que la humanidad haya creado pertenezca a las personas cuyas vidas transforma. Debemos luchar por construirla sin pedir disculpas por ello.
