Parece que estamos dispuestos a creer casi cualquier cosa sobre el futuro de la IA, excepto que las personas comunes podrían tener el control de ella.
La IA personal ha introducido sistemas con un acceso sin precedentes a nuestras vidas. A medida que empezamos a depender de ellos para tomar decisiones y actuar en nuestro nombre, quién controle esa inteligencia se volverá increíblemente importante.
Ahora más que nunca, debemos construir pensando en un futuro que le pertenezca al individuo.
Lo propio es un mejor producto.
En la era de internet, había razones fundamentales para centralizar.
Los negocios de marketplace como Amazon, Uber o DoorDash solo funcionaban porque la oferta y la demanda se concentraban en un mismo lugar. Facebook o Instagram eran útiles porque todas las personas que conocías ya estaban ahí. Productos como Google representaban problemas técnicos prohibitivamente grandes, a escala de petabytes. En todos estos casos, tener tu propia versión habría arruinado por completo el propósito.
La IA personal es diferente. Su valor no proviene de cuántas otras personas usen ese mismo sistema, sino de qué tan completamente se vuelve tuya.
El agente personal más útil tendrá contexto total sobre toda tu vida. Desde tus correos electrónicos, historial médico y finanzas, hasta las conversaciones que tienes y los dispositivos de tu hogar. Si no confías plenamente en las empresas a las que les entregas todo esto, el cuello de botella deja de ser la inteligencia del modelo y pasa a ser el nivel de acceso que estás dispuesto a darle.
Ser dueño de la máquina donde corre tu agente elimina esa disyuntiva. Puedes aprovechar el valor de tus datos sin la preocupación de que se envíen a un tercero para ser almacenados y analizados.
El hardware dedicado también aumenta drásticamente la cantidad de trabajo que la inteligencia puede hacer por ti. Sin un proveedor cobrando por cada token adicional, podemos correr modelos que procesan continuamente nueva información a medida que llega y actúan de forma proactiva. Si se hace bien, la IA rápidamente será mucho mejor para aportarte valor basándose en su conocimiento de lo que ocurre en tu vida, de lo que tú jamás podrías ser escribiéndole prompts.
Con el tiempo, tu agente debería evolucionar para pensar distinto, responder distinto y trabajar distinto al mío, porque nuestras vidas y lo que esperamos de ellas son diferentes. Esto debería cumplirse en todos los niveles: desde el contexto sobre el cual razona el agente hasta la infraestructura que lo ejecuta, e incluso llegar hasta los propios pesos del modelo.
La inteligencia es poder.
Entonces, la pregunta pasa a ser: ¿quién se queda con los beneficios de un sistema así?
Cuanto más capaz y esencial se vuelva la IA en nuestras vidas, más poderoso será quien la controle. Si le entregamos el control de la inteligencia a un puñado de laboratorios y grandes empresas tecnológicas, les daremos autoridad unilateral para decidir cómo esa inteligencia debe entender el mundo y actuar en él.
¿A quién se le puede confiar tanto poder?
Que un laboratorio afirme saber qué es lo mejor para la humanidad no le da derecho a imponer ese juicio de forma centralizada. La generación anterior de empresas tecnológicas hizo promesas morales similares ("no seas malvado") y cedió cuando los incentivos dejaron de alinearse.
En definitiva, cuando un agente actúa en mi nombre, yo debería tener la última palabra sobre cómo se comporta. Esa autoridad tiene que seguir siendo mía, incluso si la empresa que lo construyó no está de acuerdo conmigo.
Es profundamente distópico imaginar un sistema creado a partir de la información más sensible de mi vida que pertenece a una empresa multimillonaria y que me lo alquilan de vuelta cobrándome por token.
Mientras más partes de nosotros mismos confiemos a estos sistemas, menos aceptable será que la propiedad esté en manos de alguien más.
Las personas merecen elegir.
Nos hemos desconectado peligrosamente de lo que la gente realmente siente respecto a la tecnología que construimos.
Las personas protestan contra las cámaras de Flock, hacen campañas para mantener a Palantir fuera de sus instituciones públicas, se indignan contra los laboratorios que entrenan modelos con sus datos privados y, aun así, la industria insiste en que "a los consumidores no les importa la privacidad". Les prometemos abundancia mientras construimos un futuro en el que poseen menos y dependen más de nosotros. ¿Por qué esperaríamos que eso los entusiasme?
Llevamos años haciendo que la vigilancia sea cómoda y que la propiedad sea difícil. Pero apenas hemos empezado a ofrecerle a la gente otra opción.
Alternativas bien intencionadas como DuckDuckGo o el self-hosting intentaron resistir y proteger la privacidad, pero implicaban aceptar un producto significativamente peor o hacer gran parte del trabajo uno mismo. No puedes pedirle a los consumidores que elijan un principio por encima de una experiencia mejor, más fácil y muchas veces gratuita.
Esa disyuntiva ya no existe. Hoy tenemos modelos abiertos que pueden correr en una laptop de gama alta y entregar una inteligencia del nivel de Sonnet-5 de manera completamente local. En los próximos tres a seis meses, tendremos la inteligencia equivalente al Opus de hoy corriendo de forma privada en hardware de consumo. Para el 90 % de las tareas cotidianas, los modelos locales ya son lo suficientemente buenos.
Estamos viendo cómo la capacidad de los enormes sistemas alojados de forma centralizada llega a máquinas que cualquier persona puede tener. Por primera vez, elegir ser dueño de tu tecnología no significa conformarte con menos.
Nuestro enfoque
Las condiciones bajo las cuales integramos la IA personal a nuestras vidas todavía se están escribiendo. A medida que estos sistemas se vuelvan más capaces, más íntimos y más difíciles de dejar, cambiar esas reglas será cada vez más complicado.
Los sistemas independientes, como la IA local, se han construido principalmente para entusiastas y aficionados a la tecnología. Nuestro trabajo es lograr que esa experiencia sea lo bastante útil y sencilla para que ser dueño de tu tecnología se convierta en la norma.
Quiero vivir en un mundo donde la tecnología más poderosa que la humanidad haya construido les pertenezca a las personas cuyas vidas transforma. Tenemos que luchar por construirla sin pedir disculpas por ello.
