Кажется, мы готовы поверить почти во что угодно о будущем ИИ — только не в то, что обычные люди смогут его контролировать.
Персональный ИИ принес в нашу жизнь системы с беспрецедентным доступом к нам самим. По мере того как мы начинаем полагаться на них в принятии решений и совершении действий от нашего имени, вопрос о том, кто контролирует этот интеллект, станет невероятно важным.
Сейчас как никогда важно строить будущее, которое будет принадлежать человеку.
То, чем ты владеешь — лучший продукт.
В эпоху интернета у централизации были фундаментальные причины.
Маркетплейсы вроде Amazon, Uber или DoorDash работали только потому, что спрос и предложение собирались в одном месте. Facebook и Instagram были полезны, потому что все твои знакомые уже там сидели. А такие продукты, как Google, представляли собой неподъемные технические задачи петабайтного масштаба. Во всех этих случаях запускать собственную версию означало убивать саму суть продукта.
С персональным ИИ всё иначе. Его ценность определяется не тем, сколько других людей пользуются той же системой, а тем, насколько полно он становится твоим.
Самый полезный персональный агент будет обладать полным контекстом всей твоей жизни. Всё: от почты, медицинских карт и финансов до твоих разговоров и умных устройств дома. Если ты не доверяешь компаниям, которым это отдаешь, узким местом становится уже не интеллект модели, а тот уровень доступа, который ты готов ей предоставить.
Если ты владеешь машиной, на которой работает твой агент, этой дилеммы просто не возникает. Ты получаешь всю пользу от своих данных и не переживаешь, что их отправили третьей стороне — складировать и анализировать.
Выделенное железо также радикально увеличивает объем работы, которую ИИ может выполнять для тебя. Когда провайдер не списывает деньги за каждый дополнительный токен, можно запускать модели, которые непрерывно обрабатывают поступающую информацию и действуют на опережение. Если всё сделать правильно, ИИ очень быстро научится приносить больше пользы, просто понимая, что происходит в твоей жизни, чем ты когда-либо сможешь добиться от него промптами.
Со временем твой агент должен начать думать, отвечать и работать иначе, чем мой, — ведь наши жизни и наши желания различаются. И это должно проявляться на каждом уровне: от контекста, на который опирается агент, до программной обвязки и даже самих весов модели.
Интеллект — это власть.
И тогда возникает вопрос: кому достанутся выгоды от такой системы?
Чем способнее и незаменимее становится ИИ в нашей жизни, тем могущественнее тот, кто им владеет. Если мы отдадим контроль над интеллектом горстке лабораторий и IT-гигантов, мы дадим им единоличное право решать, как этот интеллект должен воспринимать мир и действовать в нем.
Кому можно доверить такую власть?
Если лаборатория заявляет, что знает, что лучше для человечества, это не дает ей права навязывать свои решения централизованно. Предыдущее поколение технологических компаний давало похожие морализаторские обещания («не будь злом») и сдавало позиции, как только менялись стимулы.
В конечном счете, если агент действует от моего имени, последнее слово о его поведении должно оставаться за мной. Эта власть должна принадлежать мне, даже если компания-разработчик со мной не согласна.
Представлять систему, собранную из самой чувствительной информации о моей жизни, собственностью корпорации стоимостью в триллионы долларов, которая сдает ее мне в аренду потокенно, — чистая антиутопия.
Чем больше себя мы доверяем этим системам, тем менее приемлемо, чтобы они принадлежали кому-то другому.
Люди заслуживают выбора.
Мы опасно оторвались от реального отношения людей к технологиям, которые создаем.
Люди протестуют против камер Flock, добиваются запрета Palantir в государственных учреждениях, возмущаются тем, что лаборатории обучаются на их личных данных, — а индустрия продолжает твердить, что «потребителям плевать на приватность». Мы сулим им изобилие, но строим будущее, в котором у них будет меньше собственности и больше зависимости от нас. Почему они должны этому радоваться?
Мы годами делали слежку удобной, а владение — сложным. Но предложить людям альтернативу мы толком даже не пытались.
Благие альтернативы вроде DuckDuckGo или самостоятельного хостинга пытались сопротивляться и защищать приватность, но требовали либо мириться с заметно худшим продуктом, либо делать всё своими руками. Нельзя просить потребителей выбирать принцип вместо лучшего, простого и часто бесплатного опыта.
Но этот компромисс остался в прошлом. Сегодня у нас есть открытые модели, которые работают на мощном ноутбуке и выдают интеллект уровня Sonnet-5 полностью локально. В ближайшие три-шесть месяцев сегодняшний уровень Opus будет приватно работать на обычном пользовательском железе. Для 90% повседневных задач локальных моделей уже достаточно.
На наших глазах возможности огромных централизованных систем перекочевывают на машины, которыми могут владеть обычные люди. Впервые выбрать владение не значит выбрать меньшее.
Наш фокус
Правила, по которым персональный ИИ войдет в нашу жизнь, еще пишутся. И чем способнее, интимнее и незаменимее будут становиться эти системы, тем сложнее будет эти правила изменить.
Независимые системы вроде локального ИИ создавались в основном для энтузиастов и гиков. Наша задача — сделать этот опыт настолько полезным и простым, чтобы владение стало нормой по умолчанию.
Я хочу жить в мире, где самая мощная технология, созданная человечеством, принадлежит тем, чью жизнь она меняет. И мы должны без стеснения бороться за то, чтобы её построить.
