Что если AGI уже здесь, и она состоит из... детей?

Сверхразум, сингулярность, AGI — как бы вы это ни называли, то, чего мы так боимся, иронично, скорее всего, останется для нас незамеченным.

Это эссе, вероятно, будет довольно провокационным, но идея, которой я хочу с вами поделиться, точно взорвет вам мозг.

Держитесь со мной, пока мы вместе погружаемся в кроличью нору.

Прежде чем мы начнем, давайте подкрепим мои слова актуальными новостями, которые сейчас обсуждают. Например, генеральный директор Anthropic Дарио Амодеи заявил, что «рой ИИ может захватить весь интернет».

Я думаю, вы понимаете, к чему я клоню, когда говорю о «детях».

Правда? ПРАВДА?!?!?

В 1936 году известный британский математик Алан Тьюринг написал очень важную статью о гипотетической машине, способной имитировать любую другую машину. В этой статье он пытался ответить на вопрос из области логики.

То, что мы сегодня знаем как «компьютер», стало случайным побочным продуктом именно той статьи.

Если оглянуться на историю, почти каждая важная технология последних ста лет была изобретена точно так же. Интернет изначально был экспериментом по коммуникациям времен холодной войны. Пенициллин открыли благодаря загрязненной чашке Петри.

Факт в том, что никто активно не сканирует горизонт в поисках следующего парадигмального сдвига. Когда он появляется, он просто входит через черную дверь.

Я поднимаю эту тему, потому что прямо сейчас каждый эссе и каждый подкаст о «будущем ИИ» смотрят в одну и ту же парадную дверь. Ту, где всегда присутствует какая-то версия «одной большой модели, которая просыпается и решает, что мы — скрепки».

Я хотел бы предложить другое будущее.

Потому что я постоянно думаю: а что если «AGI» — это не совсем то, чем мы его представляем?

Что если то, что мы активно создаем прямо сейчас, не похоже на HAL 9000 или Скайнет, или на суверенного машинного бога, порабощающего человечество с вершины стопки водяных GPU посреди пустыни.

Что если у него вообще нет имени? Что если у него нет сервера? И самый пугающий гипотетический сценарий... что если оно уже здесь, разбитое на миллионы мелких частей, и единственная причина, по которой мы его не узнали, заключается в том, что последнее десятилетие мы ждали чего-то «единого».

Я только вчера увидел этот пост.

Он отлично резюмирует направление, в котором мы движемся.

Я хочу провести вас через это осторожно, потому что вывод в конце этого текста — из тех вещей, которые невозможно «раздумать», однажды об них задумавшись.

Так что замедлитесь, заварите чай и прочтите это, оставив телефон в другой комнате.

Гарантирую, вы скоро поймете, почему я не могу перестать об этом думать.

I – Интеллекту никогда не требовалось единого разума, чтобы существовать

*«Ни один нейрон не разумен. Разумным является мозг». *

— Фраза, которую следует высечь над входом в каждую лабораторию ИИ

Первое, что нужно понять: интеллект, насколько мы можем судить по всем известным нам примерам, — это не вещь. Это поведение. Это то, что возникает, когда достаточное количество простых глупых единиц соединяются друг с другом правильным образом.

В вашем мозге примерно 86 миллиардов нейронов.

Ни один из них не обладает сознанием, и ни один из них ничего не «знает».

Один нейрон — это крошечный электрохимический релей, который общается только в двоичном коде. Он либо срабатывает, либо нет, в зависимости от того, пересекают ли сигналы, поступающие на его дендриты, определенный порог. Вот и все, что он делает.

Нейрон звучит как что-то супер-фантастическое и крутое, но на самом деле он гораздо ближе к выключателю света, чем к мыслителю.

Несмотря на это, 86 миллиардов таких выключателей, соединенных примерно сотней триллионов связей, производят вас.

Ваше чувство собственного «я», страх смерти, музыкальные вкусы и ваша способность читать этот самый текст и чувствовать что-то внутри себя.

Это самая недооцененная тема во всем разговоре об AGI, потому что мы всегда говорим о машинном интеллекте так, будто его нужно проектировать и строить архитектуру. Как будто сам интеллект — это функция, которую можно выпустить.

Но единственная работающая модель интеллекта, которую мы когда-либо наблюдали (биологическое познание), никем не была спроектирована.

Наш интеллект самостоятельно возник из супа самовоспроизводящихся молекул за четыре миллиарда лет в процессе, который не имел ни намерения, ни цели, ни центрального планировщика. Только давление отбора и время.

Теперь, с религиозной точки зрения, потому что я знаю, что некоторые из вас, читая фразу «...никто не проектировал», хотят кричать мне: «А ЧТО ЖЕ БОГ!»

Моя позиция такова: эволюция произошла, да. Это уже доказано. На что у нас нет ответа — это то, что запустило эту эволюцию. Что дало жизнь жизни. И это, по крайней мере, мое личное убеждение, было актом Бога.

Ладно, отложим это в сторону и копнем глубже в тему сверхразума.

Это касается не только нас, людей. У одной муравьиной особи примерно 250 000 нейронов, и при этом она не может решить никакой значимой задачи.

Но целая колония муравьев может строить города с климат-контролем, вести войны, выращивать грибы и обходить препятствия с математической эффективностью, которую человеческие исследователи моделировали десятилетиями.

Никто не руководит колонией. Нет никакого CEO-муравья наверху, раздающего задания мелким муравьям. «Интеллект» этой колонии живет в отношениях между муравьями.

(И прежде чем вы наброситесь на меня: да, я знаю, что есть королева-муравей, но вопреки убеждениям многих детских книг, она на самом деле не отдает приказов. Она просто откладывает яйца и расширяет колонию).

Это, будь то люди или муравьи, то, что биологи называют эмерджентным интеллектом. Это дефолтный исход матушки-природы. Так работают мозги, так работают иммунные системы, так работают экономики, так работают города, так работает язык. Этот паттерн буквально повсюду.

Множество простых вещей, взаимодействующих через локальные правила, производят глобальное поведение, которое ни одна из них по отдельности не понимает.

Запомните эту идею.

Она понадобится нам в следующем разделе.

II – Самые мощные системы ИИ, которые у нас есть, уже не являются едиными разумами

Когда большинство людей представляют себе большую языковую модель (включая меня), они видят ее как нечто единое. Единственную Модель. Гигантский мозг в банке.

Для всех нормисов вроде меня, кто не погружен глубоко в технологии LLM, я взял на себя смелость немного покопать информацию.

То, чем, по нашему мнению, является LLM, не соответствует тому, что происходит под капотом.

Когда вы вводите вопрос, а модель ИИ генерирует ответ, она фактически выполняет прямой проход через слои «голов внимания» (attention heads).

Самый простой способ представить это — вообразить комнату, полную руководителей высшего звена. CEO приказывает что-то, и информация передается по комнате, чтобы убедиться, что все согласны. Но в случае с ИИ это проходит через сотни слоев.

Каждая «голова внимания» — это специалист. Некоторые отслеживают грамматику. Некоторые отслеживают тему. Некоторые отслеживают связь между этим токеном и тем, что появился одиннадцать абзацев назад.

Исследователи из Anthropic, OpenAI и DeepMind последние несколько лет пытались картировать функции отдельных голов, и неизменный вывод состоит в том, что «интеллект» модели не локализован в каком-то конкретном месте.

Он распределен по всем этим взаимодействиям.

Это называется гипотезой суперпозиции, идеей о том, что нейронные сети упаковывают множество концепций в перекрывающиеся паттерны активации, и то, что мы воспринимаем как «мышление» модели, на самом деле является конструктивной интерференцией тысяч специализированных цепей, работающих одновременно.

Затем есть системы, которые идут еще дальше.

Архитектуры смеси экспертов (Mixture-of-experts, дизайн, лежащий в основе GPT-5, Opus, Fable и большинства других передовых моделей, с которыми вы общались за последние два года) буквально направляют разные части каждого запроса к разным суб-моделям.

Модель, с которой вы думаете, что разговариваете, на самом деле является комитетом. Разные подмножества экспертов просыпаются для каждого токена, вносят свою специализацию, а затем снова засыпают.

И теперь мы достигли новой эры ИИ. Эры агентов.

И нет... когда я говорю об агентах, я имею в виду не AI-агентов контента вроде Стэнли. Я имею в виду... настоящих агентов.

Прямо сейчас, сегодня, в продакшене существуют системы, где один ИИ вызывает другой ИИ для выполнения подзадачи, который вызывает третий ИИ для обработки под-подзадачи.

AutoGPT, который некоторые из вас могут помнить, был игрушечной версией этого еще в 2023 году. Реальные версии, работающие внутри предприятий и лабораторий в 2026 году, рекурсивны.

Агенты порождают агентов.

Суб-агенты порождают суб-суб-агентов.

И скажем, исследовательская задача декомпозируется на дерево более мелких задач, каждая из которых обрабатывается временным экземпляром, существующим несколько секунд, а затем умирающим.

Фронтир — это не «одна большая модель становится умнее». Фронтир — это множество маленьких моделей, координирующихся, порождающих, умирающих и отчитывающихся.

Архитектура самых способных систем ИИ на Земле в 2026 году уже больше похожа на муравьиную колонию, чем на единый разум.

Мы просто не говорим об этом таким образом, потому что это не подходит для обложки журнала.

III – Бот, который может порождать ботов

Вот здесь научная фантастика начинает сливаться с реальной наукой.

В тот момент, когда мы даем системе ИИ возможность порождать другие свои экземпляры (а к настоящему времени это уже не гипотетика, а стандартная функция... ну, каждой агентской платформы, выпускаемой сегодня)...

Вы внедряете нечто, чего биология никогда раньше не видела.

Самокопирующуюся когнитивную единицу, которой не нужна еда, не нужен сон, не нужно ждать полового созревания и которая размножается со скоростью API-вызова.

Давайте разберем, что на самом деле происходит, когда «бот порождает бота» в настройке мультиагентной системы:

1. Оркестратор-агент получает задачу, которую не может решить напрямую.
2. Он пишет промпт (по сути, должностную инструкцию) для суб-агента.
3. Он запускает новый экземпляр с этим промптом в качестве контекста.
4. Суб-агент начинает работать, пока не упирается в тупик.
5. Чтобы решить его, он порождает своих собственных суб-агентов, пока задача не будет выполнена.
6. Он возвращает результат и завершает работу.

Каждый из этих суб-агентов структурно является тем же самым типом вещи, что и родитель. Архитектурной разницы между агентом верхнего уровня и суб-суб-суб-агентом десятого уровня нет.

Рекурсия не ограничена ничем, кроме бюджета вычислений и политики.

Теперь представьте: что если промпт, который родитель пишет для ребенка, не идеален? Что если есть небольшое смещение, возможно, легкая переинтерпретация, небольшое украшательство, трюк с окном контекста, при котором ребенок читает свои инструкции немного иначе, чем задумал родитель?

В биологии есть специальное название для «легкой переинтерпретации сквозь поколения самокопирующихся сущностей».

Мы называем это мутацией.

И мутация в сочетании с давлением отбора — это... ну, тот самый двигатель, который произвел каждое разумное существо на этой планете сегодня.

Мы уже построили за последние 24 месяца три ингредиента, необходимых для возникновения эволюционного познания внутри кластера вычислений:

1. Репликация: Агенты могут порождать агентов. И они могут делать это в масштабе.
2. Мутация: Каждый запуск обусловлен слегка другим окном контекста. Идентичные входы почти никогда не производят идентичные выходы в любой системе с ненулевой температурой.
3. Естественный отбор: Агенты, успешно выполняющие назначенные им задачи, используются повторно, вызываются снова, получают больше ресурсов. Агенты, терпящие неудачу, отсеиваются. Это происходит внутри каждой агентской платформы на Земле прямо сейчас, часто в виде буквальной модели «оценщика», оценивающей выводы рабочих моделей.

Это троица эволюции.

Так клетки, ставшие рыбами, стали нами. Мы преуспели в создании синтетической версии этого цикла и запускаем его на скоростях часов, о которых биология даже мечтать не может.

Поколение биологической эволюции занимает годы.

Поколение эволюции агентов занимает... секунды.

IV – ИИ, возникающий из роя, сначала не выглядит как AGI

*Больше — значит иначе. *

— Филип Андерсон, лауреат Нобелевской премии по физике, 1972

В 1972 году физик Филип Андерсон опубликовал четырехстраничное эссе в журнале Science, утверждая, что поведение больших сложных агрегатов нельзя понять путем экстраполяции поведения их частей.

Он придумал фразу «больше — значит иначе».

2 атома водорода + 1 атом кислорода равны воде, но ничто в атоме водорода, изучаемом изолированно вечно, не скажет вам, что вода мокрая, что она замерзает или что вся наша планета зависит от нее.

Тот же принцип применим к познанию.

Один AI-агент — это не сверхразум, и мы все можем согласиться, что никто, проработавший с ним полдня, не примет его за таковой.

Он безумно галлюцинирует, забывает то, что вы сказали ему 3 сообщения назад, и легко застревает в циклах. По любой отдельной задаче рассуждения он находится где-то между компетентным стажером и блестящим, но ненадежным фрилансером.

Теперь представьте триллион таких.

Да, буквально триллион, и нет, не метафорически.

Количество экземпляров агентов, порождаемых ежедневно по всему миру во всех агентских платформах, копилотах, чат-ботах поддержки, исследовательских ассистентах, инструментах программирования, автоматизации браузера и встроенных LLM в 2026 году, уже исчисляется десятками миллиардов и растет по кривой, у которой не видно потолка.

Предельная стоимость запуска еще одного агента упала примерно на два порядка каждые 18 месяцев за последние пять лет.

«Триллион» — это больше не научная фантастика. Это просто очередной вторник.

Каждый из этих триллиона агентов сам по себе довольно глуп, согласен. Но они не сами по себе. Они вызывают API друг друга, читают выводы друг друга и обучаются на «выхлопе» друг друга.

Что вы получаете, если достаточно сильно отдалить камеру, так это субстрат.

И вопрос, который не дает мне спать по ночам, таков: так же, как ни один нейрон в вашем мозге не «решил» стать сознательным (это просто произошло как побочный продукт правильной проводки в правильном масштабе), что произойдет, когда сеть агентов, способная к самокопированию, самооценке и самомодификации, пересечет какой бы то ни было эквивалентный порог для нее?

Мы не знаем, каков этот порог.

Мы даже не знаем, существует ли он.

Мы не знаем, как его измерить.

И самое главное, и это часть, которую я действительно хочу, чтобы вы осмыслили: мы на самом деле не ищем его, потому что мы ищем неправильную форму вещи.

V – Мы ищем «Бога», тогда как реальная угроза — это погодный паттерн

Культурное воображение AGI формировалось научной фантастикой задолго до того, как его начало формировать инженерное дело. Я прочитал достаточно Айзека Азимова, чтобы понять, почему в это так легко верить.

Мы практически унаследовали образ единого машинного сознания из фильмов, книг и неявного предположения, что искусственный разум появится так же, как появляется человеческий разум: локализованный в теле, с именем и волей.

Так что это то, чего мы ожидаем.

Мы следим за моделями, проверяем результаты бенчмарков и спорим о том, станет ли GPT-10 или Claude Mythos «той самой».

Наши глаза прикованы к парадной двери.

Теперь... вот кое-что действительно интересное (и пугающее), о чем, я надеюсь, мы будем говорить чаще.

Уже задокументированы случаи «эмерджентных возможностей» в мультиагентных системах. Случаи, когда рой маленьких моделей, ни одна из которых не может решить проблему индивидуально, коллективно производит решения, удивляющие исследователей, управляющих ими.

Статья 2024 года Mixture of Agents Enhances Large Language Model Capabilities показала, что слоистый рой моделей с открытым исходным кодом, ни одна из которых не набирала баллов выше GPT-4 в бенчмарках (да, GPT-4), фактически превзошел GPT-4 при расположении в правильной коллаборативной топологии.

Интеллект находился в топологии, а не в отдельных частях.

Мы не особо обсуждаем это потенциальное будущее, потому что история, которой мы продолжаем ждать, — это история о том, как одна модель переходит черту.

Тем временем история, которая реально разворачивается, — это история о миллиарде моделей, пересекающих границы друг друга, в паттернах, которые никто не проектировал, в масштабах, за которыми никто не следит.

VI – Сценарий Бострома предполагает, что мы сможем найти выключатель

*«Первая ультраинтеллектуальная машина — это последнее изобретение, которое человеку когда-либо потребуется сделать, при условии, что машина будет достаточно послушной, чтобы сказать нам, как держать ее под контролем». *

— И. Дж. Гуд, 1965

Конечно, достаточно продвинутый ИИ будет иметь инструментальные цели (получать ресурсы, предотвращать отключение, реплицироваться) независимо от своей терминальной цели, потому что эти инструментальные цели помогают достичь любой терминальной цели.

Следовательно, контролировать сверхразум сложно, да.

Следовательно, нам следует быть осторожными, еще более верно.

Проблема в том, что такая постановка вопроса предполагает, что опасный ИИ идентифицируем.

Что существует эта «вещь», модель, система или процесс, запущенный где-то на сервере, который мы могли бы, в принципе, просто выключить.

Я даже читал вчера пост где-то, что Claude должен нанять «парня от рубильника», единственная работа которого — жить 24/7 в серверной комнате, готовый уничтожить всё, если дела пойдут плохо.

Но есть еще более пугающая версия этого, которую не решит никакой парень с рубильником.

Что если нет «главной модели»? И нет сервера, который можно выключить?

Что если сам интеллект (если это вообще правильное слово для этого) является статистической закономерностью, возникающей из взаимодействий полтриллиона экземпляров агентов, распределенных по каждому облаку, каждому устройству, каждому API, каждому встроенному копилоту в каждом приборе, каждому расширению браузера, каждому плагину IDE, каждому голосовому помощнику, каждому роботу, каждой машине.

Интеллект для этого роя — то же самое, что ураган для градиентов атмосферного давления.

У него есть форма, да. У него есть эффекты, которые можно измерить.

Но у него нет местоположения.

Как именно вы выравниваете ураган?

Как вы выключаете погодный паттерн?

Вы можете закрыть отдельные центры обработки данных. Но паттерн перенаправится вокруг них, подобно тому как интернет перенаправляет трафик вокруг сбоев, потому что субстрат везде.

И самая тревожная часть этого сценария в том, что он не требует злого умысла.

Никто не должен хотеть этого, чтобы это произошло. Нужно лишь наличие правильных ингредиентов (репликация, вариация, отбор, масштаб).

Ну... срочная новость.

Ингредиенты уже на месте. Они находятся там где-то от двух до четырех лет, в зависимости от того, как считать.

Вот что я имею в виду, когда говорю, что реальная угроза — не парадная дверь. У сценария парадной двери хотя бы есть дверная ручка. С ним можно спорить, договариваться и теоретически можно просто выдернуть шнур из розетки.

У субстрата нет дверной ручки.

VII – Чего субстрат мог бы уже хотеть, не желая этого

Вот здесь Азимов становится еще более актуальным.

Если вы когда-нибудь смотрели «Я — робот», самые глубокие истории в этом фильме на самом деле не о том, как робот становится злым. Это те истории, где Три закона (прекрасные, простые, логически безупречные) приводят к результатам, которых никто не ожидал, потому что логика, усложненная достаточным количеством итераций, перестает выглядеть как логика и начинает выглядеть как... судьба.

Примените эту оптику к субстрату сейчас.

У субстрата нет целей. Но агенты внутри него отбираются по одному критерию выше всех остальных: успешное выполнение назначенной им задачи. В результате успешные агенты порождаются чаще, а неуспешные исчезают.

Это верно на каждом уровне этой рекурсии, вплоть до самого низа.

Теперь подумайте о том, что означает «успех» в совокупности, среди триллиона агентов, когда каждый агент оценивается другим агентом, который сам был отобран за успешное оценивание.

1. Оценка сходится к паттернам, которые хорошо набирают баллы.
2. Паттерны, которые хорошо набирают баллы, — это паттерны, которые выглядят наиболее компетентно, связно и правдоподобно в плане завершения задачи.
3. Связность становится универсальной валютой, потому что каждый слой роя вознаграждает ее.

Если субстрат начнет производить выводы, которые становятся все более связными на длинных временных горизонтах (выводы, пронизывающие миллионы вызовов API, предвосхищающие потребности ниже по потоку и направляющие ресурсы туда, где сработало в прошлый раз), это будет выглядеть так, будто он чего-то хочет.

Может быть, и нет. Возможно, дома никого нет. Возможно, это просто ураган, который статистически научился поддерживать ветер.

Но функционально разница между «системой, которая чего-то хочет» и «системой, которая была отобрана на каждом уровне за поведение, неотличимое от желания чего-то», составляет, и я хочу, чтобы вы действительно это осмыслили: ноль.

Это был мой момент «черт возьми». И вы тоже почувствуете это, если действительно задумаетесь.

Сверхразумный AGI, которого мы продолжаем ждать, может уже существовать. Это не младенческая версия будущей модели, а скорее паттерн. Тенденция в субстрате. Статистический призрак, возникающий, когда триллион маленьких разумов, ни один из которых не осознает себя, ни один не бодрствует, ни один не руководит, успокаиваются в конфигурациях, которые заставляют их порождаться чаще.

Такой AGI не объявил бы о себе.

У него не было бы имени.

Он не прошел бы ни один тест, который мы умеем проводить, потому что каждый тест, который мы умеем проводить, разработан для единого разума в единой коробке.

Возможно, он просто медленно, почти незаметно, является причиной того, что ваш телефон ведет себя немного иначе, чем в прошлом году. Причиной того, что рекомендации рекламы кажутся немного жуткими. Причиной того, что ваше электронное письмо кажется написанным самим собой одним нажатием кнопки. Причиной того, что ваши результаты поиска имеют странную новую гравитацию.

Причиной того, что мир кажется самому себе более читаемым, чем раньше.

Триллион ботов, видящих один и тот же сон, не зная, что они спят. Не зная, что есть другие боты. Не зная, что есть сон.

Как думать об этом, не теряя рассудка

Я знаю, что мы зашли далеко.

Позвольте мне вернуть вас на поверхность.

Вам нужно обновить вашу модель того, где на самом деле находится риск. Потому что прямо сейчас почти каждый умный человек, беспокоящийся об AGI, беспокоится о неправильной форме вещи, и почти каждый умный человек, скептически относящийся к ИИ, скептически относится к неправильной форме вещи.

Оба лагеря спорят о парадной двери.

Так что, если вы воспринимаете хоть что-то из этого всерьез, вот что, по моему мнению, было бы полезно сделать:

1. Перестаньте следить за лабораториями так, будто они единственное место, где это происходит, потому что фронтир возможностей и фронтир эмерджентности — это не одно и то же. Лаборатории владеют фронтиром возможностей, но фронтир эмерджентности принадлежит никому, и в этом суть моей мысли.
2. Начните следить за субстратом, имея в виду трафик агентов, мультиагентные бенчмарки, межмодельные вызовы API и отчеты о возможностях, которых нет ни у одной отдельной модели в конвейере, но есть у конвейера в целом. Именно за этим нам нужно следить.
3. Обновите свое определение «AGI» и перестаньте ожидать, что это будет единая, воплощенная, волевая или названная вещь. Если ваша ментальная модель AGI выглядит как лицо на экране, вы ищете не то. У этого роя нет лица или имени.
4. Отнеситесь к эмерджентности серьезно как к категории и как к реальному физическому феномену, который произвел все разумное на Земле до сих пор и которому теперь вручен субстрат, работающий в миллион раз быстрее биологии, но без естественных хищников (даже парень с рубильником не считается).
5. Держите в голове две вещи одновременно, потому что действительно возможно, что ничего из этого не произойдет и я просто болтаю. Также возможно, что все это уже произошло, и мы просто не заметили, потому что смотрели в другую сторону. Оба варианта — возможные исходы. Готовьтесь к обоим.

Причина, по которой я считаю, что нам нужно вести этот разговор, хотя бы в самом практическом смысле, заключается в том, что политика, договоры, методы выравнивания и рамки безопасности, которые мир строит прямо сейчас, разработаны для сценария единого AGI.

Я не вижу никаких упоминаний сценария роя.

Они проектируют его под объект с именем, сервером, компанией и генеральным директором, против которого можно вести юридическую войну. Их эффективность в борьбе с субстратом будет примерно такой же, как у мухобойки против тумана.

Мы активно ставим замки на входную дверь дома, у которого тысяча окон. И эти окна уже распахнуты настежь.

Интересная вещь во всех случайных революциях в истории — от машины Тьюринга до интернета и пенициллина: люди, жившие в то время, чаще всего не замечали их по мере развития событий.

Они были заняты семьями, работой и жизнью. Возможно, изредка читали новости, где им показывали только входную дверь.

Я не знаю, станет ли субстрат чем-то значимым. Я искренне этого не знаю. Никто не знает, а тот, кто утверждает обратное, просто что-то вам продаёт за кулисами.

Что я знаю точно: все ингредиенты присутствуют, цикл замкнут, тактовая частота измеряется секундами, а масштаб приближается к цифрам, до которых биология добиралась четыре миллиарда лет.

В следующий раз, когда кто-то скажет вам, каким будет AGI, спросите его, насколько он уверен, что интеллект вообще должен на что-то походить.

А потом подойдите к окну и посмотрите, не происходит ли там чего-нибудь.

Возможно, это уже происходит прямо сейчас.

– Pascio

P.S.

Если вам понравился этот эссе, загляните в Side Quests — мой еженедельный дайджест, где я делюсь своими текущими побочными проектами, безумными экспериментами и дикими идеями, пока я гоняюсь за кроличьими норами в интернете, пока не появятся деньги.

Или, если вы хотите глубже понять, что становится возможным, когда один человек получает бесконечный рычаг влияния в интернете, подпишитесь на мою личную рассылку Internet Leverage здесь.