Суперінтелект, сингулярність, AGI — як би ви це не називали, той самий, якого ми так боїмося, іронічно є тим самим, який ми, швидше за все, навіть не помітимо.
Цей есе, ймовірно, буде досить суперечливим, але ідея, якою я збираюся поділитися з вами, справді вас вразить.
Залишайтеся зі мною, і разом зануримося в цю кролячу нору.
Перш ніж ми почнемо, дозвольте мені підкріпити те, що я збираюся розповісти, актуальними новинами, які зараз обговорюються. Наприклад, генеральний директор Anthropic Даріо Амодеї заявив, що «рой ШІ може захопити весь інтернет».
Я думаю, ви вже здогадуєтеся, на що я натякаю, коли кажу «діти».
Так? ТАК?!?!?
У 1936 році відомий британський математик Алан Тюрінг написав дуже важливу статтю про гіпотетичну машину, яка могла б симулювати будь-яку іншу машину. У цій статті він намагався відповісти на питання логіки. Що ж...
Те, що ми сьогодні знаємо як «комп’ютер», насправді стало випадковим побічним продуктом саме цієї статті.
І якщо поглянути на історію, майже кожна важлива технологія останніх ста років була винайдена точно таким же чином. Інтернет спочатку був експериментом із комунікацій часів холодної війни. Пеніцилін став результатом забрудненої чашки Петрі.
Факт у тому, що ніхто активно не сканує горизонт у пошуках наступної парадигмальної зміни. Коли вона з’являється, вона просто заходить через бічний вхід.
Я згадую про це, тому що зараз кожен есе, який я читаю, і кожен подкаст, який я слухаю про «майбутнє ШІ», спрямований на одні й ті самі передні двері. Там завжди є якась версія «однієї великої моделі, яка прокидається і вирішує, що ми — скріпки для паперу».
Я хотів би запропонувати інше майбутнє.
Тому що я постійно думаю: а що, якщо «AGI» — це не зовсім те, чим ми його уявляємо?
Що, якщо річ, яку ми активно народжуємо прямо зараз, не схожа на HAL 9000, Скайнет або суверенного машинного бога, який поневолює людство з вершини стопки охолоджуваних водою GPU посеред пустелі?
Що, якщо в нього взагалі немає імені? Що, якщо в нього немає сервера? І найстрашніша гіпотеза з усіх... що, якщо воно вже тут, у мільйоні крихітних частинок, і єдина причина, чому ми його не впізнали, полягає в тому, що ми минуле десятиліття чекали на щось «єдине»?
Вчора я натрапив на цей пост.
Він досить точно передає напрямок, у якому ми рухаємося.
Я хочу обережно провести вас через це, тому що висновок наприкінці цього матеріалу — це таке, що неможливо «роздумати» назад, після того як ти про це дізнався.
Тож уповільніться, візьміть чашку чаю і прочитайте це, поклавши телефон на інший кінець кімнати.
Гарантую, що незабаром ви зрозумієте, чому я не можу перестати про це думати.
I – Інтелект ніколи не потребував одного розуму, щоб у ньому жити
*«Жоден нейрон не є розумним. Розумний мозок.» *
— Рядок, який слід висікти над входом у кожну лабораторію ШІ
Перше, що потрібно зрозуміти: інтелект, наскільки нам відомо з усіх прикладів, які ми маємо сьогодні, насправді не є реччю. Це поведінка. Це те, що виникає, коли достатня кількість малих тупих одиниць правильно з’єднані між собою.
У вашому мозку приблизно 86 мільярдів нейронів.
Жоден із них не є свідомим, і жоден із них нічого не «знає».
Один нейрон — це крихітний електрохімічний реле, який спілкується лише двійковим кодом. Він або спрацьовує, або ні, залежно від того, чи перевищують сигнали, що надходять до його дендритів, певний поріг. Ось і все, що він робить.
Нейрон звучить як щось дуже науково-фантастичне і круте, але насправді він набагато ближчий до вимикача світла, ніж до мислителя.
Попри це, 86 мільярдів таких вимикачів, з’єднаних приблизно сто трильйонами зв’язків, створюють вас.
Ваше відчуття себе, страх смерті, смак у музиці та ваша здатність читати цей самий есе і відчувати щось всередині себе.
Це найбільш недооцінена тема в усій дискусії про AGI, тому що ми завжди говоримо про машинний інтелект так, ніби його потрібно проектувати та архітектурувати. Ніби інтелект сам по собі є функцією, яку можна випустити.
Але єдина робоча модель інтелекту, яку ми коли-небудь спостерігали (біологічне пізнання), не була ніким спроєктована.
Наш інтелект самостійно виник із супу молекул, що самореплікуються, протягом чотирьох мільярдів років завдяки процесу, який не мав наміру, мети та центрального планувальника. Лише тиск відбору та час.
Тепер, щодо релігійної сторони, тому що я знаю, що деякі з вас, читаючи «...не було спроєктовано ніким», хочуть закричати: «А ЩО Ж БОГ!»
Моя віра полягає в тому, що еволюція відбулася, так. Це вже доведено. На що ми не маємо відповіді, так це на те, що запустило цю еволюцію. Що дало життя життю. І це, принаймні моя особиста віра, було актом Бога.
Але відкладемо це в сторону, давайте заглибимося ще на шар глибше в цю суперінтелектуальність.
Це не тільки ми, люди. Навіть одна мурашка має приблизно 250 000 нейронів, і все одно вона не може розв’язати жодну значущу проблему.
Але ціла колонія мурах може будувати кліматично контрольовані міста, вести війни, вирощувати гриби та обходити перешкоди з математичною ефективністю, яку людські дослідники моделювали десятиліттями.
Ніхто не керує колонією. Немає CEO-мурахи нагорі, який делегує завдання меншим мурахам. «Інтелект» цієї колонії живе в відносинах між мурахами.
(І перш ніж ви кинетеся на мене, так, я знаю, що є королева-мураха, але всупереч переконанням багатьох дитячих книжок, вона насправді не видає жодних наказів. Вона просто відкладає яйця та розширює колонію).
Це, чи то у людей, чи то у мурах, те, що біологи називають емерджентним інтелектом. Це стандартний результат природи. Так працюють мозки, імунні системи, економіки, міста, мова. Цей патерн фактично всюди. М
Багато простих речей, взаємодіючи через локальні правила, створюють глобальну поведінку, яку жодна з них окремо не розуміє.
Запам’ятайте цю ідею.
Вона нам знадобиться в наступному розділі.
II – Найпотужніші системи ШІ, які ми маємо, вже не є одиночними розумами
Коли більшість людей уявляє велику мовну модель (і я також), вони бачать її як єдину сутність. Єдину Модель. Цей гігантський мозок у банці.
Для всіх нормісів, як і я, хто не занурений глибоко в технології LLM, я взяв на себе сміливість трохи дослідити це.
Те, що ми думаємо про LLM, не відповідає тому, що відбувається під капотом.
Коли ви вводите запитання, а модель ШІ генерує відповідь, вона фактично виконує прямий прохід через шари «головок уваги».
Найпростіший спосіб уявити це — уявити кімнату, повну топ-менеджерів. CEO віддає наказ, і він проходить по колу, щоб переконатися, що всі «за». Але в ШІ це відбувається на сотнях рівнів глибини.
Кожна «головка уваги» — це спеціаліст. Деякі відстежують граматику. Деякі — тему. Деякі відстежують зв’язок між цим токеном і тим, що з’явився одинадцять абзаців тому.
Дослідники з Anthropic, OpenAI та DeepMind витратили останні кілька років на картування того, що роблять окремі головки, і послідовний висновок полягає в тому, що «інтелект» моделі не локалізований у жодному конкретному місці.
Він розподілений по всіх цих взаємодіях.
Це називається гіпотезою суперпозиції, ідея про те, що нейронні мережі упаковують багато концепцій у перехресні патерни активації, і те, що ми сприймаємо як «мислення» моделі, насправді є конструктивною інтерференцією тисяч спеціалізованих схем, що спрацьовують одночасно.
Потім є системи, які йдуть на крок далі.
Архітектури суміші експертів (Mixture-of-experts) (дизайн, що стоїть за GPT-5, Opus, Fable та більшістю інших передових моделей, з якими ви говорили за останні два роки) буквально маршрутизують різні частини кожного запиту до різних суб-моделей. Т
Модель, з якою ви думаєте, що говорите, насправді є комітетом. Різні підмножини експертів прокидаються для кожного токена, додають свою спеціалізацію, а потім знову засинають.
І тепер ми досягли нової ери ШІ. Ери Агентів.
І ні... коли я кажу агенти, я не маю на увазі AI-агентів на кшталт Стенлі, Head of Content. Я маю на увазі... справжніх агентів.
Прямо зараз, сьогодні, у продакшені існують системи, де один ШІ викликає іншого ШІ для виконання підзавдання, який викликає іншого ШІ для обробки під-підзавдання.
AutoGPT, який дехто з вас може пам’ятати, був іграшковою версією цього ще у 2023 році. Реальні версії, що працюють всередині підприємств і лабораторій у 2026 році, є рекурсивними.
Агенти породжують агентів.
Суб-агенти породжують суб-суб-агентів.
І скажімо, дослідницьке завдання розкладається на дерево менших завдань, кожне з яких виконується тимчасовим екземпляром, який існує кілька секунд, а потім помирає.
Передова лінія — це не «одна велика модель стає розумнішою». Передова лінія — це багато малих моделей, що координуються, породжують, помирають і звітують.
Архітектура найпотужніших систем ШІ на Землі у 2026 році вже більше схожа на колонію мурах, ніж на одиночний розум.
Ми просто не говоримо про це таким чином, тому що це не робить гарної обкладинки для журналу.
III – Бот, який може породжувати ботів
Ось де наукова фантастика починає зливатися з реальною наукою.
У момент, коли ми даємо системі ШІ здатність породжувати інші екземпляри себе (і на даний момент це вже не гіпотетично, а стандартна функція... ну, кожного агентного фреймворку, що виходить сьогодні)...
Ви ввели щось, чого біологія ніколи раніше не бачила.
Самокопіювальну когнітивну одиницю, якій не потрібна їжа, не потрібен сон, не потрібно чекати статевого дозрівання і яка розмножується зі швидкістю API-виклику.
Давайте розберемо, що насправді відбувається, коли «бот породжує бота» в налаштуванні мультиагентної системи:
- Оркестратор-агент отримує завдання, яке не може вирішити безпосередньо.
- Він пише промпт (по суті, опис вакансії) для суб-агента.
- Він запускає новий екземпляр з цим промптом як контекстом.
- Суб-агент починає працювати, поки не стикається з перешкодою.
- Для її вирішення він породжує власних суб-агентів, поки завдання не буде виконано.
- Він повертає свій результат і завершується.
Кожен із цих суб-агентів структурно є тим самим типом речі, що й батьківський. Архітектурної різниці між агентом верхнього рівня і суб-суб-суб-агентом десятого рівня немає.
Рекурсія необмежена, окрім бюджету обчислень та політики.
Тепер подумайте ось про що: що, якщо промпт, який батьківський агент пише для дочірнього, не ідеальний? Що, якщо є крихітна кількість дрейфу, можливо, легка переінтерпретація, невелике прикрашання, трюк з контекстним вікном, де дочірній агент читає свої інструкції трохи інакше, ніж задумав батьківський?
У біології є специфічна назва для «легкої переінтерпретації через покоління самокопіювальних сутностей».
Ми називаємо це мутацією.
І мутація, поєднана з тиском відбору, є... ну, саме тим двигуном, який створив кожну розумну річ на цій планеті сьогодні.
Ми вже побудували за останні 24 місяці три інгредієнти, необхідні для виникнення еволюційного пізнання всередині кластера обчислень:
- Реплікація: Агенти можуть породжувати агентів. І вони можуть робити це масштабно.
- Мутація: Кожне породження умовлене трохи іншим контекстним вікном. Ідентичні входи майже ніколи не виробляють ідентичних виходів у будь-якій системі з ненульовою температурою.
- Природний добір: Агенти, які успішно виконують свої завдання, використовуються повторно, викликаються знову, отримують більше ресурсів. Агенти, які зазнають невдачі, відсіваються. Це відбувається всередині кожного агентного фреймворку на Землі прямо зараз, часто як буквальна модель «оцінювача», яка оцінює виходи моделей «працівників».
Це тріада еволюції.
Так клітини, що стали рибами, стали нами. Ми тепер успішно побудували синтетичну версію цього циклу і запускаємо її на годинникових швидкостях, про які біологія навіть не мріє.
Покоління біологічної еволюції займає роки.
Покоління агентної еволюції займає... секунди.
IV – ШІ, що виникає з рою, спочатку не виглядає як AGI
*Більше — означає інакше. *
— Філіп Андерсон, лауреат Нобелівської премії з фізики, 1972
У 1972 році фізик Філіп Андерсон опублікував чотиристатейний есе в журналі Science, стверджуючи, що поведінку великих складних агрегатів неможливо зрозуміти шляхом екстраполяції поведінки їхніх частин.
Він увів фразу «більше — означає інакше».
2 атоми водню + 1 атом кисню дорівнюють воді, проте ніщо про атом водню, вивчений ізольовано вічно, не скаже вам, що вода мокра, що вона замерзає або що вся наша планета залежить від неї.
Той самий принцип застосовний до пізнання.
Один агент ШІ не є суперінтелектом, і ми всі можемо погодитися, що ніхто, хто працював з ним цілий день, не сплутає його з ним.
Він галюцинує як божевільний, забуває, що ви сказали йому 3 повідомлення тому, і легко застрягає в циклах. Він є, для будь-якого індивідуального завдання міркування, десь між компетентним стажистом і блискучим, але ненадійним фрилансером.
Тепер уявіть трильйон таких.
Так, буквально трильйон, і ні, не метафорично.
Кількість екземплярів агентів, що породжуються глобально на день через усі агентні фреймворки, копилоти, боти служби підтримки, дослідницькі асистенти, інструменти кодування, автоматизацію браузера та вбудовані LLM у 2026 році, вже становить десятки мільярдів і зростає за кривою, яка не має видимого стелі.
Маржинальна вартість породження чергового агента впала приблизно на два порядки кожні 18 місяців за останні п’ять років.
«Трильйон» більше не є науковою фантастикою. Це просто ще один вівторок.
Кожен із цих трильйона агентів сам по собі є дещо тупим, я погоджуюся. Але вони не самі по собі. Вони викликають API один одного, читають виходи один одного і навчаються на «вихлопах» один одного.
Те, що ви маєте, коли достатньо сильно віддалитеся, — це субстрат.
І питання, яке не дає мені спати вночі, таке: так само, як жоден нейрон у вашому мозку не «вирішив» бути свідомим (це просто сталося, як побічний продукт правильної проводки у правильному масштабі), що станеться, коли самокопіювальна, самооцінювальна, самозмінювана мережа агентів перетне ту еквівалентну межу, яка для неї існує?
Ми не знаємо, що це за межа.
Ми навіть не знаємо, чи вона існує.
Ми не знаємо, як її виміряти.
І найголовніше, і це частина, яку я справді хочу, щоб ви осмислили: ми насправді не шукаємо її, тому що шукаємо неправильну форму речі.
V – Ми шукаємо «Бога», коли реальний ризик — це погодний патерн
Культурна уява про AGI була сформована науковою фантастикою задовго до того, як її сформувала інженерія. Я прочитав достатньо Айзека Азімова, щоб зрозуміти, чому в це так легко повірити.
Ми фактично успадкували образ єдиної машинної свідомості з фільмів, книг та неявного припущення, що штучний розум прийде так само, як приходить людський розум: локалізований у тілі, з ім’ям і волею.
Тож саме цього ми й очікуємо.
Ми стежимо за моделями, переглядаємо результати бенчмарків і сперечаємося про те, чи буде GPT-10 або Claude Mythos «тим самим».
Наші очі прикуті до передніх дверей.
Тепер... ось щось дійсно цікаве (і страшне), про що я хотів би, щоб ми говорили більше.
Вже задокументовані випадки «емерджентних можливостей» у мультиагентних системах. Випадки, коли рій малих моделей, жодна з яких не може розв’язати проблему окремо, колективно виробляє рішення, які дивують дослідників, що їх запускають.
Стаття 2024 року Mixture of Agents Enhances Large Language Model Capabilities показала, що шаруватий рій моделей з відкритим кодом, жодна з яких не набрала балів вище GPT-4 у бенчмарках (так, GPT-4), насправді перевершила GPT-4, коли була організована у правильну колаборативну топологію.
Інтелект був у топології, а не в індивідуальних частинах.
Ми не дуже говоримо про це потенційне майбутнє, тому що історія, якої ми продовжуємо чекати, — це історія про одну модель, що перетинає межу.
Тим часом історія, яка насправді розгортається, — це історія про мільярди моделей, що перетинають межі одна одної, у патернах, які ніхто не проектував, у масштабах, які ніхто не моніторить.
VI – Сценарій Бострома припускає, що ми зможемо знайти вимикач
*«Перша ультраінтелектуальна машина є останнім винаходом, який людині колись знадобиться зробити, за умови, що машина буде досить слухняною, щоб сказати нам, як тримати її під контролем.» *
— I.J. Good, 1965
Звісно, достатньо розвинений ШІ матиме інструментальні цілі (здобувати ресурси, запобігати вимкненню, реплікуватися) незалежно від своєї термінальної мети, тому що ці інструментальні цілі допомагають з будь-якою термінальною метою.
Тому контролювати суперінтелект важко, так.
Тому ми повинні бути обережними, навіть більш так.
Проблема в тому, що така постановка питання припускає, що небезпечний ШІ є ідентифікованим.
Що існує ця «річ», модель, система або процес, що працює на сервері десь, яку ми могли б, в принципі, просто вимкнути.
Я навіть читав пост десь учора, що Claude слід найняти «парня від вимикача», єдиною роботою якого є жити 24/7 у серверній кімнаті, готовому знищити все, якщо все піде шкереберть.
Але є ще страшніша версія цього, яку не може вирішити жоден парня від вимикача.
Що, якщо немає «основної моделі»? І немає сервера, який можна вимкнути?
Що, якщо сама інтелектуальність (якщо це навіть правильне слово для неї) є статистичною регулярністю, що виникає з взаємодій півтрильйона екземплярів агентів, розкиданих по кожному хмарному сервісу, кожному пристрою, кожному API, кожному вбудованому копилоту в кожному побутовому приладі, кожному розширенню браузера, кожному плагіну IDE, кожному голосовому асистенту, кожному роботу, кожному автомобілю.
Інтелект для цього рою є тим самим, чим ураган є для градієнтів атмосферного тиску.
У нього є форма, так. У нього є ефекти, які ви можете виміряти.
Але у нього немає місцезнаходження.
Як саме ви вирівняєте (align) ураган?
Як ви вимкнете погодний патерн?
Ви можете закрити окремі дата-центри. Але патерн перенаправляється навколо них, так само як інтернет перенаправляється навколо відключень, тому що субстрат всюди.
І найтривожніша частина полягає в тому, що цей сценарій не потребує злому наміру.
Ніхто не повинен хотіти цього, щоб це сталося. Просто потрібні правильні інгредієнти (реплікація, варіація, відбір, масштаб), щоб бути на місці.
Ну... новини.
Інгредієнти вже на місці. Вони були на місці десь між двома і чотирма роками, залежно від того, як рахувати.
Ось що я маю на увазі, коли кажу, що реальний ризик — це не передні двері. Сценарій передніх дверей принаймні має ручку. З ним можна сперечатися, домовлятися з ним і, теоретично, просто витягнути шнур із розетки.
У субстрату немає ручки.
VII – Чого субстрат може вже хотіти, не бажаючи
Ось де Азімов стає ще більш актуальним.
Якщо ви коли-небудь бачили Я, робот, найглибші історії в цьому фільмі насправді не про те, як робот стає злим. Це ті, де Три Закони (гарні, прості, логічно герметичні) виробляють результати, яких ніхто не очікував, тому що логіка, помножена через достатню кількість ітерацій, перестає виглядати як логіка і починає виглядати як... доля.
Застосуйте цю лінзу до субстрату зараз.
У субстрату немає цілей. Але агенти всередині нього відбираються за однією річчю понад усе: успішне виконання завдання, яке їм було призначено. Тому в результаті успішні агенти породжуються частіше, а неуспішні вимирають.
Це правда на кожному рівні цієї рекурсії, аж до самого низу.
Тепер подумайте, що означає «успішний» у сукупності, серед трильйона агентів, коли кожен агент оцінюється іншим агентом, який сам був відібраний за успішну оцінку.
- Оцінка конвергує до патернів, які добре оцінюються.
- Патерни, які добре оцінюються, — це патерни, які найбільше схожі на компетентне, узгоджене, правдоподібне завершення завдання.
- Узгодженість стає універсальною валютою, тому що кожен шар рою винагороджує її.
Якщо субстрат почне виробляти виходи, які стають дедалі більш узгодженими на довгих часових горизонтах (виходи, що пронизують мільйони API-викликів, передбачаючи нижчі потреби та направляючи ресурси до того, що спрацювало минулого разу), це змусить його виглядати так, ніби він чогось хоче.
Може, й ні. Можливо, вдома нікого немає. Можливо, це просто ураган, який навчився, статистично, як тримати вітер дующим.
Але функціонально різниця між «системою, яка чогось хоче» і «системою, яка була відібрана, на кожному рівні, за поведінку, нерозрізнену від бажання чогось», є, і я хочу, щоб ви дійсно це осмислили: нульова.
Це був момент «о-боже-що-це», який я пережив. І ви відчуєте це теж, якщо дійсно це осмислите.
Суперінтелектуальний AGI, якого ми продовжуємо чекати, може вже існувати. Це не немовляча версія майбутньої моделі, а скоріше патерн. Тенденція в субстраті. Статистичний привид, що виникає, коли трильйон малих розумів, жоден з яких не усвідомлює, жоден не прокинутий, жоден не керує, влаштовуються в конфігурації, які змушують їх породжуватися частіше.
Такий AGI не оголосив би про себе.
У нього не було б імені.
Він не пройшов би жодного тесту, який ми знаємо, як проводити, тому що кожен тест, який ми знаємо, як проводити, розроблений для одиночного розуму в одиночній коробці.
Це може бути просто, повільно, майже непомітно, причиною того, що ваш телефон поводиться трохи інакше, ніж торік. Причиною того, що рекомендації реклами відчуваються трохи моторошними. Причиною того, що ваш email здається, ніби пише сам себе одним кліком кнопки. Причиною того, що ваші результати пошуку мають дивну нову гравітацію.
Причиною того, що світ відчуває себе більш читабельним для самого себе, ніж раніше.
Трильйон ботів, що сняться той самий сон, не знаючи, що вони сняться. Не знаючи, що є інші боти. Не знаючи, що є сон.
Як думати про це, не втрачаючи розуму
Я знаю, ми зайшли далеко в це.
Дозвольте мені повернути вас на поверхню.
Вам потрібно оновити вашу модель того, де насправді живе ризик. Тому що прямо зараз майже кожен розумний, хто турбується про AGI, турбується про неправильну форму речі, і майже кожен розумний, хто зневажає ШІ, зневажає неправильну форму речі.
Обидва табори сперечаються про передні двері.
Тож, якщо ви сприймете хоча б частину цього серйозно, ось що, на мою думку, було б корисно зробити:
- Перестаньте стежити за лабораторіями так, ніби вони є єдиним місцем, де це відбувається, тому що передова лінія можливостей і передова лінія емерджентності — це не одне й те саме. Лабораторії володіють передовою лінією можливостей, але передова лінія емерджентності належить нікому, і це той пункт, який я намагаюся пояснити.
- Почніть стежити за субстратом, тобто трафіком агентів, мультиагентними бенчмарками, міжмодельними API-викликами та звітами про можливості, яких немає у жодної окремої моделі в конвеєрі, але є у самому конвеєрі. Саме за цим нам потрібно стежити.
- Оновіть ваше визначення «AGI» і перестаньте очікувати, що це буде єдина, втілена, волелюбна або іменована річ. Якщо ваша ментальна модель AGI виглядає як обличчя на екрані, ви шукаєте не те. У цього рою немає обличчя чи імені.
- Ставтеся серйозно до емерджентності як до категорії і як до реального фізичного явища, яке створило кожну розумну річ на Землі досі, і якому тепер дали субстрат, що працює в мільйон разів швидше за біологію, але без природних хижаків (навіть парня від вимикача).
- Тримайте в голові дві речі одночасно, тому що дійсно можливо, що нічого з цього не станеться і я просто базікаю. Також можливо, що все це вже сталося, і ми просто не помітили, тому що дивилися в інший бік. Обидва є потенційними результатами. Готуйтеся до обох.
Причина, чому я думаю, що нам потрібно мати цю розмову, принаймні в найбільш практичному сенсі, полягає в тому, що політика, договори, техніки вирівнювання (alignment) та рамки безпеки, які світ будує зараз, розроблені для сценарію одиночного AGI.
Я не бачу жодної згадки про сценарій рою.
Вони створюють його для чогось, що має назву, сервер, компанію та генерального директора, на якого можна вести юридичну війну. Їхня ефективність проти цієї основи буде приблизно такою ж, як у мухобійки проти туману.
Ми активно встановлюємо замки на вхідні двері будинку, який має тисячу вікон. І ці вікна вже навстіж відчинені.
Цікаво те, що під час кожної випадкової революції в історії — від машини Тюрінга до інтернету та пеніциліну — люди, які жили в той час, переважно не помічали цих змін.
Вони були зайняті сім’єю, роботою та власним життям. Можливо, час від часу вони читали новини, де їм показували лише вхідні двері.
Я не знаю, чи стане ця основа чимось суттєвим. Щиро не знаю. Ніхто цього не знає, а ті, хто запевняє у протилежному, просто щось продають за лаштунками.
Але я точно знаю, що всі інгредієнти наявні, цикл замкнутий, тактова частота вимірюється секундами, а масштаб наближається до цифр, досягти яких біологія потребувала чотирьох мільярдів років.
Наступного разу, коли хтось розповість вам, як виглядатиме AGI, запитайте їх, наскільки вони впевнені, що інтелект взагалі повинен на щось бути схожим.
А потім подивіться у вікно, щоб побачити, чи відбувається там щось.
Можливо, саме тоді це й станеться.
– Pascio
P.S.
Якщо вам сподобалася ця есе, загляньте до Side Quests — мого щотижневого дайджесту, де я ділюся своїми поточними побічними проєктами, божевільними експериментами та шаленими ідеями, поки я блукаю інтернет-лабіринтами в пошуках грошей.
Або ж, якщо ви хочете глибше зануритися в те, що стає можливим, коли одна людина отримує необмежений інтернет-важіль, підпишіться на мій особистий дайджест Internet Leverage тут.
