Цьому дослідженню — якому 145 років і яке, між іншим, презентували в Смітсонівському інституті — під силу завдати нищівного удару по сучасних великих мовних моделях та мільярдних інвестиціях у них.
Майкл Бьюррі
ПІДПИСАТИСЯ НА CASSANDRA UNCHAINED
Ласкаво просимо до нової рубрики на моєму Substack-каналі Cassandra Unchained — «Історія римується», де я застосовую ключові уроки далекого минулого для осмислення сьогодення.
Cassandra Unchained — це видання, яке існує завдяки підтримці читачів. Щоб отримувати нові публікації та підтримати мою роботу, подумайте про те, щоб стати безкоштовним або платним підписником.
Гортаючи старі газети тихої суботи — це моє хобі, — я натрапив на статтю від 19 червня 1880 року, яка, як мені здалося, напрочуд точно описує наші сучасні страхи щодо ШІ.
Це історія Мелвілла Балларда, який ще дитиною, не знаючи жодної мови, побачив очима деревний пеньок і запитав себе: чи не з нього постав перший чоловік?
The New York Times, субота, 19 червня 1880 року
Цьому дослідженню — якому 145 років і яке, між іншим, презентували в Смітсонівському інституті — під силу завдати нищівного удару по сучасних великих мовних моделях (LLM) та мільярдних інвестиціях у них. Через просту людську історію воно сміливо заявило: складне мислення зароджується в тиші, ще до появи слів.
Сьогодні, коли XXI століття вже давно настало, ставлячи мову вище за здатність міркувати, ми створюємо не інтелект — ми будуємо дедалі досконаліше дзеркало.
ПІДПИСАТИСЯ НА CASSANDRA UNCHAINED
У тій старій газеті насправді є дві цікаві історії. Почнемо з тієї, що посередині. Це третя сторінка того випуску The New York Times, і я бачу там матеріал під назвою «Думка без мови».
Звісно, великі мовні моделі (Large Language Models), малі мовні моделі (Small Language Models) та «міркування» (Reasoning) — це тема номер один сьогодні.
Повна назва статті: «Думка без мови. Розповідь глухонімого про його перші думки та враження». Вперше її опублікувала газета Washington Star 12 червня 1880 року.
Йдеться про професора Семюела Портера з Національного коледжу для глухонімих у Кендалл-Грін, який представив доповідь у Смітсонівському інституті. Назва доповіді: «Чи існує мислення без мови? Випадок глухонімого».
ПІДПИСАТИСЯ НА CASSANDRA UNCHAINED
Коли я прочитав перші рядки про глухонімих і дітей, які нібито не мають жодних розумових здібностей, що відрізняють їх від тварин... ну, розуміння цих речей із тих пір кардинально змінилося, і я ледь не закрив газету.
Герой цього дослідження — викладач Колумбійського інституту навчання глухих і німих. Цей викладач, Мелвілл Баллард, сам був глухонімим і випускником Національного коледжу для глухонімих.
Пан Баллард розповідає, що в ранньому дитинстві спілкувався з батьками та братами за допомогою природних знаків або пантоміми. Його батько, вірячи, що спостережливість допоможе розвинути його здібності, часто брав його на прогулянки верхи. Далі він каже, що саме під час однієї з таких поїздок, за два-три роки до того, як його почали навчати основ писемної мови, він уперше запитав себе: «Як виник світ?». Тоді ж у ньому прокинулася цікавість до походження людського життя, його першої появи, причини існування землі, сонця, місяця та зірок. Одного разу, побачивши великий пень, він запитав себе: «Чи можливо, що перша людина, яка з'явилася на світ, вийшла з цього пня? Але ж цей пень — лише залишок колись могутнього дерева; а звідки взялося те дерево? Та воно просто почало рости із землі, як ці маленькі деревця, що пробиваються зараз»; і він відкинув як абсурдну думку про зв'язок між походженням людини та гниючим старим пнем. Він не мав уявлення, що саме наштовхнуло його на питання про походження речей, але вже засвоїв ідеї передачі життя від батьків до дітей, розмноження тварин і вирощування рослин із насіння. Питання, яке постало перед ним, полягало в тому, звідки взялася перша людина, перша тварина і перша рослина в найвіддаленіші часи, коли не було ні людей, ні тварин, ні рослин, адже він знав, що все має початок і кінець. Найбільше він розмірковував про людину та землю, вірив, що людина буде знищена, і що після
могили воскресіння немає. Коли йому було 5 років , він почав розуміти, як життя передається від батьків до дітей, а приблизно у 8 чи 9 років уперше замислився над походженням Всесвіту. Про форму Землі він зробив висновок, глянувши на карту двох півкуль: йому здалося, що це два величезні диски матерії, розташовані поруч; що Сонце і Місяць — це два круглі пласкі диски зі світної речовини, до яких він відчував щось на кшталт благоговіння, і, спостерігаючи, як вони сходять і заходять, вирішив, що має існувати певна сила, яка керує їхнім рухом. Він вірив, що Сонце заходить у дірку на заході й виходить через іншу на сході, подорожуючи великою трубою всередині Землі, повторюючи ту саму дугу, яку воно [Сонце], здавалося, описувало в небі. Зірки видавалися йому крихітними вогниками, вправленими в небо. Він розповідає, як марно намагався осягнути цю тему, поки не пішов до школи у 11 років. До цього мати казала йому, що високо в небі живе таємнича істота, але коли вона не змогла відповісти на його запитання, він у відчаї облишив ці роздуми, сумуючи, що так і не склав чіткого уявлення про того загадкового живого мешканця небес. Протягом першого року навчання у школі для глухонімих він щонеділі вивчав кілька речень, і хоча старанно запам'ятовував ці прості слова, їхній сенс так і не осягнув. Він відвідував богослужіння в каплиці, але майже нічого не розумів через недосконале знання мови жестів, яку використовували в закладі. На другий рік він отримав невеликий катехізис із серією запитань і відповідей.
Розвиток розуміння через поєднання мови зі здатністю міркувати триває.
Тепер він міг розуміти мову жестів, якою користувалися його викладачі. Можна було б припустити, що його допитлива натура нарешті знайшла вдоволення. Але ні; дізнавшись, що Всесвіт створений єдиним великим правлячим Духом, він почав запитувати себе: а звідки взявся Творець? І взявся досліджувати Його природу та походження. Розмірковуючи над цим, він питав себе: «Чи зможемо ми коли-небудь пізнати природу Бога та осягнути Його нескінченність, увійшовши до Його царства?», і чи не краще сказати словами давнього патріарха: «Чи можеш ти, шукаючи, осягнути Бога?»
А потім професор Портер, образно кажучи, завдає нищівного удару аудиторії Смітсонівського інституту 1880 року.
Проф. Портер аналізує цей випадок і зауважує, що тварини можуть розуміти деякі слова, відрізняти одні об'єкти від інших тощо. Він каже: «Навіть якщо приписати тваринам максимум того, на що вони здатні, хіба не очевидно, що людина має здібності, які неможливо уявити як розвиток або просте кількісне посилення того, що вона має спільного з нижчими тваринами. \ \ \ Якою б не була схожість у способі формування вражень чи в будові органів, і якою б не була залежність від органічних процесів — тобто, *
якими б фізіологічно спорідненими вони не були, — проте як відчуття чи сприйняття, відчуття ока самі по собі відрізняються від інших і передбачають особливий дар або здатність, яких немає у вуха, голови чи язика. Але з актами розуму ситуація зовсім інша, якщо порівнювати їх із роботою нижчих здібностей.
\ \ \ *
Те, що ці два явища мають певні спільні елементи, не доводить, що вони повністю належать до одного порядку, і не означає, що одне могло розвинутися з іншого.
І якщо око душі, вищий розум, яким ми осягаємо всесвіт речей, не може зазирнути всередину себе й чітко розпізнати власну природу та процеси, ми не повинні через це, забуваючи про те, що воно робить, заперечувати його принципову перевагу та прирівнювати його до тих нижчих і допоміжних здібностей, які ми здатні піддати його аналізу. Те, чим ми осягаємо всі речі, має бути принципово вищим за будь-що інше, що ним осягається.
ПІДПИСАТИСЯ НА CASSANDRA UNCHAINED
Один із присутніх на презентації, що дуже показово, зазначив: очі Балларда передавали сенс бездоганно, без жодних непорозумінь, і це було важливіше за все інше.
Однією з найцікавіших частин цієї зустрічі стало те, як пан Баллард за допомогою жестів пояснив, як мати розповіла йому, що він вирушає далеко до школи, де читатиме з книги, писатиме й складатиме листи та надсилатиме їх їй тощо, а також як за допомогою пантоміми він показав, як мисливець, убивши білку, випадково застрелив самого себе. Знаки та жести пана Балларда разом із виразом очей і обличчя бездоганно передавали його думки аудиторії, і,
за словами одного з учасників, вираз очей був мовою, яку неможливо зрозуміти неправильно.
Звернімо увагу на ці два твердження:
- «Те, чим ми осягаємо всі речі, має бути принципово вищим за будь-що інше, що ним осягається.»
- «…за словами одного з учасників, вираз очей був мовою, яку неможливо зрозуміти неправильно».
Отже,
- Мова без здатності міркувати не веде до розуміння.
- Лише завдяки здатності міркувати мова відкриває шлях до розуміння.
- Повною мірою реалізоване розуміння виходить за межі мови.
Ставлячи мову на перше місце, LLM конструюють примітивну форму міркування виключно через логічний висновок. Але ця форма міркування виявилася хибною та схильною до галюцинацій через обмеження на численних нерівних краях наших знань.
Здатності міркувати там від початку не було. Тому мова не може через міркування масштабуватися до розуміння.
Професор припускає, що, працюючи з глухонімими, він виявив: здатність до справжнього міркування має існувати першою, ще до мови, щоб мова могла відкрити розуміння — продукт поєднання цієї здатності до справжнього міркування та мови.
«Вираз очей — це мова, яку неможливо зрозуміти неправильно».
Інакше кажучи, вираз очей — це те, як виглядає бездоганне розуміння, якому мова взагалі не потрібна.
Великі мовні моделі, ставлячи мову на перше місце, вище за здатність до справжнього міркування, ніколи не досягнуть розуміння.
Якщо розуміння дійсно виходить за межі мови, як стверджувала доповідь у Смітсонівському інституті 144 роки тому, сьогодні ми маємо легко знайти цьому докази.
ПІДПИСАТИСЯ НА CASSANDRA UNCHAINED
Особисто я можу провести паралель із вивченням і практикою медицини. Протягом усіх домедичних курсів в університеті та більшої частини медичної школи саме дедуктивна логіка допомагає студенту структурувати величезне поле медицини. У клінічні роки формується мистецтво медицини: фізичне втілення, емоції, людська експертиза. А потім, на певному етапі резидентури або на початку кар'єри лікаря, коли через тебе проходить величезний обсяг усього вищезгаданого, приходить розуміння. Усі частини з'єднуються у величезну, складну мережу, яка дозволяє забезпечувати повноцінну експертну допомогу пацієнту.
Два хірурги, які оперують складний рак голови та шиї або працюють із травмою, чи медсестри, які асистують лікарям, іноді спілкуються виключно поглядами, передаючи повне розуміння та діючи відповідно, бо всі учасники процесу досягли рівня розуміння, що виходить за межі логічного висновку та інших примітивних форм міркування, як-от зазубрювання та складання пазлів на ранніх етапах навчання медика.
Тоді саме погляд забезпечує інтуїтивне осягнення реальності на основі взаємного розуміння, яке виросло зі здатності міркувати в поєднанні з мовою.
Велика мовна модель, як і мала мовна модель, назавжди застрягла посередині. Вона здатна імітувати міркування, але без справжньої здатності міркувати, без очей, без розуміння.
Тест Балларда: сутність не володіє здатністю до розуміння, поки не продемонструє вміння міркувати за відсутності мови.
Це відома вада, хибний старт. Первісний підхід до ШІ полягав у тому, щоб спершу створити справжню здатність до міркування, але цього так і не вдалося реалізувати, і галузь розвернулася до підходу «спершу мова», бо це було простіше.
Цей «хибний старт» призвів до «пастки параметрів», де грубий перебір у обробці мови, що живиться незліченною кількістю ненажерливих чипів, перетворився на неймовірно іронічне вузьке місце.
ПІДПИСАТИСЯ НА CASSANDRA UNCHAINED
Як показала моя розмова з Себастьяном Сємьонтковським із Klarna, майбутнє за стисненням — використанням підходу «спершу міркування» (System 2) для усунення інформаційної надлишковості та роботи з відносно скінченною множиною запитів, які генерують люди, що дозволить радикально зменшити потребу в обчислювальних потужностях.
Цей новий напрямок відкидає ідею сингулярності, де мовні моделі нескінченно спілкуються одна з одною в дзеркальному коридорі, вважаючи це безцільним марнуванням ресурсів, неможливим через відсутність підґрунтя в економічних реаліях.
Хоча такі передові проєкти, як AlphaGeometry від Google та Coconut від Meta, нарешті рухаються до архітектури «спершу міркування», вони, по суті, заново відкривають те, що презентували в Смітсонівському інституті 144 роки тому: мова — це результат розуміння, а не двигун міркування.
Цей міф про масштабування на трильйони доларів може виявитися зайвим, якщо ми повернемося до тиші домовного міркування, до повноцінної здатності до роздумів глухонімого, чиї безмовні думки тягнулися до зірок ще до того, як він знайшов для них слова.
Silly Valley (Долина дурнів)
Я вже згадував, що на тій самій сторінці була ще одна цікава історія. Вона стосується першої більше, ніж будь-хто у 1880-х міг би уявити для 2026 року.
Стаття називається «Багатство Сан-Франциско: населення біржових спекулянтів».
Її написали 1 червня в Сан-Франциско, а в The New York Times опублікували лише 19 червня.
ПІДПИСАТИСЯ НА CASSANDRA UNCHAINED
Мимоволі згадується французький вислів: «що більше все змінюється, то більше все залишається таким самим».
«Важкі часи» в Сан-Франциско — це фраза, яка в східному місті означала б майже «часи достатку», і свідчить радше про відсутність життя на широку ногу та розкішних надмірностей, ніж про наявність гнітючої бідності та скрути. Каліфорнія була передусім раєм для людини з невеликим капіталом. Щоб задовольнити жагу до спекуляцій, запровадили специфічну систему відкритих торгів, завдяки якій людина з 50 доларами для інвестування, купивши частку, могла отримати невеликий інтерес у шахті за долар на акцію, або дві акції по 50 центів, чи будь-яку кількість за різними цінами. «Бум» на певні акції, що існував тут, здавалося, не виходив за межі бажання зробити це «ще лише один раз»; він розпалював ту саму ігроманську лихоманку в Сан-Франциско, а збитки, яких зазнала компанія bonanza, люди міста гаряче намагалися компенсувати. Оскільки «бум» супроводжувався спекулятивними втратами серед населення, він зник, і акції повернулися до свого нормального стану.
Фінал статті болісно перегукується з нашою сьогоднішньою реальністю.
Здається, жителі Сан-Франциско звикли до думки, що мають розбагатіти миттєво,
і оскільки їхня велика bonanza у Вірджинія-Сіті провалилася, вони, схоже, не надто готові докладати зусиль для пошуку багатства в інших напрямках, як-от розвиток виробництва, торгівлі та сільського господарства.
Пристрастю до спекуляцій просякнута майже вся популяція, і якби нову bonanza, таку ж велику, як у Неваді, виявили там або десь поблизу, акції знову злетіли б до абсурдних позначок, а Сан-Франциско знову пройшов би через період легких грошей, щоб знову страждати, як це було протягом останніх двох років.
У статті The Cardinal Sign of a Bubble, Supply Side Gluttony я описав цю дивовижну тенденцію, що зародилася в районі затоки Сан-Франциско: спекуляції сягають такого рівня, що стимулюють інвестиції, які набагато перевищують реальний попит у будь-якому розумному часовому вимірі.
Читання таких старих газет дає перспективу, щоб по-особливому інтерпретувати сучасні події. Чи Кремнієва долина «знову пройде через період легких грошей, щоб знову страждати», як це було неодноразово, чи неймовірним чином зламає цей шаблон — невідомо, але сподіваюся, цей матеріал був вам корисним.
