Этому кейсу 145 лет — и его, между прочим, представляли в Смитсоновском институте. Он содержит потенциально убийственную критику современных больших языковых моделей и тех денег, что в них вкладывают.
Майкл Бьюрри
ПОДПИСАТЬСЯ НА CASSANDRA UNCHAINED
Добро пожаловать в новую рубрику моего блога Cassandra Unchained на Substack — History Rhymes («История рифмуется»), где я применяю ключевые идеи далекого прошлого к событиям наших дней.
Cassandra Unchained — издание, которое существует благодаря читателям. Чтобы получать новые материалы и поддержать мою работу, оформите бесплатную или платную подписку.
Разбирая старые газеты тихим субботним днем — это мое хобби, — я наткнулся на заметку от 19 июня 1880 года, которая показалась мне удивительно созвучной нашим сегодняшним тревогам по поводу ИИ.
Это история Мелвилла Балларда, который, будучи ребенком, лишенным речи, увидел глазами пень и спросил себя: не из него ли вышел первый человек?
The New York Times, суббота, 19 июня 1880 года
Этому кейсу 145 лет — и его, между прочим, представляли в Смитсоновском институте. Он содержит потенциально убийственную критику современных больших языковых моделей (LLM) и тех денег, что в них вкладывают. На примере простой человеческой истории он смело заявил: сложная мысль рождается в тишине, еще до появления слов.
Сегодня, уже в XXI веке, ставя язык впереди способности мыслить, мы создаем не интеллект — мы создаем всё более изощренное зеркало.
ПОДПИСАТЬСЯ НА CASSANDRA UNCHAINED
В той старой газете нашлись сразу две любопытные истории. Начнем с той, что посередине. Это третья полоса того выпуска The New York Times, и на ней я вижу материал под названием «Мысль без языка».
Разумеется, большие языковые модели, малые языковые модели и «рассуждение» (Reasoning) — тема дня.
Полностью заголовок звучит так: «Мысль без языка. Рассказ глухонемого о своих первых мыслях и впечатлениях». Кроме того, впервые этот текст был опубликован в газете Washington Star 12 июня 1880 года.
Речь в нем идет о профессоре Сэмюэле Портере из Национального колледжа для глухонемых в Кендалл-Грин, который выступил с докладом в Смитсоновском институте. Название доклада: «Бывает ли мысль без языка? Случай глухонемого».
ПОДПИСАТЬСЯ НА CASSANDRA UNCHAINED
Поначалу, когда заговорили о том, что у глухонемых и детей якобы нет никакой умственной деятельности, отличающей их от животных… что ж, наши представления с тех пор сильно изменились, и я был готов закрыть страницу.
Кейс описывает преподавателя Колумбийского института обучения глухих и немых. Этот конкретный учитель, Мелвилл Баллард, сам был глухонемым и выпускником Национального колледжа для глухонемых.
Г-н Баллард рассказывает, что в раннем детстве общался с родителями и братьями естественными знаками и пантомимой. Его отец, веря, что наблюдение поможет развить его способности, часто брал его с собой в поездки. Он продолжает, что именно во время одной из таких поездок, за два-три года до того, как его начали обучать основам письменного языка, он стал задаваться вопросом: «Как появился мир?» — и у него пробудилось любопытство к происхождению человеческой жизни, к тому, как она возникла впервые, а также к причинам существования земли, солнца, луны и звезд. Однажды, увидев большой пень, он спросил себя: «Возможно ли, что первый человек на свете вышел из этого пня? Но ведь этот пень — лишь остаток некогда великолепного дерева; а откуда взялось само дерево? Оно просто начало расти из земли, совсем как эти маленькие деревца, что тянутся вверх сейчас»; и он отбросил как абсурдную связь между происхождением человека и гниющим старым пнем. Он не знал, что именно навело его на вопрос о происхождении вещей, но к тому времени он уже усвоил понятия о передаче жизни от родителя к ребенку, о размножении животных и о том, как из семян вырастают растения. Вопрос, который занимал его мысли, состоял в том, откуда взялись первый человек, первое животное и первое растение в самой глубокой древности, когда не было ни людей, ни животных, ни растений, — ведь он знал, что у всего есть начало и конец. Больше всего он думал о человеке и земле, верил, что человек будет уничтожен и что после
могилы воскресения не будет. Ему было 5 лет, когда он начал понимать, как жизнь передается от родителя к ребенку, и около 8–9 лет, когда стал задумываться о происхождении Вселенной. О форме Земли он заключил, взглянув на карту двух полушарий, что существуют два огромных диска материи, лежащих рядом друг с другом; что солнце и луна — два круглых плоских диска из светящегося вещества, к которым он испытывал нечто вроде благоговения, и, наблюдая, как они восходят и заходят, решил, что должна существовать некая сила, управляющая их движением. Он верил, что солнце уходит в отверстие на западе и выходит через другое на востоке, путешествуя по огромной трубе внутри Земли и повторяя ту же дугу, которую оно [солнце], казалось, описывает в небе. Звезды казались ему крошечными огоньками, вделанными в небосвод. Он рассказывает, как тщетно пытался постичь все это, пока в 11 лет не попал в школу. До этого мать говорила ему, что высоко в небе живет таинственное существо, но когда она не смогла ответить на его вопросы, он в отчаянии оставил эту тему, печалясь, что так и не смог составить ясного представления об этом таинственном живом существе на небе. В течение первого года в школе для глухонемых он каждое воскресенье выучивал несколько фраз, и хотя он разбирал эти простые слова, смысл их до него не доходил. Он посещал службы в часовне, но почти ничего не понимал из-за слабого знания жестового языка, который использовался в заведении. На второй год у него появился небольшой катехизис с серией вопросов и ответов.
Развитие понимания через применение языка к способности рассуждать продолжается.
Теперь он мог понимать жестовый язык своих учителей. Можно было бы сказать, что его пытливый ум должен был успокоиться. Но этого не произошло: узнав о сотворении Вселенной единым великим правящим Духом, он начал спрашивать себя: откуда взялся Творец? — и принялся исследовать Его природу и происхождение. Обдумывая этот вопрос, он спрашивал себя: «Узнаем ли мы когда-нибудь природу Бога и постигнем ли Его бесконечность, войдя в Его Царство?» — и не лучше ли нам повторить вслед за древним патриархом: «Можешь ли ты исследованием найти Бога?»
И тут профессор Портер, образно говоря, обрушивает свой молот на головы слушателей в Смитсоновском институте образца 1880 года.
Проф. Портер разбирает этот случай и отмечает, что животные могут понимать некоторые слова, отличать одни предметы от других и т. д. Он говорит: «Даже если приписать животным максимум того, на что они способны, разве не очевидно, что у человека есть способности, которые невозможно представить себе как развитие или простое количественное усиление чего-либо, общего у него с низшими животными? \ \ \ Каким бы ни было сходство в способах формирования впечатлений или в строении органов и какой бы ни была зависимость от органических процессов — то есть, *
какой бы ни была их физиологическая близость, — зрительные ощущения и восприятия сами по себе отличаются от слуховых и предполагают особый дар или способность, которых нет у уха, головы или языка. Но с актами разума дело обстоит иначе, чем с работой низших способностей.
\ \ \ *
То, что у этих двух явлений есть общие элементы, не доказывает, что они целиком принадлежат к одному порядку, и не делает возможным развитие одного из другого.
И если око души — высший разум, сквозь который мы смотрим на вселенную вещей, — не может обратиться внутрь себя и ясно распознать собственную природу и процессы, мы не должны поэтому, забывая о том, что оно делает, отрицать его принципиальное превосходство и приравнивать его к тем низшим и вспомогательным способностям, которые мы можем подвергнуть его проверке. То, посредством чего мы понимаем всё, должно быть по своей сути выше всего, что оно понимает.
ПОДПИСАТЬСЯ НА CASSANDRA UNCHAINED
Один из присутствовавших на докладе весьма точно подметил, что глаза Балларда передавали смысл безупречно, исключая любое недопонимание — и это было важнее всего остального.
Одной из самых интересных частей встречи стало то, как г-н Баллард знаками объяснял, как мать сообщила ему, что он отправится далеко учиться, где будет читать книги, писать письма, складывать их и отправлять ей, и т. д., а также как он пантомимой рассказал, как охотник, убив белку, случайно застрелил самого себя. Знаки и жесты г-на Балларда вместе с выражением глаз и лица безупречно передавали его мысль слушателям, и,
по словам одного из участников, выражение глаз было языком, который невозможно понять превратно.
Давайте задумаемся над этими двумя утверждениями:
- «То, посредством чего мы понимаем всё, должно быть по своей сути выше всего, что оно понимает.»
- «…по словам одного из участников, выражение глаз было языком, который невозможно понять превратно».
Следовательно:
- Язык без способности рассуждать не приводит к пониманию.
- Только при наличии способности рассуждать язык открывает путь к пониманию.
- Полностью реализованное понимание выходит за пределы языка.
Ставя язык на первое место, LLM выстраивают примитивную форму рассуждения исключительно через логический вывод, но эта форма рассуждения, как уже показано, несовершенна и склонна к галлюцинациям из-за ограничений на многочисленных «рваных краях» нашего знания.
Способности к рассуждению там изначально не было. Поэтому язык не может через рассуждение масштабироваться до понимания.
Профессор предполагает, что в работе с глухонемыми он обнаружил следующее: способность к истинному рассуждению должна возникнуть первой, до языка, чтобы язык мог открыть понимание — продукт этой способности к рассуждению и языка.
«Выражение глаз — это язык, который невозможно понять превратно».
Иными словами, выражение глаз — это и есть безупречное понимание, которому язык вообще не нужен.
Большие языковые модели, ставящие язык впереди способности к истинному рассуждению, никогда не достигнут понимания.
Если понимание действительно выходит за рамки языка, как предполагал тот доклад в Смитсоновском институте 144 года назад, сегодня мы должны довольно легко находить этому подтверждения.
ПОДПИСАТЬСЯ НА CASSANDRA UNCHAINED
Лично я могу провести параллель с изучением и практикой медицины. На протяжении всех подготовительных курсов и большей части медицинского вуза дедуктивная логика — главный инструмент, с помощью которого студент упорядочивает необъятное поле медицины. В годы клинической практики формируется искусство врачевания: физическое воплощение, эмоции, человеческий опыт. А затем, на каком-то этапе ординатуры или в начале карьеры врача, когда через тебя проходит огромный поток случаев, требующих всего вышеперечисленного, приходит понимание. Все части сплетаются в огромную сложную сеть, позволяющую эксперту оказывать пациенту полноценную помощь.
Два хирурга, оперирующие сложный рак головы и шеи или травму, или медсестры, работающие с врачами, порой общаются исключительно взглядами — и полное понимание передается мгновенно, действия совершаются потому, что все участники достигли понимания, выходящего за рамки логического вывода и других примитивных форм рассуждения, таких как зубрежка и собирание пазлов на ранних этапах обучения медика.
Так взгляд обеспечивает интуитивное схватывание реальности на основе взаимопонимания, которое выросло из способности рассуждать в присутствии языка.
Большая языковая модель, равно как и малая, навсегда застряла посередине. Она умеет имитировать рассуждение, но без истинной способности рассуждать, без глаз, без понимания.
Тест Балларда: сущность не обладает способностью к пониманию, пока не продемонстрирует умение рассуждать в отсутствие языка.
Это известная ошибка, неудачный старт. Изначальный подход к ИИ предполагал сначала создать настоящую способность к рассуждению, но этого так и не удалось сделать, и отрасль развернулась в сторону языка, потому что так было проще.
Этот «неудачный старт» привел к «ловушке параметров», где грубая обработка языка силами неисчислимого множества прожорливых чипов стала невероятно ироничным узким местом.
ПОДПИСАТЬСЯ НА CASSANDRA UNCHAINED
Как показал мой разговор с Себастьяном Семятковски из Klarna, будущее за компрессией — за использованием подхода «Системы 2», где рассуждение первично, чтобы опираться на избыточность информации и относительно конечный набор запросов, генерируемых людьми, радикально снижая потребность в вычислениях.
Эта новая линия отвергает идею сингулярности, в которой языковые модели бесконечно разговаривают друг с другом в зеркальном коридоре, считая её бессмысленной тратой ресурсов, невозможной из-за отсутствия опоры на экономические реалии.
Хотя такие проекты, как AlphaGeometry от Google и Coconut от Meta, наконец-то движутся к архитектуре «сначала рассуждение», они, по сути, заново открывают то, о чём говорили в Смитсоновском институте 144 года назад: язык — это результат понимания, а не двигатель рассуждения.
Этот миф о масштабировании на триллионы долларов может оказаться ненужным, если мы вернемся к тишине доречевого мышления — к полнополосной способности к рассуждению глухонемого, чьи безмолвные мысли тянулись к звездам задолго до того, как для них нашлись слова.
Silly Valley
Я упоминал, что на той же полосе была еще одна интересная история. И она оказалась куда более релевантной первой, чем кто-либо в 1880-х мог предположить для 2026 года.
Статья называется «Богатство Сан-Франциско: население из спекулянтов "бонанзы"».
Текст был написан 1 июня в Сан-Франциско, а в The New York Times опубликован только 19 июня.
ПОДПИСАТЬСЯ НА CASSANDRA UNCHAINED
На ум приходит французская поговорка: «Чем больше всё меняется, тем больше всё остается прежним».
«Трудные времена» в Сан-Франциско — выражение, которое в любом восточном городе означало бы почти «времена изобилия», и подразумевает скорее отсутствие щедрой жизни и расточительной роскоши, нежели присутствие гнетущей нищеты и скудных средств.» Калифорния была по преимуществу раем для человека с небольшим капиталом. Чтобы утолить жажду спекуляций, здесь приняли своеобразную систему открытых торгов, благодаря которой человек, имевший для инвестиций 50 долларов, мог купить долю и получить небольшой интерес в шахте по доллару за акцию, или две акции по 50 центов, или любое количество по разным ценам. «Бум» на определенные акции, казалось, не выходил за рамки желания сыграть «ещё разочек», но он вызывал в Сан-Франциско ту же игорную лихорадку, и линии, упущенные фирмой «бонанзы», жадно подхватывались жителями города, а поскольку «бум» сопровождался спекулятивными убытками населения, он сошел на нет, и акции вернулись к своему нормальному состоянию.
Финал статьи бьет прямо в нашу сегодняшнюю реальность.
Жители Сан-Франциско, похоже, привыкли к мысли, что должны разбогатеть одним прыжком,
и поскольку их большая «бонанза» в Вирджиния-Сити прогорела, они, судя по всему, не слишком горят желанием искать богатство в других направлениях — например, развивая производство, торговлю и сельское хозяйство.
Почти всё население одержимо страстью к спекуляциям, и если бы там или где-то поблизости обнаружили новую «бонанзу» размером с невадскую, акции снова взлетели бы до абсурдных значений, и Сан-Франциско вновь прошел бы через период изобилия, чтобы потом снова страдать, как он страдал последние два года.
В статье The Cardinal Sign of a Bubble, Supply Side Gluttony я описал эту замечательную тенденцию, зародившуюся в районе залива Сан-Франциско: спекуляции раздуваются до таких масштабов, что стимулируют инвестиции, многократно превышающие всё, что нужно для удовлетворения конечного спроса в любые разумные сроки.
Чтение подобных старых газет дает перспективу, позволяющую интерпретировать сегодняшние события нестандартно. Пройдет ли Кремниевая долина «вновь через период изобилия, чтобы потом снова страдать», как это бывало неоднократно, или невероятным образом разорвет этот шаблон — не знаю, но надеюсь, что этот материал оказался вам полезен.
