Большой медведь-прототип: триллионные инвестиции в ИИ — с самого начала был сделан неправильный выбор

大型 языковые модели ставят язык превыше истинных рациональных способностей, и никогда не смогут достичь понимания.

Автор: Майкл Барри

Перевод: Deep潮 TechFlow

«Нью-Йорк Таймс», 19 июня 1880 года, суббота

Добро пожаловать в серию «История всегда рифмуется». В этой серии я смотрю на происходящее сквозь призму ключевых моментов прошлого, освещая текущие события.

В один спокойный субботний день я, как обычно, просматривал старые газеты — это мое увлечение — и случайно наткнулся на статью от 19 июня 1880 года, которая удивительным образом перекликается с нашими сегодняшними тревогами по поводу ИИ.

Это история Мелвилля Балларда. Он с детства не говорил, но смотрел на кусок дерева и задал себе вопрос: первый человек — это не что иное, как выросшее из этого места?

Этот случай, опубликованный в официальном журнале Smithsonian 144 года назад, вызывает у нас сегодня опасения по поводу крупных языковых моделей и огромных инвестиций в них. Через историю обычного человека он смело заявляет: сложные мысли рождаются в молчании, предшествующем языку.

Сегодня, в глубине 21 века, мы ставим язык превыше рациональных способностей не для создания интеллекта — мы лишь создаем все более изощренное зеркало.

В старой газете есть две статьи, заслуживающие внимания. Начнем с той, что расположена в центре третьей страницы, под заголовком: «Мысли без языка».

Конечно, крупные и малые языковые модели, а также способность к рассуждению — это самые горячие темы сегодня.

Полный заголовок статьи: «Мысли без языка — рассказ глухонемого: его первые размышления и переживания». Статья впервые опубликована 12 июня 1880 года в «Вашингтон Стар».

Главный герой — профессор Самуэль Портер из Национального глухонемого университета Кендлера, который выступил с докладом в Smithsonian под названием «Могут ли быть мысли без языка? Кейсы глухонемых».

В начале он говорил о психической деятельности глухонемых и детей без языковых форм — выражение устарело, я изначально собирался его пропустить.

Но героем этого случая был преподаватель Колумбийского института глухонемых — Мелвилл Баллард, сам глухонемой и выпускник Национального глухонемого университета.

Баллард рассказывал, что в детстве общался с родителями и братьями с помощью жестов и мимики. Его отец верил, что наблюдение развивает умственные способности, и часто брал его на прогулки.

Он продолжил: за два-три года до того, как его начали вводить в письменный язык, во время одной из прогулок он задал себе вопрос: «Как возник этот мир?» Он был очень любопытен о происхождении человеческой жизни, о том, как появились земля, солнце, луна и звезды.

Однажды он увидел пень дерева и задал себе вопрос: «Может ли первый человек, пришедший в этот мир, вырасти из этого пня?» Но тут же подумал: этот пень — лишь останки древнего дерева; а как появилось оно? Оно выросло из земли, как и эти маленькие саженцы — и он решил, что связывать происхождение человека с гниющим пнем — глупо, и отбросил эту мысль.

Он не знал, что именно вызвало его интерес к происхождению всего сущего, но уже сформировал понятия наследственности, размножения животных и роста растений из семян.

Самый главный вопрос, который его мучил: в самом начале времени, когда еще не было людей, животных и растений, — откуда взялся первый человек, первое животное, первое растение? Он больше всего думал о людях и Земле, веря, что человечество рано или поздно исчезнет, и после смерти не будет возрождения.

Когда ему было около 5 лет, он начал понимать концепцию наследования. В 8–9 лет — задаваться вопросами о происхождении Вселенной. О форме Земли он предположил, исходя из карты с двумя полусферами: это два огромных диска, прилегающих друг к другу; солнце и луна — это две светящиеся круглые плиты. Он испытывал к ним некое благоговение и, наблюдая их восход и закат, делал вывод, что существует что-то могущественное, управляющее их движением.

Он думал, что солнце пробирается в западную дыру, выходит из восточной, проходя через внутренности Земли по огромной трубе, и движется по той же дуге в небе. Звезды — это точки света, вставленные в небесную ткань. Он описывал, как безуспешно размышлял обо всем этом, пока не пошел в школу в 11 лет.

До этого его мать говорила, что на небе есть некое таинственное существо, но когда она не могла ответить на его вопросы, он отчаялся и почувствовал грусть, потому что не мог получить точных знаний о том, что это за таинственная жизнь.

В первый год обучения он по воскресеньям учил несколько простых фраз, изучая эти слова, но не понимал их смысла. Он ходил на богослужения, но из-за слабого знания жестового языка почти ничего не понимал. На втором году у него появилась небольшая книга с вопросами и ответами.

Объединение языка и рациональных способностей — так развивалось его понимание.

Позже он стал понимать жесты учителей. Возможно, кто-то скажет, что его любознательность должна была удовлетвориться. Но это не так — когда он узнал, что вселенную создал великий дух-владыка, он снова задался вопросом: «Откуда появился создатель?» Он продолжал искать природу и происхождение этого владыки. Размышляя, он спрашивал себя: «Когда мы войдем в царство Господа, сможем ли понять его природу и бесконечность?» Или должен ли он, как предки, сказать: «Можешь ли ты найти Бога, ищущий его?»

Затем профессор Портер озвучил свою основную точку зрения слушателям Smithsonian в 1880 году.

Он заявил, что животные могут понять некоторые слова, распознавать предметы. Но он отметил:

«Даже если предположить, что у животных есть все возможные способности, разве не очевидно, что — человек обладает способностями, которых невозможно представить как развитие из того, что есть у человека и низших животных, или как просто их усиление?»

«…Независимо от того, насколько похожи механизмы восприятия или строение органов — будь то физиологическая близость или зависимость от органической деятельности — восприятие глазами — это не то же самое, что восприятие ушами, кожей или языком, и предполагает особый дар или способность, которая не входит в остальные. Рациональное действие и низшие функции — это не одно и то же.»

«…Общие элементы не доказывают, что они принадлежат к одному порядку, и не делают возможным развитие одного из другого. Если глаз души — высшее рациональное восприятие, позволяющее постигать вселенную — не может внутренне видеть себя, ясно различать свою природу и процессы, то не стоит забывать о его функции, не стоит отрицать его превосходство и приравнивать к более низким чувствам, которыми оно управляется. То, что позволяет нам понять все — по своей сути должно превосходить все, что мы понимаем.»

Один из слушателей особо отметил, что взгляд Балларда — это идеально передаваемое выражение смысла, без недоразумений:

«Самое интересное в этой встрече — это жесты Балларда, которые прекрасно передают, как его мать рассказывала ему о том, что он скоро поедет учиться в далекое место, где он будет читать книги, писать письма и отправлять их ей; и как он, изображая охотника, случайно застрелил и убил белку. Жесты, мимика и выражение лица Балларда — это язык, который невозможно понять неправильно.»

Обратите внимание на эти два утверждения:

• «То, что позволяет нам понять все — по своей сути должно превосходить все, что мы понимаем.»
• «Выражение глазами — это язык, который не может быть неправильно истолкован.»

Подытожим:

• Язык без рациональных способностей — не способен обеспечить понимание.
• Только при наличии рациональных способностей язык способен открыть понимание.
• Полное понимание превосходит сам язык.

Крупные языковые модели ставят язык во главу угла, создавая лишь примитивную форму рациональности через логические выводы. Но эта рациональность оказалась уязвимой — в ее пограничных областях легко возникают иллюзии.

Рациональные способности никогда не существовали в полном объеме. Поэтому язык не может возвысить понимание до уровня истинной рациональности.

В своих исследованиях с глухонемыми я обнаружил: настоящая рациональность должна существовать раньше языка, а язык — лишь инструмент для его раскрытия — понимание — это результат совместного действия истинной рациональности и языка.

«Выражение глазами — это язык, который не может быть неправильно истолкован.»

Иными словами, выражение глазами — это образец полного понимания — без необходимости в языке.

Крупные языковые модели, ставя язык превыше рациональности, никогда не достигнут понимания.

Если понимание действительно превосходит язык — как показывает речь в Smithsonian 144 года назад — то сегодня мы легко можем найти подтверждения этому.

Я сам ощущаю это на практике, изучая медицину. В течение всей бакалавриата и большинства медицинских курсов логика была инструментом организации огромных медицинских знаний. В клинической практике, где важны признаки, эмоции, гуманитарные знания, развивается искусство медицины. А затем, на этапе интернатуры или в ранней практике, с накоплением опыта приходит понимание. Все части соединяются в сложную сеть, и опытный врач способен обеспечить полноценный уход за пациентом.

Два хирурга, выполняя сложную операцию по удалению рака головы и шеи или при травмах, иногда общаются только взглядом — полное понимание передается, действия запускаются, потому что все участники достигли понимания, превосходящего логические выводы и примитивные догадки ранней медицины.

Глаз дает интуитивное ощущение реальности, основанное на общем понимании, которое возникает благодаря присутствию языка и рациональности.

Крупные и малые языковые модели — навсегда останутся в промежуточной зоне. Они могут моделировать рассуждение, но не обладают истинной рациональностью, глазами или пониманием.

Тест Балларда: чтобы считать субъект по-настоящему понимающим, он должен проявить рациональность без языка.

Это известный недостаток, плохая отправная точка. Изначально целью исследований ИИ было создание истинной рациональности, но этого так и не достигли, и область переключилась на язык — потому что это проще.

Эта «плохая отправная точка» привела к «ловушке параметров»: бессмысленная обработка языка с помощью мощных чипов, потребляющих много энергии, стала очень ироничным узким местом.

Как я подчеркнул в разговоре с Себастьяном Сиемятковским, основное решение — это компрессия: приоритетное использование «системы 2» для рассуждений, переработка избыточной информации и ограниченного набора запросов человека, что значительно снизит требования к вычислительным мощностям.

Этот новый путь отвергает идею бесконечных зеркальных диалогов языковых моделей в погоне за сингулярностью — это бессмысленная трата ресурсов, и без экономической основы реализовать это невозможно.

Передовые исследования Google (AlphaGeometry) и Meta (Coconut) движутся в сторону такой «рациональности по приоритету», но по сути они лишь вновь открывают то, что уже было показано в Smithsonian 144 года назад: язык — это результат понимания, а не его движущая сила.

Эта масштабная «мифология о вычислительной мощи» в миллиарды долларов, возможно, будет разрушена возвращением — возвращением к молчанию языковой рациональности — к той силе, которая есть у глухонемых, чье молчаливое мышление, еще до того, как оно нашло слова, уже тянется к звездам.

Кремниевая долина

Также на той же странице есть еще одна статья, заслуживающая внимания. Ее связь с первой, вероятно, превосходит все, что было в 1880-х годах.

Она называется: «Богатство Сан-Франциско: город, наполненный спекулянтами, стремящимися к быстрому богатству».

Статья опубликована 1 июня 1880 года в Сан-Франциско и вышла в «Нью-Йорк Таймс» только 19 июня.

Во французском есть выражение: «чем больше меняется, тем больше остается прежним» (the more things change, the more they stay the same). Сейчас оно особенно актуально.

«Трудные времена» в Сан-Франциско, по словам, — это не бедность и нужда, а скорее «достаточно богатые дни», когда не тратят бездумно и не расточают.

Тогда Калифорния была раем для мелких инвесторов. Чтобы удовлетворить спекулятивный азарт, возникла особая публичная система торгов: за 50 долларов можно было купить долю в руднике, по цене в один доллар за акцию, или по 25 центов за две, или по любой цене.

Когда одна акция «расцвела», это, казалось, будоражило желание «еще раз попробовать». В Сан-Франциско это зажгло тот же азарт, люди гонялись за шансом разбогатеть, который потеряли крупные игроки; «бум» сопровождался потерями, и когда он заканчивался, цены возвращались к норме.

В конце статьи очень ярко показана сегодняшняя реальность:

Кажется, жители Сан-Франциско уже привыкли к мысли, что богатство должно приходить мгновенно, и после краха большого богатства в Вирджинии они не хотят вставать и искать новые источники — в промышленности, торговле или сельском хозяйстве. Почти весь город полон спекулятивного настроения: если бы здесь или рядом нашли новый крупный рудник, сравнимый с Невадой, цены снова взлетели бы до абсурда, и Сан-Франциско снова пережило бы эпоху быстрого богатства, а затем — все, что с этим связано за последние два года.

В статье «Ключевые признаки пузыря: жадность со стороны предложения» я описал эту тенденцию, исходящую из залива Сан-Франциско: спекуляции усиливаются, инвестиции превышают любые ожидаемые потребности, которые можно было бы рационально поглотить за разумное время.

Читая такие старые газеты, мы можем взглянуть на сегодняшние события под совершенно новым углом. Смогут ли Кремниевая долина «снова пережить эпоху быстрого богатства и снова столкнуться со всеми последствиями», как это было много раз, или же она сломает шаблон — предсказать трудно. Надеюсь, эта статья будет вам полезна.

И напоследок — рекомендую вам Midjourney, инструмент для генерации изображений и видео.

Он очень увлекателен и заставляет задуматься. Воплощайте свои идеи!