Первоисточник: Geek Park
Автор|Тун Ци, Ху Сяомэн
![]()
Источник изображения: Generated by Unbounded AI
Со времен промышленной революции люди постепенно привыкли ладить с машинами днем и ночью в течение сотен лет, от первоначальной паники до нынешнего невежества, и теперь средства массовой информации стали продолжением тела, мобильный телефон стал интеграцией средств массовой информации, и машина даже стала частью человеческого тела. Отношения между людьми и машинами становятся все более и более тесными, и машины перестают быть просто объектами и мертвыми вещами. Многие люди надеются, что машины будут обладать реальным интеллектом и эмоциями, а затем способностью мыслить независимо и быть автономными, а также иметь глубокий эмоциональный обмен с людьми.
![]()
Разработка больших моделей искусственного интеллекта (ИИ), представленных ChatGPT, не только предвещает ускорение эры общего искусственного интеллекта (AGI), но и значительно увеличивает возможности воплощения человеческого воображения в реальность. По мере того, как применение ИИ в повседневном производстве и жизни значительно повысило эффективность и удобство, генеративный ИИ теперь вызывает новый виток волнения и страха: когда ИИ живет и работает с нами, или когда ИИ становится частью нашего города, ощущение того, что ты окружен вездесущими и аморфными технологиями, подпитывает сложную эмоцию самосознания и страха перед машинным интеллектом.
Когда технологии уже давно интегрировались в нашу повседневную жизнь, становясь вездесущими и аморфными, влияя на мышление, восприятие и поведение людей, как призрак, возможно, повседневная жизнь искусственного интеллекта не является новой темой, но мы неосознанно вступаем в эпоху симбиоза с ИИ. С волной больших моделей, представленных ChatGPT, и появлением генеративного ИИ, путь коммерциализации ИИ еще больше ускорился, благодаря чему он оказывает немалое влияние на повседневную работу, потребление и развлечения широкой публики. Это означает революционные изменения в способе взаимодействия человека и компьютера: визуальное взаимодействие, представленное графическими пользовательскими интерфейсами, достигло пределов и начало превращаться в доступ ко всем сценам и взаимодействие с людьми через интерфейсы на естественном языке. За этой новой революцией в области медиатехнологий стоят не только деловые, политические и социальные вопросы, но и вопросы этики, неприкосновенности частной жизни и беспристрастности, а также фундаментальное потрясение гуманизма, которое может произойти под влиянием искусственного интеллекта и алгоритмического принятия решений.
Первый: Когда искусственный интеллект становится технической основой повседневной жизни
Когда ИИ становится частью повседневной жизни, люди обычно не ощущают присутствия технологий, которые являются «фоновыми отношениями» из четырех типов отношений между человеком и технологиями, предложенных Доном Иде. Контекстуальные отношения [→ человека (ИИ/мир)] означают, что ИИ как технологическая основа, такая как электричество и интернет, стала частью повседневной жизни, и люди часто узнают о его существовании только тогда, когда технология дает сбой. Конечно, в повседневной жизни есть еще три вида отношений между человеком и искусственным интеллектом: воплощенные отношения [(человек-ИИ)→мир)], то есть ИИ как функциональное продолжение человеческих существ, чтобы распознавать мир и практику; интерпретативные отношения [человек→ (ИИ-мир)], то есть человеческое познание мира, является репрезентативным, трансформируемым или интерпретируемым ИИ, например, рекомендательный алгоритм в определенной степени влияет и формирует когнитивные паттерны человека, и оно неоднородно [человек→ИИ-(мир)] , акцентируя внимание на автономии технологий, то есть, когда ИИ становится объектом познания, мир, представленный через ИИ, становится технологическим артефактом.
Итак, какие моменты в повседневной жизни современных людей находятся под влиянием ИИ? На этот вопрос теперь можно ответить и через диалог с искусственным интеллектом. На вопрос о «сценарии, в котором современный человек бессознательно взаимодействует с ИИ в течение дня», ответ ChatGPT довольно исчерпывающий (см. таблицу 1), и он даже напоминает нам, что «привычки и потребности образа жизни у всех могут быть одинаковыми, поэтому фактическая ситуация может быть разной». "
Другими словами, инструменты взаимодействия на естественном языке, основанные на технологии генеративного ИИ, уже могут рассказать нам о том, что ИИ становится частью работы, отдыха, общения и даже сна, а его технологический потенциал охватывает все аспекты жизни человека. Таким образом, с точки зрения большего жизненного пространства, город, в котором живут люди, стал городом, где сосуществуют люди и машины, и, возможно, в будущем он станет городом, где сосуществуют люди и искусственный интеллект. Это означает, что ИИ также «живет» в городе, и таким образом становится незаменимым членом города. Из ответов ChatGPT было выявлено возможное будущее, то есть человеческие существа неизбежно вошли в состояние жизни, которое глубоко интегрировано с искусственным интеллектом.
Тем не менее, перед лицом волны технологий искусственного интеллекта есть два основных риска, которые необходимо проявлять бдительность при работе с отношениями между людьми и технологиями: один — это сбой технологии, а другой — потеря контроля над технологией.
![]()
Во-первых, как утверждает Дон Иде, технологии, проникающие в повседневную жизнь, распознаются только тогда, когда они терпят неудачу. Как только технология даст сбой, она принесет неизмеримый вред обществу. После «Сильного ливня в Чжэнчжоу в 7.20» в 2021 году популярная статья с комментариями «Чжэнчжоу после катастрофы: когда город внезапно потерял интернет» зафиксировала крах всех привычных образов жизни, таких как онлайн-покупки, электронные платежи, городской транспорт и распространение информации после сильного дождя. Иными словами, нормальное функционирование человеческого общества в информационную эпоху зависит от наложенных алгоритмов, электричества, сетей и других фоновых технологий в жизни человека в качестве инфраструктуры и предпосылок. В эпоху искусственного интеллекта человеческому обществу может быть сложно избавиться от риска технологического сбоя.
Во-вторых, человеческая жизнь тесно связана с искусственным интеллектом, но будет ли искусственный интеллект свободен от контроля со стороны человека и будет ли он действовать самостоятельно? Недавно исследовательская группа из Стэнфордского университета в США выпустила очень интересное исследование, они сделали игру-песочницу с большой языковой моделью, в которой 25 генеративных агентов (Generative Agents) «живут свободно» в виртуальной среде: эти агенты похожи на людей, каждый день просыпаются, готовят завтрак и идут на работу в интерактивной песочнице; Реагируйте на это и корректируйте свои планы, когда это уместно, что приводит к неожиданно сложному поведению (например, устраивает вечеринку в честь Дня святого Валентина). Пользователи могут взаимодействовать с этими 25 агентами, используя естественный язык. Исследовательская группа отметила, что эта работа раскрывает архитектуру и модели взаимодействия, которые позволяют моделировать правдоподобное человеческое поведение путем слияния больших языковых моделей с агентами компьютерного взаимодействия.
Когда искусственный интеллект может свободно взаимодействовать в смоделированной среде, это также в некоторой степени указывает на то, что искусственный интеллект может выйти из-под контроля человека в ближайшем будущем. Нетрудно представить, что с развитием технологий искусственный интеллект и роботы могут достичь более глубокой интеграции, и когда это произойдет, смогут ли люди по-прежнему доминировать в жизни? Или, если говорить более конкретно, могут ли люди продолжать доминировать в городском порядке? В это время вопрос о том, на что будет опираться человеческая жизнь для поддержания основной деятельности, и какие ценности следует использовать в качестве ориентира для обычной жизни, станет важным вопросом, которого не избежать в условиях новой технологической революции. В этом смысле особенно важно так называемое ценностное соответствие ИИ общечеловеческим ценностям.
2: Когда ИИ вступает в эру больших моделей
Отправной точкой современного общества, или глобализации, стала эпоха Великих географических открытий в конце XV века, когда прогресс знаний и технологий, а также развитие навигационных технологий, европейские исследователи получили возможность исследовать и завоевывать новые континенты, а глобальная экология и геополитика были перевернуты с ног на голову. Можно сказать, что эпоха Великих географических открытий в основном осуществляла экспансию технологий в космос, и современный капиталистический способ производства и современная жизнь урбанизации тесно связаны с этим.
Развитие современных информационных технологий привело к расширению и сумасшедшему присвоению времени. Наше время и мозг заполнены огромным количеством информации, которую несут и предоставляют информационные технологии, и генеративный ИИ продолжает ускорять эту информационную перегрузку. Но сутки на Земле по-прежнему длятся 24 часа, и это противоречие превратило нашу жизнь во взаимодействие между «социальным временем» и «цифровым временем». В будущем искусственный интеллект станет посредником, либо продолжит эволюционировать в «компрессор» времени и цивилизации. От машинных вычислений до искусственного интеллекта продолжают появляться прорывные технологии, и человеческая цивилизация вступила в «эру глубоких технологий».
Большие модели, несомненно, являются важнейшей тенденцией развития технологии ИИ, а также основой для индустриализации ИИ и повседневной жизни. С бурным развитием большой модели GPT от OpenAI глобальные технологические компании и научно-исследовательские институты соперничают за то, чтобы первыми инвестировать в конкуренцию больших моделей, а искусственный интеллект теперь вступил в эру больших моделей. Большие модели ИИ, также известные как предобучающие модели и базовые модели, — это модели, обучаемые на основе огромных объемов данных с большим количеством параметров, которые можно адаптировать к широкому спектру последующих задач. Основанные на идеях трансферного обучения и последних достижениях в области глубокого обучения, эти модели демонстрируют удивительные «эмерджентные» возможности с помощью крупномасштабных компьютерных систем и значительно улучшают производительность различных последующих задач.
Большая модель знаменует собой смену парадигмы в развитии технологии ИИ, и в будущем на ее основе будут строиться цифровые и интеллектуальные системы в различных областях. Вступление в эру больших моделей также означает наступление этапа индустриализации ИИ, который открывает путь для достижения ИИ стандартизации, модульности и автоматизации. Если взять в качестве примера интеллектуальное обслуживание клиентов с помощью ИИ, с которым люди часто вступают в контакт, то в прошлом применение интеллектуального обслуживания клиентов ИИ в различных областях, таких как здравоохранение, электронная коммерция и финансы, каждый раз требовало перепроектирования и обучения исследованиям и разработкам, а его модель алгоритма не могла быть использована повторно. Таким образом, высокая стоимость технологических исследований и разработок, а также затраты на рабочую силу ограничивают широкомасштабное применение интеллектуального обслуживания клиентов с помощью ИИ. Большой модели не нужно ни реконструировать различные модели сцен для сценариев применения, ни начинать обучение моделей алгоритмов заново, а только быстро извлекать и генерировать основанные на сценариях, настраиваемые и персонализированные небольшие модели на основе больших моделей, чтобы реализовать развертывание промышленной сборочной линии в различных отраслях, вертикальных полях и функциональных сценариях, а также иметь преимущества использования по требованию, высокой эффективности и экономичности.
Видно, что большая модель становится будущей интеллектуальной технологической инфраструктурой, реконструируя существующую бизнес-модель, формируя в будущем технологию «модель как услуга» и промышленную экологию. В будущем цифровой бизнес будет разделен на крупные модельные инфраструктурные предприятия, небольшие модельные предприятия приложений в вертикальных отраслях и модельные приложения и сервисы, которые больше подходят для индивидуальных пользователей. Создание и развитие этой экосистемы позволит более широко расширить возможности приложений в различных отраслях, ускорить цифровую трансформацию и интеллектуальное развитие всех сфер общества, а также повысить эффективность производства всего общества.
Накопление и интеграция таких технологий, как большие модели, мультимодальные и генеративные алгоритмы, представленные GPT, породили взрыв генеративного искусственного интеллекта (AIGC), и то, что воспринимается широкой публикой, в основном находится на уровне «модель как услуга», то есть текстовые, картинки, аудио, видео и другие сервисы генерации контента для публичных пользователей. Можно сказать, что как новый тип производства и распространения контента, генеративный ИИ может принести новый виток революции производства и потребления, а также занять лидирующие позиции в медиа, электронной коммерции, играх, кино и телевидении и других отраслях с высокой степенью цифровизации и высоким спросом на контент.
![]()
Хронология развития искусственного интеллекта (нарисована Ху Сяомэном)
Три: Когда ChatGPT начинает революцию языкового взаимодействия
Создание так называемого общего искусственного интеллекта считается важной причиной революционного изменения искусственного интеллекта, а универсальность также стала важным критерием революционного технологического изменения. На самом деле, только с появлением компьютеров универсальность информационных технологий стала возможной. Искусственный интеллект также развивается в направлении этого стандарта. Сяо Янхуа, профессор Фуданьского университета, отметил, что все технологические прорывы были совершены людьми, что само по себе является результатом интеллекта, но общий искусственный интеллект — это технология, которая стремится приблизиться к человеческому интеллекту или даже превзойти его, и это технологическое изменение самого интеллекта, и его важность и опасность намного больше, чем раньше.
Когда пользователи используют генеративный ИИ, представленный ChatGPT, они могут ввести в пользовательский интерфейс фрагмент текста на человеческом языке, который может быть полным предложением или частью предложения, который используется для того, чтобы побудить большую модель сгенерировать следующую часть текста. Этот текст приглашения является словом-подсказкой (). Создание контента, который является одновременно достоверным и креативным, становится задачей, требующей постоянного тестирования и настройки. Процесс непрерывных подсказок — это процесс взаимодействия человека с большой моделью через язык, процесс обмена ценностями и процесс непрерывного обучения персональной версии GPT, что в конечном итоге делает ее инструментом с более личными атрибутами и более соответствующими личным ценностям.
![]()
Обработка естественного языка считается «жемчужиной в короне» искусственного интеллекта, и позволить машинам понимать человеческий язык всегда было направлением бесчисленных ученых и исследователей искусственного интеллекта. Появление языковых моделей, представленных ChatGPT, объявило о том, что язык больше не является привилегией человеческой цивилизации, и машины также могут индуцировать, обобщать, применять и приводить примеры человеческого языка, а также выводить его через человеческий язык (вместо машинного языка, представленного 0 и 1). Режим взаимодействия человека и компьютера также расширился от графического интерфейса взаимодействия до интерфейса взаимодействия на естественном языке.
Язык креативен, но в то же время обманчив. Мощь GPT привела к тому, что большинство пользователей воспринимают контент, генерируемый GPT, как заслуживающий доверия и пригодный для использования. Доверие человека к искусственному интеллекту даже превышает доверие к собственному суждению, что делает искусственный интеллект (особенно важнейшее прикладное направление искусственного интеллекта - рекомендации алгоритмов) неким авторитетным существованием. Хотя многие ученые говорят о потенциальном вреде, причиняемом авторитетом алгоритмов, с развитием технологий авторитет технологий будет становиться все выше и выше в обществе. Наша повседневная жизнь не только поддается вычислениям, но и требует вычислений на высоких скоростях, и в результате нам часто приходится тратить огромное количество энергии и вычислительных мощностей в обмен на время, чтобы адаптироваться к ускоренной эре, вызванной ускоренными вычислениями. Вопрос в том, что искусственный интеллект не всегда разумен, алгоритмы не всегда надежны, и даже в некоторых критических сценариях наша жизнь будет вынуждена находиться в руках алгоритмов?
Точно так же вопрос о том, будут ли люди испытывать интимные чувства с искусственным интеллектом посредством вербального общения, стал темой, которая постоянно обсуждается. На самом деле, влюбиться в виртуального любовника с искусственным интеллектом уже не так уж и сложно, и технологические компании постоянно разрабатывают соответствующие продукты, из которых пользователи могут выбирать. Историк и философ Юваль Ной Харари утверждает, что, хотя нет никаких доказательств того, что ИИ обладает сознанием или разумом, тот факт, что ИИ может заставить людей чувствовать эмоциональную связь с ними, достаточен для установления близких отношений между людьми и машинами — необычная близость, которая может изменить наше мировоззрение. Кроме того, он сделал очень наводящий на размышления вывод: из-за удивительной способности манипулировать и генерировать язык ИИ вторгся в «операционную систему» человеческой цивилизации.
4: Продолжайте исследовать ценность людей в эпоху симбиоза человека и машины
«В век алгоритмов пирог настолько велик, что большинство людей могут получить только небольшой кусочек. «Жизнь и права простых людей все больше уступают место технологиям, но дивиденды технологического развития по-прежнему будут в значительной степени сосредоточены в руках немногих. В эпоху ChatGPT искусственный интеллект стал частью продуктивности, и можно предвидеть, что на наш режим обучения, режим мышления, режим вопросов и ответов и режим поведения будет влиять большая модель, аналогичная GPT. Все эти сценарии будут построены или реконструированы на основе модели ИИ. Другими словами, то, как мы воспринимаем мир, то, как мы взаимодействуем с машинами, радикально изменится.
Бывший госсекретарь США Генри Киссинджер считает, что ChatGPT предвещает революцию знаний, в которой люди должны думать и реагировать на далеко идущее влияние искусственного интеллекта на то, как люди существуют и знают, а также определять отношения между человеком и машиной, а также моральную и стратегическую роль человека. Это напоминание, можно сказать, отрезвляет. Живя в цифровую эпоху, взаимодействуя с искусственным интеллектом и следуя советам алгоритмов, мы в какой-то степени придаем субъективность алгоритмам, которые, какими бы умными они ни были, ищут только связи между вещами. Люди все больше верят в результаты, выдаваемые алгоритмами, и их жизни просчитываются, даже просчитываются. Это включает в себя непрерывное взаимодействие между автономным принятием решений, человеческой субъективностью и алгоритмическим принятием решений и стоящим за ним машинным интеллектом.
Нет никаких сомнений в том, что мы находимся в переломном моменте технологической эпохи: когда искусственный интеллект становится техническим фоном повседневной жизни, когда технология искусственного интеллекта вступает в эру больших моделей, когда ChatGPT открывает трансформацию языкового взаимодействия… Технологическая революция может стать еще одной большой волной в области жизни. В какой-то степени, однако, все философы напоминают нам о том, что не следует мягко входить в эпоху симбиоза с искусственным интеллектом и не поддаваться чрезмерному соблазну технологического оптимизма и девелопментализма. Когда превосходство человеческого интеллекта заменяется искусственным интеллектом, когда люди полагаются на машины и алгоритмы, определяющие каждый аспект их повседневной жизни, где уникальность и будущее человека? Сложность и многообразие тела, ума, эмоций и поведения – вот что значит быть человеком. В эпоху, когда люди и ИИ живут вместе, вопрос о том, как продолжать размышлять об отношениях между людьми и машинами, между людьми, и о том, как продолжать защищать человеческое достоинство, должен быть включен в обсуждение и рассмотрение в настоящий момент.
