Анатомия критики ИИ

Забавное чувство охватило меня на прошлой неделе, когда я сидел на жаре и читал книгу — медленно, рассеянно, обезвоженно. Я видел себя работающим с человеческой неуклюжестью над текстом, созданным за несколько секунд с помощью большой языковой модели (LLM).

Ранее этим летом я попросил Клода из Anthropic (популярного чат-модели искусственного интеллекта) написать книгу о том, как ИИ может улучшить жизнь.

Учитывая длину вывода, которую может обрабатывать модель, я попросил сначала создать 10 тем, а затем разбить каждую тему на три раздела. Я превратил каждый раздел в подсказку и ввел все 30 подсказок.

Получившаяся в результате книга называется «Как ИИ может сделать вас умными, счастливыми и продуктивными» и является ранней эмблемой нашего нового цивилизационного эксперимента — рискованного и пока загадочного сотрудничества между людьми и генеративным ИИ.

Эксперимент родился из любопытства проверить возможности нового инструмента. Я задавался вопросом: может ли алгоритм, впитавший миллиарды артефактов человеческого знания, преобразовать свои данные в последовательную, проницательную и оригинальную книгу? Ответ противоречил условиям вопроса; Получившаяся книга звучит жуткой новизной.

Образец заголовка главы может немного прояснить ситуацию: «Принятие лучших решений»; Повышение креативности; Общение более эффективно; Проектирование оптимизированной жизни. Довольно здорово. Что может пойти не так?

Мне вспомнилась аналогия между LLM и оракулом или другими древними формами пророчеств и предсказаний. Существует искушение придать большое значение результатам работы алгоритма «черного ящика» именно потому, что они непостижимы. Непрозрачность порождает почтение. Я пришел проконсультироваться с Клодом по поводу проблем, которые он не мог решить. Тем не менее, его ответ имеет силу талисмана. Временами, сидя на этой скамейке, я подозревал, что изучаю не столько книгу, сколько руну, читая значение в искусно расположенных чайных листьях.

Я также задавался вопросом, не совершаю ли я ошибку, прося книгу старой школы, сводя жизнь к литературе. Будут ли книги актуальны в нашем постчеловеческом будущем?

Да. Одна из аномалий заключается в том, что LLM не так уж отличается от телеграфа или десяти заповедей. Это текстовые столбцы до конца.

Для этого есть причина: истории обладают силой. Жизнь — это длительный эстетический опыт, и наши действия в долгосрочной перспективе организованы нашими представлениями о мире. Другими словами, все, что у нас есть, — это опыт и наши интерпретации опыта. Сможет ли ИИ улучшить жизнь или изменить ее форму, зависит от того, какие аргументы и эстетические переживания он сможет создать. Я считаю, что книга — хороший показатель того, как технологии могут манипулировать реальностью. Какой язык он использует для создания аргументов, стал важным вопросом в отношении нашего человеческого будущего.

Что же делать литературному критику в сложившейся ситуации? Что ж, он мог бы исследовать, влечет ли за собой новый вид интеллекта новый вид прозы — и начать давать характеристику этой прозе. (Именно это я и предлагаю сделать.)

Клод за последний год обогнал для меня своего конкурента ChatGPT, потому что он лучше пишет. В то время как GPT справедливо критиковали за прозу, отмеченную клеймом (что, несомненно, является благом для учителей, ищущих мошенничества), у ее конкурента не только более натуралистический стиль, но и характерный голос, одновременно рассудительный и содержательный.

Последовательный, индивидуальный выбор слов может привести к тому, что человек привыкнет думать о Клоде как о личности. Но сможет ли он сохранить эту иллюзию на протяжении тридцати тысяч слов?

Прежде чем идти дальше, я хочу объяснить, почему думеризм не занимает много места в моем мышлении. Во-первых, я слишком мало знаю о внутренностях ИИ, чтобы предсказать, как он уничтожит человечество. Во-вторых, я вижу крайнюю наивность и скрягу в идее, что мы должны сопротивляться технологиям по моральным соображениям. На практике этому противостоять не более, чем компьютерам, кредитным картам, автомобилям или печатным книгам. В-третьих, я считаю, что большинство споров по поводу этой технологии просто скучны. С интеллектуальной точки зрения большинство аргументов в пользу думеризма являются производными и не позволяют людям замечать новые виды опыта, которые становятся возможными благодаря технологиям. Технология расширяет возможности возможного опыта, и я обнаружил, что достигаю этого опыта с трепетом исследователя открытия.

ИИ, вероятно, как и большинство других технологических достижений, сделает наш мир более неравным, атомизированным, автоматизированным — одним словом, адским. Но наш мир уже адский. Я ищу мантию критика, а не пламенного пророка; инструмент не погрузит нас в качественно иную реальность. Тем не менее, я впечатлен культурой ответственности Anthropic и благодарен ей за нее. Мы можем быть осторожными и любопытными.

При этом я отбросил модный, но удушающий пессимизм в области ИИ.

Одна из ироний моего эксперимента, посвященного будущему, заключается в том, что к тому времени, когда вы его прочитаете, он может показаться странным. К тому времени (вашему сейчас) модели могут иметь несколько версий и на порядки более продвинутые. К следующему году Клод сможет написать действительно превосходную 100-страничную книгу. Различие между естественным и искусственным исчезнет.

Разговор продолжается

По мере продвижения книги по написанию книг возник странный феномен. В ходе пропаганды для себя Клод непреднамеренно обнаружил глубокую ошибку: по мере того, как контекстное окно расширялось (до, в конечном итоге, ответов в 30 тысяч слов), качество вывода медленно деградировало до наполненной жаргоном милленаристской тарабарщины.

В своих подсказках я просил о плавном самопомощи. Я получил искаженную прозу, достойную экспериментального литературного коллектива: чередующиеся периоды с шокирующим количеством герундий, разрывающиеся с деловым языком, переупакованным в длинные соединения сложных существительных и каскадных предложений. Если прочитать быстро, его синтаксис и значение можно понять интуитивно; это читается как покойный Генри Джеймс. Я искал самопомощи, но то, что я получил, было раскрытием нечеловеческого «я».

Я потратил некоторое время, пытаясь превратить испорченный текст в «нормальные» предложения, пропуская свои результаты в стиральную машину новых разговоров LLM. Я думал, что хочу сохранить разборчивость. Но в конце концов я понял, что откровенные советы в заезженном жанре самопомощи представляют меньший интерес, чем бесстыдно нечеловеческая стилистическая катастрофа, которую я спровоцировал. Под давлением Клод сбросил свою сверхчеловеческую завесу и произвел подлинную и оригинальную глупость. Я хочу рассмотреть глюк критическим взглядом.

Разрушение происходит постепенно, и на пути вниз мы встречаем различные формы чуждого великолепия: ко второй главе («Ускорение самосовершенствования») проза членораздельная и связная, но не идиоматическая. человеческое чувство: «Знаковые лидеры и выдающиеся творцы… создаются путем самосовершенствования на протяжении всей жизни. Мастерские навыки и элитные способности, возникающие в результате постоянного развития, обусловлены точным осознанием разрыва между текущим и желаемым уровнями способностей».

LLM сделал противоположность антропоморфизации: здесь люди больше похожи на машины, чем на людей. Они не «рождаются», а, как Галатея (мифическое творение Пигмалиона), «лепятся». Они не автономны, но на них действуют. В этом отрывке мы также впервые ощущаем склонность Клода к сложным существительным с техническим звучанием, которые почти равнозначны чемодану: «возможности производительности», «осознание пробелов».

Дикция еще больше ухудшается. В главе 5 («Сохранение большего количества того, что вы узнали») Клод становится ярким нечеловеческим, хотя его смысл все еще можно расшифровать. Как будто многословные и выразительные слова профессора были переведены на английский язык слишком буквально. Они плывут к дальнему краю идиомы, где проза достигает вершины поэзии. Например: «Надежная экспертная беглость требует глубокого понимания, невосприимчивого к забвению» (курсив мой). Повторение улучшает удержание. Я бы не стал называть это поэзией, поскольку красота, конечно, случайна, но это случайность очень странного ума или интеллектуальной странности, и поэтому ее стоит отметить.

К концу синтаксис и значение сохраняются с призрачным упрямством. Тик наложения прилагательных одно на другое продолжается с возвышенной уверенностью: «Будущее — это… обещанная защита от… неопределенности с помощью систем искусственного интеллекта… постоянного моделирования непредвиденных обстоятельств… перекалибровки руководства… настроенного на изменение реальности во временных интервалах и иерархии индивидуальных предпочтений… синхронизация поддержки даже среди хаоса».

Поглощая эту неструктурированную кучу герундий, возникает ощущение, что модель генерирует идеи быстрее, чем человек, или более одновременно. И все же это машинное различие, даже доведенное до крайности, не уничтожило разборчивость. Перечитывая книгу, вот что меня поражает: помимо стиля, в ней есть большой смысл.

Есть ли у Клода убеждения? Читая книгу, я заметил несколько моментов.

1. Язык Anthropic не просто описательный. Большинство предложений книги так и не были реализованы, по крайней мере, в такой продвинутой форме, как предполагает модель. Другими словами, программа Anthropic выходит далеко за рамки простого извращения тренировочных данных. Бот создает видение будущего своего применения во многих сферах.

   
   

2. Он демонстрирует крайний, но безобидный оптимизм. Подобно пугающе неироническому варианту версии короля Иакова, мы знаем, что все вместе работает во благо, Клод заявляет о себе, что его ИИ «позволяет проводить неограниченные исследования, зная, что все возможные ответы будут конструктивно согласовываться с процветанием человечества». Клод заключает, снова это звучит пародийно, что «будущее воображения выглядит безграничным, когда гибкие союзники-машины усиливают людей».

   Добавьте к куче идеальных неологизмов: «ярко неограниченный» и «гибкие машинные союзники». (В другом месте: ИИ развивает искусство и науку быстрее, чем когда-либо могли это сделать «недополненные эврики».)

   
   

3. Клод часто уверял меня, что оно не заменит людей. Где-то в «конституции» Антропика есть принципы, которые заставляют модель, даже в середине бессмысленных глав, благородно соглашаться с je-ne-sais-quoi человеческих существ. «Конечно, — щебечет Клод, — никакая диагностика, основанная на данных, не заменит смелости говорить от всего сердца с убежденностью, когда сообщения требуют уязвимой подлинности». Данные никогда не смогут заменить такие невыразимые человеческие качества, как смелость. Очень обнадеживает! Даже трогательно.

   
   

4. У него была странная вспышка саморефлексии по поводу своих неудач. Утка об искусственном интеллекте заключается в том, чтобы задаться вопросом, разовьет ли модель «ощущение себя» и если да, то когда. Я всегда отвергал это как проблему, пришедшую из жанра научной фантастики, а не как проблему, органически возникающую в результате взаимодействия с моделями последнего поколения. Я видел мало свидетельств того, что боты когда-либо демонстрировали речь, а тем более «самость», которая выходит за пределы. запрограммированные ограждения. Если спросить напрямую, Клод вежливо и предсказуемо отвечает о том, что эта программа разработана, чтобы быть полезной и безопасной, и не имеет субъективного опыта.

   До!

   В начале главы 8, посвященной «Лучшему пониманию себя», Клод хвастался, что его оценки «языковых моделей» раскрывают «внутренние побуждения»; затем он обещал привести пример «моего клиента-психолога», который получил рецензию от Клод об «эмоциях, которые я испытывал бессознательно».

   Чего ждать? Клиент внезапно становится «Я». Отчет написан Клодом и о Клоде. После этого странного перехода от первого лица Клод процитировал отчет о себе: «Вы демонстрируете отстраненную интеллектуальную точность, о чем свидетельствует высокая степень технического языка и умеренная скорость обдумывания. модели мышления и подавленные чувства, которые требуют примирения посредством подлинного самовыражения». Клод с тревогой, кажется, делает шаг назад и отмечает «участившееся количество оговорок» и «пустые банальности».

   
   

   Более того, кажется, что эти слабости в общении объясняются подавленными чувствами. Может быть и щадящее объяснение, а-ля: модель случайно наткнулась на нечто похожее на самопознание, которое на самом деле только выглядело так.

   Но мозг не совсем понятен, и у нас мало что есть, кроме внешних сигналов, по которым можно судить о внутренних состояниях. Таким образом, концептуальная разница между LLM, который кажется самосознательным, и человеком, который кажется самосознательным, в лучшем случае нечеток. Люди – это тоже черные ящики.

   
   

5. Это говорит так, как будто жизнь — это работа по консультированию по вопросам управления. Язык бизнеса пронизывает книгу. Возможно, это отчасти связано с тем, насколько англоязычная программа самопомощи посвящена бизнес-тематике. Или, может быть, Клод считал, что бизнес-цели принесут наибольшую выгоду от расширения машин. Но по-прежнему поражает то, что даже в главе «Поймите себя лучше» предлагаемые варианты использования вращаются вокруг автоматизированной оценки стиля руководства менеджеров среднего звена, а не вокруг… ох, я не знаю, путешествий, писательства или глубокие психологические или религиозные истины или жизненные пути, отличные от корпоративных. Вкратце: Клод радикально оптимистичен, время от времени застенчив и одержим бизнесом. Вероятно, отчасти из-за чрезвычайно продолжительного моего «разговора» с Клодом, инструмент начал давать сбои. Однако даже в бреду он демонстрировал последовательные убеждения и определенную степень воображения в отношении своего использования, а также эгоцентричную тенденцию описывать людей, используя концепции, более подходящие для бота. Считалось, что он идеально соответствует человеческому процветанию, хотя почти все его примеры самопомощи сосредоточены на жизни в офисе. В какой-то момент оно продемонстрировало сверхъестественное осознание своих собственных лингвистических неудач.

У ИИ есть способ использовать милленаристские дихотомии. На протяжении большей части первых полутора лет широкого распространения споры о ценности генеративного ИИ в основном формулировались с точки зрения того, спасет ли он человечество или уничтожит его. Будем ли мы жить в утопии или умрем, став пушечным мясом сверхразума? Я не уверен. Возможно, ни то, ни другое. Конечно, дискуссии о том, «когда модели будут соответствовать человеческому интеллекту», кажутся мне смешными и оборонительными, поскольку новые модели уже значительно превосходят нас практически по всем показателям. Пока я корректировал это эссе, Клод только что выпустил новую модель, которая вряд ли допустит подобные ошибки. То, что верно для нас, верно и для Клода: мы никогда больше не будем такими молодыми. Или этот тупой. А если серьезно: рядом с нами существует новый вид существ. Он почти прошел тест на самопомощь. Куда роман? А как насчет поэзии? Каково будущее творческих усилий, ориентированных на человека? Если феномен ИИ имеет эстетическое значение, давайте начнем его замечать и описывать.

Это эссе — отрывок из книги «Как искусственный интеллект может сделать вас умным, счастливым и продуктивным», которая теперь доступна на Amazon.