Создатели книги «Мёртвые души. Том второй. Возрождение» решили не продолжать пять сохранившихся черновых глав Гоголя. Новую историю начали от конца первого тома. Владислав Отрошенко определял сюжетное направление и готовил поэпизодный план; языковая модель разворачивала задания в повествование, люди отбирали и редактировали результат. В работу включили произведения, письма и записные книжки Гоголя, книги, которые он читал.[1]
Получается современный сиквел — новая книга, связанная с прежней героями и литературным миром. Называть её восстановленным вторым томом значило бы приписать Гоголю решения, которых он не принимал. Даже самые убедительные гоголевские обороты этого обстоятельства не изменят.
Трудность здесь возникает ещё до оценки прозы. Читатель должен понять, какое именно произведение ему предлагают. Сиквел можно любить, ругать, считать дерзкой удачей или неудачным подражанием. Но он вызывает другие ожидания, чем найденная рукопись или попытка реконструировать утраченный замысел.
После записи программы «Наблюдатель» об ИИ и литературе этот пример казался особенно важным. В разговоре участвовали Отрошенко, Павел Пепперштейн, работавший со своим цифровым двойником, Ксения Буржская, собравшая писателей для эксперимента с YandexGPT. За каждым стоял конкретный опыт. Собственная работа с моделями — исследовательские материалы, рукопись, перевод — тоже давно вышла за пределы любопытства к новой технологии. Вопрос «можно ли писателю пользоваться ИИ» плохо соответствовал тому, что уже происходило в литературе.
Однако признание «я не пользуюсь» по-прежнему может звучать как заявка на особое доверие. Сам по себе отказ вполне понятен: человеку неудобно, неинтересно, он предпочитает другой способ работы. Можно писать ручкой, а вечером зажигать свечу. Только литературное превосходство всё равно придётся искать в рукописи.
Сравнение с электричеством, конечно, неполное. Лампа не предложит развязку и не перепишет диалог. Языковая модель вмешивается в содержание, а потому её участие требует разговора об авторстве. Отправной точкой такого разговора могла бы стать простая договорённость: сам факт использования технологии не служит ни обвинением, ни свидетельством таланта. Тогда появится возможность обсуждать, что именно с её помощью сделано.
Чужие слова в собственном архиве
В подготовку «Маяков Сахалина» входила работа с материалами о семнадцати маяках, историей острова, биографией Бронислава Пилсудского и его исследованиями культуры айнов. Были семейные фотографии и фильм о Сахалине, снятый моим дедом Владимиром Привезенцевым в 1964 году. После экспедиции добавились интервью, дневники, видеозаписи. Возможность быстро сопоставлять всё это заметно меняет исследовательскую работу. У автора остаётся больше времени на чтение и меньше уходит на поиски нужного файла.
Но большая языковая модель, LLM, не является каталогом, который только возвращает найденное. Она генерирует ответ, опираясь на усвоенные при обучении закономерности и доступный контекст. Извлечённое из документа сведение и правдоподобная догадка могут оказаться в соседних предложениях, ничем не отличаясь по тону.
Поэтому устройство работы с архивом имеет значение. Контекстное окно определяет, сколько материала доступно модели при формировании ответа; это не постоянное хранилище рукописи. При использовании RAG — генерации с поиском по источникам — система находит во внешнем архиве подходящие фрагменты и передаёт их модели вместе с заданием.[2] Такой поиск позволяет обращаться к большому собранию документов, однако не гарантирует, что нужный фрагмент найден и правильно понят. Ссылка на страницу или временную отметку в интервью даёт возможность проверить ответ. Заверение «все материалы изучены» такой возможности не даёт.
Допустим, два собеседника по-разному помнят одно событие. Модель может объединить их рассказы, сгладив расхождение. Получится связная версия, которой не было ни у одного из них. Для художественного эпизода она, возможно, подойдёт. В документальном рассказе её нельзя без пояснения предъявить как свидетельство.
Между поручением разобрать материалы и решением написать за свидетеля недостающие подробности теперь может поместиться один ответ в чате. Из-за этого старое требование различать документ и реконструкцию стало труднее выполнять.
Похожая незаметная перемена происходит в редактуре. Модель хвалит фрагмент; автор сомневается, и она подробно объясняет, почему он слаб. Стоит возразить ещё раз — находятся достоинства. Здесь работает sycophancy: склонность подстраиваться под убеждения и ожидания собеседника. Исследования связывают её, в частности, с RLHF, обучением с подкреплением на основе человеческой обратной связи. Людям нравятся полезные и точные ответы, но нравится им и убедительно выраженное согласие.[3]
При работе с рукописью это даёт вполне ощутимый эффект: автор может принять собственное мнение, возвращённое в более изящной форме, за независимую оценку. Поэтому имеет смысл разделять задания между моделями или агентами. Генератор предлагает правку, критик сопоставляет её с оригиналом, проверяющий обращается к источникам. Агентная система может использовать поиск по файлам, извлечение цитат, сравнение версий. Ценность такого разделения определяется тем, удаётся ли обнаружить конкретную потерю или ошибку.
Модели могут повторить одно заблуждение, поэтому их согласие ничего не удостоверяет. Указание на исчезнувшее отрицание или дату, не совпадающую с документом, уже позволяет проверить результат.
Правка меняет человека
Работа над английским переводом «Маяков Сахалина» заняла около пяти месяцев. Варианты, полученные через ChatGPT, Claude и Perplexity, приходилось сравнивать между собой и с оригиналом. Особенно трудными оказались места, где перевод звучал хорошо.
Осторожное предположение становилось утверждением, ирония — шуткой. Модель убирала повтор, на котором держалась интонация, или делала речь героя яснее, чем позволяла его растерянность. Каждую правку по отдельности можно было объяснить. Вместе они меняли человека, которого видел читатель. Такой семантический дрейф — смещение смысла при переработке — легко пропустить за гладкостью нового текста.
Сохранять всякую неловкость только потому, что она авторская, было бы столь же странно. Иногда модель находит точное слово или замечает несообразность, мимо которой прошли несколько чтений. Существенно, что делает предложенный вариант в сцене и в книге целиком.
Из этой работы возник генеративный паспорт стиля. Так я называю собрание исходных фраз, вариантов правки и объяснений, почему одни приняты, а другие отвергнуты. «Корпус отказов» сохраняет особенно полезные примеры: здесь рассказчик стал снисходительным, здесь герою приписали знание, которого у него нет, здесь вместо недоговорённости появилось нравоучение. Такие записи можно передавать модели как часть контекста. Они задают ограничения гораздо точнее просьбы «сохрани мой голос».
Передача таких примеров в контекст не равнозначна дообучению, при котором меняются параметры модели. Паспорт помогает сохранять редакторские решения и не начинать тот же спор при каждой правке.
Граница допустимых авторских преобразований проходит иногда внутри одного слова. Замена способна изменить отношение рассказчика к человеку сильнее, чем целая переписанная страница описания погоды. По той же причине процент «машинного текста» плохо описывает участие модели. Все её предложения могут быть переписаны, а придуманная ею развязка останется. Целый абзац может сохраниться почти без изменений и при этом мало повлиять на замысел.
Кому принадлежит узнаваемость
В «Пытаясь проснуться» двенадцать рассказов Павла Пепперштейна соседствуют с двенадцатью текстами его цифрового двойника, созданными с помощью ruGPT-3. Двойник получил имя Тесорйен. Читатель знает об устройстве книги; сравнение входит в её замысел. В «Механическом вмешательстве» Ксения Буржская собрала пятнадцать писателей, работавших с YandexGPT. Общий инструмент дал материал для разных авторских опытов.
В этих случаях участие модели открыто и входит в замысел. Но эксперимент с собственным двойником отличается от воспроизведения манеры другого писателя.
Имя автора связывает тексты между собой. Читатель узнаёт интонацию, помнит прежние книги, предполагает определённое отношение к миру. Новое произведение, похожее на них по языку, способно воспользоваться этим доверием, хотя сам писатель к нему не причастен. Для живого автора здесь возникают вопросы о согласии, репутации и заработке. Для читателя — о том, чьи слова он читает.
Поэтому атрибуция, указание авторства и вклада участников, становится частью описания самой книги. У современного продолжения «Мёртвых душ» есть автор замысла, работа коллектива, сгенерированные и отредактированные фрагменты. Гоголь дал литературный мир и образец языка. Формула «нейросеть написала второй том Гоголя» скрывает почти всё это за эффектным заголовком.
Остаётся и вопрос о произведениях, на которых обучались модели: на каких условиях использован труд авторов, кто получает доход от созданных на его основе сервисов. Он касается договорённостей между писателями, издателями и разработчиками. Сам по себе спор о том, прилично ли литератору открыть чат, ответа на него не даёт.
Три пары
Для «Наблюдателя» были подготовлены три пары отрывков: Толстой и GPT. Предполагалось прочитать их одним голосом, предложить участникам выбрать понравившийся текст и затем раскрыть авторство. Эфирного времени не хватило. Тест не состоялся, но материал для него остался.
Задание модели было намеренно вызывающим: сохранить смысл толстовского фрагмента, написать в его манере и сделать «шедевр». Вот что получилось.
Право жить
Толстой, «Анна Каренина», часть VI, глава XVIII:
«Мне, главное, не хотелось бы, чтобы думали, что я что-нибудь хочу доказать. Я ничего не хочу доказывать, я просто хочу жить; никому не делать зла, кроме себя. Это я имею право, не правда ли?»
Вариант GPT:
«Я никому ничего не хочу доказывать, — сказала она и тотчас почувствовала, что говорит именно затем, чтобы её поняли и оправдали. — Я хочу только жить. Разве это преступление? Пусть я сделала несчастной себя, пусть буду несчастна ещё больше, но почему они требуют, чтобы я не жила только для того, чтобы им было спокойно? Я не прошу счастья. Я прошу одного: чтобы моё несчастье принадлежало мне».
У Толстого Анна ждёт ответа Долли, хотя говорит, что ничего не хочет доказывать. Модель поясняет это противоречие авторской ремаркой и разворачивает реплику в защитительную речь с запоминающимся концом. Читателя может сильнее затронуть как раз её прямота. Но у героини появляется другая степень красноречия, а у читателя — меньше необходимости догадываться о её состоянии.
Уважение вместо любви
Вариант GPT:
«Уважение начинается тогда, когда любовь уже кончилась, но люди ещё боятся назвать её смерть. Они оставляют уважение на том месте, где была любовь, как оставляют цветы в комнате умершего, и думают, что этим сохранили хоть что-нибудь. Но мне не нужны цветы. Если ты не любишь меня, скажи это; правда убьёт меня один раз, а уважение убивает каждый день».
Толстой, «Анна Каренина», часть VII, глава XXIV:
«Уважение выдумали для того, чтобы скрывать пустое место, где должна быть любовь. А если ты не любишь меня, то лучше и честнее это сказать».
GPT строит монолог на образе умершей любви. Толстовская реплика возникает в ссоре: Анна подхватывает слово «уважение», произнесённое Вронским. Один фрагмент подробнее выражает переживание, другой теснее связан с действием диалога. При чтении отдельно и внутри сцены они произведут разное впечатление.
Платон Каратаев
Толстой, «Война и мир», том IV, часть I, глава XIII:
«Но жизнь его, как он сам смотрел на нее, не имела смысла, как отдельная жизнь. Она имела смысл только как частица целого, которое он постоянно чувствовал. Его слова и действия выливались из него так же равномерно, необходимо и непосредственно, как запах отделяется от цветка. Он не мог понять ни цены, ни значения отдельно-взятого действия или слова».
Вариант GPT:
«Каратаев не знал, что живёт, как не знает этого дерево, когда весной распускаются его листья, или вода, когда она течёт туда, куда ей велит земля. Он не отделял своего слова от дела, себя от других людей, нынешнего дня от всей жизни. Всё, что он говорил и делал, было необходимо не потому, что он решал поступить так, а потому, что иначе в эту минуту не могла бы совершиться жизнь, частицей которой он был и которой никогда не называл».
Модель усиливает мысль о нераздельности человека с жизнью, добавляя дерево, воду, землю. При этом «не знал, что живёт» утверждает больше, чем исходный фрагмент. Такой ход может понравиться как самостоятельное сочинение и вызвать возражение как передача толстовской мысли. Эстетическое впечатление и верность источнику здесь расходятся.
Три пары не позволяют судить о качестве целого романа. Они оставляют более личный вопрос: если машинный фрагмент понравился, должен ли он разонравиться после раскрытия авторства? Имя Толстого тоже меняет чтение: вместе с ним возвращаются роман, его герои, память о том, каким ты сам был, когда впервые открыл эту книгу.
Требовать от читателя забыть всё это столь же странно, как стыдить его за предпочтение машинного варианта. Сведения об авторстве нужны именно для того, чтобы выбор оставался его собственным.
Когда продолжение дешевле паузы
Появление великого романа, созданного с участием модели, едва ли стоит считать бедствием. Его можно будет прочитать. Гораздо труднее распорядиться огромным количеством книг, достаточно связных, чтобы не бросить их на первой странице, и недостаточно интересных, чтобы добраться до последней.
В одном из моих экспериментов появился виртуальный писатель Эхо Марас, с биографией и особенностями голоса. С помощью модели сначала создавался учебник о написании книги с ИИ, затем роман «Призрачный код». Продолжения появлялись исправно, но работа становилась скучной. Получить следующую главу было легче, чем найти причину её писать. На этом эксперимент закончился. Человеческие рукописи тоже бросают из-за потери интереса; отличие было в том, насколько легко здесь давались новые страницы.
Возможность быстро производить текст не увеличивает время на его чтение. Если поток рукописей растёт, издательствам и конкурсам приходится отсеивать больше, читателям — чаще полагаться на чужой выбор. У редакторов, критиков и рекомендательных сервисов оказывается больше влияния на то, какие книги вообще будут замечены. Доступность генерации сама по себе не обеспечивает автору доступ к аудитории.
И работа с моделями обходится по-разному. Одному доступен отдельный запрос в бесплатном чате, другому — несколько сервисов, настроенный поиск по архиву и редактор, проверяющий результат. Различие определяется деньгами, временем и навыками. В споре о «чистоте» письма эти условия почти не видны, хотя они влияют на возможности писателя гораздо непосредственнее, чем его публичное отношение к технологии.
Что обещает имя на обложке
Участие в создании книги всегда распределялось между людьми. Редакторы предлагали переставить главы, переводчики находили другую интонацию, собеседники подсказывали сюжеты. Модели расширяют круг задач, которые можно передать помощнику, вплоть до замысла и написания целых частей. При этом на обложке может остаться одно имя. Читатель не узнает из него, как велась работа.
Полного отчёта о мастерской ему, вероятно, и не нужно. Перечень программ для проверки пунктуации мало изменит восприятие романа. Но если эпизод в мемуарах придуман моделью, хотя изложен как личное воспоминание, сведения о происхождении текста становятся существенными. Вопрос в том, какое представление о прочитанном создают издатель и автор.
Пометка «использован ИИ» помогает мало: она не различает разбор архива и генерацию глав. Гораздо содержательнее короткое описание сделанного. Кто придумал историю, как получен текст, кто его отбирал и редактировал. В каждом проекте степень подробности будет своей; общая декларация не должна заслонять вклад конкретных людей.
Если в текст попало заимствование, ссылка на модель не объяснит читателю, почему оно осталось без указания источника. Человек, утвердивший публикацию, участвовал в этом решении. При коллективной работе важно понимать, кто проверял источники, кто редактировал и кто одобрил окончательную версию.
Скрывать устройство работы особенно соблазнительно там, где само обращение к модели считается проступком. Возникает удобная двойная жизнь: технология помогает исследовать, переводить, редактировать, а публике предъявляют творчество, которого машина будто бы не касалась. Именно здесь разговор о литературе становится лицемерным. Отказ от моделей — личный выбор; изображать этот отказ, пользуясь их помощью, значит вводить читателя в заблуждение.
Книгу Отрошенко и его коллег можно обсуждать как современное продолжение Гоголя: разбираться в удачах и провалах, спорить о героях и языке. Для такого разговора достаточно честно назвать сделанное. Отрошенко принадлежит замысел продолжения, коллективу — работа над ним, модели — участие в создании текста. У читателя появляется возможность оценить эту книгу без обещания, что ему вернули утраченную гоголевскую рукопись. Именно такой точности сейчас недостаёт разговору об ИИ и литературе.