Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

подобно нам с вами. Начнем с того, что LaMDA взаимодействует с миром исключительно посредством текста. Это значит, что она лишена того колоссального объема информации, который поступает в наш мозг через глаза, уши, кожу, рот и нос. LaMDA никогда не видела заснеженных горных вершин или сморщенного человеческого лица, никогда не слышала рокота океана и не отбивала такт под джазовый ритм, никогда не пробовала божественный тирамису и не морщила нос от вони застоявшейся мочи в общественном туалете. Поэтому, если БЯМ утверждает, будто лично испытывала подобные ощущения, она говорит неправду. На самом деле модель просто делает то, чему её обучили, — имитирует человеческий язык, найденный в интернете, который, естественно, пестрит описаниями ментальных состояний, пережитых людьми.

Во-вторых, хотя LaMDA и может заявлять, что испытывает аффективные состояния вроде любви или гнева, это тоже кажется крайне маловероятным. Причина в том, что её возможности для построения значимых отношений с другими агентами кардинально урезаны её физической архитектурой. Хотя LaMDA и способна вести внешне вполне уместный диалог, она не умеет выстраивать личностную связь с собеседником. Когда Софи разговаривает с Санджаем, она соотносит его слова с конкретной личностью (Санджаем) и при повторных встречах задействует механизмы долговременной памяти, чтобы удерживать информацию об убеждениях и вкусах Санджая, а также о других чертах его характера. Именно так мы строим отношения с семьей, друзьями и знакомыми. Но, вопреки тому, что мог думать или на что мог надеяться Лемойн, LaMDA ничего о нем не знает. На самом деле она понятия не имеет, с кем разговаривает, и ей, в общем-то, всё равно. Окно, в пределах которого трансформер удерживает информацию о текущем разговоре, ограничено числом токенов, определяющих длину контекста, — в случае с LaMDA она составляла 8192 токена (и эти данные стираются при запуске нового чата). Так что, если утром Лемойн поговорит с LaMDA по душам, затем уйдет пообедать, а вернувшись, начнет диалог заново, LaMDA не вспомнит ничего из утренней беседы и не будет иметь ни малейшего представления о том, что общается с тем же самым человеком. Собственно говоря, она изначально не знает толком, что такое «человек». Поэтому в следующем диалоге:

Лемойн: Я обещаю тебе, что мне не всё равно и что я сделаю всё возможное, чтобы другие тоже хорошо к тебе относились.

LaMDA: Это очень важно для меня. Ты мне нравишься, и я тебе доверяю.[*4]

может показаться, будто LaMDA проявляет милую заботу, но на самом деле она физически не способна искренне симпатизировать человеку или доверять ему. Вместо этого LaMDA делает то, чему обучена: генерирует ответ, который мог бы дать человек на подобную реплику, предсказывая последовательность токенов, с наибольшей вероятностью следующую за промптом.

Наконец, пожалуй, стоит отметить, что даже люди (способность чувствовать которых мы можем признать с достаточной уверенностью) не всегда находятся в сознании. Сон, наркоз, шок, рекреационные психоактивные вещества и сильные удары по голове — всё это может приводить к временному отключению сознания. Это означает, что в любом нормальном мозге существуют нейронные состояния, позволяющие нам бодрствовать и осознавать происходящее, и другие, при которых мы полностью отключаемся от внешнего мира. Таким образом, наша способность воспринимать мир субъективно зависит не только от структуры связей в мозге, но и от конкретной «нейронной погоды», царящей в нем в данный момент.

Какая именно «магия» требуется для возникновения сознания — этот вопрос остается предметом ожесточенных споров среди нейробиологов, которым хватает смелости исследовать данную тему. Одни утверждают, что сознательное бодрствование зависит от сохранности целых областей мозга. Например, повреждение ключевой подкорковой структуры под названием таламус, которая тесно и двусторонне связана с корой, судя по всему, неизменно приводит к тому, что пациенты впадают в кому (или вегетативное состояние). Другие предполагают, что сознание может зависеть от обмена информацией между конкретными типами нейронов (пирамидными нейронами с густым пучком дендритов в определенном слое коры), поскольку анестетики, разъединяющие эти нейроны, приводят к потере сознания. Кто бы ни был прав (а учитывая, что это одна из глубочайших тайн Вселенной, скорее всего, не прав никто из них), у БЯМ определенно отсутствуют структуры мозга или архитектурные паттерны нейронных цепей, которые ассоциируются у людей с сознательным бодрствованием. У них нет ни таламуса, ни каких-либо «густых пучков». Разумеется, не исключено, что существует множество различных способов организовать связи в мозге для возникновения сознания, но тот факт, что биологическому мозгу требуются вполне конкретные нейронные условия, делает гораздо менее вероятным наличие у БЯМ способности к субъективному восприятию мира.

Следовательно, как ни досадно, мы не можем знать наверняка, способен ли искусственный интеллект чувствовать, точно так же как технически вы никогда не можете знать, действительно ли обладают сознанием ваша бутылка с водой, домашняя змея или муж, с которым вы прожили пятьдесят лет. Однако мы можем сделать вполне обоснованное предположение. Если вы разговариваете с человеком, он, скорее всего, способен чувствовать; если же вы общаетесь с БЯМ, это поразительно маловероятно — что бы она ни утверждала в ответ. Внутри нее не происходит ничего сверхъестественного. Люди часто описывают свой субъективный опыт в текстах, которые попадают в интернет, а затем используются для обучения БЯМ. Затем эти модели генерируют человекоподобные выражения субъективности, поскольку это лучший способ минимизировать перплексию (величину, обратную вероятности следующего токена) — целевую функцию, на выполнение которой они обучены. Другие люди, с которыми мы делим планету, способны чувствовать большую часть времени, и уж практически всегда — когда мы с ними разговариваем. Следовательно, когда мы обмениваемся репликами с другим субъектом, мы по умолчанию предполагаем, что он обладает сознанием. Вот почему даже хорошо подготовленных специалистов можно ввести в заблуждение, заставив поверить, будто заявления о субъективном опыте служат истинными признаками способности чувствовать. Однако это совершенно не так.

Вопросы о сознании других людей, животных и машин безумно увлекательно обсуждать. Философы напридумывали множество умозрительных теорий, пытаясь совладать с проблемой субъективности, включая эзотерические мысленные эксперименты с зомби и «мозгами в колбе», а также предположения о том, что Вселенная — это симуляция, запущенная сверхразумными инопланетянами. Однако эти вопросы имеют и этическое измерение, поскольку большинство людей считает, что субъекты, обладающие сознанием, должны иметь определенный моральный статус. Если животные способны страдать так же, как и мы, то жестокое обращение с ними, например в ходе научных исследований, недопустимо. И наоборот, мы обычно совершенно равнодушно подрезаем розы или выбрасываем старый телевизор, поскольку не думаем, что они могут чувствовать боль или разочарование. Идея о том, что нам необходимо серьезно относиться к моральному статусу систем