Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

для способности чувствовать, поскольку чувства подразумевают наличие внутреннего состояния. Мы также знаем, что даже чувствующие существа, такие как люди, могут делать что-то сознательно или бессознательно. Вопрос тогда заключается в том, можем ли мы определить конкретные черты, способности или поведение, которые присущи сознанию.

СПОСОБНОСТЬ ЧУВСТВОВАТЬ – это возможность испытывать чувства, а СОЗНАНИЕ – это осознание самого себя, или способность иметь свой собственный опыт, мысли и воспоминания.

Задолго до того, как люди начали утверждать, что у ИИ есть сознание или способность чувствовать, философы, специалисты по этике, когнитивисты и борцы за права животных исследовали вопрос о сознании животных. Профессор философии Колин Аллен формулирует проблему так:

«В моральном плане мы очень многое ставим на карту, когда отвечаем на вопрос, являются ли животные сознательными существами или они „безмозглые автоматы“… Каждый год миллиарды животных убивают для получения пищи, используют в исследованиях и для других целей человека. Более того, перед смертью многие животные или даже их большинство проживают в таких условиях, которые – если они переживаются животными так же, как человеком – равносильны жестокости»21.

Аналогично, если мы считаем, что у LLM есть сознание, то это имело бы определенные моральные последствия. Если мы отправляем модели злобные текстовые запросы, то это больше не будет казаться простой серией математических операций, а чем-то сродни оскорблению. Если мы заставляем модель молчать, то это по праву можно считать жестоким поступком. Доказательства того, что у моделей есть сознание, на самом деле должны побудить нас пересмотреть вопрос о том, является ли вообще разработка искусственного интеллекта этичной. Однако таких доказательств не существует.

Как уже отмечалось, существует несколько различных теорий сознания. Некоторые из них основаны на поиске нейрологических обоснований сознания, и идея здесь заключается в том, что признаки наличия сознания у какого-либо организма должны обнаруживаться по его нервной системе. В качестве такого признака в одной из теорий называют механизм циркуляции нервных импульсов – «непрерывный двунаправленный обмен сигналами по взаимосвязанным аксонам, между двумя или более областями мозга». Механизм циркуляции позволяет мозгу обрабатывать сенсорные входные сигналы, а не рефлекторно реагировать на них. Когда врач постукивает по ноге пациента ниже колена, нога затем двигается бессознательно, без участия пациента. Сигнал от прикосновения врача зарождается в колене и распространяется вверх по телу через нервную систему, а потом идет к спинному мозгу. Информация все-таки поступает в головной мозг, вызывая ощущение прикосновения, но сначала она передается от спинного мозга к мышцам ноги, вызывая автоматическую рефлекторную реакцию22. Циркуляция нервных импульсов рассматривается как критически важный механизм для создания связного и динамичного сознательного опыта. Без поддержания постоянной двунаправленной связи между областями мозга сознание не смогло бы функционировать как единое целое, способное к интеграции и осмыслению сложной информации. Однако из этого не обязательно следует, что все животные с центральной нервной системой должны обладать сознанием, а животные без нее – нет. К животным без центральной нервной системы относятся медузы, морские звезды, морские огурцы и губки, пиявки и черви.

Даже биологические критерии сознания не являются устоявшимися; картина только усложняется, когда дело доходит до применения этих критериев к искусственному интеллекту. Некоторые люди, например философ Нед Блок, считают, что формы жизни, обладающие сознанием, должны быть органическими, поэтому кремниевые системы (то есть созданные на базе компьютерного оборудования) к таковым не относятся. Такое утверждение было бы трудно, если вообще возможно, однозначно доказать. В отсутствие же таких доказательств существуют другие подходы, которые могут быть применены к вопросу о наличии способности чувствовать или сознания у ИИ. Ученые-когнитивисты Бернард Баарс и Стэн Франклин предложили теорию, которая описывает работу разума как глобальное рабочее пространство, где постоянно протекают мыслительные процессы (см. рис. 9.1). Когда мы обращаем внимание на мыслительный процесс, он становится частью рабочего пространства, как доска с прикрепленными на нее заметками. Мы можем одновременно удерживать на доске множество заметок, думая о том, что мы хотели бы написать в рабочем письме, и одновременно гадая, перезвонит ли нам вчерашний кавалер. Это наши осознанные мысли. Некоторые процессы почти никогда не фиксируются на доске – мы не осознаем наше дыхание, только если оно не стало неожиданно затрудненным. Мы выполняем такие процессы не задумываясь, и даже если получаем такие стимулы, как удар под коленку, реакция будет неосознанной. В этой теории сознание понимается как способность распознавать наши собственные мысли, то есть некая форма метасознания, или мышления о мышлении23.

Рис. 9.1. Теория глобального рабочего пространства

Демонстрируют ли LaMDA или другие LLM признаки метасознания? По словам Джандоменико Яннетти, профессора неврологии из Университетского колледжа Лондона, мы не можем однозначно ответить на этот вопрос не только в отношении LaMDA, но даже человека. «Мы можем измерять нейрофизиологические показатели, например интенсивность мозговой активности в ответ на внешние раздражители, – чтобы исследовать состояние сознания у людей и животных, но эти показатели не доказывают метасознание», – сказал Яннетти в интервью Scientific American. И добавил:

«Что касается способности, которую Лемуан приписал LaMDA, то есть способности осознавать свое собственное существование („осознавать свое собственное существование“ – это сознание, определяемое в „высоком смысле“, или метасознание), то не существует никакого „показателя“, который позволил бы нам сказать, что ИИ-система обладает таким качеством»24.

Несмотря на наше слабое понимание того, как может выглядеть сознание у ИИ-системы, есть веские причины сомневаться в утверждениях Лемуана. Когда в июне 2023 года Лемуан пригласил технического репортера Ниташу Тику поговорить с LaMDA, модель выдала «механизированные ответы, которые можно было бы ожидать от Siri или Alexa», и не подтвердила заявление Лемуана о том, что она считает себя личностью, ответив: «Нет, я не думаю о себе как о личности. Я считаю себя диалоговым агентом на базе искусственного интеллекта». Позже Лемуан сказал Тику, что LaMDA говорила ей то, что она хотела услышать, а поскольку она обращалась к ней как роботу, модель и вела себя соответственно. Маргарет Митчелл, одна из бывших коллег Лемуана по организации Responsible AI, похвалила его за «преданность сердцем и душой», но выразила полное несогласие с его выводами. Как и другие технические эксперты, включая авторов этой книги, Митчелл рассматривает модель как программу, способную статистически генерировать правдоподобные текстовые данные, и не более того. До того, как Лемуан переобучился на инженера-программиста, он был рукоположен в сан христианского священника мистического толка; это можно оценивать по-разному, но духовный опыт мог сделать его предрасположенным к взглядам, что искуственно созданная способность чувствовать возможна, или просто склонить к обычной человеческой привычке антропоморфизировать языковые модели, как это было с ELIZA25.

Хотя Лемуан – единственный,