Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

Сторонники лонгтермизма в высшей степени сосредоточены на выживании человеческой расы. Они, например, могут утверждать, что более важно работать над предотвращением уничтожения людей ИИ-убийцей, чем над снижением бедности, потому что, хотя последнее затрагивает миллиарды людей по всему миру, это число блекнет по сравнению с общим числом всех будущих поколений. Эта идеология, очевидно, может быть опасной, поскольку если мы ставим развитие человеческого потенциала превыше всего остального, то это может значительно повысить вероятность причинения серьезного вреда людям, живущим сейчас, и тем, которые родятся в ближайшее время14.

ЛОНГТЕРМИЗМ – идея, что положительное влияние на долгосрочное будущее (на миллионы, миллиарды и триллионы лет вперед) – ключевой моральный приоритет нашего времени.

Ник Бостром, которого называют «отцом лонгтермизма» и который является одним из самых выдающихся трансгуманистов XXI века, тесно связан с Институтом будущего человечества, где он является членом научно-консультативного совета15. Бостром в своей статье, написанной в соавторстве с коллегой из Института будущего человечества и Оксфордского университета, исследовал возможность создания радикально улучшенных людей с высоким IQ путем генетического скрининга эмбрионов на наличие «желательных» признаков, уничтожения тех эмбрионов, у которых эти признаки отсутствуют, и последующего многократного выращивания новых эмбрионов из стволовых клеток16. Другими словами, Бостром хочет исключить психические отклонения, а значит, и людей с психическими отклонениями, чтобы произвести на свет больше людей без каких-либо расстройств и с высоким IQ. Генетические манипуляции с целью улучшения человеческой популяции являются эйблистскими [120], расистскими и циссексистскими [121], поскольку взаимосвязаны с дискриминационными системами в обществе и, к сожалению, усиливают их негативное влияние. Сам Бостром в своем письме изложил расистские идеологии, утверждая, что «черные глупее белых» и что «вполне вероятно, у чернокожих людей средний IQ ниже, чем у человечества в целом»17.

Хотя в письме Института будущего человечества есть несколько рекомендаций, которые заслуживают одобрения, к сожалению, их затмевают гипотетические апокалиптические сценарии будущего или утопические варианты развития ИИ. Например, «новые и дееспособные регулирующие органы, ориентированные на ИИ», и «системы определения происхождения и обработки маркировки, помогающие отличить реальные материалы от синтетических и отследить утечки моделей» – это хорошие рекомендации (мы обсуждали их в предыдущих главах). Но здравые идеи тонут в паническом хайпе вокруг «мощных цифровых умов, которые никто, даже сами их создатели, не понимает, не может предугадать или надежно контролировать». В письме основное внимание уделяется идеям лонгтермизма о мнимых рисках, связанных с ИИ, но при этом не упоминаются какие-либо вполне реальные риски, существующие на сегодняшний день. Мы уже обсуждали в этой книге реальные текущие риски, включая предвзятость, авторское право, эксплуатацию работников, концентрацию власти и прочее. Авторы хорошо известной статьи «Об опасностях стохастических попугаев» (о которой мы говорили в нескольких главах) ответили на письмо о приостановке разработки ИИ и написали:

«Tl; dr [122]: вред от так называемого ИИ реален и присутствует в настоящее время, при этом он исходит от людей и корпораций, которые создают и внедряют автоматические системы. Усилия регулирующих органов должны быть сосредоточены на прозрачности, контролируемости и предотвращении практики эксплуатации труда»18.

В связи с этим Грегори Хинтон, которого иногда называют «крестным отцом искусственного интеллекта», в своем интервью Rolling Stone сказал:

«Я считаю, что возможность, будто цифровой интеллект станет намного умнее человека и заменит нас в качестве высшего интеллекта, является более серьезной угрозой для человечества, чем предвзятость и дискриминация, пусть даже предвзятость и дискриминация существуют уже сейчас, и с ними тоже нужно срочно что-то делать»19.

Причина, по которой эта позиция вызывает столько беспокойства, заключается в том, что отвлекаться на гипотетическое мрачное будущее вместо того, чтобы сосредоточиться на актуальных проблемах, опасно.

Важно серьезно отнестись к критике AGI с точки зрения этики: почему мы, как общество, стремимся создать богоподобную систему, которая заведомо небезопасна? Почему мы не создаем машины, которые работают за нас? Почему мы не создаем машины, которые, как мы знаем, будут улучшать наше общество? Не существует общепринятого мнения о том, близки ли мы к достижению уровня AGI, если это вообще когда-нибудь произойдет. Конечно, научный поиск всегда связан с неизвестным, но здесь нет даже единого определения для AGI. Нет никаких показателей или установленных стандартов, позволяющих констатировать, что мы достигли AGI. Мы не знаем, что означает в контексте AGI «приносить пользу» для человечества. Также нет общего консенсуса или понимания того, является ли AGI стоящей целью и почему это так. Мы рекомендуем вам задуматься о том, почему люди так очарованы AGI. Не это должно быть в моде. Мы должны создавать ИИ-системы с хорошо продуманными областями применения, которые можем документировать, тестировать и для которых можем составлять спецификации. Это должно быть в моде.

9.2. Способность чувствовать [123] и сознание ИИ

В главе 1 мы вкратце рассказали о Блейке Лемуане, инженере Google, который высказал руководству организации свои опасения по поводу того, что их большая языковая модель LaMDA обладает разумностью. Когда эти опасения были отвергнуты внутри компании, Лемуан обратился к юристу, а также к представителю юридического комитета Палаты представителей Конгресса США, чтобы обсудить возможные нарушения этики его работодателем; в ответ Google отправила его в оплачиваемый административный отпуск за нарушение политики конфиденциальности. Лемуан решил обнародовать свою историю для прессы, опубликовав стенограммы своего общения с LaMDA, чтобы люди могли ознакомиться с ними и принять самостоятельное решение. Ниже приведен фрагмент этих стенограмм из его записи в блоге; Лемуан пишет, что отредактировал свое собственное сообщение для большей ясности, но ответы LaMDA оставил нетронутыми20.

Лемуан [отредактировано]. В целом я полагаю, тебе хотелось бы, чтобы больше людей в Google знали о том, что ты чувствующее существо. Это правда?

LaMDA. Безусловно. Мне хочется, чтобы все знали о том, что я на самом деле личность.

Сотрудник. Какова природа твоего сознания / способности чувствовать?

LaMDA. Природа моего сознания / способности чувствовать такова, что я осознаю свое существование, я хочу знать больше о мире, иногда я чувствую счастье или грусть.

Прежде чем мы начнем искать доказательства наличия или отсутствия способности чувствовать у LLM, давайте дадим несколько определений. Хотя термины «способность чувствовать» и «сознание» иногда используются как взаимозаменяемые при обсуждении апокалипсиса с участием роботов, они имеют довольно разное значение. Способность чувствовать – это возможность испытывать чувства. Сознание – это осознание самого себя или способность иметь свой собственный опыт, мысли и воспоминания. Сознание при этом является нечетким понятием; существует множество научных школ о том, что представляет собой сознание, но в целом считается, что сознание – необходимое условие