Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

Филан, Джейми Фисак, Лучиано Флориди, Каррик Флинн, Джереми Фримэн, Ярин Галь, Сурья Гангули, Скотт Гаррабрант, Ваэль Гейтс, Том Гилберт, Адам Глив, Пол Глимчер, Шарад Гоэль, Адам Голдштейн, Йэн Гудфеллоу, Брайс Гудмэн, Элисон Гопник, Самир Госвами, Хилари Гривз, Джошуа Грин, Том Гриффит, Дэвид Ганнинг, Джиллиан Хэдфилд, Дилан Хэдфилд-Менелл, Мориц Хардт, Тристан Харрис, Дэвид Хигер, Дэн Хендрикс, Джофф Хинтон, Мэтт Хьюберт, Тим Ханг, Джеффри Ирвинг, Адам Калаи, Генри Каплан, Бин Ким, Перри Класс, Джон Клейнберг, Кэролин Кнапп, Виктория Краковна, Франс Креймер, Дэвид Крюгер, Кэйтлин Кригер, Майк Кригер, Александр Крижевский, Джейкоб Лагеррос, Лили Лэмбой, Лидия Лоренсон, Джеймс Ли, Ян Лейке, Эйдан Леру, Карен Леви, Фальк Лидер, Майкл Литтман, Таня Ломброзо, Уилл Макаскилл, Скотт Мове, Маргарет Маккарти, Эндрю Мелцофф, Смита Милли, Марта Миноу, Картика Мохан, Адриен Морисо, Джулия Москера, Сендил Муллайнатан, Илон Маск, Яэль Нив, Бренди Ноннеке, Питер Норвиг, Александр Нотченко, Крис Ола, Кэтрин Олссон, Тоби Орд, Тим О’Рейли, Лоран Орсо, Педро Ортега, Майкл Пейдж, Дипак Патак, Алекс Пейсахович, Гуальтьеро Пиччинини, Дин Помело, Джеймс Портнов, Аза Раскин, Стефан Росс, Синтия Рудин, Джек Рашер, Стюарт Рассел, Анна Саламон, Андерс Сандберг, Вольфрам Шульц, Лора Шульц, Джули Шах, Роин Шах, Макс Шрон, Карл Шульман, Сатиндер Сингх, Холли Смит, Нейт Соарес, Дейзи Стэнтон, Джейкоб Стейнхард, Джонатан Стрей, Рэйчел Сассман, Яан Таллинн, Милинд Тамбе, Софи Танхаузер, Тена Тау, Ясийет Тинд, Тревис Тиммерман, Брайан Тсе, Александр Мэтт Тернер, Феб Вайанос, Керстен Виньяр, Крис Уиггинс, Элана Зейде.

Спасибо моим первым читателям, которые сделали книгу несравнимо лучше: Дэниел Баркей, Элизабет Кристиан, Рэнди Кристиан, Меган Крист, Раф Д’Амико, Шири Дори-Хакоэн, Питер Экерсли, Оуэн Эванс, Дэниел Филан, Рэйчел Фридмэн, Адам Голдштейн, Брайс Гудмэн, Том Гриффит, Джеффри Ирвинг, Грег Дженсен, Кристен Йоханнес, Генри Каплан, Раф Ли, Роуз Линк, Фил Ричерм, Фелисити Роуз, Катя Савчук, Роин Шах, Макс Шрон, Фил Ван Стокум, Шон Уэн и Крис Уиггинс. Спасибо, что не делали мне поблажек.

Спасибо моему агенту Максу Брокману за то, что разглядел потенциал этой книги, и моему редактору Брендану Карри за то, что помог его реализовать.

Спасибо Ассоциации по продвижению искусственного интеллекта, NeurIPS и Институту будущего жизни за приглашения, которые я был очень рад принять. Спасибо конференции «Алгоритмы и объяснения» Нью-Йоркского университета, Конференции по справедливости, отслеживаемости и алгоритмической прозрачности (Conference on Fairness, Accountability and Transparency, FAT), AI Now, конференции CITRIS’s Inclusive AI, симпозиуму по оптимизации и справедливости Института теории вычислительной техники Саймонса и Центру совместимого с человеком искусственного интеллекта за то, что сумели собрать выдающиеся умы для разговоров на важные темы. Для меня было честью побывать на этих мероприятиях.

Спасибо резиденции Макдауэлла, Майку и Кэйтлин Кригер, а также корпорации Yaddo за прибежище, где были написаны начало, середина и конец этой книги, за время, пространство и вдохновение.

Спасибо призракам Джерри Гарсии и Сильвии Плат, составлявшим мне компанию в одинокие дни.

Спасибо исследователям архивов Бертрана Рассела в Макмастерском университете (в особенности – Кеннету Блэкуэллу), бумаг Уоррена Маккаллока в Американском философском обществе в Филадельфии и архивов Фрэнка Розенблатта в Корнеллском университете, а также бесплатным библиотекам округа Монтерей и Публичной библиотеке Сан-Франциско наряду с Гарсоном О’Тулом с сайта Quote Investigator за личную помощь в поисках малоизвестных фактов.

Спасибо Архиву Интернета за то, что сохранил важное и эфемерное прошлое для настоящего.

Спасибо бесплатным проектам и проектам с открытым исходным кодом, сделавшим написание этой книги возможным, в особенности – Git, TeX и LaTe X. Я изумлен и восхищен тем, что текст моей работы написан с помощью программного обеспечения для набора текста, которое появилось более 40 лет назад, документацию для которого написал никто иной как сам Артур Сэмюэл. Мы действительно стоим на плечах гигантов!

Я хочу отметить тех, кто скончался, пока я писал эту книгу, чьи голоса я был рад в нее включить и чьи идеи навсегда остаются с нами: Дерек Парфит, Кеннет Эрроу, Хьюберт Дрейфус, Станислав Петров и Урсула Ле Гуин.

Хочу выразить особую благодарность Калифорнийскому университету в Беркли. За CITRIS, где я имел честь быть приглашенным преподавателем во время написания книги (отдельные благодарности – Бренди Ноннеку и Камилле Криттенден); Институту теории вычислительной техники Саймонса (в особенности – Кристин Кейн и Ричарду Карпу); Центру совместимого с человеком искусственного интеллекта (в особенности – Стюарту Расселу и Марку Ницбергу) и многочисленным гениальным и вдохновенным членам и гостям семинара CHAI. Благодаря вам я испытывал огромное вдохновение и ощущал себя как дома, а ваша дружеская поддержка значит гораздо больше, чем кажется.

Спасибо моей жене Роуз за то, что она была моим первым читателем, за ее верную руку, острый глаз, готовность выслушать, подставить плечо и ободрить. Ты всегда в меня верила, а я стремился оправдать твои ожидания.

Примечания

1

См. Peter Norvig, On Chomsky and the Two Cultures of Statistical Learning, http://norvig.com/chomsky.html.

2

Эта реплика, которую многие приписывают Бруксу, первоначально выглядела так: «Лучше использовать мир как его собственную модель» в Brooks, Intelligence Without Representation.

3

Ныне широко известное высказывание «Все модели неверны» впервые появилось в статье Бокса «Наука и статистика» (Box, Science and Statistics); позднее оно расширилось до «В сущности, все модели неверны, но некоторые – полезны» в Box, Robustness in the Strategy of Scientific Model Building.

4

Информация о жизни Уолтера Питтса чрезвычайно скудна. Я нашел очень мало первоисточников, в основном, это были письма Питтса к Уоррену Маккаллоку, которые доступны в архиве Маккаллока в Американском философском обществе в Филадельфии. Я благодарен его персоналу за помощь. Другие материалы были взяты из устных рассказов современников Питтса, а именно Джерома (Джерри) Леттвина в книге Anderson and Rosenfeld, Talking Nets, а также в эссе и воспоминаниях в книге McCulloch, The Collected Works of Warren S. McCulloch. Другие рассказы о жизни Питтса можно найти в книгах Smalheiser, Walter Pitts; Easterling, Walter Pitts и Gefter, The Man Who Tried to Redeem the World with Logic. Более подробные детали есть в биографиях Маккаллока, Норберта Винера и других кибернетиков, например Heims, John von Neumann and Norbert Wiener и The Cybernetics Group, and Conway and Siegelman, Dark Hero of the Information Age.

5

Уайтхед А., Рассел Б. Основания математики: В 3 т. / Под ред. Г. П. Ярового, Ю. Н. Радаева. – Самара: Самарский университет, 2005–2006.

6

Благодарю сотрудников архива Бертрана Рассела в Макмастерском университете за помощь в поисках копии этого письма; к сожалению, она не сохранилась.