Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

35

Bernstein, A.I.

36

Последнее письмо Уолтера Питтса Маккаллоку, отправленное всего за несколько недель до смерти Питтса, хранится в папке из манильской бумаги с надписью «Питтс, Уолтер» в архиве Маккаллока, который находится в Американском философском обществе в Филадельфии. Я держал его в руках. Питтс писал с больничной койки, поскольку ему передали, что Маккаллок хочет получить от него весточку. Настроен Уолтер скептически: «Ни вы, ни я не испытываем от этого особой радости». Тем не менее его уговорили написать письмо.

В нем Питтс упоминает недавний инфаркт Маккаллока и признается: он прекрасно понимает, что друг теперь «опутан множеством датчиков, подключенных к панелям и сигнальным мониторам… Несомненно, все это очень по-кибернетически, но до тошноты уныло».

«Представьте, что худшее произойдет в обоих случаях», – писал Питтс. Его мысли возвращались в Чикаго 1942 года, к тем памятным вечерам, проведенным с Летвиным в доме Маккаллока 27 лет назад. «Мы должны подкатить наши инвалидные кресла друг к другу, вспомнить знаменитую историю бесед в доме старика Главка, где останавливались Протагор и софист Гиппий, и попытаться еще раз вникнуть в их неуловимые запутанные парадоксы о знатоках и знаниях». В конце стоит подпись, выведенная дрожащей рукой заглавными буквами: «БУДЬТЕ ЗДОРОВЫ».

37

Geoff Hinton, Lecture 2.2— Perceptrons: First- generation Neural Networks (lecture), Neural Networks for Machine Learning, Coursera, 2012.

38

Интервью автора с Алексом Крижевским, 12 июня 2019.

39

Метод определения обновления градиента в глубинной нейронной сети называется обратным распространением ошибки. В сущности, это цепное правило из математического анализа. Метод требует использования дифференцируемых нейронов, а не нейронов, действующих по принципу «все или ничего», как виделось Маккаллоку, Питтсу и Розенблатту. Считается, что этот метод популяризовала статья Rumelhart, Hinton, and Williams, Learning Internal Representations by Error Propagation, хотя метод обратного распространения ошибки имеет долгую историю, восходящую к 1960‐м и 1970‐м годам. Важные наработки в обучении нейросетей накапливались много лет, чтобы заявить о себе в XXI веке.

40

Bernstein, A.I.

41

См. LeCun et al., Backpropagation Applied to Handwritten Zip Code Recognition.

42

См. Convolutional Nets and CIFAR- 10: An Interview with Yann LeCun, https://medium.com/kaggle-blog/convolutional-nets-and-cifar‐10‐an-interview-withyann-lecun‐2ffe8f9ee3d6 или http://blog.kaggle.com/2014/12/22/convolutional-nets-and-cifar‐10‐an-interview-with-yan-lecun/.

43

Более подробно о том, что могут и не могут делать нейросети прямого распространения, можно прочитать в Hornik, Stinchcombe, and White, Multilayer Feedforward Networks Are Universal Approximators.

44

Эти слова Хинтон произнес в A Brief History of Neural Nets and Deep Learning, Part 4, https://www.andreykurenkov.com/writing/ai/a-brief-history-of-neural-nets-and-deep-learning-part‐4/. Представляется, что это оригинальный источник – видеозапись одного из разговоров с Хинтоном.

45

Закон Мура (Moores Law) был выведен в 1965 году Гордоном Муром, основателем компании Intel. Закон описывает регулярное повышение производительности компьютеров и утверждает, что производительность компьютеров и технических устройств удваивается примерно каждые 18 месяцев. – Прим. пер.

46

Компания Nvidia, основанная в 1993 году, выпустила на рынок судьбоносные GeForce 256, «первые в мире графические процессоры (GPU)» в августе 1999 года (см. https://www.nvidia.com/object/IO_20020111_5424.html), хотя другие подобные технологии и даже сам термин GPU на тот момент уже существовали, например, в 1994 году в компании Sony PlayStation (см. https://www.computer.org/publications/tech-news/chasing-pixels/is-it-time-to-rename-the-gpu).

47

Например, выпущенная в 2007 году многоцелевая платформа CUDA от Nvidia.

48

Платформа Крижевски называлась cuda-convnet. См. https://code.google.com/archive/p/cuda-convnet/. Она использовала программно-аппаратную архитектуру параллельных вычислений от Nvidia Compute Unified Device Architecture (CUDA), позволяющую программистам писать код, чтобы выполнять параллельные вычисления на графических процессорах Nvidia.

Чтобы посмотреть, как повышалась эффективность обучения нейросетей начиная с AlexNet и до 2020 года, см. работу Дэнни Эрнандеса и Тома Брауна из OpenAI на https://openai.com/blog/ai-and-efficiency/ и https://cdn.openai.com/papers/ai_and_efficiency.pdf.

49

Rival.

50

Twitter (X) – социальная сеть, доступ к которой ограничен в Российской Федерации. – Прим. ред.

51

См. Simonite, When It Comes to Gorillas, Google Photos Remains Blind. «Представитель Google подтвердил, что слово „горилла“ было удалено из поиска и тегов изображений после инцидента 2015 года и что слова „шимпанзе“ и „обезьяна“ также заблокированы на сегодняшний день. „Технология категоризации изображений все еще сырая и, к несчастью, далека от идеала“, – писал он».

52

Doctorow, Two Years Later, Google Solves „Racist Algorithm“ Problem by Purging „Gorilla“ Label from Image Classifier; Vincent, Google „Fixed“ Its Racist Algorithm by Removing Gorillas from Its Image-Labeling Tech и Wood, Google Images „Racist Algorithm“ Has a Fix but It’s Not a Great One.

53

Visser, Much Depends on Dinner.

54

См. Stauffer, Trodd, and Bernier, Picturing Frederick Douglass. Существует 160 известных фотографий Дугласа и 126 известных фотографий Авраама Линкольна. Количество фотографий Гранта оценивается в 150. Другими часто фотографируемыми личностями в XIX веке были Джордж Кастер (155 фотографий), Ред Клауд (128) и Уолт Уитмен (127). См. также Varon, Most Photographed Man of His Era.

55

Douglass, Negro Portraits. Более развернутое современное обсуждение роли фотографии в опыте жизни афроамериканцев можно найти в Lewis, Vision & Justice.

56

Фредерик Дуглас, письмо Луису Прангу, 14 июня 1870.

57

Там же.

58

Афроамериканский общественный деятель, панафриканист, социолог, историк и писатель. – Прим. пер.

59

Roth, Looking at Shirley, the Ultimate Norm.

60

См. Roth, а также McFadden, Teaching the Camera to See My Skin и Caswell, Color Film Was Built for White People.

61

Roth, Looking at Shirley, the Ultimate Norm.

62

Там же.

63

Там же.

64

Это связано с более широкой проблемой машинного обучения – тем, что называют сдвигом в распределении: когда система, обученная на определенном наборе данных, обнаруживает, что действует в другой обстановке, необязательно осознавая это. Эта проблема рассматривается в разных главах книги Amodei et al., Concrete Problems in AI Safety.

65

Hardt, How Big Data Is Unfair.

66

Интервью автора с Джеки Алсине,