Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

градуальной величиной — непрерывным положительным или отрицательным числом, определяющим влияние (или вес), оказываемое каждым нейроном на его соседей. В перцептроне каждый входной сигнал нейрона умножается на соответствующий ему вес, полученные значения складываются и сравниваются с порогом, что позволяет модели делать бинарный выбор (например, «да» или «нет»). Изначально весам присваиваются случайные значения, из-за чего сеть поначалу выдает совершенно бессмысленные результаты. Однако Розенблатт разработал алгоритм, способный корректировать силу связей между нейронами, что позволяло сети постепенно обучаться и все лучше справляться с задачей. Иными словами, сеть начинала работу, ничего не зная о мире, подобно тому как философы-эмпирики, такие как Локк и Юм, утверждали, что человеческие младенцы начинают жизнь с «чистого листа», прежде чем научатся ходить и говорить. Розенблатт научил перцептрон распознавать простые объекты — базовой когнитивной способности, которую люди осваивают в первые годы жизни. В 1950-х годах он подключил перцептрон к камере, подавая на его входы сигналы с растра изображения, и успешно обучил сеть различать простые фигуры, такие как квадрат и круг.

Розенблатт был крайне воодушевлен этим открытием. В интервью New York Times он слегка увлекся и сделал множество самых фантастических заявлений о том, на что вскоре будут способны перцептроны — например, летать в космос и исследовать за нас далекие планеты. Так зародилась долгая традиция: преисполненные энтузиазма исследователи ИИ пускаются в восторженные рассуждения в интервью СМИ, а журналисты раздувают шумиху вокруг их открытий перед потрясенной публикой. Дерзкие заявления Розенблатта также спровоцировали первую локальную культурную войну в сфере ИИ между лагерями эмпириков и рационалистов. Один из главных соперников Розенблатта — Марвин Минский — был настолько раздражен, что стал соавтором книги, нещадно критиковавшей недостатки перцептрона, и тем самым в одиночку похоронил интерес к нейронным сетям более чем на десятилетие. Главный недостаток заключался в том, что сеть могла обучаться решению лишь относительно простых («линейных») типов задач — тех, где для перехода от входных данных к выходным требовалась всего одна операция умножения и сложения. Однако к 1970-м годам исследователи нашли способ обучать сети, которые (в отличие от линейного перцептрона Розенблатта) состояли из нескольких слоев и могли выполнять цепочку операций, что позволяло им выстраивать чрезвычайно сложные отображения входных данных в выходные — минуя проблемы, на которые указывал Минский. Сегодня сети со множеством слоев называют «глубокими сетями», а науку, возникшую вокруг их разработки и внедрения, — «глубоким обучением».

По мере роста мощности компьютеров глубокое обучение вошло в полную силу. Сегодня глубокое обучение повсюду. Вы, вероятно, сталкиваетесь с глубокими сетями сотни раз в день, даже не подозревая об этом. Когда вы заходите в Instagram, глубокая сеть выбирает то, что вы увидите в самом верху своей ленты. Если вы спросите Google, как переводится слово «белка» на украинский язык, перевод будет выполнен с помощью глубокого обучения. Если Netflix предлагает вам посмотреть научно-фантастическую классику «Бегущий по лезвию», эту рекомендацию дает глубокое обучение. Если вы используете face ID для разблокировки телефона, именно глубокая сеть сканирует вашу физиономию, а если вас поймают за превышение скорости на шоссе, именно глубокая сеть считывает ваш номерной знак. Нейронные сети, выполняющие эти задачи, работают на тех же базовых принципах, что и перцептрон, но состоят из сотен слоев и миллионов связей (весов). А если вы общаетесь с LLM, такой как ChatGPT, Gemini или Claude, то количество параметров модели может исчисляться триллионами. Тем не менее, эти сети — праправнуки логического калькулятора, предложенного Мак-Каллоком и Питтсом еще в 1940-х годах.

Пропустить примечания

*1 Подробнее об истории нашего понимания разума и мозга см. книгу Мэтью Кобба «Идея мозга» (2021).

*2 Эту фразу ввел в обиход Гилберт Райл в своей книге 1949 года «Понятие сознания». Райл прославился своими беспощадными нападками на дуализм двадцатого века.

*3 Winding et al., 2023.

*4 Spatz, Emanns, and Reichert, 1974.

*5 Подробнее об этом потрясающем результате см. Verzijden et al., 2015.

5. Истории о неожиданном.

В фильме 1993 года «День сурка» актер Билл Мюррей играет ворчливого ведущего прогноза погоды, который оказывается в небольшом городке в Пенсильвании, где он без особого энтузиазма ведет репортаж о том, как знаменитый сурок выбирается из норы. После того как город заносит снежной бурей, герой Мюррея вынужден заночевать в местной гостинице. Необъяснимым образом, проснувшись на следующее утро, он обнаруживает, что застрял во временной складке, в которой предыдущий день — 2 февраля — повторяется бесконечно, вплоть до мельчайших деталей. Каждый день он просыпается под один и тот же плейлист на местном радио и дословно воспроизводит каждый занудный разговор с горожанами. По ходу фильма одни и те же сцены в городке разыгрываются изо дня в день с умопомрачительным постоянством, пока — внимание, спойлер! — ворчливый главный герой наконец не встает на путь исправления (а это значит, как ни странно, что временной сброс ограничивается миром за пределами его собственного мозга).

Если бы наш мир походил на «День сурка» с его монотонным ежедневным повторением, жизнь была бы куда проще. Вы могли бы изо дня в день ходить по одному и тому же привычному маршруту, брать тот же кофе с яичницей в одной и той же закусочной и без конца повторять вчерашние разговоры, точно по часам. Ваш мозг мог бы запечатлеть эту незыблемую рутину в памяти, чтобы в нужный момент выдавать в точности требуемые реакции. Но в реальном мире никогда не знаешь, что ждет тебя за углом. Будничные дела вроде походов по магазинам, приготовления еды и болтовни с соседями привычны людям по всему свету, от Небраски до Намибии. Но даже в эти повседневные дела могут внезапно вмешаться непредвиденные трудности. Собрались в город за покупками — а главная дорога закрыта. Решили испечь хлеб — внезапно кончилась мука. Зашли проведать соседа — а он заболел. Жизнь непредсказуема: в отличие от «Дня сурка», ни одна поездка, задача или беседа никогда не бывают абсолютно одинаковыми.

Если мы хотим создать искусственный разум, способный функционировать за пределами лаборатории, он должен быть гибким — то есть уметь справляться с неожиданными препятствиями, которые подбрасывает наш хаотичный мир. Система ИИ, выбирающая варианты из ограниченного набора ответов, будет выдавать скучные, шаблонные или странно неуместные реплики. Ранние вспомогательные технологии, такие как печально известный помощник Microsoft Word из 1990-х годов по имени Скрепыш, раздражали неимоверно. Скрепыша, мультяшную канцелярскую скрепку с большими хитрыми глазами, высмеивали за то, что