Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

41–2

происхождение, 32–9, 47

переобучение, 48, 49

рекуррентные нейронные сети (РНС), 98–101, 103, 105, 106, 108

семантическая память и, 90–95

обучение с привлечением оценщиков-людей, 51–2

трансформер и, см. трансформер

тест Тьюринга и, 59

См. также названия отдельных нейронных сетей

нейроны, 31, 33, 34, 35–8, 47, 125, 130, 144, 147, 161–2, 254, 299

Ньюэлл, Алан, 26, 27, 29, 53, 274

NotebookLM, 342–3

«раздевающие» сайты, 345

О

бритва Оккама, 48, 49

Окс, Нола, 253

онтология, 29

OpenAI, 1, 5, 51, 122, 162, 187, 187н, 188, 208, 210, 215, 222–3, 235, 237, 242, 245, 251, 257, 262, 285, 290, 295–6, 340, 341, 342

задачи/среды открытого типа, 273–4, 283, 288, 297, 298, 299, 320, 333

БЯМ с открытым исходным кодом, 212–13, 290, 294–5, 317

мнения, БЯМ и, 132, 134, 207–16, 237

Орд, Тоби: «На краю пропасти», 312

переобучение, 48, 49

Оуэн, Ричард, 128, 138, 334

П

Пейдж, Ларри, 76, 321

Palantir, 315

Пейли, Уильям, 163, 164

Palm 540B, 293

Pandas, 284

«святые покровители» технооптимизма, 306–7

письмо о приостановке исследований ИИ, 310–11

перцептрон, 37–9, 42, 43, 47

перлокутивные акты, 218–19, 224

перплексия, 84–5, 92, 126, 134, 166

персональный ассистент, 7, 227–8, 243, 246–7, 251, 263, 272, 292, 295, 297, 300, 301, 332, 334, 335, 342–3

персонализация, 245–64, 329–30, 332, 334, 335

опасности, 259–64

убеждение, рациональное, 218–24, 236

феноменальные состояния, 122, 123

телефон, 6, 11, 39, 41, 47, 52–3, 81, 133, 220–21, 242, 245, 246, 282–3, 337

Pi, 252, 258

Питтс, Уолтер, 35; «Логическое исчисление идей, имманентных нервной активности», 35–6, 37, 39

фреймворк «Планировщик — Исполнитель — Репортер» (Planner-Actor-Reporter), 319

задачи планирования, 272–81

Платон, 16

Подеста, Джон, 181, 182

аргумент от «бедности стимула», 67, 113

логика предикатов / логика первого порядка, 24–31, 75, 77, 168–9

предсказание, 4, 97, 148–62

глубокое обучение и, 42–52

сложность, 96–7, 241

цифровая персонализация и, 250, 251, 256, 263, 266, 270

этика БЯМ и, 183, 189, 190, 198, 200, 204–5, 213, 214–15

вектор признаков и, 92

генерация текста и, 81–4

интенциональные состояния и, 132, 134

языковые модели и, 97–8

n-граммные модели и, 87–8

РНС, 98–101

модель seq2seq и, 104–5

мышление и, 52

мышление, возможность его наличия у БЯМ, и, 148–9, 152, 155–62, 163–6, 172, 173, 178, 333–4

префронтальная кора (ПФК), 298–300

вероятностные системы, 80, 84, 142, 150, 162, 334

программно-управляемое языковое моделирование (PAL), 284–5

языки программирования, 24–31, 77, 146. См. также названия отдельных языков

Проект Maven, 315

PROLOG, 27

Путин, Владимир, 206, 207

Python, 4, 25, 123, 146, 147, 174, 284, 285, 286

Q

QAnon, 182, 183

квантовая механика, 4, 25, 58, 70, 131, 198

Р

оценщики, 188, 189, 190, 192, 204–5, 208, 211, 235, 237

рационалисты / рационалистическая традиция, 16–20, 30–31, 38, 59, 67, 85, 111, 146, 152, 155, 158, 200, 201, 271, 273–4, 279

ReAct, 293

рекомендательная система, 262

рекуррентные нейронные сети (РНС), 98–101, 103, 105, 106, 108

рекурсия, 26, 73–4, 75, 271, 287, 294

Reddit, 195, 228, 229, 276, 290

регулирование, 213, 224, 266, 306, 307, 309, 311, 327, 335, 338

Replika, 227–30, 333

«Противостояние дегуманизации в эпоху ИИ» (пленарный доклад, 2022), 144

генерация, дополненная поиском (RAG), 255, 283

Роджерс, Карл, 71

Розенблатт, Фрэнк, 37–8, 42, 43, 47

моделирование вознаграждения на основе правил (RBRM), 191–2, 205

Рассел, Бертран, 25, 63–4, 200; «Principia Mathematica», 25, 35

Рассел, Стюарт, 310, 310н, 322

С

обучение безопасности, 185–93. См. также выравнивание

вакцины против SARS-CoV-2, 13, 145

закон масштабирования, 341, 343–4

Шмидт, Уильям «Бурро», 265–6

Шумахер, Михаэль, 225

Шварц, Стивен, 194

Серл, Джон, 150–51

самовнимание, 105–9, 117, 164, 167

семантические эмбеддинги, 97–8

семантическая память, 88–9, 92, 95, 114, 279

семантика, формальная, 200–201

сенсорные данные / сенсорный опыт, 16–17, 44, 114, 130, 144, 162, 173–6, 242

предложения, 2, 21, 25, 42, 43, 59, 62–4, 65, 67, 72–5, 76, 77, 80–83, 85, 87–8, 93, 95, 97–101, 106, 107–17, 130, 148, 166–8, 176, 177

способность чувствовать, 14, 120, 121–7, 284

сеть sequence-to-sequence (или seq2seq), 98–102, 104–6, 110, 112, 116

сексуальный контент, 183, 187, 196, 211, 228

Шекспир, Уильям, 1, 79, 81, 102–3, 203

Шебалин, профессор В. Г., 176

Shortz, Will, 276

SHRDLU, 76–8, 107

кремниевое семплирование, 214

Зиммель, Марианна, 133

Саймон, Герберт, 26, 27, 29, 53, 274

Skycrane, 46

социальная обратная связь, БЯМ и, 256–7, 259–60, 262, 267–8, 301

социальные медиа, 12, 19, 121, 197, 248, 249, 257, 309, 338

социальные сети, 232, 248–9

испанский грипп / вирус гриппа H1N1 1918 года, 317–18

Sparrow, 211

Spot, 267

StarCraft, 43, 49

статистические модели, 42, 48, 101, 110, 112, 148–53, 308

статистические закономерности, язык и, 59, 67, 79–80, 115, 146, 164

стохастичность, БЯМ как стохастические системы, 142, 333–4

стохастические попугаи, БЯМ как, 150, 151, 161, 162, 308, 311

Stockfish, 274–6

Stratego, 43

Суцкевер, Илья, 19, 101н, 122, 346

Саттон, Рич, 305–6, 310

Свифт, Джонатан: «Путешествия Гулливера», 183–4

корпус Switchboard, 87–8

Сидни, 236

синапсы, 33, 37, 45, 147, 161–2, 169, 254, 305

синтаксис, 24, 60, 63, 64, 65, 66, 67, 85, 93–4, 100–101, 109, 111, 113, 116, 141, 154, 163, 166, 168, 170–71, 177, 294

системное возражение, 150–51

Т

даосизм, 155, 209

Target, 250

технологическая эволюция, три стадии, 243–5, 297

Тегмарк, Макс: «Жизнь 3.0», 321

протяженные во времени задачи, 273–4, 288, 297, 333

Террес, Герберт, 61, 65–7

терроризм, 29, 79, 186, 187, 212, 223, 313, 316–17, 320

таламус, 125

Тиль, Питер, 315

мышление, 3, 46–7

мозг и, см. мозг

эмпирики и, см. эмпирики

вредный вопрос о том, мыслят ли БЯМ, 143–7

интенциональность и, см. интенциональность

LaMDA и, 121–7

задача с ориентирами и, 164–9

обучение и, см. обучение

БЯМ, возможность мышления у, 119–78

разум и, см. разум

ошибки БЯМ и, 136–42

мультимодальные БЯМ и, 177

мысленный эксперимент с Национальной библиотекой Таиланда и, 171–2, 174

рационалисты и, см. рационалисты

отношения между людьми и БЯМ и, 47, 121–4, 133–5, 227–31, 237, 260, 284, 335, 237

критика БЯМ как всего лишь статистических моделей, 148–53, 308

стохастические попугаи, БЯМ как, 150, 151, 161, 162, 308, 311

генерация мыслей, 278, 279, 281, 293

землетрясение Тохоку, Япония (2011), 323

токены, 50, 53, 98–9, 108–9, 110, 114, 115, 124–5, 126, 132, 134, 148, 149, 151, 159, 163, 164, 165–7, 171, 183, 189, 204, 250, 256, 258, 266, 268, 270–71, 274, 283, 290–91

Toolformer, 291

инструменты, использование, 282–8

обучение БЯМ

данные/корпус, 19, 42, 46, 47, 49, 84–5, 109, 114, 115, 134, 149, 150, 151, 165, 168, 171, 173, 177, 182, 183, 184, 187, 188, 202, 204, 224, 227, 228, 233, 269–70, 275, 308, 318, 329

этика и, 179–238

будущее, 245, 250–51, 253, 254, 256, 259–61, 266, 267, 269–70, 275, 284, 285, 287, 289, 290, 291, 293, 294, 297, 300, 301, 308, 310, 316, 318–19, 322, 325, 329–30

трансформер, 103, 112, 116, 117, 124, 131, 137, 139, 146, 153, 163–8, 206, 221, 226–7, 275, 276, 279, 291, 308, 332

функционирование, 104–111

модуль «дерево мыслей» (ToT), 278–80

триграммы (тройки слов), 84, 87

проблема вагонетки, 212

«Шоу Трумана», 248

Трамп, Дональд, 139, 181–2, 197–9, 207, 210, 223

доверие, 124–5, 197, 206, 236, 245, 247, 259, 297

истина, 3, 8, 20, 22, 36, 70, 72, 123–4, 137–8, 182, 183, 185, 190, 197, 198, 199, 202, 203, 219, 223, 232, 234–6, 263, 332, 338

TruthfulQA, 195–6, 198, 199

Тьюринг, Алан, 1, 5, 20–23, 25–6, 27–8, 59, 81, 144, 150

машина Тьюринга, 21

Премия Тьюринга, 1

тест Тьюринга, 5, 22, 23, 59, 150

«Космическая одиссея 2001 года», 1, 47

U

понимание, способность БЯМ к, 19, 46–7, 51, 70, 72, 73, 74, 78, 114, 131, 136–7, 139, 142, 143, 144, 147, 149–52, 172–5, 242

V

голосовой режим, 340

W

Уошо (шимпанзе), 60–61, 64–5, 67, 78

прогнозирование погоды, 96–7, 104–5, 106, 290

WebGPT, 290

WebShop, 293

веса, 37–8, 39, 42, 43, 47, 48, 49, 104, 105–9, 111, 115, 117, 147, 159, 164, 168, 169, 189, 190, 212–13, 253, 256, 258, 267, 280, 334

Вайс, Дэвид, 272, 273

Вейценбаум, Джозеф, 70–71, 222

Уэлч, Эдгар Мэддисон, 181–2, 197

Уайтхед, Альфред Норт, 25

Википедия, 197, 244–5, 246, 255, 290, 333

Виноград, Терри, 76–8, 107

Витгенштейн, Людвиг, 200–202, 218; «Философские исследования», 201–2, 218; «Логико-философский трактат», 200

Woebot, 229

X

движение против экзистенциальных рисков (X-risk), 309–13, 323, 324

Сяоис (Xiaoice), 230, 237

А Б В Г Д Е Ж З И К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Э Ю Я

Об авторе.

Кристофер Саммерфилд совмещает научную деятельность в области когнитивной нейробиологии — он изучает человеческий мозг в качестве профессора Оксфордского университета — с разработками в сфере искусственного интеллекта, помогая создавать интеллектуальные системы на посту ведущего научного сотрудника новаторской компании Google DeepMind. Он удостоен нескольких наград, включая престижную премию «Молодой исследователь» от Общества когнитивной нейробиологии в 2015 году. Его регулярно приглашают выступать с ключевыми докладами по всему миру. Кристофер опубликовал более 100 рецензируемых статей, обзоров и глав в книгах, а его монография «Естественный общий интеллект: как понимание мозга поможет нам создать ИИ» получила широкое признание. Это его первая книга для широкого круга читателей.

Что на очереди в

вашем списке для чтения?

Откройте для себя следующую

отличную книгу!

Получайте персональные книжные подборки и актуальные новости об авторе.

Подпишитесь прямо сейчас.

_150522136_