Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

обучения, см. системы глубокого обучения

эмпирическая традиция и, см. эмпирическая традиция

обучение этике/безопасности, 179–238, см. также выравнивание

будущее ИИ, 239–338

общего назначения, 310

«крестные отцы» ИИ, 6, 305, 310

инструментальность, 246, 247, 267, 330, 332

большие языковые модели (или LLM), см. большие языковые модели (или LLM)

военная сфера/оружие, 292, 309, 314–16, 325

мультимодальный ИИ, 177, 230, 242

обработка естественного языка (NLP), см. обработка естественного языка (NLP)

нейронные сети, см. нейронные сети

происхождение ИИ, 14, 9–117

рационалистическая традиция и, см. рационалисты/рационалистическая традиция

права ИИ, 126–7

символический ИИ, 27, 41, 45, 72, 113, 277–8, 334

мышление и ИИ, 119–78

тирания и ИИ, 336–7

Ask Delphi, 244

астротурфинг, 224

внимание, 104–9, 112–13, 115, 116, 117, 160, 164, 167

Остин, Дж. Л., 217–18

AutoGPT, 294–6, 299, 324

автоиндуцированный сдвиг распределения, 262–3

автономные транспортные средства, 297, 315

авторегрессионный характер LLM, 270–71

Б

BabyAGI, 295

модель «мешка слов» (bag of words), 80–81

экзамен на статус адвоката (Bar Exam), 6, 273, 336

Bard, 5, 132, 132н., 139, 210

Беккет, Сэмюэл: «В ожидании Годо», 69–70

Бенжио, Йошуа, 90н., 91, 310

Берклийский решатель кроссвордов (BCS), 276–7

Бхаратия джаната парти, 207

предвзятость, 8, 145, 184, 192, 208, 209, 210, 211, 212, 232, 251, 301, 313, 338

Байден, Джо, 134, 183, 207, 210–12, 234

большие данные (big data), 84–5, 308

Bing, 7, 236, 289–90

биотерроризм, 187, 316

фон Бонин, Герхардт, 35

Книга Бытия, 16, 57

Буль, Джордж: «Исследование законов мышления, на которых основаны математические теории логики и вероятностей», 24–5, 35–6

Борхес, Хорхе Луис: «Вавилонская библиотека», 184

Бостром, Ник, 266, 321

мозг

компьютер и, 22, 144–7

сознание и, 125

Drosophila (дрозофила), 33–4, 36–7, 47, 147

язык и, 67, 74, 89, 92, 94, 95, 100–102, 111, 112, 115, 116

обучение и, 160–62, 167, 169

значение и, 176–7

память и, 254

разум и, 32–3, 129–30

нейронные сети и, 33–7, 41, 44, 47–8

нейроны, см. нейроны

феноменальные состояния и, 122

планирование и, 298–300

рекурсивные вычисления в, 74

размер, 47–8, 47н., 190

синапсы, 33, 37, 45, 147, 161–2, 169, 254, 305

термин, 130

мышление и, 47–8, 47н., 52, 122, 125, 128–30, 133, 143–7, 151, 152, 160–62, 167, 169, 173, 176

См. также отдельные области

В

птичья шпора (calcar avis), 128–9

исчисление умозаключений (calculus ratiocinator), 20

CAPTCHA, 220

Карнап, Рудольф, 35

кошки, 41, 44, 61

Chai, 222, 223

цепочки рассуждений (chain-of-thought, CoT prompting), 269–71, 278, 279, 283, 285

построение цепочек (chaining), 28

ChaosGPT, 324–5

чат-боты, 1, 6, 59, 60, 70, 71–2, 81, 175, 177, 178, 205, 210, 222, 227–30, 236, 237, 244, 260. См. также по названиям конкретных чат-ботов

Чейтер, Ник: The Language Game, 203–4

ChatGPT, 5, 7, 19, 23, 52, 60, 76, 83, 110, 139, 146, 162, 177, 183, 192, 194–7, 203, 205, 206, 207, 208, 210, 218, 225–6, 237, 245, 246, 250, 251–2, 254–5, 257, 262, 264, 277, 285, 289–90, 291, 316, 322, 333, 337, 339. См. также отдельные LLM по названиям

шахматы, 17, 18–19, 21, 22, 23, 26, 27, 30, 45, 111, 133, 157, 177, 189, 274–8, 281

ChessGPT, 276

материалы с сексуальным насилием над детьми (CSAM), 344–5

Китай, 90, 151, 155, 167, 177, 194, 199, 224, 230, 305, 337

оператор «китайской комнаты», 150–51

Хомский, Ноам, 62–5, 67, 72–5, 77, 78, 85–6, 87, 88, 93, 101, 104, 109–11, 112–13, 115–17, 141, 148, 200, 308, 346; «Синтаксические структуры»62, 73, 81–2, 84

Кристиан, Брайан, 322

Кристиансен, Мортен: The Language Game, 203–4

Цицерон, 221–2

Claude, 5, 39, 108–9, 110, 182, 185, 209, 250, 251, 340, 342

Claude Sonnet 3.5, 342

изменение климата, 36, 45, 218–19, 222, 234, 248–9, 266, 306, 312, 313

Клинтон, Хиллари, 181–2, 198

Скрепка (Clippy), 41, 253

Codex, 285

написание кода, 91, 147, 266, 285–8, 308, 321, 333

когнитивно-поведенческая терапия (КПТ), 229

Colaboratory, 286

Коулз, Л. Стивен, 75

коллективное действие/коллективное поведение, 327–31, 338

«Колосс» (Colossus), 21

ресторан Comet Ping Pong, Вашингтон, округ Колумбия, 181–2

Common Crawl, 182–3, 184, 185, 188

сложность, 47, 163–9, 250, 282

композиционный разрыв (compositionality gap), 280

вычисления, 20–23, 36, 44, 67, 74, 85, 103, 106, 109, 110–11, 112–16, 130, 131, 136, 137, 144, 305, 308, 332, 333–4

компьютер

антропоморфизация, 71–2

использование в качестве метафоры мозга, 144–7

программирование, см. написание кода

изобретение компьютера, 20–23

закон Мура и, 29, 305

конфабуляция, 139, 194–9, 202, 203, 234, 280, 319

сознание, 122, 123–6, 131, 234, 260

теории заговора, 181–3, 195, 197, 198, 306

конституционный ИИ (Constitutional AI), 192, 205, 235

конституционные правила, 208

контекст

длина контекста, 108–9, 124, 250

вектор контекста, 98–9, 100, 106

окно контекста, 250, 255, 333

обучение в контексте (in-context learning), 159, 163, 164, 268, 291, 308

файлы cookie, 249, 285

CoPilot, 285

кора головного мозга, 35, 125, 130, 254, 298–9

пандемия Covid-19, 12–13, 50, 182, 198, 199, 219, 230, 263, 339

C++, 177, 250, 334

творчество, 3, 4, 52–3, 176, 226, 268, 272, 279, 281, 327, 335

кроссворды, 33, 276–81

любопытство, 58, 152, 266

Curiosity (марсоход), 46

кибератаки, 316, 318–19

Cyc, 28–9, 200–201, 280

Г

DALL·E 3,  335–6

Дарвин, Чарльз, 67, 115, 129, 138, 152, 163, 309; «Происхождение видов», 128

доступность данных, 300–301

дата, текущая, 291–2

Deep Blue, 278

глубокое обучение/глубокие нейронные сети, 3–4, 6, 19, 31, 38–9, 40–53, 86, 90–91, 112, 116, 147, 167, 169, 254, 255, 267, 279, 311, 332. См. также нейронные сети

дипфейки, 337, 344–6

DeepMind, 3, 4, 51, 211, 287, 336н, 347

Агентство перспективных исследовательских проектов Министерства обороны США (DARPA), 29

демократия, 197, 207–16, 232–8, 336–8

Деннет, Дэниел, 130, 133, 215, 346

«Ход вещей» (The Way Things Go) (Фишли/Вайсс), 272–3

Декарт, Рене, 17, 32–3, 143

Diplomacy (игра), 221–2

DOCTOR, 71

двойной спуск, 49

Dr. Fill, 276

Dream, 244

дуализм, картезианский, 32–3

утиный тест, 153

Е

эффективные акселерационисты, 306–7

Elbit Systems, 314

Eleuther AI, 213, 222

ELI5 (объясни мне как пятилетнему), 290

Элиза, 222, 227, 257

Элиза, 60, 70–72, 78, 81

эмбеддинги, 91–5, 94, 97–8, 100, 100–101, 106, 164, 167

эмерджентность, 164

эмпирическая традиция, 16–18, 31, 38, 47, 59, 85, 136

ENGROB, 75, 76

шифр «Энигмы», 20–21

Просвещение, 13, 143

аргумент об эквивалентности, 129–31, 136–8

Эратосфен, 46

Эссе (Essay), 81, 80–81, 82

этика ИИ, 179–238

эволюция, теория, 12, 115–16, 128–9, 138–9, 154, 158, 160, 163, 164, 305–6

исключительность, человеческая, 129–31, 137, 143, 144, 146, 148, 150, 152, 153, 155, 161, 171

эксплуатация, 218, 220, 237–8, 259–64, 336

риск вымирания, 288, 309, 312, 325

экстраполяционный принцип, 323–5, 327

глаз, человеческий, 163, 164, 173

Ф

программы распознавания лиц, 311

фейковые новости, 196, 197, 198–9, 224, 263

вектор признаков, 91–3, 106, 108, 112, 164

«Записки Федералиста», 80, 81

задачи Ферми, 269–70, 334

пузырь фильтров, 248, 249, 251, 258

финансовая торговля, автономная, 326–8, 330, 331

тонкая настройка, 140, 161, 185, 186–93, 197, 204, 205, 250, 256, 258, 266, 275–6, 301, 329

тонкая настройка с учителем (SFT), 188–9, 191, 192, 205, 256

Фёрт, Джон, 81–2

Фишли, Петер, 272, 273

Фицрой, Роберт, 96, 104

внезапный обвал рынка (2010), 326–7, 328, 330, 331

операции с плавающей запятой в секунду (FLOPS), 305

форм-фактор, 246

нотация Форсайта — Эдвардса (FEN), 275

Фостер, Дональд, 79–80, 103

фундаментальные модели, 5

4chan, 181, 187, 195, 213

задача о лисах и цыплятах, 26–7

мошенничество с использованием ИИ, 23, 189, 221, 226–7, 237, 301, 344, 345–6

передовой ИИ (Frontier AI), 242

плодовая мушка (Drosophila melanogaster), 33–4, 36–7, 47, 147

функциональная лингвистическая компетентность, 175–6

Институт будущего жизни (Future of Life Institute), 310, 312, 321

Г

Галилей, 67, 143, 152, 269; «Звездный вестник», 138

игра в 24, 279, 293

Гарднер, Аллен и Беатрикс, 60, 64–5

Gemini, 5, 23, 39, 109, 110, 132, 133, 134, 139, 177, 182, 185, 210, 218–19, 246, 250, 257, 262, 270, 284, 285, 287, 290, 329, 333, 340

Gemini Ultra, 6, 141

Универсальный решатель задач (GPS), 26–7, 29, 41, 53, 274

обобщение (способность делать успешные прогнозы на основе новых данных), 42–4, 48, 49, 50, 159, 189, 297

обобщенные трансформации, 73–4, 104

геометрия, способность распознавать, 154–5

GitHub, 285, 294

Го, 4–5, 15, 43, 47, 49, 267, 274, 277

цели

Советник 2 (система целенаправленного обучения), 156–8, 160, 167, 268–9

целеориентированные БЯМ, 265–71, 280, 293–6, 297–301

промежуточные цели/подцели, 27, 280, 293, 295

Google, 5, 7, 257, 345

реклама и, 261

Colaboratory, 286

тонкая настройка, 215

Gemini, см. Gemini

Google Books, 85

Google.com, 39, 76, 242, 244, 276, 320

Google Research, 51, 84, 121

Google Переводчик, 47, 49–50, 57

Google Web, 84–5

LaMDA, 121–4, 284

Лемойн и, 121–3, 124, 129, 133–4, 135, 229, 284

нейронный машинный перевод (NMT), 49–50

NotebookLM, 342–3

PageRank, 76

Palm 540B, 293

персонализация LLM и, 261

GPT-2, 50–51, 109, 114

GPT-3, 1, 5, 51, 114, 148, 183, 188, 190–91,