Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание - Рэймонд Курцвейл

30. Подробности о деятельности НМОБИ и НИИИЗА США по борьбе с биотерроризмом можно узнать на веб-сайтах этих организаций: https://www.nicbr.mil и https://www.usamriid.army.mil.

31. Françoise Barré-Sinoussi et al., “Isolation of a T-Lymphotropic Retrovirus from a Patient at Risk for Acquired Immune Deficiency Syndrome (AIDS)”, Science 220, no. 4599 (May 20, 1983): 868–71, https://www.jstor.org/stable/1690359; Jean K. Carr et al., “Full-Length Sequence and Mosaic Structure of a Human Immunodeficiency Virus Type 1 Isolate from Thailand”, Journal of Virology 70, no. 9 (August 31, 1996): 5935–43, https://www.ncbi.nlm.nih.gov/pmc/articles/PMC190613; Kristen Philipkoski, “SARS Gene Sequence Unveiled”, Wired, April 15, 2003, https://www.wired.com/2003/04/sars-gene-sequence-unveiled; Cameron Walker, “Rapid Sequencing Method Can Identify New Viruses Within Hours”, Discover, December 11, 2013, https://web.archive.org/web/20201111180212; “Rapid Sequencing of RNA Virus Genomes”, Nanopore Technologies, 2018, https://nanoporetech.com/resource-centre/rapid-sequencing-rna-virus-genomes.

32. Darren J. Obbard et al., “The Evolution of RNAi as a Defence Against Viruses and Transposable Elements”, Philosophical Transactions of the Royal Society B: Biological Sciences 364, no. 1513 (99–115), https://www.ncbi.nlm.nih.gov/pmc/articles/PMC2592633.

33. Краткое объяснение принципа действия классических вакцин на базе антигена: “Understanding How Vaccines Work”, Centers for Disease Control, July 2018, https://www.cdc.gov/vaccines/hcp/conversations/understanding-vacc-work.html.

34. Ray Kurzweil, “AI-Powered Biotech Can Help Deploy a Vaccine in Record Time”, Wired, May 19, 2020, https://www.wired.com/story/opinion-ai-powered-biotech-can-help-deploy-a-vaccine-in-record-time.

35. Asha Barbaschow, “Moderna Leveraging Its ‘AI Factory’ to Revolutionise the Way Diseases Are Treated”, ZDNet, May 17, 2021, https://www.zdnet.com/article/moderna-leveraging-its-ai-factory-to-revolutionise-the-way-diseases-are-treated.

36. Barbaschow, “Moderna Leveraging Its ‘AI Factory’”; “Moderna COVID-19 Vaccine”, US Food and Drug Administration, December 18, 2020, https://www.fda.gov/emergency-preparedness-and-response/coronavirus-disease-2019-covid-19/moderna-covid-19-vaccine.

37. Philip Ball, “The Lightning-Fast Quest for COVID Vaccines – and What It Means for Other Diseases”, Nature 589, no. 7840 (December 18, 2020): 16–18, https://www.nature.com/articles/d41586-020-03626-1.

38. Доводы за и против этой гипотезы хорошо представлены в следующих материалах: Amy Maxmen and Smriti Mallapaty, “The COVID Lab-Leak Hypothesis: What Scientists Do and Don’t Know”, Nature 594, no. 7863 (June 8, 2021): 313–15, https://www.nature.com/articles/d41586-021-01529-3; Jon Cohen, “Call of the Wild”, Science 373, no. 6559 (September 2, 2021): 1072–77, https://www.science.org/content/article/why-many-scientists-say-unlikely-sars-cov-2-originated-lab-leak.

39. James Pearson and Ju-Min Park, “North Korea Overcomes Poverty, Sanctions with Cut-Price Nukes”, Reuters, January 11, 2016, https://www.reuters.com/article/us-northkorea-nuclear-money-idUSKCN0UP1G820160111.

40. Lord Lyell, “Chemical and Biological Weapons: The Poor Man’s Bomb”, draft general report, Science and Technology Committee (96) 8, North Atlantic Assembly, October 4, 1996, https://irp.fas.org/threat/an253stc.htm.

41. United Nations Secretary-General, “Chemical and Bacteriological (Biological) Weapons and the Effects of Their Possible Use: Report of the Secretary-General”, United Nations, August 1969; discussed in Gregory Koblentz, “Pathogens as Weapons: The International Security Implications of Biological Warfare”, International Security 28, no. 3 (Winter 2003/ 2004): 88, https://doi.org/10.1162/016228803773100084.

42. Здравый и содержательный обзор потенциальных опасностей нанотехнологий: Louis A. Del Monte, Nanoweapons: A Growing Threat to Humanity (Lincoln: University of Nebraska Press, 2017).

43. K. Eric Drexler, Engines of Creation: The Coming Era of Nanotechnology (New York: Anchor Press/Doubleday, 1986), 172.

44. Ralph C. Merkle, “Self Replicating Systems and Low Cost Manufacturing”, Zyvex.com, accessed March 5, 2023, http://www.zyvex.com/nanotech/selfRepNATO.html.

45. Йинон М. Бар-Он, Роб Филлипс и Рон Майло подсчитали, что все живые существа на планете, вместе взятые, содержат 550 гигатонн углерода (не считая подземных запасов в виде залежей угля, которые тоже образовались из живых организмов). Итак, у нас есть 5,5 × 1017 граммов углерода. Учитывая, что молярная масса углерода равна 12,011, можно вычислить количество вещества по формуле 5,5 × 1017 / 12,011 = 4,6 × 1016 моль. Зная эту величину, мы можем найти количество атомов углерода во всей биомассе на планете: (4,6 × 1016) × (6,022 × 1023) (число Авогадро) = 2,8 × 1040 атомов. На самом деле органического углерода может быть намного больше, если учесть его количество в атмосфере и почве, а также залежи углеводородов под землей, но нельзя точно сказать, до какой части этих запасов смогут добраться нанороботы в случае, если сценарий «серой слизи» будет реализован. См. Yinon M. Bar-On et al., “The Biomass Distribution on Earth”, PNAS 115, no. 25 (June 19, 2018): 6506–11, https://doi.org/10.1073/pnas.1711842115.

46. По мнению эксперта по нанотехнологиям Роба Фрайтаса, самовоспроизводящийся робот будет состоять приблизительно из 70 миллионов атомов углерода. Это пока предположение, но за неимением лучшей оценки можно считать эту величину ориентиром при обсуждении рассматриваемого сценария. См. Robert A. Freitas Jr., “Some Limits to Global Ecophagy by Biovorous Nanoreplicators, with Public Policy Recommendations”, Foresight Institute, April 2000, http://www.rfreitas.com/Nano/Ecophagy.htm.

47. Эта оценка выведена в предположении, что углерод распределен более-менее равномерно и непрерывно. В реальности многое будет зависеть от конкретных условий на месте. Кое-где запасы углерода будут исчерпаны меньшим числом поколений, в других зонах потребуется больше нанороботов, чтобы поглотить весь углерод, и этот процесс займет несколько больше времени.

48. Freitas, “Some Limits to Global Ecophagy by Biovorous Nanoreplicators”.

49. Freitas, “Some Limits to Global Ecophagy by Biovorous Nanoreplicators”.

50. Robert A. Freitas Jr. and Ralph C. Merkle, Kinematic Self-Replicating Machines (Austin, TX: Landes Bioscience, 2004), http://www.molecularassembler.com/KSRM/4.11.3.3.htm.

51. Ознакомиться с обновленными руководящими принципами и некоторой полезной информацией о них можно в: Neil Jacobstein, “Foresight Guidelines for Responsible Nanotechnology Development”, Foresight Institute, 2006, http://www.imm.org/policy/guidelines.

52. Больше выразительных терминов типа «серой и голубой слизи», которыми названы различные явления в сфере нанотехнологий, можно найти в: Chris Phoenix, “Goo vs. Paste”, Nanotechnology Now, September 2002, http://www.nanotech-now.com/goo.htm.

53. Freitas, “Some Limits to Global Ecophagy by Biovorous Nanoreplicators”.

54. Bill Joy, “Why the Future Doesn’t Need Us”, Wired, April 1, 2000, https://www.wired.com/2000/04/joy-2.

55. World Health Organization, “WHO Coronavirus Dashboard”, World Health Organization, accessed October 16, 2023, https://covid19.who.int.

56. Miles Brundage et al., The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation (Oxford, UK: Future of Humanity Institute, February 2018), https://img1.wsimg.com/blobby/go/3d82daa4-97fe-4096-9c6b-376b92c619de/downloads/MaliciousUseofAI.pdf?ver=1553030594217.

57. Evan Hubinger, “Clarifying Inner Alignment Terminology”, AI Alignment Forum, November 9, 2020, https://www.alignmentforum.org/posts/SzecSPYxqRa5GCaSF/clarifying-inner-alignment-terminology; Paul Christiano, “Current Work in AI Alignment”, Effective Altruism, accessed March 5, 2023, https://www.effectivealtruism.org/articles/paul-christiano-current-work-in-ai-alignment.

58. Hubinger, “Clarifying Inner Alignment Terminology”; Christiano, “Current Work in AI Alignment”.

59. Более-менее подробное объяснение концепции обучения через имитацию: Beth Barnes, “Imitative Generalisation (AKA ‘Learning the Prior’)”, AI Alignment Forum, January 9, 2021, https://www.alignmentforum.org/posts/JKj5Krff5oKMb8TjT/imitative-generalisation-aka-learning-the-prior-1.

60. Geoffrey Irving and Dario Amodei, “AI Safety via Debate”, OpenAI, May 3, 2018, https://openai.com/blog/debate.

61. Важная серия заметок с объяснением концепции итерационного усиления от ее основного автора: Paul Christiano, “Iterated Amplification”, AI Alignment Forum, October 29, 2018, https://www.alignmentforum.org/s/EmDuGeRw749sD3GKd.

62. Подробнее о технических сложностях обеспечения безопасности работы с ИИ: Dario Amodei et al., “Concrete Problems in AI Safety”, arXiv:1606.06565v2 [cs.AI], July 25, 2016, https://arxiv.org/pdf/1606.06565.pdf.

63. Асиломарские принципы в сфере ИИ, а также постоянно обновляемый список подписантов: “Asilomar