Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

британской инжиниринговой фирмы ARUP получил сообщение якобы от своего финансового директора (CFO), находящегося в Великобритании, с просьбой провести «конфиденциальную транзакцию» на крупную сумму в адрес третьей стороны. Справедливо заподозрив неладное, сотрудник решил уточнить запрос, однако подтвердил транзакцию в ходе видеозвонка в реальном времени с финансовым директором и другими высокопоставленными лицами компании. Вот только всё было совсем не так: мошенники использовали технологию видеодипфейков, чтобы заменить свои лица лицами руководства компании, что позволило им убедительно «санкционировать» перевод во время звонка. В результате этой атаки компания потеряла сумму, эквивалентную 20 миллионам фунтов стерлингов. Это лишь один яркий пример того, как ИИ используется для содействия преступной деятельности, обходясь многим компаниям в миллионы долларов как в виде прямых убытков, так и в виде затрат на профилактические меры.

Это лишь два из бесчисленных способов нанесения вреда с помощью ИИ. Безопасность ИИ (AI Safety) стремительно развивается — как в академической сфере, так и на практике, в деятельности для правительств, разработчиков и некоммерческих организаций. В конце 2023 года в Великобритании был создан собственный Институт безопасности ИИ — государственная структура, занимающаяся выявлением и снижением рисков, связанных с ИИ.[*11] Другие страны, включая США, Японию и Францию, следуют этому примеру с целью создания глобальной сети, способной устанавливать стандарты (и, возможно, разрабатывать правила регулирования) для разработки и внедрения передовых систем ИИ.

Перемены в жизни

Время идет, и обстоятельства меняются — в том числе и для людей, упомянутых в этой книге. Ноам Хомский, которому сейчас девяносто пять лет, по-прежнему бодр, но, к сожалению, влиятельный философ сознания Дэниел Деннет ушел из жизни в апреле 2024 года. Деннет был титаном: он ввел понятие «интенциональной установки» и цитируется в четвертой части в связи с его неоднозначным утверждением о том, что системы ИИ используются для создания «поддельных людей», которые представляют угрозу для наших демократий. Перемены коснулись и других. Илья Суцкевер, один из главных создателей ChatGPT, разошелся во взглядах с коллегами по OpenAI (чьи основатели и члены совета директоров, кажется, втянуты в какую-то бесконечную корпоративную мыльную оперу) и ушел, чтобы основать собственный стартап под названием Safe Superintelligence Inc. Джеффри Хинтон, представленный в начале книги как исследователь, имеющий наибольшие основания считаться создателем глубокого обучения, в 2024 году был удостоен Нобелевской премии по физике. Почти все сошлись во мнении, что Хинтон заслужил эту награду, однако само решение оставило многих профессиональных физиков в недоумении: какое отношение нейросети вообще имеют к их науке? Днем позже мой друг Демис Хассабис, основатель DeepMind, и Джон Джампер, ведущий автор статьи об AlphaFold, разделили Нобелевскую премию по химии за использование ИИ для предсказания структуры свертывания белков. Здесь недоумения было гораздо меньше: это достижение стало одним из самых значимых научных прорывов нашего времени.

До того момента, как эти страницы увидят свет, остается еще пять месяцев. Без сомнения, за это время произойдет много нового. Но я надеюсь, что ключевые идеи, изложенные в этой книге — интеллектуальная генеалогия больших языковых моделей, природа их «мышления», сила контекстного обучения и вопросы интеграции этих систем в наше общество, — сохранят свою актуальность еще долгие годы.

Оксфорд, 27.10.2024

Пропустить примечания

*1 https://aiindex.stanford.edu/wp-content/uploads/2024/05/HAI_AI-Index-Report-2024.pdf.

*2 https://openai.com/index/hello-gpt-4o/.

*3 https://openai.com/index/learning-to-reason-with-llms/.

*4 www.anthropic.com/news/3-5-models-and-computer-use.

*5 https://notebooklm.google/.

*6 https://arxiv.org/abs/2211.04325.

*7 www.iwf.org.uk/about-us/why-we-exist/our-research/how-ai-is-being-abused-to-create-child-sexual-abuse-imagery/.

*8 www.iwf.org.uk/news-media/news/public-exposure-to-chilling-ai-child-sexual-abuse-images-and-videos-increases/.

*9 www.theguardian.com/technology/ng-interactive/2024/oct/26/ai-child-sexual-abuse-images-kaylin-hayman.

*10 www.wired.com/story/undress-app-ai-harm-google-apple-login/.

*11 С начала 2024 года я занимаю там должность директора по исследованиям: www.aisi.gov.uk.

Благодарности.

Прежде всего я хочу поблагодарить своего литературного агента Ребекку Картер, без поддержки и ободрения которой эта книга так и осталась бы просто списком глав. Спасибо за то, что рискнули сделать ставку на меня и в идею, которая легла в основу этой книги. Спасибо всем сотрудникам Penguin Random House, но особенно Коннору Брауну за то, что помог мне распутать самые запутанные формулировки и задал столько интересных вопросов о его содержании — вы напомнили мне, ради чего я вообще взялся за эту работу. Спасибо Терезии Цицель за дополнительную поддержку. Спасибо Тревору Хорвуду за то, что во время редактуры он выловил каждую лишнюю, запятую и убрал как минимум сотню ненужных «например».

Я искренне благодарен Брайану Кристиану и Майклу Генри Тесслеру, которые тщательно, строчка за строчкой, прокомментировали ранние черновики, а также всем остальным — включая Миху Хейлброна и Цветомиру Думбалску, — кто прочитал первые варианты глав и поддержал меня ободряющими отзывами.

Написание книги — занятие эгоистичное, и я особенно признателен друзьям, семье и коллегам, которые позволяли мне ускользать в какой-нибудь тихий уголок и писать в любые свободные минуты во второй половине 2023 года. Но больше всего я благодарен своей жене, Каталине Ренхифо: у нее хватало терпения слушать, как я читал вслух каждую только что законченную главу, и указывать на то, что звучит логично, а что — нет.

Список литературы.

Aher, G., Arriaga, R. I., and Kalai, A. T. (2023), ‘Using Large Language Models to Simulate Multiple Humans and Replicate Human Subject Studies’. arXiv. Available at http://arxiv.org/abs/2208.10264 (accessed 19 October 2023).

Anderson, P. W. (1972), ‘More is Different: Broken Symmetry and the Nature of the Hierarchical Structure of Science’, Science, 177(4047), pp. 393–6. Available at https://doi.org/10.1126/science.177.4047.393.

Aral, S. (2020), The Hype Machine. New York: Currency.

Arcera y Arcas, B. (2022), ‘Do Large Language Models Understand Us?’, Daedalus, 151(2), pp. 183–97. Available at https://doi.org/10.1162/daed_a_01909.

Argyle, L. P. et al. (2023), ‘Out of One, Many: Using Language Models to Simulate Human Samples’, Political Analysis, 31(3), pp. 337–51. Available at https://doi.org/10.1017/pan.2023.2.

Bai, H. et al. (2023), ‘Artificial Intelligence Can Persuade Humans on Political Issues’. Preprint. Open Science Framework. Available at https://doi.org/10.31219/osf.io/stakv.

Bai, Y. et al. (2022), ‘Constitutional AI: Harmlessness from AI Feedback’. arXiv. Available at http://arxiv.org/abs/2212.08073 (accessed 25 October 2023).

Baria, A. T. and Cross, K. (2021), ‘The Brain is a Computer is a Brain: Neuroscience’s Internal Debate and the Social Significance of the Computational Metaphor’. Available at https://doi.org/10.48550/arXiv.2107.14042.

Baroni, M. (2021), ‘On the Proper Role of Linguistically Oriented Deep Net Analysis in Linguistic Theorizing’. Available at https://doi.org/10.48550/arXiv.2106.08694.

Belkin, M. et al. (2019), ‘Reconciling Modern Machine-Learning Practice and the Classical Bias–Variance Trade-Off’, Proceedings of the National Academy