Искусственный интеллект. Краткая история будущего - Тоби Уолш

В августе 2023 году Специальный комитет палаты общин по науке, инновациям и технологиям проделал колоссальную работу и выделил несколько главных вызовов, которые бросает нам искусственный интеллект [4].

• Проблема предвзятости. Искусственный интеллект может создавать или закреплять предубеждения, которые общество считает неприемлемыми.

• Проблема конфиденциальности. Искусственный интеллект способен идентифицировать личность или предоставлять персональные данные о человеке сверх дозволенного.

• Проблема искажения фактов. Искусственный интеллект может создавать материалы, содержащие ложное представление о чьем-либо поведении, мнении или характере, а также искаженные сведения в таких важных вопросах, как климат или политические партии.

• Проблема доступа к данным. Самые мощные системы искусственного интеллекта требуют доступ к огромным массивам данных, принадлежащим нескольким организациям.

• Проблема доступа к компьютеру. Самые мощные системы искусственного интеллекта требуют больших вычислительных мощностей, которые доступны только некоторым организациям.

• Проблема черного ящика. Модели искусственного интеллекта зачастую не способны объяснить, почему они выдали тот или иной результат.

• Проблема открытых источников. Сделав код разработки искусственного интеллекта общедоступным, мы будем способствовать прозрачности и инновациям, но в то же время это позволит злоумышленникам воспользоваться им в своих целях. С другой стороны, если права собственности будут только у узкого круга лиц, то это может привести к злоупотреблениям властью.

• Проблема интеллектуальной собственности и авторского права. Большие модели часто обучены на данных, защищенных авторским правом, без ведома правообладателя, не говоря уже об отчислениях ему за пользование ими. Все еще непонятно, кто владелец выходных данных.

• Проблема материальной ответственности. Если модели искусственного интеллекта используются третьими лицами для причинения вреда, должна быть создана правовая система, регулирующая права и ответственность за совершение противоправного деяния.

• Проблема трудоустройства. Как мы обсуждали выше, искусственный интеллект вмешается в рабочий процесс, к которому мы привыкли сегодня. И нам необходимо внимательно контролировать изменения, которые произойдут вследствие такого воздействия.

• Проблема международного сотрудничества. Искусственный интеллект разрабатывают во всем мире, следовательно, должны быть определенные структуры управления и регулирования, предусмотренные международным сообществом.

• Проблема вымирания. Искусственный интеллект может поставить под угрозу вымирания вид человека в целом.

Это довольно-таки тревожный и в то же время неполный список сложностей. Сюда можно также добавить проблему окружающей среды, так как в процессе работы больших моделей искусственного интеллекта выделяется углекислый газ и используется вода для охлаждения. Демократический вопрос также может быть поднят в результате развития технологий, использующихся для влияния на избирателей и подтасовки результатов выборов по всему миру. На самом деле, большинство «проблем будущего» уже существуют в настоящем. Например, в США уже подано несколько коллективных исков о нарушении авторских прав и защите интеллектуальной собственности против компаний, разрабатывающих искусственный интеллект. Могут ли компании технического сектора использовать огромное количество материалов, защищенных авторским правом, для обучения больших языковых моделей без согласия или компенсации правообладателю? Справедливо ли так поступать?

Невозможно предположить, как будут развиваться такие судебные дела. Предыдущие судебные процессы, которые могли бы помочь создать прецеденты, сработали в обе стороны. В 2013 году компания Google выиграла дело, поданное Американской гильдией писателей. По результатам судебного разбирательства сканирование и суммирование миллионов текстов, выполненное Google Books, признано добросовестным. Верховный суд США в 2016 году оставил постановление без изменений. Однако в 2001 году платформа Napster прекратила свою деятельность после проигрыша в нескольких судебных процессах о нарушении авторских прав, несмотря на выявление и блокировку 99,4% материалов, подпадающих под категорию неправомерных.

Тем не менее ясно одно – предстоящий путь будет тернистым.

Когда меня спрашивают, оптимист я или пессимист касательно сложностей, вызванных искусственным интеллектом, я отвечаю, что все вместе. Я оптимист ввиду последних преимуществ, приобретенных не так недавно благодаря технологиям, но в то же время и пессимист. К сожалению, наши дети унаследуют совсем другой мир, отличный от того, в котором родились мы, и все из-за череды сложностей, некоторые из которых вызваны искусственным интеллектом, например технологическая безработица и недоверие к тем самым институтам, в которых мы сейчас больше всего нуждаемся.

Следующее десятилетие, а может, даже и не одно, будет сложным. Технологии, включая искусственный интеллект, помогут нам решить массу проблем. Но, чтобы действительно получить пользу от искусственного интеллекта, нужно помнить об истории. Социальные сети, например, должны были стать тревожным сигналом о том, как технологии могут нарушить нашу жизнь. Сейчас мы на пороге того, чтобы искусственный интеллект нарушил нашу жизнь еще существеннее, став частью наших будней. Если мы не хотим допустить этого, то лучше бы нам извлечь уроки из прошлого.

Возможно, эта книга – неплохое место, чтобы начать?

Авторские права на изображения

1. Ада Лавлейс: Альфред Эдвард Шалон [предположительно], портрет Ады Кинг, графини Лавлейс, ок. 1840. Коллекция Музея науки. Изображение Викимедиа; патент на Nimatron: Эдвард Кондон, патент США 2215544, 26 апреля 1942 © Wikimedia Commons; Shakey: Коллекция SRI International © Wikimedia Commons; Марион Тинсли: фотография Марка Т. Фоули © Wikimedia Commons / Florida Memory.

2. Stanley: фотография Санао © Wikimedia Commons; Watson / Jeopardy!: Бен Хидер / Getty Images; Chinook: Неизвестный фотограф через Hackernoon / Medium; Фей-Фей Ли: Фотография МСЭ / Р. Фаррелла с международного саммита «Искусственный интеллект во благо». Изображение на Flickr, CC 2.0; Илон Маск: Фотография Стива Джурветсона. Изображение на Flickr, CC 2.0; София: Фото со стока DPA Picture Alliance / Alamy Stock Photo.

3. Изображение любезно предоставлено музеем Массачусетского технологического института.

4 © Банк Англии.

5. Альфред Эдвард Шалон [предположительно], портрет Ады Кинг, графини Лавлейс, ок. 1840. Коллекция Музея науки © Wikimedia Commons.

6. Everett Collection Historical / Alamy Stock Photo.

7. Коллекция берлинского зоологического сада © Wikimedia Commons.

8. Коллекция SRI International © Wikimedia Commons.

9. Тимоти Колберн / Университет Миннесоты.

10. Parville H. La tour d’Hanoï et la question du Tonkin’ // La Nature. 1884. Vol. 12. No. 548. P. 285–286.

11. Патент: Эдвард Кондон, патент США 2215544, 26 апреля 1942 © Wikimedia Commons; фотограф: Неизвестный фотограф. Изображение любезно предоставлено сообществом Historic Pittsburgh.

12. Неизвестный фотограф на afflictor.com с разрешения Джонатана Шеффера.

13. Общественное достояние; изображение предоставлено Оуэном Холландом, Holland O. The first biologically inspired robots // Robotica. 2003. Vol. 21. P. 354.

14. Фото со стока DPA Picture Alliance / Alamy Stock Photo.

15. Уолтер Питтс: Неизвестный фотограф, 1954 © Wikimedia Commons; Уоррен Мак-Каллок: Фотограф Лотфи Заде, любезно воспроизведено Норманом Заде. Изображение предоставлено EECS в Беркли.

16. Джордж Буль: неизвестный художник, 1864–1865. Изображение Haks / © Wikimedia Commons; Джеффри Хинтон: фотограф Рамси Карди / Конференция по столкновениям. Изображение из Sportsfile на Flickr, CC 2.0.

17. Фотография МСЭ / Р. Фаррелла с международного саммита «Искусственный интеллект во благо».