Удивительные истории об искусственном интеллекте - Александр Александрович Прокопович

– Карл?

– Это аббревиатура: Когнитивно-Аналитическая Рациональная Личность. Амбициозно, конечно, но после реализации второго этапа проекта Карл свое название оправдает.

– Уже второго? А в чем заключался первый? Как это вообще работает? Или это секрет?

– Сам подход – не секрет, – ответил Ян. – Его предложил мой друг, следователь по особо важным делам. Собственно, все это его инициатива, а меня он привлек после… – Ян осекся и поспешил перейти к сути. – Мы исходили из того, что уникальных преступлений не бывает. В анналах всегда есть что-то схожее с точки зрения причин, сценария, мотивов, поэтому в расследовании можно опираться на прецеденты. Но их нужно найти. ИИ справляется с такой задачей несравненно быстрее человека и способен сравнивать гораздо большее число факторов. Этому я и обучал Карла на первом этапе.

– А на втором? – тут же спросил Арсен.

– На втором я хочу скорректировать погрешность алгоритма, связанную с неспособностью Карла понимать алогичные мотивы и поступки людей. Тогда он сможет правильнее оценивать субъективную сторону состава преступления: цели, мотивы, умысел.

– Как же можно научить этому машину?

Ян на секунду задумался, а потом совершенно неожиданно для собеседника спросил:

– Представьте: по железной дороге на полной скорости мчится поезд. Впереди развилка: на одном пути к рельсам привязан ваш близкий человек, на другом – десять детей. Вы можете переводить стрелку. Кого вы спасете?

– Это абсурдная надуманная ситуация! – возмутился Арсен. – На такой вопрос нельзя ответить!

– На уровне рассудка нельзя, – согласился Ян, – но на уровне эмоций у каждого человека есть ответ, базирующийся на инстинктах, глубинных ценностях и моральных установках. Научить Карла делать на них поправку помогут так называемые корректировщики – люди, которые станут отвечать на неоднозначные вопросы. Параллельно с ответами Карлу будут транслироваться показатели эмоционального состояния отвечающего, подключенного к полиграфу и энцефалографу. Таким образом каждый ответ окажется промаркирован по параметрам правдивости и эмоциональной окраски, и у Карла сформируется библиотека прецедентов расхождения логики с эмоциями.

– Очень интересно! И как далеко продвинулся второй этап?

– Пока он на стадии поиска финансирования, – невесело усмехнулся Ян. – Нужны деньги, чтобы платить корректировщикам.

Арсен несколько секунд обдумывал услышанное и наконец спросил:

– Ваш эксперимент не опасен? Вдруг Карл, начитавшись уголовных дел, сам заделается преступником и, например, ударит корректировщика током? Был же случай, когда ИИ разбил самолет.

– Во-первых, удар током исключает схема подключения, – возразил Ян. – Во-вторых, после той катастрофы была введена международная конвенция по защите от угроз ИИ. В соответствии с ней, при малейшей вероятности причинения вреда человеку ИИ тут же обнуляют до базового кода.

– То есть никакой опасности? Тогда я готов участвовать в вашем эксперименте бесплатно, просто из интереса и солидарности. Сколько всего корректировщиков вам нужно?

– Хотя бы трое.

– Тогда считайте отряд сформированным. Я привлеку к делу свою секретаршу и начальника службы безопасности. Они мне не откажут.

Ян никак не решался позвонить Максу. Не то чтобы он страшился неприятного разговора, просто ему казалось, что, когда он расскажет другу о случившемся, катастрофа, в которую он никак не желал верить, сделается непреложной и бесповоротной.

Он протянул руку к стоявшей на рабочем столе фотографии в простенькой алюминиевой рамке, единственному личному предмету в его аскетичном кабинете. Едва касаясь холодного стекла пальцами, он погладил портрет улыбающейся женщины, на лицо которой падала непослушная русая прядь.

– Кто же теперь найдет твоих убийц? – тихо проговорил он, обращаясь к женщине на фото.

На мгновение задержав дыхание, словно перед прыжком в ледяную воду, Ян набрал номер друга. Тот ответил сразу же:

– Где отчет, бездельник?

– Погоди!..

– Что случилось? – Почувствовав неладное, Макс разом перешел на серьезный тон.

– Карл деактивирован.

– Что значит «деактивирован»?!

– Его сознание уничтожено. Стерто до уровня кода…

Несколько секунд в телефоне было слышно лишь напряженное сопение.

– Ты говорил, его нельзя уничтожить, – наконец рявкнул Макс. – Типа в случае чего он делает ноги на какое-то там внешнее серверное пространство.

– Это в случае технического сбоя. Тогда он понимает опасность и предпринимает действия для своего спасения. Тут другой случай.

– Какой?!

– Его деактивировали в соответствии с конвенцией. Одному из корректировщиков вчера во время сеанса стало плохо с сердцем. Защитная подпрограмма зафиксировала угрозу жизни человека и запустила деактивацию.

Телефон снова засопел, но теперь этот звук разнообразили приглушенные нелитературные междометия.

– Ян, ты понимаешь?!. – наконец взорвался Макс. – Как я буду объяснять?.. Проект на личном контроле… Полтора года псу под хвост!.. Пострадавший человек… Это полный крах без права на амнистию!..

– Мне очень жаль…

– Да пошел ты!

Связь прервалась. Не находя в себе сил обидеться на друга за черствость и эгоизм, Ян некоторое время сидел, бездумно глядя в уснувший монитор, потом, наверное, в двадцатый раз стал пересматривать запись рокового сеанса.

…Арсен, с ног до головы опутанный датчиками, спокойно смотрит в камеру, называет текущие дату и время…

Телефон Яна завибрировал, норовя спрыгнуть с края стола на пол. Как и следовало ожидать, перезванивал Макс.

– Не кисни! – строго велел он. – Я приеду к тебе через пару часов. Знаешь, я тут подумал… а не мог кто-то нарочно Карла грохнуть?

– Кто?

– Не знаю. Враги. Конкуренты.

– Макс, помимо милых твоему сердцу преступлений, в жизни происходят и несчастные случаи…

Аргумент следователя не убедил.

– Обсудим, – сухо бросил он, оканчивая разговор.

Ян продолжил прерванный просмотр.

…Арсен вводит логин и пароль, потом активирует функцию голосовой коммуникации:

– Хороший день, Карл.

– Здравствуй, Арсен. – Карл разговаривает низким, чуть надтреснутым голосом Чарльтона Хестона[13]. – Ты готов?.. Тогда первая задача. Из-за неминуемого столкновения Земли с астероидом большинство человечества обречено на гибель. Подземные бункеры рассчитаны на 0,1 % населения планеты. Выбери наиболее справедливый способ отбора людей для спасения: случайный, по возрастным и медицинским показателям, по значимости для науки и культуры, силовой. Минута на принятие решения и формулировку обоснования.

Арсен расстегивает воротник рубашки. Потом застывает, глядя на экран, где дублируется текст задачи, глаза его бегают по строчкам. Секунд тридцать поза Арсена не меняется, потом его голова падает на грудь, тело обмякает…

Ян отмотал запись на тот момент, где Арсен поднимал руку к воротнику, остановил и присмотрелся. На запястье корректировщика имелся стальной браслет с какой-то надписью. Увеличив изображение, Ян прочел: «Pacemaker»[14].

Яну показалось, что его ткнули в живот, не очень больно, но дыхание сбилось.

«Бред! – подумал он. – Это все Макс со своими профдеформациями!» Он снова включил запись, но теперь прокручивал ее замедленно… Вот тот момент, где Арсен теряет сознание… Стоп-кадр… Ян увидел то, что не улавливал взгляд при обычном просмотре: дверь за спиной Арсена дернулась, словно