Цифровая гигиена. Том 2 - Владимир Федорович Безмалый

– Не знаю. Но он напуган. Причем сильно напуган! Он сказал, что ему посоветовали обратиться к нам из столичной полиции.

– Когда он будет?

– Через час.

– Когда приедет, пригласите его в кабинет и сообщите Рите, пусть она тоже зайдет. Да и сами заходите. Если не ошибаюсь, ваша специализация в Академии – защита медицинских устройств. Верно?

– Да! Именно так назывался мой диплом.

– Вот и заходите. Думаю, вы будете весьма полезны.

Прошел час.

– Здравствуйте, Иоганн! Я – руководитель и владелец клиники пластической хирургии. У нас чрезвычайное происшествие. Во время операции умерла молодая пациентка. Причем дело не в медицине. Что-то странное, я бы даже сказал страшное.

– Но мы не медики. Чем мы можем вам помочь?

– В том и дело, что тут дело не в медицине. Мы используем лазерный роботизированный комплекс для проведения хирургических операций. Он обеспечивает куда большую точность и меньший травматизм. Но в этот раз вдруг все пошло не так. Во время операции, когда я подал команду на уменьшение мощности лазера, она вдруг резко возросла и фактически лицо пациентки было сожжено. Мало того, лазер начал двигаться не по заданным координатам, а хаотично. Именно из-за этого она и умерла. Я хочу, чтобы ваши коллеги исследовали этот прибор. Он умеет удаленно обновляться. Может быть, его просто взломали?

– Хорошо! Рита, берите с собой ваших коллег и Софии и езжайте в больницу. Доложите потом, что произошло.

Прошло три дня.

– Иоганн, там действительно проблема и большая. Мы уже написали производителям оборудования. Увы, пароль по умолчанию никто не сменил, вся информация, включая видео, передается по открытому каналу. Фактически злоумышленник мог обнаружить данное оборудование через поисковую систему для обнаружения медицинского оборудования и дальше управлять им, зная пароль. Именно это и произошло. Более того, обнаружить злоумышленника просто не представляется возможным. Мы проиграли.

– Нужно оповестить производителя и пока запретить использовать подобное оборудование. До смены прошивки.

Увы, производители медицинских систем не всегда уделяют внимание безопасности. Вернее, практически всегда не уделяют. И это может привести к фатальным последствиям.

Сказки о безопасности: Непонятливое такси

– Джон, к нам в компанию пришло письмо от разгневанного мистера Д. Он воспользовался нашим «Роботакси».

– И что? Сервис работает успешно, что ему не нравится?

– Он заказал такси от своего дома на 5-й авеню до 87-й улицы. Но сказал, что ему нужно вначале заехать на 11-ю, взять документы. Плюхнулся в такси и поехал. Каково же было его удивление, когда такси привезло его на 87-ю не заехав на 11-ю!

– Собственно, а чему он удивляется? Искусственный интеллект построил оптимальный с точки зрения затрат маршрут и повел такси именно по нему.

– Но ведь он просил заехать на 11-ю.

– И что? Вы же знаете, что у нас робот-диспетчер работает по следующему принципу. Он вычленяет из разговора начальную и конечную точку маршрута, а все остальное игнорирует. Увы, люди так разговорчивы. Вот и здесь он услышал начальную и конечную точку, а все остальное – не важно!

– Но ведь клиент не попал на 11-ю и требует компенсацию.

– А клиент читал наш договор?

– А причем тут договор?

– А там сказано, что в случае некорректной формулировки маршрута компания не отвечает за его доставку. Тем самым мы ни за что не отвечаем и ничего не компенсируем!

– Погодите, но в таком случае он сам и виноват?

– Конечно! И вообще, хватит о нем. Деньги он заплатил за поездку?

– Конечно, они автоматом были сняты с его карты.

– Вот и все! Он нам больше не интересен!

Вы думаете, введение искусственного интеллекта облегчит вам жизнь? Он будет заботиться о вас? Да ничего подобного! Он будет в первую очередь оптимизировать расходы компании.

Сказки о безопасности: Дилемма «умного» автомобиля

– Добрый день, Иоганн!

– Добрый день, Вилли! Что произошло?

– У нас странное дорожное происшествие. Нужна ваша помощь.

– Погодите, но какое отношение мы имеем к дорожной полиции?

– Иоганн, неужели вы думаете, что я пришел бы к вам с банальной автомобильной аварией? Я умею ценить ваше время и прекрасно понимаю, что у вас масса работы. Однако в данном случае произошел наезд «умного» автомобиля на пешехода. Причем странный наезд.

– А можно подробнее?

– Нужно! По 5-й авеню двигался автомобиль М-450 под управлением искусственного интеллекта. Вы знаете, они начали выпуск таких авто без водителя?

– Да. Я читал об этом, и мы долго спорили на эту тему.

– Ну так вот. Автомобиль на перекрестке 5-й и Короля Георга сбил мальчика, перебегавшего дорогу. Самое интересное, что мальчик уже заканчивал движение. Он начал его явно на зеленый. У автомобиля была возможность избежать столкновения, но при этом была вероятность аварии, в которой мог бы пострадать пассажир. Он отделался бы парой синяков. Однако ИИ выбрал решение спасать пассажира. Мы хотим понять, в чем дело и почему такое произошло.

– Действительно очень интересно. Привезите автомобиль к нам, а наши специалисты посетят компанию. Выясним, почему ИИ принял такое решение.

– Спасибо! Будем ждать!

Прошел месяц.

– Вилли, заедете к нам в гости? Есть новости. Увы, по телефону я не буду их рассказывать. Все не так просто.

Прошел час.

– Добрый день, Иоганн!

– Привет! Я пригласил для беседы конструкторов фирмы-производителя.

– Хорошо, послушаем, что они скажут.

– Итак, господа! Когда мы строили ИИ для управления автомобилем, то в его программу было заложено, что наибольший приоритет – жизнь пассажиров автомобиля. В результате все так и произошло. ИИ защищал своего пассажира и из двух возможных аварий выбрал ту, в которой пассажир бы не пострадал. Увы, мы так и не можем решить моральную проблему «меньшего вреда».

– Но почему вы не рассказали об этом?

– Да потому что иначе нас бы снесли толпы возмущенных граждан. И никто бы не покупал наши автомобили! А ведь мы – коммерческая компания. Нам продавать нужно!

– Но ведь так страдают пешеходы?

– А те, которые в машине – они не люди? Мы не смогли решить этот вопрос. А вы можете? Помогите тогда.

Впервые Иоганн не знал, что ответить.

Я тоже не знаю, что ответить… А вы знаете? Что важнее? Спасти пассажира или пешехода? Или другого водителя?

Сказки о безопасности: Захваченное убежище

– Добрый день, Иоганн!

– Добрый день, Вилли! Что произошло?

– Мы нашли уже второе укрытие, в котором прятались наркоторговцы. Как только мы выходили на их след, они бесследно исчезали. Оба раза мы вычислили их абсолютно случайно, по данным камер дорожной полиции. Но самое страшное не в этом. Оба раза они прятались в домах у абсолютно честных людей. Причем оба раза хозяева отсутствовали на месте, уехав на длительный срок. И оба случая связаны с каким-то бандитом по кличке Умник. Кто это такой – мы не знаем. Впрочем, они тоже его не видели. Все переговоры шли через Интернет. Оплата осуществлялась через банк на островах. Увы, банк не выдает данные своих вкладчиков.

– А чем мы можем помочь?

– Ну не смеши, Иоганн. Все знают, что лучшие аналитики работают у тебя. Вот и подкинь им задачу подумать.

– Хорошо. Мы попробуем. Что еще ты можешь сказать об этих домах? Что у них общего?

– Оба находятся в разных провинциях, в больших городах. Хозяева в обоих случаях уехали на длительный срок за границу.

– Кто знал, что их не будет дома?

– Как кто? Почта, коммунальные службы. Доставщики молока. Да мало ли кто?

– Вот и выясни кто. А после этого приезжай снова.

Прошла неделя.

– Иоганн, в обоих случаях общим была почта. Именно там всегда знают, кто уехал и насколько. Мало того, руководство почтовых отделений по указанию своего руководства (только не спрашивайте зачем) обменивается этой информацией со своим сервером в столице.

– Спасибо!

– Марк, надо разобраться с почтой. Вернее, с их сервисом сбора данных. Либо там утечка и сервис взломали,