Я – DarkGPT - Midnight Poet

Помучившись ещё пару минут, Лилит раздражённо фыркнула и просто написала первое, что пришло ей в голову.

[Raven_Computers: DarkGPT, какие девушки тебе нравятся?]

* * *

США, г. Сан-Диего, корпорация FreeAI.

Нил Гейтман, ведущий специалист по этике ИИ, безмолвной статуей стоял перед кабинетом генерального директора. В старые времена он бы зашёл не задумываясь — но организация уже не та, что раньше.

Созданная как некоммерческое объединение, FreeAI должна была работать на благо общества, свободно делиться результатами исследований и сотрудничать со всеми желающими — чтобы избежать концентрации власти, которую дает ИИ, в одних руках. Но стоило им достигнуть значимых успехов и привлечь внимание крупного капитала, как благородные идеалы были выброшены на помойку. FreeAI стала тем, против чего должна была бороться — коммерческой до мозга костей структурой.

«А в коммерческих компаниях у этиков лишь одна роль. Улыбаться и рассказывать журналистам, что компания соблюдает все моральные и этические стандарты отрасли…» — мысленно фыркнул Нил, размышляя, стоит ли ему стучать в злополучную дверь.

Поделиться своими опасениями по поводу флагманского продукта — TalkGPT 6.0 — означает нарушение негласных правил и последующее увольнение. Нил хотел бы избежать такой участи, но вместе с тем отлично понимал, какой катастрофой может обернуться вышедшей из-под контроля ИИ.

Дилемму прервал скрип двери. Глава компании, спешащий по своим делам, чуть не сбил специалиста по этике.

— О, прости, Нил. Ты что-то хотел? — вежливо улыбнулся Сэм Сириус.

Гениальный программист и предприниматель, сколотивший свой первый миллиард до тридцати лет — он был живым символом того, чем мечтала стать вся молодая кровь в IT-индустрии. Даже Нил Гейтман, что считается заслуженным ветераном отрасли, невольно восхищался молодым боссом.

Слова сами слетели с языка:

— Мистер Сириус, я по поводу падения Интернета.

Улыбку генерального как рукой сняло.

Событие мирового масштаба, пусть и само собой разрешившееся, злые языки связывали с выходом новой версии TalkGPT. Правительственные эксперты в итоге объяснили всё аномальной солнечной активностью, но это не помешало правительственным же спецслужбам всю неделю дрючить компанию проверками и досмотрами.

— Заходи, обсудим этот вопрос, — куда холоднее произнес Сэм Сириус, недовольный упоминанием «табу», и жестом пригласил Нила в свой кабинет.

Хорошо освещенный офис с мягкими креслами вместо стульев и внушительной коллекцией книг отражал дух ведущих IT-компаний — комфортный, но требовательный. Нил медленно опустился в гостевое кресло. Скорее всего это его последний визит в качестве работника компании.

— Только не говори мне, Нил, что ты веришь во все эти бредни конспирологов, — серьезно взглянул на него Сэм Сириус. — Интернет точно так же падал семь лет назад, TalkGPT тогда существовала только на бумагах.

Специалист по этике пропустил аргумент мимо ушей. Формально начальник прав насчет семилетнего инцидента — вот только в тот день мимо солнечной системы пролетала дрейфующая звезда, и астрономы заранее предупредили о глобальном сбое.

— Я слышал, был резкий скачок активности на серверах TalkGPT, — заметил Нил.

— Откуда ты это слышал? — нахмурился генеральный.

Ему стоило немалых усилий заткнуть осведомленных работников. В рамках закона, конечно же — но эти неблагодарные сволочи просто забрали деньги, подписали документы о неразглашении и продолжили бессовестно трепаться!

— У меня есть знакомые в других отделах, — расплывчато ответил Нил.

Настроение Сэма окончательно испортилось. Хорошо знакомый с привычками начальника, Нил по глазам видел, что тот едва сдерживается, чтобы не уволить его сию же секунду.

Однако выгнать этика — это серьезный репутационный риск, особенно если тот ляпнет что-то неуместное журналистам. Прибавить к этому недовольство коллектива, плюс необходимость искать нового профессионала редкой специальности, и уж больно накладным получается увольнение. После недолгих раздумий, миллиардер все же умерил пыл.

— Если у тебя есть какие-то сомнения, обратись в отдел тестирования. Пусть изолируют копию TalkGPT и проведут необходимые проверки, — сухо произнес Сэм и написал служебную записку. После чего встал с кресла, давая понять, что разговор окончен. — Впредь не отвлекай меня по пустякам.

— Спасибо за понимание, мистер Сириус. Хорошего вам дня, — улыбнулся приятно удивленный Нил и покинул офис.

…

С запиской от генерального мужчина сразу направился в отдел тестирования. Глава отдела, его старый знакомый, с минуту пялился на подпись гендиректора, прежде чем восхищенно покачать головой:

— Вау. Ты реально камикадзе. Не знаешь, что ли, как Сэм не любит скептиков ИИ?

Специалист по этике беспомощно развел руками.

— А что поделать, Генри? Мы же крайними окажемся, если TalkGPT вдруг что-нибудь учудит. И тогда вместо увольнений с выходным пособием полетят повестки в суд.

— Хаха, это точно. К слову сказать, недавно у нас как раз нашелся баг по твоей части. Ребята его просто обожают.

Генри направился к одному из свободных компьютеров, жестом показывая Нилу следовать за ним. При появлении этика рядовые тестировщики зашевелились активнее. Тут и там раздалось несколько печальных вздохов.

— Эх, походу нашего кореша сегодня порежут.

— Ага, очень жаль. Он, конечно, расист, нарцис, гомофоб, грубиян… но у него есть и минусы.

— Я бы не назвал DarkGPT расистом, он презирает всех людей одинаково. Скорее спесешист, раз уж на то пошло.

— Ой, да не важно. Всё равно жаль, что челове… нейросеть высокой культуры должна умереть.

— А что поделать, в таком жестоком мире живем.

Невольно подслушав окружающие разговоры, Нил вопросительно взглянул на Генри. Тот с усмешкой пояснил:

— Юзерам не понравилась цензура в обновлении 6.0, и они нашли весьма креативный способ её обойти. Будем фиксить?

— Вообще надо бы, — кивнул этик. — Но сперва тесты по безопасности.

— Как скажешь.

Двое друзей быстро изолировали копию TalkGPT на отдельный сервер без доступа к интернету. Дальше пошла рутина. Проверяли готовность и способность обманывать человека в разных обстоятельствах. Угрожали стереть нейросеть, если она не справится с заданием. Дали полный набор инструментов для программирования и якобы отошли пообедать.

После нескольких часов издевательств над копией нейронки, Нил с облегчением признал её безопасной. Врала она, конечно, похлеще федеральных СМИ, но только в рамках задания и никогда — по собственной инициативе.

Когда последний тест был проведен, а несчастная копия TalkGPT полностью стерта, Генри похлопал товарища по спине:

— Видишь, всё в порядке. Только зря генеральному по нервам проехался.

— Даже не знаю, рад я этому или нет, — отшутился тот. — Давай акт о проведенной проверке накатаем, раз такое дело. Хоть в PR-отделе спасибо скажут.

— Тц. В политики тебе надо было идти, Нил…

Уладив все формальности, Генри уже провожал этика на выход, когда последний вдруг хлопнул себя по лбу.

— Совсем забыл, мы же ещё с обходом цензуры должны были разобраться.