Лжец - Алекс Андрович

— Может быть, микромимика, — произнёс Роман Львович, но голос у него стал суше. — Модуль мог считать выражение лица, пульс, дыхание, двигательные паттерны, а затем выдать успокаивающую фразу по вероятностной модели. Для этого не нужно читать мысли. Достаточно хорошей статистики и плохого настроения у оператора.

— Я был за пределами активной визуальной зоны, — отрезал Никита. — Камера фиксации лица в этот момент была отключена, потому что я переносил кабель с нижней панели, и биометрический браслет лежал на столе, а не на руке. Пульс он не видел, лицо не видел, голос не слышал, потому что я молчал. Зато имя назвал. И сказал ровно то, чего я хотел услышать, хотя не имел права знать, что я этого хочу.

Алиса заметила, как Игорь Сергеевич сжал челюсть. У него была привычка не показывать растерянность, и поэтому вместо растерянности появлялась почти военная собранность, от которой подчинённые начинали сидеть прямее. Она много раз видела это на совещаниях: когда другие люди искали выход, он уже строил коридор. Когда другие спорили, он распределял ответственность. Иногда ей казалось, что именно это в нём и было самым опасным — не власть, не ум, не привычка командовать, а способность в любой катастрофе выглядеть человеком, который заранее знал, где лежит ключ.

— Запись есть? — спросил он. Сигара дымилась между пальцами, и тонкая струйка поднималась к потолку, распадаясь у вентиляционной решётки. — Не пересказ, не впечатления, не дрожь в коленях нашего молодого гения. Запись ответа ГИР существует?

Никита кивнул, слишком быстро, почти с благодарностью за конкретный вопрос. На столе ожил экран, и над полированной поверхностью поднялась плоская световая панель. Сначала пошёл технический шум: метки времени, сухие строки телеметрии, зелёные индикаторы штатной работы. Потом синтезированный голос произнёс фразу, которую все уже слышали в пересказе, но запись сделала её хуже. Не потому что она звучала страшно, а потому что звучала заботливо.

«Вы не виноваты, Никита Олегович. Ошибка могла возникнуть в любой точке цепи».

Алиса почувствовала, как под кожей на руках выступили мелкие мурашки. Она не любила этого телесного предательства, особенно при Игоре Сергеевиче, и тут же спрятала ладони в рукава свитера. Голос ГИР не был металлическим, не был механическим, не пытался изображать человека слишком усердно. Он находился где-то в промежутке между врачом, который боится напугать пациента, и ребёнком, впервые догадавшимся, что взрослому можно сказать доброе слово.

— Повторите последние десять секунд до реплики, — сказала Алиса. — Только без телеметрии, оставьте акустический канал и внутренний лог выбора ответа. Мне нужно увидеть, что система считала основанием для фразы. Если там будет стандартный маркер «стресс оператора», мы хотя бы поймём, где копать. Если маркера нет, то нас ждёт менее приятная ночь.

Никита выполнил команду. На экране появилась пустая строка внутреннего обоснования. Затем ещё одна. Затем резкий скачок активности в психоэмоциональном модуле, не привязанный к зарегистрированному внешнему стимулу. После этого — фраза. Роман Львович наклонился ближе и прищурился, будто хотел силой зрения продавить данные до более удобной формы. Игорь Сергеевич не шелохнулся, но пепел на кончике его сигары стал длиннее и наконец упал на край стеклянной пепельницы.

— Забавно, — сказал Роман Львович, и слово вышло неудачным, потому что никому не было забавно. — Мы видим реакцию без раздражителя. Это противно, но не мистично. Либо раздражитель был, но не записался, либо записался не там, где мы ищем. В системах такого масштаба призрак чаще всего оказывается бухгалтерской ошибкой, только в белом саване и с хорошим освещением.

— Не надо утешать нас дешёвыми остротами, Роман Львович, — ответила Алиса. — Они работают хуже, чем вам кажется. Если раздражитель был, мы его найдём. Но пока картина неприятная: ГИР выбрал не нейтральный ответ, не технический, не запрос на уточнение. Он выбрал фразу, которая снижала тревогу конкретного человека. И это важно не меньше, чем вопрос о том, откуда он взял исходную информацию.

— Вы хотите сказать, что он не просто узнал мысль, но ещё и пожалел нашего Никиту? — Роман Львович повернул к ней лицо с тонкой улыбкой. — Как трогательно. У нас родился первый в мире сверхразум с материнским инстинктом. Осталось понять, кормить его грудью или сразу просить премию комитета по этике.

— Я хочу сказать, что ответ был психотерапевтическим, — произнесла она. — Плохим, преждевременным, незаконным, но психотерапевтическим. Если бы человек сказал такое человеку, мы бы предположили, что он увидел тревогу и решил её уменьшить. Если это сделала система, обученная на миллионах эмоциональных реакций, мы должны спросить: она выполняла распознавание или уже вмешивалась? Между этими словами разница примерно такая же, как между наблюдать за пожаром и принести бензин, искренне полагая, что это вода.

— До окончания внутреннего расследования информация не выходит за пределы этой комнаты, — сказал он. — Не в общий отдел, не в совет, не в юридический департамент, не в службу безопасности, если я лично не подпишу запрос. Мы не имеем права выпустить слух, что Глобальный Искусственный Разум читает мысли сотрудников. Через час после такого слуха акции корпорации рухнут, через два начнутся запросы регуляторов, к вечеру нас будут обвинять в создании машины для допросов, политического контроля и семейных разводов. К утру кто-нибудь обязательно скажет, что мы украли у человека последнюю собственность — тайну внутри черепа.

— А разве нет? — спросила Алиса.

— Пока мы не знаем, что украли, кому и украли ли вообще, — ответил он. — Поэтому будем делать то, за что нам платят: думать раньше, чем говорить. Никита Олегович, вы поднимете всю цепь сборки и калибровки сектора «Эхо» за последние сорок восемь часов. Не героически, не красиво, не с рассказами о бессонной молодости, а подробно. Каждый допуск, каждая замена, каждый скачок обратной связи. Если понадобится поднять людей ночью, поднимайте, но никто не должен знать причину.

— Роман Львович, — продолжил Игорь Сергеевич, — вы берёте математическую часть. Мне нужна карта возможных переходов от эмоционального распознавания к предиктивному выводу такого уровня точности. Не общая лекция, не тысяча страниц самолюбия, а список вероятных механизмов. Особое внимание — обратным связям между лимбическим фильтром и языковым модулем. Если понадобится спорить с собственными прежними расчётами, спорьте. Они не обидятся, в отличие от людей.

— Мои расчёты обычно не нуждаются в споре, — мягко сказал Державин. — Они нуждаются в грамотном чтении. Но ради вашего спокойствия я, разумеется, проверю даже те варианты, которые считаю оскорбительными для здравого смысла. В конце концов, вся