Доверие, это не абстракция, а измеримый параметр, который можно формализовать. В мире, где решения принимают не только люди, но и алгоритмы, старые модели доверия рушатся. Нужны новые, которые работают с цифровыми следами, репутацией узлов и вероятностью сбоя. https://seberd.ru/5785
Что такое социотехническая система и почему доверие в ней — проблема
Социотехническая система, это не просто «люди и компьютеры». Это сложный гибрид, где социальные взаимодействия (общение, договорённости, иерархии) неразрывно переплетены с техническими компонентами (алгоритмами, протоколами, интерфейсами). Примеры окружают нас: от системы электронного голосования, где гражданин доверяет интерфейсу, ПО, каналам передачи и организаторам, до платформы такси, соединяющей водителя, пассажира, алгоритм ценообразования и систему оплаты.
Ключевая проблема таких систем — асимметрия. Человек не может проверить каждый байт кода или понять логику нейросети, принимающей решение о его кредите. Он вынужден делегировать доверие непрозрачным механизмам. С другой стороны, система тоже «не доверяет» пользователю — проверяет его через капчу, двухфакторную аутентификацию, анализ поведения. Доверие становится двусторонним, но не симметричным ресурсом.
В контексте российских регуляторных требований, таких как 152-ФЗ о персональных данных или приказы ФСТЭК, это приобретает особое значение. Регулятор требует обеспечить безопасность и доверие к системе, но классические подходы (сертификация СЗИ, аттестация) часто работают с технической частью, упуская социальную составляющую. Как формализовать доверие пассажира к алгоритму такси или гражданина к госуслуге? Это требует новых моделей.
Эволюция понятия доверия: от межличностного к вычисляемому
Традиционно доверие изучали социологи и психологи. Это было субъективное, эмоциональное состояние, основанное на репутации, опыте и интуиции. В цифровой среде этот подход не работает. Невозможно построить эмоциональную связь с API или оценить репутацию микросервиса.
На смену пришло понятие «вычисляемого доверия». Его корни — в распределённых системах и криптографии. Пиринговые сети, такие как BitTorrent, или блокчейн-системы вынуждены были решать проблему: как узлам, которые не знают друг друга, сотрудничать без центрального арбитра? Ответом стали механизмы, основанные на стимулах и криптографических доказательствах. Доверие здесь — не вера, а рациональный расчёт, основанный на наблюдаемых действиях и экономических последствиях.
Этот сдвиг фундаментален. Доверие перестаёт быть прерогативой человека и становится атрибутом взаимодействия между людьми, программами и организациями. Его можно представить в виде числа, графа или вероятности.
Формальные модели доверия: основные подходы
Формальные модели переводят интуитивное понятие доверия в строгие математические или логические конструкции. Это позволяет анализировать, проектировать и проверять свойства систем.
Репутационные модели
Самый интуитивный подход. Каждый участник системы (агент) имеет репутационный балл, который вычисляется на основе истории его взаимодействий. Например, продавец на маркетплейсе имеет рейтинг, составленный из отзывов покупателей. В технических системах агентом может быть микросервис: его репутация, это метрики uptime, скорость ответа, отсутствие ошибок.
Сложность в том, как агрегировать отзывы, бороться с накруткой (сибил-атаки) и учитывать контекст. Репутация для продажи книг не равна репутации для продажи электроники. Формально это часто моделируется графами доверия, где узлы — агенты, а взвешенные рёбра — оценки доверия между ними. Алгоритмы, подобные PageRank, могут использоваться для вычисления глобальной репутации.
Логические и вероятностные модели
Эти модели отвечают на вопрос: «Если я доверяю A, а A доверяет B, можно ли мне доверять B?». Они оперируют правилами вывода, заимствованными из логики. Классическая модель — «алгебра доверия» Блаза-Ирвинга. В ней доверие рассматривается как мнение, имеющее степень неопределённости, и комбинируется по правилам, похожим на байесовские сети.
Например, система контроля доступа может использовать такие правила: «Доверие к пользователю = (доверие к его отделу) И (доверие к его устройству, если оно корпоративное)». Это позволяет строить сложные политики, где итоговое решение о предоставлении доступа вычисляется на основе цепи доверия.
Модели, основанные на доказательствах и аттестации
Этот подход наиболее близок к регуляторной практике ФСТЭК и 152-ФЗ. Доверие здесь строится не на субъективных оценках, а на объективных доказательствах соответствия определённым стандартам. Аттестат соответствия на систему защиты информации, это формализованное доказательство, порождающее доверие регулятора и пользователей.
Формальная модель в этом случае, это набор проверяемых утверждений (утверждений безопасности) и привязанных к ним доказательств (результаты тестирования, аудита, сертификаты). Система считается заслуживающей доверия, если она предоставляет необходимый набор доказательств для данного контекста риска. Современное развитие — continuous attestation, когда доказательства (целостность ПО, конфигурации) предоставляются и проверяются в реальном времени, а не раз в три года.
Применение в регуляторике и информационной безопасности
Формальные модели доверия перестают быть академическим упражнением. Они становятся инструментом для решения практических задач в области ИБ и соответствия требованиям.
- Динамический контроль доступа (Zero Trust). Архитектура Zero Trust декларирует «никому не доверяй, проверяй всегда». Но что значит «проверяй»? Формальные модели доверия дают ответ: доступ предоставляется, если вычисленный в реальном времени уровень доверия к запросу (на основе устройства, пользователя, контекста, поведения) превышает порог, необходимый для данного ресурса. Это не бинарное «да/нет», а градуированная оценка.
- Оценка рисков поставщиков (Third-Party Risk). Когда компания подключает внешний SaaS или передаёт данные на аутсорсинг, она вынуждена доверять третьей стороне. Формальные модели позволяют количественно оценить это доверие на основе данных аудитов, репутации, истории инцидентов, уровня сертификации и создать интегральный показатель риска.
- Верификация соответствия. Требования регуляторов (например, требования к защите персональных данных) можно формализовать в виде набора правил. Затем система может автоматически или полуавтоматически собирать доказательства их выполнения (логи, конфигурационные файлы, результаты сканирований). Уровень доверия к соответствию системы прямо зависит от полноты и достоверности этих доказательств.
Ограничения и вызовы формализации
Формализация доверия — не панацея. Она сталкивается с фундаментальными сложностями.
Во-первых, проблема редукции. Сводя доверие к числам и графам, мы неизбежно теряем нюансы. Контекстуальность, эмоциональная составляющая, культурные различия плохо поддаются формализации. Модель может показать высокий уровень доверия к системе, но пользователь всё равно будет её бояться из-за плохого UX или прошлого негативного опыта.
Во-вторых, проблема «ложной объективности». Цифры создают иллюзию точности. Однако если модель основана на неполных данных или содержит скрытые предубеждения (bias), её выводы будут лишь маскировать субъективность под математикой. Алгоритмы рекомендаций, основанные на доверии к похожим пользователям, могут создавать «фильтрующие пузыри».
В-третьих, эксплуатация моделей. Любая формальная система становится мишенью для атак. Если доверие основано на отзывах — их накручивают. Если на доказательствах целостности — атакуют цепочку поставок ПО для внедрения бэкдоров. Формальная модель должна включать в себя не только расчёт доверия, но и модель угроз для самого этого механизма.
Будущее: доверие как инфраструктура
Тренд ведёт к тому, что доверие станет такой же базовой инфраструктурой, как сети или хранение данных. Появятся доверительные протоколы, работающие поверх интернета, и службы, предоставляющие «доверие как услугу» (Trust-as-a-Service).
Уже сейчас мы видим зачатки в технологиях самосуверенной идентификации (SSI) и децентрализованных идентификаторов (DID), где доверие распределено и основано на верифицируемых цифровых credential. Регуляторы начинают говорить о «доверительных схемах» — стандартизированных наборах правил и технологий для построения доверия в конкретных отраслях (например, в дистанционной идентификации).
Итог в том, что игнорировать формализацию доверия больше нельзя. Для архитекторов безопасных систем, аудиторов и регуляторов понимание этих моделей превращается из теоретического интереса в профессиональную необходимость. Это инструмент, который позволяет говорить об одном из самых сложных аспектов цифрового мира на точном, проверяемом языке.