Цифровая экосистема переживает эпистемологический перелом. Генеративные модели искусственного интеллекта производят убедительные, но нередко ошибочные тексты, изображения и аудио, ускоряя эрозию доверия к источникам знаний. ЮНЕСКО выносит эту проблематику в центр глобальной повестки Всемирной недели медийной и информационной грамотности 2025 года (Minds Over AI — MIL in Digital Spaces) и прямо предупреждает о рисках подмены реальности синтетическим контентом. На этом фоне Институт математических исследований сложных систем МГУ имени М.В. Ломоносова формирует технологически строгий и институционально проверяемый ответ — национальную интеллектуальную платформу «Ковчег знаний», ориентированную не на накопление случайных сведений, а на конструирование машиночитаемой инфраструктуры достоверного знания.
«AI can make mistakes… When people can no longer tell real reporting from AI-generated fiction, democracy itself is at risk». — ЮНЕСКО, Всемирная неделя МИГ-2025
Совпадающая оптика — глобальная рамка ЮНЕСКО и инженерная практика ИМИСС МГУ
ЮНЕСКО констатирует, что медиаграмотность — это уже не «надстройка», а базовый навык жизни в цифровой среде. При этом организация подчёркивает, что ответственность не может быть возложена исключительно на пользователей: принципы МИГ должны быть встроены в дизайн цифровых платформ. «Руководящие принципы по управлению цифровыми платформами» и «Многосторонний план действий по расширению прав пользователей» систематизируют требования к прозрачности, подотчётности и обеспечению инструментов оценки надёжности контента. В 2025 году фокус этой повестки артикулирован и институционально: ключевая конференция Всемирной недели МИГ проходит 23–24 октября в Картахене-де-Индьес (Колумбия), а 24–31 октября — глобальная неделя мероприятий под единым девизом «Разум над ИИ — МИГ в цифровом пространстве». (UNESCO)
ИМИСС МГУ отвечает комплементарно — на уровне архитектуры и данных. «Ковчег знаний» строится как онтологический граф знаний на стандартах RDF/OWL с метаонтологическим ядром и открытым шлюзом GraphQL→SPARQL, что обеспечивает воспроизводимую семантическую репрезентацию фактов, проверяемость логических связей и управляемый доступ внешних разработчиков. В этой модели доверие не делегируется интерфейсу, а встраивается в саму структуру знаний: происхождение и контекст (provenance & lineage) являются неотчуждаемыми свойствами каждой сущности.
«Вывод прост: нам нужен не просто большой, а проверяемый и структурированный источник знаний». — из материалов выступления на Московском фестивале «НАУКА 0+» 2025.
От «постфактум-проверки» к фабрике верификации
Кризис доверия обострён структурной асимметрией: автоматически и дёшево производимая недостоверность сталкивается с дорогостоящей и фрагментированной человеческой проверкой. Поэтому «Ковчег знаний» сознательно отказывается от доверия «по умолчанию» и реализует промышленный конвейер обработки данных с принципом zero trust. Любой материал проходит слои Raw–Silver–Gold; на каждом этапе действуют формализованные правила качества (Great Expectations), обеспечена прослеживаемость происхождения (Apache Atlas) и версионирование датасетов. Проверка — многоуровневая: машинный триаж (LLM-as-a-Judge) для приоритезации потока, алгоритмическая сверка с авторитетными источниками и обязательная экспертная рецензия профильными учёными. В «золотой фонд» попадают только подтверждённые факты с полной аудиторской историей.
Ключевым инструментом выступает индекс достоверности — вычислимая метрика, агрегирующая критерии истинности, нейтральности, полноты, актуальности и репрезентативной справедливости. Эта метрика переводит нормы академического письма в измеримый стандарт качества, который одинаково полезен редакторам и пользователям. По сути, это реализация того самого «инфраструктурного МИГ», к которому призывает ЮНЕСКО: критическое мышление экстернализуется в процессы, алгоритмы и интерфейсы платформы. (UNESCO)
От RAG к TAG, генерация, дополненная доверием
Технология retrieval-augmented generation (RAG) снижает произвольность ответов ИИ, но целиком наследует качество найденных источников; это «студент с открытой книгой», где качество ответа равно качеству «учебника». «Ковчег знаний» предлагает следующий шаг — trust-augmented generation (TAG): модели обращаются к верифицированным фактам в онтологическом графе, где каждому утверждению сопоставлены индекс достоверности и прослеживаемость происхождения. Такой режим снимает зависимость от «шума» сети и задаёт воспроизводимый стандарт ссылочности и ответственности для ИИ-сервисов.
Публичная коммуникация науки, ИМИСС МГУ на фестивале «НАУКА 0+»
ИМИСС МГУ выводит повестку доверенного знания в публичную сферу. На центральной площадке Всероссийского фестиваля «НАУКА 0+» (Москва, 10–12 октября 2025 г.) представлен доклад о «Ковчеге знаний», в котором архитектура платформы соотнесена с задачами ответственного ИИ и современного образования. Профессор Н.В. Лукашевич — лауреат Премии им. М.В. Ломоносова (2023) и первой Премии им. В.И. Левенштейна (2025) — показывает, как метаонтологии и проверяемые корпуса повышают эпистемическое качество ИИ-сервисов и меняют практику вычислительного гуманитарного знания. Тем самым университет реализует «третью миссию» — просвещение и открытый разговор об этике и стандартах достоверности.
Общая траектория, от норм к коду и от кода к нормам
ЮНЕСКО задаёт нормативные ориентиры — прозрачность, подотчётность, расширение прав пользователей — и институционализирует распределённую ответственность всех участников цифровой экосистемы. (UNESCO) ИМИСС МГУ материализует эти ориентиры в коде и данных: онтологический граф на открытых стандартах, фабрика верификации по принципу zero trust, индекс достоверности и управляемые интерфейсы доступа. В сумме возникает согласованный контур будущей информационной среды: человек остаётся субъектом критического суждения, а платформа обеспечивает источник по умолчанию для проверяемых фактов и корректных связей между ними. Именно так преодолевается дефицит доверия в эпоху ИИ — не опровержением каждого отдельного фейка, а производством и распространением достоверности как инженерного свойства инфраструктуры и как культурного стандарта общества.