(Экспертные системы.)
Символьный ИИ.
Пункт 3. Инженерная вершина символьного ИИ: экспертные системы.
- 05.04.26 г.
- 9772225665000 26011
1. Место экспертных систем в истории символьного ИИ.
Экспертные системы сместили вопрос с «как машина мыслит?» на «как передать машине знание эксперта?». Вместо попыток создать универсальный искусственный интеллект (ИИ) экспертные системы предложили узкоспециализированное, но практически применимое решение: «четко ограниченная предметная область + формализованные знания эксперта + логический вывод по правилам».
Экспертные системы в свое время стали наиболее успешным и коммерчески значимым направлением символьного искусственного интеллекта. Если символьный ИИ – это «кухня» (общие принципы: манипуляция символами, правила «если-то», логический вывод), то экспертные системы – это ее самое известное «блюдо».
К середине 1980-х годов рынок экспертных систем достиг сотен миллионов долларов. Это был явный коммерческий успех ИИ. Но именно экспертные системы впоследствии стали одной из главных причин «зимы ИИ», когда их фундаментальные ограничения стали очевидны.
2.Архитектура экспертной системы.
Экспертная система – это программа, имитирующая принятие решений человеком-экспертом в узкой предметной области. Ее ключевые особенности – прозрачность и контролируемость: каждое решение система может объяснить цепочкой примененных правил.
Архитектура экспертных систем включает четыре обязательных компонента.
База знаний – она хранит факты и правила вида «ЕСЛИ (условие), ТО (заключение)». Это –декларативная» часть системы.
Механизм вывода (ответа) применяет правила к фактам, делает логические выводы. Это – «процедурная» часть (прямой или обратный вывод).
Подсистема объяснений отвечает на вопрос «почему?». Она прослеживает цепочку сработавших правил.
Интерфейс пользователя вводит факты, задает уточняющие вопросы, выводит результат. Он обеспечивает диалог с пользователем.
Именно такая архитектура и есть практическая реализация гипотезы физической символьной системы Ньюэлла-Саймона: четкое разделение знаний (базы знаний) от способа их обработки (механизма вывода). Система не «понимает» содержание правил – она формально применяет их в соответствии с законами логики (но это, как будет оказано далее, является главной… проблемой символьного ИИ, да и всего ИИ).
3. Алгоритм работы экспертной системы (упрощенно).
Шаги алгоритма экспертных систем.
а. Получение фактов. Пользователь через интерфейс вводит данные о проблеме. Пример: «пациент_жалуется_на(кашель)» и «температура = 38.5».
б. Сопоставление с правилами. Механизм вывода сканирует базу знаний в поиске правил, условие которых соответствует известным фактам.
Пример правила: ЕСЛИ «температура > 38» И «есть кашель» ТО «возможен грипп» (уверенность 70%).
в. Разрешение конфликтов. Если активировалось несколько правил, система выбирает наиболее подходящее (например, самое конкретное или с наибольшим уровнем уверенности).
г. Выполнение действия. Срабатывает действие выбранного правила. Оно может:
– добавить новый факт в рабочую память («гипотеза(грипп)»),
– задать уточняющий вопрос пользователю («Есть ли головная боль?»),
– выдать рекомендацию.
д. Цикл. Процесс повторяется. Новые факты активируют новые правила. Цикл продолжается, пока не будет достигнута конечная цель (диагноз) или пока не кончатся применимые правила.
При этом на любом этапе пользователь может спросить: «Почему вы это спросили?» или «Как вы пришли к такому выводу?». Система, обращаясь к цепочке сработавших правил, дает логическое объяснение.
4. Создание экспертных систем. Инженерия знаний.
Экспертные системы программируются. Процесс их создания получил специальное название – инженерия знаний (knowledge engineering). Это отдельная дисциплина, возникшая в 1970-е годы. Инженер по знаниям (knowledge engineer) работает в тесном контакте с экспертом-человеком: проводит интервью, наблюдает за работой эксперта, выявляет правила принятия решений, формализует их в виде четких логических конструкций «ЕСЛИ–ТО» и загружает их в базу знаний.
Экспертные системы создаются на основе языков программирования и специальных инструментов (это принципиально отличает их от нейросетей).
Основные инструменты:
– специализированные языки: Lisp, Prolog, CLIPS, они идеально подходят для работы с символами и логическими правилами,
– универсальные языки: Python, Java, C++, на них пишут механизм вывода и интерфейсы.
5. Примеры экспертных систем:
– DENDRAL (1965–1970) – одна из самых первых экспертных систем, которая предназначалась для определения молекулярной структуры органических соединений по данным масс-спектрометрии. Считается предшественницей всех последующих систем;
– MYCIN (1970-е) – диагностика бактериальных инфекций и рекомендация антибиотиков. Достигла точности, сопоставимой с экспертами-медиками;
– XCON (R1) (1980-е) – конфигурирование компьютерных систем для компании DEC. Позволила сэкономить миллионы долларов и стала одним из самых известных коммерческих успехов экспертных систем.
6. Экспертные системы vs нейронные сети: принципиальное различие.
Экспертные системы и нейросети – это два разных подхода к ИИ, и их часто путают. Укажем их ключевые различия.
Для экспертных систем основой являются языки программирования, логические правила, а для нейронных сетей – математические модели и алгоритмы обучения.
Для экспертных систем источником знаний является база знаний, а для нейронных сетей – большие массивы данных (датасеты).
Для экспертных систем процесс «обучения» заключается в загрузке знаний инженером, то есть экспертные системы не обучаются, а нейронные сети обучаются автоматически на примерах.
У экспертных систем объяснимость высокая, поскольку видна цепочка правил, а у нейронных сетей – низкая: о них говорят, как о «черных ящиках».
У экспертных систем гибкости нет, она не работают вне заложенных правил, а нейронные сети гибкие: они могут обобщать и работать с новыми примерами.
Основная задача у экспертных систем – это моделирование логики рассуждений эксперта, а у нейронных сетей – распознавание образов, выявление паттернов.
Простая аналогия:
– экспертная система – это подробная инструкция, написанная опытным мастером: компьютер просто следует ей шаг за шагом,
– нейронная сеть – это стажер, который просмотрел тысячи примеров и сам вывел свои правила, но не может объяснить их и то, почему принял он то или иное решение.
Вывод: экспертные системы и нейросети – разные инструменты для разных задач. Их нельзя смешивать, хотя современные гибридные системы иногда пытаются объединить оба подхода.
7. Проблема «бутылочного горлышка знаний» (knowledge acquisition bottleneck).
Главная проблема экспертных систем оказалась не технической, а человеческой и организационной. Ее назвали «бутылочным горлышком знаний»:
– извлечение знаний – эксперты не могут явно сформулировать свою интуицию: «Я знаю, как это делаю, но не могу объяснить»,
– трудоемкость – формализация знаний: это долгий, дорогой процесс, требующий совместной работы инженера и эксперта,
– поддержание системы – расширение и обновление базы знаний требует постоянных усилий, так как система не учится сама,
– масштабирование – с ростом числа правил система становится неповоротливой и, главное, возникают конфликты правил.
Именно «бутылочное горлышко» в конечном итоге привело к кризису экспертных систем и стало одной из главных причин «зимы ИИ» в конце 1980-х – начале 1990-х годов.
8. Критические выводы.
Экспертные системы – это инженерная вершина символьного ИИ.
Однако успех экспертных систем оказался Пирровой победой. Они продемонстрировали фундаментальные ограничения всего символьного подхода:
а. логика работает только в узких, формализуемых областях,
б. логика слепа к истинности посылок, к контексту, к неопределенности,
в. знания нельзя просто «загрузить», так как они укоренены в практике, интуиции, телесном опыте эксперта,
г. высокая прозрачность не спасает – можно объяснить каждое решение и все равно прийти к катастрофе, если исходные посылки ложны.
Экспертные системы не решили проблему истинности посылок – они лишь сделали ее более зримой.
(Именно слепота экспертных систем – кстати, характерная для всей формальной логики – станет центральной темой при обсуждении ИИ нами.)
9. Примеры современных экспертных систем (2025–2026 годы).
Хотя «чистые» экспертные системы 1980-х ушли в прошлое, rule-based системы активно живут и развиваются. Сегодня они чаще всего работают в гибридном режиме (вместе с нейросетями) и используются там, где особенно важны объяснимость, безопасность и соответствие регуляторным требованиям.
Медицина. Системы клинической поддержки решений в Epic Systems и Oracle Health (Cerner) – самые распространенные в мире электронные медицинские карты. Встроенные rule-based модули автоматически проверяют назначения лекарств, выявляют противопоказания и генерируют алерты по клиническим протоколам.
Финансы. IBM Operational Decision Manager и Red Hat Decision Manager (на базе Drools) используются в крупных банках для автоматической проверки кредитных заявок, борьбы с отмыванием денег и соблюдения регуляторных норм.
Юриспруденция. Thomson Reuters CoCounsel и Harvey AI – гибридные системы, где rule-based компоненты проверяют контракты на соответствие законодательству, а нейросети помогают с анализом текста.
Автономный транспорт. В системах Waymo, Mobileye и частично Tesla существует отдельный rule-based safety layer (слой безопасности). Даже если нейросеть предлагает маневр, правила могут его заблокировать, если он нарушает жесткие требования безопасности («никогда не выезжай на красный», «сохраняй минимальную дистанцию» и т.д.).
Эти примеры показывают, что экспертные системы не умерли – они стали «невидимой страховкой» в самых ответственных областях.
10. Будущее экспертных систем.
Несмотря на все ограничения, экспертные системы не исчезнут. Они эволюционируют и занимают все более важное место именно там, где цена ошибки крайне высока.
Сегодня наблюдается возрождение rule-based подхода в двух основных формах:
– гибридные нейро-символьные системы (Neuro-Symbolic AI). Нейросети отвечают за распознавание образов и работу с неструктурированными данными, а экспертные правила – за логику, безопасность и объяснимость;
– автоматизированная инженерия знаний. Большие языковые модели помогают инженерам знаний быстрее извлекать правила из экспертов и автоматически генерировать базы знаний. Это частично решает проблему «бутылочного горлышка».
В ближайшие 5–10 лет экспертные системы (или их современные потомки) будут особенно востребованы в сферах, где требуются гарантированная объяснимость и соответствие регуляторным требованиям (медицина, финансы, юриспруденция, авиация, атомная энергетика, автономный транспорт). Европейский регламент (EU AI Act) и аналогичные документы прямо требуют высокого уровня объяснимости для систем высокого риска. В таких условиях rule-based компоненты становятся незаменимой «страховкой» и «прозрачным мозгом» ИИ.
11. Вывод.
Экспертные системы возвращаются, но не как конкуренты нейросетей, а как их необходимое дополнение. Они напоминают, что интеллект – это не только способность узнавать паттерны, но и способность объяснять и гарантировать свои решения. Именно поэтому изучение экспертных систем остается важным: они учат видеть границы и сильные стороны каждого подхода к искусственному интеллекту.
>> Дискуссии и конференции. AI