Оценка вероятностных характеристик. Вполне понятно, что при решении практических задач точные значения вероятностных характеристик, фигурирующих в правилах (6)-(8), чаще всего неизвестны. Однако при достаточном объеме наблюдений вероятности P(Vk) и P(Ai / Vk) могут быть оценены соответствующими частотами:
(9) (10)где Gk – число появлений k-го класса (k = 1,…M) в выборке из G наблюдений, а Eki – число ошибочных решений i-го эксперта (i = 1,…, N) при анализе ситуаций, когда объект Z принадлежит k-му классу.
Рассмотрим схему оценки частот (9),(10), которая удобна для практического применения и может быть положена в основу системы поддержки принятия коллективного решения. Предположим, что для каждого из G наблюдений известна точная принадлежность Z к одному из возможных классов, выраженная в виде указаний “учителя” y[1], y[2], … , y[G], где y[n]
. Запишем частоту появления k-го класса, оцененную согласно (9), в виде (11)где
Поскольку правую часть (11) можно выразить в виде суммы двух слагаемых
,в первом из которых фигурирует оценка частоты появления k-го класса, вычисленная по G-1 наблюдениям, то после очевидных преобразований получим
. (12)Для оценки вероятностей ошибок экспертов рассмотрим последовательность yk[1], yk[2], … , yk[Gk] указаний учителя, которые удовлетворяют условию yk[n] = k. Легко видно, что величина Eki , фигурирующая в правой части (11), может быть записана в виде суммы
,где
- штрафная функция, выраженная в формеТогда, оценка вероятности ошибки i-го эксперта при появлении k-го класса также может быть найдена по рекуррентной формуле
. (13)Из выражений (12),(13) видно, что при неограниченном росте числа наблюдений величина поправки стремится к нулю, что, естественно, согласуется с предельной теоремой Бернулли [20] о сходимости по вероятности частоты случайного события к его вероятности.
На основе предложенного подхода легко может быть реализована система поддержки принятия коллективных решений, архитектура которой показана на рис. 2.
Блок формирования коллективного решения реализует решающее правило (6) на основании вводимых в систему частных решений 1,…, N группы независимых экспертов A1,…, AN . При этом в правиле (6) используются текущие значения оценок вероятностных характеристик P(Vk) и P(Ai/Vk), (i=1,…,N, k=1,…,M), которые хранятся в базе данных (БД) системы. В БД фиксируются также соответствующие классам V1,…,VM объемы наблюдений G1,…,GM в выборке G = G1 + … + GM, по которой были оценены указанные вероятностные характеристики.
Если после принятия коллективного решения по правилу (6) появляется возможность проверить истинное состояние объекта исследования, то такая дополнительная информация вводится в систему в виде указания “учителя” y[n] и используется для коррекции текущих значений оценок P(Vk) и P(Ai/Vk), (i=1,…,N, k=1,…,M) с помощью рекуррентных формул (12) и (13).
Такая архитектура системы, совмещающая коллективное решающее правило с возможностью его периодической коррекции, может быть рекомендован в различных областях приложения. Покажем это на примере задачи медицинской диагностики.
Известно, что для диагностики заболеваний сердечно-сосудистой системы в кардиологической практике используется электрокардиография, эхокардиография, реография и многие другие неинвазивные (косвенные) методы обследования. При этом хорошо известно, что достоверность таких методов существенно ниже, чем прямого метода – коронарографии. Однако совершенно очевидно, что метод коронарографии не может быть рекомендован для массовых обследований пациента, поскольку он является достаточно дорогим, а самое главное - небезопасным для пациента.
В то же время, на основе предлагаемого подхода можно объединить различные неинвазивные методы диагностики, используя коллективное решающее правило (6), и тем самым повысить эффективность принимаемых решений. Если же по медицинским показаниям некоторым из обследованных пациентов все же будет проводиться коронарография, то ее результаты непременно следует использовать в качестве указаний “учителя”. Тем самым будет обеспечиваться постоянное повышение достоверности диагностики в процессе эксплуатации системы.
Заключение.
Согласно правилу (6) для принятия обоснованного коллективного решения о текущем состоянии
объекта исследования достаточно располагать лишь информацией об априорных вероятностях P(Vk) классов и условных вероятностях P(Ai/Vk) ошибок частных решений независимых экспертов. Важно отметить, что при решении практических задач правило (6) может быть использовано не только для интеграции решений группы людей, но и для совокупности различных алгоритмов.Для улучшения эффективности системы поддержки принятия решений предложено помимо реализации в ней самого решающего правила (6) обеспечить возможность постоянного улучшения вероятностных характеристик, фигурирующих в этом правиле, на основе рекуррентных процедур (12) и (13).
Рассмотренный подход нашел практическое применение при построении коллективного решающего правила для диагностики кардиологических патологий у больных с неизмененной ЭКГ на основе интеграции решений совокупности алгоритмов интерпретации карт плотностей тока в плоскости сердца [21].
Список литературы
1. Ларичев О.И. Наука и искусство принятия решений. – М: Наука, 1979. – 200 с.
2. Макаров И.М. Теория выбора и принятия решений. – М.: Наука,1987. – 350 с.
3. Макеев С.П., Шахнов И.Ф. Упорядочение альтернатив на основе расплывчатых оценок: Сообщения по прикладной математике.– М.: ВЦАН СССР, 1989. – 42 с.
4. Миркин Б.Г. Проблема группового выбора. – М.: Наука, 1974. – 256 с.
5. Мулен Э. Кооперативное принятие решений: аксиомы и модели. – М: Мир, 1991.–464 с.
6. Васильев В.И. Распознающие системы (справочник).-К.Наукова думка.-1983.- 422 с.
7. Барабаш Ю.Л. Коллективные статистические решения при распознавании. – М.: Радио и связь, 1983.–224 с.
8. On combining classifiers / J. Kittler, M. Hatef, R.P.W. Duin, J. Matas// IEEE Transactions on Pattern Analysis and Machine Intelligence.- 1998.- № 20.- P. 226–239.
9. Pranke J., Mandler E. A Comparison of Two Approaches for Combining the Votes of Cooperating Classifiers//Proceedings 11-th IAPR International Conference on Pattern Recognition,1992.- V. 2.- P. 611-614.
10. Kimura F., Shridhar M Handwritten numerical recognition based on multiple algorithms// Pattern Recognition, 1991.- V. 24.- No. 10.- P. 969-983.
11. Ho T.K., Hull J.J., Srihari S.N. Decision combination in multiple classifier systems//IEEE Transactions on Pattern Analysis and Machine Intelligence,1994.- V.16.- No. 1, 1994, P. 66-75.
12. Bagui S.C., Pal N.R. A multistage generalization of the rank nearest neighbor classification rule// Pattern Recognition Letters, 1995.- V. 16.- No. 6.- P. 601- 614.
13. Hashem S., Schmeiser B. Improving model accuracy using optimal linear combinations of trained neural networks// IEEE Transactions on Neural Networks,1995.- V.6.- No. 3.- P. 792-794.
14. Xu L., Krzyzak A., Suen C.Y. Methods of combining multiple classifiers and their applications to handwriting recognition// IEEE Trans. SMC,1992.- V. 22.- No. 3.- P. 418-435.
15. Cho S.B.,Kim J.H. Multiple network fusion using fuzzy logic// IEEE Transactions on Neural Networks.- 1995.- V. 6.- No. 2.- P. 497-501.
16. РастригинЛ.А., Эренштейн Р.Х. Коллектив алгоритмов для обобщения алгоритмов решения задач.- Известия АН СССР.Техническая кибернетики, 1978, № 2, с.116-119.
17. Woods K.S., Bowyer K., Kergelmeyer W.P. Combination of multiple classifiers using local accuracy estimates// jProc. of the IEEE Computer Vision and Pattern Recognition Conf. (CVPR’96), San Francisco, Ca, USA.- 1996. - P. 391-396.
18. Файнзильберг Л.С. Байесова схема принятия коллективных решений в условиях противоречий // Проблемы управления и информатики.- 2002.- № 3.- С. 112-122. (http://www.sciteclibrary.ru/rus/catalog/pages/5656.html)
19. Власов В.В. Эффективность диагностических исследований. - М.: Медицина, 1988.-256 с.
20. Вентцель Е.С. Теория вероятностей. - М.: Наука, 1969. – 576 с.
21. Possibilities of Magnetocardiography in Coronary Artery Disease Detection in Patient with Normal or Unspecifically Changes ECG / I.Chaikovsky, F.Steinberg, B.Heiler, V.Sosnitsky, N.Budnic, L.Fainzilberg // Proceeding of the 3-th International Congress on Coronary Artery Disease (Lyon, France, October 2-5, 2000), 2000.- P. 415-422.