МИКРО- И МАКРОМОДЕЛИ ПРОЦЕССА ИНФОРМАЦИОННОГО ВЗАИМОДЕЙСТВИЯ В СОЦИАЛЬНЫХ СИСТЕМАХ
Авторы:
1.
Астраханский государственный технический университет
2.
Астраханский государственный технический университет
Тип:
Статья
Страницы:
с 107
по 118
Статус:
Опубликован
Получено:
05.01.2019
Одобрено:
28.02.2020
Опубликовано:
25.01.2019
Классификаторы:
ВАК 05.12.2013 Системы, сети и устройства телекоммуникаций
ВАК 05.13.01 Системный анализ, управление и обработка информации (по отраслям)
ВАК 05.13.06 Автоматизация и управление технологическими процессами и производствами (по отраслям)
ВАК 05.13.10 Управление в социальных и экономических системах
ВАК 05.13.18 Математическое моделирование, численные методы и комплексы программ
ВАК 05.13.19 Методы и системы защиты информации, информационная безопасность
УДК 519.71
ГРНТИ 20.01 Общие вопросы информатики
ГРНТИ 28.01 Общие вопросы кибернетики
ГРНТИ 49.01 Общие вопросы связи
ГРНТИ 50.01 Общие вопросы автоматики и вычислительной техники
ГРНТИ 82.01 Общие вопросы организации и управления
ВАК 05.13.01 Системный анализ, управление и обработка информации (по отраслям)
ВАК 05.13.06 Автоматизация и управление технологическими процессами и производствами (по отраслям)
ВАК 05.13.10 Управление в социальных и экономических системах
ВАК 05.13.18 Математическое моделирование, численные методы и комплексы программ
ВАК 05.13.19 Методы и системы защиты информации, информационная безопасность
УДК 519.71
ГРНТИ 20.01 Общие вопросы информатики
ГРНТИ 28.01 Общие вопросы кибернетики
ГРНТИ 49.01 Общие вопросы связи
ГРНТИ 50.01 Общие вопросы автоматики и вычислительной техники
ГРНТИ 82.01 Общие вопросы организации и управления
Язык материала:
русский
Ключевые слова:
математическое моделирование, социальная система, микро- и макроописание, процесс информационного взаимодействия, распространение информации, распределение мнений, управленческие решения
Аннотация (русский):
Процессы, происходящие в социальных системах, в настоящее время все чаще изучаются методами системного анализа и математического моделирования. В первую очередь это касается процессов распространения информации в социальной среде. Понимание закономерностей информационного обмена в социальной системе позволяет проводить мониторинг информационного фона, прогнозировать динамику формирования мнений, оценивать уровень использования каналов социальной коммуникации и, как следствие, вырабатывать эффективные информационные управленческие решения и принимать меры для противодействия вредоносным информационным акциям. Необходимы научно обоснованные подходы к проведению исследований в социальных системах разного масштаба, получению и интерпретации данных, характеризующих участников информационного обмена. К рассмотрению представлены разработанные математические модели процесса информационного взаимодействия, основанные на двух подходах к описанию социальных систем - на микро- и макроуровне. Путем проведения компьютерных имитационных экспериментов подтверждено качественное и количественное совпадение результатов расчета информированности и распределения спектра мнений, полученных с помощью этих моделей.
Процессы, происходящие в социальных системах, в настоящее время все чаще изучаются методами системного анализа и математического моделирования. В первую очередь это касается процессов распространения информации в социальной среде. Понимание закономерностей информационного обмена в социальной системе позволяет проводить мониторинг информационного фона, прогнозировать динамику формирования мнений, оценивать уровень использования каналов социальной коммуникации и, как следствие, вырабатывать эффективные информационные управленческие решения и принимать меры для противодействия вредоносным информационным акциям. Необходимы научно обоснованные подходы к проведению исследований в социальных системах разного масштаба, получению и интерпретации данных, характеризующих участников информационного обмена. К рассмотрению представлены разработанные математические модели процесса информационного взаимодействия, основанные на двух подходах к описанию социальных систем - на микро- и макроуровне. Путем проведения компьютерных имитационных экспериментов подтверждено качественное и количественное совпадение результатов расчета информированности и распределения спектра мнений, полученных с помощью этих моделей.
Ключевые слова:
математическое моделирование, социальная система, микро- и макроописание, процесс информационного взаимодействия, распространение информации, распределение мнений, управленческие решения
математическое моделирование, социальная система, микро- и макроописание, процесс информационного взаимодействия, распространение информации, распределение мнений, управленческие решения
Социальные системы (СС) как целостные образования, включающие отдельных индивидов и социальные общности, объединенные разнообразными связями и взаимоотношениями, традиционно являлись объектом исследований гуманитарных наук (социологии, политологии, обществоведения и пр.). Однако в последнее время изучению процессов, протекающих в СС, пристальное внимание стали уделять ученые, круг научных интересов которых лежит в области системного анализа, математического моделирования, теории информации и т. п. В первую очередь это касается процессов распространения информации в социальной среде [1-3]. Прогресс информационных технологий способствовал возникновению и популяризации новых форм социальной коммуникации, что привело к значительной интенсификации информационных потоков. Появились возможности использования коммуникационных каналов для организации и проведения масштабных акций информационно-психологического влияния, и это стало серьезной угрозой стабильности общества и безопасности личности. В сложившихся условиях для выявления и противодействия деструктивным информационным течениям необходимо хорошо представлять особенности процесса распространения информации с учетом возможностей современных средств массовых коммуникаций. Понимание закономерностей процесса информационного взаимодействия (ПИВ) в СС позволит вырабатывать эффективные управленческие решения и принимать меры для регулирования и стабилизации «информационного фона».При этом сложность управления социальными процессами связана, прежде всего, с тем, что большинство параметров, характеризующих систему, носит не физический, а скорее психологический и социологический характер. Человек, являясь ключевым элементом социальных систем, привносит в задачи их анализа фактор субъективной неопределенности, что превращает моделирование процессов в таких системах в слабо формализуемую проблему [4]. Кроме того, существует необходимость проведения исследований в социальных системах разного масштаба, что затрудняет процедуры получения и интерпретации данных, характеризующих членов СС, и их дальнейший анализ. Таким образом, актуальной задачей является разработка моделей и алгоритмов, позволяющих описывать состав и структуру социальных систем и исследовать процессы информационного обмена в них. Состояние проблемы Изучению особенностей информационного взаимодействия в СС посвящен ряд научных работ, среди которых наиболее полное и системное изучение вопроса приведено в трудах сотрудников Института проблем управления им. В. А. Трапезникова Российской академии наук под руководством академика Д. А. Новикова. В работе [5, с. 62] дано определение информационного управления как «процесса выработки управленческих решений в ситуации, когда управляющее воздействие носит неявный, косвенный характер, и объекту управления представляется определенная информация о ситуации, ориентируясь на которую этот объект как бы самостоятельно выбирает линию своего поведения». В статьях [6, 7] рассмотрены модели формирования динамики мнений относительно той или иной распространяемой информации, и управление, в общем случае, заключается в изменении степеней влияния/доверия и репутаций участников общения. В статье [8] приведены понятия микро- и макроописания социальных систем, под которыми понимаются два подхода к построению и исследованию СС: в рамках первого подхода принимается во внимание структура графа взаимовлияний участников и их индивидуальное принятие решений, а в соответствии со вторым подходом структура связей в СС усредняется и поведение ее членов рассматривается «в среднем». Однако в существующих моделях нашли отражение не все специфические особенности социальных систем, которые представляют интерес в прикладных исследованиях - в них не учитываются субъективные личностные характеристики участников коммуникации, оказывающие влияние на ПИВ, например степень их общительности и готовности распространять полученную информацию. Поэтому при моделировании ПИВ предлагается использовать специальный инструментарий - аппарат теории нечетких множеств и нечеткого когнитивного моделирования, что позволит более точно оценивать и учитывать субъективные особенности участников взаимодействия, не имеющие корректного количественного выражения, и формализовывать информацию, носящую вербальный характер [9, 10]. Также одним из перспективных направлений моделирования процессов, происходящих в социальных структурах, является мультиагентный подход. В его рамках элементы системы анализируются как отдельные, взаимодействующие между собой единицы. Это позволяет исследовать свойства СС в целом, исходя из свойств входящих в нее элементов и правил взаимодействия между ними. Таким образом, целью данной работы является описание разработанных с использованием методов системного анализа, нечеткой логики и теории нечетких множеств, теории вероятностей, математической статистики и мультиагентного подхода математических моделей ПИВ, основанных на микро- и макроописании СС, и сравнительный анализ результатов, полученных с использованием данных моделей. Математические модели процесса информационного взаимодействия в социальных системах При описании процесса распространения информации в социальных системах предлагается учитывать следующие личностные параметры, характеризующие агентов СС: - показатель «уровень консерватизма» представляет собой способность сохранять свое мнение под воздействием информационного фона («высокий» консерватизм - склонность всегда оставаться при своем мнении). Обратным к уровню консерватизма является показатель восприимчивости чужого мнения (конформизма), который в отдельных случаях является более удобным для применения в расчетах; - уровень коммуникабельности (общительности) агента, от которого во многом зависит вероятность того, что человек будет распространять ставшую ему известной информацию; - степень доверия участника ПИВ к источникам - характеристика, определяющая весомость мнений тех агентов информационного обмена, через которых получена информация. Для формализации субъективных данных (в частности о формирующихся мнениях участников ПИВ относительно распространяемой информации) определена лингвистическая переменная «Уровень фактора» и терм-множество ее значений из трех или пяти элементов: (1) (2) В качестве семейства функций принадлежности для терм-множества лингвистической переменной с пятью элементами используется классификатор, в котором соответствующие функции принадлежности нечетких чисел представляют собой трапеции: При формировании среды для имитационного моделирования ПИВ возможны два подхода: модель М1 используется для малых по масштабу социальных систем (МСС), когда существует возможность получения исходных данных, однозначно характеризующих каждого агента (микроописание); для больших социальных систем (БСС), численность которых настолько велика, что это затрудняет получение параметров модели для каждого агента, разработана модель М2, основанная на макроописании системы и позволяющая оперировать обезличенными данными, нося-щими статистический характер. Исходные данные для модели М1 носят «детерминированный» (не вероятностный) характер. Например, в небольших организациях матрица информационного обмена, уровень интереса сотрудника к распространяемой информации и степень доверия к ее источнику в рамках определенных тематик могут быть получены непосредственно из анализа сведений, представляемых службой управления персоналом. В этом случае можно представить информационное взаимодействие в СС, состоящей из N членов, в виде графа S = (M, D), вершинами которого служат люди . Тогда множество ребер будет отражать потенциально возможный информационный обмен между ними, образуя «матрицу информационного обмена»: Информационное взаимодействие в МСС также характеризуется матрицей доверия TI к блоку информации I, элементы которой могут быть выражены нечеткими числами. Процесс информационного взаимодействия представляется следующим образом: блок информации I вносится в социальную среду в начальный момент времени t = 0 конечным числом ее представителей . Множество - инициализирующее множество (ИМ). Межличностный информационный обмен обеспечивает распространение информации между участниками: j-й агент, обладающий информацией I, доносит ее до сведения i-го агента вместе со своим мнением об этой информации. Изначально количество информированных участников предполагается равным объему ИМ L из генеральной совокупности N. При этом если распространение информации осуществляется с целью управленческого воздействия, то ИМ формируется таким образом, чтобы его члены имели преобладающее позитивное (или негативное) отношение к внедряемому информационному блоку, обладали обширными связями, были достаточно общительны и пользовались доверием среди участников информационного взаимодействия. При моделировании ПИВ получение информации i-м участником отражается путем изменения с 0 на 1 соответствующей координаты в векторе информированности : «Индикатор передачи информации» i-м агентом («индикатор репоста») обозначает его готовность распространять информацию. Этот динамический показатель зависит как от степени общительности участника коммуникации Oi, так и от выраженности его текущего мнения. Индикатор репоста равен 0, если степень общительности оценена значением Н (Низкий) из терм-множества (1), либо если агент имеет слабо выраженное негативное (С-), нейтральное (Н) или слабо выраженное позитивное (С+) отношение к информации I, не приводящее к ее дальнейшему распространению. Совокупность индикаторов передачи информации представляется вектором репоста . Для оценки текущего (в дискретный момент времени t = t + 1) отношения i-го представителя СС к блоку информации I после обмена мнениями с другими участниками предлагается использовать формулы где - нечеткое значение отношения участника Mi к блоку информации I в дискретный момент времени (t + 1) (мнение оценивается значением из терм-множества (2), которому впоследствии можно поставить в соответствие нечеткое число из приведенного классификатора); [-1; 1] - дефаззифицированное (четкое) значение отношения Mi к блоку информации I в дискретный момент времени (t + 1); Def - дефаззификация нечеткого значения, для которой используется метод «центра тяжести»; - коэффициент консерватизма участника Mi, отражающий, насколько он полагается на собственное мнение в рамках тематики блока информации I. Вклад в изменение мнения агента Mi той информации, которая стала ему известной от окружающих в момент времени (t + 1), отражает так называемая «социальная интегральная сила» (Cumulative Social Power, CSP) [11]. Для ее определения предлагается использовать формулу где - взвешенные по степени доверия к источнику суммы позитивных и негативных мнений, высказанных другими участниками в момент времени (t + 1); - количество поступивших в момент времени (t + 1) позитивных и негативных отзывов об информации I соответственно; где - позитивное мнение, поступившее к Mi от j-го участника в момент времени (t + 1); - негативное мнение, поступившее к Mi от k-го участника в момент (t + 1). Совокупность отражает «спектр мнений» членов СС относительно информации I в момент времени (t + 1). Процесс информационного обмена прекращается, если Хэммингово расстояние ρH между текущим вектором и вектором , полученным на предыдущем шаге по времени, не превышает некоторого значения N* (задается перед проведением моделирования): Хэммингово расстояние [0; N] соответствует количеству участников общения, изменивших свое мнение между двумя последовательными шагами по времени. Когда ρH становится незначительным, обсуждение информационного блока I в социальной среде считается завершенным. Формулы расчета модели М2 ПИВ, использующей описание СС на макроуровне, позволяют дать усредненную оценку информированности и распределения мнений членов БСС. При сборе и обработке исходных данных для исследования БСС предлагается метод исследования репрезентативной выборки. Статистические распределения параметров, позволяющие восстановить соответствующие характеристики всей системы, устанавливаются в пределах выборки. В целях повышения репрезентативности предлагается использовать методологию выборочного исследования, основанную на определении квотных групп. Квотная выборка формируется из групп людей, характеризуемых различными значениями существенных признаков, влияющих на результат информационного обмена. Квотные группы составляются по сопряженным признакам с сохранением пропорций, присущих генеральной совокупности. Данные о количественном составе групп обычно доступны на сайтах органов государственной статистики. Далее для расчета общего количества информированных агентов на каждом такте моделирования (шаге обсуждения) большое значение имеет количество их связей, также определяемое по результатам исследования репрезентативной выборки. При этом целесообразно выделить несколько диапазонов возможного числа связей , и соответственно, n категорий участников ПИВ, имеющих такие границы общения. Распределение числа связей в БСС выражается долями агентов в каждой категории . Процесс информационного обмена между агентами проходит по следующим правилам: 1) делятся информацией только агенты, имеющие высокий коэффициент коммуникабельности (общительности) Oi; 2) распространяют информацию со своей оценкой только агенты с сильно выраженным отношением к ней (позитивным или негативным). После первой итерации (первого такта) обсуждения количество участников, обладающих информацией, определяется следующим образом: где - среднее значение количества связей в i-м диапазоне. Множитель (N - L)/N отражает долю оставшихся неинформированными участников ПИВ на данном такте. На шаге по времени t = t + 1 количество информированных участников СС определяется по формуле где - количество агентов с сильно выраженным положительным и отрицательным мнением на предыдущем шаге по времени; qt - доля агентов на шаге t, готовых дальше распространять информацию. Значение коэффициента qt, входящего в формулу, зависит от доли участников ПИВ с высоким уровнем общительности, а также от актуальности распространяемой информации на временном шаге t. Таким образом, количество информированных членов СС представляет собой функцию где - коэффициент связности БCC (усредненное количество связей между агентами в системе). Формирование мнений в ходе информационного обмена зависит от восприимчивости участников к информационному фону. Показатель «коэффициент восприимчивости к чужому мнению» (коэффициент конформности, внушаемости) для участников ПИВ может быть оценен значением из терм-множества (1). Соответственно, доли агентов с различной степенью восприимчивости обозначим как . Введем следующие обозначения для определения «спектра мнений» членов СС: - K++ - количество агентов с сильно выраженным положительным мнением (их доля составляет); - K+ - количество агентов с положительным мнением (); - KH - количество агентов с нейтральным отношением (); - K- - количество агентов с отрицательным отношением (); - K- - - количество агентов с сильно выраженным отрицательным отношением (). Начальное распределение мнений в БСС определяется по данным репрезентативной выборки. Определим следующие правила, влияющие на динамику изменения мнений агентов: 1) мнение участников с низкой восприимчивостью не меняется; 2) участники со средней и высокой восприимчивостью, получая эмоционально окрашенные отзывы, меняют мнение; 3) из категорий участников с сильно выраженным мнением «выходят» (вычитаются) люди со средней и высокой восприимчивостью, получившие противоположные своим убеждениям отзывы. Участники со средней восприимчивостью формируют просто положительное или отрицательное мнение, с высокой восприимчивостью - становятся нейтральными; 4) участники из «нейтральной» группы с высокой восприимчивостью формируют сильно выраженное мнение (положительное или отрицательное), получая соответствующие отзывы; 5) «нейтральные» участники со средней восприимчивостью приобретают просто положительное или отрицательное мнение сообразно полученным отзывам; 6) участники с положительным мнением и средней или высокой восприимчивостью, получая положительные же отзывы, формируют сильно выраженное положительное мнение; 7) участники с отрицательным мнением и средней или высокой восприимчивостью, получая отрицательные же отзывы, формируют сильно выраженное отрицательное мнение; 8) участники с положительным мнением и средней восприимчивостью, получая отрицательные отзывы, становятся нейтрально настроенными. Если восприимчивость высокая, у них формируется отрицательное мнение; 9) мнение участников с отрицательным мнением и средней восприимчивостью, получивших положительные отзывы, становится нейтральным. Если восприимчивость высокая, у них формируется положительное мнение. На основании сформулированных правил количество агентов с сильно выраженным положительным мнением на шаге моделирования t = t + 1 определяется следующим образом: Множители и отражают доли участников ПИВ, делящихся сильно выраженным положительным и отрицательным мнением соответственно. Количество участников с положительным мнением, в соответствии с правилами поведения агентов ПИВ, рассчитывается следующим образом: Расчет количества участников с нейтральным отношением к I производится следующим образом: Количество агентов с отрицательным и сильно отрицательным мнением определяется аналогично. Программный комплекс для имитационного моделирования (ПКИМ) ПИВ, основанный на алгоритмах расчетов в соответствии с моделями М1 и М2, был реализован на объектно-ориентированном языке программирования C#. Пользователь имеет возможность проведения имитационных экспериментов для произвольной СС, характеризуемой любыми показателями. В частности, в ПКИМ входит модуль генерации входных данных для М1, позволяющий имитировать состав агентов СС с различными макрохарактеристиками, задаваемыми исследователем, и организовывать серии экспериментов. Алгоритмы двух представленных подходов к описанию СС, реализованные в программе, показаны на рис. 1. Для выходных данных программа создает XML-файл, структура которого предусматривает хранение результатов расчетов на каждом такте моделирования и их последующее отображение в удобной для анализа табличной форме. Рис. 1. Алгоритмы моделей М1 и М2 Расчетный пример Согласно проведенным с помощью ПКИМ расчетам установлено, что: - нарастание количества информированных участников во времени представляет собой гладкую монотонно возрастающую нелинейную функцию, имеющую S-образную форму; - для данного процесса характерно наличие нескольких ярко выраженных этапов: медленного нарастания, резкого лавинообразного роста и последующего замедления процесса распространения информации. Также путем проведения компьютерных имитационных экспериментов установлено качественное и количественное совпадение результатов расчета информированности и распределения спектра мнений в СС, полученных с помощью моделей М1 и М2 ПИВ. Численные эксперименты были проведены при различных характеристиках СС. На рис. 2 и 3 показаны типовые примеры расчетов: слева - количества информированных агентов К, справа - количества агентов с сильно выраженным положительным мнением K++. а б Рис. 2. Результаты эксперимента 1: а - изменение количества информированных агентов; б - изменение количества агентов с сильно выраженным положительным мнением а б Рис. 3. Результаты эксперимента 2: а -изменение количества информированных агентов; б - изменение количества агентов с сильно выраженным положительным мнением Набор входных данных, имитирующий СС с требуемым составом агентов для модели М1, генерировался в ПКИМ. Эксперимент 1 (рис. 2): - общая численность СС - 1 000 человек; - размер ИМ - 1 % (все члены ИМ с сильно положительным отношением к распро-страняемой информации); - количество связей: от 1 до 5 - у 80 % участников, от 6 до 20 - 20 %; - начальное распределение мнений: сильно положительное ; положительное ; нейтральное ; отрицательное ; сильно отрицательное (преимущественно нейтральная равновесная среда); - готовность распространять полученную информацию: q0 = 0,35; - восприимчивость: низкая ωH = 0,4; средняя ωC = 0,4; высокая ωB = 0,2. Эксперимент 2 (рис. 3): - общая численность СС - 10 000 человек; - размер ИМ - 0,3%; - количество связей: от 1 до 5 - 75 %, от 6 до 20 - 25 %; - начальное распределение мнений: ; ; ; ; ; - готовность распространять полученную информацию: q0 = 0,4; - восприимчивость: ωH =0,3; ωC = 0,5; ωB = 0,2. Проведение многочисленных экспериментов позволило сделать вывод о совпадении с высокой степенью точности результатов, полученных с помощью разработанных моделей М1 и М2, при описании ПИВ в СС с одинаковыми входными параметрами. Выводы Предложенные подходы к исследованию процесса информационного взаимодействия в социальных системах позволяют: - исследовать закономерности процесса распространения информации и проводить мониторинг информационного фона; - изучать специфику процессов социальной коммуникации в регионах и на основе полученных данных оценивать уровень обеспеченности и эффективность использования информационных ресурсов; - прогнозировать динамику формирования мнений в СС и, как следствие, обоснованно и целенаправленно вырабатывать управленческие решения с целью приведения распределения мнений к желательным для ЛПР значениям; - обоснованно планировать и осуществлять информационно-управленческое воздействие на социальные системы различного масштаба, а также сократить время планирования и повысить эффективность таких воздействий; - проводить в социальных системах информационные управленческие акции с различным эффектом - от организации и поддержки отдельных легитимных информационных течений до противодействия вредоносным. Следует отметить, что использование модели М1 позволяет получить более детализированные результаты. Для систем, в которых получение исходных данных по каждому из агентов затруднено, целесообразно использование модели М2.
1. Pastor-Satorras R., Vespignani A. Epidemic spreading in scale-free networks // Phys. Rev. Lett. 86. 2001. P. 3200-3203.
2. Newman M. E., Girvan M. Finding and evaluating community structure in networks // Phys. Rev. E 69. 2004. P. 53-58.
3. Gubanov D. A., Chkhartishvili A. G. A conceptual approach to online social networks analysis // Automation and Remote Control. 2015. V. 76. N. 8. P. 1455-1462.
4. Ажмухамедов И. М. Синтез управляющих решений в слабо структурированных плохо формализуемых социотехнических системах // Управление большими системами. 2013. № 42. С. 29-54.
5. Кульба В. В., Малюгин В. Д., Шубин А. Н. Информационное управление (предпосылки, методы и средства) // Проблемы управления. 2003. № 1. С. 62-67.
6. Губанов Д. А., Новиков Д. А., Чхартишвили А. Г. Модели репутации и информационного управления в социальных сетях // Математическая теория игр и ее приложения. 2009. Т. 1. Вып. 2. С. 14-37.
7. Бреер В. В., Новиков Д. А. Модели управления толпой // Проблемы управления. 2012. № 2. С. 38-44.
8. Бреер В. В., Новиков Д. А., Рогаткин А. Д. Микро- и макромодели социальных сетей. Ч. 1. Основы теории // Проблемы управления. 2014. № 5. С. 28-33.
9. Ажмухамедов И. М., Мачуева Д. А., Красноперова А. А. Математическое моделирование процесса информационного воздействия на антропогенную подсистему организации // Прикаспийский журнал: управление и высокие технологии. 2017. № 3. С. 61-69.
10. Мачуева Д. А., Ажмухамедов И. М. Моделирование процесса информационного взаимодействия в социальных системах // Системы управления, связи и безопасности. 2018. № 2. С. 18-39.
11. Добрынин В. Н. Самоорганизация и интеллектуальное управление развитием социотехнических систем. Ч. 1. Состояние и пути решения проблемы // Системный анализ в науке и образовании. 2010. № 3. С. 12-42.
