ТАТЬЯНА АНДРЕЕВА ПОНЯТИЕ ОКРУЖЕННОГО ЭЛЕМЕНТА И ПРИМЕНЕНИЕ ЭТОГО

ТАТЬЯНА АНДРЕЕВА ПОНЯТИЕ «ОКРУЖЕННОГО» ЭЛЕМЕНТА И ПРИМЕНЕНИЕ ЭТОГО ПОНЯТИЯ К РЕШЕНИЮ НЕКОТОРЫХ ЗАДАЧ КЛАССИФИКАЦИИ Наука вовсе не является коллекцией законов, собранием несвязных фактов. Она является созданием человеческого разума с его свободно изобретенными идеями и понятиями. Альберт Эйнштейн РУКОВОДИТЕЛЬ: А. Е. ЛЕПСКИЙ

ПОСТАНОВКА ЗАДАЧИ Даны два линейно неразделимых класса А и В. Необходимо разделить их наилучшим образом с точки зрения минимума вероятности неверной классификации.

ПОНЯТИЕ «ОКРУЖЕННОГО» ЭЛЕМЕНТА Определение. Если максимальный угол между векторами с началом в точке b и концами в точках класса А, между которыми нет других элементов, меньше либо равен π, то элемент b называется «окруженным» классом А; в противном случае – «неокруженным» . b – элемент, «окруженный» классом А, с – элемент, «неокруженный» классом А.

АЛГОРИТМЫ ВЫДЕЛЕНИЯ «ОКРУЖЕННОГО» ЭЛЕМЕНТА Теорема 1. Если два класса С 1 и С 2 линейно отделимы друг от друга, то каждая точка класса С 1 является «неокруженной» классом С 2 точкой. 1. Строим вектора от исследуемой на «окруженность» точки А до всех точек класса В и вектор 2. Находим вектор, для которого угол между ним и вектором минимален 3. Проверяем линейную отделимость точки А от класса В: если вектора имеют правую ориентацию, то точка A линейно отделима от класса В. Тогда по теореме 1 из линейной отделимости следует то, что А – точка, «неокруженная» классом В. 4. Трудоемкость метода , где - число элементов класса В, - число элементов, принадлежащих прямой

РАЗДЕЛЕНИЕ НЕПЕРЕСЕКАЮЩИХСЯ КЛАССОВ Трудоемкость получения выпуклой оболочки методом Джарвиса: где - количество элементов класса , принадлежащих выпуклой оболочке. - количество элементов,

РАЗДЕЛЕНИЕ ПЕРЕСЕКАЮЩИХСЯ КЛАССОВ НА ПЛОСКОСТИ 1. 1 Исключение «окруженных» элементов Исходные классы Разделение выпуклых оболочек Только «неокруженные» элементы Разделение непересекающихся классов Выпуклые оболочки, состоящих из «неокруженных» элементов исходных классов

1. 2. Преобразование параллельного переноса разделяющей прямой Зависимость вероятности неверной классификации от положения разделяющей прямой Наилучшее разделение исходных классов

2. Выделение областей, содержащих прямую наилучшего разделения двух классов Любая прямая в области D разделяет исходные классы наилучшим образом с точки зрения минимума вероятности неверной классификации.

2. 1 Случай одной области 1. Строим вектора, соединяющие поочередно все пары точек классов А и В 2. Вычисляем вероятности неверной классификации для этих векторов: 3. Из полученных вероятностей выбираем минимальную. 4. Фиксируем начала тех векторов, для которых вероятность минимальна. Если для всех этих векторов неверно классифицированные элементы одинаковые, то получаем одну область

5. Строим область , образованную этими элементами 6. Разделяем элементы области векторов Трудоемкость: методом опорных

2. 2 Случай нескольких областей 1. С помощью алгоритма в п. 2. 1 получаем точки, на которых достигается минимум вероятности неверной классификации 2. Строим области 3. Выбираем ту область, для которой ширина коридора максимальна: 4. Искомой будет любая прямая, принадлежащая области

Сравнение методов разделения пересекающихся классов Метод параллельного переноса Вероятность неверной классификации p= 0, 233 Метод выделения областей Вероятность неверной классификации p= 0, 167

Сравнение методов разделения пересекающихся классов Метод параллельного переноса Вероятность неверной классификации p= 0, 21 Метод выделения областей Вероятность неверной классификации p= 0, 101

РАЗДЕЛЕНИЕ КЛАССОВ В n-МЕРНОМ ПРОСТРАНСТВЕ Даны два класса и , нормально распределенные, с известными векторами средних и и известными ковариационными матрицами и. Требуется определить положение разделяющей гиперплоскости, ортогональной , так, чтобы ошибка неправильной классификации была наименьшей. - плотность нормального распределения исходных классов

Рассмотрим функцию вероятности неверной классификации Ф(ξ) и найдем ее минимум: Если где

Если Таким образом, в общем случае получили – точка в n-мерном пространстве, через которую, перпендикулярно , проходит искомая решающая гиперплоскость. В частности, когда исходные классы имеют одинаковое распределение, получим следующую решающую гиперплоскость:

ЗАКЛЮЧЕНИЕ Результаты работы w Введено понятие «окруженного» элемента и рассмотрены методы его выделения. w Разработаны алгоритмы наилучшего разделения классов в двумерном и трехмерном пространствах. w Представлены примеры численной реализации данных алгоритмов, вычислены трудоемкости методов, проведено их сравнение. w Для нормального n-мерного распределения двух классов с известными характеристиками аналитически найдено решение задачи наилучшего разделения гиперплоскостью, перпендикулярной отрезку, соединяющему центры классов.

Сп аси бо за вн им ан ие!