область выше этой прямой - классу 2. Если определить {X)

и g2{X)

gi{X)=x + x, + 2, g{X) = 2x, + 2x (III.l)

TO можно показать, что эти функции могут служить в качестве дискриминантных функций, так как g\{X) больше g2iX) во всех точках ниже прямой, тогда как g2{X) больше i() во всех точках выше прямой. Если, например, необходимо классифицировать точку

V Г1/2

Т. е. точку, для которой Xi=\j2, X2=h то непосредственное вычисление дает gi{Xa)=3 и 1/2 и g2{Xa)=3. Таким образом, g\{a) больше, чем 2(0), что указывает, и это действительно имеет место, что эта точка расположена в области, соответствующей классу 1 (см. рис. III.6). Аналогично, точка 3/2

дает gi{Xb)=5 и g2{Xb)=6, показывая, что точка Хь из класса 2. Точка

расположена на границе, и заметим, что gi{Xc) = g2{Xc) 4. Мы должны произвольно определить, что все граничные точки (все точки, для которых gi{X) =g2{X) относятся или к классу 1, или к классу 2. Обычно это отнесение может быть сделано произвольно, поскольку частота, с которой точки фактически будут попадать на границу, крайне мала. Если принять такой подход, задача разработки классификатора становится задачей выбора оптимального набора дискриминантных функций.

III.3. «Обучение» классификатора образов

Известно, что в некоторых случаях дискриминантные функции можно определить, используя или теоретические аспекты, или знание физической природы задачи или, возможно даже, интуицию. Обычно же дискриминантные функции вычисляют на основе информации, выделенной из набора обучающих образов (т. е. векторов измерений с известной классификацией ), которые считаются типичными представителями интересующих нас классов. В этом случае процесс построения классификатора называется обучением классификатора.

Термин «обучение» возник потому, что многие самые ранние системы распознавания образов были «обучаемы», т. е. они «определяли» дискриминантные функции путем адаптивного реагирования, саморегулирования по предъявлению образов 10-859 145

вместе с известной классификацией. Это можно проиллюстрировать следующим образом. Для простого примера из предыдущего параграфа, представляющего случай двух классов в двухмерном пространстве измерений, предположим, что дискриминантные функции нам не известны, но мы считаем, что они по форме линейны, т. е.

gi {) =aiiXi + an4 + bi

(III.2)

где значения а и b не известны. Предположим далее, что нам не известно истинное расположение линейной границы, разделяющей классы, но мы знаем принадлежность к классам нескольких точек по обе стороны границы (эти точки являются «обучающими образами»). Можно показать [1], что следующая процедура «сходится к решению», т. е. даст набор значений а и b таких, что результирующие дискриминантные функции могут быть использованы для правильной классификации всех обучающих образов.

Процедура. Вначале произвольно выбираем значения а и Ь. Например, пусть

«и = = 1 = 1 . «21 = «22 = 12 = --l.

Затем берем первый обучающий образ (скажем, из coi, т. е. из класса 1) и вычисляем gi{X) и g2{X). Если giiX)>g2,{X), решение правильное, и переходим к следующей обучающей выборке. Если gziX)>gi{X), будет сделано неправильное решение. В этом случае нужно изменить коэффициенты так, чтобы увеличить дискриминантную функцию, связанную с правильным классом, и уменьшить дискриминантную функцию, связанную с неправильным классом: если X из coi, но было принято решение мг, то пусть

fiii = «ii + a%. а21 = а21 -a;ci,

«i2 = «i2 + a;2, а22 = а.22 -ал:2, (III.3)

b\~b-~{-a, b\ = b - a,

где а - соответствующая положительная константа. Если X из со2, но принято решение coi, изменяем знаки в уравнениях (III.3), чтобы g2 возросло, а 1 уменьшилось.

Затем переходим к следующему обучающему образу. Перебираем все обучающие образы до достижения их правильной классификации.

Этот процесс всегда заканчивается получением правильной классификации всех обучающих образов за конечное число циклов. Он легко реализуется на ЭВМ или специализированном устройстве.

Данная обучающая процедура проста и выполняется автоматически, но сходимость к решению гарантирована только в том случае, когда обучающие образы разделимы линейной границей (прямой линией для двухмерного примера). Процедуру можно обобщить с учетом более сложных границ. Но когда классы образов перекрываются в пространстве измерений, т. е.,

когда различные классы образов могут давать идентичные векторы измерений, данный метод обычно не подходит. Поскольку в большинстве применений дистанционных исследований спектральные отклики изучаемых классов, как правило, перекрываются, этот простой метод обучения классификатора неприемлем. Рассматриваемые ниже статистические методы являются другим подходом к выводу дискриминантной функции по обучающим образам в подобных сложных ситуациях.

Задачи

111.1. Дайте определение образа, которое имеет смысл в контексте устройства распознавания образов.

111.2. При дистанционном исследовании природных ресурсов Земли компонентами вектора измерений обычно являются значения относительной отражательной способности в различных диапазонах длин волн. Перечислите четыре или пять других типов дистанционных измерений, которые было бы полезно использовать в качестве компонент вектора измерений.

Результат

, , • Тяжелая • 1.*. промышлйн-••• ность

о о ° Жилые о°§о° кварталы оо

\ д Легкая

промышленность

° а Зоны По°а отдыха

Рис. 111.7

Рис. 111.8

111.3. Завершите блок-схему системы распознавания образов, начатую на рис. II 1.7, и кратко опишите функцию каждого блока в контексте дистанционного исследования.

111.4. На рис. III.8 в двухмерном пространстве изображены результаты измерений для четырех типов покрытия земной поверхности. На основе этих данных изобразите на нем множество границ решения, которые могут быть использованы для классификации каждого измерения в один из четырех классов.

111.5. Чтобы разделить четыре класса в задаче III.4, можно было бы нарисовать прямолинейные границы между областями решения. Каково преимущество использования прямых линий по сравнению с границами более сложной формы? Каково потенциальное преимущество последних?

111.6. Трехмерный вектор измерения

должен быть классифицирован с использованием следующего множества дискриминантных функций:

gr(X) = i +0,5X2+2X3+ 1,

gr,(X) = 2x1 + 2 +0,5хз,

g3 (Х) = 3% +2X2-4x3-3.

10* 147