4ас-6 = -dj тогда d > Ои мы можем, выделив полный квадрат, разложить форму на множители. Получим

Аа{ах + Ьху + су) = {2ах + by + /dy){2ax + by - л/dy) =

= 4а{х - 9у){х - (ру),

где 9 и (fi имеют вид

-b±Vd

Мы предполагаем здесь, что а не равно нулю. Числа 9 и (р - действительные числа, которые, вообще говоря, не являются рациональными. Знак произведения (х - 9у){х - (ру) зависит от того, будет ли дробь лежать между 9 и ср или вне промежутка между ними. Так как имеются и те, и другие дроби, то форма может принимать как положительные, так и отрицательные значения. Такая форма называется неопределенной. Случай, когда а равно нулю, еще проще; в этом случае форма разлагается на множители у{Ьх + су) и, очевидно, принимает как положительные, так и отрицательные значения. Примеры неопределенных форм: (3,1, -1) дискриминанта 13 или (1,4,1) дискриминанта 12. Отметим, что, как это было в последнем примере, форма с положительными коэффициентами может быть неопределенной.

Итак, формы отрицательного дискриминанта являются определенными, а формы положительного дискриминанта - неопределенными. Первый шаг теории, на котором проблема представления сводится к проблеме эквивалентности, проводится одинаково для определенных и для неопределенных форм.

В дальнейшем теория неопределенных форм существенно отличается от теории определенных форм; из-за недостатка места мы будем рассматривать только определенные формы.

4. Представление числа формой. Выясняя, какие числа представляются формой (а, 6, с), достаточно рассматривать собственные представления. Зная, какие числа собственно представимы, можно получить несобственно представимые числа умножением на квадраты целых чисел.

Предположим, что число п собственно представляется формой (abjc). Обозначим через риг числа, осуществляющие представление

п = ар + Ьрг + сг (6)

(считаем, что риг взаимно просты). Если форма определенная, скажем положительно определенная, то мы будем предполагать п положительным; если же форма неопределенная, то п может быть как положительным, так и отрицательным. Будем предполагать, что п не равно нулю; возможность п = О лучгпе рассмотреть отдельно (и она мало интересна).

Так как риг взаимно просты, то можно найти такие целые q и что ps - qr = 1. Применим теперь унимодулярную подстановку (1) с найденными здесь р, д, г, s форме (аЬс). Из сопоставления равенства (6) с первым из равенств (4) следует, что первый коэффициент получающейся формы равен п. Таким образом, мы нагпли форму (nhj), эквивалентную форме (а, 6, с) и имеющую своим первым коэффициентом число п. Обратно, всякая форма, первый коэффициент которой равен п, собственно представляет число п (при я; = 1, у = 0), значит, п собственно представляется всякой формой (аЬс), эквивалентной форме с первым коэффициентом п. Итак, (а, 6, с) собственно представляет те и только те числа, которые встречаются среди первых коэффициентов эквивалентных ей форм.

С первого взгляда может показаться, что этот подход к задаче вряд ли что-нибудь даст; тем не менее на нем основана вся последующая теория. Проблема представления сводится теперь к проблеме эквивалентности в том смысле, что теперь достаточно выяснить, эквивалентна ли какая-нибудь форма с первым коэффициентом п данной форме (аЬс).

Из сформулированного выгпе общего принципа можно сделать один простой, но важный вывод. Форма (п, /г, /) не может быть эквивалентна форме (а, 6, с), если ее дискриминант не равен дискриминанту формы (а, 6, с), т. е. если не выполняется равенство

- 4п1 = d, (7)

где d = b - Аас - дискриминант данной формы. Другими словами, должно существовать /г, для которого h? - d кратно 4п,

т. е. должно быть разрешимо сравнение

= d (mod 4п), (8)

где п = п. (Мы должны взять в качестве модуля сравнения 4п, а не 4п, так как п может быть отрицательно.) При некоторых ограничениях верно и обратное. Именно: если сравнение (8) разрешимо, то сугцествует форма вида (п, /г, /) дискриминанта d; правда, эта форма не обязана быть эквивалентной заранее выбранной форме (аЬс), Отсюда можно сделать следуюш;ий вывод: если п собственно представляется какой-нибудь формой дискриминанта d, то разрешимо сравнение (8). Обратно, если это сравнение разрешимо, то п собственно представляется некоторой формой дискриминанта d.

В некоторых простых случаях бывает, что все формы дискриминанта d эквивалентны между собой. Тогда разрешимость сравнения (8) есть необходимое и достаточное условие для того, чтобы п было собственно представимо данной формой (а, 6, с) дискриминанта d. В следуюгцем пункте мы применим этот принцип в трех таких случаях.

Однако прежде необходимо сделать одно дополнительное замечание. Сформулированный выше обш;ий принцип предписывает решить сравнение (8), а затем выяснить, эквивалентна ли данной форме (а, 6, с) форма (п,/г,/), где / находится из равенства h? - Ani = d. Это приведет к рассмотрению бесконечного числа случаев, если выбирать в качестве h всевозможные решения сравнения (8). Па самом деле, однако, достаточно рассмотреть значения /г, удовлетворяюгцие условию

0h< 2п, (9)

Действительно, если h - какое-нибудь решение сравнения (8) и (п, /г, /) - соответствуюгцая ему квадратичная форма, то мы можем применить к этой форме подстановку

X = X + uY, у = Y,

где и - произвольное целое число. Эта подстановка преобразует форму (п, /г, /) в форму

п{Х + uYf + h{X + uY)Y + lY.