Пусть Ω – конечная односвязная область плоскости xOy, ограниченная отрезками
,
,
,
и дугами
,
,
а
,
,
, 
.
В области Ω рассмотрим уравнение
, (1)
здесь α – заданное число, причем, 
, а λ – параметр.
Задача. Найти значения параметра λ и соответствующие им нетривиальные в 
функции 
, удовлетворяющие уравнению (1) в области 
и условиям
, 
; (2)
, 
; (3)
, 
; (4)
, 
; 
, 
; (5)
, 
; 
, 
. (6)
Считая λ≠0, нетривиальные в области 
решения 
задачи ищем в виде 
, где 
, 
, 
, 
. Тогда, из (1) получим уравнения
, 
; (7)
, 
, (8)
где 
, а μ – константа разделения.
Пользуясь общими решениями уравнений (7) и (8), находим, что нетривиальные и непрерывные в 
решения уравнения (1) имеют вид [1]
, (9)
где 
, 
, 
, 
– функция Бесселя первого рода, F(a,b,c;z)
- гипергеометрическая функция Гаусса.
Из (9) следует, что
(10)
где 
, 
,
, 
.
В области 
введем в рассмотрение функцию
, (11)
где 
, 
. Если 
, 
. Функция 
удовлетворяет условиям 
,
, 
, 
, 
. (12)
Производя замену 
, 
;
, 
и применяя метод разделения переменных 
, находим решения задачи (12) в области Ω11:
, 
.
Отсюда, в силу обозначения (11) и условий (3), (6), имеем
(13)
, 
.
Аналогично, используя условиям (4), (5), получим соотношения:
(14)
Подставляя (10) в (13), (14) и полагая 
, находим
, (15)
, 
, 
. (16)
Подставляя выражение 
в равенство (15), получим уравнение 
. Решениями этого уравнения, удовлетворяющими условию 
, являются числа 
, n∈N, где 
.
Подставляя в (11) 
и 
, а затем, удовлетворяя условию 
, 
, получим 
, n∈N.
Известно, что 
при ν>-1 имеет только действительные корни. Обозначая через 
-ный положительный корень уравнения 
, находим собственные значения 
, n,m∈N задачи и соответствующие им собственные функции в области 
:
, 
,
где 
– произвольные постоянные, а 
.
Аналогично, исследуется задача, в том случае, когда (5), (6) заменены условиями 
, 
; 
, 
и 
, 
; 
, 
. При этом 
, 
, 
, где 
.
Собственные функции этих двух задач в областях гиперболичности уравнения (1) находятся как решения видоизменённой задачи Коши для уравнения (1) [2].
.png&w=640&q=75)
