Ứng dụng phương pháp biến phân để nghiên cứu sự tồn tại nghiệm của các bài toán biến đổi với phương trình và hệ phương trình elliptic

ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
Trịnh Thị Minh Hằng
ỨNG DỤNG PHƯƠNG PHÁP BIẾN PHÂN ĐỂ NGHIÊN CỨU
TỒN TẠI NGHIỆM CỦA CÁC BÀI TOÁN BIÊN ĐỐI VỚI
TRÌNH VÀ HỆ PHƯƠNG TRÌNH ELLIPTIC
KHÔNG TUYẾN TÍNH
LUẬN ÁN TIẾN SĨ TOÁN HỌC
Hà Nội- 2014
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
Trịnh Thị Minh Hằng
ỨNG DỤNG PHƯƠNG PHÁP BIẾN PHÂN ĐỂ NGHIÊN CỨU
TỒN TẠI NGHIỆM CỦA CÁC BÀI TOÁN BIÊN ĐỐI VỚI
TRÌNH VÀ HỆ PHƯƠNG TRÌNH ELLIPTIC
KHÔNG TUYẾN TÍNH
Chuyên ngành: Phương trình vi phân và tích phân
Mã số : 62460103
LUẬN ÁN TIẾN SĨ TOÁN HỌC
NGƯỜI HƯỚNG DẪN KHOA HỌC
PGS.TS. HOÀNG QUỐC TOÀN
Hà Nội- 2014
LỜI CAM ĐOAN
Tôi xin cam đoan những kết quả được trình bày trong luận án là mới. Các kết
quả nêu trong luận án là trung thực và chưa từng được ai công bố trong bất kỳ
công trình nào khác.
Nghiên cứu sinh
Trịnh Thị Minh Hằng
i
LỜI CẢM ƠN
Luận án được hoàn thành dưới sự động viên, khích lệ và hướng dẫn tận tình

của PGS.TS. Hoàng Quốc Toàn. Nhân dịp này, nghiên cứu sinh xin được gửi tới
Thầy lời cảm ơn chân thành và sâu sắc nhất.
Nghiên cứu sinh xin được bày tỏ lòng biết ơn đến các Thầy phản biện:
GS.TSKH. Đinh Nho Hào, PGS.TS. Cung Thế Anh, PGS.TS. Nguyễn Thiệu
Huy cùng các Thầy trong Hội đồng chấm luận án tiến sĩ cấp ĐHQG đã bỏ công
sức đọc bản thảo và cho nghiên cứu sinh nhiều ý kiến chỉnh sửa quý báu để có
thể hoàn thành tốt hơn bản luận án này.
Nghiên cứu sinh xin được bày tỏ lòng cảm ơn đến Ban chủ nhiệm Khoa Toán
-Cơ -Tin học, Phòng Sau đại học và Ban Giám hiệu Trường Đại học Khoa học
Tự nhiên đã tạo mọi điều kiện thuận lợi để nghiên cứu sinh có thể hoàn thành
luận án của mình.
Nghiên cứu sinh cũng xin được bày tỏ lòng biết ơn đến các thầy cô trong Khoa
Toán-Cơ-Tin học, các thành viên của Seminar Bộ môn Giải tích Khoa Toán- Cơ
T in học cùng các bạn đồng nghiệp tại bộ môn Toán học trường Đại học Xây dựng
Hà nội về sự động viên khích lệ cũng như những trao đổi hữu ích trong suốt quá
trình học tập và công tác.
Cuối cùng, tôi xin chia sẻ niềm vui lớn này với bạn bè, người thân và gia đình
tôi, những người luôn sát cánh động viên giúp đỡ tôi hoàn thành luận án này.
Nghiên cứu sinh
Trịnh Thị Minh Hằng
ii
Mục lục
Lời cam đoan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . i
Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ii
Danh mục kí hiệu, định nghĩa và định lí cơ sở . . . . . . . . . . . 3
Mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1 BÀI TOÁN NEUMANN CHO LỚPPHƯƠNG TRÌNH VÀ HỆ PHƯƠNG
TRÌNH ELLIPTIC KHÔNG TUYẾN TÍNH 17
1.1 Bài toán Neumann cho phương trình elliptic tựa tuyến tính với
toán tử p-laplacian trong miền không bị chặn . . . . . . . . . . . . 18

1.2 Bài toán Neumann cho hệ phương trình elliptic nửa tuyến tính
trong miền không bị chặn . . . . . . . . . . . . . . . . . . . . . . . 33
1.3 Sự không tồn tại và tồn tại đa nghiệm dương của hệ (p, q)-
Laplacian với điều kiện biên không tuyến tính phụ thuộc tham
số . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
2 BÀI TOÁN BIÊN DIRICHLET CHO PHƯƠNG TRÌNH
ELLIPTIC KHÔNG TUYẾN TÍNH KHÔNG ĐỀU, KHÔNG
THOẢ MÃN ĐIỀU KIỆN AMBROSSETTI-RABINOWITZ
53
2.1 Giới thiệu bài toán . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
2.2 Sự tồn tại nghiệm yếu không âm của bài toán Dirichlet cho
phương trình elliptic nửa tuyến tính không đều . . . . . . . . . . 55
2.3 Sự tồn tại nghiệm yếu của bài toán biên Dirichlet đối với phương
trình elliptic nửa tuyến tính không đều có tham số . . . . . . . . 68
1
Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
Danh mục công trình khoa học của tác giả liên quan đến luận
án . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
2
DANH MỤC KÍ HIỆU, ĐỊNH NGHĨA VÀ ĐỊNH LÍ CỞ SỞ
1. Các kí hiệu
Ω ⊂ R
N
là một tập đo được trong R
N
, Ω
’
⊂⊂ Ω là một tập compact chứa trong
Ω và u : Ω −→ R là một hàm đo được Lebesgue.

L
p
(Ω) = {u : Ω −→ R :

Ω
|u|
p
dx < +∞}, 1 ≤ p < +∞ với chuẩn
||u||
L
p
=



Ω
|u|
p
dx


1
p
.
L
∞
(Ω) = {u : Ω −→ R bị chặn trên Ω} với chuẩn
||u||
L
∞

= ess sup
x∈Ω
|u(x)|.
L
p
loc
(Ω) = {u : Ω −→ R sao cho ∀Ω
’
⊂⊂ Ω, ta có u ∈ L
p
(Ω
’
)}.
C
∞
0
(Ω) là không gian các hàm khả vi vô hạn có giá compact trong Ω.
H
m,p
(Ω) = {u ∈ L
p
(Ω) : D
α
u ∈ L
p
(Ω), ∀|α| ≤ m} với chuẩn
||u||
H
m,p
=


|α|≤m
||D
α
u||
L
p
.
H
m,p
0
(Ω) là bao đóng của không gian C
∞
0
(Ω) trong H
m,p
(Ω). Nếu Ω là một miền
bị chặn thì có thể trang bị một chuẩn tương đương là
||u||
H
m,p
0
=

|α|=m
||D
α
u||
L
p

.
H
m,q
(Ω) là không gian đối ngẫu của H
m,p
(Ω) với
1
p
+
1
q
= 1. Trong trường hợp
p = q = 2, ta có thể viết ngắn gọn là H
m
(Ω).
2. Bất đẳng thức H
¨
older
Với mọi u ∈ L
p
(Ω) và v ∈ L
q
(Ω) với
1
p
+
1
q
= 1, ta có








Ω
u(x)v(x)dx






≤ ||u||
L
p
.||v||
L
q
.
3
3. Bất đẳng thức nội suy
Giả sử Ω là một miền bị chặn trong R
N
, 1 < p ≤ q ≤ r,
1
q
=
δ

p
+
1 − δ
r
, δ ∈ [0, 1]
và u ∈ L
r
(Ω). Khi đó, ||u||
L
q
≤ ||u||
δ
L
p
.||v||
1−δ
L
r
.
4. Hàm Carathéodory
Ta nói f : Ω × R
N
−→ R là một hàm Carathéodory nếu với mỗi x ∈ Ω cố định,
hàm u → f(x, u) liên tục trên R
N
và với mỗi u ∈ R
N
cố định, hàm x → f(x, u) đo
được trên Ω.
4. Đạo hàm Fréchet và đạo hàm Gâteax

Giả sử X, Y là các không gian Banach, U là một tập mở trong X, x ∈ U,
f : U −→ Y là một hàm xác định trên U.
Ta nói f khả vi Fréchet tại điểm x nếu tồn tại ánh xạ tuyến tính liên tục
D
F
f(x) ∈ L(X, Y ) sao cho
||f(x + h) − f(x) − D
F
f(x)h||
Y
= o(||h||
X
), ∀h ∈ X và x + h ∈ U.
Nếu f khả vi Fréchet tại mọi x ∈ U khi đó ta nói f khả vi Fréchet trên tập U.
Nếu f khả vi Fréchet tại x ∈ U và ánh xạ x → D
F
f(x) từ U vào L(X, Y ) liên tục
tại x ta nói f khả vi Fréchet liên tục tại x. Nếu f khả vi Fréchet liên tục tại mọi
x ∈ U, ta nói f khả vi Fréchet liên tục trên U và kí hiệu f ∈ C
1
(X, Y ).
Ta nói f khả vi Gâteaux tại điểm x theo hướng h nếu tồn tại ánh xạ tuyến
tính liên tục D
G
f(x) ∈ L(X, Y ) sao cho
lim
t→0
f(x + th) − f(x)
t
= D

G
f(x)h, h ∈ X.
Nếu f khả vi Gâteaux tại mọi điểm x ∈ U khi đó ta nói f khả vi Gâteaux trên
tập U.
Nếu f : U −→ Y khả vi Fréchet tại x thì f khả vi Gâteaux tại x. Nếu
f : U −→ R có đạo hàm Gâteaux D
G
f liên tục trong U thì f khả vi Fréchet
và f ∈ C
1
(U, R).
4
Định lí 0.0.1 (Định lí C1 trong [30])). Giả sử F = F (x, u, p) : Ω × R
n+1
→ R đo
được với x ∈ Ω, khả vi liên tục với u ∈ R và p ∈ R
n
và các điều kiện sau đây thoả
mãn:
1) |F (x, u, p)| ≤ C(1 + |u|
s
1
+ |p|
2
), với s
1
≤
2n
n − 2
khi n ≥ 3;

2) |F
u
(x, u, p)| ≤ C(1 + |u|
s
2
+ |p|
t
2
), với t
2
≤ 2 khi n ≤ 2 và tương ứng với
s
2
≤
n + 2
n − 2
, t
2
≤
n + 2
n
khi n ≥ 3 ở đây F
u
=
∂F
∂u
;
3) |F
p
(x, u, p)| ≤ C(1 + |u|

s
3
+ |p|) với s
3
≤
n
n − 2
khi n ≥ 3, F
p
=
∂F
∂p
.
Khi đó phiếm hàm
E(u) =

Ω
F (x, u(x), ∇u(x))dx
xác định một phiếm hàm C
1
trên H
1,2
(Ω). Hơn nữa, DE(u) được cho bởi:
v, DE(u) =

Ω
(F
u
(x, u, ∇u)v + F
p

(x, u, ∇u)∇v)dx,
với DE(u) là đạo hàm Fréchet của E(u) tại u.
Định lí 0.0.2 (Định lí C2 trong [30]). Giả sử g : Ω × R
m
−→ R là một hàm
Carathéodory thoả mãn điều kiện
1) |g(x, u)| ≤ C(|1 + |u|
s
|) với s ≥ 1.
Khi đó toán tử u → (g(., u(.))) là liên tục từ L
sp
(Ω) vào L
p
(Ω) với mỗi
p ∈ [1, +∞].
6. Tính nửa liên tục dưới và tính nửa liên tục dưới
yếu
Giả sử X là một không gian Banach, f : X → R là một phiếm hàm xác định
trên X.
Phiếm hàm f được gọi là nửa liên tục dưới trên X nếu với mọi dãy {u
m
} hội tụ
mạnh đến u trong X, ta đều có
f(u) ≤ lim inf
m→∞
f(u
m
).
5
Phiếm hàm f gọi là nửa liên tục dưới yếu trên X nếu với mọi dãy {u

m
} hội tụ
yếu đến u trong X, ta đều có
f(u) ≤ lim inf
m→∞
f(u
m
).
Như vậy, một phiếm hàm nửa liên tục dưới thì sẽ nửa liên tục dưới yếu nhưng
điều ngược lại không đúng.
Định lí 0.0.3 (Định lí 1.6 tr.9 [30]). Cho Ω là một miền trong R
n
và giả sử rằng
F : Ω × R
n
× R
n
→ R là một hàm Caratheodory thỏa mãn điều kiện sau:
1) F (x, u, p) ≥ ϕ(x) với h.k. x, u, p, với ϕ ∈ L
1
(Ω).
2) F (x, u, .) lồi đối với p và với h.k. x, u.
Khi đó, nếu u
m
, u ∈ H
1,1
loc
(Ω) và u
m
→ u trong L

1
(Ω
’
), ∇u
m
hội tụ yếu đến ∇u
trong L
1
(Ω
’
) với mọi tập bị chặn Ω
’
⊂⊂ Ω, thì ta có
E(u) ≤ lim inf
m→∞
E(u
m
),
với E(u) =

Ω
F (x, u, ∇u)dx.
6
MỞ ĐẦU
Phương trình đạo hàm riêng là phương tiện nghiên cứu trong nhiều ngành
khoa học khác nhau, là chiếc cầu nối giữa khoa học và ứng dụng. Nhiều bài toán
cơ học và vật lí được mô hình hoá toán học thông qua các phương trình đạo hàm
riêng. Vấn đề chủ yếu xuyên suốt trong quá trình nghiên cứu lí thuyết và ứng
dụng của ngành phương trình đạo hàm riêng là bài toán tồn tại nghiệm. Cho
đến đầu thế kỉ 20, nghiệm của một phương trình đạo hàm riêng được hiểu theo

một cách chung nhất đó là các nghiệm cổ điển, tức là nghiệm khả vi đến cấp cao
nhất của đạo hàm của ẩn hàm có mặt trong phương trình. Tuy nhiên, để phản
ánh tương đối chính xác một quá trình vật lí hay cơ học thì mô tả nó mà chỉ
quan tâm đến nghiệm cổ điển của phương tr ình đạo hàm riêng là chưa đủ. Vì
vậy, để nghiên cứu phương trình đạo hàm riêng có ý nghĩa hơn đối với đối tượng
mà nó phản ánh, thì việc mở rộng khái niệm nghiệm của chúng là cần thiết. Do
đó khái niệm nghiệm yếu của phương trình đạo hàm riêng ra đời. Người ta có
thể đưa ra những định nghĩa khác nhau về nghiệm yếu nhưng phải đảm bảo
sao cho vừa chặt chẽ về mặt toán học, lại vừa có ý nghĩa vật lý.
Hướng nghiên cứu của chúng tôi trong luận án này là sử dụng phương pháp
biến phân nghiên cứu sự tồn tại của nghiệm yếu của các bài toán biên đối
với phương trình và hệ phương trình elliptic không tuyến tính. So với nhiều
phương pháp của giải tích phi tuyến áp dụng vào phương trình đạo hàm riêng
thì phương pháp biến phân tỏ ra rất có hiệu quả. Ý tưởng của phương pháp
biến phân áp dụng vào phương trình đạo hàm riêng là dựa trên cơ sở lý thuyết
điểm tới hạn, mà nội dung của nó là đưa bài toán biên đang xét về việc nghiên
cứu một phiếm hàm J khả vi liên tục theo một nghĩa nào đó trong không gian
Banach X thích hợp (gọi là phiếm hàm Euler-Lagrange hay là phiếm hàm năng
lượng liên kết) sao cho điểm tới hạn của phiếm hàm J là nghiệm yếu của bài
toán biên ban đầu. Để tìm điểm tới hạn của phiếm hàm J người ta thường nghĩ
đến việc tìm điểm cực tiểu hoá của phiếm hàm đó. Tuy nhiên việc cực tiểu hoá
một phiếm hàm không hề đơn giản. Hơn nữa lớp các phiếm hàm có thể cực tiểu
hoá tương đối hẹp. Vì vậy trong nhiều trường hợp người ta quan tâm đến các
điểm yên ngựa (không phải điểm cực tiểu) của phiếm hàm năng lượng. Cơ sở để
nghiên cứu sự tồn tại điểm yên ngựa của phiếm hàm là các bổ đề biến dạng cùng
các nguyên lí biến phân và điều kiện compact. Nguyên lí biến phân nổi tiếng
được biết đến khẳng định sự tồn tại điểm tới hạn của phiếm hàm trong không
gian Banach là Định lí qua núi (Mountain pass Theorem). Lần đầu tiên Định lí
qua núi được R.Courant chứng minh vào năm 1950 cho các phiếm hàm xác định
7

trong không gian hữu hạn chiều. Năm 1973, A.Ambrossetti và P.Rabinowitz đã
chứng minh Định lí qua núi cho phiếm hàm khả vi liên tục Fréchet trong không
gian Banach.
Định lí 0.0.4 (Định lí qua núi - xem [4]). Giả sử (X, ||.||) là một không gian
Banach, J : X −→ R là một phiếm hàm khả vi Fréchet liên tục trên X, thoả mãn
điều kiện Palais-Smale, tức là với mọi dãy {u
m
} ⊂ X thoả mãn |J(u
m
)| ≤ c, ∀m
và DJ(u
m
) −→ 0 khi m −→ +∞, đều có thể trích được một dãy con hội tụ trong
X. Hơn nữa, phiếm hàm J thoả mãn các điều kiện sau:
(i) J(0) = 0;
(ii) Tồn tại các hằng số dương α, r sao cho J(v) ≥ α với mọi v ∈ X, ||v|| = r;
(iii) Tồn tại v
0
∈ X với ||v
0
|| > r sao cho J(v
0
) < 0.
Đặt
c = inf{maxJ(ϕ(t)) : ϕ ∈ C([0, 1], X), ϕ(0) = 0, ϕ(1) = v
0
}.
Khi đó, c là một giá trị tới hạn của J, tức là tồn tại u ∈ X sao cho
c = J(u) ≥ α > 0 và DJ(u) = 0.
Lí thuyết điểm tới hạn cùng với Định lí qua núi đã góp phần quan trọng trong

việc nghiên cứu sự tồn tại nghiệm yếu cho một lớp khá rộng các bài toán biên đối
với phương trình và hệ phương trình đạo hàm riêng không tuyến tính. Những
cải tiến của Định lí qua núi cùng với điều kiện Palais-Smale đã được nhiều nhà
toán học lớn quan tâm nghiên cứu.
Năm 1989, Dương Minh Đức trong công trình [16] đã thiết lập lại Bổ đề biến
dạng và chứng minh Định lí qua núi cho lớp phiếm hàm khả vi liên tục yếu
trong không gian Banach (xem Định nghĩa 0.0.1). Kết quả này đặc biệt hữu ích
khi áp dụng để nghiên cứu các bài toán biên với phương trình elliptic với hệ số
không trơn. Thực chất Định lí qua núi dạng yếu mà Dương Minh Đức đưa ra là
thay giả thiết về tính khả vi Fréchet của phiếm hàm J bởi tính khả vi liên tục
yếu.
Định nghĩa 0.0.1 (xem Định nghĩa 2.1 trong [16]). Cho J là một phiếm hàm từ
không gian Banach Y vào R. Ta nói J là khả vi liên tục yếu (weakly continuously
dif ferentiable) trên Y nếu và chỉ nếu ba điều kiện sau thoả mãn:
i) J là liên tục trên Y .
8
ii) Với mỗi u ∈ Y tồn tại một ánh xạ tuyến tính DJ(u) từ Y vào R sao cho
lim
t−→0
J(u + tϕ) − J(u)
t
=

DJ(u), ϕ

, ∀ϕ ∈ Y.
iii) Với mỗi ϕ ∈ Y , ánh xạ u →

DJ(u), ϕ


là liên tục trên Y .
Ta kí hiệu C
1
w
(Y ) là tập các phiếm hàm khả vi liên tục yếu trên Y . Rõ ràng
C
1
(Y ) ⊂ C
1
w
(Y ), với C
1
(Y ) là tập các phiếm hàm khả vi liên tục Fréchet trên Y .
Định lí 0.0.5 (Định lí qua núi - xem Định lí 2.1 trong [16]). Giả sử (X, ||.||
X
) là
một không gian Banach, J ∈ C
1
w
(X), J thoả mãn điều kiện Palais-Smale. Hơn
nữa, phiếm hàm J thoả mãn các điều kiện sau:
(i) J(0) = 0;
(ii) Tồn tại các hằng số dương α, r sao cho J(v) ≥ α với mọi v ∈ X, ||v|| = r;
(iii) Tồn tại v
0
∈ X với ||v
0
|| > r sao cho J(v
0
) < 0.

Đặt
c = inf{maxJ(ϕ(t)) : ϕ ∈ C([0, 1], X), ϕ(0) = 0, ϕ(1) = v
0
}.
Khi đó, c là một giá trị tới hạn của J, tức là tồn tại u ∈ X sao cho
c = J(u) ≥ α > 0 và DJ(u) = 0.
Có thể nói trước năm 2005, chưa có nghiên cứu nào liên quan đến việc áp
dụng Định lí qua núi đối với phiếm hàm khả vi liên tục yếu, mặc dù ý tưởng này
mở ra một hướng nghiên cứu điều kiện tồn tại nghiệm yếu cho một lớp rộng lớn
các bài toán biên đối với phương trình và hệ phương trình elliptic không tuyến
tính, mà phiếm hàm năng lượng liên kết với nó không khả vi Fréchet. Các bài
toán như vậy được chúng tôi nghiên cứu trong luận án này.
Đối tượng mà chúng tôi đề cập đến trong luận án là sự tồn tại nghiệm yếu
của các phương trình (và hệ phương tr ình) elliptic dạng:
−div(a(x, ∇u)) = f(x, u), x ∈ Ω, (0.1)
trong đó Ω là tập mở trong R
N
.
Một số dạng thường gặp của phương trình dạng (0.1) là các phương trình:
−div(|∇u|
p−2
∇u) = f (x, u), x ∈ Ω (0.2)
9
và
−div(h(x)|∇u|
p−2
∇u) = f (x, u), x ∈ Ω (0.3)
trong đó h : Ω −→ R thoả mãn một số giả thiết nhất định, 1 ≤ p < +∞.
Toán tử divergent −div(a(x, ∇u)) xuất hiện trong các bài toán khuyếch tán
không tuyến tính, cổ điển nhất là mô hình toán học của hiện tượng truyền nhiệt

trong vật thể, hiện tượng truyền sóng trong không gian, mô hình toán học của
dòng chất lỏng không Newton Phương trình dạng (0.1) với f(x, u) là một hàm
phi tuyến đối với u bao gồm nhiều mô hình toán học trong cơ lượng tử, cơ học
môi trường liên tục, lí thuyết trường, Những kết quả đạt được từ những nghiên
cứu đó vừa có ý nghĩa lí thuyết, vừa có ý nghĩa ứng dụng.
Năm 2003, P.De Nápoli và M.C.Mariani [15] đã nghiên cứu sự tồn tại nghiệm
của bài toán Dirichlet cho một lớp phương trình elliptic tổng quát dạng (0.1)
trong miền bị chặn Ω ⊂ R
N
có biên trơn, trong đó hàm a : Ω × R
N
−→ R
N
, a(x, ψ)
được giả thiết là đạo hàm liên tục theo biến ψ của một hàm khả vi liên tục
A : Ω × R
N
−→ R, tức là a(x, ψ) =
∂A(x, ψ)
∂ψ
và thoả mãn điều kiện tăng dạng:
|a(x, ψ)| ≤ C(1 + |ψ|
p−1
), với x ∈ Ω, p ∈ (1, +∞). (0.4)
Hàm f : Ω × R −→ R là hàm Carathéodory và thoả mãn điều kiện loại
Ambrossetti-Rabinowitz ( điều kiện A-R) (xem [4]), tức là tồn tại hằng số µ > p
sao cho với F (x, z) =
z

0

f(x, t)dt thì
0 < µF (x, z) ≤ zf (x, z), với mọi x ∈ Ω, |z| ≥ z
0
> 0. (0.5)
Khi đó nghiệm của bài toán Dir ichlet đối với phương trình (0.1) tồn tại như là
điểm tới hạn của phiếm hàm năng lượng liên kết được xác định bởi công thức :
J(u) =

Ω
A(x, ∇u)dx −

Ω
F (x, u)dx, u ∈ W
1,p
0
(Ω).
T iếp tục nghiên cứu của P.De Nápoli và M.C.Mariani, nhiều tác giả khác đã
mở rộng kết quả này bằng cách đặt các giả thiết khác nhau lên vế phải, hoặc khi
Ω là một miền vô hạn trong R
N
. Chú ý rằng, điều kiện (A-R) (0.5) có vai trò quan
trọng không chỉ đảm bảo cho phiếm hàm J có điểm yên ngựa mà còn khẳng định
rằng, mọi dãy Palais-Smale của phiếm hàm J đều bị chặn. Tuy nhiên điều kiện
này đã ấn định lên hàm phi tuyến f (x, s) của nhiều phương trình những đòi hỏi
khá chặt chẽ làm hạn chế lớp phương trình cần quan tâm nghiên cứu.Vì vậy
10
nhiều nhà toán học đã cố gắng thay điều kiện (0.5) bởi những điều kiện yếu hơn
trong các nghiên cứu của mình. Đây cũng là một trong những mục tiêu được đặt
ra mà chúng tôi sẽ xét trong chương 2 của luận án này.
Năm 2005, Dương Minh Đức và Nguyễn Thanh Vũ đã nghiên cứu một trường

hợp kì dị của phương trình elliptic tổng quát dạng (0.1), trong đó giả thiết (0.4)
của P.De Nápoli và M.C Mariani được thay bởi giả thiết yếu hơn sau đây (xem
[17])
|a(x, ψ)| ≤ c(h
0
(x) + h
1
(x)|ψ|
p−1
) với mọi x ∈ Ω, ψ ∈ R
N
, (0.6)
h
0
∈ L
p
p−1
(Ω), h
1
∈ L
1
loc
(Ω), h
0
(x) ≥ 0, h
1
(x) ≥ 1với mọi x ∈ Ω.
Với giả thiết h
1
∈ L

1
loc
(Ω), phiếm hàm năng lượng liên kết với bài toán
Dirichlet đối với phương trình (0.1) có thể không xác định tại một hàm u nào đó
của không gian W
1,p
0
(Ω), vì vậy nghiệm của bài toán nói chung chỉ có thể tồn tại
trong không gian con nào đó của W
1,p
0
(Ω). Vì lí do đó bài toán (0.1) trong trường
hợp này được gọi là "bài toán biên không đều" của phương trình elliptic. Để vượt
qua tình trạng "không đều" này của bài toán (0.1) ta đưa vào một không gian
loại Sobolev có trọng được xác định như sau:
H = {u ∈ W
1,p
0
(Ω) :

Ω
h
1
(x)|∇u|
p
dx < +∞}.
Khi đó H là không gian Banach với chuẩn
||u||
H
=




Ω
h
1
(x)|∇u|
p
dx


1
p
và phiếm hàm J : H −→ R khả vi liên tục yếu trong H. Giả thiết (0.5) đảm bảo
mọi dãy Palais- Smale của phiếm hàm J bị chặn trong H và thoả mãn điều kiện
Palais-Smale. Do đó nghiệm yếu của bài toán Dirichlet tồn tại trong H như là
điểm tới hạn của phiếm hàm J nhờ định lí qua núi cho phiếm hàm J khả vi liên
tục yếu.
T iếp sau đó, từ những năm 2007-2008, bằng cách áp dụng các nguyên lí biến
phân I.Ekeland, nguyên lí ba điểm tới hạn, định lí qua núi, nguyên lí cực tiểu
của phiếm hàm, nhóm nghiên cứu Hoàng Quốc Toàn, Ngô Quốc Anh và Nguyễn
Thành Chung đã nghiên cứu sự tồn tại nghiệm yếu, tính đa nghiệm yếu của
bài toán Dirichlet đối với các phương trình và hệ phương trình elliptic không
đều dạng (0.1), (0.3) trong miền Ω ⊂ R
N
bị chặn hoặc không bị chặn và đã công
bố nhiều kết quả quan trọng ( xem [10], [11], [12], [13], [34], [35], cụ thể xem
11
danh mục công trình trong luận án Nguyễn Thành Chung). Các tác giả trên đã
nghiên cứu bài toán biên Dirichlet, còn trong luận án này, ở chương 1, chúng tôi

nghiên cứu sự tồn tại nghiệm yếu của bài toán Neumann đối với phương trình
và hệ phương trình elliptic không đều dạng (0.3).
Các kết quả mới được trình bày trong hai chương của luận án.
Chương 1 nghiên cứu bài toán biên Neumann cho các lớp phương trình và hệ
phương trình eliptic không tuyến tính bao gồm:
Mục 1.1 xét bài toán Neumann cho phương trình elliptic không đều tựa tuyến
tính loại p-Laplacian trong miền không bị chặn



−div(h(x)|∇u|
p−2
∇u) + b(x)|u|
p−2
u = f(x, u) trong Ω,
∂u
∂n
= 0 trên ∂Ω, u(x) −→ 0 khi |x| −→ +∞
(0.7)
với p ≥ 2, Ω ⊂ R
N
(N ≥ 3), là miền không bị chặn với biên đủ trơn, bị chặn
∂Ω, Ω = Ω ∪ ∂Ω, n là véc tơ pháp tuyến đơn vị ∂Ω. f : Ω × R −→ R là hàm thoả
mãn một số điều kiện sẽ trình bày rõ ở phần sau, các hàm h và b thoả mãn các
điều kiện sau đây:
H) h ∈ L
1
loc
(Ω), h(x) ≥ 1 với h.k. x ∈ Ω.
B) b ∈ L

∞
loc
(Ω), b(x) ≥ b
0
> 0 với h.k. x ∈ Ω.
Nhận xét rằng:
+ Với giả thiết h ∈ L
1
loc
(Ω), phiếm hàm năng lượng liên kết với bài toán (0.7)
có dạng như sau:
J(u) =
1
p

Ω
h(x)|∇u|
p
dx +
1
p

Ω
b(x)|u|
p
dx −

Ω
F (x, u)dx
trong đó F (x, u) =

u

0
f(x, s)ds. Nói chung phiếm hàm J không xác định với mọi
u ∈ W
1,p
0
(Ω) và nghiệm yếu của bài toán chỉ có thể tồn tại trong không gian con
nào đó của H
1
0
(Ω).
+ Khi miền Ω không bị chặn, một số kết quả về phép nhúng compact trong
không gian Sobolev không còn đúng do đó ảnh hưởng đến phương pháp chứng
minh điều kiện compact (điều kiện Palais-Smale). Để khắc phục tình trạng này
nên chúng tôi phải sử dụng một số kĩ thuật để chứng minh.
12
Mục 1.2 mở rộng kết quả đã nhận được từ mục 1.1, nghiên cứu bài toán
Neumann cho hệ phương trình elliptic nửa tuyến tính, không đều trong miền
không bị chặn
















−div(h
1
(x)∇u) + a(x)u = f(x, u, v) trong Ω,
−div(h
2
(x)∇v) + b(x)v = g(x, u, v) trong Ω
∂u
∂n
= 0,
∂v
∂n
= 0 trên ∂Ω,
u(x) −→ 0, v(x) −→ 0 khi |x| −→ +∞
(0.8)
ở đó Ω ⊂ R
N
(N ≥ 3), là miền không bị chặn với biên trơn và bị chặn
∂Ω, Ω = Ω ∪ ∂Ω, n là vec tơ pháp tuyến ngoài đơn vị của ∂Ω, f, g : Ω × R
2
−→ R
là các hàm có các tính chất sẽ trình bày cụ thể ở phần sau, các hàm h
i
, i = 1, 2
và a, b thoả mãn các điều kiện sau:
h) h

i
∈ L
1
loc
(Ω), i = 1, 2, h
i
(x) ≥ 1 với h.k. x ∈ Ω.
a-b) a, b ∈ C(Ω), a(x) ≥ a
0
> 0, b(x) ≥ b
0
> 0 với h.k. x ∈ Ω.
Nhận xét rằng:
+ Đây là kết quả mở rộng của bài toán (0.7), tuy nhiên vì đưa lên hệ phương
trình nên cách xây dựng không gian nghiệm sẽ có độ phức tạp hơn. Nghiệm
của bài toán (0.8) là (u, v) ∈ G trong đó G được xây dựng là không gian con của
không gian H
1
(Ω) × H
1
(Ω).
Mục 1.3 xét bài toán biên đối với hệ phương trình tựa tuyến tính của toán tử
p-Laplacian với điều kiên biên không tuyến tính, mà có thể xem như một cách
suy rộng của điều kiện biên Neumann
















−∆
p
u + |u|
p−2
u = 0 trong Ω,
−∆
q
v + |v|
q−2
v = 0 trong Ω,
|∇u|
p−2
∂u
∂n
= λG
u
(x, u, v) trên ∂Ω,
|∇v|
q−2
∂v
∂n

= λG
v
(x, u, v) trên ∂Ω,
(0.9)
với Ω là miền bị chặn biên trơn trong R
N
(N  2), 2  p, q < ∞, λ là tham số
dương.
Nhận xét rằng:
+ Nghiệm (u, v) của hệ phương trình thuộc không gian W
1,p
(Ω) × W
1,q
(Ω).
13
+Chúng tôi sử dụng nguyên lí cực tiểu phiếm hàm và định lí qua núi để chứng
minh bài toán có hai nghiệm dương phân biệt khi λ > λ.
Chương 2 nghiên cứu sự tồn tại nghiệm yếu của bài toán Dirichlet đối với lớp
các phương trình elliptic không đều trong miền bị chặn mà không đòi hỏi thoả
mãn điều kiện (A-R):
Mục 2.1 Giới thiệu bài toán.
Mục 2.2 xét sự tồn tại nghiệm yếu không âm của bài toán Dirichlet cho
phương trình elliptic nửa tuyến tính không đều:



−div(h(x)∇u) = f (x, u) trong Ω
u(x) = 0 trên ∂Ω
(0.10)
Giả thiết rằng:

h ∈ L
1
loc
(Ω), h(x) ≥ 1 với h.k. x ∈ Ω.
E1) f : Ω × R −→ R là hàm Carathéodory thoả mãn f(x, s) = 0 với mọi s ≤ 0,
với h.k. x ∈ Ω.
E2) Tồn tại hằng số C > 0 sao cho |
f(x, s)
s
| ≤ C với h.k. x ∈ Ω, ∀s ∈ (0, +∞) và f
tiệm cận tuyến tính theo nghĩa tồn tại β ∈ C(Ω) sao cho β(x) = lim
s→+∞
f(x, s)
s
đều với h.k. x ∈ Ω.
E3) Tồn tại x
0
∈ Ω sao cho β(x
0
) > 0 với β được định nghĩa ở E2).
Đặt
Ω
β
= {x ∈ Ω : β(x) > 0}
và giả sử rằng
Λ
β
= inf
u∈K(Ω
β

)

Ω
β
h(x)|∇u|
2
dx

Ω
β
β(x)u
2
dx
> 1.
E4) Tồn tại hai hằng số dương τ
1
, τ
2
sao cho
lim
s→0
2F (x, s)
s
2
≤ τ
1
< λ
1
< τ
2

≤ lim
s→+∞
2F (x, s)
s
2
đều với h.k. x ∈ Ω,
ở đó λ
1
= inf
u∈K

Ω
h(x)|∇u|
2
dx

Ω
u
2
dx
.
14
Nhận xét rằng:
+Từ giả thiết E2) ta suy ra rằng hàm f không thỏa mãn điều kiện (A-R). Khi
đó để chứng minh tính bị chặn của dãy (P-S) và sự tồn tại điểm yên ngựa, chúng
tôi đã thay thế điều kiện (A-R) bằng giả thiết E3) và E4).
Mục 2.3 xét bài toán




−div(h(x)∇u) + a(x)u = λf(x, u) trong Ω
u = 0 trên ∂Ω
(0.11)
Giả thiết rằng:
h ∈ L
1
loc
(Ω), h(x) ≥ 1 với h.k. x ∈ Ω, a ∈ L
∞
loc
(Ω), a(x) ≥ 1 với h.k. x ∈ Ω, với λ là
tham số dương, Ω là miền bị chặn trong R
N
(N ≥ 3) biên trơn ∂Ω.
I1) f ∈ C(Ω × R, R) và tồn tại r hàm không âm τ
j
, j = 1, 2 r với h.k. x ∈ Ω, τ
j
∈
L
p
j
0
(Ω) với p
j
∈ (1,
N
N − 2
), j = 1, 2 r và p
j

0
=
2N
N − p
j
(N − 2)
sao cho
|f(x, s)| ≤
r

j=1
τ
j
(x)|s|
p
j
, với h.k. x ∈ Ω, s ∈ R.
I2) Đặt F (x, s) =
s

0
f(x, t)dt. Khi đó tồn tại các hằng số dương α, β, q với
2 < q < 2
*
sao cho;
lim sup
|s|→+∞
F (x, s)
|s|
q

≤ α < +∞ đều với h.k. x ∈ Ω,
lim inf
|s|−→+∞
F (x, s)
|s|
2
≥ β đều với h.k. x ∈ Ω.
I3)
lim inf
|s|→+∞
sf(x, s) − 2F (x, s)
|s|
µ
≥ b > 0
đều với h.k.x ∈ Ω với max{1,
N(q − 2)
2
} < µ < q.
Nhận xét rằng:
+ Với giả thiết I2) ta suy ra hàm f không thỏa mãn điều kiện (A-R), do đó
chúng tôi đã xây dựng các giả thiết yếu hơn là I1), I2), I3) để thay thế nhằm
chứng minh tính bị chặn của dãy (P-S) và sự tồn tại điểm tới hạn của phiếm
hàm năng lượng liên kết với bài toán.
15
Nội dung của luận án được viết dựa trên 05 bài báo đã được chính thức công
bố trong các tạp chí: Bulletin Korean of Mathematic Society (Tạp chí ISI), Acta
Mathematica Vietnamica và Vietnam Journal of Mathematics. Các kết quả này
đã được báo cáo ở Hội nghị khoa học Khoa Toán-Cơ-Tin học Trường Đại học
Khoa học Tự nhiên Đại học Quốc gia Hà nội các năm 2008, 2010 và ở Semina
Bộ môn Giải tích Khoa Toán-Cơ-Tin học Trường Đại học Khoa học Tự nhiên

-ĐHQG HN.
16
Chương 1
BÀI TOÁN NEUMANN CHO LỚP PHƯƠNG TRÌNH VÀ HỆ
PHƯƠNG TRÌNH ELLIPTIC KHÔNG TUYẾN TÍNH
Chúng tôi dành chương này để trình bày các kết quả nghiên cứu về sự tồn tại
nghiệm yếu của bài toán biên Neumann cho lớp các phương trình và hệ phương
trình elliptic không tuyến tính.
Mục 1.1 chứng minh sự tồn tại nghiệm yếu cho bài toán biên Neumann trong
miền Ω không bị chặn với biên ∂Ω trơn, đóng và bị chặn đối với một lớp phương
trình elliptic tựa tuyến tính với p-Laplacian, với hệ số không trơn.
Mục 1.2 là mở rộng kết quả nhận được trong mục 1.1 cho hệ phương trình
elliptic nửa tuyến tính dạng gradient trong miền không bị chặn.
Mục 1.3 xét một lớp bài toán với điều kiện biên không tuyến tính đối với
phương trình elliptic tựa tuyến tính trong miền bị chặn với điều kiện biên không
tuyến tính.
Việc chứng minh sự tồn tại nghiệm yếu đưa về việc chứng minh sự tồn tại
điểm tới hạn của phiếm hàm Euler-Lagrange liên kết nhờ định lí qua núi trong
[4] và [16].
Các kết quả trình bày trong chương này đã được công bố trong các bài báo
[1],[2],[3] (xem danh mục công trình liên quan đến luận án).
17
1.1 Bài toán Neumann cho phương trình ellip-
tic tựa tuyến tính với toán tử p-laplacian
trong miền không bị chặn
Giả sử Ω ⊂ R
N
(N ≥ 3) là miền không bị chặn với biên ∂Ω đủ trơn, đóng và bị
chặn, ta xét bài toán sau:




−div(h(x)|∇u|
p−2
∇u) + b(x)|u|
p−2
u = f(x, u) trong Ω,
∂u
∂n
= 0 trên ∂Ω, u(x) −→ 0 khi |x| −→ +∞
(1.1)
với p ≥ 2, Ω = Ω ∪ ∂Ω, n là véc tơ pháp tuyến đơn vị ∂Ω, f : Ω × R → R là hàm
thoả mãn một số điều kiện sẽ trình bày rõ ở phần sau, các hàm h và b thoả mãn
các điều kiện sau đây:
H) h ∈ L
1
loc
(Ω), h(x) ≥ 1 với h.k. x ∈ Ω.
B) b ∈ L
∞
loc
(Ω), b(x) ≥ b
0
> 0 với h.k. x ∈ Ω.
Trước hết chúng ta chú ý rằng trong trường hợp Ω là miền bị chặn trong R
N
hoặc h(x) = 1 bài toán (1.1) đã được nhiều tác giả nghiên cứu bằng các phương
pháp khác nhau chẳng hạn trong [2],[3],[6],[7],[28],[32],[33],[37]. Trong trường
hợp h ∈ L
1

loc
(Ω), tức là trường hợp bài toán không đều, phương trình elliptic dạng
(1.1), với điều kiện biên Dirichlet, đã được các tác giả Dương Minh Đức, Nguyễn
Thanh Vũ ([17]), Hoàng Quốc Toàn, Ngô Quốc Anh, Nguyễn Thành Chung
nghiên cứu ([10],[11],[12],[13],[34],[35]). Trong mục này, chúng tôi nghiên cứu
sự tồn tại nghiệm yếu của bài toán Neumann cho phương trình elliptic tựa
tuyến tính với hệ số không trơn đối với toán tử p-Laplace dạng (1.1) trong miền
không bị chặn Ω ⊂ R
N
với biên đủ trơn, đóng và bị chặn ∂Ω. Để thiết lập kết quả
chính chúng tôi đưa vào các giả thiết sau:
F1) f(x, t) ∈ C
1
(Ω × R, R), f(x, 0) = 0, x ∈ Ω.
F2) Tồn tại hàm số không âm τ : Ω −→ R và hằng số r ∈ (p − 1,
N + p
N − p
) sao cho
|f

z
(x, z)| ≤ τ(x)|z|
r−1
với h.k. x ∈ Ω.
τ(x) ∈ L
∞
(Ω) ∩ L
r
0
(Ω), r

0
=
Np
Np − (r + 1)(N − p)
.
18
F3) Tồn tại µ > p sao cho
0 < µF (x, z) = µ
z

0
f(x, t)dt ≤ zf(x, z), với mọi x ∈ Ω, z = 0.
Đặt
C
∞
0
(Ω) = {u ∈ C
∞
(Ω) : supp u compact ⊂ Ω}
và W
1,p
(Ω) là không gian Sobolev thông thường được xác định là bổ sung đủ của
C
∞
0
(Ω) với chuẩn
||u|| =




Ω
(|∇u|
p
+ |u|
p
)dx


1
p
.
Ta xét không gian con H của không gian W
1,p
(Ω), xác định bởi
H = {u ∈ W
1,p
(Ω) :

Ω
(h(x)|∇u|
p
+ b(x)|u|
p
)dx < +∞}
và H có chuẩn là
||u||
H
=




Ω
h(x)|∇u|
p
+ b(x)|u|
p
dx


1
p
.
Mệnh đề 1.1.1. H là không gian Banach và phép nhúng H → W
1,p
(Ω) là liên
tục.
Chứng minh. Rõ ràng H là không gian định chuẩn. Lấy {u
m
} là dãy Cauchy
trong H. Khi đó
lim
m,k→∞

Ω
(h(x)|∇(u
m
− u
k
)|
p

+ b(x)|u
m
− u
k
|
p
)dx = 0
và {||u
m
||
H
} là bị chặn.
Từ ||u
m
− u
k
||
W
1,p
(Ω)
≤ b||u
m
− u
k
||
H
, b là hằng số dương, với mọi m, k, ta suy
ra {u
m
} cũng là dãy Cauchy trong W

1,p
(Ω) và nó cũng hội tụ tới u trong W
1,p
(Ω),
nghĩa là
lim
m→+∞

Ω
(|∇u
m
− ∇u|
p
+ |u
m
− u|
p
)dx = 0.
19
Vì {∇u
m
} hội tụ tới ∇u và {u
m
} hội tụ tới u trong L
p
(Ω). Do đó tồn tại dãy con
của dãy {u
m
} , ta vẫn kí hiệu là {u
m

} sao cho {∇u
m
(x)} hội tụ tới ∇u(x) và
{u
m
(x)} hội tụ tới {u(x)} với h.k. x ∈ Ω.
Áp dụng Bổ đề Fatou ta có

Ω
(h(x)|∇u|
p
+ b(x)|u|
p
)dx
≤ lim inf
m→+∞

Ω
(h(x)|∇u
m
|
p
+ b(x)|u
m
|
p
)dx < +∞.
Vì vậy u ∈ H. Áp dụng Bổ đề Fatou lần nữa
0 ≤ lim
m→+∞


Ω
(h(x)|∇u
m
− ∇u|
p
+ b(x)|u
m
− u|
p
)dx
≤ lim
m→+∞


lim inf
k→+∞

Ω
(h(x)|∇u
m
− ∇u
k
|
p
+ b(x)|u
m
− u
k
|

p
)dx


= 0.
Do đó {u
m
} hội tụ tới u trong H. Vậy H là không gian Banach và phép nhúng
H → W
1,p
(Ω) là liên tục.
Định nghĩa 1.1.1. Hàm u ∈ H là nghiệm yếu của bài toán (1.1) nếu và chỉ nếu

Ω
h(x)|∇u|
p−2
∇u∇ϕdx +

Ω
b(x)|u|
p−2
uϕdx −

Ω
f(x, u)ϕdx = 0 (1.2)
với mọi ϕ ∈ C
∞
0
(Ω).
Chú ý 1.1.1. Nếu u

0
∈ C
∞
0
(Ω) thoả mãn điều kiện (1.2) và h ∈ L
1
loc
(Ω) ∩ C(Ω)
thì u
0
là nghiệm cổ điển của bài toán (1.1). Thật vậy, từ u
0
∈ C
∞
0
(Ω), supp u
0
compact, do đó tồn tại R > 0 đủ lớn sao cho ∂Ω ⊂ B
R
(0), supp u
0
⊂ Ω ∩ B
R
(0), ở
đó B
R
(0) là hình cầu bán kính R, tâm tại gốc toạ độ 0.
Đặt Ω
R
= Ω ∩ B

R
(0), từ F1) ta có f(x, u
0
) = 0 với x ∈ supp u
0
nên

Ω
R
h(x)|∇u
0
|
p−2
∇u
0
∇ϕdx +

Ω
R
b(x)|u
0
|
p−2
u
0
ϕdx −

Ω
R
f(x, u

0
)ϕdx = 0
với mọi ϕ ∈ C
∞
0
(Ω).
Áp dụng Định lí Green và chú ý rằng supp u
0
⊂ Ω ∩ B
R
(0) ta có

Ω
R
-div(h(x)|∇u
0
|
p−2
∇u
0
)ϕ + b(x)|u
0
|
p−2
u
0
ϕ)dx
20
+


∂Ω
h(x)|∇u
0
|
p−2
∂u
0
∂n
ϕdσ −

Ω
R
f(x, u
0
)ϕdx = 0, với mọi ϕ ∈ C
∞
0
(Ω).
Do đó

Ω
R
(-div (h(x)|∇u
0
|
p−2
∇u
0
)ϕ + b(x)|u
0

|
p−2
u
0
ϕ)dx −

Ω
R
f(x, u
0
)ϕdx = 0,
với mọi ϕ ∈ C
∞
0
(Ω
R
).
Từ đó ta có



−div(h(x)|∇u
0
|
p−2
∇u
0
) + b(x)|u
0
|

p−2
u
0
= f(x, u
0
) trong Ω
∂u
0
∂n
= 0 trên ∂Ω
(1.3)
Vì vậy u
0
là nghiệm cổ điển của (1.1).
Kết quả chính của phần này là định lí sau
Định lí 1.1.1. Với các giả thiết F1)-F3) thì bài toán (1.1) có ít nhất một nghiệm
yếu không tầm thường trong H.
Ta xác định phiếm hàm năng lượng J : H −→ R liên kết với bài toán (1.1) bởi
công thức:
J(u) =
1
p

Ω
h(x)|∇u|
p
dx +
1
p


Ω
b(x)|u|
p
dx −

Ω
F (x, u)dx (1.4)
= T (u) − P(u), u ∈ H
trong đó
T (u) =
1
p

Ω
h(x)|∇u|
p
dx +
1
p

Ω
b(x)|u|
p
dx
và
P (u) =

Ω
F (x, u)dx với mọi u ∈ H.
Trước hết ta chú ý rằng khi h ∈ L

1
loc
(Ω), nói chung phiếm hàm T không thuộc
C
1
(H). Điều này có nghĩa chúng ta không thể áp dụng Định lí qua núi cổ điển
của Ambrossetti-Rabinowitz. Để vượt qua khó khăn này, chúng tôi sẽ áp dụng
dạng yếu của Định lí qua núi được chứng minh bởi D.M.Duc ([16])(Xem Định
nghĩa 0.0.1).
21