SlideShare une entreprise Scribd logo
1  sur  26
Télécharger pour lire hors ligne
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ
NGUYỄN ĐỨC DŨNG
KHAI THÁC TẬP MỤC LỢI ÍCH CAO
SỬ DỤNG PHƯƠNG PHÁP TỐI ƯU ĐÀN KIẾN
Ngành: Khoa học máy tính
Chuyên ngành: Khoa học máy tính
Mã số: 8480101.01
LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH
NGƯỜI HƯỚNG DẪN KHOA HỌC:
PGS.TS Hoàng Xuân Huấn
Hà Nội - 2019
2
LỜI CẢM ƠN
Tôi xin gửi lời cảm ơn chân thành nhất tới PGS.TS Hoàng Xuân Huấn, người
thầy đáng kính đã tận tình chỉ bảo, hướng dẫn tôi trong suốt quá trình tìm hiểu,
nghiên cứu và hoàn thiện luận văn. Với kiến thức sâu rộng, nhiều năm nghiên cứu
trong lĩnh vực tối ưu hóa cũng như phương pháp tối ưu hệ kiến của thầy đã giúp tôi
hiểu rõ, sâu sắc nhiều khó khăn gặp phải trong quá trình nghiên cứu. Thầy cũng đưa
ra những góp ý chi tiết, tỉ mỉ hết sức quý báu giúp cho tôi có thể hoàn thành quyển
luận văn này.
Tôi cũng xin được bày tỏ lòng biết ơn tới các thầy cô trường Đại học Công nghệ
đã tham gia giảng dạy và chia sẻ những kinh nghiệm quý báu cho tập thể và cá nhân
tôi nói riêng. Tôi xin cảm ơn tới các thầy và các anh chị đã thường xuyên giúp đỡ, trao
đổi, góp ý về những vấn đề khoa học liên quan tới luận văn.
Hà Nội, tháng 3 năm 2019
HỌC VIÊN
Nguyễn Đức Dũng
3
LỜI CAM ĐOAN
Tôi xin cam đoan rằng đây là công trình nghiên cứu của cá nhân tôi dưới sự
hướng dẫn giúp đỡ của PGS.TS Hoàng Xuân Huấn. Các kết quả được viết chung với
các tác giả khác đều được sự đồng ý của tác giả trước khi đưa vào luận văn. Trong
toàn bộ nội dung nghiên cứu của luận văn, các vấn đề được trình bày đều là những
tìm hiểu và nghiên cứu của chính cá nhân tôi hoặc là được trích dẫn từ các nguồn tài
liệu có ghi tham khảo rõ ràng, hợp pháp.
Trong luận văn, tôi có tham khảo đến một số tài liệu của một số tác giả được
liệt kê tại mục tài liệu tham khảo.
Hà Nội, tháng 3 năm 2019
HỌC VIÊN
Nguyễn Đức Dũng
4
MỤC LỤC
LỜI CẢM ƠN......................................................................................................................2
LỜI CAM ĐOAN................................................................................................................3
DANH MỤC KÝ HIỆU VÀ TỪ VIẾT TẮT......................................................................6
DANH SÁCH CÁC BẢNG ................................................................................................7
DANH SÁCH HÌNH VẼ.....................................................................................................8
MỞ ĐẦU .............................................................................................................................9
CHƯƠNG 1: TỐI ƯU TỔ HỢP VÀ BÀI TOÁN TỐI ƯU ĐÀN KIẾN..........................12
1.1. Giới thiệu bài toán tối ưu tổ hợp ............................................................................12
1.2. Giới thiệu bài toán người chào hàng ......................................................................13
1.3. Các cách tiếp cận giải quyết bài toán tối ưu tổ hợp................................................13
1.3.1. Heuristic cấu trúc.............................................................................................13
1.3.2. Tìm kiếm địa phương ......................................................................................14
1.3.3. Phương pháp meta-heuristic............................................................................15
1.3.4. Phương pháp memetic.....................................................................................15
1.4. Phương pháp tối ưu đàn kiến..................................................................................16
1.4.1. Từ kiến tự nhiên đến kiến nhân tạo.....................................................................16
1.4.1.1. Kiến tự nhiên ................................................................................................16
1.4.1.2. Kiến nhân tạo (Artificial Ant) ......................................................................19
1.4.2. Phương pháp tối ưu đàn kiến...............................................................................19
1.4.3. Mô tả thuật toán ACO tổng quát .........................................................................20
1.4.4. Các hệ kiến ..........................................................................................................22
1.4.4.1. Hệ kiến AS ...................................................................................................22
1.4.4.2. Hệ kiến ACS.................................................................................................23
1.4.4.3. Hệ kiến Max-Min .........................................................................................25
1.4.4.4. Hệ kiến Max-Min trơn..................................................................................26
CHƯƠNG 2: KHAI THÁC TẬP MỤC CAO TIỆN ÍCH BẰNG PHƯƠNG PHÁP TỐI
ƯU ĐÀN KIẾN.................................................................................................................27
2.1. Bài toán khai thác tập mục lợi ích cao....................................................................27
2.2. Một số phương pháp tiếp cận để giải bài toán........................................................30
2.3. Thuật toán HUIM-ACS. .........................................................................................31
5
2.3.1. Xây dựng đồ thị cấu trúc và khởi tạo vết mùi. ................................................31
2.3.2. Quy tắc cắt tỉa nút............................................................................................35
2.3.3. Quy tắc cập nhật mùi.......................................................................................37
2.4. Thuật toán HUIM-SMMAS ...................................................................................39
CHƯƠNG 3: KẾT QUẢ THỰC NGHIỆM, SO SÁNH VÀ ĐÁNH GIÁ .......................41
3.1. Bộ dữ liệu chuẩn.....................................................................................................41
3.2. Tiến hành chạy thực nghiệm ..................................................................................41
3.3. Kết quả thực nghiệm và đánh giá...........................................................................42
KẾT LUẬN .......................................................................................................................44
TÀI LIỆU THAM KHẢO.................................................................................................45
6
DANH MỤC KÝ HIỆU VÀ TỪ VIẾT TẮT
STT Từ viết tắt Từ hoặc cụm từ
1 ACO Ant Colony Optimization (Tối ưu hóa đàn kiến)
2 AS Ant System (Hệ kiến AS)
3 ACS Ant Colony System (Hệ kiến ACS)
4 MMAS Max-Min Ant System (Hệ kiến MMAS)
5 SMMAS Smooth-Max Min Ant System (Hệ kiến MMAS trơn)
6 TSP Travelling Salesman Problem (Bài toán người chào hàng)
7 TƯTH Tối ưu tổ hợp
8 HUI High-Utility Itemset
9 HUIM High-Utility Itemsets Mining
10 TWU Transaction-Weight Utility
11 FIM Frequence Itemset Mining
7
DANH SÁCH CÁC BẢNG
Bảng 2.1: Danh sách giao dịch và bảng lợi nhuận của từng sản phẩm................... 27
Bảng 3.1: Bộ dữ liệu chạy thử nghiệm ................................................................... 41
Bảng 3.2: Ngưỡng tiện ích thiết lập chạy thực nghiệm .......................................... 41
8
DANH SÁCH HÌNH VẼ
Hình 1.1: Lời giải nhận được thông qua tìm kiếm địa phương............................... 15
Hình 1.2: Thể hiện hành vi của mỗi con kiến trong tự nhiên ................................. 17
Hình 1.3: Thực nghiệm trên cây cầu đôi................................................................. 18
Hình 1.4: Thí nghiệm bổ sung................................................................................. 19
Hình 1.5: Lựa chọn đỉnh đi tiếp theo ...................................................................... 21
Hình 2.3.1: Đồ thị cấu trúc định tuyến với 3 items................................................. 32
Hình 2.3.2: Hàm heuristic trong trường hợp không có thông tin về TWU ............ 33
Hình 2.3.3: Hàm heuristic giữ lại tất cả TWU........................................................ 34
Hình 2.3.4: Hàm heuristic tính toán các TWU ....................................................... 35
Hình 2.3.5: Quy tắc cắt tỉa tích cực......................................................................... 36
Hình 3.3.1: So sánh số lượng HUI tìm được của 2 thuật toán................................ 42
Hình 3.3.2: So sánh thời gian thực hiện của các thuật toán.................................... 43
Hình 3.3.3: So sánh tốc độ hội tụ của hai thuật toán .............................................. 43
9
MỞ ĐẦU
Hiện nay, việc tính toán doanh số và tối ưu hóa lợi nhuận bán hàng là công
việc cực kỳ quan trọng, nó ảnh hưởng trực tiếp đến doanh thu và chiến lược bán
hàng của các công ty, siêu thị hay các đơn vị bán lẻ. Đặc biệt, với số lượng hàng hóa
lớn, giá cả khác nhau, nên việc tính toán lợi nhuận tối ưu từ bán hàng càng có quan
trọng. Trong khi số lượng giao dịch mỗi giờ có thể lên đến hàng chục nghìn giao
dịch, việc tính toán xem mặt hàng nào đem lại doanh số cao, mặt hàng nào kinh
doanh không hiệu quả dù bán với số lượng lớn càng trở nên khó khăn do dữ liệu quá
lớn, liên tục.
Bài toán khai thác tập mục lợi ích cao(High-Utility Itemsets Mining – HUIM)
đã được nhóm tác giả R.C. Chan, Q. Yang, Y.D. Shen đề xuất vào năm 2003, để tìm
ra các HUI(High-Utility Itemsets), là các tổ hợp đem lại lợi nhuận cao nhất từ cơ sở
dữ liệu giao dịch được lưu lại. Từ đó, các công ty, siêu thị bán lẻ sẽ đưa ra các chiến
lược kinh doanh cho phù hợp, nhằm tối đa hóa lợi nhuận.
Trong các phương pháp đề xuất trước đó, hầu hết các nghiên cứu tập trung
vào việc khai thác tần suất xuất hiện của các tập mục (FIM) và khai thác quy tắc liên
kết (ARM). Các thuật toán này đã được phát triển để khai thác tập hợp các tập mục
có tần suất xuất hiện không nhỏ hơn ngưỡng tối thiểu và để tìm ra các quy tắc liên
kết mà độ tin cậy không thấp hơn ngưỡng tối thiểu[1, 2]. Vì chỉ có các tần suất xuất
hiện của các tập mục được phát hiện trong FIM hoặc ARM, nó không đủ để xác định
các tập dữ liệu có lợi nhuận cao, đặc biệt là khi các tập mục hiếm khi xuất hiện
nhưng có các giá trị lợi nhuận cao. Ví dụ, một cửa hàng bách hóa có thể bán ít đồ
trang sức hơn hầu hết các hàng hoá khác trong một tháng, nhưng đồ trang sức thường
có thể có được lợi nhuận cao hơn các hàng hoá khác mua nhiều hơn trong cùng thời
kỳ.
Trên thực tế, thông tin cho các tập mục lợi ích cao (HUIs) có giá trị hơn các
tập phổ biến. Khác với FIM hoặc ARM, vấn đề khai thác các tập mục lợi ích cao
(HUIM) [3-6] đã được đề xuất để khám phá ra các tập “có ích” và “có lợi nhuận” từ
một cơ sở dữ liệu định lượng. Một ngưỡng lợi ích tối thiểu cho người dùng cụ thể
được sử dụng để ước tính liệu một tập thuộc tính là một tập mục lợi ích cao hay
không (HUI). Tập dữ liệu là một HUI nếu giá trị lợi nhuận của tập này cao hơn
ngưỡng. Trong thực tế, không chỉ “lợi nhuận” có thể được áp dụng như là giá trị tiện
ích để khai thác các tập mục có ích, “trọng lượng”, “chi phí” và các yếu tố khác cũng
có thể khai thác được các HUI.
10
Có nhiều thuật toán đã được đề xuất để khai thác tập hợp các HUI. Chan và
cộng sự [7] lần đầu tiên đề xuất khái niệm về vấn đề khai thác hữu ích thay vì FIM.
Yao và cộng sự [4] đề xuất khai thác các HUI theo số lượng các mặt hàng như là
tiện ích nội bộ và lợi nhuận đơn vị của các mặt hàng là tiện ích bên ngoài. Liu và
các cộng sự [8] đã đề xuất mô hình TWU (Transaction Weight Utility) hai giai đoạn
và trọng số giao dịch giảm dần (TWDC) để khai thác các HUI. Lin và cộng sự [9]
trình bày một cây HUP để khai thác HUIs. Lan và cộng sự[10] đã thiết kế các thuật
toán khai thác dựa trên cơ chế thiết lập chỉ mục(Index) và phát triển chiến lược cắt
tỉa để khai thác hiệu quả các HUI. Sau đó, Tseng [11] đã thiết kế thuật toán khai thác
tăng trưởng để lấy các HUI dựa trên cấu trúc cây UP-develop. HUI-Miner [12] là
một thuật toán hiệu quả được sử dụng nhiều để khai thác các HUI.
Các thuật toán đề xuất để giải bài toán HUIM phải mất nhiều thời gian tính
toán hơn cùng với một không gian tìm kiếm khổng lồ, trong khi số lượng các mục
riêng biệt hoặc kích thước cơ sở dữ liệu là rất lớn. Các thuật toán tiến hóa là một
cách hiệu quả và có thể tìm ra các giải pháp tối ưu sử dụng các nguyên tắc của sự
tiến hóa tự nhiên [21]. Các điều kiện dừng nghiêm ngặt có thể được thiết lập để hạn
chế thời gian tính toán cho một quá trình nhưng vẫn có được một giải pháp gần như
tối ưu. Thuật toán di truyền (GA) [22], là một loại EC, một cách tiếp cận tối ưu để
giải quyết các bài toán NP-hard và không tuyến tính, và được sử dụng để tìm kiếm
trên các không gian tìm kiếm rất lớn để tìm ra các giải pháp tối ưu cho các hàm mục
tiêu được thiết kế với các bài toán khác nhau như lựa chọn, chéo và đột biến. Trong
quá khứ, Kannimuthu và Premalatha [20] đã thông qua thuật toán di truyền và phát
triển sự khai thác các tập mục lợi ích cao bằng cách sử dụng các thuật toán di truyền
với đột biến xếp hạng sử dụng ngưỡng tiện ích tối thiểu (HUPEumu-GRAM) để khai
thác HUI. Một thuật toán di truyền khác gọi là HUPEwumu-GRAM cũng được đề xuất
để khai thác HUIs với một ngưỡng tiện ích tối thiểu cụ thể. Đối với hai thuật toán
này, việc di truyền chéo và đột biến được sử dụng để ngẫu nhiên tạo ra các lời giải
tiếp theo trong quá trình tiến hóa. Tuy nhiên, nó cần một số lượng HUI khởi tạo ban
đầu, trong khi số lượng các HUI còn lại trong cơ sở dữ liệu là rất lớn.
Thuật toán tối ưu bầy đàn (Particle Swarm Optimization-PSO) là một trong
những kỹ thuật tối ưu được sử dụng nhiều nhất [23]. Lin và cộng sự [24] đề xuất
một kỹ thuật dựa trên PSO để khai thác các tập mục lợi ích cao dựa trên PSO nhị
phân (BPSO). Nó được gọi là HUIM-BPSO và áp dụng mô hình TWU để tìm HUI
hiệu quả.
Ngoài ra, các thuật toán thuộc nhóm kiến hoặc các phép lai của ACO với các
thuật toán meta-heuristic khác cũng được áp dụng trong lĩnh vực khai thác dữ liệu
11
[26]. Năm 2016, J.M.-T. Wu và cộng sự [34] đã đề xuất thuật toán HUIM-ACS để
khai thác các HUI. Kết quả thực nghiệm đã cho kết quả thuật toán HUIM-ACS tốt
hơn các thuật toán đề xuất trước đó.
Trong luận văn này, tôi sẽ trình bày khảo cứu lại các phương pháp giải bài
toán “Khai thác tập mục lợi ích cao”. Tôi đã khảo cứu và cài đặt lại thuật toán HUIM-
ACS là một thuật toán khai thác tập mục lợi ích cao hiệu quả nhất để giải bài toán
này. Sử dụng ý tưởng xây dựng lời giải của thầy PGS.TS Hoàng Xuân Huấn cùng
các cộng sự [35] năm 2012, tôi đề xuất một thuật toán mới là HUIM-SMMAS để
giải quyết bài toán khai thác tập mục lợi ích cao. Thuật toán mới này sử dụng quy
tắc cập nhật mùi của hệ kiến Max-Min trơn(SMMAS). Quy tắc cập nhật mùi mới
này đã được chứng minh là hiệu quả hơn quy tắc cập nhật mùi của hệ kiến ACS.
Ngoài phần kết luận, cấu trúc của luận văn bao gồm:
Chương 1: Trình bày khái quát về bài toán tối ưu tổ hợp tổng quát, phương
pháp tối ưu đàn kiến, các hệ kiến AS, ACS, MMAS, SMMAS. Ví dụ về bài toán
người chào hàng giải quyết bằng thuật toán ACO.
Chương 2: Giới thiệu bài toán khai thác tập mục lợi ích cao và một vài
phương pháp tiếp cận để giải bài toán. Trình bày thuật toán HUIM-ACS, phương
pháp xây dựng đồ thị cấu trúc, cập nhật mùi. Đề xuất thuật toán mới HUIM-SMMAS.
Chương 3: Tiến hành thực nghiệm trên bộ dữ liệu chuẩn, thống kê, đánh giá
kết quả thu được và so sánh kết quả giữa thuật toán HUIM-ACS và HUIM-SMMAS.
12
CHƯƠNG 1: TỐI ƯU TỔ HỢP VÀ BÀI TOÁN
TỐI ƯU ĐÀN KIẾN
1.1. Giới thiệu bài toán tối ưu tổ hợp
Các bài toán tiêu biểu của lớp bài toán tối ưu tổ hợp như: bài toán giao hàng
với chi phỉ nhỏ nhất giữa 2 thành phố, bài toán lập thời khóa biểu, bài toán lập lịch
sản xuất…
Đây là các bài toán trong thực tế để giải các bài toán dạng này ta cần khái quát
hóa chúng để có mô phỏng trên máy tính, tính toán thông qua các mô phỏng đó để
tìm ra lời giải tối ưu. Chung nhất với mỗi bài toán đều chứa n thành phần C={c1,…cn}
và hàm mục tiêu f. Các bài toán ứng dụng với bộ (S, f, Ω), trong đó S là tập hữu hạn
các trạng thái (phương án), f là hàm mục tiêu xác định trên S và Ω là tập các ràng
buộc. Mỗi phương án 𝑠 ∈ 𝑆 thỏa mãn các ràng buộc Ω gọi là phương án chấp nhận
được. Mục tiêu của chúng ta là tìm ra s* tối ưu hóa toàn cục đối với hàm mục tiêu f,
nói cách khác chính là tìm phương án s* sao cho f(s*) ≤ f(s) với mọi 𝑠 ∈ 𝑆. Đối với
bài toán này ta có 3 cách giải quyết đó là: vét cạn, kỹ thuật ăn tham hoặc phương
pháp tối ưu trong lĩnh vực NP-hard(NP-khó).
Các thuộc tính của tập S, C và Ω như sau:
1. Ký hiệu X là tập các vector trên C có độ dài không quá h: X={<u0,…,uk>ui
∀i≤k≤h}. Khi đó, mỗi phương án s trong S được xác định nhờ ít nhất một
vector trong X.
2. Tồn tại tập con X* của X và ánh xạ 𝜑 từ X* lên S sao cho 𝜑−1(𝑠) không
rỗng với mọi 𝑠 ∈ 𝑆, trong đó tập X* có thể xây dựng được từ tập con C0
nào đó của C nhờ thủ tục mở rộng tuần tự dưới dây.
3. Từ C0 ta mở rộng tuần tự thành X* như sau:
i. Ta xem x0 = <u0> là mở rộng được với mọi u0∈C0
ii. Giả sử xk = <u0,…,uk> là mở rộng được và chưa thuộc X*. Từ tập
ràng buộc Ω, xác định tập con J(xk) của C, sao cho với mọi uk+1∈
J(xk) thì xk+1=<u0, …,uk, uk+1> là mở rộng được.
iii. Áp dụng thủ tục mở rộng từ các phần tử u0∈C0 cho phép ta xây dựng
được mọi phần tử của X*.
Như vậy mỗi bài toán TƯTH được xem là một bài toán cực trị hàm có h biến,
trong đó mỗi biến nhận giá tri trong tập hữu hạn C kể cả giá trị rỗng. Nói một cách
khác là bài toán tìm kiếm trong không gian vector độ dài không quá h trong đồ thị
đầy đủ có các đỉnh có nhãn trong tập C.
13
1.2. Giới thiệu bài toán người chào hàng
Bài toán người chào hàng (Traveling Salesman Problem - TSP) là bài toán
TƯTH điển hình, được nghiên cứu và xem như là bài toán chuẩn để đánh giá về hiệu
quả lời giải các bài toán TƯTH.
Bài toán được phát biểu như sau:
Có một tập gồm n thành phố (hoặc điểm tiêu thụ) 𝐶 = {𝑐1, 𝑐2, … , 𝑐𝑛} độ dài
đường đi trực tiếp từ 𝑐𝑖 đến 𝑐𝑗 là 𝑑𝑖𝑗. Một người chào hàng muốn tìm một hành trình
ngắn nhất từ nơi ở, đi qua mỗi thành phố đúng một lần để giới thiệu sản phẩm cho
khách hàng, sau đó trở về thành phố xuất phát.
Có thể thấy đây chính là bài toán tìm chu trình Hamilton với đồ thị đầy đủ có
trọng số 𝐺 = (𝑉, 𝐸), với V là tập các đỉnh với nhãn là các thành phố trong C, E là
tập các cạnh nối các thành phố tương ứng, độ dài mỗi cạnh chính là độ dài đường đi
giữa hai thành phố tương ứng. Trong trường hợp này, tập S sẽ là tập các chu trình
Hamilton trên G, f là độ dài của chu trình, Ω là ràng buộc đòi hỏi chu trình là chu
trình Hamilton (qua tất cả các đỉnh, mỗi đỉnh đúng một lần), C là tập thành phố được
xét, C0 trùng với C, tập X là vectơ độ dài n: 𝑥 = (𝑥1, … , 𝑥𝑛) với 𝑥𝑖 ∈ 𝐶 ∀𝑖 ≤ 𝑛, còn
X* là các vectơ trong đó 𝑥𝑖 khác 𝑥𝑗 đối với mọi cặp (𝑖, 𝑗).
Do đó, lời giải tối ưu của bài toán TSP là một hoán vị π của tập đỉnh
{𝑐1, 𝑐𝑛, … , 𝑐𝑛} sao cho hàm độ dài f(π) là nhỏ nhất, trong đó f(π) được tính theo công
thức sau:
𝑓(𝜋) = ∑ 𝑑(𝜋(𝑖), 𝜋(𝑖 + 1)) + 𝑑(𝜋(𝑛), 𝜋(1))
𝑛−1
𝑖=1
1.3. Các cách tiếp cận giải quyết bài toán tối ưu tổ hợp
Các bài toán TƯTH có thể đưa về bài toán tìm kiếm trên đồ thị, với những bài
toán nhỏ hoặc những bài toán đặc biệt thì có thể tìm lời giải tối ưu nhờ tìm kiếm vét
cạn cũng như xây dựng những lời giải đặc thù. Tuy nhiên hầu hết các bài toán trong
số đó là bài toán NP-hard, nên với các bài toán lớn ta phải tìm lời giải gần đúng. Các
thuật toán gần đúng đối với các bài toán TƯTH khó thường dựa trên 2 kỹ thuật cơ
bản: heuristic cấu trúc (construction heuristic) và tìm kiếm địa phương (local search).
1.3.1. Heuristic cấu trúc
Khi không thể tìm được lời giải tối ưu của bài toán với thời gian đa thức, ta
hướng đến việc tìm lời giải gần đúng. Kỹ thuật thường dùng trong việc tìm lời giải
gần đúng là heuristic cấu trúc, lời giải của bài toán được xây dựng thông qua việc
mở rộng tuần tự. Từ thành phố khởi tạo trong tập C0, từng bước mở rộng không quay
14
lui, thêm vào các thành phần mới theo phương thức ngẫu nhiên hay tất định dựa trên
những quy tắc heuristic. Các quy tắc heuristic này khác nhau tùy vào thuật toán cụ
thể được xây dựng dựa trên toán học kết hợp với kinh nghiệm. Chúng ta có thể khái
quát hóa để mô phỏng dưới dạng thuật toán như sau:
Procedure Heuristic cấu trúc;
Begin
𝑠𝑝 ←chọn thành phần 𝑢0 trong 𝐶0;
While (chưa xây dựng xong lời giải) do
𝑐 ←GreedyComponent(𝑠𝑝);
𝑠𝑝 ← 𝑠𝑝
𝑐
;
end-while
𝑠 ← 𝑠𝑝;
Đưa ra lời giải s;
End;
Thuật toán 1.1: Phương pháp Heuristic cấu trúc
Trong đó GreedyComponent(𝑠𝑝) có nghĩa là chọn thành phần bổ sung vào 𝑠𝑝
theo quy tắc heuristic đã có. Ký hiệu 𝑠𝑝
𝑐
là kết quả phép toán thêm thành phần c vào
𝑠𝑝 .
Với phương pháp trên ta có thể áp dụng cho bài toán TSP với đồ thị đầy đủ
và sử dụng quy tắc heuristic láng giềng gần nhất để chọn đỉnh thêm vào (đỉnh láng
giềng nhỏ nhất chưa đi qua để thêm vào). Thuật toán kiểu này có ưu điểm là thời
gian tính toán nhanh nhưng không thể cải tiến lời giải qua mỗi bước lặp.
1.3.2. Tìm kiếm địa phương
Kỹ thuật tìm kiếm cục bộ hay còn gọi là tìm kiếm địa phương, thực hiện bằng
cách bắt đầu từ một phương án chấp nhận được, lặp lại bước cải tiến lời giải nhờ các
thay đổi cục bộ. Để thực hiện kỹ thuật này, ta cần xác định được cấu trúc lân cận
của mỗi phương án (lời giải) đang xét, tức là những phương án chấp nhận được, gần
với nó nhất, nhờ thay đổi một số thành phần. Cách thường dùng là lân cận k-thay
đổi, tức là lân cận bao gồm các phương án chấp nhận được khác với phương án đang
xét nhờ thay đổi nhiều nhất k thành phần.
Ví dụ. Lân cận 2-thay đổi của một lời giải s trong bài toán TSP bao gồm tất
cả các lời giải s’ có thể nhận được từ s bằng cách đổi hai cạnh. Hình 1.1 chỉ ra một
15
ví dụ một lời giải nhận được bằng cách thay hai cạnh (1,3), (2,6) bằng hai cạnh (2,3),
(1,6).
Hình 1.1: Lời giải nhận được thông qua tìm kiếm địa phương
Việc cải tiến trong các bước lặp thường chọn theo phương pháp leo đồi dựa
theo hai chiến lược: Chiến lược tốt nhất và chiến lược tốt hơn. Với chiến lược tốt
nhất, người ta thực hiện chọn lời giải tốt nhất trong lân cận để làm lời giải cải tiến.
Tuy nhiên, trong bài toán lớn có thể không tìm được lời giải tốt nhất do bị hạn chế
về thời gian. Còn với chiến lược tốt hơn, ta chọn phương án đầu tiên trong lân cận,
cải thiện được hàm mục tiêu. Nhược điểm của tìm kiếm địa phương là thường chỉ
cho cực trị địa phương.
Các kỹ thuật trên thường được kết hợp, tạo thành các hệ lai trong các phương
pháp mô phỏng tự nhiên dựa trên quần thể, chẳng hạn như thuật toán di truyền (GA)
hoặc tối ưu đàn kiến (ACO).
1.3.3. Phương pháp meta-heuristic
Phương pháp metaheuristic là một phương pháp heuristic tổng quát được thiết
kế, định hướng cho các thuật toán cụ thể (bao gồm cả heuristic cấu trúc và tìm kiếm
địa phương). Như vậy, một meta-heuristic là một lược đồ thuật toán tổng quát ứng
dụng cho các bài toán tối ưu khác nhau, với một chút sửa đổi cho phù hợp với từng
bài toán.
1.3.4. Phương pháp memetic
Memetic là một mô hình theo phương pháp meta-heuristic. Trong các thuật
toán được thiết kế theo memetic, người ta tạo ra nhiều thế hệ quần thể lời giải chấp
nhận được. Trong mỗi quần thể của thế hệ tương ứng, ta chỉ chọn ra một số lời giải
16
(chẳng hạn lời giải tốt nhất) để thực hiện tìm kiếm địa phương nhằm cải thiện chất
lượng. Quá trình tiến hóa này cho ta tìm được lời giải tốt nhất có thể. Thuật toán 1.2
mô tả một thuật toán memetic sử dụng tính toán tiến hóa (Evolutionary Computing
- EC):
Proedure Thuật toán memetic-EC;
Begin
Initialize: Tạo ra quần thể đầu tiên;
while điều kiện dừng chưa thỏa mãn do
Đánh giá các cá thể trong quần thể;
Thực hiện tiến hóa quần thể nhờ các toán tử cho trước;
Chọn tập con Ω𝑖𝑙 để cải tiến nhờ thủ tục tìm kiếm địa phương;
for mỗi cá thể trong Ω𝑖𝑙 do
Thực hiện tìm kiếm địa phương;
end-for
Chọn phần tử tốt nhất;
end-while;
Đưa ra lời giải tốt nhất;
End;
Thuật toán 1.2: Thuật toán memetic sử dụng EC
Trong ứng dụng thực tế, các thuật toán ACO thường được kết hợp với tìm
kiếm địa phương theo mô hình memetic này.
1.4. Phương pháp tối ưu đàn kiến
1.4.1. Từ kiến tự nhiên đến kiến nhân tạo
Những hình ảnh nhận thức đặc biệt của đàn kiến chỉ đơn giản là sự phát triển
và hoàn toàn mò mẫm. Trong thực tế, một điều quan trọng trong nghiên cứu về loài
kiến là hành vi liên lạc giữa các con kiến hoặc giữa các cá nhân với môi trường,
được dựa trên việc sử dụng các hóa chất đặc trưng của các loài kiến. Các hóa chất
đó được gọi là mùi (vết mùi).
1.4.1.1. Kiến tự nhiên
Khi tìm đường đi, đàn kiến trao đổi thông tin gián tiếp và hoạt động theo
phương thức tự tổ chức. Phương thức này tuy đơn giản nhưng đã giúp cho đàn kiến
có thể thực hiện được những công việc phức tạp vượt xa khả năng của từng con kiến,
đặc biệt là khả năng tìm đường đi ngắn nhất từ tổ đến nguồn thức ăn (Hình 1.2) (mặc
17
dù, kiến không có khả năng đo độ dài đường đi). Kiến chịu ảnh hưởng của các vết
mùi của các con kiến khác chính là ý tưởng thiết kế thuật toán ACO.
Hình 1.2: Thể hiện hành vi của mỗi con kiến trong tự nhiên
Để làm được điều đó, trên đường đi, mỗi con kiến để lại vết mùi dùng để đánh
dấu đường đi. Bằng cách cảm nhận vết mùi, con kiến có thể lần theo đường đi đến
nguồn thức ăn được các con kiến khác khám phá theo phương thức chọn ngẫu nhiên,
có định hướng theo nồng độ vết mùi.
Thí nghiệm trên cây cầu đôi
Có nhiều thực nghiệm nghiên cứu về hành vi để lại vết mùi và đi theo vết mùi
của loài kiến. Thực nghiệm, được thiết kế bởi Deneubourg và các cộng sự, dùng một
chiếc cầu đôi nối từ tổ kiến tới nguồn thức ăn, như minh họa trong hình 1.3. Họ đã
thực nghiệm với tỉ lệ độ dài đường giữa hai nhánh khác nhau của chiếc cầu đôi.
Trong thực nghiệm thứ nhất, chiếc cầu đôi có hai nhánh bằng nhau (hình 1.3a).
Ban đầu, kiến lựa chọn đường đi một cách tự do đi từ tổ đến nguồn thức ăn, cả hai
nhánh đều có kiến đi, nhưng sau một thời gian các con kiến này tập trung đi theo
cùng một nhánh. Kết quả có thể được giải thích như sau: ban đầu không có vết mùi
nào trên cả hai nhánh, do đó kiến lựa chọn nhánh bất kỳ với xác suất như nhau. Một
cách ngẫu nhiên, sẽ có một nhánh có số lượng kiến lựa chọn nhiều hơn nhánh kia.
Do kiến để lại vết mùi trong quá trình di chuyển, nhánh có nhiều kiến lựa chọn sẽ
có nồng độ mùi lớn hơn nồng độ mùi của nhánh còn lại. Nồng độ mùi trên cạnh lớn
hơn sẽ ngày càng lớn hơn vì ngày càng có nhiều kiến lựa chọn. Cuối cùng, hầu như
tất cả các kiến sẽ tập trung trên cùng một nhánh. Thực nghiệm này cho thấy là sự
18
tương tác cục bộ giữa các con kiến với thông tin gián tiếp là vết mùi để lại cho phép
điều chỉnh hoạt động vĩ mô của đàn kiến.
Hình 1.3: Thực nghiệm trên cây cầu đôi
(a) Hai nhánh có độ dài bằng nhau. (b) Hai nhánh có độ dài khác nhau.
Trong thực nghiệm thứ hai (hình 1.3b), độ dài của nhánh dài gấp đôi độ dài
nhánh ngắn (tỉ lệ r=2). Trong trường hợp này, sau một thời gian tất cả các con kiến
đều chọn đoạn đường ngắn hơn. Cũng như trong thực nghiệm thứ nhất, ban đầu đàn
kiến lựa chọn hai nhánh đi như nhau, một nửa số kiến đi theo nhánh ngắn và một
nửa đi theo nhánh dài (mặc dù trên thực tế, do tính ngẫu nhiên có thể một nhánh nào
đó được nhiều kiến lựa chọn hơn nhánh kia). Nhưng thực nghiệm này có điểm khác
biệt quan trọng với thực nghiệm thứ nhất: Những kiến lựa chọn đi theo nhánh ngắn
sẽ nhanh chóng quay trở lại tổ và khi phải lựa chọn giữa nhánh ngắn và nhánh dài,
kiến sẽ thấy nồng độ mùi trên nhánh ngắn cao hơn nồng độ mùi trên nhánh dài, do
đó sẽ ưu tiên lựa chọn đi theo nhánh ngắn hơn. Tuy nhiên, trong thời gian đầu không
phải tất cả các kiến đều đi theo nhánh ngắn hơn. Phải mất một khoảng thời gian tiếp
theo nữa bầy kiến mới lựa chọn đi theo nhánh ngắn. Điều này minh chứng bầy kiến
đã sử dụng phương thức thăm dò, tìm đường mới.
Một điểm thú vị nữa là quan sát xem điều gì sẽ xảy ra khi quá trình tìm kiếm
đang hội tụ, lại xuất hiện một đường mới từ tổ đến nguồn thức ăn. Việc này được
thực nghiệm như sau: Ban đầu từ tổ đến nguồn thức ăn chỉ có một nhánh dài và sau
30 phút, thêm một nhánh ngắn (hình 1.4). Trong trường hợp này, nhánh ngắn thường
không được kiến chọn mà chúng tập trung đi trên nhánh dài. Điều này có thể giải
thích như sau: nồng độ vết mùi trên cạnh dài cao và sự bay hơi của vết mùi diễn ra
chậm nên đại đa số các con kiến vẫn lựa chọn nhánh dài (có nồng độ vết mùi cao).
Hành vi này tiếp tục được củng cố kiến chọn đi theo nhánh dài, ngay cả khi có một
nhánh ngắn xuất hiện. Việc bay hơi vết mùi là cơ chế tiện lợi cho việc tìm đường
19
mới, nghĩa là việc bay hơi có thể giúp kiến quên đi đường đi tối ưu địa phương đã
được tìm thấy trước đây để tìm khám phá đường đi mới, tốt hơn.
Hình 1.4: Thí nghiệm bổ sung
(Ban đầu chỉ có một nhánh và 30 phút sau bổ sung nhánh ngắn hơn)
1.4.1.2. Kiến nhân tạo (Artificial Ant)
Thực nghiệm cây cầu đôi cho thấy đàn kiến tự nhiên có thể sử dụng luật di
chuyển theo xác suất, dựa trên thông tin địa phương để tìm được đường đi ngắn nhất
giữa hai địa điểm. Vết mùi của đàn kiến cho phép liên tưởng tới cách học tăng cường
(reinforcement learning) trong bài toán chọn tác động tối ưu, gợi mở mô hình mô
phỏng cho bài toán tìm đường đi ngắn nhất giữa hai nút (tương ứng là tổ và nguồn
thức ăn) trên đồ thị, trong đó các tác tử (agent) là đàn kiến nhân tạo.
Tuy nhiên, trong các bài toán ứng dụng sẽ có đồ thị phức tạp hơn. Từ mỗi
đỉnh có thể có nhiều cạnh, nên nếu mô phỏng thực sự hành vi của đàn kiến tự nhiên
nhiều con kiến sẽ đi luẩn quẩn và do đó hiệu quả thuật toán sẽ rất kém. Vì vậy, người
ta dùng kỹ thuật đa tác tử (multiagent) mô phỏng đàn kiến nhân tạo, trong đó mỗi
con kiến nhân tạo có khả năng nhiều hơn so với kiến tự nhiên. Kiến nhân tạo (gọi
đơn giản là kiến) sẽ có bộ nhớ riêng, có khả năng ghi nhớ các đỉnh đã thăm trong
hành trình và tính được độ dài đường đi nó chọn. Ngoài ra, kiến có thể trao đổi thông
tin với nhau, thực hiện tính toán cần thiết, cập nhật mùi…
Sử dụng mô hình kiến nhân tạo này, Dorigo (1991) đã xây dựng thuật toán Hệ
kiến (AS) giải bài toán người chào hàng. Hiệu quả của thuật toán so với các phương
pháp mô phỏng tự nhiên khác như SA(mô phỏng luyện kim) và GA(giải thuật di
truyền) đã được kiểm chứng bằng thực nghiệm. Thuật toán này về sau được phát
triển và có nhiều ứng dụng phong phú, được gọi chung là phương pháp ACO.
1.4.2. Phương pháp tối ưu đàn kiến
Tối ưu đàn kiến (Ant Colony Optimization - ACO) là một phương pháp meta-
heuristic được đề xuất bởi Dorigo vào năm 1991 dựa trên ý tưởng mô phỏng cách
20
tìm đường đi từ tổ tới nguồn thức ăn và ngược lại của các con kiến tự nhiên để giải
gần đúng bài toán TƯTH NP-hard.
Trên đường đi của mình các con kiến thực để lại một vết hóa chất được gọi là
vết mùi (pheromone trail), đặc điểm sinh hóa học của vết mùi này là có khả năng ứ
đọng, bay hơi và là phương tiện giao tiếp báo cho các con kiến khác thông tin về
đường đi đó một cách gián tiếp. Các con kiến sẽ lựa chọn đường đi nào tồn đọng
lượng mùi hay có cường độ vết mùi lớn nhất tại thời điểm lựa chọn để đi, nhờ cách
giao tiếp mang tính gián tiếp và cộng đồng này mà đàn kiến trong tự nhiên tìm được
đường đi ngắn nhất trong quá trình tìm thức ăn mang về tổ và ngược lại. Sử dụng
mô hình kiến nhân tạo này Dorigo đã xây dựng thuật toán hệ kiến (AS) giải bài toán
người chào hàng. Thuật toán này đã được chứng minh tính hiệu quả thông qua thực
nghiệm so với các mô phỏng tự nhiên khác như SA và GA. Thuật toán này về sau
được phát triển và có nhiều áp dụng phong phú trong thực tế như ACS, MMAS,
SMMAS,… được gọi chung là phương pháp ACO.
Theo ý tưởng này, các thuật toán ACO sử dụng thông tin heuristic kết hợp
thông tin học tăng cường qua các vết mùi của các con kiến nhân tạo (artificial ant)
để giải các bài toán tối ưu tổ hợp khó bằng cách đưa về bài toán tìm đường đi tối ưu
trên đồ thị cấu trúc tương ứng được xây dựng từ đặc điểm của từng bài toán cụ thể.
Thuật toán ACO đầu tiên là hệ kiến (Ant System - AS) giải bài toán Người chào hàng
TSP, đến nay các thuật toán ACO đã áp dụng một cách phong phú để giải nhiều bài
toán tối ưu tổ hợp khác nhau và hiệu quả nổi trội của nó đã được chứng tỏ bằng thực
nghiệm.
1.4.3. Mô tả thuật toán ACO tổng quát
Sử dụng điều kiện kết thúc (có thể theo số bước lặp hoặc/và giới hạn thời gian
chạy), ta dùng đàn kiến có m con, tiến hành lặp quá trình xây dựng lời giải trên đồ
thị cấu trúc 𝐺 = (𝑉, 𝐸, 𝐻, 𝑟) như sau: Tại mỗi lần lặp, kiến chọn ngẫu nhiên một
đỉnh 𝑢0 ∈ 𝐶0 làm thành phần khởi tạo 𝑥0 = {𝑢0} và thực hiện xây dựng lời giải theo
thủ tục bước ngẫu nhiên. Dựa trên lời giải tìm được, đàn kiến sẽ thực hiện cập nhật
mùi theo cách học tăng cường.
Thủ tục bước ngẫu nhiên:
Giả sử 𝑥𝑘 =< 𝑢0, … , 𝑢𝑘 > là mở rộng được và chưa thuộc X*. Từ tập ràng
buộc Ω, xác định tập con 𝐽(𝑥𝑘) của 𝐶, sao cho với 𝑢𝑘+1 ∈ 𝐽(𝑥𝑘) thì 𝑥𝑘+1 = <
𝑢0, … , 𝑢𝑘, 𝑢𝑘+1 > là mở rộng được. Đỉnh 𝑗 = 𝑢𝑘+1 để mở rộng, được chọn với xác
suất 𝑃(𝑗) như sau:
21
𝑃(𝑗) = {
[𝜏𝑖𝑗]𝛼
[𝜂𝑖𝑗]𝛽
∑ [𝜏𝑖𝑗]𝛼[𝜂𝑖𝑗]𝛽
𝑙∈𝐽(𝑥𝑘)
, 𝑗 ∈ 𝐽(𝑥𝑘)
0, 𝑗 𝜖
̅𝐽(𝑥𝑘)
Quá trình mở rộng tiếp tục cho tới khi kiến r tìm được lời giải chấp nhận được
xr
trong X* và do đó 𝑠𝑟
= 𝜑(𝑥𝑟) ∈ 𝑆.
Hình 1.5: Lựa chọn đỉnh đi tiếp theo
Ta coi 𝑥𝑟
và 𝑠𝑟
như nhau và không phân biệt X* với S.
- Cập nhật mùi:
Tùy theo chất lượng của lời giải tìm được, vết mùi trên mỗi cạnh sẽ được điều
chỉnh tăng hoặc giảm tùy theo đánh giá mức độ ưu tiên tìm kiếm về sau. Lượng mùi
cập nhật theo các quy tắc cập nhật mùi khác nhau sẽ cho các thuật toán khác nhau.
Vì vậy, quy tắc cập nhật mùi thường dùng làm tên gọi thuật toán, và chúng có dạng
tổng quát là:
𝜏𝑖,𝑗 ← (1 − 𝜌)𝜏𝑖,𝑗 + ∆(𝑖, 𝑗)
trong đó 𝜌 là hằng số thuộc khoảng (0,1) là tỷ lệ lượng mùi bị bay hơi.
Procedure Thuật toán ACO;
Begin
Khởi tạo tham số, ma trận mùi, khởi tạo con kiến;
repeat
for k=1 to m do
Kiến k xây dựng lời giải;
end-for
Cập nhật mùi;
Cập nhật lời giải tốt nhất;
Until (Điều kiện kết thúc);
Đưa ra lời giải tốt nhất;
End;
Thuật toán 1.3: Đặc tả thuật toán ACO
22
Nhận xét chung về các thuật toán ACO
Nhờ kết hợp thông tin heuristic, thông tin học tăng cường và mô phỏng hoạt
động của đàn kiến, các thuật toán ACO có các ưu điểm sau:
- Việc tìm kiếm ngẫu nhiên dựa trên các thông tin heuristic trở nên linh hoạt
và mềm trên miền rộng hơn so với các phương pháp heuristic đã có. Do đó, cho ta
lời giải tốt hơn và có thể tìm được lời giải tối ưu.
- Học tăng cường thông qua thông tin về cường độ vết mùi cho phép từng
bước thu hẹp không gian tìm kiếm, mà vẫn không loại bỏ các lời giải tốt, do đó nâng
cao chất lượng thuật toán.
Chú ý: Khi áp dụng phương pháp ACO cho các bài toán cụ thể, ba yếu tố sau
có ảnh hưởng quyết định đến hiệu quả thuật toán:
- Xây dựng đồ thị cấu trúc thích hợp: Việc xây dựng đồ thị cấu trúc để tìm
được lời giải cho bài toán theo thủ tục tuần tự không khó. Khó khăn chính là với các
bài toán cỡ lớn, không gian tìm kiếm quá rộng, đòi hỏi ta sử dụng các ràng buộc một
cách hợp lý để giảm miền tìm kiếm của kiến.
- Chọn thông tin heuristic: Thông tin heuristic tốt sẽ tăng hiệu quả thuật toán.
Tuy nhiên, trong nhiều bài toán không có thông tin này thì có thể đánh giá chúng
như nhau. Khi đó, ban đầu thuật toán chỉ đơn thuần chạy theo phương thức tìm kiếm
ngẫu nhiên, vết mùi thể hiện định hướng của học tăng cường và thuật toán vẫn thực
hiện được.
- Chọn quy tắc cập nhật mùi: Quy tắc cập nhật mùi thể hiện chiến lược học
của thuật toán. Trong khi đồ thị cấu trúc và thông tin heuristic phụ thuộc vào bài
toán cụ thể, quy tắc cập nhật mùi lại là yếu tố phổ dụng và thường dùng để đặt tên
cho thuật toán.
1.4.4. Các hệ kiến
1.4.4.1. Hệ kiến AS
Hệ thống Kiến (Ant System) dựa trên sự quan sát của các đàn kiến thực sự
tìm kiếm thức ăn. Lần đầu tiên nó được giới thiệu bởi Colorni et al. [28,29]. Một đàn
kiến thực sự có khả năng tìm ra con đường ngắn nhất giữa tổ và các điểm đến của
mình bằng cách để lại vết mùi trên đường đi. Mỗi con kiến xác định hướng tiếp theo
trên tuyến theo mật độ pheromone. AS mô phỏng hành vi của các cộng đồng kiến
thực, lập bản đồ không gian giải pháp từ các vấn đề đã áp dụng cho đồ thị tìm kiếm
và tăng cường quá trình giải pháp xây dựng để tăng hiệu quả tìm kiếm. AS không
chỉ sử dụng thông tin của pheromone, mà còn thiết kế một hàm heuristic để hướng
23
dẫn mỗi con kiến theo những hướng tốt hơn. Một khi tất cả kiến đã hoàn thành
chuyến đi của chúng, số lượng pheromone trên các chuyến đi sẽ được sửa đổi. Thuật
toán ngắn gọn được hiển thị trong Thuật toán 1.4.
Thuật toán 1.4: Thuật toán Ant System
1.4.4.2. Hệ kiến ACS
Ant Colony System, được đề xuất bởi Dorigo và Gambardella [27], là một
thuật toán mở rộng từ hệ thống kiến. Nó đã sửa đổi quy tắc chuyển đổi trạng thái và
quy tắc cập nhật pheromone để tăng hiệu suất của cách tiếp cận AS ban đầu. Nó
được hiển thị trong Thuật toán 1.5:
Thuật toán 1.5: Thuật toán ACS
- Quy tắc chuyển tiếp trạng thái: Quy tắc chuyển tiếp trạng thái được sử dụng
bởi một kiến để chọn xác định đỉnh tiếp theo (trạng thái). Vấn đề người bán hàng du
lịch được lấy làm ví dụ. Giả sử k-th kiến hiện tại thành phố j (nút). Thành phố s (nút)
kế tiếp cho con kiến thứ k đến thăm là:
𝑠 = {
arg 𝑛 ∈ 𝑅𝑘
⃗⃗⃗⃗ (𝑗) max{[𝜏(𝑗, 𝑛)]𝛼
× [𝜂(𝑗, 𝑛)]𝛽
} , 𝑖𝑓 𝑞 ≤ 𝑞0
𝑖 𝑤𝑖𝑡ℎ 𝑎 𝑝𝑟𝑜𝑏𝑎𝑏𝑖𝑙𝑖𝑡𝑦 𝑃𝑘(𝑗, 𝑖), 𝑖𝑓 𝑞 > 𝑞0
(1)
24
Trong đó Rk(j) là tập hợp các thành phố chưa được viếng thăm bởi kiến, τ(j,n)
là pheromone nằm trên cạnh từ thành phố j tới thành phố n, và α, β là hai tham số
xác định ảnh hưởng tương đối của Pheromone so với khoảng cách giữa hai thành
phố trong vấn đề này. Ngoài ra, tham số q là một số ngẫu nhiên phân bố đều giữa 0
và 1, q0 là tham số (0 ≤q0 ≤1) được xác định trước bởi người dùng, và Pk(j, i) là
xác suất từ thành phố j (node) đến thành phố i(node) nếu q> q0. Pk(j, i) được tính như
sau:
𝑃𝑘(𝑗, 𝑖) = {
[𝜏(𝑗, 𝑖)]𝛼
× [𝜂(𝑗, 𝑖)]𝛽
∑ [𝜏(𝑗, 𝑛)]𝛼 × [𝜂(𝑗, 𝑛)]𝛽
𝑛∈𝑅𝑘(𝑗)
, 𝑖𝑓 𝑖 ∈ 𝑅𝑘(𝑗)
0, 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒
(2)
Nếu giá trị của biến ngẫu nhiên q ít hơn tham số được xác định trước q0, quy
tắc chuyển tiếp trạng thái sẽ chọn nút có nồng độ [τ (j, i)]α
× [η (j, i)]β
theo sau. Nếu
không, nó xác định chọn một nút theo công thức (2). Phương pháp lựa chọn ở trên
được gọi là quy luật tỷ lệ giả ngẫu. Quy tắc tỷ lệ giả ngẫu có thể làm tăng tốc độ hội
tụ để có được các giải pháp tốt hơn trong các lần lặp. Trong trường hợp tổng quát,
hàm η(j, i) là một hàm heuristic liên quan đến việc tối ưu hóa. Đây là một thiết kế
quan trọng và hữu ích cho các thuật toán dựa trên kiến. Một chức năng heuristic
thích hợp được thiết lập theo kiến thức miền của ứng dụng nhất định.
- Quy tắc cập nhật toàn cục: Khi tất cả các kiến đã hoàn thành chuyến đi, quy
tắc cập nhật toàn cục sẽ được áp dụng để cập nhật mật độ pheromone của chuyến đi
tốt nhất. Nó khác với quá trình cập nhật pheromone trong AS. Nó làm tăng lượng
pheromone trong tất cả các chuyến đi được thông qua bởi kiến trong một lần lặp lại.
Nhưng ACS chỉ làm tăng lượng pheromone trong chuyến đi tốt nhất. Vì vậy, quy
tắc cập nhật toàn cục phân biệt các chuyến đi tốt nhất giữa các giải pháp khả thi khác
và tăng tốc độ hội tụ. Có hai loại quy tắc cập nhật toàn cục có thể được chọn: Loại
thứ nhất đưa ra chuyến đi tốt nhất (giải pháp tốt nhất toàn cầu) giữa các con kiến
trong tất cả các lần thực hiện lặp đi lặp lại và loại thứ hai có chuyến đi tốt nhất (giải
pháp tốt nhất lặp đi lặp lại) trong lần lặp lại hiện tại. Lấy ví dụ như vấn đề người bán
hàng đi du lịch.
Quy tắc cập nhật toàn cục được nêu như sau:
𝜏𝑡+1(𝑗, 𝑠) = (1 − 𝜌) × 𝜏𝑡(𝑗, 𝑠) + 𝜌 × ∆𝜏(𝑗, 𝑠) (3)
∆𝜏(𝑗, 𝑠) = {
1
𝐿𝑏𝑒𝑠𝑡
, 𝑖𝑓(𝑗, 𝑠) ∈ 𝑏𝑒𝑠𝑡 𝑡𝑜𝑢𝑟
0, 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒
(4)
Tải bản FULL (47 trang): https://bit.ly/3TzaVkI
Dự phòng: fb.com/TaiHo123doc.net
25
Trong đó t là phép lặp hiện tại, 𝜌 (0 < 𝜌 <1) là tham số bay hơi của pheromone,
và Lbest là chiều dài của lời giải tốt nhất toàn cục hoặc lời giải tốt nhất lặp đi lặp lại
qua các kiến. Do đó, quy tắc cập nhật toàn cục sẽ cung cấp tăng lượng pheromone
lớn hơn cho một chuyến đi ngắn nhất trong vấn đề người bán hàng đi du lịch.
- Quy tắc cập nhật cục bộ: Do ảnh hưởng của luật tỷ lệ ngẫu nhiên và quy tắc
cập nhật toàn cầu, ACS luôn thống kê một quần thể kiến để vượt qua cùng một cạnh.
Quy tắc cập nhật cục bộ được thiết kế để điều chỉnh mật độ pheromones và tránh
việc kiến luôn chọn những chuyến đi tương tự trong một lần lặp. Khi một con kiến
chọn một cạnh giữa các nút j và s, nó sẽ cập nhật mật độ pheromone ngay lập tức để
tránh tối ưu cục bộ như sau:
𝜏𝑎𝑓𝑡𝑒𝑟(𝑗, 𝑠) = (1 − 𝜌) × 𝜏𝑏𝑒𝑓𝑜𝑟𝑒(𝑗, 𝑠) + 𝜌 × 𝜏0 (5)
Trong đó τbefore(j, s) là mật độ pheromone từ thành phố j đến s, khi một con
kiến đi qua cạnh, lượng pheromone sẽ được cập nhật τafter( j, s ). Và ρ (0 <ρ <1) là
một tham số để điều chỉnh mật độ pheromone. Đối với công thức này, nếu mật độ
pheromone τbefore(j, s) trong chuyến đi xây dựng cao hơn pheromone ban đầu τ0, quy
tắc cập nhật cục bộ làm giảm mật độ pheromone để giảm khả năng thăm viếng lặp
lại từ cạnh. Nếu không, nó làm tăng mật độ pheromone. Quy tắc cập nhật cục bộ
cung cấp cho một xác suất hợp lý cho bất kỳ giải pháp có thể. Nó giúp kiến khám
phá các cạnh khác với xác suất cao hơn và do đó tránh tối ưu cục bộ. Theo quy trình
cập nhật cục bộ ở trên, một con kiến thường làm giảm mật độ pheromone của cạnh
mà nó chọn. Điều này ngăn cản quần thể con kiến lựa chọn các đường đi tương tự
và đảm bảo rằng các giải pháp khác có thể có cơ hội tốt để được lựa chọn.
1.4.4.3. Hệ kiến Max-Min
MMAS là một thuật toán cải tiến hệ kiến với một số thay đổi. Thứ nhất, giống
như quy tắc cập nhật toàn cục trong ACS, mỗi lần lặp tất cả các lời giải được xây
dựng, chỉ các lời giải tốt nhất được cập nhật bằng quy tắc cập nhật chung trong (3),
trong đó lượng pheromone, ∆𝜏𝑖𝑗, được tính bởi:
∆𝜏𝑖𝑗
(𝑀𝑀𝐴𝑆)
= {
(1 − 𝜌)
1
𝐿𝑔𝑏
, 𝑖𝑓 𝑒𝑖𝑗 ∈ 𝑠∗(𝑡),
0, 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒
(6)
Thứ hai, cường độ pheromone 𝜏𝑖𝑗 trên eij bị hạn chế trong khoảng
[𝜏𝑚𝑖𝑛, 𝜏𝑚𝑎𝑥], trong đó, 𝜏𝑚𝑖𝑛 và 𝜏𝑚𝑎𝑥 là các tham số khác không được xác định trước.
Các tham số khác không(≠0) này được sử dụng để giảm tình trạng đình trệ do các
Tải bản FULL (47 trang): https://bit.ly/3TzaVkI
Dự phòng: fb.com/TaiHo123doc.net
26
con kiến đi cùng đường và đưa ra lời giải chưa tối ưu. Khi thực hiện cập nhật toàn
cục và 𝜏𝑖𝑗 nằm ngoài [𝜏𝑚𝑖𝑛, 𝜏𝑚𝑎𝑥] thì 𝜏𝑖𝑗 được điều chỉnh lại bằng thuật toán:
𝜏𝑖𝑗 = {
𝜏𝑚𝑖𝑛, 𝑖𝑓 𝜏𝑖𝑗 < 𝜏𝑚𝑖𝑛
𝜏𝑚𝑎𝑥, 𝑖𝑓 𝜏𝑖𝑗 > 𝜏𝑚𝑎𝑥
(7)
Các lựa chọn của 𝜏𝑚𝑖𝑛 và 𝜏𝑚𝑎𝑥 ảnh hưởng rất lớn đến hiệu quả của thuật toán.
Thứ ba, khởi tạo lại được sử dụng trong MMAS khi tình trạng đình trệ xảy ra. Thứ
tư, khi thuật toán gần hội tụ, làm mịn sự thay đổi cường độ pheromone nhằm tăng
cường khám phá, tìm kiếm các lời giải mới tốt hơn. Việc làm mịn này thay thế quy
tắc được xác định trong (6) bằng quy tắc cập nhật sau:
𝜏𝑖𝑗 ← 𝜏𝑖𝑗 + 𝛿(𝜏𝑚𝑎𝑥 − 𝜏𝑖𝑗 ) (8)
Trong đó 𝛿 là một hằng số và 0 < 𝛿 < 1.
1.4.4.4. Hệ kiến Max-Min trơn
Thuật toán Max-Min trơn kí hiệu là SMMAS được Đỗ Đức Đông và Hoàng
Xuân Huấn đề xuất năm 2012 [35]. SMMAS được đề xuất để khắc phục nhược điểm của
MMAS, tăng tính khám phá của thuật toán.
Sau khi các con kiến đã tìm được lời giải, ta xác định lời giải tốt nhất và cập nhật
vết mùi theo công thức sau:
𝜏𝑖𝑗 ← (1 − 𝜌)𝜏𝑖𝑗 + ∆𝑖𝑗 (9)
Trong đó:
∆𝑖𝑗= {
𝜌𝜏𝑚𝑎𝑥 𝑖𝑓 (𝑖, 𝑗) ∈ (𝑡)
𝜌𝜏𝑚𝑖𝑛 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒
So với MMAS, thuật toán SMMAS đơn giản, dễ dùng và thực nghiệm cho
thấy nó hiệu quả hơn MMAS.
6812894

Contenu connexe

Similaire à Khai thác tập mục lợi ích cao sử dụng phương pháp tối ưu đàn kiến.pdf

Cá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdf
Cá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdfCá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdf
Cá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdfHanaTiti
 
Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)
Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)
Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)TÀI LIỆU NGÀNH MAY
 
Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...
Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...
Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...TÀI LIỆU NGÀNH MAY
 
Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...
Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...
Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...https://www.facebook.com/garmentspace
 
Nhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế Toán
Nhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế ToánNhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế Toán
Nhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế ToánViết Thuê Luận Văn Luanvanpanda.com
 
Luận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao Động
Luận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao ĐộngLuận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao Động
Luận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao ĐộngViết Thuê Luận Văn Luanvanpanda.com
 
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thôngMột số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thônghttps://www.facebook.com/garmentspace
 
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thôngMột số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thônghttps://www.facebook.com/garmentspace
 
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thôngMột số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thônghttps://www.facebook.com/garmentspace
 
Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...
Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...
Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...https://www.facebook.com/garmentspace
 
Giao thức MAC đa kênh trong Vanets - IEEE 1609.4
Giao thức MAC đa kênh trong Vanets - IEEE 1609.4Giao thức MAC đa kênh trong Vanets - IEEE 1609.4
Giao thức MAC đa kênh trong Vanets - IEEE 1609.4BFF-Tech
 
Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...
Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...
Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...Hỗ Trợ Viết Đề Tài luanvanpanda.com
 

Similaire à Khai thác tập mục lợi ích cao sử dụng phương pháp tối ưu đàn kiến.pdf (20)

Cá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdf
Cá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdfCá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdf
Cá nhân hóa ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng.pdf
 
Ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng, HAY
Ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng, HAYỨng dụng và dịch vụ di động hướng ngữ cảnh người dùng, HAY
Ứng dụng và dịch vụ di động hướng ngữ cảnh người dùng, HAY
 
Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)
Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)
Khảo sát khả năng kháng khuẩn trong cao chiết lá đắng (vernonia amygdalina del)
 
Luận Văn Các Yếu Tố Ảnh Hưởng Đến Sự Thỏa Mãn Công Việc Của Bác Sĩ
Luận Văn Các Yếu Tố Ảnh Hưởng Đến Sự Thỏa Mãn Công Việc Của Bác SĩLuận Văn Các Yếu Tố Ảnh Hưởng Đến Sự Thỏa Mãn Công Việc Của Bác Sĩ
Luận Văn Các Yếu Tố Ảnh Hưởng Đến Sự Thỏa Mãn Công Việc Của Bác Sĩ
 
Các mô hình học sâu tiên tiến và ứng dụng trong phân tích chuỗi thời gian lâm...
Các mô hình học sâu tiên tiến và ứng dụng trong phân tích chuỗi thời gian lâm...Các mô hình học sâu tiên tiến và ứng dụng trong phân tích chuỗi thời gian lâm...
Các mô hình học sâu tiên tiến và ứng dụng trong phân tích chuỗi thời gian lâm...
 
Luận văn: Nghiên cứu mô hình phân lớp câu hỏi và ứng dụng, 9đ
Luận văn: Nghiên cứu mô hình phân lớp câu hỏi và ứng dụng, 9đLuận văn: Nghiên cứu mô hình phân lớp câu hỏi và ứng dụng, 9đ
Luận văn: Nghiên cứu mô hình phân lớp câu hỏi và ứng dụng, 9đ
 
Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...
Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...
Khảo sát sơ bộ thành phần hóa học và đánh giá một số hoạt tính sinh học trong...
 
Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...
Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...
Tìm hiểu mô hình tổ chức và hoạt động sản xuất kinh doanh tại trang trại chăn...
 
Nhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế Toán
Nhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế ToánNhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế Toán
Nhân Tố Ảnh Hưởng Đến Hành Vi Sử Dụng Hệ Thống Thông Tin Kế Toán
 
Luận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao Động
Luận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao ĐộngLuận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao Động
Luận Văn Ảnh Hưởng Của Đạo Đức Tổ Chức Đến Sự Hài Lòng Người Lao Động
 
Đề tài: Thông tin địa lý để quản lý cơ sở hạ tầng tỉnh Lào Cai, HAY
Đề tài: Thông tin địa lý để quản lý cơ sở hạ tầng tỉnh Lào Cai, HAYĐề tài: Thông tin địa lý để quản lý cơ sở hạ tầng tỉnh Lào Cai, HAY
Đề tài: Thông tin địa lý để quản lý cơ sở hạ tầng tỉnh Lào Cai, HAY
 
Xây dựng cơ sở dữ liệu thông tin địa lý quản lý cơ sở hạ tầng
Xây dựng cơ sở dữ liệu thông tin địa lý quản lý cơ sở hạ tầngXây dựng cơ sở dữ liệu thông tin địa lý quản lý cơ sở hạ tầng
Xây dựng cơ sở dữ liệu thông tin địa lý quản lý cơ sở hạ tầng
 
Đề tài: Biện pháp gây hứng thú học tập môn hóa học lớp 10, 9đ
Đề tài: Biện pháp gây hứng thú học tập môn hóa học lớp 10, 9đĐề tài: Biện pháp gây hứng thú học tập môn hóa học lớp 10, 9đ
Đề tài: Biện pháp gây hứng thú học tập môn hóa học lớp 10, 9đ
 
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thôngMột số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
 
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thôngMột số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
 
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thôngMột số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
Một số biện pháp gây hứng thú học tập môn hóa học lớp 10 trung học phổ thông
 
Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...
Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...
Hoàn thiện công tác phân tích tài chính tại công ty trách nhiệm hữu hạn một t...
 
Giao thức MAC đa kênh trong Vanets - IEEE 1609.4
Giao thức MAC đa kênh trong Vanets - IEEE 1609.4Giao thức MAC đa kênh trong Vanets - IEEE 1609.4
Giao thức MAC đa kênh trong Vanets - IEEE 1609.4
 
Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...
Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...
Luận Văn Các Nhân Tố Tác Động Đến Sự Hài Lòng Của Người Kế Toán Trong Việc Sử...
 
Luận văn: Dạy học theo nhóm phần quang hình học, HAY, 9đ
Luận văn: Dạy học theo nhóm phần quang hình học, HAY, 9đLuận văn: Dạy học theo nhóm phần quang hình học, HAY, 9đ
Luận văn: Dạy học theo nhóm phần quang hình học, HAY, 9đ
 

Plus de HanaTiti

TRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdf
TRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdfTRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdf
TRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdfHanaTiti
 
TRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdf
TRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdfTRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdf
TRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdfHanaTiti
 
IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...
IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...
IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...HanaTiti
 
THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...
THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...
THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...HanaTiti
 
Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...
Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...
Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...HanaTiti
 
Nhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdf
Nhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdfNhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdf
Nhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdfHanaTiti
 
Pháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdf
Pháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdfPháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdf
Pháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdfHanaTiti
 
Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...
Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...
Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...HanaTiti
 
The impact of education on unemployment incidence - micro evidence from Vietn...
The impact of education on unemployment incidence - micro evidence from Vietn...The impact of education on unemployment incidence - micro evidence from Vietn...
The impact of education on unemployment incidence - micro evidence from Vietn...HanaTiti
 
Deteminants of brand loyalty in the Vietnamese neer industry.pdf
Deteminants of brand loyalty in the Vietnamese neer industry.pdfDeteminants of brand loyalty in the Vietnamese neer industry.pdf
Deteminants of brand loyalty in the Vietnamese neer industry.pdfHanaTiti
 
Phát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdf
Phát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdfPhát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdf
Phát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdfHanaTiti
 
The current situation of English language teaching in the light of CLT to the...
The current situation of English language teaching in the light of CLT to the...The current situation of English language teaching in the light of CLT to the...
The current situation of English language teaching in the light of CLT to the...HanaTiti
 
Quản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdf
Quản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdfQuản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdf
Quản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdfHanaTiti
 
Sự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdf
Sự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdfSự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdf
Sự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdfHanaTiti
 
An Investigation into the Effect of Matching Exercises on the 10th form Stude...
An Investigation into the Effect of Matching Exercises on the 10th form Stude...An Investigation into the Effect of Matching Exercises on the 10th form Stude...
An Investigation into the Effect of Matching Exercises on the 10th form Stude...HanaTiti
 
Đánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdf
Đánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdfĐánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdf
Đánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdfHanaTiti
 
Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...
Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...
Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...HanaTiti
 
Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...
Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...
Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...HanaTiti
 
PHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdf
PHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdfPHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdf
PHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdfHanaTiti
 
ENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdf
ENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdfENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdf
ENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdfHanaTiti
 

Plus de HanaTiti (20)

TRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdf
TRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdfTRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdf
TRUYỀN THÔNG TRONG CÁC SỰ KIỆN NGHỆ THUẬT Ở VIỆT NAM NĂM 2012.pdf
 
TRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdf
TRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdfTRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdf
TRỊ LIỆU TÂM LÝ CHO MỘT TRƢỜNG HỢP TRẺ VỊ THÀNH NIÊN CÓ TRIỆU CHỨNG TRẦM CẢM.pdf
 
IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...
IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...
IMPACTS OF FINANCIAL DEPTH AND DOMESTIC CREDIT ON ECONOMIC GROWTH - THE CASES...
 
THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...
THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...
THE LINKAGE BETWEEN CORRUPTION AND CARBON DIOXIDE EMISSION - EVIDENCE FROM AS...
 
Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...
Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...
Phát triển dịch vụ Ngân hàng bán lẻ tại Ngân hàng thương mại cổ phần xuất nhậ...
 
Nhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdf
Nhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdfNhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdf
Nhân vật phụ nữ trong truyện ngắn Cao Duy Sơn.pdf
 
Pháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdf
Pháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdfPháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdf
Pháp luật về giao dịch bảo hiểm nhân thọ ở Việt Nam.pdf
 
Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...
Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...
Tổ chức dạy học lịch sử Việt Nam lớp 10 theo hướng phát triển năng lực vận dụ...
 
The impact of education on unemployment incidence - micro evidence from Vietn...
The impact of education on unemployment incidence - micro evidence from Vietn...The impact of education on unemployment incidence - micro evidence from Vietn...
The impact of education on unemployment incidence - micro evidence from Vietn...
 
Deteminants of brand loyalty in the Vietnamese neer industry.pdf
Deteminants of brand loyalty in the Vietnamese neer industry.pdfDeteminants of brand loyalty in the Vietnamese neer industry.pdf
Deteminants of brand loyalty in the Vietnamese neer industry.pdf
 
Phát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdf
Phát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdfPhát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdf
Phát triển hoạt động môi giới chứng khoán của CTCP Alpha.pdf
 
The current situation of English language teaching in the light of CLT to the...
The current situation of English language teaching in the light of CLT to the...The current situation of English language teaching in the light of CLT to the...
The current situation of English language teaching in the light of CLT to the...
 
Quản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdf
Quản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdfQuản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdf
Quản lý chi ngân sách nhà nước tại Kho bạc nhà nước Ba Vì.pdf
 
Sự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdf
Sự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdfSự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdf
Sự tiếp nhận đối với Hàng không giá rẻ của khách hàng Việt Nam.pdf
 
An Investigation into the Effect of Matching Exercises on the 10th form Stude...
An Investigation into the Effect of Matching Exercises on the 10th form Stude...An Investigation into the Effect of Matching Exercises on the 10th form Stude...
An Investigation into the Effect of Matching Exercises on the 10th form Stude...
 
Đánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdf
Đánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdfĐánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdf
Đánh giá chất lượng truyền tin multicast trên tầng ứng dụng.pdf
 
Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...
Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...
Quản lý các trường THCS trên địa bàn huyện Thanh Sơn, tỉnh Phú Thọ theo hướng...
 
Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...
Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...
Nghiên cứu và đề xuất mô hình nuôi tôm bền vững vùng ven biển huyện Thái Thụy...
 
PHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdf
PHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdfPHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdf
PHÁT TRIỂN DOANH NGHIỆP THƯƠNG MẠI NHỎ VÀ VỪA TRÊN ĐỊA BÀN TỈNH HÀ TĨNH.pdf
 
ENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdf
ENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdfENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdf
ENERGY CONSUMPTION AND REAL GDP IN ASEAN.pdf
 

Dernier

ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...
ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...
ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...Nguyen Thanh Tu Collection
 
Bài học phòng cháy chữa cháy - PCCC tại tòa nhà
Bài học phòng cháy chữa cháy - PCCC tại tòa nhàBài học phòng cháy chữa cháy - PCCC tại tòa nhà
Bài học phòng cháy chữa cháy - PCCC tại tòa nhàNguyen Thi Trang Nhung
 
xemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdf
xemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdfxemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdf
xemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdfXem Số Mệnh
 
C6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoi
C6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoiC6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoi
C6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoidnghia2002
 
xemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdf
xemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdfxemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdf
xemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdfXem Số Mệnh
 
20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...
20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...
20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...Nguyen Thanh Tu Collection
 
bài thi bảo vệ nền tảng tư tưởng của Đảng.docx
bài thi bảo vệ nền tảng tư tưởng của Đảng.docxbài thi bảo vệ nền tảng tư tưởng của Đảng.docx
bài thi bảo vệ nền tảng tư tưởng của Đảng.docxTrnHiYn5
 
Đề thi tin học HK2 lớp 3 Chân Trời Sáng Tạo
Đề thi tin học HK2 lớp 3 Chân Trời Sáng TạoĐề thi tin học HK2 lớp 3 Chân Trời Sáng Tạo
Đề thi tin học HK2 lớp 3 Chân Trời Sáng Tạowindcances
 
SLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdf
SLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdfSLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdf
SLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdfhoangtuansinh1
 
26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdf
26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdf26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdf
26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdfltbdieu
 
bài tập lớn môn kiến trúc máy tính và hệ điều hành
bài tập lớn môn kiến trúc máy tính và hệ điều hànhbài tập lớn môn kiến trúc máy tính và hệ điều hành
bài tập lớn môn kiến trúc máy tính và hệ điều hànhdangdinhkien2k4
 
Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...
Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...
Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...hoangtuansinh1
 
Bài giảng môn Truyền thông đa phương tiện
Bài giảng môn Truyền thông đa phương tiệnBài giảng môn Truyền thông đa phương tiện
Bài giảng môn Truyền thông đa phương tiệnpmtiendhti14a5hn
 
Giáo trình nhập môn lập trình - Đặng Bình Phương
Giáo trình nhập môn lập trình - Đặng Bình PhươngGiáo trình nhập môn lập trình - Đặng Bình Phương
Giáo trình nhập môn lập trình - Đặng Bình Phươnghazzthuan
 
ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...
ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...
ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...Nguyen Thanh Tu Collection
 
Giáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdf
Giáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdfGiáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdf
Giáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdf4pdx29gsr9
 
Access: Chuong III Thiet ke truy van Query.ppt
Access: Chuong III Thiet ke truy van Query.pptAccess: Chuong III Thiet ke truy van Query.ppt
Access: Chuong III Thiet ke truy van Query.pptPhamThiThuThuy1
 
60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docx
60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docx60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docx
60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docxasdnguyendinhdang
 
TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...
TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...
TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...Nguyen Thanh Tu Collection
 
TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...
TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...
TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...Nguyen Thanh Tu Collection
 

Dernier (20)

ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...
ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...
ĐỀ KIỂM TRA CUỐI KÌ 2 BIÊN SOẠN THEO ĐỊNH HƯỚNG ĐỀ BGD 2025 MÔN TOÁN 10 - CÁN...
 
Bài học phòng cháy chữa cháy - PCCC tại tòa nhà
Bài học phòng cháy chữa cháy - PCCC tại tòa nhàBài học phòng cháy chữa cháy - PCCC tại tòa nhà
Bài học phòng cháy chữa cháy - PCCC tại tòa nhà
 
xemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdf
xemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdfxemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdf
xemsomenh.com-Vòng Tràng Sinh - Cách An 12 Sao Và Ý Nghĩa Từng Sao.pdf
 
C6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoi
C6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoiC6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoi
C6. Van de dan toc va ton giao ....pdf . Chu nghia xa hoi
 
xemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdf
xemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdfxemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdf
xemsomenh.com-Vòng Lộc Tồn - Vòng Bác Sĩ và Cách An Trong Vòng Lộc Tồn.pdf
 
20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...
20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...
20 ĐỀ DỰ ĐOÁN - PHÁT TRIỂN ĐỀ MINH HỌA BGD KỲ THI TỐT NGHIỆP THPT NĂM 2024 MÔ...
 
bài thi bảo vệ nền tảng tư tưởng của Đảng.docx
bài thi bảo vệ nền tảng tư tưởng của Đảng.docxbài thi bảo vệ nền tảng tư tưởng của Đảng.docx
bài thi bảo vệ nền tảng tư tưởng của Đảng.docx
 
Đề thi tin học HK2 lớp 3 Chân Trời Sáng Tạo
Đề thi tin học HK2 lớp 3 Chân Trời Sáng TạoĐề thi tin học HK2 lớp 3 Chân Trời Sáng Tạo
Đề thi tin học HK2 lớp 3 Chân Trời Sáng Tạo
 
SLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdf
SLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdfSLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdf
SLIDE - Tu van, huong dan cong tac tuyen sinh-2024 (đầy đủ chi tiết).pdf
 
26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdf
26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdf26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdf
26 Truyện Ngắn Sơn Nam (Sơn Nam) thuviensach.vn.pdf
 
bài tập lớn môn kiến trúc máy tính và hệ điều hành
bài tập lớn môn kiến trúc máy tính và hệ điều hànhbài tập lớn môn kiến trúc máy tính và hệ điều hành
bài tập lớn môn kiến trúc máy tính và hệ điều hành
 
Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...
Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...
Danh sách sinh viên tốt nghiệp Đại học - Cao đẳng Trường Đại học Phú Yên năm ...
 
Bài giảng môn Truyền thông đa phương tiện
Bài giảng môn Truyền thông đa phương tiệnBài giảng môn Truyền thông đa phương tiện
Bài giảng môn Truyền thông đa phương tiện
 
Giáo trình nhập môn lập trình - Đặng Bình Phương
Giáo trình nhập môn lập trình - Đặng Bình PhươngGiáo trình nhập môn lập trình - Đặng Bình Phương
Giáo trình nhập môn lập trình - Đặng Bình Phương
 
ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...
ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...
ĐỀ CHÍNH THỨC KỲ THI TUYỂN SINH VÀO LỚP 10 THPT CÁC TỈNH THÀNH NĂM HỌC 2020 –...
 
Giáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdf
Giáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdfGiáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdf
Giáo trình xây dựng thực đơn. Ths Hoang Ngoc Hien.pdf
 
Access: Chuong III Thiet ke truy van Query.ppt
Access: Chuong III Thiet ke truy van Query.pptAccess: Chuong III Thiet ke truy van Query.ppt
Access: Chuong III Thiet ke truy van Query.ppt
 
60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docx
60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docx60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docx
60 CÂU HỎI ÔN TẬP LÝ LUẬN CHÍNH TRỊ NĂM 2024.docx
 
TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...
TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...
TÀI LIỆU BỒI DƯỠNG HỌC SINH GIỎI KỸ NĂNG VIẾT ĐOẠN VĂN NGHỊ LUẬN XÃ HỘI 200 C...
 
TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...
TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...
TUYỂN TẬP 50 ĐỀ LUYỆN THI TUYỂN SINH LỚP 10 THPT MÔN TOÁN NĂM 2024 CÓ LỜI GIẢ...
 

Khai thác tập mục lợi ích cao sử dụng phương pháp tối ưu đàn kiến.pdf

  • 1. ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ NGUYỄN ĐỨC DŨNG KHAI THÁC TẬP MỤC LỢI ÍCH CAO SỬ DỤNG PHƯƠNG PHÁP TỐI ƯU ĐÀN KIẾN Ngành: Khoa học máy tính Chuyên ngành: Khoa học máy tính Mã số: 8480101.01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS Hoàng Xuân Huấn Hà Nội - 2019
  • 2. 2 LỜI CẢM ƠN Tôi xin gửi lời cảm ơn chân thành nhất tới PGS.TS Hoàng Xuân Huấn, người thầy đáng kính đã tận tình chỉ bảo, hướng dẫn tôi trong suốt quá trình tìm hiểu, nghiên cứu và hoàn thiện luận văn. Với kiến thức sâu rộng, nhiều năm nghiên cứu trong lĩnh vực tối ưu hóa cũng như phương pháp tối ưu hệ kiến của thầy đã giúp tôi hiểu rõ, sâu sắc nhiều khó khăn gặp phải trong quá trình nghiên cứu. Thầy cũng đưa ra những góp ý chi tiết, tỉ mỉ hết sức quý báu giúp cho tôi có thể hoàn thành quyển luận văn này. Tôi cũng xin được bày tỏ lòng biết ơn tới các thầy cô trường Đại học Công nghệ đã tham gia giảng dạy và chia sẻ những kinh nghiệm quý báu cho tập thể và cá nhân tôi nói riêng. Tôi xin cảm ơn tới các thầy và các anh chị đã thường xuyên giúp đỡ, trao đổi, góp ý về những vấn đề khoa học liên quan tới luận văn. Hà Nội, tháng 3 năm 2019 HỌC VIÊN Nguyễn Đức Dũng
  • 3. 3 LỜI CAM ĐOAN Tôi xin cam đoan rằng đây là công trình nghiên cứu của cá nhân tôi dưới sự hướng dẫn giúp đỡ của PGS.TS Hoàng Xuân Huấn. Các kết quả được viết chung với các tác giả khác đều được sự đồng ý của tác giả trước khi đưa vào luận văn. Trong toàn bộ nội dung nghiên cứu của luận văn, các vấn đề được trình bày đều là những tìm hiểu và nghiên cứu của chính cá nhân tôi hoặc là được trích dẫn từ các nguồn tài liệu có ghi tham khảo rõ ràng, hợp pháp. Trong luận văn, tôi có tham khảo đến một số tài liệu của một số tác giả được liệt kê tại mục tài liệu tham khảo. Hà Nội, tháng 3 năm 2019 HỌC VIÊN Nguyễn Đức Dũng
  • 4. 4 MỤC LỤC LỜI CẢM ƠN......................................................................................................................2 LỜI CAM ĐOAN................................................................................................................3 DANH MỤC KÝ HIỆU VÀ TỪ VIẾT TẮT......................................................................6 DANH SÁCH CÁC BẢNG ................................................................................................7 DANH SÁCH HÌNH VẼ.....................................................................................................8 MỞ ĐẦU .............................................................................................................................9 CHƯƠNG 1: TỐI ƯU TỔ HỢP VÀ BÀI TOÁN TỐI ƯU ĐÀN KIẾN..........................12 1.1. Giới thiệu bài toán tối ưu tổ hợp ............................................................................12 1.2. Giới thiệu bài toán người chào hàng ......................................................................13 1.3. Các cách tiếp cận giải quyết bài toán tối ưu tổ hợp................................................13 1.3.1. Heuristic cấu trúc.............................................................................................13 1.3.2. Tìm kiếm địa phương ......................................................................................14 1.3.3. Phương pháp meta-heuristic............................................................................15 1.3.4. Phương pháp memetic.....................................................................................15 1.4. Phương pháp tối ưu đàn kiến..................................................................................16 1.4.1. Từ kiến tự nhiên đến kiến nhân tạo.....................................................................16 1.4.1.1. Kiến tự nhiên ................................................................................................16 1.4.1.2. Kiến nhân tạo (Artificial Ant) ......................................................................19 1.4.2. Phương pháp tối ưu đàn kiến...............................................................................19 1.4.3. Mô tả thuật toán ACO tổng quát .........................................................................20 1.4.4. Các hệ kiến ..........................................................................................................22 1.4.4.1. Hệ kiến AS ...................................................................................................22 1.4.4.2. Hệ kiến ACS.................................................................................................23 1.4.4.3. Hệ kiến Max-Min .........................................................................................25 1.4.4.4. Hệ kiến Max-Min trơn..................................................................................26 CHƯƠNG 2: KHAI THÁC TẬP MỤC CAO TIỆN ÍCH BẰNG PHƯƠNG PHÁP TỐI ƯU ĐÀN KIẾN.................................................................................................................27 2.1. Bài toán khai thác tập mục lợi ích cao....................................................................27 2.2. Một số phương pháp tiếp cận để giải bài toán........................................................30 2.3. Thuật toán HUIM-ACS. .........................................................................................31
  • 5. 5 2.3.1. Xây dựng đồ thị cấu trúc và khởi tạo vết mùi. ................................................31 2.3.2. Quy tắc cắt tỉa nút............................................................................................35 2.3.3. Quy tắc cập nhật mùi.......................................................................................37 2.4. Thuật toán HUIM-SMMAS ...................................................................................39 CHƯƠNG 3: KẾT QUẢ THỰC NGHIỆM, SO SÁNH VÀ ĐÁNH GIÁ .......................41 3.1. Bộ dữ liệu chuẩn.....................................................................................................41 3.2. Tiến hành chạy thực nghiệm ..................................................................................41 3.3. Kết quả thực nghiệm và đánh giá...........................................................................42 KẾT LUẬN .......................................................................................................................44 TÀI LIỆU THAM KHẢO.................................................................................................45
  • 6. 6 DANH MỤC KÝ HIỆU VÀ TỪ VIẾT TẮT STT Từ viết tắt Từ hoặc cụm từ 1 ACO Ant Colony Optimization (Tối ưu hóa đàn kiến) 2 AS Ant System (Hệ kiến AS) 3 ACS Ant Colony System (Hệ kiến ACS) 4 MMAS Max-Min Ant System (Hệ kiến MMAS) 5 SMMAS Smooth-Max Min Ant System (Hệ kiến MMAS trơn) 6 TSP Travelling Salesman Problem (Bài toán người chào hàng) 7 TƯTH Tối ưu tổ hợp 8 HUI High-Utility Itemset 9 HUIM High-Utility Itemsets Mining 10 TWU Transaction-Weight Utility 11 FIM Frequence Itemset Mining
  • 7. 7 DANH SÁCH CÁC BẢNG Bảng 2.1: Danh sách giao dịch và bảng lợi nhuận của từng sản phẩm................... 27 Bảng 3.1: Bộ dữ liệu chạy thử nghiệm ................................................................... 41 Bảng 3.2: Ngưỡng tiện ích thiết lập chạy thực nghiệm .......................................... 41
  • 8. 8 DANH SÁCH HÌNH VẼ Hình 1.1: Lời giải nhận được thông qua tìm kiếm địa phương............................... 15 Hình 1.2: Thể hiện hành vi của mỗi con kiến trong tự nhiên ................................. 17 Hình 1.3: Thực nghiệm trên cây cầu đôi................................................................. 18 Hình 1.4: Thí nghiệm bổ sung................................................................................. 19 Hình 1.5: Lựa chọn đỉnh đi tiếp theo ...................................................................... 21 Hình 2.3.1: Đồ thị cấu trúc định tuyến với 3 items................................................. 32 Hình 2.3.2: Hàm heuristic trong trường hợp không có thông tin về TWU ............ 33 Hình 2.3.3: Hàm heuristic giữ lại tất cả TWU........................................................ 34 Hình 2.3.4: Hàm heuristic tính toán các TWU ....................................................... 35 Hình 2.3.5: Quy tắc cắt tỉa tích cực......................................................................... 36 Hình 3.3.1: So sánh số lượng HUI tìm được của 2 thuật toán................................ 42 Hình 3.3.2: So sánh thời gian thực hiện của các thuật toán.................................... 43 Hình 3.3.3: So sánh tốc độ hội tụ của hai thuật toán .............................................. 43
  • 9. 9 MỞ ĐẦU Hiện nay, việc tính toán doanh số và tối ưu hóa lợi nhuận bán hàng là công việc cực kỳ quan trọng, nó ảnh hưởng trực tiếp đến doanh thu và chiến lược bán hàng của các công ty, siêu thị hay các đơn vị bán lẻ. Đặc biệt, với số lượng hàng hóa lớn, giá cả khác nhau, nên việc tính toán lợi nhuận tối ưu từ bán hàng càng có quan trọng. Trong khi số lượng giao dịch mỗi giờ có thể lên đến hàng chục nghìn giao dịch, việc tính toán xem mặt hàng nào đem lại doanh số cao, mặt hàng nào kinh doanh không hiệu quả dù bán với số lượng lớn càng trở nên khó khăn do dữ liệu quá lớn, liên tục. Bài toán khai thác tập mục lợi ích cao(High-Utility Itemsets Mining – HUIM) đã được nhóm tác giả R.C. Chan, Q. Yang, Y.D. Shen đề xuất vào năm 2003, để tìm ra các HUI(High-Utility Itemsets), là các tổ hợp đem lại lợi nhuận cao nhất từ cơ sở dữ liệu giao dịch được lưu lại. Từ đó, các công ty, siêu thị bán lẻ sẽ đưa ra các chiến lược kinh doanh cho phù hợp, nhằm tối đa hóa lợi nhuận. Trong các phương pháp đề xuất trước đó, hầu hết các nghiên cứu tập trung vào việc khai thác tần suất xuất hiện của các tập mục (FIM) và khai thác quy tắc liên kết (ARM). Các thuật toán này đã được phát triển để khai thác tập hợp các tập mục có tần suất xuất hiện không nhỏ hơn ngưỡng tối thiểu và để tìm ra các quy tắc liên kết mà độ tin cậy không thấp hơn ngưỡng tối thiểu[1, 2]. Vì chỉ có các tần suất xuất hiện của các tập mục được phát hiện trong FIM hoặc ARM, nó không đủ để xác định các tập dữ liệu có lợi nhuận cao, đặc biệt là khi các tập mục hiếm khi xuất hiện nhưng có các giá trị lợi nhuận cao. Ví dụ, một cửa hàng bách hóa có thể bán ít đồ trang sức hơn hầu hết các hàng hoá khác trong một tháng, nhưng đồ trang sức thường có thể có được lợi nhuận cao hơn các hàng hoá khác mua nhiều hơn trong cùng thời kỳ. Trên thực tế, thông tin cho các tập mục lợi ích cao (HUIs) có giá trị hơn các tập phổ biến. Khác với FIM hoặc ARM, vấn đề khai thác các tập mục lợi ích cao (HUIM) [3-6] đã được đề xuất để khám phá ra các tập “có ích” và “có lợi nhuận” từ một cơ sở dữ liệu định lượng. Một ngưỡng lợi ích tối thiểu cho người dùng cụ thể được sử dụng để ước tính liệu một tập thuộc tính là một tập mục lợi ích cao hay không (HUI). Tập dữ liệu là một HUI nếu giá trị lợi nhuận của tập này cao hơn ngưỡng. Trong thực tế, không chỉ “lợi nhuận” có thể được áp dụng như là giá trị tiện ích để khai thác các tập mục có ích, “trọng lượng”, “chi phí” và các yếu tố khác cũng có thể khai thác được các HUI.
  • 10. 10 Có nhiều thuật toán đã được đề xuất để khai thác tập hợp các HUI. Chan và cộng sự [7] lần đầu tiên đề xuất khái niệm về vấn đề khai thác hữu ích thay vì FIM. Yao và cộng sự [4] đề xuất khai thác các HUI theo số lượng các mặt hàng như là tiện ích nội bộ và lợi nhuận đơn vị của các mặt hàng là tiện ích bên ngoài. Liu và các cộng sự [8] đã đề xuất mô hình TWU (Transaction Weight Utility) hai giai đoạn và trọng số giao dịch giảm dần (TWDC) để khai thác các HUI. Lin và cộng sự [9] trình bày một cây HUP để khai thác HUIs. Lan và cộng sự[10] đã thiết kế các thuật toán khai thác dựa trên cơ chế thiết lập chỉ mục(Index) và phát triển chiến lược cắt tỉa để khai thác hiệu quả các HUI. Sau đó, Tseng [11] đã thiết kế thuật toán khai thác tăng trưởng để lấy các HUI dựa trên cấu trúc cây UP-develop. HUI-Miner [12] là một thuật toán hiệu quả được sử dụng nhiều để khai thác các HUI. Các thuật toán đề xuất để giải bài toán HUIM phải mất nhiều thời gian tính toán hơn cùng với một không gian tìm kiếm khổng lồ, trong khi số lượng các mục riêng biệt hoặc kích thước cơ sở dữ liệu là rất lớn. Các thuật toán tiến hóa là một cách hiệu quả và có thể tìm ra các giải pháp tối ưu sử dụng các nguyên tắc của sự tiến hóa tự nhiên [21]. Các điều kiện dừng nghiêm ngặt có thể được thiết lập để hạn chế thời gian tính toán cho một quá trình nhưng vẫn có được một giải pháp gần như tối ưu. Thuật toán di truyền (GA) [22], là một loại EC, một cách tiếp cận tối ưu để giải quyết các bài toán NP-hard và không tuyến tính, và được sử dụng để tìm kiếm trên các không gian tìm kiếm rất lớn để tìm ra các giải pháp tối ưu cho các hàm mục tiêu được thiết kế với các bài toán khác nhau như lựa chọn, chéo và đột biến. Trong quá khứ, Kannimuthu và Premalatha [20] đã thông qua thuật toán di truyền và phát triển sự khai thác các tập mục lợi ích cao bằng cách sử dụng các thuật toán di truyền với đột biến xếp hạng sử dụng ngưỡng tiện ích tối thiểu (HUPEumu-GRAM) để khai thác HUI. Một thuật toán di truyền khác gọi là HUPEwumu-GRAM cũng được đề xuất để khai thác HUIs với một ngưỡng tiện ích tối thiểu cụ thể. Đối với hai thuật toán này, việc di truyền chéo và đột biến được sử dụng để ngẫu nhiên tạo ra các lời giải tiếp theo trong quá trình tiến hóa. Tuy nhiên, nó cần một số lượng HUI khởi tạo ban đầu, trong khi số lượng các HUI còn lại trong cơ sở dữ liệu là rất lớn. Thuật toán tối ưu bầy đàn (Particle Swarm Optimization-PSO) là một trong những kỹ thuật tối ưu được sử dụng nhiều nhất [23]. Lin và cộng sự [24] đề xuất một kỹ thuật dựa trên PSO để khai thác các tập mục lợi ích cao dựa trên PSO nhị phân (BPSO). Nó được gọi là HUIM-BPSO và áp dụng mô hình TWU để tìm HUI hiệu quả. Ngoài ra, các thuật toán thuộc nhóm kiến hoặc các phép lai của ACO với các thuật toán meta-heuristic khác cũng được áp dụng trong lĩnh vực khai thác dữ liệu
  • 11. 11 [26]. Năm 2016, J.M.-T. Wu và cộng sự [34] đã đề xuất thuật toán HUIM-ACS để khai thác các HUI. Kết quả thực nghiệm đã cho kết quả thuật toán HUIM-ACS tốt hơn các thuật toán đề xuất trước đó. Trong luận văn này, tôi sẽ trình bày khảo cứu lại các phương pháp giải bài toán “Khai thác tập mục lợi ích cao”. Tôi đã khảo cứu và cài đặt lại thuật toán HUIM- ACS là một thuật toán khai thác tập mục lợi ích cao hiệu quả nhất để giải bài toán này. Sử dụng ý tưởng xây dựng lời giải của thầy PGS.TS Hoàng Xuân Huấn cùng các cộng sự [35] năm 2012, tôi đề xuất một thuật toán mới là HUIM-SMMAS để giải quyết bài toán khai thác tập mục lợi ích cao. Thuật toán mới này sử dụng quy tắc cập nhật mùi của hệ kiến Max-Min trơn(SMMAS). Quy tắc cập nhật mùi mới này đã được chứng minh là hiệu quả hơn quy tắc cập nhật mùi của hệ kiến ACS. Ngoài phần kết luận, cấu trúc của luận văn bao gồm: Chương 1: Trình bày khái quát về bài toán tối ưu tổ hợp tổng quát, phương pháp tối ưu đàn kiến, các hệ kiến AS, ACS, MMAS, SMMAS. Ví dụ về bài toán người chào hàng giải quyết bằng thuật toán ACO. Chương 2: Giới thiệu bài toán khai thác tập mục lợi ích cao và một vài phương pháp tiếp cận để giải bài toán. Trình bày thuật toán HUIM-ACS, phương pháp xây dựng đồ thị cấu trúc, cập nhật mùi. Đề xuất thuật toán mới HUIM-SMMAS. Chương 3: Tiến hành thực nghiệm trên bộ dữ liệu chuẩn, thống kê, đánh giá kết quả thu được và so sánh kết quả giữa thuật toán HUIM-ACS và HUIM-SMMAS.
  • 12. 12 CHƯƠNG 1: TỐI ƯU TỔ HỢP VÀ BÀI TOÁN TỐI ƯU ĐÀN KIẾN 1.1. Giới thiệu bài toán tối ưu tổ hợp Các bài toán tiêu biểu của lớp bài toán tối ưu tổ hợp như: bài toán giao hàng với chi phỉ nhỏ nhất giữa 2 thành phố, bài toán lập thời khóa biểu, bài toán lập lịch sản xuất… Đây là các bài toán trong thực tế để giải các bài toán dạng này ta cần khái quát hóa chúng để có mô phỏng trên máy tính, tính toán thông qua các mô phỏng đó để tìm ra lời giải tối ưu. Chung nhất với mỗi bài toán đều chứa n thành phần C={c1,…cn} và hàm mục tiêu f. Các bài toán ứng dụng với bộ (S, f, Ω), trong đó S là tập hữu hạn các trạng thái (phương án), f là hàm mục tiêu xác định trên S và Ω là tập các ràng buộc. Mỗi phương án 𝑠 ∈ 𝑆 thỏa mãn các ràng buộc Ω gọi là phương án chấp nhận được. Mục tiêu của chúng ta là tìm ra s* tối ưu hóa toàn cục đối với hàm mục tiêu f, nói cách khác chính là tìm phương án s* sao cho f(s*) ≤ f(s) với mọi 𝑠 ∈ 𝑆. Đối với bài toán này ta có 3 cách giải quyết đó là: vét cạn, kỹ thuật ăn tham hoặc phương pháp tối ưu trong lĩnh vực NP-hard(NP-khó). Các thuộc tính của tập S, C và Ω như sau: 1. Ký hiệu X là tập các vector trên C có độ dài không quá h: X={<u0,…,uk>ui ∀i≤k≤h}. Khi đó, mỗi phương án s trong S được xác định nhờ ít nhất một vector trong X. 2. Tồn tại tập con X* của X và ánh xạ 𝜑 từ X* lên S sao cho 𝜑−1(𝑠) không rỗng với mọi 𝑠 ∈ 𝑆, trong đó tập X* có thể xây dựng được từ tập con C0 nào đó của C nhờ thủ tục mở rộng tuần tự dưới dây. 3. Từ C0 ta mở rộng tuần tự thành X* như sau: i. Ta xem x0 = <u0> là mở rộng được với mọi u0∈C0 ii. Giả sử xk = <u0,…,uk> là mở rộng được và chưa thuộc X*. Từ tập ràng buộc Ω, xác định tập con J(xk) của C, sao cho với mọi uk+1∈ J(xk) thì xk+1=<u0, …,uk, uk+1> là mở rộng được. iii. Áp dụng thủ tục mở rộng từ các phần tử u0∈C0 cho phép ta xây dựng được mọi phần tử của X*. Như vậy mỗi bài toán TƯTH được xem là một bài toán cực trị hàm có h biến, trong đó mỗi biến nhận giá tri trong tập hữu hạn C kể cả giá trị rỗng. Nói một cách khác là bài toán tìm kiếm trong không gian vector độ dài không quá h trong đồ thị đầy đủ có các đỉnh có nhãn trong tập C.
  • 13. 13 1.2. Giới thiệu bài toán người chào hàng Bài toán người chào hàng (Traveling Salesman Problem - TSP) là bài toán TƯTH điển hình, được nghiên cứu và xem như là bài toán chuẩn để đánh giá về hiệu quả lời giải các bài toán TƯTH. Bài toán được phát biểu như sau: Có một tập gồm n thành phố (hoặc điểm tiêu thụ) 𝐶 = {𝑐1, 𝑐2, … , 𝑐𝑛} độ dài đường đi trực tiếp từ 𝑐𝑖 đến 𝑐𝑗 là 𝑑𝑖𝑗. Một người chào hàng muốn tìm một hành trình ngắn nhất từ nơi ở, đi qua mỗi thành phố đúng một lần để giới thiệu sản phẩm cho khách hàng, sau đó trở về thành phố xuất phát. Có thể thấy đây chính là bài toán tìm chu trình Hamilton với đồ thị đầy đủ có trọng số 𝐺 = (𝑉, 𝐸), với V là tập các đỉnh với nhãn là các thành phố trong C, E là tập các cạnh nối các thành phố tương ứng, độ dài mỗi cạnh chính là độ dài đường đi giữa hai thành phố tương ứng. Trong trường hợp này, tập S sẽ là tập các chu trình Hamilton trên G, f là độ dài của chu trình, Ω là ràng buộc đòi hỏi chu trình là chu trình Hamilton (qua tất cả các đỉnh, mỗi đỉnh đúng một lần), C là tập thành phố được xét, C0 trùng với C, tập X là vectơ độ dài n: 𝑥 = (𝑥1, … , 𝑥𝑛) với 𝑥𝑖 ∈ 𝐶 ∀𝑖 ≤ 𝑛, còn X* là các vectơ trong đó 𝑥𝑖 khác 𝑥𝑗 đối với mọi cặp (𝑖, 𝑗). Do đó, lời giải tối ưu của bài toán TSP là một hoán vị π của tập đỉnh {𝑐1, 𝑐𝑛, … , 𝑐𝑛} sao cho hàm độ dài f(π) là nhỏ nhất, trong đó f(π) được tính theo công thức sau: 𝑓(𝜋) = ∑ 𝑑(𝜋(𝑖), 𝜋(𝑖 + 1)) + 𝑑(𝜋(𝑛), 𝜋(1)) 𝑛−1 𝑖=1 1.3. Các cách tiếp cận giải quyết bài toán tối ưu tổ hợp Các bài toán TƯTH có thể đưa về bài toán tìm kiếm trên đồ thị, với những bài toán nhỏ hoặc những bài toán đặc biệt thì có thể tìm lời giải tối ưu nhờ tìm kiếm vét cạn cũng như xây dựng những lời giải đặc thù. Tuy nhiên hầu hết các bài toán trong số đó là bài toán NP-hard, nên với các bài toán lớn ta phải tìm lời giải gần đúng. Các thuật toán gần đúng đối với các bài toán TƯTH khó thường dựa trên 2 kỹ thuật cơ bản: heuristic cấu trúc (construction heuristic) và tìm kiếm địa phương (local search). 1.3.1. Heuristic cấu trúc Khi không thể tìm được lời giải tối ưu của bài toán với thời gian đa thức, ta hướng đến việc tìm lời giải gần đúng. Kỹ thuật thường dùng trong việc tìm lời giải gần đúng là heuristic cấu trúc, lời giải của bài toán được xây dựng thông qua việc mở rộng tuần tự. Từ thành phố khởi tạo trong tập C0, từng bước mở rộng không quay
  • 14. 14 lui, thêm vào các thành phần mới theo phương thức ngẫu nhiên hay tất định dựa trên những quy tắc heuristic. Các quy tắc heuristic này khác nhau tùy vào thuật toán cụ thể được xây dựng dựa trên toán học kết hợp với kinh nghiệm. Chúng ta có thể khái quát hóa để mô phỏng dưới dạng thuật toán như sau: Procedure Heuristic cấu trúc; Begin 𝑠𝑝 ←chọn thành phần 𝑢0 trong 𝐶0; While (chưa xây dựng xong lời giải) do 𝑐 ←GreedyComponent(𝑠𝑝); 𝑠𝑝 ← 𝑠𝑝 𝑐 ; end-while 𝑠 ← 𝑠𝑝; Đưa ra lời giải s; End; Thuật toán 1.1: Phương pháp Heuristic cấu trúc Trong đó GreedyComponent(𝑠𝑝) có nghĩa là chọn thành phần bổ sung vào 𝑠𝑝 theo quy tắc heuristic đã có. Ký hiệu 𝑠𝑝 𝑐 là kết quả phép toán thêm thành phần c vào 𝑠𝑝 . Với phương pháp trên ta có thể áp dụng cho bài toán TSP với đồ thị đầy đủ và sử dụng quy tắc heuristic láng giềng gần nhất để chọn đỉnh thêm vào (đỉnh láng giềng nhỏ nhất chưa đi qua để thêm vào). Thuật toán kiểu này có ưu điểm là thời gian tính toán nhanh nhưng không thể cải tiến lời giải qua mỗi bước lặp. 1.3.2. Tìm kiếm địa phương Kỹ thuật tìm kiếm cục bộ hay còn gọi là tìm kiếm địa phương, thực hiện bằng cách bắt đầu từ một phương án chấp nhận được, lặp lại bước cải tiến lời giải nhờ các thay đổi cục bộ. Để thực hiện kỹ thuật này, ta cần xác định được cấu trúc lân cận của mỗi phương án (lời giải) đang xét, tức là những phương án chấp nhận được, gần với nó nhất, nhờ thay đổi một số thành phần. Cách thường dùng là lân cận k-thay đổi, tức là lân cận bao gồm các phương án chấp nhận được khác với phương án đang xét nhờ thay đổi nhiều nhất k thành phần. Ví dụ. Lân cận 2-thay đổi của một lời giải s trong bài toán TSP bao gồm tất cả các lời giải s’ có thể nhận được từ s bằng cách đổi hai cạnh. Hình 1.1 chỉ ra một
  • 15. 15 ví dụ một lời giải nhận được bằng cách thay hai cạnh (1,3), (2,6) bằng hai cạnh (2,3), (1,6). Hình 1.1: Lời giải nhận được thông qua tìm kiếm địa phương Việc cải tiến trong các bước lặp thường chọn theo phương pháp leo đồi dựa theo hai chiến lược: Chiến lược tốt nhất và chiến lược tốt hơn. Với chiến lược tốt nhất, người ta thực hiện chọn lời giải tốt nhất trong lân cận để làm lời giải cải tiến. Tuy nhiên, trong bài toán lớn có thể không tìm được lời giải tốt nhất do bị hạn chế về thời gian. Còn với chiến lược tốt hơn, ta chọn phương án đầu tiên trong lân cận, cải thiện được hàm mục tiêu. Nhược điểm của tìm kiếm địa phương là thường chỉ cho cực trị địa phương. Các kỹ thuật trên thường được kết hợp, tạo thành các hệ lai trong các phương pháp mô phỏng tự nhiên dựa trên quần thể, chẳng hạn như thuật toán di truyền (GA) hoặc tối ưu đàn kiến (ACO). 1.3.3. Phương pháp meta-heuristic Phương pháp metaheuristic là một phương pháp heuristic tổng quát được thiết kế, định hướng cho các thuật toán cụ thể (bao gồm cả heuristic cấu trúc và tìm kiếm địa phương). Như vậy, một meta-heuristic là một lược đồ thuật toán tổng quát ứng dụng cho các bài toán tối ưu khác nhau, với một chút sửa đổi cho phù hợp với từng bài toán. 1.3.4. Phương pháp memetic Memetic là một mô hình theo phương pháp meta-heuristic. Trong các thuật toán được thiết kế theo memetic, người ta tạo ra nhiều thế hệ quần thể lời giải chấp nhận được. Trong mỗi quần thể của thế hệ tương ứng, ta chỉ chọn ra một số lời giải
  • 16. 16 (chẳng hạn lời giải tốt nhất) để thực hiện tìm kiếm địa phương nhằm cải thiện chất lượng. Quá trình tiến hóa này cho ta tìm được lời giải tốt nhất có thể. Thuật toán 1.2 mô tả một thuật toán memetic sử dụng tính toán tiến hóa (Evolutionary Computing - EC): Proedure Thuật toán memetic-EC; Begin Initialize: Tạo ra quần thể đầu tiên; while điều kiện dừng chưa thỏa mãn do Đánh giá các cá thể trong quần thể; Thực hiện tiến hóa quần thể nhờ các toán tử cho trước; Chọn tập con Ω𝑖𝑙 để cải tiến nhờ thủ tục tìm kiếm địa phương; for mỗi cá thể trong Ω𝑖𝑙 do Thực hiện tìm kiếm địa phương; end-for Chọn phần tử tốt nhất; end-while; Đưa ra lời giải tốt nhất; End; Thuật toán 1.2: Thuật toán memetic sử dụng EC Trong ứng dụng thực tế, các thuật toán ACO thường được kết hợp với tìm kiếm địa phương theo mô hình memetic này. 1.4. Phương pháp tối ưu đàn kiến 1.4.1. Từ kiến tự nhiên đến kiến nhân tạo Những hình ảnh nhận thức đặc biệt của đàn kiến chỉ đơn giản là sự phát triển và hoàn toàn mò mẫm. Trong thực tế, một điều quan trọng trong nghiên cứu về loài kiến là hành vi liên lạc giữa các con kiến hoặc giữa các cá nhân với môi trường, được dựa trên việc sử dụng các hóa chất đặc trưng của các loài kiến. Các hóa chất đó được gọi là mùi (vết mùi). 1.4.1.1. Kiến tự nhiên Khi tìm đường đi, đàn kiến trao đổi thông tin gián tiếp và hoạt động theo phương thức tự tổ chức. Phương thức này tuy đơn giản nhưng đã giúp cho đàn kiến có thể thực hiện được những công việc phức tạp vượt xa khả năng của từng con kiến, đặc biệt là khả năng tìm đường đi ngắn nhất từ tổ đến nguồn thức ăn (Hình 1.2) (mặc
  • 17. 17 dù, kiến không có khả năng đo độ dài đường đi). Kiến chịu ảnh hưởng của các vết mùi của các con kiến khác chính là ý tưởng thiết kế thuật toán ACO. Hình 1.2: Thể hiện hành vi của mỗi con kiến trong tự nhiên Để làm được điều đó, trên đường đi, mỗi con kiến để lại vết mùi dùng để đánh dấu đường đi. Bằng cách cảm nhận vết mùi, con kiến có thể lần theo đường đi đến nguồn thức ăn được các con kiến khác khám phá theo phương thức chọn ngẫu nhiên, có định hướng theo nồng độ vết mùi. Thí nghiệm trên cây cầu đôi Có nhiều thực nghiệm nghiên cứu về hành vi để lại vết mùi và đi theo vết mùi của loài kiến. Thực nghiệm, được thiết kế bởi Deneubourg và các cộng sự, dùng một chiếc cầu đôi nối từ tổ kiến tới nguồn thức ăn, như minh họa trong hình 1.3. Họ đã thực nghiệm với tỉ lệ độ dài đường giữa hai nhánh khác nhau của chiếc cầu đôi. Trong thực nghiệm thứ nhất, chiếc cầu đôi có hai nhánh bằng nhau (hình 1.3a). Ban đầu, kiến lựa chọn đường đi một cách tự do đi từ tổ đến nguồn thức ăn, cả hai nhánh đều có kiến đi, nhưng sau một thời gian các con kiến này tập trung đi theo cùng một nhánh. Kết quả có thể được giải thích như sau: ban đầu không có vết mùi nào trên cả hai nhánh, do đó kiến lựa chọn nhánh bất kỳ với xác suất như nhau. Một cách ngẫu nhiên, sẽ có một nhánh có số lượng kiến lựa chọn nhiều hơn nhánh kia. Do kiến để lại vết mùi trong quá trình di chuyển, nhánh có nhiều kiến lựa chọn sẽ có nồng độ mùi lớn hơn nồng độ mùi của nhánh còn lại. Nồng độ mùi trên cạnh lớn hơn sẽ ngày càng lớn hơn vì ngày càng có nhiều kiến lựa chọn. Cuối cùng, hầu như tất cả các kiến sẽ tập trung trên cùng một nhánh. Thực nghiệm này cho thấy là sự
  • 18. 18 tương tác cục bộ giữa các con kiến với thông tin gián tiếp là vết mùi để lại cho phép điều chỉnh hoạt động vĩ mô của đàn kiến. Hình 1.3: Thực nghiệm trên cây cầu đôi (a) Hai nhánh có độ dài bằng nhau. (b) Hai nhánh có độ dài khác nhau. Trong thực nghiệm thứ hai (hình 1.3b), độ dài của nhánh dài gấp đôi độ dài nhánh ngắn (tỉ lệ r=2). Trong trường hợp này, sau một thời gian tất cả các con kiến đều chọn đoạn đường ngắn hơn. Cũng như trong thực nghiệm thứ nhất, ban đầu đàn kiến lựa chọn hai nhánh đi như nhau, một nửa số kiến đi theo nhánh ngắn và một nửa đi theo nhánh dài (mặc dù trên thực tế, do tính ngẫu nhiên có thể một nhánh nào đó được nhiều kiến lựa chọn hơn nhánh kia). Nhưng thực nghiệm này có điểm khác biệt quan trọng với thực nghiệm thứ nhất: Những kiến lựa chọn đi theo nhánh ngắn sẽ nhanh chóng quay trở lại tổ và khi phải lựa chọn giữa nhánh ngắn và nhánh dài, kiến sẽ thấy nồng độ mùi trên nhánh ngắn cao hơn nồng độ mùi trên nhánh dài, do đó sẽ ưu tiên lựa chọn đi theo nhánh ngắn hơn. Tuy nhiên, trong thời gian đầu không phải tất cả các kiến đều đi theo nhánh ngắn hơn. Phải mất một khoảng thời gian tiếp theo nữa bầy kiến mới lựa chọn đi theo nhánh ngắn. Điều này minh chứng bầy kiến đã sử dụng phương thức thăm dò, tìm đường mới. Một điểm thú vị nữa là quan sát xem điều gì sẽ xảy ra khi quá trình tìm kiếm đang hội tụ, lại xuất hiện một đường mới từ tổ đến nguồn thức ăn. Việc này được thực nghiệm như sau: Ban đầu từ tổ đến nguồn thức ăn chỉ có một nhánh dài và sau 30 phút, thêm một nhánh ngắn (hình 1.4). Trong trường hợp này, nhánh ngắn thường không được kiến chọn mà chúng tập trung đi trên nhánh dài. Điều này có thể giải thích như sau: nồng độ vết mùi trên cạnh dài cao và sự bay hơi của vết mùi diễn ra chậm nên đại đa số các con kiến vẫn lựa chọn nhánh dài (có nồng độ vết mùi cao). Hành vi này tiếp tục được củng cố kiến chọn đi theo nhánh dài, ngay cả khi có một nhánh ngắn xuất hiện. Việc bay hơi vết mùi là cơ chế tiện lợi cho việc tìm đường
  • 19. 19 mới, nghĩa là việc bay hơi có thể giúp kiến quên đi đường đi tối ưu địa phương đã được tìm thấy trước đây để tìm khám phá đường đi mới, tốt hơn. Hình 1.4: Thí nghiệm bổ sung (Ban đầu chỉ có một nhánh và 30 phút sau bổ sung nhánh ngắn hơn) 1.4.1.2. Kiến nhân tạo (Artificial Ant) Thực nghiệm cây cầu đôi cho thấy đàn kiến tự nhiên có thể sử dụng luật di chuyển theo xác suất, dựa trên thông tin địa phương để tìm được đường đi ngắn nhất giữa hai địa điểm. Vết mùi của đàn kiến cho phép liên tưởng tới cách học tăng cường (reinforcement learning) trong bài toán chọn tác động tối ưu, gợi mở mô hình mô phỏng cho bài toán tìm đường đi ngắn nhất giữa hai nút (tương ứng là tổ và nguồn thức ăn) trên đồ thị, trong đó các tác tử (agent) là đàn kiến nhân tạo. Tuy nhiên, trong các bài toán ứng dụng sẽ có đồ thị phức tạp hơn. Từ mỗi đỉnh có thể có nhiều cạnh, nên nếu mô phỏng thực sự hành vi của đàn kiến tự nhiên nhiều con kiến sẽ đi luẩn quẩn và do đó hiệu quả thuật toán sẽ rất kém. Vì vậy, người ta dùng kỹ thuật đa tác tử (multiagent) mô phỏng đàn kiến nhân tạo, trong đó mỗi con kiến nhân tạo có khả năng nhiều hơn so với kiến tự nhiên. Kiến nhân tạo (gọi đơn giản là kiến) sẽ có bộ nhớ riêng, có khả năng ghi nhớ các đỉnh đã thăm trong hành trình và tính được độ dài đường đi nó chọn. Ngoài ra, kiến có thể trao đổi thông tin với nhau, thực hiện tính toán cần thiết, cập nhật mùi… Sử dụng mô hình kiến nhân tạo này, Dorigo (1991) đã xây dựng thuật toán Hệ kiến (AS) giải bài toán người chào hàng. Hiệu quả của thuật toán so với các phương pháp mô phỏng tự nhiên khác như SA(mô phỏng luyện kim) và GA(giải thuật di truyền) đã được kiểm chứng bằng thực nghiệm. Thuật toán này về sau được phát triển và có nhiều ứng dụng phong phú, được gọi chung là phương pháp ACO. 1.4.2. Phương pháp tối ưu đàn kiến Tối ưu đàn kiến (Ant Colony Optimization - ACO) là một phương pháp meta- heuristic được đề xuất bởi Dorigo vào năm 1991 dựa trên ý tưởng mô phỏng cách
  • 20. 20 tìm đường đi từ tổ tới nguồn thức ăn và ngược lại của các con kiến tự nhiên để giải gần đúng bài toán TƯTH NP-hard. Trên đường đi của mình các con kiến thực để lại một vết hóa chất được gọi là vết mùi (pheromone trail), đặc điểm sinh hóa học của vết mùi này là có khả năng ứ đọng, bay hơi và là phương tiện giao tiếp báo cho các con kiến khác thông tin về đường đi đó một cách gián tiếp. Các con kiến sẽ lựa chọn đường đi nào tồn đọng lượng mùi hay có cường độ vết mùi lớn nhất tại thời điểm lựa chọn để đi, nhờ cách giao tiếp mang tính gián tiếp và cộng đồng này mà đàn kiến trong tự nhiên tìm được đường đi ngắn nhất trong quá trình tìm thức ăn mang về tổ và ngược lại. Sử dụng mô hình kiến nhân tạo này Dorigo đã xây dựng thuật toán hệ kiến (AS) giải bài toán người chào hàng. Thuật toán này đã được chứng minh tính hiệu quả thông qua thực nghiệm so với các mô phỏng tự nhiên khác như SA và GA. Thuật toán này về sau được phát triển và có nhiều áp dụng phong phú trong thực tế như ACS, MMAS, SMMAS,… được gọi chung là phương pháp ACO. Theo ý tưởng này, các thuật toán ACO sử dụng thông tin heuristic kết hợp thông tin học tăng cường qua các vết mùi của các con kiến nhân tạo (artificial ant) để giải các bài toán tối ưu tổ hợp khó bằng cách đưa về bài toán tìm đường đi tối ưu trên đồ thị cấu trúc tương ứng được xây dựng từ đặc điểm của từng bài toán cụ thể. Thuật toán ACO đầu tiên là hệ kiến (Ant System - AS) giải bài toán Người chào hàng TSP, đến nay các thuật toán ACO đã áp dụng một cách phong phú để giải nhiều bài toán tối ưu tổ hợp khác nhau và hiệu quả nổi trội của nó đã được chứng tỏ bằng thực nghiệm. 1.4.3. Mô tả thuật toán ACO tổng quát Sử dụng điều kiện kết thúc (có thể theo số bước lặp hoặc/và giới hạn thời gian chạy), ta dùng đàn kiến có m con, tiến hành lặp quá trình xây dựng lời giải trên đồ thị cấu trúc 𝐺 = (𝑉, 𝐸, 𝐻, 𝑟) như sau: Tại mỗi lần lặp, kiến chọn ngẫu nhiên một đỉnh 𝑢0 ∈ 𝐶0 làm thành phần khởi tạo 𝑥0 = {𝑢0} và thực hiện xây dựng lời giải theo thủ tục bước ngẫu nhiên. Dựa trên lời giải tìm được, đàn kiến sẽ thực hiện cập nhật mùi theo cách học tăng cường. Thủ tục bước ngẫu nhiên: Giả sử 𝑥𝑘 =< 𝑢0, … , 𝑢𝑘 > là mở rộng được và chưa thuộc X*. Từ tập ràng buộc Ω, xác định tập con 𝐽(𝑥𝑘) của 𝐶, sao cho với 𝑢𝑘+1 ∈ 𝐽(𝑥𝑘) thì 𝑥𝑘+1 = < 𝑢0, … , 𝑢𝑘, 𝑢𝑘+1 > là mở rộng được. Đỉnh 𝑗 = 𝑢𝑘+1 để mở rộng, được chọn với xác suất 𝑃(𝑗) như sau:
  • 21. 21 𝑃(𝑗) = { [𝜏𝑖𝑗]𝛼 [𝜂𝑖𝑗]𝛽 ∑ [𝜏𝑖𝑗]𝛼[𝜂𝑖𝑗]𝛽 𝑙∈𝐽(𝑥𝑘) , 𝑗 ∈ 𝐽(𝑥𝑘) 0, 𝑗 𝜖 ̅𝐽(𝑥𝑘) Quá trình mở rộng tiếp tục cho tới khi kiến r tìm được lời giải chấp nhận được xr trong X* và do đó 𝑠𝑟 = 𝜑(𝑥𝑟) ∈ 𝑆. Hình 1.5: Lựa chọn đỉnh đi tiếp theo Ta coi 𝑥𝑟 và 𝑠𝑟 như nhau và không phân biệt X* với S. - Cập nhật mùi: Tùy theo chất lượng của lời giải tìm được, vết mùi trên mỗi cạnh sẽ được điều chỉnh tăng hoặc giảm tùy theo đánh giá mức độ ưu tiên tìm kiếm về sau. Lượng mùi cập nhật theo các quy tắc cập nhật mùi khác nhau sẽ cho các thuật toán khác nhau. Vì vậy, quy tắc cập nhật mùi thường dùng làm tên gọi thuật toán, và chúng có dạng tổng quát là: 𝜏𝑖,𝑗 ← (1 − 𝜌)𝜏𝑖,𝑗 + ∆(𝑖, 𝑗) trong đó 𝜌 là hằng số thuộc khoảng (0,1) là tỷ lệ lượng mùi bị bay hơi. Procedure Thuật toán ACO; Begin Khởi tạo tham số, ma trận mùi, khởi tạo con kiến; repeat for k=1 to m do Kiến k xây dựng lời giải; end-for Cập nhật mùi; Cập nhật lời giải tốt nhất; Until (Điều kiện kết thúc); Đưa ra lời giải tốt nhất; End; Thuật toán 1.3: Đặc tả thuật toán ACO
  • 22. 22 Nhận xét chung về các thuật toán ACO Nhờ kết hợp thông tin heuristic, thông tin học tăng cường và mô phỏng hoạt động của đàn kiến, các thuật toán ACO có các ưu điểm sau: - Việc tìm kiếm ngẫu nhiên dựa trên các thông tin heuristic trở nên linh hoạt và mềm trên miền rộng hơn so với các phương pháp heuristic đã có. Do đó, cho ta lời giải tốt hơn và có thể tìm được lời giải tối ưu. - Học tăng cường thông qua thông tin về cường độ vết mùi cho phép từng bước thu hẹp không gian tìm kiếm, mà vẫn không loại bỏ các lời giải tốt, do đó nâng cao chất lượng thuật toán. Chú ý: Khi áp dụng phương pháp ACO cho các bài toán cụ thể, ba yếu tố sau có ảnh hưởng quyết định đến hiệu quả thuật toán: - Xây dựng đồ thị cấu trúc thích hợp: Việc xây dựng đồ thị cấu trúc để tìm được lời giải cho bài toán theo thủ tục tuần tự không khó. Khó khăn chính là với các bài toán cỡ lớn, không gian tìm kiếm quá rộng, đòi hỏi ta sử dụng các ràng buộc một cách hợp lý để giảm miền tìm kiếm của kiến. - Chọn thông tin heuristic: Thông tin heuristic tốt sẽ tăng hiệu quả thuật toán. Tuy nhiên, trong nhiều bài toán không có thông tin này thì có thể đánh giá chúng như nhau. Khi đó, ban đầu thuật toán chỉ đơn thuần chạy theo phương thức tìm kiếm ngẫu nhiên, vết mùi thể hiện định hướng của học tăng cường và thuật toán vẫn thực hiện được. - Chọn quy tắc cập nhật mùi: Quy tắc cập nhật mùi thể hiện chiến lược học của thuật toán. Trong khi đồ thị cấu trúc và thông tin heuristic phụ thuộc vào bài toán cụ thể, quy tắc cập nhật mùi lại là yếu tố phổ dụng và thường dùng để đặt tên cho thuật toán. 1.4.4. Các hệ kiến 1.4.4.1. Hệ kiến AS Hệ thống Kiến (Ant System) dựa trên sự quan sát của các đàn kiến thực sự tìm kiếm thức ăn. Lần đầu tiên nó được giới thiệu bởi Colorni et al. [28,29]. Một đàn kiến thực sự có khả năng tìm ra con đường ngắn nhất giữa tổ và các điểm đến của mình bằng cách để lại vết mùi trên đường đi. Mỗi con kiến xác định hướng tiếp theo trên tuyến theo mật độ pheromone. AS mô phỏng hành vi của các cộng đồng kiến thực, lập bản đồ không gian giải pháp từ các vấn đề đã áp dụng cho đồ thị tìm kiếm và tăng cường quá trình giải pháp xây dựng để tăng hiệu quả tìm kiếm. AS không chỉ sử dụng thông tin của pheromone, mà còn thiết kế một hàm heuristic để hướng
  • 23. 23 dẫn mỗi con kiến theo những hướng tốt hơn. Một khi tất cả kiến đã hoàn thành chuyến đi của chúng, số lượng pheromone trên các chuyến đi sẽ được sửa đổi. Thuật toán ngắn gọn được hiển thị trong Thuật toán 1.4. Thuật toán 1.4: Thuật toán Ant System 1.4.4.2. Hệ kiến ACS Ant Colony System, được đề xuất bởi Dorigo và Gambardella [27], là một thuật toán mở rộng từ hệ thống kiến. Nó đã sửa đổi quy tắc chuyển đổi trạng thái và quy tắc cập nhật pheromone để tăng hiệu suất của cách tiếp cận AS ban đầu. Nó được hiển thị trong Thuật toán 1.5: Thuật toán 1.5: Thuật toán ACS - Quy tắc chuyển tiếp trạng thái: Quy tắc chuyển tiếp trạng thái được sử dụng bởi một kiến để chọn xác định đỉnh tiếp theo (trạng thái). Vấn đề người bán hàng du lịch được lấy làm ví dụ. Giả sử k-th kiến hiện tại thành phố j (nút). Thành phố s (nút) kế tiếp cho con kiến thứ k đến thăm là: 𝑠 = { arg 𝑛 ∈ 𝑅𝑘 ⃗⃗⃗⃗ (𝑗) max{[𝜏(𝑗, 𝑛)]𝛼 × [𝜂(𝑗, 𝑛)]𝛽 } , 𝑖𝑓 𝑞 ≤ 𝑞0 𝑖 𝑤𝑖𝑡ℎ 𝑎 𝑝𝑟𝑜𝑏𝑎𝑏𝑖𝑙𝑖𝑡𝑦 𝑃𝑘(𝑗, 𝑖), 𝑖𝑓 𝑞 > 𝑞0 (1)
  • 24. 24 Trong đó Rk(j) là tập hợp các thành phố chưa được viếng thăm bởi kiến, τ(j,n) là pheromone nằm trên cạnh từ thành phố j tới thành phố n, và α, β là hai tham số xác định ảnh hưởng tương đối của Pheromone so với khoảng cách giữa hai thành phố trong vấn đề này. Ngoài ra, tham số q là một số ngẫu nhiên phân bố đều giữa 0 và 1, q0 là tham số (0 ≤q0 ≤1) được xác định trước bởi người dùng, và Pk(j, i) là xác suất từ thành phố j (node) đến thành phố i(node) nếu q> q0. Pk(j, i) được tính như sau: 𝑃𝑘(𝑗, 𝑖) = { [𝜏(𝑗, 𝑖)]𝛼 × [𝜂(𝑗, 𝑖)]𝛽 ∑ [𝜏(𝑗, 𝑛)]𝛼 × [𝜂(𝑗, 𝑛)]𝛽 𝑛∈𝑅𝑘(𝑗) , 𝑖𝑓 𝑖 ∈ 𝑅𝑘(𝑗) 0, 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒 (2) Nếu giá trị của biến ngẫu nhiên q ít hơn tham số được xác định trước q0, quy tắc chuyển tiếp trạng thái sẽ chọn nút có nồng độ [τ (j, i)]α × [η (j, i)]β theo sau. Nếu không, nó xác định chọn một nút theo công thức (2). Phương pháp lựa chọn ở trên được gọi là quy luật tỷ lệ giả ngẫu. Quy tắc tỷ lệ giả ngẫu có thể làm tăng tốc độ hội tụ để có được các giải pháp tốt hơn trong các lần lặp. Trong trường hợp tổng quát, hàm η(j, i) là một hàm heuristic liên quan đến việc tối ưu hóa. Đây là một thiết kế quan trọng và hữu ích cho các thuật toán dựa trên kiến. Một chức năng heuristic thích hợp được thiết lập theo kiến thức miền của ứng dụng nhất định. - Quy tắc cập nhật toàn cục: Khi tất cả các kiến đã hoàn thành chuyến đi, quy tắc cập nhật toàn cục sẽ được áp dụng để cập nhật mật độ pheromone của chuyến đi tốt nhất. Nó khác với quá trình cập nhật pheromone trong AS. Nó làm tăng lượng pheromone trong tất cả các chuyến đi được thông qua bởi kiến trong một lần lặp lại. Nhưng ACS chỉ làm tăng lượng pheromone trong chuyến đi tốt nhất. Vì vậy, quy tắc cập nhật toàn cục phân biệt các chuyến đi tốt nhất giữa các giải pháp khả thi khác và tăng tốc độ hội tụ. Có hai loại quy tắc cập nhật toàn cục có thể được chọn: Loại thứ nhất đưa ra chuyến đi tốt nhất (giải pháp tốt nhất toàn cầu) giữa các con kiến trong tất cả các lần thực hiện lặp đi lặp lại và loại thứ hai có chuyến đi tốt nhất (giải pháp tốt nhất lặp đi lặp lại) trong lần lặp lại hiện tại. Lấy ví dụ như vấn đề người bán hàng đi du lịch. Quy tắc cập nhật toàn cục được nêu như sau: 𝜏𝑡+1(𝑗, 𝑠) = (1 − 𝜌) × 𝜏𝑡(𝑗, 𝑠) + 𝜌 × ∆𝜏(𝑗, 𝑠) (3) ∆𝜏(𝑗, 𝑠) = { 1 𝐿𝑏𝑒𝑠𝑡 , 𝑖𝑓(𝑗, 𝑠) ∈ 𝑏𝑒𝑠𝑡 𝑡𝑜𝑢𝑟 0, 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒 (4) Tải bản FULL (47 trang): https://bit.ly/3TzaVkI Dự phòng: fb.com/TaiHo123doc.net
  • 25. 25 Trong đó t là phép lặp hiện tại, 𝜌 (0 < 𝜌 <1) là tham số bay hơi của pheromone, và Lbest là chiều dài của lời giải tốt nhất toàn cục hoặc lời giải tốt nhất lặp đi lặp lại qua các kiến. Do đó, quy tắc cập nhật toàn cục sẽ cung cấp tăng lượng pheromone lớn hơn cho một chuyến đi ngắn nhất trong vấn đề người bán hàng đi du lịch. - Quy tắc cập nhật cục bộ: Do ảnh hưởng của luật tỷ lệ ngẫu nhiên và quy tắc cập nhật toàn cầu, ACS luôn thống kê một quần thể kiến để vượt qua cùng một cạnh. Quy tắc cập nhật cục bộ được thiết kế để điều chỉnh mật độ pheromones và tránh việc kiến luôn chọn những chuyến đi tương tự trong một lần lặp. Khi một con kiến chọn một cạnh giữa các nút j và s, nó sẽ cập nhật mật độ pheromone ngay lập tức để tránh tối ưu cục bộ như sau: 𝜏𝑎𝑓𝑡𝑒𝑟(𝑗, 𝑠) = (1 − 𝜌) × 𝜏𝑏𝑒𝑓𝑜𝑟𝑒(𝑗, 𝑠) + 𝜌 × 𝜏0 (5) Trong đó τbefore(j, s) là mật độ pheromone từ thành phố j đến s, khi một con kiến đi qua cạnh, lượng pheromone sẽ được cập nhật τafter( j, s ). Và ρ (0 <ρ <1) là một tham số để điều chỉnh mật độ pheromone. Đối với công thức này, nếu mật độ pheromone τbefore(j, s) trong chuyến đi xây dựng cao hơn pheromone ban đầu τ0, quy tắc cập nhật cục bộ làm giảm mật độ pheromone để giảm khả năng thăm viếng lặp lại từ cạnh. Nếu không, nó làm tăng mật độ pheromone. Quy tắc cập nhật cục bộ cung cấp cho một xác suất hợp lý cho bất kỳ giải pháp có thể. Nó giúp kiến khám phá các cạnh khác với xác suất cao hơn và do đó tránh tối ưu cục bộ. Theo quy trình cập nhật cục bộ ở trên, một con kiến thường làm giảm mật độ pheromone của cạnh mà nó chọn. Điều này ngăn cản quần thể con kiến lựa chọn các đường đi tương tự và đảm bảo rằng các giải pháp khác có thể có cơ hội tốt để được lựa chọn. 1.4.4.3. Hệ kiến Max-Min MMAS là một thuật toán cải tiến hệ kiến với một số thay đổi. Thứ nhất, giống như quy tắc cập nhật toàn cục trong ACS, mỗi lần lặp tất cả các lời giải được xây dựng, chỉ các lời giải tốt nhất được cập nhật bằng quy tắc cập nhật chung trong (3), trong đó lượng pheromone, ∆𝜏𝑖𝑗, được tính bởi: ∆𝜏𝑖𝑗 (𝑀𝑀𝐴𝑆) = { (1 − 𝜌) 1 𝐿𝑔𝑏 , 𝑖𝑓 𝑒𝑖𝑗 ∈ 𝑠∗(𝑡), 0, 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒 (6) Thứ hai, cường độ pheromone 𝜏𝑖𝑗 trên eij bị hạn chế trong khoảng [𝜏𝑚𝑖𝑛, 𝜏𝑚𝑎𝑥], trong đó, 𝜏𝑚𝑖𝑛 và 𝜏𝑚𝑎𝑥 là các tham số khác không được xác định trước. Các tham số khác không(≠0) này được sử dụng để giảm tình trạng đình trệ do các Tải bản FULL (47 trang): https://bit.ly/3TzaVkI Dự phòng: fb.com/TaiHo123doc.net
  • 26. 26 con kiến đi cùng đường và đưa ra lời giải chưa tối ưu. Khi thực hiện cập nhật toàn cục và 𝜏𝑖𝑗 nằm ngoài [𝜏𝑚𝑖𝑛, 𝜏𝑚𝑎𝑥] thì 𝜏𝑖𝑗 được điều chỉnh lại bằng thuật toán: 𝜏𝑖𝑗 = { 𝜏𝑚𝑖𝑛, 𝑖𝑓 𝜏𝑖𝑗 < 𝜏𝑚𝑖𝑛 𝜏𝑚𝑎𝑥, 𝑖𝑓 𝜏𝑖𝑗 > 𝜏𝑚𝑎𝑥 (7) Các lựa chọn của 𝜏𝑚𝑖𝑛 và 𝜏𝑚𝑎𝑥 ảnh hưởng rất lớn đến hiệu quả của thuật toán. Thứ ba, khởi tạo lại được sử dụng trong MMAS khi tình trạng đình trệ xảy ra. Thứ tư, khi thuật toán gần hội tụ, làm mịn sự thay đổi cường độ pheromone nhằm tăng cường khám phá, tìm kiếm các lời giải mới tốt hơn. Việc làm mịn này thay thế quy tắc được xác định trong (6) bằng quy tắc cập nhật sau: 𝜏𝑖𝑗 ← 𝜏𝑖𝑗 + 𝛿(𝜏𝑚𝑎𝑥 − 𝜏𝑖𝑗 ) (8) Trong đó 𝛿 là một hằng số và 0 < 𝛿 < 1. 1.4.4.4. Hệ kiến Max-Min trơn Thuật toán Max-Min trơn kí hiệu là SMMAS được Đỗ Đức Đông và Hoàng Xuân Huấn đề xuất năm 2012 [35]. SMMAS được đề xuất để khắc phục nhược điểm của MMAS, tăng tính khám phá của thuật toán. Sau khi các con kiến đã tìm được lời giải, ta xác định lời giải tốt nhất và cập nhật vết mùi theo công thức sau: 𝜏𝑖𝑗 ← (1 − 𝜌)𝜏𝑖𝑗 + ∆𝑖𝑗 (9) Trong đó: ∆𝑖𝑗= { 𝜌𝜏𝑚𝑎𝑥 𝑖𝑓 (𝑖, 𝑗) ∈ (𝑡) 𝜌𝜏𝑚𝑖𝑛 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒 So với MMAS, thuật toán SMMAS đơn giản, dễ dùng và thực nghiệm cho thấy nó hiệu quả hơn MMAS. 6812894