|
EDA365欢迎您登录!
您需要 登录 才可以下载或查看,没有帐号?注册
x
" q. p) h3 {- k
论文提出了一种解决大规模稀疏问题的多目标算法,大规模稀疏存在于许多领域:机器学习、数据挖掘、神经网络。
$ S. M. a" r/ o0 J, j作者主要讨论了四个具体的问题' [0 m- w( y/ g7 J
- ①特征选择
- ②模式挖掘
- ③关键节点检测
- ④神经网络训练$ _7 n9 C" b- N4 ^2 F1 D
上面四个问题虽然存在于不同领域,但是它们都属于多目标问题,它们的pareto面的解集都是稀疏的。举例来说,对于大规模特征选择问题,10000维中只能选取不到100个,压缩率达到了99%,是典型的稀疏问题。. S3 H; o& o) R1 X9 {! S5 J) y
L8 {$ F3 X! a, b4 V具体问题3 `0 J5 r- j2 m' V
7 Q% Q2 e- `) I7 ?& V
6 A4 g V% i0 c6 h. d: ?
) E8 k% U+ L5 r6 _" P
& I! n; i; X7 T0 y0 e! n! U$ Q
1 s' l ^# I" H% i; b7 ^, I5 a1 F1 k* h% p
算法的贡献- V7 w9 p4 v: [8 P3 ~! M6 d# ?- x
0 A, M' K. s- ?, i2 T
- ①设计了新的种群初始化策略(根据稀疏大规模特性,能够获得一个很好的前沿面)
- ②设计了新的基于pareto解集稀疏性的遗传算子
( \+ j7 x, J# N; s( M' a v, G f
+ b/ _7 f, | e/ V) |" D1 z
/ `8 `" r5 b8 E1 V具体算法
e' P0 K' ^ k0 T N' O8 f! Y1 d% c
算法框架
4 q% A- u" O* k1 S9 Z' N5 t: B/ m" |$ j, ?6 ~( ~2 z: {
类似于NSGA2的框架9 \+ ~$ m, W" g$ }1 w1 I1 s
* V( y( V1 p; Z v
1 g$ C& H, y1 R h7 g, \3 M8 Q
$ I7 s1 o: X0 S# S& U
9 L$ Z8 D. b( m4 I初始化策略
: |! X0 ]0 H3 u% ~. }9 g) Q( p# G6 J2 u' f5 i# ] t5 T
为了集成两种编码,需要引入两个向量,一个是决策变量向量dec (实际上是进化的解,对于01编码来说,可以全置1),另一个是掩码向量mask(实际上一个01向量,用来记录每个维度的好坏,好的置1),最终的决策变量是两者的内积。
1 a2 f W% r7 V! r: g9 b- T7 Q0 T+ F7 ^; R
) m- |( S' e& s" T1 _
) i! P' X) h$ o9 E+ K4 J: ~) [! C. ^经过初始化后的结果:4 p. d. d! Y2 U/ g. t3 V9 N# T
4 g/ ]1 E% _1 X& i i! a& _
2 A8 d- X4 U& l" W
3 h/ |; s/ N( m' o% z# S. Z6 N5 p可以看到,通过该初始化策略,获得一个一个近似于pareto面的良好分布。
' B. t, D6 U" d
: S4 h: O6 n7 \6 v
( d; `$ v7 B( \4 K9 x: H' _, K交叉变异算子
- S2 Y+ P- P4 E/ X: Q" m8 @3 V1 @& s, C
这个交叉变异是算法的核心,它每次在二进制向量mask中,以同样的概率每次在0元素中翻转一个元素,或者在非0元素中翻转一个元素,翻转是根据决策变量的适应度值进行的。因此,生成的子代不会有同样数量的0和1,并且可以保持子代的稀疏度。7 c" z; w$ @7 |
" s0 W3 o% `( e% c3 Q4 b; e$ b
) {9 U" ~+ i& b5 y/ [9 r/ B0 o
( L( S3 b4 }1 b) f% ]采用交叉变异后的结果:$ c& L/ K( Z/ W0 J6 T2 \
; V" I" w& _" [5 _) V
6 A+ ]7 Y% O, q5 g! ^' d1 `- V) R* G3 Z2 e
可以看到,通过此策略,提高了稀疏度,被置为1的维度越来越少。
- r0 h! s) Q% ^# v6 h+ `- I
2 Z' f- ?3 V! H- d$ f) q" q; L+ t0 e2 b! @# T9 L# C, L, f+ |$ [ d
其他' w }2 G# Q* q+ Z r
/ {! E6 ~0 F; J; s5 |对于实验部分,作者设计了具体的测试套件,结果也非常乐观,在此不赘述。5 z" m0 W; s& P2 T
|
|