基于粒子群算法實(shí)現(xiàn)二進(jìn)制特征選擇問題附matlab代碼
?作者簡(jiǎn)介：熱愛科研的開發(fā)者，修心和技術(shù)同步精進(jìn)，matlab項(xiàng)目合作可私信。
??個(gè)人主頁(yè)：
??個(gè)人信條：格物致知。
更多Matlab仿真內(nèi)容點(diǎn)擊??
????
????
? 內(nèi)容介紹
摘要：特征選擇是數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)等領(lǐng)域的重要研究方向?？陀^條件的限制，特征選擇比較復(fù)雜且很難找到最關(guān)鍵的特征集合，導(dǎo)致分類精確度不高、分類器制作困難。開展分組特征選擇算法的研究具有較高的理論意義和實(shí)用價(jià)值?！ ”疚姆治鲅芯苛酥С窒蛄繖C(jī)、Relief算法、SVM-RFE算法、粒子群算法和離散型粒子群算法，在此基礎(chǔ)上對(duì)離散型粒子群算法進(jìn)行了改進(jìn)，對(duì)比實(shí)驗(yàn)表明，改進(jìn)后的算法能夠更好地找到特征之間的組結(jié)構(gòu)，同時(shí)每個(gè)組中特征之間也有很強(qiáng)的相關(guān)性。提出基于特征子集相關(guān)性的分組特征選擇算法，該算法首先運(yùn)用線性支持向量機(jī)獲取到數(shù)據(jù)屬性的特征系數(shù)，據(jù)之建立用于特征分組的評(píng)價(jià)模型，然后對(duì)每個(gè)組內(nèi)的特征距離進(jìn)行優(yōu)化，使得組內(nèi)的距離盡可能小，進(jìn)而找到特征之間的組結(jié)構(gòu)，最后從每個(gè)組結(jié)構(gòu)中挑選出代表特征組成特征子集。結(jié)果表明，本算法的分類精確度明顯高于典型的特征選擇算法。提出了基于特征子集差異性的分組特征選擇算法，該算法首先利用特征權(quán)重系數(shù)構(gòu)建分組矩陣，找到最優(yōu)分組結(jié)構(gòu)，然后對(duì)組間距離進(jìn)行優(yōu)化，使得每個(gè)組中的特征與其他各組中特征的距離和最大。在標(biāo)準(zhǔn)數(shù)據(jù)集上對(duì)本算法和基于特征子集相關(guān)性的分組特征選擇算法進(jìn)行對(duì)比測(cè)試，實(shí)驗(yàn)結(jié)果表明，本算法在特征選擇和分類上的性能上更優(yōu)。
BPSO?算法是?Kennedy?于?1997?年在連續(xù)性?PSO算法基礎(chǔ)上提出的，用于解決離散的優(yōu)化問題[26]。BPSO算法通過(guò)模擬鳥類飛行覓食過(guò)程，種群中每個(gè)粒子相當(dāng)于解空間中的一個(gè)解，粒子具有速度和位置兩個(gè)屬性，位置向量表示該粒子對(duì)應(yīng)的解，速度向量則是為了調(diào)整粒子下一次飛行，從而進(jìn)行位置更新搜索新的解集。粒子飛行過(guò)程中根據(jù)自己的歷史飛行經(jīng)驗(yàn)和種群中其他粒子的飛行經(jīng)驗(yàn)調(diào)整自身的飛行方向和速度。其中，每個(gè)粒子歷史飛行過(guò)程中的最優(yōu)位置稱為個(gè)體最優(yōu)解?pbest?，整個(gè)種群在歷史飛行過(guò)程中所經(jīng)過(guò)的最好位置為?gbest?，稱為全局最優(yōu)解[26]，粒子之間通過(guò)?pbest、gbest?共享信息，從而在進(jìn)化過(guò)程中影響種群的搜索行為。
? 部分代碼
% NBPSO code v1.0
% Generated by Majid Rostami Shahrbabaki, 2010.?
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%5
% Particle swarm optimization (PSO) is one of the modern heuristic algorithms that can be applied to continuous and discrete optimization problems.
% The original binary PSO (BPSO) has got some disadvantages that make the algorithm not to converge well.
% To deal with these disadvantages, a new BPSO (NBPSO) is introduced. The results provided in the following papers show the superiority of the NBPSO.
%?
% [1]. M.Rostami Shahrbabak and H.Nezamabadi-pour, " A New Approach to Binary PSO Algorithm" 14th Iranian Conference on Electrical Engineering, may 2006.
% [2]. H.Nezamabadi-pour, M.Rostami Shahrbabaki and M.Maghfoori Farsangi "Binary Particle Swarm Optimization: Challenges and new
% Solutions"The CSI Journal on Computer Science and Engineering Vol. 6, No. 1 (a), pp. 21-32, 2008.
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%
% Main function for NBPSO algorithm. The function called here are :
% initialize : gives the initial parameters
% range_func : depend on the Num_func, determines ranges for position and velocity
% evaluate : depend on the Num_func, evaluates the function
% renewp_best : finds the Particle_best
% renewg_best : finds the Global_best
% update_v_p? : updates position and velocities of particles
% display_result : displays the results
clear,close all,clc? %#ok<DUALC>
for j = 1:50
? ? [N,K,D,L,var,w_max,w_min,c1,c2,position,p_best,g_best,fitness,p_best_fit,...
? ? ? ? Num_func,Min_Max_flag,Gl_Lo_flag] = initialize;
? ? [v_max,x_max,velocity,] = range_func(Num_func,N,D) ;
? ? for k=1:K
? ? ? ? w = w_max+(((w_min-w_max)*(k-1))/(K-1));
? ? ? ? fitness = evaluate(position,k,N,D,L,var,x_max,fitness,Num_func);
? ? ? ? [p_best,p_best_fit] = renewp_best(D,fitness,p_best,N,k,position,p_best_fit,Min_Max_flag);
? ? ? ? g_best=renewg_best(p_best,p_best_fit,N,Min_Max_flag,Gl_Lo_flag);
? ? ? ? [position,velocity]=update_v_p(D,N,c1,c2,w,p_best,g_best,position,velocity,v_max,Gl_Lo_flag);
? ? end
? ? if Min_Max_flag == 1
? ? ? ? best_fit(j,:) = min(fitness);? ?%#ok<SAGROW>?
? ? else
? ? ? ? best_fit(j,:) = min(fitness); %#ok<SAGROW>
? ? end
? ? mean_fit(j,:) = mean(fitness); %#ok<SAGROW>
? ? disp([' End of run ' , num2str(j) , '? ?==> Total run is 50'])
end
display_result(best_fit,mean_fit,K,Min_Max_flag)
? 運(yùn)行結(jié)果
? 參考文獻(xiàn)
[1]. M.Rostami Shahrbabak and H.Nezamabadi-pour, " A New Approach to Binary PSO Algorithm" 14th Iranian Conference on Electrical Engineering, may 2006.
[2]. H.Nezamabadi-pour, M.Rostami Shahrbabaki and M.Maghfoori Farsangi "Binary Particle Swarm Optimization: Challenges and new Solutions"The CSI Journal on Computer Science and Engineering Vol. 6, No. 1 (a), pp. 21-32, 2008.
?? 關(guān)注我領(lǐng)取海量matlab電子書和數(shù)學(xué)建模資料
??部分理論引用網(wǎng)絡(luò)文獻(xiàn)，若有侵權(quán)聯(lián)系博主刪除
