最小二乘法的簡(jiǎn)介及應(yīng)用實(shí)例
系統(tǒng)辨識(shí)是現(xiàn)代控制理論中最重要的分支之一,主要用于獲取系統(tǒng)模型或者系統(tǒng)參數(shù),是反饋控制的基礎(chǔ)。最小二乘法是系統(tǒng)辨識(shí)中最常用的一種方法,在無(wú)人機(jī)系統(tǒng)的設(shè)計(jì)和控制中常常被用到。本文將給出最小二乘法的簡(jiǎn)要介紹,幫助大家對(duì)該方法有一個(gè)基本的了解,然后介紹如何利用最小二乘對(duì)三軸加速度計(jì)進(jìn)行標(biāo)定。
最小二乘法的來(lái)源:
最小二乘法(Least Squares method),又稱(chēng)最小平方法,起源于十八世紀(jì)的大航海探索時(shí)期,發(fā)展于天文領(lǐng)域和航海領(lǐng)域[1]。法國(guó)科學(xué)家勒讓德于1805年首先提出了最小二乘法,后來(lái)在1822年由高斯證明了最小二乘法的優(yōu)越性,也就是高斯-馬爾可夫定理[1]。現(xiàn)在最小二乘法已被普遍應(yīng)用于誤差估計(jì)、曲線(xiàn)擬合、參數(shù)辨識(shí)、預(yù)測(cè)、預(yù)報(bào)等領(lǐng)域[2]。
理解最小二乘法:
為了幫助大家直觀理解最小二乘法,我們以一個(gè)簡(jiǎn)單的例子,介紹最小二乘法的思想。
假設(shè)下面這20個(gè)數(shù)據(jù)是你用同一把尺子測(cè)量20次水杯高度的數(shù)據(jù),每次的測(cè)量都是有誤差的,那么水杯的高度到底是多少呢????

一般情況下我們可以用數(shù)據(jù)的平均值作為水杯的高度:

利用上面的數(shù)據(jù)可求得高度的平均值為10.0015cm。
讓我們用最小二乘法來(lái)思考剛才的問(wèn)題。先將上面的數(shù)據(jù)畫(huà)在坐標(biāo)系中,如下圖所示,其中紅色虛線(xiàn)為水杯高度的估計(jì)值。

則這20次測(cè)量的殘差為:

由于絕對(duì)值計(jì)算起來(lái)比較麻煩,可以用殘差的平方替代絕對(duì)值,則總(平方)誤差為:

當(dāng)估計(jì)值變化時(shí),總誤差也會(huì)變化。最小二乘法的思路是:讓總誤差最小的就是最小二乘估計(jì)(Least Squares Estimation)。公式(3)是一個(gè)關(guān)于的二次函數(shù),當(dāng)其導(dǎo)數(shù)為0時(shí)取最小值[3]:

可求得令總誤差最小的值是10.0015。
三軸加速度計(jì)的標(biāo)定:
三軸加速度計(jì)有兩種常用的標(biāo)定方法,一種借助轉(zhuǎn)臺(tái)設(shè)備進(jìn)行標(biāo)定,該方法操作簡(jiǎn)單,標(biāo)定準(zhǔn)確,但需要額外購(gòu)買(mǎi)設(shè)備,成本較高;另一種方法則不需要外部的標(biāo)定設(shè)備,但精度略微差。本部分將介紹如何利用最小二乘法對(duì)加速度計(jì)進(jìn)行數(shù)據(jù)的標(biāo)定以提高其測(cè)量準(zhǔn)確性。
三軸加速度計(jì)的測(cè)量精度受非正交誤差、零漂、尺度因子等多源誤差的影響,在標(biāo)定時(shí)需要首先建立包含這些誤差的輸出方程。
1)首先考慮非正交誤差,示意圖如圖2所示,相應(yīng)的誤差矩陣為式(5)。


2)尺度因子誤差為加速度計(jì)輸出量與輸入量的比值,定義沿三個(gè)正交軸的尺度因子為、和,則尺度因子矩陣為:

3)零漂誤差指靜態(tài)情況下加速度計(jì)的輸出,定義沿三個(gè)正交軸的零漂為、和,則零漂矩陣為:

綜合上述各誤差矩陣,可得到加速度計(jì)的多源誤差測(cè)量模型,其方程如式(8)所示。

其中為標(biāo)定前的原始數(shù)據(jù)(觀測(cè)數(shù)據(jù)),為標(biāo)定后的數(shù)據(jù)。
待辨識(shí)的參數(shù)共9個(gè):

這里最小二乘法辨識(shí)利用的原理是:在靜止?fàn)顟B(tài)下,無(wú)論角度值如何變化,加速度計(jì)三個(gè)軸測(cè)得的重力加速度矢量與當(dāng)?shù)刂亓铀俣仁噶康哪V迪嗟?/strong>[4]。
根據(jù)這個(gè)原理,我們可以求得的最小二乘估計(jì):

為當(dāng)?shù)刂亓铀俣戎担瑸橛^測(cè)值的數(shù)量,一般情況下應(yīng)遠(yuǎn)大于待辨識(shí)參數(shù)的個(gè)數(shù)。
至此,利用最小二乘法標(biāo)定三軸加速度計(jì)的思路已經(jīng)介紹完畢,式(10)的求解可以使用最速下降法、高斯牛頓法、遺傳算法等最優(yōu)求解的方法進(jìn)行計(jì)算。
總結(jié):
控制系統(tǒng)中參數(shù)辨識(shí)是一個(gè)基礎(chǔ)而又重要的問(wèn)題,本文簡(jiǎn)要介紹了系統(tǒng)辨識(shí)中常用的最小二乘法,并通過(guò)一個(gè)例子幫助大家理解最小二乘法的思路,然后講解了如何利用最小二乘對(duì)三軸加速度計(jì)進(jìn)行標(biāo)定,感興趣的同學(xué)可以私信留言交流哦!
參考資料
[1] https://en.wikipedia.org/wiki/Least_squares
[2]?鄒樂(lè)強(qiáng).最小二乘法原理及其簡(jiǎn)單應(yīng)用[J].科技信息,2010,(23):282-283.
[3] https://blog.csdn.net/ccnt_2012/article/details/81127117
[4] 鄒澤蘭,徐祥,徐同旭,趙鶴鳴.一種基于改進(jìn)型自適應(yīng)遺傳算法的MEMS三軸加速度計(jì)標(biāo)定方法[J].傳感技術(shù)學(xué)報(bào),2020,33(10):1450-1456.
封面:https://blog.csdn.net/ccnt_2012/article/details/81127117
本文共1674字
由西湖大學(xué)智能無(wú)人系統(tǒng)實(shí)驗(yàn)室科研助理賈寶強(qiáng)原創(chuàng)
申請(qǐng)文章授權(quán)請(qǐng)聯(lián)系后臺(tái)相關(guān)運(yùn)營(yíng)人員
▌微信公眾號(hào):空中機(jī)器人前沿
▌知乎:空中機(jī)器人前沿(本文鏈接:https://zhuanlan.zhihu.com/p/567461263)
▌Youtube:Aerial robotics @ Westlake University
▌實(shí)驗(yàn)室網(wǎng)站:https://shiyuzhao.westlake.edu.cn? ?