拓端tecdat|使用R語言做極大似然估計(jì)實(shí)例
原文鏈接:http://tecdat.cn/?p=18970
在普遍的理解中,最大似然估計(jì)是使用已知的樣本結(jié)果信息來反向推斷最有可能導(dǎo)致這些樣本結(jié)果的模型參數(shù)值!
換句話說,最大似然估計(jì)提供了一種在給定觀測(cè)數(shù)據(jù)的情況下評(píng)估模型參數(shù)的方法,即“模型已確定且參數(shù)未知”。
在所有雙射函數(shù)的意義上,極大似然估計(jì)是不變的 ?

,如果 ?

?是

的極大似然估計(jì) ?

? ?。
讓 ?
,? ?
?等于 ?

中的似然函數(shù)。由于 ?

?是的最大似然估計(jì) ?

,
因此, ?

?是
的最大似然估計(jì) ?。
例如,伯努利分布為 ?

?,??
?
?
給定樣本 ?

,概率是
?

則對(duì)數(shù)似然
?

與ICI
?

因此,一階條件
?

何時(shí)滿足 ?
。為了說明,考慮以下數(shù)據(jù)
> X
[1] 0 0 1 1 0 1 1 1 1 0 0 0 1 0 1
(負(fù))對(duì)數(shù)似然
> loglik=function(p){
+ -sum(log(dbinom(X,size=1,prob=p)))
+ }
我們可以在下面看到
> plot(u,v,type="l",xlab="",ylab="")
根據(jù)以上計(jì)算,我們知道的極大似然估計(jì)?
?是
> mean(X)
[1] 0.53
數(shù)值為
$par
[1] 0.53
$value
[1] 10.36
$counts
function gradient
20 NA
$convergence
[1] 0
$message
NULL
我們沒有說優(yōu)化是在區(qū)間內(nèi)?
。但是,我們的概率估計(jì)值屬于?
。為了確保最優(yōu)值在?
,我們可以考慮一些約束優(yōu)化程序
ui=matrix(c(1,-1),2,1), ci=c(0,-1)
$par
[1] 0.53
$value
[1] 10.36
$counts
function gradient
20 NA
$convergence
[1] 0
$message
NULL
$outer.iterations
[1] 2
$barrier.value
[1] 6.91e-05
在上一張圖中,我們達(dá)到了對(duì)數(shù)似然的最大值
> abline(v=opt$par,col="red")
另一種方法是考慮 ?
?(如指數(shù)分布)。則對(duì)數(shù)似然
?
這里
?
因此,一階條件
?
滿足
即
?
從數(shù)值角度來看,我們有相同的最優(yōu)值
(opt=optim(0,loglik))
$par
[1] 0.13
$value
[1] 10.36
$counts
function gradient
20 NA
$convergence
[1] 0
$message
NULL
> exp(opt$par)/(1+exp(opt$par))
[1] 0.53

最受歡迎的見解
1.Matlab馬爾可夫鏈蒙特卡羅法(MCMC)估計(jì)隨機(jī)波動(dòng)率(SV,Stochastic Volatility) 模型
2.基于R語言的疾病制圖中自適應(yīng)核密度估計(jì)的閾值選擇方法
3.WinBUGS對(duì)多元隨機(jī)波動(dòng)率模型:貝葉斯估計(jì)與模型比較
4.R語言回歸中的hosmer-lemeshow擬合優(yōu)度檢驗(yàn)
5.matlab實(shí)現(xiàn)MCMC的馬爾可夫切換ARMA – GARCH模型估計(jì)
6.R語言區(qū)間數(shù)據(jù)回歸分析
7.R語言WALD檢驗(yàn) VS 似然比檢驗(yàn)
8.python用線性回歸預(yù)測(cè)股票價(jià)格
9.R語言如何在生存分析與Cox回歸中計(jì)算IDI,NRI指標(biāo)