如何判斷整數(shù)運(yùn)算溢出

2023-07-18 16:35 作者:~Sakuno醬 0人讀過 | 我要投稿

首先我們看下無符號整數(shù)的加減法

對于一個(gè) $n$ 位的無符號二進(jìn)制整數(shù) $x$ ?有 $0%5Cle%20x%20%5Clt%202%5En$

所以? $x%2By%20%5Cge%202%5En$ ?時(shí)就溢出了?這體現(xiàn)在最高位的進(jìn)位

再考慮下無符號整數(shù)的減法

對于? $x-y$ 因?yàn)闊o符號整數(shù)沒有負(fù)數(shù)的概念所以? $x%3Cy$ 時(shí)就溢出了

運(yùn)算器減法運(yùn)算是用加上補(bǔ)碼實(shí)現(xiàn)的所以

$x%3Cy%20%5Crightarrow%20x%2B%5Clnot%7By%7D%20%3C%202%5En-1%20%5Crightarrow%20x%2B%5Clnot%7By%7D%2B1%20%5Clt%202%5En$

而? $%5Clnot%20y%2B1$ 剛好是? $y$ 的補(bǔ)碼

所以最高位沒有產(chǎn)生進(jìn)為時(shí)就溢出了

有符號整數(shù)的溢出

假設(shè)? $%5Calpha%2C%20%5Cbeta$ 是? $n%2B1$ 位整數(shù) 他們符號為記作? $a%2Cb$ 地位記作? $x%2Cy$

顯然有

$%5Calpha%3D%5Ba%2Cx%5D%3Dx-a%5Ccdot2%5En$

$%5Cbeta%3D%5Bb%2Cy%5D%3Dy-b%5Ccdot2%5En$

理論上?

$%5Calpha%2B%5Cbeta%3D(x%2By)-(a%2Bb)%5Ccdot2%5En$

實(shí)際結(jié)果分類討論

? $a%3Db%3D0$ ?? $x%2By%3C2%5En$ 結(jié)果其實(shí)是? $x%2By$ 沒有溢出? $C_%7Bn%2B1%7D%3DC_n%3D0$
$a%3Db%3D0%20$ ? ? $x%2By%20%5Cge%202%5En$ ? 因?yàn)檫M(jìn)位進(jìn)到符號位上去了實(shí)際結(jié)果是? $x%2By-2%5E%7Bn%2B1%7D$ ?溢出了? $C_%7Bn%2B1%7D%20%3D%200%20$ ? $C_n%3D1$
? $a%3D0%20$ ?? $b%3D1$ ? $x%2By%3C2%5En$ ?結(jié)果其實(shí)是? $x%2By-2%5En$ ?沒有溢出? $C_%7Bn%2B1%7D%3DC_n%3D0$
$a%3D0%20$ ?? $b%3D1$ ? $x%2By%20%5Cge%202%5En$ ? 實(shí)際結(jié)果是? $x%2By-2%5E%7Bn%7D$ ?沒有溢出? $C_%7Bn%2B1%7D%3DC_%7Bn%7D%3D1$
? $a%3D1$ ? $b%3D1$ ?? $x%2By%3C2%5En$ ?世界結(jié)果是? $x%2By$ ?溢出了? $C_%7Bn%2B1%7D%3D1%20$ ? $C_n%3D0$
$a%3D1$ ? $b%3D1$ ?? $x%2By%5Cge2%5En$ ?世界結(jié)果是? $x%2By-2%5En-2%5En$ ?沒有溢出? $C_%7Bn%2B1%7D%3DC_n%3D1$