|
因測(cè)試需要,我做了Excel的VBA中做了一個(gè)小的轉(zhuǎn)換工具,把一個(gè)用C語(yǔ)言格式表示的十六進(jìn)制數(shù) 0xXXX,轉(zhuǎn)換為用VBA語(yǔ)言表示的&HXXXX的表示方法,并且做幾個(gè)移位的動(dòng)作。只是沒(méi)想到,這么一個(gè)簡(jiǎn)單的事情,在VBA中遇到了不少的麻煩。就在這里簡(jiǎn)單的說(shuō)明一下:
1. 字符串求值函數(shù) val() 的結(jié)果范圍只是16位整數(shù),雖然幫助文件中寫(xiě)的是8字節(jié)的6進(jìn)制范圍。例如:
Debug.print VAL(“&H8C48”)結(jié)果是 : -29624
2. Hex 轉(zhuǎn)換函數(shù),正負(fù)數(shù)的處理結(jié)果不理想。這樣把一個(gè)無(wú)符號(hào)整數(shù),變成了32位負(fù)數(shù)。
debug.print Hex(VAL("&H8C48")) 結(jié)果是:FFFF8C48
那么,如何獲取正確的長(zhǎng)整數(shù)結(jié)果呢?只能通過(guò)定義長(zhǎng)整型變量,對(duì)這個(gè)16位數(shù)先轉(zhuǎn)換為負(fù)數(shù),在求補(bǔ)碼的方式進(jìn)行調(diào)整了。算法如下:
dim n as long ‘如果定義為 Integer ,就會(huì)遭遇溢出錯(cuò)誤
n=val("&H8C48") ’此時(shí)結(jié)果為 n=-29624,是因?yàn)?val 函數(shù)的范圍是16位
n=n+&H10000 '求負(fù)數(shù)的16位補(bǔ)碼, n=35912
‘此時(shí)在用Hex函數(shù),可以獲取正確的十六進(jìn)制結(jié)果
debug.print hex(n) -->結(jié)果為8C48
3. 以&HXXXX形式表示的十六進(jìn)制立即數(shù)的使用,如果第一位是8XXX,則同樣會(huì)認(rèn)定為負(fù)數(shù)。示例如下:
dim m as long
m=1
if m>= &H8000 then m=m-&H8000
debug.print m
此時(shí),m的值應(yīng)該是多少呢?
你或許想得到的值是 m=1,實(shí)際上,你的m值是 32769(&H8001)
如何修改呢? 把 &H8000 拆分為 &H7FFF +1,語(yǔ)句變化為:
if m>&H7FFF then m=m-&H7FFF-1
這時(shí)你就可以得到你想要的結(jié)果了。
如果能夠直接使用無(wú)符號(hào)整數(shù),或者能夠說(shuō)明十六進(jìn)制的立即數(shù)的類型屬于長(zhǎng)整數(shù)型,都不會(huì)存在這樣的麻煩了。 |
|