国产日韩欧美久久久精品图片|国产综合有码无码中文字幕|国产一区二区综合视频|国产亚洲精品电影网站在线观看|国产精品一区在线

機(jī)械社區(qū)

 找回密碼
 注冊(cè)會(huì)員

QQ登錄

只需一步,快速開始

搜索
查看: 2116|回復(fù): 2
打印 上一主題 下一主題

請(qǐng)教,那位大俠能解決宏程序計(jì)算中的數(shù)值溢出問題

[復(fù)制鏈接]
跳轉(zhuǎn)到指定樓層
1#
發(fā)表于 2009-9-6 12:15:43 | 只看該作者 回帖獎(jiǎng)勵(lì) |倒序?yàn)g覽 |閱讀模式
最近編了一個(gè)宏程序,其中有一個(gè)計(jì)算數(shù)值的程序段“#110=6.0-6.3+0.3”其結(jié)果應(yīng)該得0。但在存儲(chǔ)器中顯示的是“******" 這應(yīng)該是十進(jìn)制轉(zhuǎn)換為二進(jìn)制計(jì)算后出現(xiàn)的溢出現(xiàn)象,但要是采用取整的方法,加工精度會(huì)受到影響。請(qǐng)教各位大俠,是否有更好的方法。
回復(fù)

使用道具 舉報(bào)

2#
發(fā)表于 2009-9-6 16:00:15 | 只看該作者
用INT表示向上取整,假如你要的精度是0.001,那么
( X( v2 p: [! O# y- y+ p#110=(INT(INT((6.0-6.3+0.3)*1000))-0.1))/1000
3#
 樓主| 發(fā)表于 2012-1-19 13:31:08 | 只看該作者
謝謝大俠指教{:soso_e179:}

本版積分規(guī)則

小黑屋|手機(jī)版|Archiver|機(jī)械社區(qū) ( 京ICP備10217105號(hào)-1,京ICP證050210號(hào),浙公網(wǎng)安備33038202004372號(hào) )

GMT+8, 2025-5-9 14:02 , Processed in 0.077344 second(s), 13 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

© 2001-2017 Comsenz Inc.

快速回復(fù) 返回頂部 返回列表
主站蜘蛛池模板: 凹凸在线无码免费视频| 99国产精品人妻噜啊噜| 欧美日精品一区视频| 国产成人精品一区二区三区福利 | 亚洲旡码av中文字幕| 国产婷婷成人久久av免费高清| 国产欧美高清精品一区2| 免费精品久久久久久久一区二区| 国产精品天堂avav在线| av在线网站无码不卡的| 日日噜噜夜夜狠狠va视频| 亚洲色婷婷久久精品av蜜桃 | 国产精品第一区第二区| 视频一区 二区 在线| 色欲久久久中文字幕综合网| 台湾无码av一区二区三区| 绿帽人妻一区二区| 欧美肥妇毛多水多bbxx| 欧美成人性视频在线播放| 亚无码乱人伦一区二区| 国产欧美日韩视频怡春院| 中文字幕在线免费看线人| 国产乱辈通伦影片在线播放亚洲| 国产精品久久久久9999无码| 337p日本欧洲亚洲大胆人人| 中文字幕久久久一区| 无码人妻丰满熟妇区10p| 91精品国产一区二区三区不卡| 18禁日韩一区二区三区| 中文字幕在线2021一区| 亚洲欧美一区二区三| 亚洲欧洲精品a片久久99| 欧美一区二区三区成人片在线| 乱色精品无码一区二区国产盗| 宅男宅女精品国产av天堂| 久久66热人妻偷产国产| 久久久久久久久无码精品亚洲日韩| 亚洲欧美日韩久久一区二区| 亚洲视频国产精品一区| 欧洲偷拍一区二区三区| 欧乱色国产精品兔费视频|