国产日韩欧美久久久精品图片|国产综合有码无码中文字幕|国产一区二区综合视频|国产亚洲精品电影网站在线观看|国产精品一区在线

機械社區

 找回密碼
 注冊會員

QQ登錄

只需一步,快速開始

搜索
查看: 2114|回復: 2
打印 上一主題 下一主題

請教,那位大俠能解決宏程序計算中的數值溢出問題

[復制鏈接]
跳轉到指定樓層
1#
發表于 2009-9-6 12:15:43 | 只看該作者 回帖獎勵 |倒序瀏覽 |閱讀模式
最近編了一個宏程序,其中有一個計算數值的程序段“#110=6.0-6.3+0.3”其結果應該得0。但在存儲器中顯示的是“******" 這應該是十進制轉換為二進制計算后出現的溢出現象,但要是采用取整的方法,加工精度會受到影響。請教各位大俠,是否有更好的方法。
回復

使用道具 舉報

2#
發表于 2009-9-6 16:00:15 | 只看該作者
用INT表示向上取整,假如你要的精度是0.001,那么) ~3 i' q& q. ^
#110=(INT(INT((6.0-6.3+0.3)*1000))-0.1))/1000
回復 支持 反對

使用道具 舉報

3#
 樓主| 發表于 2012-1-19 13:31:08 | 只看該作者
謝謝大俠指教{:soso_e179:}
回復 支持 反對

使用道具 舉報

您需要登錄后才可以回帖 登錄 | 注冊會員

本版積分規則

小黑屋|手機版|Archiver|機械社區 ( 京ICP備10217105號-1,京ICP證050210號,浙公網安備33038202004372號 )

GMT+8, 2025-5-9 02:01 , Processed in 0.050947 second(s), 13 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

© 2001-2017 Comsenz Inc.

快速回復 返回頂部 返回列表
主站蜘蛛池模板: 中文字幕区一区二区三区| 妓女妓女一区二区三区在线观看| 久久精品a一国产成人免费网站| 日本免费视频| 成人精品视频一区二区三区| 亚洲精品一区二区久久| 偷拍日本欧美一区| 亚洲 欧美 中文 在线 视频| 疯狂三人交性欧美| 又紧又大又爽精品一区二区| 亚洲综合天堂一区二区三区| 国产一区二区三区在线观看免费| 国产中文在线一区| 正在播放老肥熟妇露脸| 老色鬼永久精品网站| 天干天干夜天干天天爽| 强奷漂亮少妇高潮在线观看| 国产精品一区二区在线观看不卡| 亚洲自拍小说一区| 在线观看一级日韩一区视频| 欧美亅性猛交内射| 免费网禁国产you女网站下载| 亚洲av第一区二区| 国产精欧美一区二区三区| 国产一区二区三区不卡在线观看| 92国产精品一区二区| 日日摸夜夜摸狠狠摸婷婷| 国产在线视频一区二区三区欧美图片 | 精品一区二区三区在线播放| 91久久精品一区二区| 亚洲乱码日产精品bd在线观看| 大屁股视频一区二区一| 国产黄在线观看免费观看不卡| 欧美一区二区三区搞j| 日本一区二区三区不卡视频在线 | 亚洲精品夜夜夜妓女网| 欧洲极品少妇| 精品国产成人一区| 欧美熟妇xxxxx欧美老妇不卡| 伊人久久大香线蕉综合影院首页| 国产精品自在线拍国产手机版 |