[发明专利]浮点计算方法及系统在审
申请号: | 201910734843.7 | 申请日: | 2019-08-09 |
公开(公告)号: | CN110515584A | 公开(公告)日: | 2019-11-29 |
发明(设计)人: | 梅国强;郝锐;王媛丽 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F7/491 | 分类号: | G06F7/491;G06F7/483 |
代理公司: | 11227 北京集佳知识产权代理有限公司 | 代理人: | 李慧引<国际申请>=<国际公布>=<进入 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种浮点计算方法及系统,通过转换倍数将待计算算式中的所有双精度浮点数转换为整数,将整数替换待计算算式中相对应的双精度浮点数进行整数计算,得到整数计算结果;将整数计算结果转换为双精度浮点数计算结果;将双精度浮点数计算结果乘以转换倍数的倒数的双精度浮点数,得到浮点计算结果。可见,本发明通过将需要进行浮点计算的双精度浮点数以转换成十进制整数,以十进制整数按照浮点计算算式进行计算,在将十进制整数转回双精度浮点数的方式,避免了以双精度浮点数的形式进行浮点计算的复杂问题,降低了系统资源的消耗,减少了浮点计算时间。 | ||
搜索关键词: | 精度浮点数 浮点 算式 十进制整数 整数计算 转换 计算方法及系统 复杂问题 结果转换 系统资源 倒数 替换 消耗 | ||
【主权项】:
1.一种浮点计算方法,其特征在于,包括:/n通过转换倍数将待计算算式中的所有双精度浮点数转换为整数,其中,所述转换倍数为10的N次方,N为大于或等于1的正整数;/n将所述整数替换所述待计算算式中相对应的双精度浮点数进行整数计算,得到整数计算结果;/n将所述整数计算结果转换为双精度浮点数计算结果;/n将所述双精度浮点数计算结果乘以所述转换倍数的倒数的双精度浮点数,得到浮点计算结果。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910734843.7/,转载请声明来源钻瓜专利网。