投稿须知
  一、作者及内容
  1、本刊面向海内外所有学者。
  2、主要刊登数学、物理、化学、生物化学、地球科学、工业科学、工业技术、土木建筑、电子电信、计算机技术、环境科学、医药卫生、农林牧渔、等学科的理论研究和应用技术研究方面的科研论文、 ...

核心运算隔离分段式处理的数学函数可靠性优化

作者: 道路

关键词: 数学函数 可靠性优化 核心运算隔离 分段式处理量法 函数误差优化

摘要:针对基础数学函数在高性能计算中可靠性较差的问题,本文提出了一种核心运算隔离分段式处理的数学函数可靠性优化方法.首先采用寄存器运算对浮点异常情况进行编码优化,然后在浮点函数运算过程中,以集中运算的方式对核心运算进行隔离,并对运算异常阶段进行分段式处理,最后结合基础数学函数算法特点,以低误差的幂运算和求和运算为主体实现一种适用于基础数学函数的低误差计算方法.仿真实验结果表明,本文提出的方法对于以计算密集型存在的众多高性能计算,能够降低其计算误差.


上一篇: 带有一般非线性项的一类p拉普拉斯型方程基态解的存在性
下一篇: 纯净碳纳米管轴向拉伸破坏的尺寸效应

科技通报编辑部版权所有
杭州地址:浙江省杭州西湖文化广场浙江省科技馆6楼 邮编:310014