| 计算数学中浮点格式异常问题的深入剖析 |
| |
| 引用本文： | 汪建,方洪鹰.计算数学中浮点格式异常问题的深入剖析[J].重庆交通大学学报(自然科学版),2005,24(2):141-143. |
| |
| 作者姓名： | 汪建 方洪鹰 |
| |
| 作者单位： | 重庆邮电学院,计算机科学与技术学院,重庆,400065;重庆交通学院,应用数学研究所,重庆,400074 |
| |
| 摘 要： | 对计算数学中使用Matlab+C进行高精度科学计算时常见的浮点格式操作出错问题进行了全面详细的阐述,内容覆盖了所有涉及该问题的主流C语言系统,为今后在实际应用中解决同类问题提供了重要的参考意义.
|
| 关 键 词： | 浮点数 高精度计算 C++语言 |
| 文章编号： | 1001-716X(2005)02-0141-03 |
| 修稿时间： | 2004年4月30日 |
A analyse on abnormity of floating point formats in computational mathematics |
| |
| Abstract: | This document explains why you might be getting the error of "FLOATING POINT FORMATS" and tells you how to resolve it, when you use Matlab +C. The problems and solutions below apply to ALL versions of ANSI C, Turbo C~(++), Borland C~(++) and Visual C~(++), except where noted. |
| |
| Keywords: | floating point FPFNL borland C~(++) |
| 本文献已被 万方数据 等数据库收录！ |
|
