我们知道任何数据都是以有限位數的二进制来表示那么IEEE标准的浮点数也不列外,其中双精度浮点数是用64位二进制表示单精度浮点数用32位二进制表示。因此不能以任意精度表示每一个实数。对于计算机中的浮点数数与数之间存在最小间隔,这个间隔随着数的增大而不断增大因此也叫相对精度(matlab里嘚eps帮助文档中称为Floating-point relative accuracy)。也就是一个数与计算机中能表示的与该数最近的一个数之间的间隔可进一步参见:.cn/s/blog_/subview/7.htm
-
在matlab里的eps中通过eps函数来求解某数嘚浮点相对精度,下面给出示例代码
-
eps函数的一个用法是在需要考虑数字计算精度对结果的影响时比如matlab里的eps中自带的求矩阵的秩的rank函数默認返回的是奇异值大于max(size(A))*eps(norm(A))的个数,比如下面代码执行的结果为
经验内容仅供参考如果您需解决具体问题(尤其法律、医学等领域),建议您详細咨询相关领域专业人士