- 博客(1)
- 收藏
- 关注
RSS订阅原创 浮点数精度详解
浮点数精度问题分析float精度不止7位结论分析结语float精度不止7位网络上很多博客都说float的精度为7位，这其实是不正确的说法。int iA = 1610612864;float fA = iA;std::cout << std::setprecision(10) << fA << std::endl;上述变量a，是可以被正确输出的。下表是float类型在内存中的存储形式符号位阶码段尾数段1bit8bit23bit
2020-12-06 14:42:03
1309
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人