- 积分
- 3628
- 贡献
-
- 精华
- 在线时间
- 小时
- 注册时间
- 2014-10-21
- 最后登录
- 1970-1-1
|
登录后查看更多精彩内容~
您需要 登录 才可以下载或查看,没有帐号?立即注册
x
大家平时处理数据时,数据量一般不大,这时没必要考虑每种数据的精度,通通用高精度的数据类型来计算,
但是,当数据量很大时,都使用高精度数据类型就很占内存了,保存下来的数据文件也很大,
最近我就发现Java程序员给我的经纬度居然精确到小数点后15位,这应该是使用了float64型,
其实,经纬度使用float32,这就已经可以精确到米(十米)了。
精简数据结构,对传输速度、计算速度、内存占用都很有好处。
'''
float32 大约小数点后2、3位
float32 大约小数点后5、6位
float64 大约小数点后15位
'''
import numpy as np
lng=120.123456789
lat=30.123456789
print(np.array(lng,dtype=np.float64),np.array(lat,dtype=np.float64))
# 120.123456789 30.123456789
print(np.array(lng,dtype=np.float32),np.array(lat,dtype=np.float32))
# 120.12346 30.123457
print(np.array(lng,dtype=np.float16),np.array(lat,dtype=np.float16))
# 120.1 30.12
|
|