爱气象,爱气象家园! 

气象家园

 找回密码
 立即注册

QQ登录

只需一步,快速开始

新浪微博登陆

只需一步, 快速开始

搜索
查看: 4745|回复: 0

[经验总结] 经纬度数据使用float32类型即可

[复制链接]

新浪微博达人勋

发表于 2022-7-8 10:00:37 | 显示全部楼层 |阅读模式

登录后查看更多精彩内容~

您需要 登录 才可以下载或查看,没有帐号?立即注册 新浪微博登陆

x
大家平时处理数据时,数据量一般不大,这时没必要考虑每种数据的精度,通通用高精度的数据类型来计算,
但是,当数据量很大时,都使用高精度数据类型就很占内存了,保存下来的数据文件也很大,
最近我就发现Java程序员给我的经纬度居然精确到小数点后15位,这应该是使用了float64型,
其实,经纬度使用float32,这就已经可以精确到米(十米)了。
精简数据结构,对传输速度、计算速度、内存占用都很有好处。
'''
float32 大约小数点后2、3位
float32 大约小数点后5、6位
float64 大约小数点后15位
'''
import numpy as np

lng=120.123456789
lat=30.123456789

print(np.array(lng,dtype=np.float64),np.array(lat,dtype=np.float64))
# 120.123456789 30.123456789

print(np.array(lng,dtype=np.float32),np.array(lat,dtype=np.float32))
# 120.12346 30.123457

print(np.array(lng,dtype=np.float16),np.array(lat,dtype=np.float16))
# 120.1 30.12





密码修改失败请联系微信:mofangbao
您需要登录后才可以回帖 登录 | 立即注册 新浪微博登陆

本版积分规则

Copyright ©2011-2014 bbs.06climate.com All Rights Reserved.  Powered by Discuz! (京ICP-10201084)

本站信息均由会员发表,不代表气象家园立场,禁止在本站发表与国家法律相抵触言论

快速回复 返回顶部 返回列表