爱气象,爱气象家园! 

气象家园

 找回密码
 立即注册

QQ登录

只需一步,快速开始

新浪微博登陆

只需一步, 快速开始

搜索
查看: 93144|回复: 93

FNL资料下载笔记~~

  [复制链接]

新浪微博达人勋

发表于 2016-12-20 15:16:31 | 显示全部楼层 |阅读模式

登录后查看更多精彩内容~

您需要 登录 才可以下载或查看,没有帐号?立即注册 新浪微博登陆

x

这几天在下载FNL,才发现大气所的IP被封掉了,发邮件问了RDA的老师能不能解除封印,回复说大气所的IP被永久的封了,可以使用非大气所的IP下载~还好郑师兄那儿有下好的2003-2009年的数据,So Lucky!拷了9个多小时,终于拷完,然后开始上传至服务器~~ 然后发现上传速度还不到120k/s,一年的数据上传了3天还没上传完。。。7年的数据要上传20多天。。。。。

~~~~~果断寻找其他办法~~~~~

FNL数据的下载地址:http://rda.ucar.edu/datasets/ds083.2/#access
借了国国师兄的账号(163邮箱),在非大气所的IP登录,出现以下画面:
1.png

2007年12月6日6时之前为grib1数据,之后为grib2数据~~

以下载2003年fnl资料为例,选择web file listing后,
2.jpg

1. 如果要下载的数据较少的话,可以选择Faceted Browse选取要下载的数据
然后选择自己要下载的数据,
6.png
要以wget方式下载到服务器上的话,选择红框内的create,点击,出现一个网页,网页上为一个script,内容如下,
7.png 8.png
注意红框中的提示~~
在服务器上,
$vi download1
将网页中的内容复制粘贴到download1中,修改set passwd那句,将xxxxxx改为自己密码,保存~
然后,
$chmod 755 download1
$./download1
就开始自动下载了~~~~~

2.如果要下载整年的数据的话,选择complete listing~
3.jpg
选择要下载的年份,然后和1中一样,生成一个网页,网页上为一个script,
11.png
$vi download2
将script内容复制粘贴到download2中,保存~
$chmod 755 download2
在执行download2之前,为避免每次都输入密码,可先在.bashrc设置环境变量
export RDAPSWD=xxxxxx
其中,xxxxxx为你的密码~~
改好后,重新登录,环境变量设置生效~~
然后,
$./download2
就直接开始下载了~~~~~~~~~

PS,因为我是要下载2003-2009年数据,所以在非大气所IP上把7年的scrit都保存在txt文档里,然后拷贝到自己电脑上,然后又拷贝到服务器上,IP被封之后,数据网址根本进不去的~~ 所以还是要珍惜数据资源,不要滥用,不要导致IP被封~~(>_<)~~


~~~~~~~~~~~~~~~~~~~~~~~~~~~
三个多小时就下载完了7年的数据,比起上传要20多天,效率提高了好多好多倍,好开心,哈哈O(∩_∩)O~~~

其间遇到的问题还有,以为这是个c shell script,要改为bash script,即在bash shell里要改第一行和下面出现的所有set命令,后来发现不改也可以执行~~~~








评分

参与人数 1金钱 +20 贡献 +5 收起 理由
mofangbao + 20 + 5

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2017-6-3 19:17:07 | 显示全部楼层
请问楼主有没有遇到过failed: Connection timed out.的问题
总是在retry,是网不好么?。。。
密码修改失败请联系微信:mofangbao
回复 支持 2 反对 0

使用道具 举报

新浪微博达人勋

发表于 2016-12-20 15:33:39 | 显示全部楼层
楼主,赞一个
密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2016-12-20 16:24:08 | 显示全部楼层
赞楼主,以前只会手动下
密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2016-12-20 17:46:41 | 显示全部楼层
感谢楼主分享,以前只会在网页上下载,又学到了一个新技能。
密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2016-12-21 12:20:14 | 显示全部楼层
学习了!!辛苦
密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2016-12-21 14:02:31 | 显示全部楼层
本人刚刚发了一个帖子求助怎么wget下载哈,结果一翻就看到了你这个,太赞了
密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2016-12-21 14:09:22 | 显示全部楼层
楼主,按照这个方式做了。执行时出现:
'nknown option: `-
Usage: csh [ -bcdefilmnqstvVxX ] [ argument ... ].
请问一下是怎么回事?
密码修改失败请联系微信:mofangbao

新浪微博达人勋

 楼主| 发表于 2016-12-22 18:50:19 | 显示全部楼层
jinljie 发表于 2016-12-21 14:09
楼主,按照这个方式做了。执行时出现:
'nknown option: `-
Usage: csh [ -bcdefilmnqstvVxX ] [ argumen ...

会不会是你的不支持c shell呢?你看看你的脚本完全复制没?尤其是第一行~我没遇到过,所以也不是很清楚~
密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2016-12-22 22:29:36 来自手机 | 显示全部楼层
我的下载速度就20-30k/s,好伤心⊙﹏⊙,都懒得下了。。
密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2017-1-17 21:54:44 | 显示全部楼层
新技能,学习了,谢谢~~~
密码修改失败请联系微信:mofangbao
您需要登录后才可以回帖 登录 | 立即注册 新浪微博登陆

本版积分规则

Copyright ©2011-2014 bbs.06climate.com All Rights Reserved.  Powered by Discuz! (京ICP-10201084)

本站信息均由会员发表,不代表气象家园立场,禁止在本站发表与国家法律相抵触言论

快速回复 返回顶部 返回列表