爱气象,爱气象家园! 

气象家园

 找回密码
 立即注册

QQ登录

只需一步,快速开始

新浪微博登陆

只需一步, 快速开始

搜索
查看: 1538|回复: 15

CDS-Beta下载ERA5数据ConnectionError下载中断

[复制链接]

新浪微博达人勋

发表于 2024-8-21 19:58:18 | 显示全部楼层 |阅读模式

登录后查看更多精彩内容~

您需要 登录 才可以下载或查看,没有帐号?立即注册 新浪微博登陆

x
ERA5数据从CDS迁移到了CDS-Beta,按照官网指导更新了cdsapi库和.cdsqpi文件,可以下载几十MB的小文件,但是如果提交几百MB的数据下载请求就会出现ConnectionError: HTTPSConnectionPool(host='object-store.os-api.cci2.ecmwf.int', port=443): Read timed out.的错误,导致下载中断,我查询ERA5数据论坛,在c = cdsapi.Client(timeout=600,quiet=False.debug=True) 加入了timeout、quiet、debug选项,但问题依然没有解决,想请教一下大家有其他办法吗?下面是我的程序。

import cdsapi
import calendar

c = cdsapi.Client(timeout=600,quiet=False.debug=True)  # 创建用户

# 数据信息字典
dic = {
    'product_type': 'reanalysis',  # 产品类型
    'format': 'grib',  # 数据格式
    'variable': [
            #'geopotential',
            #'relative_humidity',
            #'specific_humidity',
           # 'temperature',
           #'u_component_of_wind',#
            'v_component_of_wind',
        ],  # 变量名称
    'pressure_level': [
            '1', '2', '3',
            '5', '7', '10',
            '20', '30', '50',
            '70', '100', '125',
            '150', '175', '200',
            '225', '250', '300',
            '350', '400', '450',
            '500', '550', '600',
            '650', '700', '750',
            '775', '800', '825',
            '850', '875', '900',
            '925', '950', '975',
            '1000',
        ],
    'year': '',  # 年,设为空
    'month': '',  # 月,设为空
    'day': [],  # 日,设为空
    'time': [  # 小时
        '00:00', '01:00', '02:00', '03:00', '04:00', '05:00',
        '06:00', '07:00', '08:00', '09:00', '10:00', '11:00',
        '12:00', '13:00', '14:00', '15:00', '16:00', '17:00',
        '18:00', '19:00', '20:00', '21:00', '22:00', '23:00'
    ],
    'grid': [1.0, 1.0], #分辨率
    'area': [
            70, 60, -20,
            180,
        ],#区域范围
}

# 通过循环批量下载1979年到2020年所有月份数据
for y in range(2004, 2023):  # 遍历年
    for m in range(6, 9):  # 遍历月
        day_num = calendar.monthrange(y, m)[1]  # 根据年月,获取当月日数
        # 将年、月、日更新至字典中
        dic['year'] = str(y)
        dic['month'] = str(m).zfill(2)
        dic['day'] = [str(d).zfill(2) for d in range(1, day_num + 1)]
        filename = 'I:/Ensemble prediction WRF/pressure level/VW/' + str(y) + str(m).zfill(2)+'vw.grib'  # 文件存储路径
        c.retrieve('reanalysis-era5-pressure-levels', dic, filename)  # 下载数据


密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2024-8-21 21:37:52 | 显示全部楼层
我的1.8GB的文件仍然还是可以下载的,可以参考我之前发的关于CDS-Beta的帖子,如果还是有问题可以回复
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

 楼主| 发表于 2024-8-23 10:11:09 | 显示全部楼层
李知恩 发表于 2024-8-21 21:37
我的1.8GB的文件仍然还是可以下载的,可以参考我之前发的关于CDS-Beta的帖子,如果还是有问题可以回复

非常感谢您的回复,我是按照您帖子当中的步骤进行的,它又报了SSLError: HTTPSConnectionPool(host='cds-beta.climate.copernicus.eu', port=443): Max retries exceeded with url: /api/retrieve/v1/processes/reanalysis-era5-pressure-levels/execute (Caused by SSLError(SSLEOFError(8, 'EOF occurred in violation of protocol (_ssl.c:1129)')))的错误,我不是到这个错误是什么原因导致的,在网上搜索有说是服务器连接的问题,请问您有其他的建议吗?
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

发表于 2024-8-26 14:05:13 | 显示全部楼层
muyuqingye 发表于 2024-8-23 10:11
非常感谢您的回复,我是按照您帖子当中的步骤进行的,它又报了SSLError: HTTPSConnectionPool(host='cds- ...

我没有遇到过此类问题,但是我的建议是,你可以将下载代码发给可以使用CDS-Beta的朋友,甚至是原来的CDS的账号,或者换服务器下载,如果没有这类问题,那可能就是数据代码下载的问题,各种方法可以都试一下。
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

 楼主| 发表于 2024-8-29 10:57:42 | 显示全部楼层
李知恩 发表于 2024-8-26 14:05
我没有遇到过此类问题,但是我的建议是,你可以将下载代码发给可以使用CDS-Beta的朋友,甚至是原来的CDS ...

我换成旧帐号勉强下完了,估计是在数据迁移,最近下载情况很不稳定,感谢您的帮助!
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

发表于 2024-8-29 13:32:28 | 显示全部楼层
muyuqingye 发表于 2024-8-29 10:57
我换成旧帐号勉强下完了,估计是在数据迁移,最近下载情况很不稳定,感谢您的帮助!

不客气的,你如果不介意的话可以通过我的公主号发送您的私人卫星,我可以帮您看看那段代码,我这边是否能跑通
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

 楼主| 发表于 2024-8-29 16:48:01 | 显示全部楼层
李知恩 发表于 2024-8-29 13:32
不客气的,你如果不介意的话可以通过我的公主号发送您的私人卫星,我可以帮您看看那段代码,我这边是否能 ...

谢谢您的好意!我在笔记本上更新的账号之后可以下载数据,暂时不用了。
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

 楼主| 发表于 2024-9-1 16:55:53 | 显示全部楼层
这个问题是由于梯子没关导致的,把梯子关了就能正常下载了,又是被自己蠢哭的一天!
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

发表于 2024-9-2 18:26:09 | 显示全部楼层
我是用的beta下载era5 land的数据,就一直在排队,有什么好的解决办法吗?
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

 楼主| 发表于 2024-9-4 16:36:38 | 显示全部楼层
wudi129 发表于 2024-9-2 18:26
我是用的beta下载era5 land的数据,就一直在排队,有什么好的解决办法吗?

可能是当前帐号下载任务较多导致的,你可以用邮箱再注册一个ECMWF的账号试试
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册 新浪微博登陆

本版积分规则

Copyright ©2011-2014 bbs.06climate.com All Rights Reserved.  Powered by Discuz! (京ICP-10201084)

本站信息均由会员发表,不代表气象家园立场,禁止在本站发表与国家法律相抵触言论

快速回复 返回顶部 返回列表