请选择 进入手机版 | 继续访问电脑版
爱气象,爱气象家园! 

气象家园

 找回密码
 立即注册

QQ登录

只需一步,快速开始

新浪微博登陆

只需一步, 快速开始

搜索
查看: 191422|回复: 513

[经验总结] Fortran实现批量处理的方法总结(读取一个目录下所有文件)(支持WIN7)

  [复制链接]

新浪微博达人勋

0
早起挑战累计收入
发表于 2011-10-16 22:28:48 | 显示全部楼层 |阅读模式

登录后查看更多精彩内容~

您需要 登录 才可以下载或查看,没有帐号?立即注册 新浪微博登陆

x
Fortran中批量处理文件的方法总结
—循环读取目录下的所有符合条件的文件
作者:mofangbao@气象家园

10月18日更新:WIN7下也可以调用CMD命令执行了,方法增加在下文的SYSTEMQQ下面,同时附上修改过的程序(pdf未更新)
========================
10月17日更新:增加了再WIN7下使用fortran powerstation4.0的实现方法(调用API实现),同时更新了PDF文档,方法同CVF中调用原理,具体代码请下载附件
(pdf取消了下载限制)
=========================
一、简单的介绍

    在一年之前,我写过一个程序,主要是对Micaps资料进行批量处理,将逐日资料处理为旬、月的数据,在那个程序中,始终有一个问题困扰我,就是如何自动生成该读取的下一个文件名,这使我真正开始关注fortran中的批处理,时隔一年,决定写下这些文字,将我用到的一些fortran批处理的方法和大家共享,交流。

    对于那些只要会用程序,不求其中原理的朋友,请马上跳过这些文字,直接去下载附件吧!程序里有使用说明,但是,如果你不懂原理,估计现成的程序你使用起来也会碰壁哦!

    这里所说的批处理是指对某一个目录下的指定后缀的文件的批量读取和处理。
    我总结的批处理方法大概可以用下面这个示意图来说明:
|
|
|将文件目录写入一个文本文件,供fortran循环读取
|————手动输入文件名
|————运行程序之前命令行工具导出文件名
|————程序运行后,未开始计算之前,生成文件名
|         ————调用CMD命令生成
|         ————GETFILEINFOQQ方法生成
|         ————调用WIN32API生成
|
|在程序运行时动态生成文件名
|
|


       对于第一种方法,我将主要介绍如何将目录写入文件,然后举出一个小的示例来验证。第二种方法主要是说明其思路。

二、方法的介绍

1、  将文件目录写入一个文本文件,供fortran循环读取


1.1、     手动输入文件名
这是最基本的方法啦,如果文件个数不多,而且文件名中包含了空格等特殊字符的话,建议使用这种方法,在这里就不多说啦,至于在fortran中的处理,等几个小方法介绍完之后会有一个例子来说明。

1.2、     运行程序之前命令行工具导出文件名
    这是一个既高效又保险的方法,主要思路就是通过强大的CMD命令列出目录下的文件到一个指定的文件中,然后由fortran去循环读取该文件中的文件名信息,从而批量处理。

    a、 从运行工具打开你的CMD窗口;
    b、转到要处理的当前目录(可省略):CD /d 路径,如:

    CD /d  e:\test  

    这样可以快速到达e:\test目录
    c、 使用DIR命令列出文件目录信息到指定的文件,通常使用的
    Dir  *.*>新文件名  这个命令在这里已经不能满足要求,因为会列出一堆对于我们处理而言无用的信息,现在要使用的命令是:
    DIR  /b  filter>newfile
    注意,其中的filter为文件筛选,必须自己修改为所需的,比如你可以把它改成*.txt,这样,就会列出当前目录下的所有txt结尾的文件了。

Newfile就是你需要存放文件名的那个文件,比如可以是 dir.txt,这样就成了  dir /b*.txt>dir.txt,就会把当前目录下的所有文件都列出到dir.txt文件中,当然,由于dir.txt也在当前目录,所以也会被算进去,这在处理的时候是需要注意的,下面几种方法中同样考虑了这个问题。你可以选择手动删掉,或者把dir.txt这个文件存到其他地方去,或者,不要和你需要的文件具有相同的后缀也行,比如:dir /b *.txt>e:\dir.txt  (假设当前目录是e:\test)


    如果省略了第二步中的转到当前目录的话,就需要在dir命令后输入完整的路径了,而且新生成的文件也要选择有权限建立新文件的地方存放,比如你在c:\users目录下输入:dir /b e:\test\*.txt>e:\dir.txt,这个命令和上面先转到e:\test目录下的效果是一样的。
    现在你是不是比较好奇,/b 是干嘛的,其实就是只列出文件名,不要其他的附件信息,比如创建时间,文件大小等等这些对于我们批处理无关的信息。
    如果你想包含某个目录下的子目录,那么,就可以这样写:

Dir /b/s filter>newfile

    /s就表示包含子目录,但是,这样会有一个问题,那就是,批处理的时候必须获得正确的路径才能操作,这样得到的子目录里面的文件不会有任何标志说他是来自子目录的,因此fortran处理的时候就无法判断了,所以,如果包含了子目录,那么请用下面的命令:

Dir /a-d/b/s filter>newfile

    现在去看看新生成的文件吧,怎么样,很惊喜吧!
    懂了这个方法,下面一部分的第一个方法对你来说就是小菜一碟啦。

    如果你使用的win7(或vista)系统,而且无法正常使用CVF编译器的话,那么第一部分到这里就算结束啦,除非,你会在其他fortran编译器中调用WIN32API

1.3、程序运行后,未开始计算之前生成文件名
1.3.1、在程序中调用CMD命令
       这个方法其实就是上一个方法的进化版,只不过变成了在程序运行的时候调用命令自动生成,这样整个过程显得少一点,只需要在程序里设置好相关的参数即可。
       这个方法的关键在于SYSTEMQQ函数的使用,这是CVF编译器封装的调用CMD命令的一个函数,存在于DFLIB库中,其语法命令为:

    result = SYSTEMQQ(commandline)

    commandline:表示需要进行的CMD操作,字符串形式,函数中的实际长度由传入的参数决定,input类型(表示输入为参数);

    Results:一个逻辑型变量(logical(4)),如果成功为true,失败为false(不解的是程序中要实现的东西都是正常的,比如仅仅传入dir命令,返回的结果仍然为F,请高手赐教)
给出一个简单的例子:
USE DFLIB

LOGICAL(4)result

result = SYSTEMQQ('copy e:\dir.txt e:\test\dir.txt')
    这个命令将第一个路径中的文件复制到为第二个路径中的文件。通过这个例子再结合上面一个方法,就可以很方法便的构造出我们需要用来批处理的子函数,关键语句如下所示:

subroutine ListToFile(fPath,outPut)
character*(*),InTent(In):: fPath,outPut
  character*100CMD
  LOGICAL(4) res
  CMD="dir/a-d/b/s "//trim(fPath)//" >"//trim(outPut)
res=SYSTEMQQ(CMD)
endsubroutine
       其中传入的是文件筛选值和输出的路径,这个方法也是我在第一部分中最为推荐的一个方法了,代码简洁高效,能够输出完整的路径,可以包含子文件夹,唯一的缺点就是输出的文件个数不能直接在程序中调用(方便循环),需要在批处理的时候使用其他方法来判断文件是否读取结束。

NEW:
{
       如果你使用的是WIN7系统,那么请使用上面提示下载的msf4.0版的fortran,只要把上面的子程序替换为下面所示的即可:
subroutine ListToFile(fPath,outPut)
  character*(*),InTent(In):: fPath,outPut
  character*100 CMD
  CMD="dir /a-d/b/s "//trim(fPath)//" >"//trim(outPut)
  call SYSTEM(CMD)
endsubroutine
}
1.3.2、使用GETFILEINFOQQ方法生成文件目录       该方法是下面一个方法的进化版,是由CVFWIN32API进行了封装,这样,我们就可以通过简单的调用函数来实现一些面向对象的功能。简单的翻译了一下官方给出的GETFILEINFOQQ函数信息:Module: USE DFLIB (存在于DFLIB库中)语法简介:Syntax result = GETFILEINFOQQ (files, buffer, handle) files :输入类型的字符型变量,表示你需要查找的路径(也就是我们上面方法中的筛选值),同样可以使用*或者?这样的通配符。buffer :在函数运行中会获得一个值,可供输出使用,这个值就是所找到的文件的相关信息,属于FILE$INFO类型的变量(该类型定义于:fortran安装路径DF98\INCLUDE路径下),其结构如下:TYPE FILE$INFO  INTEGER(4)CREATION    INTEGER(4)LASTWRITE    INTEGER(4)LASTACCESS    INTEGER(4)LENGTH    INTEGER(4)PERMIT    CHARACTER(255)NAMEEND TYPE FILE$INFOhandle :接受输入和输出整型变量,表示文件控制信息(同样在DFLIB中定义),包含以下内容:FILE$FIRST - First matching file found. FILE$LAST - Previous file was the last valid file. FILE$ERROR - No matching file found. Results: 返回值是一个整型变量(integer(4)),表示的不含空格的文件名长度,如果文件未找到,则返回0    了解了以上信息,我们就可以通过编程进行循环调用这个函数,每找到一个符合条件的文件,就把他输入到指定路径的文件中去,注意,凡是input类型的变量都必须传入数值,否则会出错。如果你比较有探索精神,就试着用这个介绍和思路来编程一下吧,子程序如下所示(完整的请下载附件)Subroutine GetFileList(cFileName,outPut,iFile)    UseDFLib,only:GetFileInfoQQ,GetLastErrorQQ,FILE$INFO,FILE$LAST,FILE$ERROR,FILE$FIRST,ERR$NOMEM,ERR$NOENT,FILE$DIR    !引入库函数Implicit None!根据上面的语法介绍来定义变量Character*(*),Intent(In)::cFileName !筛选值character*(*),intent(In)::output  !输出路径Integer,Intent(InOut)::iFile   !记录已经找到几个文件TYPE (FILE$INFO) info  !找到的文件的信息INTEGER(4)::Wildhandle,length  !文件控制信息,文件大小,Wildhandle = FILE$FIRSTiFile = 0  DOWHILE (.TRUE.)  !循环找文件     length = GetFileInfoQQ(cFileName,info,Wildhandle)  !调用函数找文件!如果遇到错误或者不能再找到不同的文件,则进入选择,准备退出     IF ((Wildhandle .EQ. FILE$LAST) .OR.(Wildhandle .EQ. FILE$ERROR)) THEN        SELECT CASE (GetLastErrorQQ())                   CASE (ERR$NOMEM)  !//内存不足         iFile = - 1         Return       CASE (ERR$NOENT)  !//碰到通配符序列尾,正常退出         Return       CASE DEFAULT         iFile = 0         Return        END SELECT     END IF              iFile= iFile + 1       Call WriteFileName( Trim(info.Name) ,outPut, iFile)  !调用子函数输出文件名  ENDDOEnd Subroutine GetFileList
    注意,在调用子函数输出文件名时,要做一些处理,主要是判断文件是否存在(不存在则新建,如果是第一次找到,而且文件存在,则覆盖,否则追加),以及找到的是否为我们自己建立的这个dir.txt文件(如果是,则忽略,找到的文件数量-1    这个方法也不错,如果不需要子目录的信息,其优越性不亚于上一种方法,因为该子函数能够直接返回找到的文件数量。
1.3.3调用WIN32API生成目录下的文件信息       有了上面的几种方法,其实这个方法可以不需要介绍,但是也许有和我一样喜欢刨根问底的朋友,还是贴出来,也算是分享一下CVF平台下对于API的调用方法。fortran的最大强项是数值计算,他本身对于各种系统信息的处理功能实在不敢说好,如果要实现一些交互的功能目前来说还是比较复杂的。
    该方法直接调用系统的API函数来实现功能,理论上只要是fortran编译器支持API调用,就可以使用该方法,也就是说可以用于win7vistalinux的不在本次讨论范围,上面的几种方法思路在linux均需要变换才能使用)。目前我还没有测试在MPF4.0等其他的编译器中使用API函数的情况,感兴趣的测试后不要忘了来分享啊^v^
    该方法主要使用了一下三个系统函数:FindFirstFileFindNextFileFindClose,这三个函数存在于系统的Kernel32.dll函数中,因此调用之前需要先引用这个函数库。简单给出这三个函数的介绍:HRESULT FindFirstFile(       [in,string]   LPCWSTR                    wsSearchFile       [out]           LPWIN32_FIND_DATAW   pFindFileData       [out]           LPHANDLE           pSearchHandle       );wsSearchFile:字符串类型的变量,也就是上面说的筛选值,       pFindFileData,表示所找到的文件的信息,类似上面方法中的那个FILE$INFO类型,也是在函数调用过程中生成信息,他的类型就是WIN32_FIND_DATA(一个结构体,在fortran中使用TYPE定义)。pSearchHandle:这是一个表示文件地址的变量,类似于我们用OPEN命令打开一个文件时,前面给一个unit的意思,他可以用在后面的FindNextFileFindClose函数中。该函数的返回值为0表示文件未找到。HRESULT FindNextFile(       [in]       HANDLE               hSearchHandle       [out]    LPWIN32_FIND_DATAW    pFindFileData       );    该函数可以用上面所获得HANDLE句柄来查找下一个符合条件的文件,函数运行过程中同样给pFindFileData生成了相关信息,文件名就从其中获取。返回值同FindFirstFileHRESULT FindClose(       [in]       HANDLE       hSearchHandle       );    根据上面的文件句柄关闭文件,返回值同上。有了对这三个函数的了解,接下来的事情就是如何使用这三个函数了,给出关键的子程序并作说明:subroutine FindName(FileExt,outFile,iFile)   Usekernel32  !载入函数库integer,parameter::maxlen=80  ! 设置一个文件名长度的阈值CHARACTER*(*)    FileExt,OutFile  !筛选值和目标路径Integer(4)    hFind,res  !文件句柄和返回值integer(4),intent(inout)::iFile  !已找到的文件个数(不含dir.txt)Type(t_WIN32_FIND_DATA) FindFileData !系统定义的一个结构体信息,具体的可以自行查阅WIN32API手册character*maxlen cname ! 这个变量用来存放获得的文件名,长度为上面所设定的,不宜太长res=1iFile=0   hFind = FindFirstFile(FileExt,FindFileData)  !找第一个文件   If(hFind == INVALID_HANDLE_VALUE)then          Return ! 没有找到匹配文件,返回结果=-1       else                 !继续循环寻找下一个         do while(res)           iFile=iFile+1           !先把已有的写入文件                  cname=FindFileData.cFileName                     !这一段代码很特殊,主要是因为调用API之后,默认的文件名长度非常之长,用常用的trim()函数无法缩短,因为文件名后面并不是空格,而是一个值为0ASCII字符,因此用循环将这个字符替换为空格,以便于后面的处理,这也是上面说阈值不宜过大的愿意,否则浪费时间                do i=1,maxlen                  if(ichar(cname(i:i))==0) cname(i:i)=' '                enddo              callWriteFileName(trim(cname),outFile,iFile) !调用子函数写出文件名              res=FindNextFile(hFind,FindFileData)        继续查找下一个,用res的值来控制循环是否退出         enddo         res=FindClose(hFind)      !退出循环后关闭文件       endifendsubroutine    肿么样,API函数看下来是否有点晕晕的,能看到这里相信你对fortran的理解又加深了一些吧。该方法和上一种方法如出一辙,优缺点也近乎相同,同样没有包含子目录(你有兴趣的话可以试试能否使用FindFileData里面的信息让这个子程序包含子目录,如果有了结果,同样不要忘了来分享哦)。
    总结一下上面的几种方法,手工输入适用于文件比较少,而且路径比较复杂的时候;使用dir命令几乎可以通吃,但是无法直接给出文件数目;PI函数功能较为一般,但是可以直接获得找到的文件个数,而且通过writefile子函数的处理,可以让dir.txt直接存在于当前目录下但不包含在本身的文件列表中。选哪一种,完全看你的需要和喜好啦!
    一个小小的例子(使用SYSTEMQQ实现):在当前目录下有 1.txt…4.txt这样4个文本文件(注意路径以及文件名中不要有空格,否则fortran中就得按字符读取了),分别存放一个数字:1,2,3,4,要求循环读取这些文件中的数字,并且相加,给出最终的和,程序如下:program listfilecharacter*100 fPathcharacter*200 pathcharacter*7 outPutinteger a,bb=0fPath="*.txt"outPut="dir.txt"call ListToFile(fPath,outPut)  !先生成文件列表open(1,file='dir.txt',status='old')  !打开生成的列表文件       10continue  !由于不知道有多少行,所以下面使用END标签来控制文件是否结束       read(1,*,end=20)path       if(index(Path,"dir.txt")==0)then  !我生成的是绝对路径,所以,用该函数检查读取的这一行是否为文件列表本身,如果不是再往下操作              open(2,file=''//trim(Path)//'',status='old')              read(2,*)a              close(2)              b=b+a       endif       goto 1020 close(1)  !文件读取结束print*,b !输出和end program listfile

二、运行时动态生成文件名

   这个是针对具有特殊需求,或者是文件名有着非常好的规律性才这样做,比如我开始的时候说的调用MIcpasd的文件进行处理,由于需要每天都运行程序,而且每天不同时候都会有新的文件生成,显然,使用第一部分中说的方法是不合理的,工作量太大(当然,如果你愿意写一个批处理定时生成文件名也未尝不可),重要的是Micaps数据文件具有相当好的文件名格式(不是数据格式,嘿嘿),基本是按照 年月日时.时效 样的格式来生成的,因此,就可以设置某种规则来自动生成需要处理的文件名。
具体的例子就不举例了,也许以后有空会把我那个程序翻出来共享一下,主要的思路就是获取系统时间,根据时间生成这时候应该处理的文件的文件名(年月日时,时效都有,文件名就不愁啦),你可以在这次程序运行结束后,就把下次需要处理的文件名事先生成好(我就是这样做的),然后下次直接处理那些文件就行,如果遇到文件不存在等信息,最好也记录下来。
systemqqdir.f90 (1.4 KB, 下载次数: 296, 售价: 1 贡献)

评分

参与人数 21威望 +5 金钱 +219 贡献 +38 收起 理由
呀呀呀嘿 + 1 很给力!
蓝木秋 + 1 很给力!
杜超杰 + 5 很给力!
黄小黄 + 2 很给力!
joeqw + 2 很给力!
dear张张张 + 2 很给力!
月影青枫 + 1 很给力!
Q~H + 2 很给力!
黑马骑士 + 1 很给力!
qxtlyf + 8 + 2
Aires + 20 + 2 小A只能加这么多了= =
njzqxt + 20 + 2 神一般的作品
a-cai + 20 + 2 赞一个!
topmad + 20 + 10 清风V5 暗无天日啊
尽头的尽头 + 18 + 6 清风太强大了
阿华田 + 20 + 2 太给力了,这个
何永利 + 20 很给力!
godenflame135 + 20 + 2 权威总结,格式清晰!
善人/jw + 10 + 4
言深深 + 1 靠,你能不能不要这么给力啊

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:29:26 | 显示全部楼层
本帖最后由 传说中的谁 于 2011-10-16 22:30 编辑

沙发又没了继续编辑,原来我还是沙发。恩恩,靠着清风的沙发睡,踏实。
大大辛苦啦,这么好的东西必须得支持,再不学fortran我都不好意思在论坛混了。

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:29:27 | 显示全部楼层
抢沙发  支持清风

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:30:14 | 显示全部楼层
,笨笨太快了

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:31:09 | 显示全部楼层
密码修改失败请联系微信:mofangbao

新浪微博达人勋

 成长值: 19710
发表于 2011-10-16 22:34:26 | 显示全部楼层
我要财神卡财神卡财神卡!!!!!!!!

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1 灌水 要不然下次不给分了

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:37:20 | 显示全部楼层
好东西~~绝对收藏!!

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:37:31 | 显示全部楼层
支持,不错!!

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:39:48 | 显示全部楼层
没办法,地板该没人抢了吧!感谢分享!

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1

查看全部评分

密码修改失败请联系微信:mofangbao

新浪微博达人勋

发表于 2011-10-16 22:43:48 | 显示全部楼层
太实用了
膜拜~

评分

参与人数 1贡献 +1 收起 理由
mofangbao + 1

查看全部评分

密码修改失败请联系微信:mofangbao
您需要登录后才可以回帖 登录 | 立即注册 新浪微博登陆

本版积分规则

Copyright ©2011-2014 bbs.06climate.com All Rights Reserved.  Powered by Discuz! (京ICP-10201084)

本站信息均由会员发表,不代表气象家园立场,禁止在本站发表与国家法律相抵触言论

快速回复 返回顶部 返回列表