横向比拟阐明Python理会XML的4种方法
当前位置:以往代写 > Python教程 >横向比拟阐明Python理会XML的4种方法
2019-06-14

横向比拟阐明Python理会XML的4种方法

横向比拟阐明Python理会XML的4种方法

在最初进修PYTHON的时候,只知道有DOM和SAX两种理会要领,可是其效率都不足抱负,由于需要处理惩罚的文件数量太大,这两种方法耗时太高无法接管。

在网络搜索后发明,今朝应用较量遍及,且效率相对较高的ElementTree也是一个较量多人推荐的算法,于是拿这个算法来实测比拟,ElementTree也包罗两种实现,一个是普通ElementTree(ET),一个是ElementTree.iterparse(ET_iter)。

本文将对DOM、SAX、ET、ET_iter四种方法举办横向比拟,通过处理惩罚沟通文件较量各个算法的用时来评估其效率。

措施中将四种理会要领均写为函数,在主措施中别离挪用,来评估其理会效率。

解压后的XML文件内容示例为:

横向相比阐发Python剖析XML的4种要领

主措施函数挪用部门代码为:

  print("文件计数:%d/%d." % (gz_cnt,paser_num))
  str_s,cnt = dom_parser(gz)
  #str_s,cnt = sax_parser(gz)
  #str_s,cnt = ET_parser(gz)
  #str_s,cnt = ET_parser_iter(gz)
  output.write(str_s)
  vs_cnt += cnt

在最初的函数挪用中函数返回两个值,但吸收函数挪用值时用两个变量别离挪用,导致每个函数都要执行两次,之后修改为一次挪用两个变量吸收返回值,淘汰了无效挪用。

1、DOM理会

函数界说代码:

def dom_parser(gz):
  import gzip,cStringIO
  import xml.dom.minidom
  
  vs_cnt = 0
  str_s = ''
  file_io = cStringIO.StringIO()
  xm = gzip.open(gz,'rb')
  print("已读入:%s.\n理会中:" % (os.path.abspath(gz)))
  doc = xml.dom.minidom.parseString(xm.read())
  bulkPmMrDataFile = doc.documentElement
  #读入子元素
  enbs = bulkPmMrDataFile.getElementsByTagName("eNB")
  measurements = enbs[0].getElementsByTagName("measurement")
  objects = measurements[0].getElementsByTagName("object")
  #写入csv文件
  for object in objects:
    vs = object.getElementsByTagName("v")
    vs_cnt += len(vs)
    for v in vs:
      file_io.write(enbs[0].getAttribute("id")+' '+object.getAttribute("id")+' '+\
      object.getAttribute("MmeUeS1apId")+' '+object.getAttribute("MmeGroupId")+' '+object.getAttribute("MmeCode")+' '+\
      object.getAttribute("TimeStamp")+' '+v.childNodes[0].data+'\n') #获取文本值
  str_s = (((file_io.getvalue().replace(' \n','\r\n')).replace(' ',',')).replace('T',' ')).replace('NIL','')
  xm.close()
  file_io.close()
  return (str_s,vs_cnt)

措施运行功效:

**************************************************

措施处理惩罚启动。

输入目次为:/tmcdata/mro2csv/input31/。

输出目次为:/tmcdata/mro2csv/output31/。

输入目次下.gz文件个数为:12,本次处理惩罚个中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

理会中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

理会中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

理会中:

………………………………………

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

理会中:

VS行计数:177849,运行时间:107.077867,每秒处理惩罚行数:1660。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************

措施处理惩罚竣事。

由于DOM理会需要将整个文件读入内存,并成立树布局,其内存耗损和时间耗损都较量高,但其利益在于逻辑简朴,不需要界说回调函数,便于实现。

2、SAX理会

函数界说代码:

def sax_parser(gz):
  import os,gzip,cStringIO
  from xml.parsers.expat import ParserCreate
  #变量声明
  d_eNB = {}
  d_obj = {}
  s = ''
  global flag 
  flag = False
  file_io = cStringIO.StringIO()
  
  #Sax理会类
  class DefaultSaxHandler(object):
    #处理惩罚开始标签
    def start_element(self, name, attrs):
      global d_eNB
      global d_obj
      global vs_cnt
      if name == 'eNB':
        d_eNB = attrs
      elif name == 'object':
        d_obj = attrs
      elif name == 'v':
        file_io.write(d_eNB['id']+' '+ d_obj['id']+' '+d_obj['MmeUeS1apId']+' '+d_obj['MmeGroupId']+' '+d_obj['MmeCode']+' '+d_obj['TimeStamp']+' ')
        vs_cnt += 1
      else:
        pass
    #处理惩罚中间文本
    def char_data(self, text):
      global d_eNB
      global d_obj
      global flag
      if text[0:1].isnumeric():
        file_io.write(text)
      elif text[0:17] == 'MR.LteScPlrULQci1':
        flag = True
        #print(text,flag)
      else:
        pass
    #处理惩罚竣事标签
    def end_element(self, name):
      global d_eNB
      global d_obj
      if name == 'v':
        file_io.write('\n')
      else:
        pass
  
  #Sax理会挪用
  handler = DefaultSaxHandler()
  parser = ParserCreate()
  parser.StartElementHandler = handler.start_element
  parser.EndElementHandler = handler.end_element
  parser.CharacterDataHandler = handler.char_data
  vs_cnt = 0
  str_s = ''
  xm = gzip.open(gz,'rb')
  print("已读入:%s.\n理会中:" % (os.path.abspath(gz)))
  for line in xm.readlines():
    parser.Parse(line) #理会xml文件内容
    if flag:
      break
  str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')  #写入理会后内容
  xm.close()
  file_io.close()
  return (str_s,vs_cnt)

措施运行功效:

**************************************************

措施处理惩罚启动。

输入目次为:/tmcdata/mro2csv/input31/。

输出目次为:/tmcdata/mro2csv/output31/。

输入目次下.gz文件个数为:12,本次处理惩罚个中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

理会中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

理会中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

理会中:

…………………………………..

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

理会中:

VS行计数:177849,运行时间:14.386779,每秒处理惩罚行数:12361。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************

措施处理惩罚竣事。

#p#分页标题#e#

SAX理会对比DOM理会,运行时间大幅缩短,由于SAX回收逐行理会,对付处理惩罚较大文件其占用内存也少,因此SAX理会是今朝应用较多的一种理会要领。其缺点在于需要本身实现回调函数,逻辑较为巨大。

3、ET理会

#p#分页标题#e#

函数界说代码:

def ET_parser(gz):
  import os,gzip,cStringIO
  import xml.etree.cElementTree as ET
  vs_cnt = 0
  str_s = ''
  file_io = cStringIO.StringIO()
  xm = gzip.open(gz,'rb')
  print("已读入:%s.\n理会中:" % (os.path.abspath(gz)))
  tree = ET.ElementTree(file=xm)
  root = tree.getroot()
  for elem in root[1][0].findall('object'):
      for v in elem.findall('v'):
          file_io.write(root[1].attrib['id']+' '+elem.attrib['TimeStamp']+' '+elem.attrib['MmeCode']+' '+\
          elem.attrib['id']+' '+ elem.attrib['MmeUeS1apId']+' '+ elem.attrib['MmeGroupId']+' '+ v.text+'\n')
      vs_cnt += 1
  str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')  #写入理会后内容
  xm.close()
  file_io.close()
  return (str_s,vs_cnt)

措施运行功效:

**************************************************

措施处理惩罚启动。

输入目次为:/tmcdata/mro2csv/input31/。

输出目次为:/tmcdata/mro2csv/output31/。

输入目次下.gz文件个数为:12,本次处理惩罚个中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

理会中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

理会中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

理会中:

…………………………………….

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

理会中:

VS行计数:177849,运行时间:4.308103,每秒处理惩罚行数:41282。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************

措施处理惩罚竣事。

相较于SAX理会,ET理会时间更短,而且函数实现也较量简朴,所以ET具有雷同DOM的简朴逻辑实现且对抗SAX的理会效率,因此ET是今朝XML理会的首选。

4、ET_iter理会

函数界说代码:

def ET_parser_iter(gz):
  import os,gzip,cStringIO
  import xml.etree.cElementTree as ET
  vs_cnt = 0
  str_s = ''
  file_io = cStringIO.StringIO()
  xm = gzip.open(gz,'rb')
  print("已读入:%s.\n理会中:" % (os.path.abspath(gz)))
  d_eNB = {}
  d_obj = {}
  i = 0
  for event,elem in ET.iterparse(xm,events=('start','end')):
    if i >= 2:
      break    
    elif event == 'start':
          if elem.tag == 'eNB':
              d_eNB = elem.attrib
          elif elem.tag == 'object':
        d_obj = elem.attrib
      elif event == 'end' and elem.tag == 'smr':
      i += 1
    elif event == 'end' and elem.tag == 'v':
      file_io.write(d_eNB['id']+' '+d_obj['TimeStamp']+' '+d_obj['MmeCode']+' '+d_obj['id']+' '+\
      d_obj['MmeUeS1apId']+' '+ d_obj['MmeGroupId']+' '+str(elem.text)+'\n')
          vs_cnt += 1
      elem.clear()
  str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')  #写入理会后内容
  xm.close()
  file_io.close()
  return (str_s,vs_cnt)

措施运行功效:

**************************************************

措施处理惩罚启动。

输入目次为:/tmcdata/mro2csv/input31/。

输出目次为:/tmcdata/mro2csv/output31/。

输入目次下.gz文件个数为:12,本次处理惩罚个中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

理会中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

理会中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

理会中:

……………………………………………

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

理会中:

VS行计数:177849,运行时间:3.043805,每秒处理惩罚行数:58429。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************

措施处理惩罚竣事。

#p#分页标题#e#

在引入了ET_iter理会后,理会效率比ET晋升了近50%,而相较于DOM理会更是晋升了35倍,在理会效率晋升的同时,由于其回收了iterparse这个循序理会的东西,其内存占用也是较量小的。

    关键字:

在线提交作业