久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術(shù)文章
文章詳情頁

解決python執(zhí)行較大excel文件openpyxl慢問題

瀏覽:117日期:2022-07-25 14:22:29

我就廢話不多說了,大家還是直接看代碼吧!

talk is cheap

from openpyxl import Workbook from openpyxl.utils import get_column_letter from openpyxl import load_workbook import time wb = load_workbook('E:/a.xlsx', read_only=True) sh = wb['Sheet'] # rowItem = {} # for j in range(1,2000): # for i in range(1, 30): # rowItem[get_column_letter(i)] = i # sh.append(rowItem) # wb.save('E:/a.xlsx') t0 = time.time() print(sh[’V500’].value) t1 = time.time() print('openpyxl所用時間:', str(t1-t0)) import xlrd xlsPath = 'E:/a.xlsx' WorkBook = xlrd.open_workbook(xlsPath) sh = WorkBook.sheet_by_name('Sheet') t0 = time.time() print(sh.cell(499,22).value) t1 = time.time() print('xlrd所用時間:', str(t1-t0))

測試結(jié)果:

22openpyxl所用時間: 0.4421761035919189523.0xlrd所用時間: 0.0010063648223876953

結(jié)論

openpyxl的慢是讀取慢,可以選擇xlrd代替,詳細(xì)測試下面繼續(xù)

不直接使用xlwt+xlrd是因為xlwt僅支持2003及以下版本,最大行數(shù)限制在65536,不夠用,而openpyxl大概在一百多萬

主要的說完了,下面詳細(xì)說了:在寫工具的時候遇到的這個問題,開始是用的xlwt+xlrd,然后行數(shù)超標(biāo)了,沒辦法換成openpyxl使用excel2007的版本,原本測試不到三萬行的數(shù)據(jù),只要三四秒,換成openpyxl以后,花了好幾分鐘,具體沒看多少了,然后加上函數(shù)運行時間的監(jiān)視器以后,才看到是讀取的時候出的問題

推測原因:

推測的話,openpyxl的根據(jù)行號列號讀取的時候,是從第一行第一列開始遍歷,直到行號等于指定行號,列號等于指定列號,所以要讀取的行號列號越多就越慢,(也可能是從第一個有數(shù)據(jù)的行或列),而xlrd則是類似與數(shù)組一樣,我們要取第幾個元素,直接根據(jù)下標(biāo)找到內(nèi)存中對應(yīng)地址的元素即可,所以無論excel總量多少,速度基本都是不變的

留下的坑

xlwt寫入僅支持65536行,那xlrd的讀取很可能也是,也就是超過這么多的數(shù)據(jù)可能也會出錯

我這里因為是讀多表數(shù)據(jù)生成單表數(shù)據(jù),生成方式大概是Na*Nb這樣,所以實際讀取的不會太多,但生成的很多,所以基本可以用考慮這個問題

另外,據(jù)說xlrd讀取xlsx格式的偶爾會出現(xiàn)問題,具體沒測試,暫時用還沒毛病

最后,順帶上一下監(jiān)控函數(shù)運行時間的裝飾器吧:

import timefrom functools import wrapsdef fn_timer(function): @wraps(function) def function_timer(*args, **kwargs): t0 = time.time() result = function(*args, **kwargs) t1 = time.time() print ('Total time running %s: %s seconds' % (function.__name__, str(t1-t0)) ) return result return function_timer

使用方式的話,就是在要監(jiān)控的函數(shù)定義上面加上 @fn_timer 就行了

以上這篇解決python執(zhí)行較大excel文件openpyxl慢問題就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。

標(biāo)簽: python
相關(guān)文章:
主站蜘蛛池模板: 五指山市| 大方县| 嘉祥县| 陇川县| 大新县| 顺平县| 永福县| 阿克苏市| 越西县| 都江堰市| 盐池县| 互助| 克拉玛依市| 抚松县| 抚州市| 克什克腾旗| 乌海市| 错那县| 蒲江县| 固镇县| 稷山县| 景洪市| 田林县| 永新县| 铁岭市| 贵定县| 云霄县| 永胜县| 清苑县| 德州市| 和硕县| 扬中市| 仁怀市| 嘉峪关市| 墨脱县| 甘洛县| 边坝县| 西宁市| 黄大仙区| 嫩江县| 博野县|