使用python操作lmdb對數(shù)據(jù)讀取的實(shí)例
由于c++速度快,所以一般寫入數(shù)據(jù)我調(diào)用c++借口,而讀取數(shù)據(jù)使用c++也行,但有時候Python在某方面方便,所以通過使用python借口僅僅對lmdb文件讀取,處理數(shù)據(jù)是圖片
import lmdbimport numpy as npimport cv2lmdb_file = '/home/rui/demo'lmdb_env = lmdb.open(lmdb_file)lmdb_txn = lmdb_env.begin()lmdb_cursor = lmdb_txn.cursor()for key, value in lmdb_cursor: img = cv2.imdecode(np.fromstring(value, np.uint8), 3); cv2.imshow('demo', img) cv2.waitKey(0)
補(bǔ)充知識:Python解析lmdb格式mnist數(shù)據(jù)集
背景
HDF5和LMDB都是Cafffe中常用的數(shù)據(jù)庫。相對來說,HDF5的讀寫格式簡單;LMDB采用內(nèi)存-映射文件(memory-mapped files),所以擁有非常好的I/O性能,而且對于大型數(shù)據(jù)庫來說,HDF5的文件常常整個寫入內(nèi)存。
所以HDF5的文件大小就受限于內(nèi)存大小,當(dāng)然也可以通過文件分割來解決問題,但其I/O性能就不如LMDB的頁緩存(page cachiing)策略了。
MNIST手寫數(shù)字字符識別實(shí)驗在deep learning 中經(jīng)常用到,這里使用Python來獲取lmdb格式MNIST數(shù)據(jù)集中的圖片并顯示出來
Python讀取LMDB
首先確認(rèn)你安裝了lmdb和Caffe的python包(Caffe中的pycaffe)。
pip install lmdb
LMDB采用鍵值對的存儲格式,key就是字符形式的ID,value是Caffe中Datum類的序列化形式。
# -*- coding:utf-8 -*-import caffefrom caffe.proto import caffe_pb2import lmdbimport cv2 as cvenv = lmdb.open('mnist_train_lmdb', readonly=True) # 打開數(shù)據(jù)文件txn = env.begin() # 生成處理句柄cur = txn.cursor() # 生成迭代器指針datum = caffe_pb2.Datum() # caffe 定義的數(shù)據(jù)類型for key, value in cur: print(type(key), key) datum.ParseFromString(value) # 反序列化成datum對象 label = datum.label data = caffe.io.datum_to_array(datum) print data.shape print datum.channels image = data[0] # image = data.transpose(1, 2, 0) print(type(label)) cv.imshow(str(label), image) cv.waitKey(0)cv.destroyAllWindows()env.close()
運(yùn)行結(jié)果:
讀取LMDB數(shù)據(jù)庫中的Datum數(shù)據(jù),這里再稍微介紹一下Datum的格式:channels:圖片的通道,彩色圖有3個通道,灰度圖只有1通道,當(dāng)然也可以用通道數(shù)來表示其他意思,比如表示兩張圖片,每個通道一個單張的圖;height:圖片(即data)的高;width:圖片(即data)的寬;data:圖片的數(shù)據(jù)(像素值);label:圖片的label。(datum.channels, datum.height, datum.width)
以上這篇使用python操作lmdb對數(shù)據(jù)讀取的實(shí)例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。
相關(guān)文章:
1. el-input無法輸入的問題和表單驗證失敗問題解決2. XML入門的常見問題(三)3. XML 增、刪、改和查示例4. React實(shí)現(xiàn)一個倒計時hook組件實(shí)戰(zhàn)示例5. JavaScript中顏色模型的基礎(chǔ)知識與應(yīng)用詳解6. JavaScript快速實(shí)現(xiàn)一個顏色選擇器7. 報錯:XML頁無法顯示,下列標(biāo)記沒有被關(guān)閉解決方法8. CSS3實(shí)例分享之多重背景的實(shí)現(xiàn)(Multiple backgrounds)9. 前端html+css實(shí)現(xiàn)動態(tài)生日快樂代碼10. 不要在HTML中濫用div
