中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

tensorflow如何從ckpt和從.pb文件讀取變量的值

發布時間:2020-07-22 10:07:43 來源:億速云 閱讀:213 作者:小豬 欄目:開發技術

這篇文章主要講解了tensorflow如何從ckpt和從.pb文件讀取變量的值,內容清晰明了,對此有興趣的小伙伴可以學習一下,相信大家閱讀完之后會有幫助。

最近在學習tensorflow自帶的量化工具的相關知識,其中遇到的一個問題是從tensorflow保存好的ckpt文件或者是保存后的.pb文件(這里的pb是把權重和模型保存在一起的pb文件)讀取權重,查看量化后的權重是否變成整形。

因此將自己解決這個問題記錄下來,為了下一次遇到時,可以有所參考,也希望給有需要的同學一個可能的參考。

(1) 從保存的ckpt讀取變量的值(以讀取保存的第一個權重為例)

from tensorflow.python import pywrap_tensorflow 
import tensorflow as tf
with tf.Graph().as_default(): 
 with tf.Session() as sess: 
 ckpt = tf.train.get_checkpoint_state('./model_ckpt') #保存ckpt文件的文件夾
 if ckpt and ckpt.model_checkpoint_path: 
 reader = pywrap_tensorflow.NewCheckpointReader('./model_ckpt/model.ckpt-999') #自己保存的ckpt文件名
 all_variables = reader.get_variable_to_shape_map() 
 w1 = reader.get_tensor("Variable_1") 
 print(w1.shape) 
 print(w1) 
 else: print('No checkpoint file found')

(2) 從保存的.pb文件讀取變量的值(以讀取保存的第一個權重為例)

import tensorflow as tf
from tensorflow.python.framework import graph_util
from tensorflow.python.platform import gfile
import numpy as np
sess = tf.Session()
with gfile.FastGFile('Yourpb.pb', 'rb') as f: #自己保存的pb文件
 graph_def = tf.GraphDef()
 graph_def.ParseFromString(f.read())
 sess.graph.as_default()
 tf.import_graph_def(graph_def, name='') 
 print(sess.run('Variable_1:0'))

補充知識:如何從已存在的檢查點文件(cpkt文件)種解析出里面變量——無需重新創建原始計算圖

import tensorflow as tf
import os

CheckpointReader

tf.train.NewCheckpointReader是一個創建檢查點讀取器(CheckpointReader)對象的完美手段。 CheckpointReader中有幾個非常有用的方法:

get_variable_to_shape_map() - 提供具有變量名稱和形狀的字典

debug_string() - 提供由檢查點文件中所有變量組成的字符串

has_tensor(var_name) - 允許檢查變量是否存在于檢查點中

get_tensor(var_name) - 返回變量名稱的張量

為了便于說明,我將定義一個函數來檢查路徑的有效性,并為您加載檢查點讀取器。

In [3]:

def load_reader(path):
 assert os.path.exists(path), "Provided incorrect path to the file. {} doesn't exist".format(path)
 return tf.train.NewCheckpointReader(path)

In [34]:

your_path = 'logs/squeezeDet1024x1024/train/model.ckpt-0'
reader = load_reader(your_path)

reader.debug_string()

用于返回包含以下內容的一個字符串:

variable name(變量名)

data type(數據類型)

tensor shape(張量類型)

它返回字符串的各元素間均用空格符' '分隔,你可以使用debug_string來創建一個變量名列表,如下所示:

In [53]:

all_var_descriptions = reader.debug_string().split()
var_names, var_shapes = all_var[::3], all_var[2::3]
print(var_names[:4])
print(var_shapes[:4])

輸出:

['iou', 'fire9/squeeze1x1/kernels', 'fire9/squeeze1x1/biases', 'fire9/expand3x3/kernels/Momentum']
['[10,36864]', '[1,1,512,64]', '[64]', '[3,3,64,256]']

但是,對于完成同樣的任務,更好的方法是使用reader.get_variable_to_shape_map()

reader.get_variable_to_shape_map()

用于返回包含所有變量及其形狀名稱的字典,變量作為字典的Key,形狀作為Value。

In [66]:

saved_shapes = reader.get_variable_to_shape_map()
print('fire9/squeeze1x1/kernels:', saved_shapes['fire9/squeeze1x1/kernels'])
fire9/squeeze1x1/kernels: [1, 1, 512, 64]
reader.has_tensor(var_name)

返回bool值

這是一種方便的方法,允許您檢查ckeckpoint中是否存在相關的變量。

In [51]:

names_that_exit = {var_name: reader.has_tensor(var_name) for var_name in var_names[:10]}
for key in names_that_exit:
 print(key.decode()+':', names_that_exit[key])
fire8/squeeze1x1/kernels/Momentum: True
fire9/expand3x3/kernels: True
iou: True
fire9/expand3x3/biases: True
fire9/expand1x1/kernels: True
fire9/expand3x3/kernels/Momentum: True
fire9/expand1x1/biases/Momentum: True
fire9/squeeze1x1/biases: True
fire9/expand1x1/kernels/Momentum: True
fire9/squeeze1x1/kernels: True
reader.get_tensor(tensor_name)

返回包含檢查點的張量值的NumPy數組

正常使用方法是先恢復一個張量,然后用恢復的張量初始化你自己的變量:

In [60]:

def recover_var(reader, var_name):
 recovered_var = 'var to be recovered'
 try:
  recovered_var = reader.get_tensor(var_name)
 except:
  assert reader.has_tensor(var_name),\
  "{} variable doesn't exist in the check point. Please check the variable name".format(var_name)
 return recovered_var

In [67]:

checkpoint_var = recover_var(reader, 'conv1/kernels')
print ("Recovered variable has the following shape: \n", checkpoint_var.shape)
new_var = tf.Variable(initial_value=checkpoint_var, name="new_conv1")
print ("New variable will be initialized with recovered values and the following shape: \n", new_var.get_shape())
Recovered variable has the following shape: 
(3, 3, 3, 64)
New variable will be initialized with recovered values and the following shape: 
(3, 3, 3, 64)

看完上述內容,是不是對tensorflow如何從ckpt和從.pb文件讀取變量的值有進一步的了解,如果還想學習更多內容,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

巢湖市| 搜索| 威宁| 凤翔县| 嵊州市| 富民县| 巢湖市| 和田市| 浏阳市| 武隆县| 八宿县| 若羌县| 墨玉县| 高雄市| 合水县| 马公市| 个旧市| 宣汉县| 大邑县| 寿宁县| 庆安县| 乌鲁木齐县| 黄浦区| 大名县| 绥江县| 东莞市| 会同县| 柞水县| 永新县| 和政县| 宜丰县| 乐都县| 洛阳市| 盐亭县| 徐水县| 邹城市| 肇源县| 小金县| 临夏市| 台北县| 织金县|