久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術(shù)文章
文章詳情頁

python編寫softmax函數(shù)、交叉熵函數(shù)實(shí)例

瀏覽:157日期:2022-07-21 15:38:38

python編寫softmax函數(shù)、交叉熵函數(shù)實(shí)例

python代碼如下:

import numpy as np # Write a function that takes as input a list of numbers, and returns# the list of values given by the softmax function.def softmax(L): pass expL = np.exp(L) sumExpL = sum(expL) result = [] for i in expL: result.append(i*1.0/sumExpL) return result

python編寫交叉熵公式:

import numpy as np def cross_entropy(Y, P): Y = np.float_(Y) P = np.float_(P) return -np.sum(Y * np.log(P) + (1 - Y) * np.log(1 - P))

補(bǔ)充知識(shí):分類時(shí),為什么不使用均方誤差而是使用交叉熵作為損失函數(shù)

MSE(均方誤差)對于每一個(gè)輸出的結(jié)果都非常看重,而交叉熵只對正確分類的結(jié)果看重。

例如:在一個(gè)三分類模型中,模型的輸出結(jié)果為(a,b,c),而真實(shí)的輸出結(jié)果為(1,0,0),那么MSE與cross-entropy相對應(yīng)的損失函數(shù)的值如下:

MSE:

python編寫softmax函數(shù)、交叉熵函數(shù)實(shí)例

cross-entropy:

python編寫softmax函數(shù)、交叉熵函數(shù)實(shí)例

從上述的公式可以看出,交叉熵的損失函數(shù)只和分類正確的預(yù)測結(jié)果有關(guān)系,而MSE的損失函數(shù)還和錯(cuò)誤的分類有關(guān)系,該分類函數(shù)除了讓正確的分類盡量變大,還會(huì)讓錯(cuò)誤的分類變得平均,但實(shí)際在分類問題中這個(gè)調(diào)整是沒有必要的。

但是對于回歸問題來說,這樣的考慮就顯得很重要了。所以,回歸問題熵使用交叉上并不合適。

以上這篇python編寫softmax函數(shù)、交叉熵函數(shù)實(shí)例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持好吧啦網(wǎng)。

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 台安县| 罗源县| 长治县| 长乐市| 错那县| 高要市| 武宣县| 咸丰县| 泽州县| 旬邑县| 湘潭市| 衢州市| 共和县| 桐城市| 清徐县| 荣昌县| 涟源市| 普洱| 湖北省| 景洪市| 山东| 福安市| 开江县| 子长县| 武清区| 克什克腾旗| 海盐县| 三明市| 定远县| 漳州市| 咸丰县| 大田县| 星子县| 屏边| 治多县| 揭东县| 满洲里市| 大宁县| 成都市| 铜鼓县| 平安县|