当前位置: 首页>編程日記>正文

一图看懂对抗神经网络中判别器怎么工作的

一图看懂对抗神经网络中判别器怎么工作的

先梳理问题,后解答

1、对GAN网络总有个疑问,判别器是依据什么进行判别的?依据又由何而来?

      这个问题至关重要,因为“依据”意味着 有标签,人为提供给了神经网络标签,它才能训练好,能够识别想要认识的东西。但是在无标签的聚类中,尚未知标签,又要怎么学习训练呢?
      以鉴别假币为例,人通过学习鉴别假币的种种方法,才能对假币进行识别。按这个逻辑,要想训练GAN,首先通过大量真实标签训练判别器,教会它判别方法,然后固定住判别器,训练生成器。如此吗?

2、接上个问题,“依据”是否是固定不变的?
      浅显的理解中,生成器与判别器是迭代训练的,训练次数越多,生成器生成的数据越“逼真”,判别器判假能力越强大。很明显,生成器在不断学习新的“造价”能力,判别器也在不断提高“判假”能力,此时判假依据肯定不能是固定的了,网络也不能是初始训练完不再更新的那种了。问题又回到了:究竟怎么“判假”的?怎么学习“判假”能力的?

解答:
在这里插入图片描述
上图根据代码理解后绘制,重点在于两个红圈:sharp、counter

首先说明第一点:判别器的“依据”并非提前获得,而且也并不知道真实“依据”。这点理解起来可能会大跌眼镜:都不知道真实“依据”,凭什么判别真与假呢?

注意到输入判别器的共有两项,分别是生成器生成的membership和true label,此时true label并非该样本的真实标签,它仅仅是one hot向量,通过判别器约束membership与one hot向量逼近。意义在于该one hot的作用并非代表了真实类别,而是作为最sharp形态,约束membership也更sharp,从而类别更明显。

仅仅要求生成的membership更sharp,且是随机sharp,就能提高类别精度,这恐怕没有道理,因为one hot是随机生成,无法保证恰好是正确的类别,此时判别器与生成器是割裂的状态,二者没有任何联系,为了使判别器对生成器生成的membership也能奏效,引入了“对抗”部分:将membership从判别器输出结果取负,作为loss对生成器进行bp更新。

至此,两部分作用已添加完成:
1、生成器生成的membership与判别器输出的结果互为相反数,二者形成对抗关系,通过梯度下降寻求较优参数,使membership达到一个较为平衡的结果,我们认为此时已经具有了良好的分类精度,判别器难以继续通过对结果取负数的方式约束更新生成器了,也就是俗称判别器“判不出来真伪”了。
2、判别器引入非真实标签的true label,意在约束membership更sharp,使类别更清晰可辨。


https://www.fengoutiyan.com/post/13754.html

相关文章:

  • 鏡像模式如何設置在哪,圖片鏡像操作
  • 什么軟件可以把圖片鏡像翻轉,C#圖片處理 解決左右鏡像相反(旋轉圖片)
  • 手機照片鏡像翻轉,C#圖像鏡像
  • 視頻鏡像翻轉軟件,python圖片鏡像翻轉_python中鏡像實現方法
  • 什么軟件可以把圖片鏡像翻轉,利用PS實現圖片的鏡像處理
  • 照片鏡像翻轉app,java實現圖片鏡像翻轉
  • 什么軟件可以把圖片鏡像翻轉,python圖片鏡像翻轉_python圖像處理之鏡像實現方法
  • matlab下載,matlab如何鏡像處理圖片,matlab實現圖像鏡像
  • 圖片鏡像翻轉,MATLAB:鏡像圖片
  • 鏡像翻轉圖片的軟件,圖像處理:實現圖片鏡像(基于python)
  • canvas可畫,JavaScript - canvas - 鏡像圖片
  • 圖片鏡像翻轉,UGUI優化:使用鏡像圖片
  • Codeforces,CodeForces 1253C
  • MySQL下載安裝,Mysql ERROR: 1253 解決方法
  • 勝利大逃亡英雄逃亡方案,HDU - 1253 勝利大逃亡 BFS
  • 大一c語言期末考試試題及答案匯總,電大計算機C語言1253,1253《C語言程序設計》電大期末精彩試題及其問題詳解
  • lu求解線性方程組,P1253 [yLOI2018] 扶蘇的問題 (線段樹)
  • c語言程序設計基礎題庫,1253號C語言程序設計試題,2016年1月試卷號1253C語言程序設計A.pdf
  • 信奧賽一本通官網,【信奧賽一本通】1253:抓住那頭牛(詳細代碼)
  • c語言程序設計1253,1253c語言程序設計a(2010年1月)
  • 勝利大逃亡英雄逃亡方案,BFS——1253 勝利大逃亡
  • 直流電壓測量模塊,IM1253B交直流電能計量模塊(艾銳達光電)
  • c語言程序設計第三版課后答案,【渝粵題庫】國家開放大學2021春1253C語言程序設計答案
  • 18轉換為二進制,1253. 將數字轉換為16進制
  • light-emitting diode,LightOJ-1253 Misere Nim
  • masterroyale魔改版,1253 Dungeon Master
  • codeformer官網中文版,codeforces.1253 B
  • c語言程序設計考研真題及答案,2020C語言程序設計1253,1253計算機科學與技術專業C語言程序設計A科目2020年09月國家開 放大學(中央廣播電視大學)
  • c語言程序設計基礎題庫,1253本科2016c語言程序設計試題,1253電大《C語言程序設計A》試題和答案200901
  • 肇事逃逸車輛無法聯系到車主怎么辦,1253尋找肇事司機