สวัสดีและยินดีต้อนรับกลับสู่หลักสูตรเกี่ยวกับการเรียนรู้เชิงลึกนี่เป็นบทเรียนเพิ่มเติมเพื่อพูดคุยเกี่ยวกับฟังก์ชั่นเอนโทรปีที่อ่อนนุ่มและข้าม
ไม่จำเป็นต้องมี 100%
เพื่อให้คุณผ่านทุกส่วนที่เราเคยผ่านในส่วนหลักของส่วนนี้ที่เรากำลังพูดถึงเครือข่ายประสาทเทียม แต่ในเวลาเดียวกันฉันคิดว่ามันจะ
นอกจากนี้ยังเป็นชุดกระเป๋าความรู้และทักษะของคุณ
งั้นลองทำฟังก์ชั่นเหล่านี้กันก่อน
ดังนั้นเพื่อเริ่มต้นกับสิ่งที่เรามีที่นี่คือบทสรุปของโครงข่ายประสาทที่เราสร้างขึ้นในส่วนหลักของส่วนและจากนั้นในตอนท้ายมันก็ปรากฏความน่าจะเป็นสำหรับศูนย์ 0
90
05 ห้าหรือ 5 เปอร์เซ็นต์สำหรับแมว
ให้รูปนั้นทางซ้ายมือเป็นอินพุทนี่คือหลังจากที่รถไฟถูกใช้งานจริงแล้วมันกำลังทำงานอยู่
แล้วคำถามตรงนี้คือค่าสองค่านี้มารวมกันได้อย่างไร
เพราะเท่าที่เรารู้จากทุกสิ่งที่ฉันได้เรียนรู้เกี่ยวกับเครือข่ายประสาทเทียมไม่มีอะไรจะพูดได้เลยว่าเซลล์ประสาทสุดท้ายทั้งสองนี้เชื่อมต่อกัน
ดังนั้นพวกเขาจะรู้ได้อย่างไรว่าคุณค่าของการถือครองแต่ละคนจะรู้ได้อย่างไรว่ามูลค่าของอีกอันคืออะไร
และพวกเขาจะรู้ได้อย่างไรว่าจะเพิ่มค่าของพวกเขาได้อย่างไร
คำตอบก็คือพวกเขาจะไม่
ในรุ่นคลาสสิกของเครือข่ายประสาทเทียมของเราและวิธีเดียวที่พวกเขาทำคือเพราะเราแนะนำฟังก์ชั่นพิเศษที่เรียกว่าฟังก์ชั่น soft max
เพื่อช่วยให้เราออกจากสถานการณ์
ปกติแล้วสิ่งที่จะเกิดขึ้นก็คือสุนัขและเซลล์ประสาทของแมวจะมีคุณค่าที่แท้จริงใด ๆ ที่พวกเขาไม่จำเป็นต้องทำ
แต่จากนั้นเราจะใช้ฟังก์ชั่น soft max ซึ่งเขียนขึ้นตรงนั้นที่ด้านบนและนั่นจะทำให้ค่าเหล่านี้อยู่ระหว่าง 0 ถึง 1
และมันจะทำให้มันเพิ่มขึ้นเป็น 1 และ 3 PPTA
ฟังก์ชั่น soft max หรือฟังก์ชั่น exponential
ปกติเป็นลักษณะทั่วไปของฟังก์ชันลอจิสติกที่อ้างสควอช unquote มีเวกเตอร์มิติ k ของค่าจริงโดยพลการกับเวกเตอร์มิติ k
ของค่าจริงในช่วงศูนย์ถึงหนึ่งที่เพิ่มขึ้น 1
ดังนั้นโดยทั่วไปมันทำสิ่งที่เราต้องการ
มันทำให้ค่าเหล่านี้อยู่ระหว่าง 0 ถึง 1 และตรวจสอบให้แน่ใจว่าพวกเขาเพิ่มขึ้นถึง 1
และวิธีการทำงานก็คือวิธีที่เป็นไปได้คือเพราะที่ด้านล่างเราอยู่ที่นี่คุณจะเห็นว่ามีการรวมกัน
ดังนั้นมันจึงใช้เลขชี้กำลังและวางไว้ในอำนาจของ Zed และรวมมันเข้าด้วยกันเพื่อให้เป็นหนึ่งในสองของชั้นเรียนทั้งหมดของคุณ
ค่าเหล่านี้ทั้งหมด
และนั่นก็คือการทำให้ปกติของคุณเกิดขึ้นตรงนี้
นั่นคือวิธีที่ฟังก์ชั่น Saucebox
ใช้งานได้และมันก็สมเหตุสมผลที่จะแนะนำฟังก์ชั่นถัดไปที่นุ่มนวลลงในเครือข่ายประสาทเทียมเพราะมันจะแปลกอย่างไรถ้าคุณมีสุนัขและแมวที่เป็นไปได้และ 80% สำหรับสุนัข
.
และสำหรับกรงเล็บของแมวคุณมีสิทธิ 45 เปอร์เซ็นต์ที่ดี
มันไม่สมเหตุสมผลอย่างนั้นและดังนั้นจึงเป็นการดีกว่ามากเมื่อคุณแนะนำฟังก์ชั่นถัดไปที่นุ่มนวลและนั่นคือสิ่งที่คุณจะพบว่าเกิดขึ้นส่วนใหญ่ในเครือข่าย convolutional และ
neural
ตอนนี้อีกอย่างคือฟังก์ชั่น soft max มาพร้อมมือกับสิ่งที่เรียกว่าฟังก์ชั่น Cross
entropy และมันเป็นสิ่งที่มีประโยชน์มากสำหรับเรา
ดังนั้นก่อนอื่นลองดูสูตร
นี่คือสิ่งที่ฟังก์ชั่น cross entry ดูเหมือน
เรากำลังจะใช้การคำนวณที่แตกต่างกันซึ่งจะใช้การเป็นตัวแทนของศตวรรษนี้ แต่ผลลัพธ์ก็เหมือนกัน
นี่ง่ายกว่าในการคำนวณ
และสิ่งที่ฉันรู้ว่าสิ่งนี้อาจฟังดูไม่เกี่ยวข้องกับสิ่งใดในตอนนี้เพียงแค่สูตรบนหน้าจอของคุณ แต่จะมีบางส่วนที่แนะนำให้อ่านเพิ่มเติมในตอนท้ายของส่วนนี้จึงไม่ต้องกังวลหากคุณไม่ได้เรียนคณิตศาสตร์
แม้ว่าเราจะไม่ได้อธิบายคณิตศาสตร์ในตอนนี้ก็ตาม
แต่ประเด็นตรงนี้ก็คือสิ่งที่อยู่ตรงข้ามเอนโทรปีของฟังก์ชันเอนโทรปี
โปรดจำไว้ว่าก่อนหน้านี้เราเคยใช้โครงข่ายประสาทเทียมเรามีฟังก์ชันที่เรียกว่าฟังก์ชันลูกศรกำลังสองเฉลี่ยซึ่งเราใช้เป็นฟังก์ชันราคาเพื่อประเมินประสิทธิภาพตามธรรมชาติของเรา
และเป้าหมายของเราคือลด MSE เพื่อลดประสิทธิภาพเครือข่าย
นั่นคือฟังก์ชั่นราคาของเราแล้วในเครือข่ายประสาทเทียมเรายังคงสามารถใช้ MSE ได้ แต่เป็นทางเลือกที่ดีกว่าในเครือข่ายประสาทประสาทหลังจากที่คุณใช้ฟังก์ชั่น soft
max กลายเป็น cross entropy
function
และในเครือข่ายประสาทเทียมเมื่อคุณใช้ฟังก์ชั่นข้ามรายการไม่เสียค่าใช้จ่ายที่เรียกว่าฟังก์ชั่นค่าใช้จ่ายอีกต่อไปจะเรียกว่าฟังก์ชั่นสุดท้ายและพวกเขาจะคล้ายกันมาก
พวกเขาเป็นเพียงความแตกต่างทางคำศัพท์เพียงเล็กน้อยและแตกต่างกันเล็กน้อยและในสิ่งที่พวกเขาหมายถึง
แต่สำหรับทุกวัตถุประสงค์มันเหมือนกันมาก
และสิ่งที่เกิดขึ้นคือฟังก์ชั่นสุดท้ายเป็นอีกสิ่งที่เราต้องการลดเพื่อเพิ่มประสิทธิภาพของเครือข่ายของเรา
ลองมาดูตัวอย่างรวดเร็วเกี่ยวกับวิธีการใช้ฟังก์ชั่นนี้
สมมุติว่าเรานำภาพสุนัขเข้ามาในเครือข่ายของเรา
ค่าที่คาดการณ์สำหรับสุนัขคือ 0 9 และนี่คือการฝึกอบรมเพื่อให้เรารู้ว่าเรารู้ว่าฉลากนั้นเป็นสุนัข
ค่าคาดการณ์ 0 9 ค่าที่กำหนดไว้สำหรับ cat คือ 0 1
แล้วที่นี่เรามีฉลากเพื่อให้เรารู้ว่ามันเป็นสุนัขเพราะนี่เป็นการฝึก 0 1 สำหรับสุนัขหรือแมว
ดังนั้นในกรณีนี้คุณต้องใช้คุณจำเป็นต้องเสียบตัวเลขเหล่านี้ลงในสูตรของคุณสำหรับการข้ามเอนโทรปี
ดังนั้นวิธีที่คุณทำคือค่าทางด้านซ้ายไปยังคิววาจา
สิ่งที่อยู่ภายใต้ลอการิทึมทางด้านขวาและค่าจากทางด้านขวาจะเข้าสู่ P
และดังนั้นจึงเป็นสิ่งสำคัญที่ต้องจำว่าจะไปที่ใดเพราะถ้าคุณทำให้พวกเขาผิดคุณไม่ต้องการที่จะใช้ลอการิทึมสำหรับ ฉันทั้งหมดจากค่าศูนย์และหรือไปจาก
1
ดังนั้นคุณเพียงแค่ต้องการที่จะเสียบพวกเขา
ตรวจสอบให้แน่ใจว่าคุณได้เสียบเข้าไปในตำแหน่งที่ถูกต้อง
แล้วคุณก็บวกมันเข้าด้วยกัน
นั่นคือวิธีการทำงานข้ามรายการและเราจะดูที่จริงตอนนี้เราจะดูตัวอย่างทีละขั้นตอนของการใช้ฟังก์ชั่นนี้ในชีวิตจริงและการใช้แบบไม่ดีทำให้รู้สึกได้ดีขึ้น มันจะน้อยกว่านี้
เป้าหมายของฉันในงานหนักนี้คือการทำให้คุณสบายใจมากขึ้นในช่วงศตวรรษที่ผ่านมาเพราะมันฟังดูซับซ้อนมากและไม่มีเสียงปุนที่ตั้งใจไว้
เช่นเดียวกับเครือข่ายประสาทเทียมที่ทำให้เกิดเสียงที่ซับซ้อนและน่ากลัว แต่ก็ไม่เป็นเช่นนั้น
นั่นคือจุดที่
ดังนั้นไปข้างหน้าและนำไปใช้เพียงเพื่อให้เรารู้ว่ามันไม่น่ากลัว
ดังนั้นนี่คือทั้งหมดที่คุณต้องการ
และสิ่งนี้จะอธิบายว่าทำไมเราถึงทำสิ่งนี้
ดังนั้นโครงข่ายประสาทเทียมหนึ่งโครงข่ายประสาทเทียมสมมติว่าเรามีสองเครือข่ายประสาทและจากนั้นเราส่งภาพสุนัขและเรารู้ว่านี่เป็นสุนัขไม่ใช่แมว
จากนั้นเราก็มีภาพแมวของเราอีกครั้งในเวลานี้สัตว์และมันเป็นแมวไม่ใช่สุนัขและที่นี่เรามีเรากำลังดูหลุมซึ่งอันที่จริงแล้วสุนัขไม่ใช่แมว
ถ้าคุณมองอย่างใกล้ชิด
ดังนั้นเราต้องการดูว่าเครือข่ายประสาทของเราจะทำนายอะไรในกรณีแรก
เครือข่ายประสาท 1 สุนัข 90 เปอร์เซ็นต์แมว 10 เปอร์เซ็นต์ถูกต้องไม่มีหมายเลขเครือข่ายถึงสุนัข 60 เปอร์เซ็นต์แมว
40 เปอร์เซ็นต์ยังคงถูกต้องแย่ลง
แต่ถูกต้อง
ตัวเลือกที่สองเครือข่ายประสาทแรกร้อยละ 10 แมวสุนัขแมวร้อยละ 90
แก้ไข.
คุณรู้ไหมว่าจำนวนถึงร้อยละ 30 สุนัขนั้นแย่กว่าแมวร้อยละ 70 แต่ก็ยังถูกต้อง
และจากนั้นในที่สุดเครือข่ายประสาทในภาพเครือข่ายปีที่ได้รับรางวัลร้อยละ 40 สุนัขร้อยละ 60 แมวหมายเลขเครือข่ายประสาทที่ไม่ถูกต้องถึงร้อยละ
10 สุนัขและร้อยละ 90 แมวไม่ถูกต้องและแย่ลง
ดังนั้นกุญแจสำคัญในที่นี้คือแม้ว่าทั้งสองคนจะเข้าใจผิดในช่วงสุดท้ายผ่านทั้งสามเครือข่ายนิวรัลที่หนึ่งมีประสิทธิภาพสูงกว่าเครือข่ายประสาท
ดังนั้นในกรณีสุดท้ายมันเป็นอย่างมากที่มันให้สุนัขเหมือนโอกาส 40
เปอร์เซ็นต์เมื่อเทียบกับเครือข่ายประสาทเทียมเพื่อให้สุนัขโอกาส 10 เปอร์เซ็นต์เท่านั้นหรือเครือข่ายประสาทหนึ่งมีประสิทธิภาพสูงกว่าบอร์ดเมื่อเทียบกับเครือข่ายประสาท 2
และตอนนี้เราจะดูฟังก์ชั่นที่พวกเขาสามารถวัดประสิทธิภาพที่เราได้พูดคุยเกี่ยวกับการจัดอันดับ
ลองใส่สิ่งเหล่านี้ลงในตารางเพื่อให้มีโครงข่ายใยประสาทเทียม 1 คุณมีหมายเลขผิด
นั่นคือหมายเลขภาพ
และสำหรับภาพที่คุณมี
อะไรคือสิ่งที่ทำนายไว้ 90 เปอร์เซ็นต์สุนัขชิมแปนซีและแมว
ดังนั้นมีหมวก Marable แล้วคุณมีค่าจริงดังนั้นสุนัขที่ถูกต้องแมวไม่ถูกต้อง
สิ่งเดียวกันสำหรับหมายเลขภาพสองและสิ่งเดียวกันสำหรับอย่างน้อยสามและเดียวกันสำหรับหมายเลขเครือข่ายประสาทสอง
ดังนั้นสุนัข 60 เปอร์เซ็นต์เก็บภาพ 40 เปอร์เซ็นต์ในภาพแรก
นั่นคือสิ่งที่คาดการณ์ได้จาก crotons คือสุนัขไม่ใช่แมว
และอื่น ๆ
ตอนนี้เรามาดูว่ามีข้อผิดพลาดอะไรบ้าง
ดังนั้นข้อผิดพลาดอะไรที่เราสามารถคำนวณเพื่อประเมินประสิทธิภาพและตรวจสอบประสิทธิภาพของเครือข่ายของเรา
ดังนั้นข้อผิดพลาดประเภทหนึ่งเรียกว่าข้อผิดพลาดการจัดหมวดหมู่
และนั่นเป็นเพียงแค่ถามว่าคุณทำให้ถูกต้องหรือไม่
ไม่ว่าความน่าจะเป็นเป็นเพียงแค่คุณได้รับสิทธิ์
หรือคุณทำให้ถูกต้อง
ดังนั้นในทั้งสองกรณีสำหรับเครือข่ายประสาททั้งสองพวกเขาจึงมี
ดังนั้นนี่คือวิธีที่คุณผิดไป
ดังนั้นพวกเขาจึงผิดหนึ่งในสาม
ดังนั้นอัตราข้อผิดพลาด 33 เปอร์เซ็นต์สำหรับเครือข่ายของคุณ 1 และอัตราข้อผิดพลาด 30 เปอร์เซ็นต์สำหรับเครือข่ายประสาท
เป็นพื้นฐานจากจุดยืนนี้ทั้งเครือข่ายประสาทดำเนินการในระดับเดียวกัน แต่เรารู้ว่าไม่เป็นความจริง
เรารู้ว่าเครือข่ายประสาท Ikhwan มีประสิทธิภาพสูงกว่าเครือข่ายประสาท
นั่นเป็นสาเหตุที่ข้อผิดพลาดการจัดหมวดหมู่ไม่ได้เป็นตัววัดที่ดีโดยเฉพาะอย่างยิ่งสำหรับวัตถุประสงค์ของการขยายพันธุ์กลับหมายความว่าข้อผิดพลาดกำลังสองแตกต่างกันและโดยวิธีการคำนวณเหล่านี้ใน
Excel ทำในกระดาษหรือใน Excel
สิ่งเหล่านี้เป็นการคำนวณที่ตรงไปตรงมาโดยทั่วไปเพียงนำผลรวมของข้อผิดพลาดกำลังสองแล้วก็หาค่าเฉลี่ยทั่วการสังเกตของคุณและมันก็ค่อนข้างมาก
ดังนั้นสำหรับเครือข่ายนิวรัลหนึ่งจะได้รับ 25 เปอร์เซ็นต์สำหรับเครือข่ายนิวรัล 2 คุณจะได้รับอัตราความผิดพลาด 71
เปอร์เซ็นต์เพื่อที่คุณจะเห็นว่านี่ถูกต้องมากขึ้น
กำลังบอกเราว่าเกือบจะมีข้อผิดพลาดต่ำกว่าเครือข่ายของคุณ
แล้วข้ามเอนโทรปีอีกครั้ง
เราได้เห็นสูตรที่คุณสามารถคำนวณได้จริง ๆ แล้วง่ายกว่าการคำนวณมากกว่าค่าคลาดเคลื่อนกำลังสองเฉลี่ยข้ามพื้นที่ข้ามเอนโทรปีจะให้ 38 เปอร์เซ็นต์สำหรับเครือข่ายประสาท
1 และ 1 0 6 สำหรับโครงข่ายประสาทเทียม 2
ดังนั้นคุณจะเห็นผลลัพธ์ที่แตกต่างกันเล็กน้อย
เมื่อคุณดูพวกมันแบบนั้นเมื่อคุณมองคุณรู้พื้นที่กระโปรงสั้นและข้ามเอนโทรปีและคำถามที่ว่าทำไมคุณถึงใช้ไขว้เอนโทรปีข้ามหมายความว่าข้อผิดพลาดกำลังสองนั้นไม่ได้เป็นเพียงตัวเลขที่พวกเขาพูด การคำนวณเป็นเพียงเพื่อแสดงให้คุณเห็นว่านี่คือทั้งหมดที่เป็นไปได้ทั้งหมดที่คุณสามารถทำได้บนกระดาษมันไม่ได้
มันไม่ได้เป็นคณิตศาสตร์ที่รุนแรงมาก
สิ่งเหล่านี้ค่อนข้างตรงไปตรงมา
แต่คำถามที่ว่าทำไมคุณถึงใช้หมายถึงทำให้เอนโทรปีมีความหมายมากขึ้น
ฉันดีใจที่คุณถามว่าคำตอบนั้นเหมือนมีข้อดีหลายประการของการข้ามเอนโทรปีของข้อผิดพลาดกำลังสองเฉลี่ยซึ่งไม่ชัดเจน
ดังนั้นฉันจะพูดถึงคู่รัก แต่ถ้าอย่างนั้นฉันจะแจ้งให้คุณทราบว่าคุณจะหาข้อมูลเพิ่มเติมได้จากที่ไหน
ดังนั้นหนึ่งในนั้นคือถ้าคุณยกตัวอย่างเช่นตอนเริ่มต้นการขยายพันธุ์กลับของคุณมูลค่าส่งออกของคุณนั้นเล็กมาก ๆ มาก ๆ
ดังนั้นจึงมีขนาดเล็กกว่าค่าจริงที่คุณต้องการ
เมื่อเริ่มต้นการไล่ระดับสีในโลกที่ยิ่งใหญ่และดีของคุณก็จะต่ำมากและคุณจะไม่พอ
มันยากมากสำหรับเครือข่ายประสาทเทียมที่จะเริ่มทำบางสิ่งบางอย่างและเริ่มเคลื่อนที่ไปรอบ ๆ และเริ่มปรับน้ำหนักเหล่านั้นแล้วเริ่ม Movistar
เคลื่อนที่ไปในทิศทางที่ถูกต้อง
ในขณะที่เมื่อคุณใช้บางสิ่งบางอย่างเช่นเอนโทรปีของกากบาทเพราะมันมีลอการิทึมอยู่ในนั้นมันช่วยให้เครือข่ายประเมินได้แม้ในพื้นที่เล็ก
ๆ เช่นนั้นและทำอะไรกับมัน
นี่คือวิธีคิดเกี่ยวกับมัน
สมมุติว่านี่เป็นวิธีที่ง่ายมาก ๆ
จะมีการเชื่อมโยงไปยังคณิตศาสตร์และคุณสามารถได้รับสิ่งเหล่านี้ผ่านทางคณิตศาสตร์ในรายละเอียดมากขึ้น แต่วิธีการที่ใช้งานง่ายมาก
สมมติว่าคุณชอบผลลัพธ์ที่คุณต้องการ
เป็นหนึ่งและตอนนี้คุณอยู่ที่หนึ่งในล้านของหนึ่ง
ขวา.
$ 0 00 หรือมีหนึ่งและจากนั้นคุณปรับปรุงในครั้งต่อไปที่คุณปรับปรุงผลลัพธ์ของคุณจากจากหนึ่งล้านถึงหนึ่งพัน
และในแง่ของถ้าคุณคำนวณข้อผิดพลาดกำลังสองคุณก็แค่ลบอันเดียวจากอันอื่น
หรือโดยทั่วไปในแต่ละกรณีคุณคือ Kalka
ในสี่เหลี่ยมและคุณจะเห็นว่าข้อผิดพลาดกำลังสองเมื่อคุณเปรียบเทียบกรณีหนึ่งกับอีกกรณีหนึ่งมันไม่ได้เปลี่ยนแปลงอะไร
คุณไม่ได้ปรับปรุงเครือข่ายของคุณมากนักเมื่อดูที่ค่าเฉลี่ยที่นั่น
แต่ถ้าคุณดูเอนโทรปีของการไขว้กันเพราะคุณหาลอการิทึมแล้วคุณก็เปรียบเทียบมันกับการหารอันหนึ่งกับอีกอัน
คุณจะเห็นว่าคุณได้ปรับปรุงเครือข่ายของคุณอย่างมีนัยสำคัญเพื่อที่การกระโดดจากหนึ่งล้านถึง 1,000 ในข้อผิดพลาดกำลังสองเฉลี่ยจะต่ำมาก
จะไม่มีนัยสำคัญและจะไม่
มันจะไม่แนะนำกระบวนการเพิ่มระดับการไล่ระดับสีหรือการขยายด้านหลังในทิศทางที่ถูกต้อง
ทุกอย่างมันจะนำไปในทิศทางที่ถูกต้อง แต่มันจะเป็นแนวทางที่ช้ามากมันจะไม่มีพลังเพียงพอในขณะที่ถ้าคุณทำเอนโทรปีใหม่ข้ามเอนโทรปีจะเข้าใจว่า
การเปลี่ยนแปลงเล็กน้อยในแง่สมบูรณ์ในแง่สัมพัทธ์มันเป็นการปรับปรุงครั้งใหญ่
และเราจะไปในทิศทางที่ถูกต้องอย่างแน่นอน
มาต่อกันเพื่อให้เอนโทรปีข้ามจะช่วยให้เครือข่ายประสาทของคุณไปทางขวาได้รับสถานะที่ดีที่สุดเป็นวิธีที่ดีกว่าสำหรับเครือข่ายประสาทเพื่อรับไปยังสถานะที่เหมาะสม
แต่จำไว้ว่าวิธีนี้ใช้ได้เมื่อข้ามเอนโทรปีเป็นวิธีการที่ต้องการสำหรับการจำแนกเท่านั้น
ดังนั้นหากคุณกำลังพูดถึงสิ่งต่าง ๆ เช่นการถดถอยอย่างที่เรามีในโครงข่ายประสาทเทียมคุณควรจะไปกับฉันและข้อผิดพลาดกำลังสองในขณะที่เอนโทรปีข้ามจะดีกว่าสำหรับการจำแนกประเภทและอีกครั้ง
ฟังก์ชั่นถัดไปซึ่งเป็นคำอธิบายที่เข้าใจง่ายว่าเป็นสถานที่ที่ดีในการเรียนรู้เพิ่มเติมเกี่ยวกับสิ่งนั้นถ้าคุณสนใจจริงๆคุณรู้ว่าทำไมเราถึงใช้ข้อผิดพลาดข้ามกับค่าเฉลี่ยกำลังสอง
Google วิดีโอโดย Geoffrey Hinton เรียกว่าฟังก์ชั่น soft
max output และเขาอธิบายได้ดีมากและคุณก็รู้ว่าเป็นเจ้าพ่อของการเรียนรู้อย่างลึกซึ้ง
และโดยวิธีการที่วิดีโอใด ๆ โดย Geoffrey Hinton เป็นสีทอง
เขามีพรสวรรค์อย่างมากที่จะอธิบายสิ่งต่าง
นั่นคือความอ่อนนุ่มที่ดีเมื่อเทียบกับไม้กางเขนและฉันหวังว่ามันจะช่วยให้คุณเข้าใจถึงสิ่งที่เกิดขึ้นที่นี่
แต่ที่สำคัญกว่านั้นคือคุณไม่ได้ถูกเลื่อนออกไปจากคำว่าการข้ามเอนโทรปีเพราะพาดหัวจะพูดถึงมันในเรื่องจริง
และนี่เป็นอีกวิธีในการคำนวณฟังก์ชันสุดท้ายของคุณ
และอีกวิธีในการเพิ่มประสิทธิภาพเครือข่ายของคุณซึ่งปรับให้เหมาะกับปัญหาการจำแนกประเภทและดังนั้นเครือข่ายประสาทเทียมที่ซับซ้อนและมาพร้อมกันด้วยฟังก์ชั่น
soft max
ดังนั้นการอ่านเพิ่มเติมถ้าคุณต้องการแนะนำเบา ๆ ให้กับเอนโทรปีของการข้ามหากคุณสนใจในสมาธิมากกว่า
บทความที่ดีในการตรวจสอบเรียกว่าการแนะนำที่เป็นมิตรเพื่อข้ามการสูญเสียเอนโทรปีโดย Rob DePietro 2016
นี่คือลิงค์ด้านล่าง
ดีมากดีมากนุ่มมากและไม่มีอะไรซับซ้อนคณิตศาสตร์
การเปรียบเทียบที่ดีตัวอย่างที่ดีโดยใช้การเปรียบเทียบของรถยนต์และคุณดูรถยนต์และพูดคุยเกี่ยวกับข้อมูลและบิตและข้อ
จำกัด และคุณรู้ว่าคุณจะถอดรหัส
Unico ทั้งหมดนี้ได้อย่างไรเพื่อให้เป็นบทความที่ดีที่จะดูและเราจะให้ ภาพรวมที่ดีของรายการข้ามเช่นจากมุมมองเบื้องต้น
หากคุณต้องการที่จะขุดลงในคณิตศาสตร์หนักเช่นสิ่งที่คุณเห็นที่นี่แล้วตรวจสอบบทความโดยหรือบล็อกโดยวิธีการใช้
Intermezzo เครือข่ายประสาทด้วยเช่นกันในแง่ของการใช้งานก็เหมือนสิ่งที่เป็นสื่อกลางเช่น
เป็นระยะ ๆ ใน
คุณรู้ไหมว่าเมื่อคุณไปโรงละครและคุณมีช่วงพักระหว่างส่วนแรกกับส่วนที่สอง
ดังนั้นเพราะเขาชอบทำตามทุกขั้นตอนเหล่านี้แล้วเขาก็ชอบแล้วเขาก็บอกว่าฉันต้องอธิบายเรื่องนี้ก่อน
และใช่ด้วยเหตุนี้จึงเรียกมันว่า
ไม่มีเหตุผลอื่น ๆ เท่าที่ฉันเข้าใจบทความโดย Peter Rolands 2016 เช่นกันดังนั้นทั้งสองจึงค่อนข้างล่าสุด
และคุณรู้ว่าลองดูสิ่งนี้หากคุณต้องการขุดลงในคณิตศาสตร์หลัง Kross เอนโทรปีหลัง soft Max และ cross
entropy ในบทความนี้
ดังนั้นเราไปกันเลย
นั่นคือทั้งหมดที่มีให้กับสองคนนี้
หวังว่าฉันจะสามารถเพิ่มความชัดเจนและโชคดีเพิ่มเติมได้
มันจะสนุกและสนุกไปกับบทช่วยฝึกหัด
ฉันจะพบคุณอีกครั้ง
จนแล้วสนุกกับการเรียน