Merhaba ve bu öğreticiye hoş geldiniz.
Pekâlâ, bu yüzden ahlaki ilk dostumuzla ve muddled olan en önemli kümes
hayvanlarından başlayacağız.
Niye ya.
Ve bu dosyada, beyninizi bildiğiniz beyin bilgisini, bu dosyada bulunan 8:
3 Simmo'nun kalbinde uygulayacağız; elbette bazı konvolüsyonu içeren sinir ağı bunu
yapılacağını bilecek Tabii ki hala bazı derin takviye öğrenimi
yapıyoruz.
Böylece gözleri görebilir ve içinde bu sinir ağı aktif Craigmile ile ilgili her şeyi
entegre edecek ve bir bonus var.
Size en güçlü A-3 ahlakından birini uyguladığımız ve bunu güçlü kılan şey,
bunun yeni bir ağ kaydı ve daha doğrusu LCN uzun vadeli belleği içereceği ve böylece
neyin geçici özelliklerini öğrenebileceğimiz devam ediyor.
Yine tahminler daha da iyi olabilmesi için girişin zamansal özelliklerinden biridir.
İşte gidiyoruz.
derste gördüğümüz tüm sinir ağlarını birleştiren çok güçlü bir model uyguluyoruz.
Temelde derinleşen
Bu yapay bir sinir ağı, konvolüsyon sinir ağı ve yeni bir kayıt ağıdır.
Ve tüm bu ağların merkezinde, AI AI'yi çok güçlü hale getirecek A-380 modeli
elbette var.
Bu yüzden bunu yapalım, bu modele saldıralım ve uygulayalım.
Dolayısıyla, iki işlev yaparak başlayacağız.
olacağız ve bu iki işlevi bizim için yapmak istiyoruz. evde
çok sinir ağı çok kolay entegre bir araç var.
Ağırlıkları nasıl başlatacağımızla ilgilenecek bazı işlevler var çünkü bazı yeni ağlar olacağımızı biliyoruz ve
bu yüzden ağırlıkları
Dolayısıyla bu iki işlev normalize edilmiş sütunlar olacak.
Temel olarak yalnızca bazı ağırlıkları başlatmakla kalmayıp tensör ağırlıklarının spesifik bir varyansını ayarlayan bir
işlev olan başlatıcı.
İşte tam şu anda uygulamak üzere olduğumuz şey bu.
Ve sonra, o fonksiyonun ağırlıkları olacak ikinci fonksiyonu yerine getireceğiz ve
bu ağırlıkları temel olarak öğrenme için yeterli zamandaki ağırlıkları başlatacağız.
Tamam.
Ve sonra bu iki işlevi bitirdikten sonra sinir ağını uygulamaya başlayacağız.
Bu yüzden, bu iki işleve hızlı bir şekilde geçelim, böylece burada
bir def ile başlayalım, sonra normalleştirilen bu işlevin adını vereyim ve bu çekirdek sütunlar başlatıcıyı altını çiziyor.
Oraya gidiyoruz.
Ve bu işlev sadece iki girdi alacaktır.
İlk önce başlatmak istediğimiz ağırlıklar ve standart sapma olacak, çünkü az önce söylediğimiz
gibi ağırlık tenseri için belirli bir varyans ayarlamak istiyoruz.
Ve bunu neden yapmamız gerektiğini anlamak istiyorsan, yarın boyunca aktör ve eleştirmen
olacak sinir ağı ne zaman olduğumuzu biliyorsun ve aktör için iki ayrı
tam katman yapacağız ve biri eleştirmen için.
Ve bu iki tam bağlantılı katmanın ağırlığı olacaktır ve bu iki ağırlık grubunun her biri
için bir standart sapma ayarlayacağız.
Ve işimiz için küçük bir standart sapma belirleyeceğiz.
0 civarında olacak. 01 ve eleştirmenler için büyük bir standart sapma olacağını düşünüyorum.
sonra aktör ve craic için başlatacağımız ağırlıklar için standart sapmayı kolayca ayarlayabiliyoruz.
Bu yüzden bu işlevi yapıyoruz, böylece daha
Bu yüzden bunu yapıyoruz.
Şimdi bir varsayılan değer ayarlayacağız ancak daha sonra ağırlıkları başlattığımızda
değişecek.
Öyleyse 1 için kullanalım. 0.
Tamam.
Ve şimdi biz bu fonksiyonun içindekileri tanımlamaya hazırız.
İlk önce hazırlayacağımız şey, çağıracağımız çıktı.
Bu nedenle, herkes için bu işlevi geri döndürür.
Ve bu yüzden ilk önce ne yapacağız.
Anladığınız gibi, bu çıktı belirli bir standart sapma gösterecek bir tensör ağırlık olacaktır.
Ancak, standart sapmayı ayarlamaya özen göstermek için yalnızca onu başlatmak istiyoruz ve
sonra standart sapmayı burada, bu işlevin girdisi olan bağımsız değişkeni ayarlayacağız.
Tensör ağırlıklarını başlangıç ​​durumuna getirmek için nasıl yapılacağını biliyor olabilirsiniz.
Başardık zaten.
dağılımı izleyen rasgele ağırlıklarla ateşlenmiş cevabı başlatan yuvarlak ve işlevi alacağız.
Torche kütüphanemizi kullanacağız ve bu torche kütüphanesinden, normal
Bu yüzden buna rant deniyor.
Ve normal gibi.
Ve şimdi, basitçe girmemiz gereken şey, uzaklaşmanın içereceği öğe sayısıdır.
Ve bu element sayısı elbette ağırlıkların sayısıysa, aslında burada bu ağırlıklar
için bir tensör başlatılıyorduk.
Ve böylece bu element sayısını elde etmek için basitçe ağırlıklarımızı alıp parantezle boyut elde etmek için nokta ekleyebiliriz.
meşale tansörünü oluşturacak ve normal bir dağılımdan sonra rasgele ağırlıklarla başlatılacaktır.
Ve bu, öğelerin ve ağırlıkların sayısını verecek, böylece ağırlıklarımızın
aynı sayıda öğesinin
Tamam.
Ve şimdi standart sapmayı ayarlamak zamanı geldi, standart sapma burada.
Dolayısıyla şimdi yapacağımız basit bir normalizasyon.
Ağır işkence hissine sahibiz ve şimdi normalleştirmek istiyoruz.
Normalleştirmek için basitçe açık hesaplamayı yazmanız yeterlidir.
alıp, daha önce belirttiğimiz toplamı böleceğimiz standart sapmayla çarparak güncelleştirmektir.
Ve burada burada yapmamız gereken, çıktısını
Ve toplamı elde etmek için, meşale ile karekök fonksiyonunu kullanacağız.
Ve işte o zaman buradan götürülürsek o zaman.
Bu, karekök fonksiyonudur.
İçinde bir vektörün ağırlıklarının bazılarını kare içine gireceğiz.
Ve böylece çıktılarımızı alıyoruz.
Daha sonra girdiğimiz güç fonksiyonunu kullandığımız için toplamın karesini almak istiyoruz ve
bu nedenle güneşi alıyoruz.
İçeride ağırlığı içeren koninin endeksini belirteceğiz.
Bazılarını ve sonra bu ağırlıkları ayrı ayrı elde etmek isterseniz, çünkü bunları toplamak
istiyorsanız, genellikle çıktıyı bir işlev olarak okulumuza genişletin.
Tamam.
Böylece, bu ağırlıkları, tüm bu ağırlıkları alacak bir Torchin ağırlığı çeşidi
olarak başlatılmıştır.
Kare toplamını alır ve sonra normalleşmeyi uygulamak için karekök alırız.
bu standart sapmayı payda belirlediğimizden burada yazabileceğimizden emin olalım.
Ve
Varyantlar, standart sapmanın karesine eşit olacaktır.
Burada verilen bu formül, başlattığımız bu tensör ağırlığının, argüman olarak koyduğumuz standart
sapmanın karesine eşit bir varyansa sahip olmasını sağlayacaktır.
Gerçekten gelecek için spesifik bir standart sapmayı nasıl ayarlayabiliriz, yakında yapacak eleştirmen ve aktör için
küçük bir standart sapma ve eleştirmen için daha büyük bir standart sapma seçeceğiz ve
bunu bu işlevden bu yana çok kolay yapacağız.
Tamam.
Artık bırakacağımız tek şey var.
Elbette, bu özel standart sapma ile normalize edilmiş çıktıyı geri getirmektir.
Pekâlâ, bu kadar mükemmel.
Yapmamız gereken ilk iş bu.
Bu gece bu işi yapmaktan mutluluk duyacağımız ilk araç.
H-3 deniz beyneği.
Şimdi yapmak için bir işleve daha sahibiz.
Ağırlık işlevi olacak.
Ve bu, öğrenmeyi en uygun hale getirmek için ağırlıkları başlatmaya hatırlatacak bir işlevdir.
Bunu bir sonraki ders kitabında ve o zamana kadar yapalım.