Ciao e bentornati al corso sull'apprendimento approfondito oggi parliamo del pooling di Max
e abbiamo alcune diapositive molto interessanti in arrivo.
E anche una sorpresa speciale alla fine del tutorial.
Quindi iniziamo.
La prima domanda è cosa si sta mettendo in comune e perché ne abbiamo bisogno.
Bene, per rispondere a questa domanda diamo un'occhiata a queste immagini su queste immagini.
Abbiamo un ghepardo.
In effetti è lo stesso ghepardo sulla prima immagine.
Quella immagine è posizionata correttamente e ti guarda dritto sulla seconda immagine.
È un po 'ruotato.
E la terza immagine un po 'schiacciata.
E la cosa qui è che vogliamo che la rete neurale sia in grado di riconoscere il ghepardo in
ognuna di queste immagini.
In realtà questo è solo un ghepardo.
Cosa succede se abbiamo un sacco di diversi tiratori.
Ecco un ghepardo.
Lui è un ghepardo.
Ecco un altro ghepardo, la sua Ashira, il suo ghepardo di Ishida e lui un ghepardo, e
vogliamo che la rete neurale riconosca tutti questi tiratori come imbroglioni e come può farlo se tutti guardano in direzioni diverse sono tutti in
parti diverse del immagine sono come se i loro volti fossero posizionati in diverse parti
dell'immagine qualcuno è sul lato destro qualcuno nell'angolo sinistro o qualcuno
nel mezzo.
Sono tutti un po 'diversi e la trama è un po' diversa.
L'illuminazione è un po 'diversa.
Ci sono molte piccole differenze e quindi se la rete neurale cerca esattamente una certa caratteristica,
ad esempio, una caratteristica distintiva del ghepardo sono le lacrime che sono sul suo viso che vanno dagli occhi o le ombre The
Shadow che sembrano lacrime la trama di il modello che va dai suoi occhi in basso
è ai lati del suo naso e sembra lacrime che è una caratteristica distintiva del ghepardo.
Ma se sta cercando quella caratteristica che ha imparato da certi ghepardi in una posizione esatta o una forma o
una forma esatta o una texture, non troverà mai questi altri tiratori.
ma non deve preoccuparsi se le caratteristiche sono un po 'inclinate se le caratteristiche sono un po' diverse nella
trama se le caratteristiche sono un po 'più vicine alle caratteristiche o un po' più distanti relativo a relativo l'uno all'altro.
Quindi dobbiamo assicurarci che la nostra rete neurale abbia una proprietà chiamata invarianza spaziale, il
che significa che non gli interessa dove le caratteristiche sono di nuovo non tanto come prurito
quale parte dell'immagine, perché in considerazione con la nostra mappa siamo poveri con il nostro convoluzionale
lì,
Quindi, se la funzionalità stessa è un po 'distorta, la nostra rete neurale deve avere un certo livello di flessibilità per
essere in grado di trovare ancora quella caratteristica.
E questo è tutto ciò che accomuna.
Diamo un'occhiata a come funziona il pooling.
Ecco la nostra mappa delle caratteristiche, così abbiamo già fatto la nostra convoluzione e abbiamo completato quella parte e ora
stiamo lavorando con il convoluzionale lì.
Ora applicheremo il pooling.
Quindi, come funziona.
Stiamo per applicare il pooling.
Ci sono molti diversi tipi di regole di gioco che significano il pooling di Max che raggruppa alcuni pool e
commenteranno quelli verso la fine della storia.
nell'angolo in alto a sinistra e trovi il valore massimo in quella casella e poi registri solo quel valore e trascuri gli altri tre.
Ma per ora stiamo solo applicando il pool di Max, quindi prendiamo
una scatola di due per due pixel come quella e ancora non è necessario che due per due sia possibile scegliere
qualsiasi dimensione di box e di nuovo si commenterà verso Tauriel e lo posiziona
Quindi nella tua casella hai quattro valori che non ti fanno caso a tre, mantieni solo il massimo che
è uno in questo caso.
Quindi muovi la tua casella a destra con passo per selezionare nuovamente la falcata.
Quindi qui scivoliamo a due falcate ed è quello che normalmente si sente dire che si può scegliere come il passo
che si può scegliere.
Quindi ci sono caselle sovrapposte che puoi selezionare qualsiasi tipo di colpo che ti piace anche tre se vuoi, ma
stiamo selezionando un passo di due qui ed è quello che viene comunemente usato.
E poi ripeti la ripetizione del processo in cui registri la massima qui se passi sopra e non
importa, continua semplicemente a fare quello che stai facendo.
Quindi registra ancora il massimo qui 0 qui il massimo è quattro.
Qui ci sono i massimi di qui il massimo è 1 0 1 o 2 e poi 1.
Quindi, come puoi vedere, sono successe alcune cose.
Prima di tutto eravamo ancora in grado di preservare le funzionalità giuste.
I numeri massimi che rappresentano perché sappiamo come funziona la conclusione di Lehre.
Sappiamo che i numeri massimi o grandi nella mappa delle caratteristiche rappresentano dove hai effettivamente
trovato la somiglianza più vicina a una funzione.
Ma mettendo insieme queste funzionalità, stiamo innanzitutto eliminando il 75% delle informazioni che
non sono la caratteristica che non sono le cose importanti che stiamo cercando perché siamo
solo tre pixel su quattro .
Quindi riceviamo solo il 25 percento.
il massimo dei pixel che noi oi valori che abbiamo noi stiamo quindi calcolando per ogni distorsione.
E poi anche perché stiamo prendendo
Quindi per esempio due immagini in cui ad esempio le lacrime degli imbroglioni sugli occhi sono in una immagine là un po 'a sinistra o un
po' ruotate a sinistra e un altro là un po '.
E sono come dovrebbero essere o come ci piacciono se ne prendi uno come base e un altro ci
sono dei bit ruotati a sinistra.
La funzionalità puled sarà esattamente la stessa.
Quindi puoi vedere qui se stiamo parlando delle lacrime del cheater, diciamo che questo è il quattro ed è
qui che era qui, se fosse un po 'ruotato.
Quindi ad esempio i quattro finirono qui.
Poi, quando stiamo facendo il pool, avremo ancora la stessa mappa delle funzionalità del pool e questo è
il principio su cui si basa.
È una spiegazione molto approssimativa ancora una volta spiegazione intuitiva, ma questo è il punto di
messa in comune che siamo ancora in grado di preservare le caratteristiche e inoltre conto per il loro possibile spaziale o strutturale
o di altri tipi di distorsioni.
E oltre a tutto ciò stiamo riducendo le dimensioni, quindi c'è un altro vantaggio.
del 75%, il che è enorme e ci aiuterà davvero in termini di elaborazione.
Quindi abbiamo conservato le funzionalità che stiamo introducendo invarianti spaziali, stiamo riducendo le dimensioni
Inoltre, un altro vantaggio del pooling è la riduzione del numero di parametri, quindi stiamo riducendo di
nuovo del 75% o riducendo il numero di parametri che verranno inseriti nei
nostri Lares finali della rete neurale e pertanto evitiamo il sovradattamento.
È un vantaggio molto importante del pooling che stiamo rimuovendo le informazioni e questa è una buona cosa.
in questo modo il nostro modello non sarà in grado di adattarsi troppo a quell'informazione perché specialmente perché quell'informazione non sta bene e ricorda
come all'inizio stiamo parlando anche di umani come gli umani è
importante vedere esattamente le caratteristiche piuttosto che tutto questo altro rumore che sta venendo nei nostri occhi.
Questa è una buona cosa perché
Beh, la stessa cosa per le reti neurali ignorando la formazione non importante non
necessaria ci aiuta a prevenire il sovradattamento.
Quindi eccoci qui, di cui parla la messa in comune.
E la domanda qui è, naturalmente, perché il pooling di WiMax ci sia un sacco di diversi tipi di pooling e
una vasta gamma di dimensioni troppo grandi di due per due pixel molte di queste cose.
quella nota vorrei presentarvi questo bel documento di ricerca chiamato valutazione delle operazioni di pooling in
architetture convoluzionali per il riconoscimento degli oggetti di Dominic Scherrer dell'Università di Bonn.
E su
C'è il collegamento e la bellezza di questo articolo è che è molto semplice molto semplice Quindi, se non hai
mai letto un documento di ricerca prima di quello che ti piacerebbe fare.
Questo è un ottimo punto di partenza è molto breve.
Solo 10 pagine.
Molto facile da leggere.
E in più, il vantaggio in più è che ora che abbiamo discusso della convoluzione e della condivisione, ti sentirai totalmente
a tuo agio con tutto ciò di cui stanno parlando in questo articolo.
Questo è un ottimo modo per rinforzare e inoltre consiglio vivamente di controllare questo documento.
Prenderò 20 minuti per leggerlo e puoi anche saltare la parte 2 che viene chiamata lavoro correlato se si
sente un po 'inverosimile o alienante.
Basta non leggere quella parte.
Vai direttamente dalla parte 1 alla parte 3.
E una cosa che devi sapere su questo articolo si parla di un concetto chiamato sottocampionamento
che è sottocampionamento è fondamentalmente il pooling medio.
Quindi ricorda come stavamo prendendo.
Stiamo prendendo il massimo.
Quindi nel nostro squadratore prendendo il valore massimo c'è un concetto chiamato Mean pooling o alcuni tirando un po
'mentre voi solo alcuni di questi valori su pool medio o pool di media si prende il
valore medio di tutti questi e sottocampionamento è un po' come una generalizzazione di uomini in pool
È un approccio più generale alla media di questi valori.
E puoi leggere un po 'di più sul giornale, ma per il resto pensalo come un pool medio
quando stai leggendo un giornale.
che puoi ottenere alcune informazioni aggiuntive su questo argomento e ora tipo di ricapitolare dove siamo arrivati.
E quindi è qui
Quindi c'è la nostra immagine di input.
Quindi abbiamo applicato l'operazione di convoluzione e abbiamo ottenuto la conclusione.
E ora a ognuna di quelle mappe di caratteristiche che otteniamo Abbiamo applicato il Pullinger.
Quindi abbiamo fatto questi due passaggi di evoluzione e di condivisione e ora faremo qualcosa di molto
divertente, qualcosa di eccitante.
quindi questo è uno screenshot che ho preso da uno strumento creato da Adam Harley nel lontano passato quando
era alla Ryerson University di informatica e ora è al Carnegie Mellon che penso stia facendo la sua pagina.
Sperimenteremo con questo,
E un ottimo strumento quindi apriamoci diamo un'occhiata.
Così puoi trovarlo puoi trovarlo effettivamente tramite Google.
Devi conoscere il tuo ruolo.
È come è difficile trovarlo tramite Google perché non c'è testo qui come lo eravamo solo quest'anno.
Vedrò di iniziare il dossier Reierson e questa roba.
In pratica, questo è esattamente ciò che stiamo facendo, ma visualizziamo. Quindi qui devi disegnare un
numero così dire che disegno il numero quattro e questo strumento inserirà il numero quattro qui.
Questa è la tua immagine.
Nel nostro primo passo, questo è il passo della convoluzione.
Destra.
E questo è il passo di raggruppamento e anche il raggruppamento tra l'altro è anche chiamato downsampling.
Quindi tirare e downsampling sono le stesse cose.
Quindi puoi vedere che è la convoluzione applicata, quindi viene applicata la condivisione e puoi vedere come funziona esattamente.
Puoi vedere che tipo di convinzioni ha applicato o che tipo di filtri è applicato a
cosa assomigliano.
Quali caratteristiche sta cercando.
E poi viene applicato il pooling in modo che riduca le dimensioni e puoi vedere qui che questo è importante.
Quindi puoi vedere che questa è l'immagine convoluta e questa è l'immagine puled e puoi ancora vedere le stesse
caratteristiche sono solo meno informazioni, ma le stesse funzioni sono mantenute.
Questa è la parte importante.
E inoltre, se sai che tutti e quattro erano un po 'troppo simili a quelli ruotati un po' di lato, sarebbe
comunque in grado di raccogliere Lares molto simile alla piscina.
E poi dopo ci sono altre lettere di cui non abbiamo ancora parlato.
Quindi ha un altro convoluogo, una tana convoluzionale, che in realtà non avremo.
E poi ha un altro povero covo, ma sta praticamente ripetendo lo stesso processo.
E poi dopo questo è quello che parleremo più avanti nel corso.
Ha il Lares pienamente connesso e così via.
Ma puoi sicuramente giocare con quello.
Quindi se cancelli quello che ti piace se disegno un 7 vedrai che in realtà ti dice che l'ipotesi è un'ipotesi è che
questo è un 7.
E la seconda ipotesi è che la seconda verosimiglianza è tre.
Quindi puoi disegnare alcune cose stimolanti e vedere se può prenderle.
Quindi diciamo che se disegno qualcosa che assomiglia a uno 0 ma non è finito 0 lo riprenderà questa volta
non lo raccolse.
Sembra un 9 per quello all'immagine.
E se mi piacerebbe finirlo in quel modo.
Quindi ora pensa che sia uno 0 o un 9 e puoi vedere là cosa sta accendendo lo 0.
Ma parleremo di quella parte per il dubbio.
Ne parliamo ancora uno come 8.
Penso che sia abbastanza difficile per questo ora ha raccolto un 8.
Quindi puoi vedere che entra in un 8 e poi come dopo che smette di essere riconoscibile le
fermate hanno senso per noi umani.
Destra.
Queste funzionalità con cui sta lavorando.
Ma allo stesso tempo riconosce correttamente che è un 8.
Quindi, sicuramente gioca con questo, puoi disegnare una faccina sorridente.
Cosa succede allora.
Sembra un terzo a questo strumento perché lo strumento è ovviamente addestrato solo su cifre da
0 a nove.
Quindi deve riconoscere qualcosa ci sono quelli e riconosce un tre è come nella vita quando tu quando vedi qualcosa come un
tipo di frutto che non hai mai visto prima come una crema pasticcera o qualcosa del genere e pensi che sia
come se fosse un pera perché non ne hai mai visto uno prima di non sapere come classificarlo come
la stessa cosa qui, quindi non è stato addestrato su faccine ed è per questo che pensa
che sia un albero come un albero.
sarà utile per giocarci davvero quando metti il ​​mouse sopra un pixel pixel che mostrerà.
Quindi, ecco un potente strumento molto potente che ti
Ti mostra il punto in cui il rilevatore di caratteristiche è stato in grado di rilevare quel pixel in modo da
poter vedere da dove provengono quei pixel e puoi anche vedere come il filtro è come guardare
l'immagine esattamente di come abbiamo parlato e ovviamente e qui puoi vedere che
puoi vedere il raggruppamento in cui puoi vedere che la trazione è fatta con il tiro è fatto con una piccola dimensione quadrata di due a due e puoi
vedere che è un passo falso di due, proprio come abbiamo discusso nel tutorial di oggi.
Quindi vai a giocare o divertiti con questo e spero che ti sia piaciuta la sessione di oggi.
Non vedo l'ora di vederti la prossima volta.
E fino ad allora godere di un apprendimento profondo.