Bonjour et bienvenue au cours sur l'apprentissage en profondeur aujourd'hui, nous parlons de la mise en commun
Max et nous avons quelques diapositives très intéressantes à venir.
Et même une surprise spéciale à la toute fin du tutoriel.
Alors, commençons.
La première question est: qu'est-ce que la mise en commun et pourquoi en avons-nous besoin?
Eh bien, pour répondre à cette question, regardons ces images sur ces images.
Nous avons un guépard.
En fait c'est exactement le même guépard que sur la première image.
Cette image est correctement positionnée et elle vous regarde directement sur la deuxième image.
C'est un peu tourné.
Et la troisième image un peu écrasée.
Nous souhaitons que le réseau de neurones soit capable de reconnaître le guépard dans chacune de
ces images.
En fait, ce n'est qu'un guépard.
Et si nous avons beaucoup de tireurs différents.
Voici un guépard.
C'est un guépard.
Voici un autre guépard son Ashira son guépard Ishida et lui un guépard et nous voulons que
le réseau de neurones reconnaisse tous ces tireurs comme des tricheurs et comment peut-il le faire si ils regardent tous dans des directions différentes
image ils sont comme leurs visages sont positionnés dans différentes parties de l'image quelqu'un est sur
le côté droit quelqu'un dans le coin gauche ou quelqu'un au
milieu.
Ils sont tous un peu différents et la texture est un peu différente.
L'éclairage est un peu différent.
Il y a beaucoup de petites différences et si le réseau de neurones recherche exactement une
certaine caractéristique, par exemple, une caractéristique distinctive du guépard est constituée par les larmes qui coulent sur son visage ou par l'ombre pure de The
Shadow qui ressemble à des larmes. le motif qui passe de ses yeux vers le bas est sur
les côtés de son nez et ressemble à des larmes qui est une caractéristique distinctive du guépard.
Mais si vous recherchez cette fonctionnalité qui a été apprise par certains guépards dans un emplacement exact ou une forme
ou une texture exacte, il ne trouvera jamais ces autres tireurs.
Nous devons donc nous assurer que notre réseau de neurones a une propriété appelée invariance spatiale, ce qui signifie qu’il ne se soucie
pas de savoir où se trouvent les caractéristiques, pas moins que de vouloir démanger quelle partie de l’image parce que nous en avons pris le genre
En tenant compte de notre carte, nous sommes médiocres avec notre convolution, mais il n’a pas
à se soucier de savoir si les caractéristiques sont un peu inclinées si les caractéristiques sont un peu différentes
en texture si les caractéristiques sont un peu plus proches ou plus éloignées. par rapport à par rapport à l'autre.
Donc, si la fonctionnalité elle-même est un peu déformée, notre réseau de neurones doit avoir un certain niveau de
flexibilité pour pouvoir toujours la trouver.
Et c'est ce que la mise en commun est tout au sujet.
Voyons donc comment fonctionne la mise en commun.
Voici notre carte des fonctionnalités, nous avons donc déjà terminé notre convolution et avons terminé cette partie. Nous y
travaillons maintenant avec la convolution.
Nous allons maintenant appliquer la mise en commun.
Alors, comment ça marche.
Nous allons appliquer la mise en commun.
Il y a plusieurs types de jeu différents, ce qui signifie la mise en commun de Max mise en commun et
commentera ceux vers la fin de l'histoire.
Mais pour l’instant, nous appliquons simplement le pooling maximum, nous prenons donc une boîte de deux pixels sur deux comme celle-ci et, encore une
fois, il n’est pas nécessaire que ce soit une taille de deux
par deux. Tauriel et vous le placez dans le coin supérieur gauche et vous trouvez la valeur maximale dans cette case, puis
vous n'enregistrez que cette valeur et vous ne tenez pas compte des trois autres.
Donc, dans votre boîte, vous avez quatre valeurs dont vous ne tenez pas compte. Vous ne gardez qu'une seule valeur maximale,
qui est une dans ce cas.
Ensuite, vous déplacez votre case à droite par foulée et sélectionnez à nouveau la foulée.
Nous glissons donc ici à pas de deux et c’est ce que vous pouvez normalement dire, vous pouvez le dire comme un pas
que vous pouvez sélectionner.
Donc, il y a des cases qui se chevauchent et vous pouvez choisir n'importe quel type de frappe que vous aimez même
trois, mais nous sélectionnons une foulée de deux ici et c'est ce qui est couramment utilisé.
Et ensuite, vous répétez la procédure suivante, vous enregistrez cette maxime si vous passez outre et que vous importez peu,
vous continuez simplement à faire ce que vous faites.
Donc, vous enregistrez toujours le maximum ici 0 ici le maximum est quatre.
Voici les maximums pour que le maximum soit 1 0 1 ou 2 puis 1.
Donc, comme vous pouvez le voir, quelques événements se sont produits.
Tout d'abord, nous avons encore réussi à préserver les fonctionnalités.
Les nombres maximums qu’ils représentent parce que nous savons comment fonctionne la conclusion Lehre.
Nous savons que les nombres maximaux ou importants de votre carte de caractéristiques représentent l'endroit où vous
avez trouvé la similarité la plus proche d'une caractéristique.
Mais en regroupant ces fonctionnalités, nous éliminons tout d’abord 75% des informations qui ne sont
pas des fonctionnalités importantes, mais qui ne sont pas des éléments importants que nous recherchons, car nous n’avons en
réalité que trois pixels sur quatre. .
Nous n'obtenons donc que 25%.
Et puis aussi parce que nous prenons le maximum de pixels que nous ou les valeurs que nous
avons, nous comptabilisons donc toute distorsion.
Ainsi, par exemple, deux images dans lesquelles, par exemple, les larmes du tricheur sur les yeux se trouvent dans l’image un peu à gauche ou légèrement
tournée vers la gauche et une autre un peu plus bas.
Et sont comment ils sont censés être ou comment nous aimons si vous prenez l'un comme bases et un autre il y
a des bits tournent à gauche.
La fonction puled sera exactement la même.
Vous pouvez donc voir ici que si nous parlons des larmes du tricheur, alors disons qu'il s'agit du quatre et que c'est
là qu'il se trouvait ici, s'il y avait une rotation.
Ainsi, par exemple, les quatre se sont retrouvés ici.
Ensuite, lors de la mise en commun, nous obtiendrons toujours la même carte de fonctionnalités de pool, et c'est en
quelque sorte le principe qui la sous-tend.
C'est une explication très grossière, encore une fois, une explication intuitive, mais c'est le point essentiel
de la mise en commun que nous sommes toujours en mesure de préserver les fonctionnalités et de prendre en compte leur possible
distorsion spatiale, texturale ou autre.
Et en plus de tout cela, nous réduisons la taille donc il y a un autre avantage.
Nous avons donc préservé les caractéristiques que nous introduisons en invariants spatiaux, nous avons réduit
la taille de 75%, ce qui est énorme, ce qui nous aidera vraiment en termes de traitement.
De plus, la mise en commun a un autre avantage: nous réduisons le nombre de paramètres. Nous réduisons
donc à nouveau de 75% ou le nombre de paramètres qui seront intégrés à
notre réseau final de neurones, ce qui évite les surajustements.
La mise en commun est un avantage très important de supprimer des informations et c'est une bonne chose.
C’est une bonne chose, car ainsi notre modèle ne pourra pas trop s’adapter à cette information, car
surtout parce que cette information n’est pas bonne
et que exactement les caractéristiques plutôt que tout ce bruit qui vient
dans nos yeux.
Même chose pour les réseaux de neurones, ils ignorent la formation inutile non importante
que nous aidons à prévenir les sur-ajustements.
Nous y voilà donc en quoi consiste la mise en commun.
Et la question qui se pose ici est bien sûr de savoir pourquoi la mise en commun WiMax offre de nombreux types de mise
en commun et une foulée large et large d’une taille trop large de deux par deux pixels.
Et sur cette note, je voudrais vous présenter ce beau document de recherche intitulé Evaluation des opérations de mise
en commun dans les architectures convolutionnelles pour la reconnaissance d’objets par Dominic Scherrer de l’Université
de Bonn.
Il existe un lien et la beauté de ce document est qu’il est très simple, très simple. Si vous n’avez
jamais lu un document de recherche avant ce que vous souhaitez essayer.
C'est un excellent endroit pour commencer c'est très court.
Seulement 10 pages.
Très facile à lire.
De plus, l'avantage supplémentaire étant que, maintenant que nous avons parlé de convolution et de mise en commun, vous serez
totalement à l'aise avec tout ce dont ils parlent dans ce document.
C’est un excellent moyen de renforcer et je recommande également vivement de consulter ce document.
Je vais prendre 20 minutes pour le lire et vous pouvez même sauter la partie 2, intitulée Travail connexe, si elle vous
semble un peu prétentieuse ou aliénante.
Il suffit de ne pas lire cette partie.
Allez directement de la partie 1 à la partie 3.
Et une chose que vous devez savoir à propos de ce document est qu'ils parlent d'un concept appelé sous-échantillonnage qui
est un sous-échantillonnage est essentiellement la mise en commun moyenne.
Alors rappelez-vous comment nous prenions ici.
Nous prenons le maximum.
Ainsi, dans notre position carrée prenant la valeur maximale, il existe un concept appelé pooling moyen ou tirant quelques-uns tirant
car vous montez juste certaines de ces valeurs en pooling moyen ou pooling moyen, vous prenez la valeur moyenne
de tout cela et le sous-échantillonnage est un peu comme une généralisation des hommes qui se regroupent.
C'est une approche plus généralisée de la moyenne de ces valeurs.
Et vous pouvez en lire un peu plus sur le journal, mais sinon, considérez-le comme une mise en commun moyenne lorsque
vous lisez un journal.
Et c’est là que vous pouvez obtenir des informations supplémentaires sur ce sujet et récapitulons maintenant où
nous en sommes arrivés.
Donc, il y a notre image d'entrée.
Ensuite, nous avons appliqué l'opération de convolution et nous avons obtenu la conclusion.
Et maintenant, à chacune de ces cartes de caractéristiques que nous obtenons, nous avons appliqué le Pullinger.
Nous avons donc fait ces deux étapes d’évolution et de mise en commun et maintenant nous allons faire quelque chose de
très amusant et d’excitant.
Nous allons expérimenter cela, donc voici une capture d’écran que j’ai réalisée à partir d’un outil créé par Adam Harley à
l’université des sciences informatiques de Ryerson et qui se trouve maintenant à Carnegie Mellon, je crois, en train de
faire sa page.
Et un excellent outil alors ouvrons-nous, jetons un coup d'oeil.
Vous pouvez donc le trouver grâce à Google.
Vous devez connaître votre rôle.
C'est difficile à trouver avec Google, car il n'y a pas de texte, car nous ne l'étions que cette année.
Je vais voir commencer le dossier Reierson et ce genre de choses.
Et fondamentalement, c’est exactement ce que nous faisons mais nous visualisons: ici, vous devez donc dessiner
un nombre, alors dites-le je dessine le nombre quatre et cet outil placera le nombre quatre ici.
C'est ton image.
Dans notre première étape, il s'agit de l'étape de convolution.
Droite.
Et c’est l’étape de la mise en commun, et cette mise en commun est également appelée réduction d’échantillonnage.
Tirer et sous-échantillonner sont donc les mêmes choses.
Ainsi, vous pouvez voir que la convolution est appliquée, puis la mise en pool appliquée, et vous pouvez voir comment cela fonctionne exactement.
Vous pouvez voir quel type de convolutions il a appliqué ou quels types de filtres il est appliqué à quoi
ils ressemblent.
Quelles sont les fonctionnalités à la recherche.
Ensuite, le pooling est appliqué afin de réduire la taille et vous pouvez voir ici que c'est important.
Ainsi, vous pouvez voir qu’il s’agit de l’image convolue et de l’image puled et que vous pouvez toujours voir que les mêmes
caractéristiques sont juste moins d’informations, mais que les mêmes caractéristiques sont conservées.
C'est la partie importante.
Et de plus, si vous saviez que si les quatre joueurs étaient un peu trop gentils, ils seraient tout
de même capables d’obtenir une piscine très similaire, Lares.
Et après cela, nous avons reçu plus de lettres dont nous n’avons pas encore parlé.
Alors, il a ici un autre repaire convolutionnel que nous n’aurons pas réellement.
Et puis il a un autre repaire pauvre mais il est fondamentalement en train de répéter le même processus.
Et ensuite, c'est ce dont nous allons parler plus loin dans le cours.
Il a les Lares entièrement connectés et ainsi de suite.
Mais vous pouvez certainement jouer avec ça.
Donc, si je supprime ce que vous aimez si je dessine un 7, vous verrez que cela vous indique en fait que vous devez deviner
que c’est un 7.
Et la deuxième hypothèse, la deuxième probabilité est trois.
Ainsi, vous pouvez dessiner des choses difficiles et voir si cela peut les récupérer.
Donc, disons que si je dessine quelque chose qui ressemble à un 0 mais que ce n'est pas un 0 fini, est-ce qu'il le reprendra cette fois-ci
ne le prendra pas.
On dirait un 9 à cela à l'image.
Et si j'aimais bien finir comme ça.
Alors maintenant, il pense que c'est un 0 ou un 9 et vous pouvez voir là-bas ce qui éclaire le 0.
Mais nous allons parler de cette partie pour le doute.
Faites-en une de plus, disons comme 8.
Je pense que c'est assez difficile pour cela maintenant pris un 8.
Vous pouvez donc voir que cela va dans un 8 et ensuite comme après que ça cesse d'être reconnaissable, les arrêts
ont un sens pour nous, humains.
Droite.
Ces fonctionnalités avec lesquelles cela fonctionne.
Mais en même temps, il reconnaît correctement que c’est un 8.
Alors, jouez avec ça, vous pouvez dessiner un visage souriant.
Qu'est-ce qui se passe ensuite.
Cela ressemble à un trois pour cet outil car l'outil est évidemment formé uniquement sur les chiffres de 0
à neuf.
Donc, il faut reconnaître quelque chose et reconnaître un trois c'est comme dans la vie quand vous voyez quelque chose comme un type de fruit
que vous n'avez jamais vu auparavant comme une pomme à la crème ou quelque chose et que vous pensez que c'est comme si c'était
comme si c'était un pear parce que vous n'en avez jamais vu auparavant, vous ne savez pas quoi classer ici comme
étant identique, de sorte qu'il ne s'est pas vraiment entraîné sur les smileys et c'est pourquoi il pense
que c'est un arbre comme un arbre.
Donc voilà, c'est un outil très puissant et puissant, il vous sera utile de le jouer lorsque
vous placez votre souris sur un pixel pixel qui apparaîtra.
Il vous montre où le détecteur de caractéristiques devait capturer ce pixel pour que vous puissiez voir d'où venaient ces pixels
et aussi pour voir comment le filtre ressemblait à parcourir l'image exactement comme nous en avions parlé et
bien sûr et ici. vous pouvez voir que vous pouvez voir la
mise en commun, vous pouvez voir que le tirage est fait avec le tirage se fait avec un petit carré de deux par deux et vous pouvez voir que
c'est une foulée de deux aussi bien que nous avons discuté dans le tutoriel d'aujourd'hui.
Alors allez jouer ou amusez-vous avec ça et j'espère que vous avez apprécié la session d'aujourd'hui.
J'ai hâte de vous voir la prochaine fois.
Et jusque-là, profitez d'un apprentissage en profondeur.