WEBVTT 00:00.420 --> 00:05.070 Hallo en welkom terug bij de cursus over Deep Learning vandaag, we zijn eindelijk bij stapnummer voor 00:05.070 --> 00:05.900 volledige verbinding. 00:06.210 --> 00:07.870 Dus waar gaat deze stap over? 00:08.310 --> 00:16.950 In deze stap voegen we een heel kunstmatig neuraal netwerk toe aan ons convolutionele neurale netwerk. 00:16.950 --> 00:22.770 Dus aan alle dingen die we tot nu toe hebben gedaan, namelijk convolutiepooling en afvlakking, voegen we 00:22.770 --> 00:24.750 nu een geheel nieuwe toe. 00:24.780 --> 00:28.920 En dan, daarachter, hoe intens is dat? 00:28.920 --> 00:32.150 Dat is gewoon dat is iets dat zeker iets is. 00:32.460 --> 00:35.130 En hier hebben we de invoerlaag. 00:35.490 --> 00:37.160 We hebben daar een volledig aangesloten LAN-uitgang. 00:37.170 --> 00:43.290 Trouwens, de volledig verbonden laag in kunstmatige neurale netwerken, we noemden ze verborgen lagen en hier noemen 00:43.290 --> 00:47.310 we ze volledig verbonden de hunne omdat het verborgen lagen zijn. 00:47.310 --> 00:51.120 Maar tegelijkertijd zijn het een specifieker type verborgen lagen. 00:51.120 --> 00:53.850 Er zijn volledig verbonden lagen in kunstmatige neurale netwerken. 00:55.470 --> 00:59.940 Verborgen lagen hoeven niet volledig verbonden te zijn, terwijl we in convolutionele neurale netwerken 00:59.940 --> 01:01.920 volledig verbonden lagen gaan gebruiken. 01:01.920 --> 01:05.220 En daarom worden ze over het algemeen volledig verbonden lagen genoemd. 01:05.660 --> 01:11.550 En dus eigenlijk die hele kolom of vector met output die we hebben na het afvlakken, we geven het door aan de input 01:11.550 --> 01:13.080 die we hier hebben geleerd. 01:13.080 --> 01:20.610 We hebben een zeer vereenvoudigd voorbeeld alleen ter illustratie en wat het belangrijkste doel van het 01:20.610 --> 01:28.350 kunstmatige neurale netwerk is, is om onze functies te combineren tot meer attributen die de klassen nog beter 01:28.350 --> 01:28.920 voorspellen. 01:28.920 --> 01:37.410 Dus we hebben al in onze vector van outputs, in de flattener en op de flattener resultaat van wat we echt hebben 01:37.410 --> 01:37.800 gedaan. 01:37.800 --> 01:44.010 We hebben een aantal kenmerken gecodeerd in de getallen in die vector en ze kunnen waarschijnlijk al redelijk 01:44.010 --> 01:51.660 goed voorspellen wat Closs is waar we naar kijken, of het een hond of een kat is of dat het een tumor is of 01:51.660 --> 01:53.430 niet, een tumor en spoedig. 01:53.820 --> 01:59.280 Maar tegelijkertijd weten we dat we een structuur hebben die artificieel neuraal netwerk 01:59.280 --> 02:07.320 wordt genoemd, die is ontworpen, die als doel heeft om te gaan met attributen en het bedenken of behandelen van 02:07.320 --> 02:15.720 functies en het bedenken van nieuwe attributen en het combineren van attributen om zelfs dingen die we proberen te voorspellen beter 02:15.720 --> 02:16.560 kunnen voorspellen. 02:16.680 --> 02:18.650 En dat weten we uit de vorige delen. 02:18.650 --> 02:20.010 Dus waarom zou je dat niet benutten? 02:20.280 --> 02:22.640 En dat is precies wat hier het plan is. 02:22.650 --> 02:29.070 Dus wat als we die waarden doorgeven aan een kunstmatig neuraal netwerk en het alles wat we doen nog verder 02:29.070 --> 02:30.000 laten optimaliseren? 02:30.480 --> 02:31.790 En dat gaan we dus doen. 02:31.800 --> 02:36.080 Maar laten we een realistischer voorbeeld bekijken, want deze is iets te simpel. 02:36.480 --> 02:43.920 Dus hier hebben we een beter uitziend kunstmatig neuraal netwerk waar we vijf attributen op de inputs hebben dan in het eerste 02:43.920 --> 02:51.000 jaar, waar we zes neuronen hebben in de tweede of in de tweede volledig verbonden laag, we hebben acht neuronen en 02:51.000 --> 02:55.140 dan we hebben twee uitgangen, één voor hond en één voor kat. 02:55.470 --> 03:02.130 En dus een belangrijk ding om over te praten waar we het hier over hebben, is dat waarom we twee uitgangen hebben? 03:02.140 --> 03:06.810 We zijn een beetje gewend om slechts één uitgang te hebben in onze kunstmatige neurale netwerken. 03:06.820 --> 03:13.410 Welnu, één uitvoer is vier soorten wanneer u een numerieke waarde voorspelt, wanneer u een regressietype probleem uitvoert, maar 03:13.500 --> 03:20.010 wanneer u classificatie uitvoert, hebt u een uitvoer per klasse nodig, behalve de uitzondering is wanneer je slechts 03:20.010 --> 03:24.760 twee klassen hebt, zoals we hier twee klassen hebben, een hond en een 03:24.760 --> 03:25.350 kat. 03:25.530 --> 03:31.650 En we hadden gewoon één uitvoer kunnen maken en er een binaire uitvoer van kunnen maken en zeggen dat één een hond is en nul een 03:31.650 --> 03:32.130 kat. 03:32.430 --> 03:33.990 En dat had helemaal goed gekund. 03:33.990 --> 03:38.730 En eigenlijk zie je Hadland dat doen in de praktische tutorials en zo zijn ze 03:38.730 --> 03:39.170 gestructureerd. 03:39.180 --> 03:45.720 Maar tegelijkertijd, als je meer dan twee categorieën hebt, bijvoorbeeld honden, katten en vogels, dan 03:45.720 --> 03:49.230 moet je per categorie een neuron hebben. 03:49.590 --> 03:55.050 En daarom gaan we in dit voorbeeld met twee categorieën oefenen, zodat we weten wat we kunnen 03:55.050 --> 03:59.940 verwachten als we ooit meer dan twee categorieën hebben en dat zou hier gebeuren. 03:59.940 --> 04:02.070 Dus we hebben al het grondwerk gedaan. 04:02.070 --> 04:05.220 We hebben de evolutie gedaan, we hebben de pooling en de flatten gedaan. 04:05.460 --> 04:09.470 En nu gaat de informatie door het kunstmatige neurale netwerk. 04:09.480 --> 04:11.760 Dus laten we eens kijken hoe dat allemaal gebeurt. 04:12.210 --> 04:18.210 Er gaat informatie door vanaf het allereerste begin, vanaf het moment dat het beeld is verwerkt en 04:18.210 --> 04:23.520 vriendelijk, een betrokken blik, dan getrokken, afgeplat en vervolgens door kunstmatige neurale netwerken, alle vier 04:23.520 --> 04:24.270 de stappen. 04:25.080 --> 04:27.630 En dan wordt er een voorspelling gedaan. 04:28.020 --> 04:29.610 En we zullen zo zien hoe dit gebeurt. 04:29.610 --> 04:30.660 We zullen heel, heel interessant zijn. 04:30.660 --> 04:36.180 Maar laten we nu maar zeggen dat er een voorspelling is gedaan en bijvoorbeeld 80 procent dat het een hond 04:36.180 --> 04:40.470 is, maar het blijkt een kat te zijn en dan wordt er een fout berekend. 04:40.540 --> 04:45.450 Een put, wat we vroeger een kostenfunctie noemden in een kunstmatig neuraal netwerk. 04:46.110 --> 04:51.120 En we gebruiken daar de gekwadrateerde fout of vergroten illusionaire neurale netwerken. 04:51.300 --> 04:52.800 Het wordt een verloren functie genoemd. 04:52.800 --> 04:57.570 En daar gebruiken we een kruis-entropiefunctie voor. 04:57.570 --> 04:59.760 En we zullen het hebben over kruis-entropie en kwadratische fouten. 05:00.030 --> 05:05.940 In een aparte tutorial en hoe dat allemaal gebeurt, maar laten we voor nu zeggen dat we een verloren type functie 05:05.940 --> 05:10.680 hebben die ons vertelt hoe goed ons netwerk presteert en we proberen die functie te optimaliseren, 05:10.830 --> 05:13.310 optimaliseren en minimaliseren om ons netwerk te optimaliseren. 05:13.650 --> 05:18.870 Dus we hebben de fouten berekend en dan wordt het terug gepropageerd via het netwerk, net zoals we 05:18.870 --> 05:21.510 hadden in kunstmatige neurale netwerken, wordt het terug gepropageerd. 05:21.510 --> 05:28.560 En hoewel sommige dingen in het netwerk zijn aangepast om de prestaties te helpen optimaliseren en de dingen die dat gewoon zijn, zijn, zoals 05:28.560 --> 05:33.210 gewoonlijk, de gewichten in het kunstmatige neurale netwerk, delen van de blauwe lijnen die je 05:33.210 --> 05:34.620 hier ziet, de synapsen. 05:35.250 --> 05:41.610 Dan nog een ander ding dat is aangepast zijn de feature detectors. 05:41.610 --> 05:46.070 We weten dus dat we op zoek zijn naar functies, maar wat als we op zoek zijn naar de verkeerde functies? 05:46.080 --> 05:49.380 Wat als dit niet lukt omdat de functies niet kloppen? 05:49.380 --> 05:53.130 En dus de kenmerkdetectoren, die herinneren die kleine matrices die we hadden? 05:54.180 --> 05:56.580 Dat zijn de drie bij drie matrices. 05:57.240 --> 06:03.780 Ze zijn aangepast zodat het de volgende keer misschien beter is en laten we eens kijken wat er gebeurt. 06:03.790 --> 06:10.050 En natuurlijk, het is allemaal gedaan met veel wetenschap op de achtergrond van veel wiskunde. 06:10.050 --> 06:14.490 En het is allemaal gedaan door middel van een geweldige gradiëntafdaling met achterwaartse voortplanting. 06:14.490 --> 06:17.880 Dus het zijn allemaal niet zomaar willekeurige verstoringen. 06:17.880 --> 06:20.580 Het is eigenlijk heel goed doordacht hoe het moet. 06:21.120 --> 06:27.570 Maar niettemin worden de kenmerkdetectoren aangepast, de gewichten aangepast, en dit hele proces gebeurt 06:27.570 --> 06:30.690 keer op keer, de fouten, terugpropagatie. 06:30.690 --> 06:32.460 En dit gaat maar door en door. 06:32.610 --> 06:35.100 En zo wordt ons netwerk geoptimaliseerd. 06:35.100 --> 06:37.890 Zo traint ons netwerk op de data. 06:37.890 --> 06:41.970 Dus het belangrijkste hier is dat de gegevens van het begin tot het 06:41.970 --> 06:44.340 einde door het hele netwerk gaan. 06:44.340 --> 06:49.890 Dan worden de fouten vergeleken, de fouten berekend, en dan wordt het weer doorgegeven. 06:49.890 --> 06:56.460 Dus hetzelfde verhaal als bij kunstmatige neurale netwerken alleen wat langer vanwege dat gat voor de eerste drie stappen die 06:56.460 --> 06:57.630 we al hadden. 06:58.890 --> 07:02.430 En laten we nu eens kijken naar het interessante bij het echt interessante deel. 07:02.430 --> 07:07.080 Hoe werken deze twee klassen omdat of hoe werken deze twee output-neuronen? 07:07.080 --> 07:10.350 Want vroeger hadden we altijd een soort van één uitgangsneuron. 07:10.530 --> 07:11.760 Wat gebeurt er als we er twee hebben? 07:11.760 --> 07:17.220 Hoe verloopt een situatie van classificatie van afbeeldingen? 07:17.580 --> 07:18.990 Laten we beginnen met het bovenste neuron. 07:18.990 --> 07:21.150 We beginnen eerst met de hond. 07:21.990 --> 07:28.860 Hoe hebben we het belangrijkste doel, wat we eerst moeten doen, is dat we moeten begrijpen welke gewichten we moeten 07:28.860 --> 07:36.450 toewijzen aan al deze synapsen die verbinding maken met de hond, zodat we weten welke van de eerdere neuronen echt belangrijk zijn voor 07:36.750 --> 07:37.770 de hond. 07:37.770 --> 07:38.850 En laten we eens kijken hoe dat wordt gedaan. 07:38.860 --> 07:46.270 Dus laten we hypothetisch zeggen dat we deze getallen in onze vorige laag hebben, eerder volledig verbonden met de laatste 07:46.310 --> 07:47.820 volledig verbonden laag. 07:48.030 --> 07:50.910 En nogmaals, deze cijfers kunnen van alles zijn. 07:50.910 --> 07:53.790 Ze hoeven niet zo te zijn dat ze elk nummer kunnen zijn. 07:53.790 --> 08:00.750 Maar omwille van het argument gaan we het erover eens zijn dat we specifiek kijken naar getallen tussen nul 08:00.750 --> 08:01.500 en één. 08:02.220 --> 08:04.950 Dus het is gemakkelijker voor ons om deze dingen te beargumenteren en te begrijpen. 08:05.550 --> 08:11.250 En één betekent dat dat neuron er heel zeker van was dat het een bepaald kenmerk vond. 08:11.490 --> 08:16.010 En nul zal betekenen dat dat neuron niet een functie heeft gevonden waarnaar hij op zoek is. 08:16.020 --> 08:23.550 Dus aan het eind van de dag zijn deze neuronen net als al het andere aan deze linkerkant, het kijken naar 08:23.550 --> 08:25.170 kenmerken op een afbeelding. 08:25.380 --> 08:27.450 Dit is al heel erg verwerkt. 08:27.450 --> 08:32.010 Maar het detecteert nog steeds een bepaald kenmerk, een combinatie van kenmerken op de afbeelding. 08:32.010 --> 08:36.870 Vlak voordat we in de Convolve-stap kwamen, hadden we een soort herkenbare kenmerken in de pool-stap. 08:36.870 --> 08:38.040 Ze zijn minder herkenbaar. 08:38.250 --> 08:42.030 Dan worden ze nog minder herkenbaar, zichtbaar in het afgeplatte beeld, en dan worden ze gecombineerd 08:42.030 --> 08:42.390 enzovoort. 08:42.480 --> 08:48.150 Maar toch, hier hebben we het hier over, bepaalde functies die aanwezig zijn in de afbeelding of hun 08:48.150 --> 08:48.690 combinaties. 08:48.690 --> 08:54.450 Dus en een die is doorgegeven en dit is belangrijk, is tegelijkertijd doorgegeven aan zowel de hond 08:54.450 --> 08:56.850 als de kat, aan beide output-neuronen. 08:57.030 --> 09:05.670 Dus één betekent dat voor ons, voor ons argument, het betekent dat dit neuron aan het afvuren is, het detecteert heel snel 09:05.670 --> 09:10.110 dat kenmerk dat, weet je, een wenkbrauw zou kunnen zijn. 09:10.110 --> 09:15.630 Het kan deze wenkbrauw opnieuw detecteren, voor de eenvoud detecteert het deze wenkbrauw en communiceert dat naar het hondenneuron, naar 09:15.810 --> 09:20.010 het kattenneuron dat zegt dat ik mijn wenkbrauw kan zien, ik kan mijn wenkbrauw zien 09:20.010 --> 09:24.990 en dan is het aan de hond in de kattenneuron om te begrijpen wat dat voor hen betekent. 09:25.170 --> 09:25.560 Rechts. 09:25.740 --> 09:28.230 En in dit geval, welke neuronen worden geactiveerd? 09:28.500 --> 09:30.570 Deze drie neuronen activeren de wenkbrauw. 09:30.570 --> 09:35.940 En laten we zeggen dat de neus zegt, ik kan zien dat ik een grote neus kan zien en ik kan slappe oren zien. 09:36.150 --> 09:39.960 Dus en dat zegt hij tegen de hond en tegen de kat en dan? 09:39.960 --> 09:40.490 De hond. 09:40.500 --> 09:43.350 En wat er dan gebeurt, is dat we weten dat dit een hond is. 09:43.350 --> 09:44.940 Dus het hondenneuron weet dat. 09:44.940 --> 09:52.200 Het antwoord is dat het eigenlijk een hond is, want uiteindelijk vergelijken we met de foto of het label op de foto en 09:52.200 --> 09:53.580 we kennen de hond. 09:53.590 --> 09:58.530 Dus eigenlijk gaan de hondenneuronen zeggen: aha, dus in dit geval zou ik getriggerd moeten worden. 09:58.710 --> 09:59.580 Dit zijn dus. 09:59.690 --> 10:05.660 Mijn neuronen vertellen dit signaal dat ze naar mij sturen naar de hond en de kat is eigenlijk 10:05.660 --> 10:08.920 een indicatie voor mij dat het een hond is. 10:08.930 --> 10:13.520 En tijdens deze vele herhalingen van dit gebeurt, zal de hond 10:13.520 --> 10:19.340 vaak leren dat deze neuronen inderdaad worden geactiveerd wanneer de functie van een hond is. 10:19.530 --> 10:24.200 Aan de andere kant zal het kattenneuron weten dat het geen kat is en het zal weten dat deze 10:24.200 --> 10:28.580 visser aan het schieten is en dit neuron vertelt me dat het slappe oren, slappe oren, slappe 10:28.580 --> 10:30.980 oren kan zien, maar tegelijkertijd is het geen kat. 10:30.990 --> 10:35.600 Dus eigenlijk is dat voor mij een signaal dat ik dit neuron zou moeten negeren. 10:35.750 --> 10:40.940 En hoe meer dat gebeurt, hoe meer het kattenneuron dit neuron over de slappe oren gaat 10:40.940 --> 10:41.300 negeren. 10:42.320 --> 10:49.000 En dus eigenlijk dat dat gehuil is door heel veel iteraties als dit vaak gebeurt. 10:49.010 --> 10:50.020 Dit is dus slechts één voorbeeld. 10:50.030 --> 10:53.930 Maar als dit vaak gebeurt, is het een misschien nul punt acht nul punt negen, misschien zal het soms 10:53.930 --> 10:54.380 niet afgaan. 10:54.380 --> 11:01.100 Maar over het algemeen licht dit neuron gemiddeld heel vaak op als het inderdaad een hond is. 11:01.100 --> 11:05.840 Het hondenneuron zal meer belang gaan toekennen aan dit neuron. 11:05.840 --> 11:06.530 En daar gaan we dan. 11:06.530 --> 11:08.360 Dat is hoe we het gaan aanduiden. 11:08.360 --> 11:14.180 We gaan zeggen dat deze drie neuronen, door dit iteratieve proces met vele, vele, vele, vele steekproeven 11:14.180 --> 11:19.070 en vele, vele tijdperken, onthoud, dus steekproef is een rol in uw dataset. 11:19.070 --> 11:23.060 Een tijdperk is wanneer je je hele dataset keer op keer doorloopt. 11:23.240 --> 11:24.920 Er zijn heel veel iteraties. 11:25.100 --> 11:33.950 Dit hondenneuron heeft geleerd dat dit wenkbrauwneuron en dit grote neusneuron en dit slappe oorneuron allemaal 11:34.220 --> 11:43.510 erg goed lijken bij te dragen aan de classificatie van wat het zoekt en wat een hond is. 11:44.390 --> 11:45.440 Zo werkt het dus. 11:45.590 --> 11:55.070 En nogmaals, deze jaren en neus en wenkbrauwen, dat zijn zeer, zeer benaderende of zeer vergezochte voorbeelden, want in dit 11:55.070 --> 12:01.580 stadium in dit hele convolutionele convolutionele neurale netwerk, is het een volledig onherkenbaar 12:01.580 --> 12:03.470 wat ze zoeken. 12:03.470 --> 12:08.770 Maar tegelijkertijd is het iets in de kenmerken van honden of katten of wat je ook classificeert. 12:09.260 --> 12:11.120 En dan gaan we door naar de volgende. 12:11.120 --> 12:12.470 Nu gaan we kijken naar het kattenneuron. 12:12.470 --> 12:17.840 Maar deze gaan we onthouden dat deze gewichten zijn weet je, ze hebben we de hond uitgezocht. 12:17.840 --> 12:22.070 Dus de hond negeert min of meer al deze andere neuronen, één, twee, drie, vier of 12:22.070 --> 12:22.520 vijf. 12:22.700 --> 12:26.690 Maar het besteedt echt aandacht aan wat deze drie neuronen nu zeggen. 12:26.690 --> 12:28.100 Waar luistert de kat naar? 12:28.370 --> 12:31.250 Nou, als het eigenlijk een kat is, toch. 12:33.040 --> 12:35.510 Dit is dit is een voorbeeld van een situatie waarin het eigenlijk een kat is. 12:35.520 --> 12:42.410 Dus je zult zien dat deze neuronen, nul punt negen nul punt negen en één, iets zeggen. 12:42.440 --> 12:44.540 Ze zeggen iets tegen zowel de hond als de katten. 12:44.540 --> 12:45.710 En dit is, nogmaals, belangrijk om te onthouden. 12:45.720 --> 12:48.560 Dit uitgangssignaal gaat dus beide kanten op. 12:48.560 --> 12:49.450 Het is hetzelfde, toch? 12:49.460 --> 12:52.580 Het is één tegen de hond zeggend één, twee tegen de kat. 12:52.580 --> 12:58.790 Maar dan is het aan de hond en de kat om te beslissen of ze rekening houden met dat signaal en ervan 12:58.790 --> 12:59.870 leren of niet. 13:00.350 --> 13:03.770 En zowel de hond als de kat kunnen zien dat dit een foto is. 13:04.010 --> 13:06.980 Ik had hier een foto van een kat moeten plaatsen, maar stel je eigenlijk een foto van een kat voor. 13:06.980 --> 13:09.800 Zowel de hond als de kat kunnen zien dat dit eigenlijk een kat is. 13:10.100 --> 13:13.010 Dus eigenlijk is de hond als, oh, oké. 13:13.010 --> 13:21.880 Dus deze snorharen en deze puntige driehoekige oren en dit kleine formaat, denk ik, of ik weet het niet. 13:21.900 --> 13:26.360 Oh, misschien deze keer, je weet hoe katten deze dingen in hun ogen hebben. 13:26.360 --> 13:28.220 Hun ogen zijn net klein. 13:28.220 --> 13:33.290 Het zijn geen cirkels, het zijn lijnen of zoiets als kattenogen. 13:33.290 --> 13:37.400 Eigenlijk deze kattenogen, ze werken absoluut niet voor mij. 13:37.400 --> 13:42.920 Ze helpen me niet te voorspellen, want elke keer dat deze neuronen oplichten, is de voorspelling niet wat 13:42.920 --> 13:43.820 ik zoek. 13:44.150 --> 13:46.820 Aan de andere kant heeft de kat zoiets van, hmm, dat is interessant. 13:46.820 --> 13:51.320 Elke keer als deze licht deze op of meestal licht hij op. 13:51.500 --> 13:53.810 Het komt overeen met mijn verwachting. 13:53.810 --> 13:55.250 Het komt overeen met wat ik zoek. 13:55.250 --> 13:58.880 Oké, ik ga meer naar deze man luisteren dan naar deze, dit ene zelfde ding. 13:58.880 --> 14:01.640 Elke keer dat het oplicht of meestal licht het op. 14:02.720 --> 14:09.050 Ik krijg toevallig een goede. Ik word toevallig beloond voor mijn voorspelling omdat ik het goed heb. 14:09.050 --> 14:09.680 Het is een kat. 14:09.680 --> 14:11.080 Oké, dus ik ga meer naar hem luisteren. 14:11.300 --> 14:18.020 Weet je, deze is nutteloos voor mij omdat hij niet echt, weet je, zoals hij is, hij steekt niet eens op. 14:18.020 --> 14:19.880 Het is een kat, maar hij licht niet op. 14:19.880 --> 14:20.960 Het tegenovergestelde gebeurt dus. 14:20.960 --> 14:23.420 En deze ook, het is een kat, maar hij licht niet op. 14:23.420 --> 14:24.350 Dus ik ga niet naar hem luisteren. 14:24.350 --> 14:27.530 Maar deze, wanneer hij wanneer wat is dit? 14:27.530 --> 14:29.150 De ogen, de kattenogen lichten op. 14:29.750 --> 14:31.760 We kunnen zien dat ik kan zien dat het een kat is. 14:31.760 --> 14:33.230 Het komt meestal overeen. 14:33.230 --> 14:34.340 Dus daar ga ik van leren. 14:34.490 --> 14:38.690 En ik ga vaker naar deze drie jongens luisteren. 14:38.690 --> 14:42.710 Dus eigenlijk luistert de kat naar deze drie en negeert hij de andere vijf. 14:43.100 --> 14:53.630 En zo leren deze laatste neuronen naar welke neuronen in de laatste volledig verbonden laag ze moeten luisteren. 14:53.630 --> 14:58.160 Dus de output-neuronen leren welke van de volledig of welke van de laatste volledig zijn verbonden. 14:58.610 --> 15:04.430 Het zijn neuronen om naar te luisteren, en dat is hoe ze begrijpen dat dit de manier is waarop 15:04.430 --> 15:08.580 de functies door het netwerk worden gepropageerd en naar de uitvoer worden overgebracht. 15:08.810 --> 15:13.850 En hoewel deze kenmerken natuurlijk niet zo veel betekenis voor hen hebben, zoals 15:13.850 --> 15:21.020 slappe oren of snorharen, hebben ze toch een aantal onderscheidende kenmerken, ze zijn een onderscheidend kenmerk van die specifieke 15:21.020 --> 15:21.800 klasse. 15:21.800 --> 15:26.840 En zo wordt het netwerk getraind, want ook tijdens het onthouden, tijdens het 15:26.840 --> 15:29.690 terugvermeerderingsproces, passen we ook de kenmerkdetectoren aan. 15:29.690 --> 15:36.740 Dus als een functie nutteloos is voor de uitvoer, wordt deze waarschijnlijk genegeerd omdat dit niet over een of 15:36.740 --> 15:38.270 twee verhalen gebeurt. 15:38.270 --> 15:40.700 Dit gebeurt door duizenden en duizenden iteraties. 15:40.940 --> 15:46.250 Dus na verloop van tijd zal een functie die nutteloos is voor het netwerk worden genegeerd en vervangen door 15:46.250 --> 15:47.120 nuttige functies. 15:47.120 --> 15:53.510 En dus aan het eind van de dag, in deze laatste laag neuronen, heb je waarschijnlijk 15:53.510 --> 16:00.470 veel kenmerken of combinaties van kenmerken van de afbeelding die inderdaad representatief of beschrijvend zijn voor honden en katten. 16:01.590 --> 16:06.560 En als je netwerk eenmaal is getraind, wordt het zo toegepast. 16:06.590 --> 16:08.780 Dit is dus de volgende stap, alsof we ons netwerk al hebben getraind. 16:08.780 --> 16:09.560 Zal dit dit jaar gebeuren? 16:09.560 --> 16:12.950 Wat gebeurt er als dit netwerk wordt toegepast? 16:12.950 --> 16:14.950 Dus laten we zeggen dat we een afbeelding van een hond doorgeven. 16:16.340 --> 16:18.950 De waarden worden verspreid via een netwerk. 16:18.950 --> 16:20.080 We krijgen bepaalde waarden. 16:20.480 --> 16:24.890 En deze keer weten de honden- en de kattenneuronen het niet. 16:24.890 --> 16:26.690 Ze hebben hier niet het beeld van de hond. 16:26.690 --> 16:28.400 Ze weten niet dat het een hond of een kat is. 16:28.400 --> 16:29.600 Ze hebben geen idee wat het is. 16:29.900 --> 16:35.310 Maar ze hebben geleerd te luisteren naar wat hier getoond wordt. 16:35.630 --> 16:39.060 Ze hebben geleerd naar de hond te luisteren en naar deze drie neuronen te luisteren. 16:39.060 --> 16:40.590 Het kattenneuron luistert naar deze drie. 16:40.760 --> 16:44.560 En dus kijkt het hondenneuron naar één, twee, drie en zegt: oh, deze zijn behoorlijk hoog. 16:44.840 --> 16:47.480 Dus mijn kans is groot dat het de hond is. 16:47.750 --> 16:52.880 Het kattenneuron kijkt naar deze drie en zegt: OK, deze is behoorlijk hoog, maar deze zijn behoorlijk 16:52.880 --> 16:53.270 laag. 16:53.550 --> 16:54.230 Interessant. 16:54.240 --> 16:59.520 Dus mijn kans wordt nul komma nul vijf en en dan en dat is en daar krijg je je 16:59.520 --> 17:00.020 voorspelling. 17:00.030 --> 17:04.460 Dus dan is je eerste keuze voor dit neurale netwerk een hond. 17:04.460 --> 17:05.630 Tweede keus is kat. 17:05.630 --> 17:06.830 En dat is het zo'n beetje. 17:06.860 --> 17:07.880 Dus het antwoord is hond. 17:08.300 --> 17:14.810 En hetzelfde gebeurt als je een afbeelding van een kat doorgeeft, je krijgt nieuwe waarden en je kunt zien dat hoewel deze 17:14.810 --> 17:16.340 hoger is, deze laag zijn. 17:16.610 --> 17:20.360 En voor de kat, deze is hoger, deze is hoger, en deze is een beetje laag. 17:20.540 --> 17:23.900 Dus de kans is hier misschien niet zo groot als voorheen. 17:23.900 --> 17:26.560 Maar toch, je kunt zien dat het een kat is van 79 procent. 17:26.780 --> 17:30.020 En daarom gaat het neurale netwerk stemmen dat het een kat is. 17:30.200 --> 17:32.970 En dus zal het hele neurale netwerk concluderen dat het een kat is. 17:33.230 --> 17:36.230 Stemmen is een term die voor deze jongens wordt gebruikt. 17:36.240 --> 17:42.560 Dus deze neuronen in de laatste volledig verbonden laag mogen stemmen en dit zijn hun stemmen. 17:42.740 --> 17:47.120 En nogmaals, we zijn alleen maar ter wille van het argument, en plaatsen hier waarden tussen nul en één. 17:47.120 --> 17:54.410 Dit kunnen alle waarden zijn, maar ze mogen stemmen en dan zijn deze gewichten het belang van hun stem. 17:54.450 --> 18:01.640 Dit zijn deze paarse gewichten, hoe het hondenneuron hun stemmen ziet, hoeveel belang het aan deze 18:01.790 --> 18:04.750 neuronen en aan die stemmen toekent. 18:04.760 --> 18:12.670 En dit is hoeveel belang het kattenneuron aan deze stemmen toekent, zijn de stemmen van deze neuronen. 18:12.680 --> 18:16.610 En dus stemmen deze neuronen de hond in de katten op basis van hun geleerde gewichten. 18:16.610 --> 18:20.840 Ze beslissen naar wie ze luisteren en dan doen ze hun voorspellingen en houden ze vast. 18:20.840 --> 18:24.140 Neurale netwerk concludeert dat dit in dit geval een kat is. 18:24.500 --> 18:26.930 En dan is dat en dan is dat je conclusie. 18:26.930 --> 18:34.710 En zo krijg je beelden zoals deze waar je een cheeta hebt en dan heb je een cheeta met klauwen, weet je, 18:34.970 --> 18:36.740 met een grote waarschijnlijkheid. 18:36.750 --> 18:41.060 Dus dit is, weet je, de kans die het netwerk heeft voorspeld en deze zijn verloren 18:41.060 --> 18:46.100 gegaan, maar deze bestaan nog steeds omdat ze nog steeds een kleine kans zijn dat andere neuronen ook 18:46.100 --> 18:47.390 naar hun kiezers luisteren. 18:47.390 --> 18:51.320 En ze zeggen, oh, misschien is het eigenlijk een luipaard en de kogeltrein, zeer, zeer waarschijnlijk. 18:51.320 --> 18:52.190 Ik hoor een schaar. 18:52.340 --> 18:57.530 Weet je, dit glas met één knop was heel dichtbij de tweede en daarna de trimester-stethoscoop 18:57.530 --> 19:02.660 omdat je kon zien, zoals deze jongens, dit neuron, het schaarneuron, het neuron van de Output 19:02.660 --> 19:04.490 Services, luisterend naar zijn kiezers. 19:04.490 --> 19:09.600 En het had over het algemeen de overheersende stem, maar de handlers hadden ook een goed resultaat. 19:10.130 --> 19:10.790 Dus daar gaan we. 19:10.790 --> 19:16.160 Zo werkt de volledige verbinding en hoe dit allemaal samen uitpakt. 19:16.520 --> 19:18.650 Ik hoop dat je de tutorial van vandaag leuk vond. 19:18.680 --> 19:21.020 We gaan dit ook allemaal samenvatten in de samenvatting. 19:21.290 --> 19:22.680 En ik zie je de volgende keer. 19:22.700 --> 19:24.680 Geniet tot die tijd van deep learning.