WEBVTT 00:00.630 --> 00:08.520 Alison zou eigenlijk moeten weten wat internet is, internet is dat enorme computernetwerk, degene die nu 00:08.550 --> 00:10.030 echt groot wordt? 00:10.880 --> 00:11.360 Wat bedoelt u? 00:11.370 --> 00:12.130 Dat is hoe. 00:12.690 --> 00:13.590 Wat schrijf je erop? 00:13.590 --> 00:14.220 Zoals post. 00:14.300 --> 00:16.140 Nu gebruiken veel mensen het en communiceren. 00:16.320 --> 00:18.860 Ik denk dat ze kunnen communiceren met NBC-schrijvers en producenten. 00:18.870 --> 00:21.150 Alison, kun je uitleggen wat internet is? 00:29.010 --> 00:34.770 Hoe verbazingwekkend is dat iets meer dan 20 jaar geleden mensen niet eens wisten wat internet was, en vandaag de dag kunnen we ons ons 00:34.770 --> 00:36.810 leven niet eens voorstellen om ertegen te vechten. 00:37.170 --> 00:39.420 Welkom bij de cursus Deep Learning van A tot Z. 00:39.450 --> 00:43.170 Mijn naam is Kmetko en samen met de constructeur Hadland spontaan. 00:43.170 --> 00:45.240 We zijn super enthousiast om je aan boord te hebben. 00:45.480 --> 00:51.090 En vandaag gaan we je een snel overzicht geven van wat deep learning is en waarom het 00:51.090 --> 00:51.930 nu oppikt. 00:52.200 --> 00:53.500 Dus laten we beginnen. 00:53.520 --> 00:55.320 Waarom hebben we die clip bekeken? 00:55.320 --> 00:57.510 En wat is deze foto hier? 00:57.540 --> 01:00.130 Nou, die clip was uit 1994. 01:00.180 --> 01:02.730 Dit is een foto van een computer uit 1980. 01:03.060 --> 01:09.300 En de reden waarom we een beetje in de geschiedenis duiken, is omdat neurale netwerken, samen met 01:09.300 --> 01:15.000 deep learning, al geruime tijd bestaan en ze nu pas beginnen op te pikken en de 01:15.000 --> 01:16.470 wereld nu beïnvloeden. 01:16.650 --> 01:21.780 Maar als je terugkijkt op de jaren 80, zie je dat ze, hoewel ze in de jaren 01:22.140 --> 01:27.570 60 en 70 werden uitgevonden, echt inspeelden op een trend of de koude wind in de jaren 80 noemden. 01:27.580 --> 01:30.130 Dus mensen begonnen er veel over te praten. 01:30.690 --> 01:35.820 Er was veel onderzoek op dat gebied en iedereen dacht dat deep learning 01:35.820 --> 01:41.580 of neurale netwerken dit nieuwe ding waren dat de wereld gaat beïnvloeden, alles gaat veranderen, alle 01:41.580 --> 01:42.810 wereldproblemen gaat oplossen. 01:42.990 --> 01:45.750 En toen stierf het een beetje langzaam uit in het volgende decennium. 01:46.100 --> 01:46.890 En wat gebeurde er dan? 01:46.890 --> 01:50.810 Waarom hebben de neurale netwerken het niet overleefd en de wereld niet veranderd? 01:50.890 --> 01:52.650 Dat was niet de reden. 01:52.860 --> 01:58.080 Ze waren gewoon niet zo goed dat ze niet zo goed waren in het voorspellen van dingen 01:58.080 --> 02:02.250 en niet zo goed in modelleren en eigenlijk gewoon geen goede uitvinding. 02:02.250 --> 02:03.330 Of is er een andere reden? 02:03.360 --> 02:05.100 Nou, eigenlijk is er nog een reden. 02:05.100 --> 02:11.550 En de reden ligt voor ons, het is het feit dat de technologie destijds niet aan de juiste standaard 02:11.550 --> 02:17.050 voldeed om neurale netwerken mogelijk te maken, zodat neurale netwerken en deep learning goed werken. 02:17.070 --> 02:17.820 Je hebt twee dingen nodig. 02:17.820 --> 02:21.560 Je hebt data nodig en je hebt veel data nodig en je hebt verwerkingskracht nodig. 02:21.570 --> 02:25.660 Je hebt sterke computers nodig om die gegevens te verwerken en de neurale netwerken te faciliteren. 02:25.890 --> 02:28.050 Dus laten we eens kijken hoe. 02:29.390 --> 02:34.340 Gegevens of opslag van gegevens zijn in de loop der jaren geëvolueerd, en dan zullen we kijken naar hoe de technologie is geëvolueerd. 02:34.760 --> 02:38.660 Dus hier hebben we drie jaar, 1956, 1980, 2017. 02:39.770 --> 02:43.070 Hoe zag opslag er in 1956 uit? 02:43.130 --> 02:49.700 Nou, er is een harde schijf en die harde schijf is slechts vijf wachten op een megabyte harde schijf. 02:49.700 --> 02:55.210 Dat is vijf megabyte daar op de vorkheftruck, zo groot als een kleine kamer. 02:55.220 --> 03:00.790 Dat is een harde schijf die naar een andere locatie in een vliegtuig wordt vervoerd. 03:01.190 --> 03:05.500 En zo zag opslag er in 1956 uit. 03:05.510 --> 03:11.690 Je moest een bedrijf betalen, twee en een half duizend dollar van die dagen dollars betalen om die harde schijf te huren om 03:11.690 --> 03:15.210 hem te huren, niet kopen om hem voor een maand te huren. 03:16.220 --> 03:18.620 In 1980 verbeterde de situatie een beetje. 03:18.770 --> 03:24.230 Dus hier hebben we een harde schijf van 10 megabyte voor drie en een half duizend dollar is nog steeds erg duur en 03:24.230 --> 03:25.100 slechts 10 megabyte. 03:25.100 --> 03:26.690 Dus dat is tegenwoordig maar één foto. 03:27.110 --> 03:33.950 En vandaag, in zeventienentwintig, hebben we een 256 gigabyte SD-kaart voor honderdvijftig dollar, 03:33.950 --> 03:36.620 die op je vinger past. 03:36.950 --> 03:42.710 En als je deze video een jaar later bekijkt of zoals in negenentwintig of vijfentwintig, lach je 03:42.710 --> 03:47.180 waarschijnlijk in jezelf, want tegen die tijd heb je nog meer opslagcapaciteit. 03:47.180 --> 03:49.030 Maar toch staat het punt. 03:49.030 --> 03:53.900 Dus als we deze over de hele linie vergelijken en we vechten zelfs rekening houdend met 03:53.900 --> 03:58.310 prijs en grootte, alleen de capaciteit van wat op dat moment trending was. 03:58.310 --> 04:07.340 Dus van 1946 tot 1980 nam de capaciteit ongeveer het dubbele toe en daarna ongeveer vijfentwintigduizend 04:07.340 --> 04:08.690 zeshonderd keer. 04:09.020 --> 04:16.370 En weet je, de lengte van de periode is niet zo verschillend van 1956 tot 1980, 24 jaar van 04:16.370 --> 04:18.730 1980 tot 2017, 37 jaar. 04:18.740 --> 04:24.380 Dus niet zozeer een toename in tijd, maar een enorme sprong in technologische vooruitgang. 04:24.740 --> 04:28.150 En dat toont aan dat dit geen lineaire trend is. 04:28.160 --> 04:30.560 Dit is een exponentiële groei in technologie. 04:30.560 --> 04:36.470 En als we optellen om rekening te houden met prijs en grootte, zal het in de miljoenen toenemen. 04:37.130 --> 04:40.340 En hier hebben we eigenlijk een grafiek op een logaritmische schaal. 04:40.520 --> 04:46.040 Dus als we de kosten van de harde schijf per gigabyte in kaart brengen, ziet u dat dat er ongeveer zo uitziet. 04:46.280 --> 04:50.210 We naderen nu heel snel nul. 04:50.210 --> 04:54.890 U kunt opslagruimte of Dropbox en Google Drive krijgen, wat u niets kost in de buurt van opslag. 04:55.430 --> 04:57.040 En dat gaat door. 04:57.170 --> 05:01.140 En in de loop der jaren zal dit zelfs nog verder gaan. 05:01.160 --> 05:05.770 Op dit moment onderzoeken wetenschappers echt het gebruik van DNA voor opslag. 05:05.780 --> 05:07.670 En nu is het best duur. 05:07.670 --> 05:14.390 Het kost enkele duizenden dollars om twee megabyte aan data te synthetiseren en dan nog eens tweeduizend dollar om het 05:14.390 --> 05:15.140 te lezen. 05:15.140 --> 05:18.560 Maar dat doet je denken aan deze hele situatie van de harde schijf en het vliegtuig. 05:18.830 --> 05:23.510 Je weet dat dit heel, heel snel zal worden verzacht met deze exponentiële curve. Over 05:23.510 --> 05:28.220 10 tot 10 jaar, over 20 jaar, zal iedereen DNA-opslag gaan gebruiken als we deze richting uitgaan. 05:28.550 --> 05:33.560 En hier zijn wat statistieken daarover, zodat je het verder kunt verkennen, misschien de pauze, de video, pauzeren. 05:33.560 --> 05:36.590 Mocht je hier wat meer over willen lezen, dit is van Nature Dotcom. 05:36.890 --> 05:44.240 En eigenlijk kun je alle gegevens van de wereld opslaan in slechts één kilo, één kilogram DNA-opslag, of je 05:44.570 --> 05:49.310 kunt ongeveer één miljard terabyte aan gegevens opslaan in één gram DNA-opslag. 05:49.320 --> 05:56.090 Dus dat is gewoon iets om te laten zien hoe snel we vorderingen maken en dat dit de reden is waarom 05:56.090 --> 06:02.780 deep learning steeds populairder wordt nu we eindelijk in het stadium zijn waarin we genoeg gegevens hebben om supercoole, supergeavanceerde 06:02.780 --> 06:03.920 modellen te trainen. 06:04.190 --> 06:08.030 Destijds, in de jaren 80, toen het voor het eerst werd uitgevonden, was het gewoon niet het geval. 06:08.540 --> 06:12.680 En het tweede waar we het over hadden, is de verwerkingscapaciteit. 06:12.690 --> 06:15.260 Dus hier hebben we een exponentiële curve. 06:15.260 --> 06:17.780 Nogmaals, op een logschaal. 06:17.780 --> 06:23.570 Het is hier niet ideaal afgebeeld, maar aan de rechterkant omdat het een logschaal is en dit is hoe computers zich 06:23.570 --> 06:24.330 hebben ontwikkeld. 06:24.350 --> 06:26.290 Dus nogmaals, aarzel niet om de dia te pauzeren. 06:26.300 --> 06:27.380 Dit wordt de wet van Moore genoemd. 06:27.380 --> 06:33.890 Je hebt er vast wel eens van gehoord, hoe snel de verwerkingscapaciteit van computers is geëvolueerd. 06:34.280 --> 06:39.480 Op dit moment zijn we hier ergens waar een gemiddelde computer die je voor duizend dollar 06:39.480 --> 06:47.540 kunt kopen, denkt met de snelheid van de hersenen van een rat en tegen 2025 de snelheid van een mens of drieëntwintig, drieëntwintig zal zijn. 06:47.540 --> 06:54.650 En tegen 2050 of 2045 zal het alle mensen samen overtreffen. 06:54.660 --> 07:01.550 Dus eigenlijk betreden we het tijdperk van computers die extreem krachtig zijn, die dingen veel 07:01.550 --> 07:05.600 sneller kunnen verwerken dan we ons kunnen voorstellen. 07:05.600 --> 07:08.330 En dat is wat deep learning mogelijk maakt. 07:08.570 --> 07:11.900 Dit alles brengt ons bij de vraag: wat is deep learning? 07:11.900 --> 07:15.380 Wat is deze hele neurale netwerksituatie? 07:15.380 --> 07:16.790 Wat is er aan de hand? 07:16.790 --> 07:17.980 Waar hebben we het hier eigenlijk over? 07:18.260 --> 07:21.500 En je hebt waarschijnlijk een foto van zoiets als dit gezien, dus laten we erin duiken. 07:21.500 --> 07:22.400 Wat is diep leren? 07:23.390 --> 07:28.280 Deze heer hier, Geoffrey Hinton, staat bekend als de peetvader van Deep. 07:29.200 --> 07:36.970 En hij deed onderzoek naar deep learning in de jaren 80, en hij heeft heel veel werk gedaan, 07:36.970 --> 07:41.300 veel onderzoekspapers, hij is nu gepubliceerd in Deep Learning. 07:41.320 --> 07:42.690 Hij werkt bij Google. 07:42.910 --> 07:46.740 Dus veel van de dingen waar het over zou gaan, komen eigenlijk van Geoffrey Hinton. 07:47.050 --> 07:48.180 En je kunt veel zien. 07:48.220 --> 07:49.750 Hij heeft nogal wat YouTube-video's. 07:49.750 --> 07:51.280 Hij legt de dingen echt goed uit. 07:51.280 --> 07:53.710 Dus raad ze ten zeerste aan om ze te bekijken. 07:54.040 --> 07:59.080 En dus is het idee achter deep learning om naar het menselijk brein te kijken. 07:59.080 --> 08:03.250 En dit zal nogal wat neurowetenschap zijn die naar voren komt en in deze tutorials. 08:03.250 --> 08:09.220 En wat we hier proberen te doen, is na te bootsen hoe het menselijk brein werkt. 08:09.310 --> 08:10.960 En weet je, we weten niet zo veel. 08:10.960 --> 08:14.950 Je weet niet alles over het menselijk brein, maar die kleine man die we kennen, 08:14.950 --> 08:16.650 we willen het nabootsen en herscheppen. 08:16.660 --> 08:17.150 En waarom is dat? 08:17.170 --> 08:21.940 Nou, omdat het menselijk brein een van de krachtigste hulpmiddelen op deze planeet lijkt te zijn om te leren, om te 08:22.180 --> 08:25.000 leren, om vaardigheden aan te passen en vervolgens toe te passen. 08:25.000 --> 08:32.530 En als computers dat zouden kunnen kopiëren, dan zouden we gewoon kunnen profiteren van wat natuurlijke selectie al voor ons heeft 08:32.530 --> 08:32.920 besloten. 08:32.920 --> 08:37.780 Al dat soort algoritmen dat het heeft besloten, zijn de beste manieren om daar gebruik van te maken. 08:37.790 --> 08:39.220 Waarom de fiets opnieuw uitvinden? 08:39.220 --> 08:39.460 Rechts. 08:39.760 --> 08:41.890 Dus laten we eens kijken hoe dit hier werkt. 08:41.890 --> 08:44.500 We hebben wat neuronen. 08:44.500 --> 08:51.250 Dus deze neuronen die op glas zijn uitgesmeerd en vervolgens zijn bekeken onder een microscoop met een 08:51.250 --> 08:51.910 kleurtje. 08:52.120 --> 08:54.220 En zo kun je zien hoe ze eruit zien. 08:54.230 --> 08:58.460 Dus ze hebben als een lichaam, ze hebben deze takken en ze hebben als staarten, enzovoort. 08:58.480 --> 09:01.420 Dus je kunt zien dat ze in het midden een soort kern hebben. 09:01.780 --> 09:06.840 En zo ziet een neuron er in feite uit in het menselijk brein. 09:06.850 --> 09:10.480 Er zijn in totaal ongeveer 100 miljard neuronen. 09:10.510 --> 09:11.710 Dit zijn dus individuele neuronen. 09:11.710 --> 09:15.250 Dit zijn eigenlijk motorneuronen omdat ze groter zijn, ze zijn gemakkelijker te zien. 09:15.250 --> 09:21.640 Maar niettemin zijn er 100 miljard neuronen in het menselijk brein en is het neuron ermee verbonden, net 09:21.640 --> 09:23.890 als ongeveer duizend van zijn buren. 09:23.900 --> 09:26.520 Dus om je een beeld te geven, zo ziet het eruit. 09:26.530 --> 09:31.750 Dit is een echt deel van het menselijk brein. 09:31.990 --> 09:38.830 En dit is het cerebellum, dat is dit deel van je hersenen aan de achterkant. 09:38.830 --> 09:47.080 Het is verantwoordelijk voor motoriek en voor, je weet wel, het bewaren van balans en wat taalvaardigheden en dat soort 09:47.080 --> 09:47.620 dingen. 09:47.630 --> 09:57.400 Dus dit is alleen maar om te laten zien hoeveel neuronen er zijn, zoals miljarden en miljarden en miljarden neuronen, allemaal direct verbonden als 09:57.400 --> 10:02.500 we het hebben over vijf- of vijfhonderd of duizend of een miljoen. 10:02.500 --> 10:04.090 Dit zijn miljarden neuronen daarbinnen. 10:04.660 --> 10:05.530 En ja. 10:05.530 --> 10:08.260 Dus dat is wat we gaan proberen te recreëren. 10:08.290 --> 10:11.470 Dus hoe kunnen we dit opnieuw creëren op een computer? 10:11.770 --> 10:20.140 Welnu, we creëren een kunstmatige structuur, een kunstmatig neuraal netwerk genaamd, waar we knooppunten of neuronen hebben en we 10:20.410 --> 10:23.410 zullen enkele neuronen hebben voor invoerwaarden. 10:23.420 --> 10:27.260 Dit zijn dus waarden die je weet over een bepaalde situatie. 10:27.280 --> 10:29.080 Dus je bent bijvoorbeeld iets aan het modelleren. 10:29.530 --> 10:30.640 Je wilt iets voorspellen. 10:30.640 --> 10:34.740 Je zult altijd wat input hebben, iets om je voorspellingen mee te beginnen. 10:34.900 --> 10:36.600 En dat heet dan de invoerlaag. 10:36.700 --> 10:37.800 Dan heb je de output. 10:37.990 --> 10:43.210 Dus dat is de waarde die je wilt voorspellen, of het nu een prijs is, of iemand de bank 10:43.210 --> 10:45.430 gaat verlaten of op de bank blijft. 10:45.430 --> 10:47.890 Is dit een frauduleuze transactie? 10:47.950 --> 10:50.100 Het is een echte transactie enzovoort. 10:50.800 --> 10:52.240 Dus dat wordt de uitvoerlaag. 10:52.450 --> 10:55.260 En daartussen krijgen we een verborgen laag. 10:55.270 --> 10:59.680 Dus zoals je in je hersenen kon zien, heb je zoveel neuronen. 10:59.680 --> 11:03.240 Dus wat informatie komt binnen via je ogen, oren, neus. 11:03.310 --> 11:09.190 Dus je hebt in principe je zintuigen en dan ga je niet meteen naar de uitgang waar je het resultaat hebt, 11:09.190 --> 11:13.960 het gaat door al deze miljarden en miljarden en miljarden neuronen voordat je bij de uitgang 11:13.960 --> 11:14.470 komt. 11:14.470 --> 11:16.980 En dit is het hele concept erachter dat we de hersenen gaan modelleren. 11:16.990 --> 11:20.530 Dus we hebben deze hitspelers nodig die er zijn vóór de uitvoer. 11:20.530 --> 11:25.630 Dus de input daar zijn neuronen die verbonden zijn met een verborgen laag, neuronen die hun neuronen verbinden 11:25.630 --> 11:26.320 met outputwaarde. 11:26.800 --> 11:29.200 En dit is dus best cool. 11:29.200 --> 11:30.490 Maar waar gaat dit allemaal over? 11:30.490 --> 11:31.900 Waar is het diepe leren? 11:32.050 --> 11:32.950 Waarom heet het diplomaten? 11:32.950 --> 11:33.760 Zit hier niets diep in? 11:34.000 --> 11:39.400 Nou, dit is een soort optie die je oppervlakkig leren zou kunnen noemen. 11:39.730 --> 11:41.560 Er is inderdaad niet veel aan de hand. 11:41.800 --> 11:43.330 Maar waarom heet het deep learning? 11:43.360 --> 11:45.820 Nou, want dan brengen we dit naar een hoger niveau. 11:46.090 --> 11:48.190 We scheiden het nog verder. 11:48.190 --> 11:50.530 En we hebben niet slechts één verborgen laag. 11:50.920 --> 11:55.450 We hebben heel veel en heel veel verborgen lagen. 11:55.450 --> 12:01.300 En dan verbinden we alles, net als in het menselijk brein, verbinden alles, verbinden alles met 12:01.300 --> 12:01.840 elkaar. 12:01.840 --> 12:08.470 En zo worden de invoerwaarden verwerkt door al deze verborgen lagen, net als in het menselijk brein. 12:08.650 --> 12:12.200 Dan hebben we een outputwaarde en nu hebben we het over deep learning. 12:12.370 --> 12:15.790 Dus dat is waar deep learning om draait op een heel abstract niveau. 12:15.790 --> 12:20.360 In de verdere tutorials gaan we dieper in op deep learning. 12:20.380 --> 12:24.910 En aan het einde ervan weet je wat deep learning inhoudt en weet je hoe je het 12:24.910 --> 12:26.420 in je projecten kunt toepassen. 12:26.440 --> 12:28.030 Super enthousiast over dit soort. 12:28.080 --> 12:33.240 Wacht om te beginnen, en ik kijk ernaar uit je tot die tijd te zien op de volgende kleermaker, geniet van diepgaand 12:33.270 --> 12:33.660 leren.