WEBVTT 00:00.420 --> 00:07.320 Co Allison powinna wiedzieć, co ty mówisz? Nie wiem, czym jest Internet w tym ogromnym komputerze. 00:07.380 --> 00:10.870 To ten, który staje się teraz naprawdę duży. 00:11.010 --> 00:11.400 Co masz na myśli. 00:11.440 --> 00:16.350 Po prostu wiesz, co piszesz, ale nie wiem, wielu ludzi używa tego i komunikuje. 00:16.410 --> 00:18.960 Myślę, że mogą komunikować się z pisarzami i producentami NBC. 00:18.960 --> 00:21.180 Allison, czy możesz wyjaśnić, jak 00:29.140 --> 00:30.590 niesamowity jest Internet. 00:30.670 --> 00:34.470 Jeszcze ponad 20 lat temu ludzie nawet nie wiedzieli, czym jest Internet. 00:34.510 --> 00:37.260 A dzisiaj nie możemy sobie nawet wyobrazić, że nasze życie jest po to. 00:37.300 --> 00:39.560 Witamy w ludziach, którzy zdobyli ETA na tym kursie. 00:39.580 --> 00:44.800 Nazywam się Cora Menko i wraz z wykonawcą Lunda Pontmercy byli bardzo podekscytowani, że jesteście 00:44.800 --> 00:45.570 na pokładzie. 00:45.610 --> 00:51.670 A dzisiaj pokażemy ci, co go ubolewali i dlaczego właśnie to 00:51.670 --> 00:52.300 przynosi. 00:52.300 --> 00:53.590 Więc zacznijmy. 00:53.590 --> 00:57.640 Dlaczego obejrzeliśmy ten klip i co to za zdjęcie tutaj. 00:57.670 --> 01:00.310 Ten klip pochodzi z 1994 roku. 01:00.310 --> 01:03.110 To jest zdjęcie komputera z 1980 roku. 01:03.220 --> 01:09.490 Powodem, dla którego trochę zagłębiamy się w historię, jest fakt, że sieci neuronowe wraz z głęboką 01:09.490 --> 01:15.670 nauką istnieją już od jakiegoś czasu i dopiero teraz zaczęły się pojawiać i teraz wywierają wpływ 01:15.670 --> 01:16.640 na świat. 01:16.750 --> 01:22.510 Ale jeśli spojrzysz wstecz na lata osiemdziesiąte, zobaczysz, że pomimo tego, że zostały wymyślone w 01:22.510 --> 01:30.760 latach 60. i 70., to naprawdę przyłapali się na trendach lub nazywali zimny wiatr w latach 80., więc ludzie często o nich mówią. 01:30.760 --> 01:35.890 Było wiele badań w tej dziedzinie i wszyscy uważali, że głębokie uczenie się lub 01:35.890 --> 01:41.830 sieci neuronowe to ta nowa rzecz, która wpłynie na świat, zmieni wszystko, co rozwiąże wszystkie problemy 01:41.860 --> 01:46.060 na świecie, i zrobili jakby powolny, że zmarli w następnej dekadzie. 01:46.080 --> 01:51.210 I co się stało, dlaczego sieci neuronowe nie przetrwały i nie zmieniły świata tym 01:51.200 --> 01:51.750 razem. 01:51.940 --> 01:57.220 Powód, dla którego nie byli wystarczająco dobrzy, aby nie byli tak dobrzy w przewidywaniu 01:57.270 --> 02:02.320 rzeczy, nie jest tak dobry w modelowaniu i bałaganie, nie jest dobrym wynalazkiem. 02:02.350 --> 02:03.400 Czy istnieje inny powód? 02:03.400 --> 02:08.410 Tak naprawdę jest jeszcze jeden powód, a powodem jest fakt, że 02:08.410 --> 02:15.640 technologia nie była wtedy właściwym standardem, aby ułatwić sieci neuronowe, aby sieci neuronowe i głębokie nauczanie 02:15.700 --> 02:17.130 działały prawidłowo. 02:17.140 --> 02:21.880 Potrzebujesz dwóch rzeczy, których potrzebujesz, a potrzebujesz dużej ilości danych i potrzebujesz mocy obliczeniowej, 02:21.880 --> 02:25.960 potrzebujesz mocnych komputerów do przetwarzania danych i ułatwienia, a wiesz, że działa. 02:25.990 --> 02:32.900 Przyjrzyjmy się zatem, jak ewoluowały dane lub przechowywanie danych na przestrzeni lat, a następnie przyjrzymy się, 02:32.900 --> 02:34.880 jak rozwinęła się technologia. 02:34.880 --> 02:39.350 Tak więc mamy trzy lata 1956 1980 1980. 02:39.830 --> 02:43.220 Ile pamięci magazynował w 1956 roku. 02:43.280 --> 02:47.600 Cóż, jest dysk twardy i dysk twardy to tylko pięć. 02:47.750 --> 02:54.980 Zaczekaj na dysk twardy o pojemności megabajta. To pięć megabajtów na wózku widłowym wielkości małego 02:54.980 --> 03:01.040 pokoju, który jest dyskiem twardym przenoszonym do innego miejsca w samolocie. 03:01.370 --> 03:04.670 I tak wyglądało przechowywanie w. 03:04.700 --> 03:11.360 W 1956 r. Musieli Państwo zapłacić firmie, która musiała zapłacić dwa i pół tysiąca dolarów za te dni, 03:11.390 --> 03:16.400 aby wynająć ten dysk twardy, a nie go kupić lub wynająć na miesiąc. 03:16.400 --> 03:18.760 W 1980 sytuacja nieco się poprawiła. 03:18.800 --> 03:24.290 Mamy tutaj dysk twardy o pojemności 10 megabajtów, a trzy i pół tysiąca dolarów jest wciąż bardzo drogie i ma tylko 03:24.290 --> 03:27.260 10 megabajtów. To jest jak jedno zdjęcie w tych dniach. 03:27.260 --> 03:36.840 A dzisiaj w 2017 roku mamy kartę SD o pojemności 256 gigabajtów za 150 USD, która zmieści się na twoim palcu. 03:37.100 --> 03:43.790 A jeśli oglądasz ten film rok później lub jak w 2019 lub 2025, prawdopodobnie śmiejesz się do nas 03:43.790 --> 03:47.240 wszystkich, ponieważ do tego czasu masz jeszcze większą pojemność. 03:47.240 --> 03:52.910 Niemniej jednak, jeśli porównamy te wartości w całym tekście, mamy rację, biorąc nawet pod uwagę 03:52.910 --> 03:58.370 cenę i wielkość, tylko zdolność do tego, co było w tamtym czasie najlepsze. 03:58.370 --> 04:04.090 Tak więc od 1956 do 1980 pojemność wzrosła o dwa razy. 04:04.250 --> 04:12.380 A potem wzrosła o dwadzieścia pięć tysięcy sześćset razy i wiedzieć, długość okresu nie różni się 04:12.380 --> 04:20.210 od 1956 do 1980 roku 24 lata od 1980 do 2013 trzydzieści siedem lat, więc 04:20.210 --> 04:24.610 nie tyle czasu, ale ogromny postęp technologiczny. 04:24.890 --> 04:28.220 I to oznacza, że nie jest to trend liniowy. 04:28.220 --> 04:33.830 Jest to wykładniczy wzrost technologii i jeśli do niego dołożymy, weź pod uwagę cenę 04:33.910 --> 04:37.090 i rozmiar, a będziesz w milionach wzrostów. 04:37.280 --> 04:40.540 Tutaj mamy wykres na skali logarytmicznej. 04:40.640 --> 04:46.290 Jeśli więc wyliczysz koszt dysku twardego na gigabajt, zobaczysz, że coś takiego wygląda. 04:46.430 --> 04:49.880 Bardzo szybko zbliżamy się do zera. 04:49.910 --> 04:54.200 Teraz możesz uzyskać miejsce na Dropbox i na Dysku Google, które nic nie kosztuje. 04:54.200 --> 05:01.280 Przechowywanie w chmurze i to będzie kontynuowane, aw rzeczywistości z biegiem lat to pójdzie jeszcze dalej. 05:01.280 --> 05:05.860 Obecnie naukowcy zajmują się wykorzystaniem DNA do przechowywania. 05:05.960 --> 05:13.720 A teraz jest to dość kosztowne, że kosztuje 7000 $, aby zsyntetyzować dwa megabajty danych, a następnie kolejną myśl 2004, 05:13.730 --> 05:15.210 aby ją przeczytać. 05:15.230 --> 05:19.670 Ale ten rodzaj przypomina wam całą sytuację twardego dysku i samolotu, o którym wiecie, że 05:19.670 --> 05:24.590 zostanie to bardzo szybko złagodzone za pomocą tej wykładniczej krzywej 10 do 10 lat, od teraz za 05:24.590 --> 05:28.590 20 lat każdy będzie korzystał z pamięci DNA, jeśli idziemy w tym kierunku. 05:28.660 --> 05:33.770 A oto kilka statystyk na ten temat, aby można było je zbadać dalej, może wstrzymać pauzę wideo, jeśli chcesz przeczytać 05:33.770 --> 05:35.360 trochę więcej na ten temat. 05:35.360 --> 05:36.890 To z natury dot com. 05:37.040 --> 05:44.990 Zasadniczo możesz przechowywać wszystkie światowe dane w jednym kilogramie jednego kilograma pamięci DNA lub możesz przechowywać około 05:44.990 --> 05:49.350 1 miliarda terabajtów danych w jednym gramie pamięci DNA. 05:49.350 --> 05:56.150 To tylko coś, aby pokazać, jak szybko postępujemy, i dlatego właśnie głębokie uczenie się podnosi, 05:56.150 --> 06:02.840 gdy jesteśmy już na etapie, na którym mamy wystarczająco dużo danych, by trenować super-super 06:02.840 --> 06:04.280 wyrafinowane modele. 06:04.280 --> 06:08.350 Wtedy, w latach 80., kiedy pierwszy raz wynalazłem sok, tak po prostu nie było. 06:08.690 --> 06:15.740 Drugą rzeczą, o której mówiliśmy, jest zdolność przetwarzania danych. Tutaj mamy ponownie krzywą wykładniczą w 06:16.460 --> 06:17.850 skali logarytmicznej. 06:17.850 --> 06:23.840 Jest idealnie przedstawiony tutaj, ale po prawej, ponieważ jest to skala logarytmiczna i tak ewoluowały 06:23.840 --> 06:24.410 komputery. 06:24.410 --> 06:30.530 Więc znowu możesz wysłać slajd, który nazywa się prawem Moore'a, o którym prawdopodobnie słyszałeś, 06:30.530 --> 06:34.120 jak szybko zmienia się wydajność przetwarzania komputerów. 06:34.310 --> 06:39.920 W tej chwili jesteśmy gdzieś tutaj, gdzie przeciętny komputer może 06:39.920 --> 06:47.960 kupić za tysiąc dolców myśli z prędkością mózgu szczura, a pomiędzy dwoma a piątymi będzie prędkością człowieka 06:48.470 --> 06:54.740 lub 20:23, a następnie do 2050 lub 2045 przewyższy on wszystkich ludzi połączonych. 06:54.740 --> 07:01.610 Zasadniczo wkraczamy w erę komputerów, które są niezwykle potężne i potrafią przetwarzać rzeczy WAY 07:01.610 --> 07:05.670 szybciej niż wtedy, kiedy możemy to sobie wyobrazić. 07:05.720 --> 07:08.490 I to właśnie ułatwia uczenie się. 07:08.600 --> 07:14.510 Wszystko to prowadzi nas do pytania Co jest głębokim uczeniem się, czym jest ta cała 07:14.510 --> 07:18.390 sieć neuronowa, co się dzieje, o czym tu mówimy. 07:18.410 --> 07:20.490 Prawdopodobnie widziałeś zdjęcie lub coś podobnego. 07:20.570 --> 07:21.590 Więc zagłębimy się w to. 07:21.590 --> 07:29.140 Co to jest głębokie uczenie tego dżentelmena tutaj Jeffrey Hinton jest znany jako chrzestny z głębokiej rzeczy. 07:29.350 --> 07:37.030 W latach 80. przeprowadził badania dotyczące głębokiego uczenia się, a on sam zrobił wiele prac 07:37.030 --> 07:41.370 badawczych, które opublikował w głębokiej nauce właśnie teraz. 07:41.370 --> 07:42.920 Pracuje w Google. 07:43.030 --> 07:47.770 Wiele rzeczy, o których będziemy mówić, pochodzi od Jeffreya Hintona i wiele można 07:47.770 --> 07:48.260 zobaczyć. 07:48.300 --> 07:49.840 Ma sporo filmów na YouTube. 07:49.840 --> 07:53.930 Bardzo dobrze wyjaśnia rzeczy, więc bardzo polecam ich sprawdzenie. 07:54.130 --> 07:59.140 Tak więc ideą głębokiego uczenia się jest spojrzenie na ludzki mózg. 07:59.140 --> 08:01.710 A ten facet ma zamiar zająć się trochę neurobiologią. 08:01.750 --> 08:09.370 W tych tutorialach i tym, co próbujemy tutaj zrobić, jest naśladowanie działania ludzkiego mózgu. 08:09.400 --> 08:13.300 I wiesz, że nie wiemy tak bardzo, że nie wiesz wszystkiego o ludzkim mózgu, ale 08:13.300 --> 08:16.730 o tym małym człowieku, który wszyscy wiemy, chcemy naśladować i odtworzyć go. 08:16.730 --> 08:17.230 A czemu to. 08:17.230 --> 08:21.970 Cóż, ponieważ ludzki mózg wydaje się być jednym z najpotężniejszych narzędzi na 08:22.300 --> 08:28.690 tej planecie do nauki adaptacji umiejętności, a następnie ich zastosowania, a jeśli komputery mogłyby to skopiować, moglibyśmy 08:28.990 --> 08:32.980 wykorzystać to, co już zdecydowała dla nas dobór naturalny. 08:32.980 --> 08:37.840 Wszystkie te algorytmy, które zadecydowały, są najlepsze, które wykorzystają. 08:37.840 --> 08:39.750 Po co na nowo odkrywać rower. 08:39.880 --> 08:41.700 Zobaczmy więc, jak to działa. 08:41.710 --> 08:50.260 Tutaj mamy neurony, więc te neurony, które zostały rozsmarowane na szkle, a następnie zostały zbadane pod mikroskopem 08:50.260 --> 08:52.210 z pewnym kolorem. 08:52.270 --> 08:57.310 I widzicie, jak one wyglądają, tak, że mają ciało, które mają te gałęzie, i 08:57.310 --> 09:02.700 mają podobne ogony, a więc można je zobaczyć, że mają jądro w środku i to 09:02.710 --> 09:06.940 jest właśnie to, co wygląda na neuronie jak w ludzkim mózgu. 09:06.970 --> 09:12.310 Jest w sumie około 100 miliardów neuronów, więc są to pojedyncze neurony, które w rzeczywistości 09:12.310 --> 09:17.380 są neuronami ruchowymi, ponieważ są większe, są łatwiejsze do zobaczenia, ale jednak w ludzkim 09:17.470 --> 09:19.740 mózgu jest sto miliardów neuronów. 09:20.000 --> 09:23.920 I jest połączony z aż tysiącem sąsiadów. 09:23.920 --> 09:26.590 Tak więc, aby dać ci zdjęcie, tak właśnie wygląda. 09:26.590 --> 09:32.140 To jest faktyczna sekcja danych ludzkiego mózgu. 09:32.140 --> 09:38.950 A to jest móżdżek, który jest tą częścią mózgu z tyłu. 09:38.950 --> 09:47.140 Jest odpowiedzialny za więcej Torex i dla Ciebie, utrzymywanie równowagi i niektórych umiejętności językowych i coś w tym 09:47.140 --> 09:47.680 stylu. 09:47.680 --> 09:57.460 To tylko po to, aby pokazać, jak najgorsze Ile neuronów jest miliardy, miliardy i miliardy neuronów łączące się 09:57.460 --> 10:02.770 To tak, jakbyśmy mówili o pięciu, pięciuset lub tysiącach lub 10:02.770 --> 10:04.780 milionach miliardów neuronów. 10:04.910 --> 10:08.350 I właśnie tego zamierzamy odtworzyć. 10:08.350 --> 10:11.700 Jak więc odtworzyć to na komputerze. 10:11.890 --> 10:20.200 Cóż, tworzymy sztuczną strukturę zwaną sztuczną siecią neuronową, w której mamy węzły lub neurony i będziemy mieć pewne 10:20.590 --> 10:26.500 neurony na wartość wejściową, więc są to wartości, które znasz o pewnej 10:26.500 --> 10:27.340 sytuacji. 10:27.340 --> 10:32.080 Na przykład modelujesz coś, co chcesz przewidzieć, zawsze możesz mieć coś 10:32.080 --> 10:33.310 na początek. 10:33.310 --> 10:36.740 Twoje prognozy są wyłączone, to się nazywa warstwa wejściowa. 10:36.820 --> 10:38.100 Wtedy masz wyjście. 10:38.140 --> 10:43.780 Jest to wartość, którą chcesz przewidzieć, lub zaskoczy Cię, czy ktoś zamierza opuścić bank 10:43.930 --> 10:45.980 lub zostać w banku. 10:46.260 --> 10:50.530 Czy to nieuczciwa transakcja, to prawdziwa transakcja i tak dalej. 10:50.890 --> 10:52.420 Więc to będzie wyjście niższe. 10:52.540 --> 10:55.330 A w międzyczasie będziemy mieli ukrytą warstwę. 10:55.330 --> 11:01.600 Jak widać w twoim mózgu masz tak wiele neuronów, że niektóre informacje przychodzą przez twoje 11:01.600 --> 11:04.990 oczy, przez nos, więc w zasadzie twoje zmysły. 11:05.140 --> 11:10.210 A to nie jest tylko przejście od razu do wyjścia, w którym rezultatem jest przejście przez 11:10.240 --> 11:15.130 wszystkie te miliardy i miliardy neuronów przed uzyskaniem wyniku i to jest cała koncepcja, za 11:15.130 --> 11:17.050 którą zamierzamy modelować mózg . 11:17.050 --> 11:23.170 Więc potrzebujemy tych ukrytych warstw, które są tam przed wyjściem, więc wejście Lares neurony podłączone do ukrytych 11:23.170 --> 11:26.580 warstw neuronów, które neurony są połączone z wyjściem. 11:26.880 --> 11:29.280 I to jest całkiem fajne. 11:29.290 --> 11:30.550 Ale o co w tym wszystkim chodzi. 11:30.550 --> 11:34.040 Gdzie jest głęboka nauka tutaj lub dlaczego nie jest ona nazwana głębiej nic głębiej tutaj. 11:34.090 --> 11:41.090 Chociaż jest to coś w rodzaju opcji, którą można nazwać płytką nauką tam, gdzie naprawdę niewiele się 11:41.110 --> 11:41.890 dzieje. 11:41.890 --> 11:43.400 Ale dlaczego nazywa się go ubolewaniem. 11:43.420 --> 11:50.020 Cóż, ponieważ wtedy przenosimy to na wyższy poziom, oddzielamy go jeszcze dalej i mamy nie 11:50.020 --> 11:58.180 tylko jedno uderzenie i mamy wiele i wiele ukrytych warstw, a następnie łączymy wszystko tak, jak w ludzkim mózgu 11:58.180 --> 12:01.930 łączymy wszystko, co jest ze sobą powiązane. 12:01.930 --> 12:08.660 I w ten sposób wartości wejściowe są przetwarzane przez wszystkie te ukryte warstwy, tak jak w ludzkim mózgu. 12:08.770 --> 12:12.380 Następnie mamy wartość wyjściową i teraz mówimy o głębokiej nauce. 12:12.460 --> 12:15.910 A więc na tym polega nauka na bardzo abstrakcyjnym poziomie. 12:15.940 --> 12:21.180 Kolejne samouczki, które mamy zamiar przeanalizować i zanurkować w głąb głębokiego uczenia się, a pod koniec 12:21.180 --> 12:26.480 tego dowiesz się, o co chodzi w planowaniu i będziesz wiedział, jak zastosować je w swoich projektach. 12:26.500 --> 12:31.910 Super podekscytowani tym, że czekam na rozpoczęcie i czekam na kolejny tutorial. 12:31.950 --> 12:33.700 Do tego czasu ciesz się głęboką nauką.