WEBVTT 00:00.420 --> 00:07.320 Apa yang Allison harus tahu, apa yang Anda katakan, saya tidak tahu apa Internet itu komputer besar. 00:07.380 --> 00:10.870 Adalah orang yang menjadi sangat besar sekarang. 00:11.010 --> 00:11.400 Maksud kamu apa. 00:11.440 --> 00:16.350 Itu hanya apa yang Anda tahu apa yang Anda tulis sampai seperti saya tidak tahu banyak orang menggunakannya dan berkomunikasi. 00:16.410 --> 00:18.960 Saya kira mereka dapat berkomunikasi dengan penulis dan produser NBC. 00:18.960 --> 00:21.180 Allison dapatkah Anda menjelaskan apa Internet itu 00:29.140 --> 00:30.590 luar biasa itu. 00:30.670 --> 00:34.470 Lebih dari 20 tahun yang lalu orang bahkan tidak tahu apa itu internet. 00:34.510 --> 00:37.260 Dan hari ini kita bahkan tidak bisa membayangkan hidup kita untuk itu. 00:37.300 --> 00:39.560 Selamat datang di orang-orang yang mendapatkan ETA kursus itu. 00:39.580 --> 00:44.800 Nama saya Cora Menko dan bersama dengan kontraktor itu Lunda Pontmercy sangat senang Anda 00:44.800 --> 00:45.570 bergabung. 00:45.610 --> 00:51.670 Dan hari ini kami akan memberi Anda gambaran singkat tentang apa itu menyedihkan dan mengapa itu mengambil 00:51.670 --> 00:52.300 sekarang. 00:52.300 --> 00:53.590 Jadi mari kita mulai. 00:53.590 --> 00:57.640 Mengapa kita melihat klip itu dan apa foto ini di sini. 00:57.670 --> 01:00.310 Ya klip itu dari 1994. 01:00.310 --> 01:03.110 Ini adalah foto komputer dari tahun 1980. 01:03.220 --> 01:09.490 Dan alasan mengapa kita sedikit mempelajari sejarah adalah karena jaringan saraf bersama dengan pembelajaran yang 01:09.490 --> 01:15.670 dalam telah ada selama beberapa waktu dan mereka hanya mulai mengambil sekarang dan mempengaruhi 01:15.670 --> 01:16.640 dunia sekarang. 01:16.750 --> 01:22.510 Tetapi jika Anda melihat kembali pada tahun 80-an Anda akan melihat bahwa meskipun mereka diciptakan 01:22.510 --> 01:30.760 pada tahun 60-an dan 70-an mereka benar-benar menangkap tren atau disebut angin dingin di tahun 80-an sehingga orang banyak berbicara tentang mereka. 01:30.760 --> 01:35.890 Ada banyak penelitian di bidang itu dan semua orang berpikir bahwa pembelajaran mendalam atau jaringan 01:35.890 --> 01:41.830 saraf adalah hal baru ini yang akan berdampak pada dunia akan mengubah segalanya akan menyelesaikan semua masalah 01:41.860 --> 01:46.060 dunia dan mereka agak lambat mereka mati off selama dekade berikutnya. 01:46.080 --> 01:51.210 Jadi apa yang terjadi mengapa jaringan syaraf tidak bertahan dan tidak mengubah 01:51.200 --> 01:51.750 dunia? 01:51.940 --> 01:57.220 Alasan untuk itu mereka hanya tidak cukup baik bahwa mereka tidak pandai memprediksi hal-hal 01:57.270 --> 02:02.320 yang tidak baik dalam pemodelan dan berantakan hanya bukan penemuan yang baik. 02:02.350 --> 02:03.400 Atau ada alasan lain. 02:03.400 --> 02:08.410 Yah sebenarnya ada alasan lain dan alasannya di depan kita adalah fakta bahwa 02:08.410 --> 02:15.640 teknologi saat itu tidak sesuai dengan standar yang tepat untuk memfasilitasi jaringan saraf agar jaringan saraf dan pembelajaran mendalam untuk 02:15.700 --> 02:17.130 bekerja dengan baik. 02:17.140 --> 02:21.880 Anda memerlukan dua hal, Anda membutuhkan data dan Anda membutuhkan banyak data dan Anda perlu kekuatan pemrosesan Anda 02:21.880 --> 02:25.960 membutuhkan komputer yang kuat untuk memproses data dan memfasilitasi dan Anda tahu itu bekerja. 02:25.990 --> 02:32.900 Jadi mari kita lihat bagaimana data atau penyimpanan data telah berkembang selama bertahun-tahun dan kemudian kita akan 02:32.900 --> 02:34.880 melihat bagaimana teknologi berkembang. 02:34.880 --> 02:39.350 Jadi di sini kita punya tiga tahun 1956 1980 2017. 02:39.830 --> 02:43.220 Berapa banyak penyimpanan terlihat pada tahun 1956. 02:43.280 --> 02:47.600 Yah ada hard drive dan hard drive itu hanya lima. 02:47.750 --> 02:54.980 Tunggu hard drive megabyte. Itu lima megabyte di sana, di forklift, seukuran sebuah ruangan 02:54.980 --> 03:01.040 kecil yang diangkut dengan hard drive ke lokasi lain di pesawat. 03:01.370 --> 03:04.670 Dan itulah yang tampak seperti penyimpanan di. 03:04.700 --> 03:11.360 Pada tahun 1956 Anda harus membayar perusahaan harus membayar dua setengah ribu dolar dari hari-hari itu untuk menyewa 03:11.390 --> 03:16.400 hard drive untuk menyewa itu tidak membelinya atau menyewa selama satu bulan. 03:16.400 --> 03:18.760 Pada 1980 situasinya sedikit membaik. 03:18.800 --> 03:24.290 Jadi di sini kita mendapat hard drive 10 megabyte untuk tiga setengah ribu dolar masih sangat mahal dan hanya 03:24.290 --> 03:27.260 10 megabyte Jadi itu seperti satu foto hari ini. 03:27.260 --> 03:36.840 Dan hari ini di tahun 2017 kita punya kartu SD 256 gigabyte seharga $ 150 yang bisa muat di jari Anda. 03:37.100 --> 03:43.790 Dan jika Anda menonton video ini setahun kemudian atau seperti pada 2019 atau 2025 Anda mungkin tertawa kepada kami semua 03:43.790 --> 03:47.240 karena saat itu Anda memiliki kapasitas penyimpanan yang lebih kuat. 03:47.240 --> 03:52.910 Namun demikian, intinya adalah jika kita membandingkan ini secara keseluruhan dan kita bahkan mempertimbangkan harga 03:52.910 --> 03:58.370 dan ukuran hanya dengan mempertimbangkan kapasitas apa pun yang sedang tren saat itu. 03:58.370 --> 04:04.090 Jadi dari tahun 1956 hingga 1980 kapasitas meningkat sekitar dua kali lipat. 04:04.250 --> 04:12.380 Dan kemudian meningkat sekitar dua puluh lima ribu enam ratus kali dan tahu lamanya periode ini tidak jauh berbeda 04:12.380 --> 04:20.210 dari tahun 1956 hingga 1980, 24 tahun dari 1980 hingga 2013, tiga puluh tujuh tahun, jadi tidak terlalu 04:20.210 --> 04:24.610 banyak dalam peningkatan waktu tetapi lompatan besar dalam Perkembangan teknologi. 04:24.890 --> 04:28.220 Dan itu menunjukkan bahwa ini bukan tren linier. 04:28.220 --> 04:33.830 Ini adalah pertumbuhan eksponensial dalam teknologi dan jika kami menambahkannya dengan mempertimbangkan harga dan ukuran 04:33.910 --> 04:37.090 akun Anda akan berada dalam jutaan peningkatan. 04:37.280 --> 04:40.540 Dan di sini kita benar-benar memiliki grafik pada skala logaritmik. 04:40.640 --> 04:46.290 Jadi jika kita memplot biaya harddisk per gigabyte, kamu akan melihat tampilannya seperti ini. 04:46.430 --> 04:49.880 Kami sangat cepat mendekati nol. 04:49.910 --> 04:54.200 Saat ini Anda bisa mendapatkan penyimpanan di Dropbox dan Google Drive yang tidak dikenakan biaya apa pun. 04:54.200 --> 05:01.280 Penyimpanan cloud dan itu akan berlanjut dan pada kenyataannya selama bertahun-tahun ini akan semakin jauh. 05:01.280 --> 05:05.860 Saat ini para ilmuwan sedang mencari cara menggunakan DNA untuk penyimpanan. 05:05.960 --> 05:13.720 Dan sekarang ini cukup mahal biayanya $ 7000 untuk mensintesis dua megabita data dan kemudian dipikirkan 05:13.730 --> 05:15.210 2004 untuk membacanya. 05:15.230 --> 05:19.670 Tetapi hal semacam itu mengingatkan Anda pada seluruh situasi hard drive dan bidang yang Anda tahu 05:19.670 --> 05:24.590 bahwa ini akan dikurangi dengan sangat cepat dengan kurva eksponensial ini 10 hingga 10 tahun dari sekarang 20 tahun 05:24.590 --> 05:28.590 dari sekarang semua orang akan menggunakan penyimpanan DNA jika kita turun ke arah ini. 05:28.660 --> 05:33.770 Dan berikut adalah beberapa statistik tentang hal itu sehingga Anda dapat menjelajahinya lebih jauh, mungkin jeda video jika Anda ingin 05:33.770 --> 05:35.360 membaca lebih banyak tentang ini. 05:35.360 --> 05:36.890 Ini dari alam dot com. 05:37.040 --> 05:44.990 Dan pada dasarnya Anda dapat menyimpan semua data dunia hanya dalam satu kilo satu kilogram penyimpanan DNA atau Anda dapat menyimpan 05:44.990 --> 05:49.350 sekitar 1 miliar terabyte data dalam satu gram penyimpanan DNA. 05:49.350 --> 05:56.150 Jadi itu hanya sesuatu untuk menunjukkan seberapa cepat kita mengalami kemajuan dan inilah mengapa pembelajaran yang mendalam semakin meningkat 05:56.150 --> 06:02.840 sekarang karena kita akhirnya berada pada tahap di mana kita memiliki cukup data untuk melatih model super canggih 06:02.840 --> 06:04.280 yang sangat keren. 06:04.280 --> 06:08.350 Saat itu di tahun 80-an ketika saya pertama kali menemukan jus bukan itu masalahnya. 06:08.690 --> 06:15.740 Dan hal kedua yang kita bicarakan adalah kapasitas pemrosesan. Jadi di sini kita punya kurva eksponensial lagi 06:16.460 --> 06:17.850 pada skala log. 06:17.850 --> 06:23.840 Idealnya digambarkan di sini tetapi di sebelah kanan karena skala log dan ini adalah bagaimana komputer telah 06:23.840 --> 06:24.410 berkembang. 06:24.410 --> 06:30.530 Jadi sekali lagi merasa bebas untuk memposting slide ini disebut Hukum Moore Anda mungkin pernah mendengar 06:30.530 --> 06:34.120 tentang seberapa cepat kapasitas pemrosesan komputer telah berkembang. 06:34.310 --> 06:39.920 Saat ini kita di suatu tempat di sini di mana komputer rata-rata 06:39.920 --> 06:47.960 dapat membeli untuk seribu dolar berpikir pada kecepatan otak tikus dan antara dua dan lima akan menjadi kecepatan manusia 06:48.470 --> 06:54.740 atau 20:23 dan kemudian pada 2050 atau 2045 itu akan melampaui semua gabungan manusia. 06:54.740 --> 07:01.610 Jadi pada dasarnya kita memasuki era komputer yang sangat kuat yang dapat memproses hal-hal CARA 07:01.610 --> 07:05.670 lebih cepat maka kita kemudian dapat kita bayangkan. 07:05.720 --> 07:08.490 Dan itulah yang memfasilitasi pembelajaran. 07:08.600 --> 07:14.510 Jadi semua ini membawa kita pada pertanyaan Apa yang dipelajari dalam apa apa situasi jaringan saraf keseluruhan 07:14.510 --> 07:18.390 ini apa yang sedang terjadi apa yang kita bicarakan di sini? 07:18.410 --> 07:20.490 Dan Anda mungkin pernah melihat gambar atau sesuatu seperti ini. 07:20.570 --> 07:21.590 Jadi mari selami itu. 07:21.590 --> 07:29.140 Apa yang mendalam mempelajari pria ini di sini Jeffrey Hinton dikenal sebagai bapak baptis yang mendalam. 07:29.350 --> 07:37.030 Dan dia melakukan penelitian tentang pembelajaran mendalam di tahun 80-an dan dia telah melakukan banyak dan banyak pekerjaan 07:37.030 --> 07:41.370 dari makalah penelitian yang diterbitkan dalam pembelajaran mendalam sekarang. 07:41.370 --> 07:42.920 Dia bekerja di Google. 07:43.030 --> 07:47.770 Jadi banyak hal yang akan kita bicarakan sebenarnya berasal dari Jeffrey Hinton dan Anda dapat melihat 07:47.770 --> 07:48.260 banyak. 07:48.300 --> 07:49.840 Dia punya beberapa video YouTube. 07:49.840 --> 07:53.930 Dia menjelaskan semuanya dengan sangat baik sehingga saya sangat merekomendasikan untuk memeriksanya. 07:54.130 --> 07:59.140 Jadi ide di balik pembelajaran mendalam adalah untuk melihat otak manusia. 07:59.140 --> 08:01.710 Dan orang ini akan menjadi sedikit neuroscience yang akan datang. 08:01.750 --> 08:09.370 Dan dalam tutorial ini dan apa yang kami coba lakukan di sini adalah meniru cara kerja otak manusia. 08:09.400 --> 08:13.300 Dan Anda tahu kita tidak tahu banyak tentang Anda tidak tahu segalanya tentang otak manusia, 08:13.300 --> 08:16.730 tetapi pria kecil yang kita semua tahu ingin meniru dan menciptakannya kembali. 08:16.730 --> 08:17.230 Dan mengapa begitu. 08:17.230 --> 08:21.970 Yah karena otak manusia tampaknya menjadi salah satu alat paling kuat di 08:22.300 --> 08:28.690 planet ini untuk belajar mempelajari keterampilan beradaptasi dan kemudian menerapkannya dan jika komputer dapat menyalinnya, maka kita 08:28.990 --> 08:32.980 bisa memanfaatkan apa yang sudah diputuskan seleksi alam untuk kita. 08:32.980 --> 08:37.840 Semua jenis algoritma yang telah diputuskan adalah yang terbaik yang akan memanfaatkan itu. 08:37.840 --> 08:39.750 Mengapa menemukan kembali perjalanan sepeda. 08:39.880 --> 08:41.700 Jadi mari kita lihat bagaimana ini bekerja. 08:41.710 --> 08:50.260 Di sini kita punya beberapa neuron sehingga neuron-neuron ini yang telah dioleskan ke kaca dan kemudian dilihat di 08:50.260 --> 08:52.210 bawah mikroskop dengan pewarnaan. 08:52.270 --> 08:57.310 Dan ini adalah Anda dapat melihat seperti apa mereka sehingga mereka memiliki seperti tubuh mereka memiliki cabang-cabang 08:57.310 --> 09:02.700 ini dan mereka memiliki seperti ekor dan begitu dan sehingga Anda dapat melihat mereka memiliki seperti inti di dalam 09:02.710 --> 09:06.940 di tengah dan itulah pada dasarnya yang terlihat seperti neuron seperti di otak manusia. 09:06.970 --> 09:12.310 Ada sekitar 100 miliar neuron secara bersamaan sehingga ini adalah neuron individual. Ini sebenarnya adalah 09:12.310 --> 09:17.380 neuron motorik karena mereka lebih besar dan lebih mudah dilihat, namun demikian ada seratus 09:17.470 --> 09:19.740 miliar neuron di otak manusia. 09:20.000 --> 09:23.920 Dan terhubung ke sekitar seribu dari tetangganya. 09:23.920 --> 09:26.590 Jadi untuk memberi Anda gambaran seperti ini. 09:26.590 --> 09:32.140 Ini adalah bagian data aktual dari otak manusia. 09:32.140 --> 09:38.950 Dan ini adalah otak kecil yang merupakan bagian dari otak Anda di bagian belakang. 09:38.950 --> 09:47.140 Ini bertanggung jawab untuk seperti lebih banyak Torex dan untuk Anda ketahui menjaga keseimbangan dan beberapa kemampuan bahasa dan sesuatu seperti 09:47.140 --> 09:47.680 itu. 09:47.680 --> 09:57.460 Jadi ini hanya untuk menunjukkan betapa Vorst. Ada berapa banyak neuron yang ada miliaran, milyaran, dan milyaran neuron yang saling terhubung. Seperti 09:57.460 --> 10:02.770 yang kita bicarakan sekitar lima atau lima ratus atau seribu atau jutaan 10:02.770 --> 10:04.780 miliaran neuron di sana. 10:04.910 --> 10:08.350 Dan itulah yang akan kami coba untuk menciptakan kembali. 10:08.350 --> 10:11.700 Jadi bagaimana kita membuat ulang ini di komputer. 10:11.890 --> 10:20.200 Kita membuat struktur buatan yang disebut jaringan syaraf tiruan di mana kita memiliki node atau neuron dan kita akan memiliki 10:20.590 --> 10:26.500 beberapa neuron untuk nilai input jadi ini adalah nilai yang Anda tahu tentang situasi 10:26.500 --> 10:27.340 tertentu. 10:27.340 --> 10:32.080 Jadi misalnya Anda memodelkan sesuatu yang Anda ingin memprediksi sesuatu, Anda selalu dapat memiliki beberapa masukan 10:32.080 --> 10:33.310 sesuatu untuk memulai. 10:33.310 --> 10:36.740 Prediksi Anda tidak aktif maka itu disebut lapisan input. 10:36.820 --> 10:38.100 Maka Anda memiliki output. 10:38.140 --> 10:43.780 Jadi itu nilai yang ingin Anda prediksi atau mengejutkan apakah seseorang akan meninggalkan bank 10:43.930 --> 10:45.980 atau tetap di bank. 10:46.260 --> 10:50.530 Apakah ini transaksi penipuan, itu transaksi nyata dan sebagainya. 10:50.890 --> 10:52.420 Jadi itu akan menjadi output yang lebih rendah. 10:52.540 --> 10:55.330 Dan di antara kita akan memiliki lapisan tersembunyi. 10:55.330 --> 11:01.600 Jadi seperti yang bisa Anda lihat di otak Anda, Anda memiliki begitu banyak neuron sehingga beberapa informasi masuk melalui 11:01.600 --> 11:04.990 mata Anda ke hidung, jadi pada dasarnya indera Anda. 11:05.140 --> 11:10.210 Dan kemudian itu bukan hanya langsung menuju output di mana Anda memiliki hasilnya akan melalui semua 11:10.240 --> 11:15.130 miliaran dan miliaran neuron sebelum menebak output dan ini adalah seluruh konsep di baliknya bahwa 11:15.130 --> 11:17.050 kita akan memodelkan otak . 11:17.050 --> 11:23.170 Jadi kita perlu lapisan tersembunyi yang ada sebelum output sehingga input Lares neuron terhubung ke 11:23.170 --> 11:26.580 neuron layer tersembunyi yang terhubung ke output neuron. 11:26.880 --> 11:29.280 Jadi ini dia yang keren. 11:29.290 --> 11:30.550 Tapi tentang apa semua ini. 11:30.550 --> 11:34.040 Di mana pembelajaran mendalam di sini atau mengapa itu disebut lebih dalam tidak ada yang lebih dalam di sini. 11:34.090 --> 11:41.090 Meskipun ini semacam opsi yang bisa disebut pembelajaran dangkal di mana tidak banyak yang 11:41.110 --> 11:41.890 terjadi. 11:41.890 --> 11:43.400 Tapi mengapa itu disebut menyedihkan. 11:43.420 --> 11:50.020 Nah karena dengan begitu kita membawa ini ke tingkat berikutnya, kita memisahkannya lebih jauh dan kita 11:50.020 --> 11:58.180 tidak hanya memiliki satu pukulan dan di sana kita memiliki banyak dan banyak lapisan tersembunyi dan kemudian kita menghubungkan semuanya 11:58.180 --> 12:01.930 seperti otak manusia menghubungkan semua yang saling berhubungan. 12:01.930 --> 12:08.660 Dan itulah cara nilai input diproses melalui semua lapisan tersembunyi ini seperti di otak manusia. 12:08.770 --> 12:12.380 Kemudian kita memiliki nilai output dan sekarang kita berbicara pembelajaran yang mendalam. 12:12.460 --> 12:15.910 Jadi itulah yang dipelajari dalam level yang sangat abstrak. 12:15.940 --> 12:21.180 Dan tutorial lebih lanjut kita akan membedah dan menyelam jauh ke dalam pembelajaran yang dalam dan 12:21.180 --> 12:26.480 pada akhirnya Anda akan tahu apa itu semua perencanaan dan Anda akan tahu bagaimana menerapkannya dalam proyek Anda. 12:26.500 --> 12:31.910 Super bersemangat menunggu ini untuk memulai dan saya berharap untuk melihat tutorial selanjutnya. 12:31.950 --> 12:33.700 Sampai kemudian menikmati pembelajaran yang mendalam.