WEBVTT

00:00.300 --> 00:02.290
Olá e bem-vindo de volta ao curso e aprendizagem profunda.

00:02.430 --> 00:07.980
Hoje estamos falando sobre o neurônio que é o bloco básico de redes neuronais artificiais.

00:08.010 --> 00:09.390
Então vamos começar.

00:09.390 --> 00:11.340
Anteriormente vimos uma imagem que se parecia com isso.

00:11.340 --> 00:18.300
E estes são neurônios reais da vida real que foram manchados em um brilho e cor um pouco e são

00:18.360 --> 00:19.950
observados através de um microscópio.

00:19.950 --> 00:22.140
Então, isso é o que eles parecem como você pode ver.

00:22.140 --> 00:29.730
estrutura bastante interessante um corpo e, em seguida, muitos tipos diferentes de ramos que saem deles.

00:29.730 --> 00:30.250
Uma

00:30.330 --> 00:32.350
E isso é muito interessante.

00:32.370 --> 00:38.400
Mas a questão é como podemos recriar isso em uma máquina porque realmente precisamos

00:38.400 --> 00:47.610
recriá-la e máquina, já que todo o propósito do aprendizado profundo é imitar como o cérebro humano funciona com a esperança de

00:47.820 --> 00:51.000
que, ao fazê-lo, vamos criar algo surpreendente.

00:51.000 --> 00:55.200
Vamos criar uma infra-estrutura incrível para que as máquinas possam aprender.

00:55.230 --> 00:56.800
E por que esperamos por isso.

00:56.820 --> 01:03.480
é uma das ferramentas de aprendizado mais poderosas do planeta ou como mecanismos de aprendizagem no planeta.

01:03.880 --> 01:07.300
Bem, porque o cérebro humano está bem simplesmente

01:07.320 --> 01:11.310
E nós só esperamos que, se recriarmos, teremos algo tão impressionante como esse.

01:11.310 --> 01:17.670
Então nosso desafio agora nosso primeiro passo para criar redes neurais artificiais é recriar

01:17.700 --> 01:18.380
um neurônio.

01:18.390 --> 01:19.090
Então, como nós fazemos isso.

01:19.110 --> 01:23.840
Antes de tudo, vamos dar uma olhada no que é realmente.

01:23.880 --> 01:33.180
Esta imagem foi criada pela primeira vez por um neurocientista espanhol e Chagga Ramon Yi Kajal em 1899.

01:33.180 --> 01:37.780
E o que ele fez foi morrer nos neurônios no tecido cerebral real.

01:37.780 --> 01:39.850
E olhe para eles sob um microscópio.

01:39.900 --> 01:43.530
E enquanto ele estava olhando para eles, ele realmente desenhou o que viu e isso é o que ele viu.

01:43.530 --> 01:49.560
Ele viu as suas mãos ou dois grandes neurônios lá no topo, que tinham todos esses

01:49.560 --> 01:57.930
ramos saindo deles em direção às suas partes superiores e, em seguida, cada um tinha esse Araud ou como fio saindo para

01:57.930 --> 01:59.410
o fundo muito longo.

01:59.520 --> 02:01.510
E então é isso que ele viu.

02:01.660 --> 02:07.800
E agora você sabe que a tecnologia avançou bastante e vimos os neurônios muito mais perto

02:07.800 --> 02:11.890
em mais detalhes e agora podemos desenhar o que parece diagrama.

02:11.910 --> 02:13.220
Então vamos dar uma olhada nisso.

02:13.440 --> 02:14.190
Aqui está um neurônio.

02:14.190 --> 02:21.810
Isto é o que parece ser muito semelhante ao que Santiago em torno de um se aproximou aqui e aqui e este ano e o

02:21.810 --> 02:24.310
que podemos ver é que tem um corpo.

02:24.570 --> 02:29.100
Essa é a parte principal do neurônio e, em seguida, tem alguns ramos no topo que se

02:29.160 --> 02:33.200
chama dendrites e também tem um X sobre o qual é essa longa cauda do euro.

02:33.300 --> 02:38.030
E então, quais são esses dendritos e quando estrangeiros eram o eixo bem?

02:38.130 --> 02:44.040
O ponto chave para entender aqui é que os neurônios por si só são praticamente inúteis.

02:44.040 --> 02:45.570
É como se fosse uma formiga.

02:45.600 --> 02:46.140
Certo.

02:46.170 --> 02:49.640
E por si só pode fazer meus anúncios de Psych Five juntos.

02:49.830 --> 02:51.170
Talvez eles possam escolher algo.

02:51.190 --> 02:55.830
Mas, novamente, eles não conseguem construir um formigueiro ou os chamam de estabelecer uma colônia

02:56.430 --> 02:59.340
que não possa trabalhar em conjunto como um organismo enorme.

02:59.370 --> 03:03.510
Mas, ao mesmo tempo em que você tem muitos e muitos anúncios como você tem em um milhão e eles

03:03.510 --> 03:05.680
podem construir uma colônia inteira eles podem construir um formigueiro.

03:05.680 --> 03:06.600
A mesma coisa com os neurônios.

03:06.600 --> 03:12.320
Por si só, não é tão forte, mas quando você tem muitos neurônios juntos eles trabalham juntos para fazer magia.

03:12.510 --> 03:13.820
E como eles trabalham juntos.

03:13.820 --> 03:14.430
Essa é a questão.

03:14.440 --> 03:19.140
Bem, isso é o que os dendritos e Aksenov são para os dendritos, como os receptores do sinal

03:19.140 --> 03:22.980
para o neurônio e o axônio é o transmissor do sinal para o neurônio.

03:23.220 --> 03:26.520
E aqui está uma imagem de como tudo funciona de forma conceitual.

03:26.520 --> 03:32.550
ver que é dendrites estão conectados a axônios de outros neurônios que estão mais longe além dele.

03:32.550 --> 03:35.990
Então, no topo, você conseguiu sozinho e você pode

03:36.000 --> 03:42.930
E então, o sinal de sua própria viaja para baixo seu axônio e se conecta ou passa para os dendritos do próximo neurônio

03:42.930 --> 03:44.960
e é assim que eles estão conectados.

03:45.030 --> 03:53.040
E naquela imagem pequena por aí, você pode ver que o axônio realmente não toca o lote dendrítico.

03:53.310 --> 03:59.130
Muitas máquinas de aprendizagem ou como alguns cientistas de máquinas de aprendizagem são muito inflexíveis sobre

03:59.130 --> 04:03.650
o fato de que não a toca como o quarto que não toca.

04:03.660 --> 04:06.890
Está provado que não há conexão física.

04:06.960 --> 04:14.010
passado que recorda as inscrições que você pode ver por lá naquela imagem pequena que é suporte de figura é um registro.

04:14.010 --> 04:19.590
Mas o ponto em que nos interessa é que essa conexão entre eles é que todo o

04:20.300 --> 04:22.210
conceito do sinal que está sendo

04:22.230 --> 04:23.820
E essa é a tendência que vamos fazer.

04:23.820 --> 04:29.820
Então, ao invés de chamar nossos neurônios artificiais as linhas que vamos ter ou os conectores para neurônios artificiais,

04:29.820 --> 04:34.200
agora vamos chamá-los de axônios ou dendritos, porque então a questão é de quem

04:34.200 --> 04:36.880
é essa conexão é que os neurônios são neurônios.

04:36.990 --> 04:39.340
Nós apenas chamamos isso de bom, o que é bom para chamá-los de sinal de células.

04:39.510 --> 04:42.680
E essa é uma espécie de resposta a todas as perguntas em um.

04:42.690 --> 04:47.610
Isso é basicamente onde o sinal é passado não importa a quem esse elemento pertence.

04:47.610 --> 04:51.550
Eles são apenas uma representação da passagem do sinal e nós vamos ver isso agora.

04:51.960 --> 04:55.210
Então, basicamente, é assim que funciona um neurônio.

04:55.210 --> 05:03.620
E sim, então vamos seguir em frente para como vamos representar o neurônio criar neurônios em máquinas, estamos

05:03.620 --> 05:09.380
nos afastando, agora estamos nos afastando da neurociência e passando para a tecnologia.

05:09.460 --> 05:10.260
E aqui vamos nós.

05:10.360 --> 05:17.260
Então, aqui está o nosso neurônio também às vezes chamado de nó do que o seu possui alguns sinais de entrada e tem

05:17.260 --> 05:18.400
um sinal de saída.

05:18.400 --> 05:21.040
Então dendritos e axônios se lembram.

05:21.040 --> 05:27.490
Mas, novamente, vamos chamar essas inscrições e, então, esses sinais de entrada, nós também os

05:27.490 --> 05:29.050
apresentaremos de outros neurônios.

05:29.080 --> 05:35.500
Então, neste caso específico, você pode ver que esse neurônio é verde, você está recebendo sinais de neurônios

05:35.500 --> 05:35.860
amarelos.

05:35.860 --> 05:41.800
E neste curso, vamos tentar manter um certo regime de codificação de cores, onde o amarelo significa uma camada

05:41.830 --> 05:42.540
de entrada.

05:42.540 --> 05:50.700
neurônios que estão na camada externa na primeira frente de onde os sinais estão entrando e por sinal.

05:50.710 --> 05:52.300
Então, basicamente, todos os

05:52.300 --> 05:59.200
Pode ser como um pouco de um excesso de excesso para chamar isso de sinal é apenas basicamente os valores de entrada, então.

05:59.330 --> 06:04.720
Então, você sabe como, mesmo que em uma regressão linear simples, você tenha valores de entrada e então você tenha um valor

06:04.720 --> 06:05.620
previsto, o mesmo aqui.

06:05.620 --> 06:10.720
Então, você tem valores de entrada, e eles são os amarelos e, à direita, você verá agora que

06:10.720 --> 06:11.250
será vermelho.

06:11.260 --> 06:12.820
Será o valor de saída.

06:13.600 --> 06:17.140
um neurônio que está recebendo seus sinais dos neurônios da camada de entrada.

06:17.140 --> 06:21.320
A outra coisa que eu queria apontar aqui é que neste exemplo específico estamos olhando para

06:21.320 --> 06:24.220
Há também neurônios, mas sua entrada seus neurônios.

06:24.530 --> 06:31.450
Às vezes, você terá neurônios que obtêm o sinal de outros neurônios da camada oculta de outros neurônios verdes e

06:31.450 --> 06:35.860
o conceito será exatamente o mesmo. Neste caso, nós usamos por motivos

06:35.860 --> 06:42.820
de simplicidade, estamos retratando esse exemplo e em termos de A camada de entrada, a maneira de pensar sobre isso,

06:42.970 --> 06:49.900
está na analogia do cérebro humano. A camada de entrada é seus sentidos, então, o que você pode ver, ouça,

06:49.900 --> 06:52.290
sente o toque ou o cheiro.

06:52.510 --> 06:57.220
é claro que é como se houvesse muitas coisas que você pode ver, há muita informação chegando.

06:57.220 --> 06:57.530
E

06:57.730 --> 07:02.860
Mas esses são seus. O que o seu cérebro está limitado é praticamente uma vida.

07:03.010 --> 07:09.160
Israel vive em uma caixa feita de ossos e é só que é um conceito de sopro de mente

07:09.160 --> 07:15.430
pensar que seu cérebro está trancado em uma caixa preta e a única coisa que pode ver pode ouvir.

07:15.430 --> 07:20.710
A única coisa que está recebendo é impulsos elétricos que vêm desses órgãos que você deve, devemos

07:20.710 --> 07:28.210
chamar seus ouvidos olhos no nariz, você conhece seu senso de toque e nós somos o que quer que você e seu e seu gosto.

07:28.210 --> 07:34.150
Certo, então você está apenas recebendo sinais, mas basicamente vive nesta caixa preta escura e

07:34.150 --> 07:38.460
está fazendo sentido do mundo através de seus sentidos, é fenomenal.

07:38.500 --> 07:38.930
E sim, sim.

07:38.950 --> 07:43.030
Então você tem essas entradas que estão chegando em termos de cérebro humano.

07:43.030 --> 07:49.540
Esses são seus cinco sentidos e em termos de aprendizado de máquina ou aprendizado profundo que é basicamente seus valores de entrada são

07:49.900 --> 07:55.500
suas variáveis ​​independentes e nós obteremos isso em um segundo, então seus valores de entrada eles o sinal é passado

07:56.400 --> 08:01.450
através de sinos para o neurônio e, em seguida, seu O próprio possui um valor de saída que

08:01.510 --> 08:03.200
ele passa mais adiante na cadeia.

08:03.550 --> 08:07.990
aqui estamos dizendo que nós só teremos como a camada de entrada e então teremos uma camada oculta

08:07.990 --> 08:11.830
com o verde que é o sertão, então vamos ter o resultado lá imediatamente.

08:11.830 --> 08:16.510
Neste caso específico, em termos de codificação de cores novamente, o amarelo significa a camada de entrada, então simplificamos

08:16.510 --> 08:17.140
tudo o que

08:17.530 --> 08:21.370
Então, apenas para que possamos nos acostumar com essas chamadas por enquanto.

08:21.580 --> 08:24.030
Então, vamos lá, essa é a estrutura básica.

08:24.030 --> 08:28.390
Então, vamos analisar um pouco mais detalhes nesses diferentes elementos que temos.

08:28.390 --> 08:31.090
Então, temos a camada de entrada e o que temos aqui.

08:31.090 --> 08:37.090
Bem, nós temos essas entradas que, de fato, são uma variável independente, dependendo da variável e de uma variável de bit

08:37.090 --> 08:38.170
para uma variável independente.

08:38.170 --> 08:44.230
E o importante para lembrar aqui é que essas variáveis ​​independentes são todas para uma única

08:44.230 --> 08:44.740
observação.

08:44.740 --> 08:47.620
Então pense nisso como apenas uma linha no seu banco de dados.

08:47.620 --> 08:54.790
Uma observação que você apenas leva todas as variáveis ​​independentes que você conhece, talvez seja a idade da pessoa lá a

08:54.820 --> 09:01.270
quantia de dinheiro na conta bancária e, em seguida, como eles dirigem ou caminham para o trabalho que método

09:01.270 --> 09:03.070
de proteção Shampoo eles usam.

09:03.080 --> 09:08.800
Então, isso é tudo descriptores de uma pessoa específica em que você está

09:09.130 --> 09:12.510
treinando seu modelo ou está realizando alguma previsão.

09:12.610 --> 09:16.900
E a outra coisa que você precisa saber sobre essas variáveis ​​é que você

09:16.900 --> 09:21.310
precisa padronizá-las para que você precise padronizá-las, o que significa ter certeza de que eles

09:21.340 --> 09:29.470
têm uma média de zero e uma variância ou você também pode às vezes e Headland irá apontar estes traços em um pouco mais de detalhes, talvez

09:29.480 --> 09:34.090
em termos práticos, você pode encontrar essas vezes, você pode querer saber que a padronização

09:34.090 --> 09:34.800
pode querer normalizá-los.

09:34.990 --> 09:41.050
Significando que, em vez de se certificar de que a média e muito grande e variância é uma que você apenas leva você

09:41.050 --> 09:46.130
a saber para subtrair o valor mínimo e, em seguida, você divide pelo mínimo máximo mínimo pelo intervalo de

09:46.150 --> 09:49.350
seus valores e os quatro você obtém valores entre 0 e 1 .

09:49.510 --> 09:53.580
E isso depende desse cenário, você pode querer fazer um ou outro.

09:53.590 --> 10:00.700
Mas, basicamente, você quer que todas essas variáveis ​​sejam bastante similares na mesma gama de valores e

10:00.760 --> 10:01.680
por quê.

10:01.700 --> 10:02.150
Por que é que.

10:02.150 --> 10:06.890
Bem, todos esses valores vão entrar em uma rede neural onde, como veremos agora, eles

10:06.890 --> 10:12.980
serão adicionados e multiplicados por pesos, é adicionado e assim por diante e vai ser será mais fácil para

10:12.980 --> 10:16.990
o neural rede para processá-los se eles são todos sobre o mesmo.

10:17.210 --> 10:23.790
E, na verdade, você sabe que é exatamente assim que será capaz de funcionar corretamente.

10:24.260 --> 10:29.210
E se você quiser ler mais sobre a normalização de padronização e outras coisas que

10:29.210 --> 10:36.440
você pode fazer se você souber quais variáveis ​​um bom documento de leitura adicional é chamado de problema de retorno eficiente pelos

10:37.070 --> 10:39.630
novos links de Licken 1998 por aí.

10:39.650 --> 10:47.570
Então, na verdade, vamos falar mais sobre essa pessoa fenomenal no espaço de aprendizado profundo na parte do curso

10:47.680 --> 10:49.040
que estamos falando.

10:49.040 --> 10:53.930
Redes neurais convolutivas e você verá que esta é definitivamente uma pessoa que sabe

10:53.930 --> 10:55.280
do que está falando.

10:55.280 --> 11:00.840
Ele é um amigo íntimo de Jeffrey Hinton, que já vimos quem é muito fraco. será uma boa fonte de leitura adicional ao passar por este curso.

11:00.860 --> 11:07.070
Então, neste artigo, você aprenderá mais sobre o ização da normalização, mas também

11:07.070 --> 11:11.510
pode pegar muitas outras dicas e truques diferentes, e você

11:11.510 --> 11:12.470
Então, verifique se você está interessado em alguma leitura adicional.

11:12.590 --> 11:15.800
Aqui vamos nós.

11:16.290 --> 11:16.940
Então é o que fazemos para os verbais.

11:16.940 --> 11:20.210
E como aqui temos o valor de saída.

11:20.390 --> 11:23.140
Então, qual pode ser o nosso valor de saída?

11:23.180 --> 11:24.960
Bem, nós temos algumas opções.

11:25.130 --> 11:26.280
O valor da saída pode ser

11:26.300 --> 11:32.110
pode ser contínuo. Por exemplo, por exemplo, o preço pode ser binário, por exemplo, uma pessoa vai sair ou permanecerá ou pode ser categórico verbal e físico verbal verbal categórico.

11:32.110 --> 11:39.260
O importante para lembrar aqui é que, nesse caso, seu valor de saída não será apenas um,

11:39.260 --> 11:44.060
haverá vários valores de saída porque estas serão variáveis ​​fofas que

11:44.060 --> 11:50.390
representarão suas categorias e é só isso, como funciona e apenas importante para lembrar que,

11:51.360 --> 11:57.400
nesse caso, é assim que você vai tirar suas categorias da rede neural artificial.

11:57.410 --> 12:02.640
Mas voltemos a um caso simples de um volume de saída.

12:02.810 --> 12:05.510
ponto à esquerda, você tem uma única observação.

12:05.750 --> 12:11.780
E agora, vamos mais um ponto ou tipo de como o ponto preparado, eu só queria reiterar esse

12:11.780 --> 12:15.360
Então, pergunte se você quer dizer com o seu conjunto de dados

12:15.470 --> 12:20.180
e à direita, você também possui uma única direção e essa é a mesma observação.

12:20.210 --> 12:21.990
Tão importante lembrar que, como as

12:22.190 --> 12:28.100
insumos que você coloca em uma linha e, então, a saída que você obtém é para essa mesma linha exata.

12:28.100 --> 12:29.960
Ou se você está treinando sua rede neural, então

12:30.080 --> 12:34.420
você sabe que está colocando as entradas para esse rolo em que você está colocando a saída para essa linha.

12:34.420 --> 12:36.440
ou uma regressão linear multivariada.

12:36.440 --> 12:42.440
Então, como se você quiser simplificar a complexidade, considere isso como uma simples coisa de regressão

12:42.440 --> 12:43.990
Então você está colocando seus valores, você tem a saída.

12:43.990 --> 12:48.150
Há como não há dúvida sobre isso.

12:48.180 --> 12:49.700
Quando estamos falando de coisas como a regressão, porque estamos tão acostumados a isso.

12:49.700 --> 12:52.790
O mesmo aqui não é muito complexo.

12:52.790 --> 12:54.980
Estamos apenas colocando valores em que estamos recebendo resultados.

12:54.980 --> 12:56.740
ou algo isso é tudo apenas

12:56.760 --> 13:01.310
valores naquele Rowse uma observação diferente características ou atributos diferentes relativos a essa observação cada vez.

13:01.310 --> 13:07.940
Mas lembre-se de que cada vez que é uma linha você está lidando para que você não se confunda e comece a colocar

13:07.940 --> 13:12.710
como pensar que estas são diferentes linhas diferentes que você está colocando em sua rede neural artificial

13:12.710 --> 13:18.970
Ok, então a próxima coisa sobre a qual queremos falar aqui é que nossos

13:19.160 --> 13:26.090
seios são Asilo aqui, nós temos serviços e todos eles recebem pesos de pesos atribuídos.

13:26.090 --> 13:28.940
Vamos falar mais sobre os pesos mais

13:28.940 --> 13:37.100
baixos, mas em pesos curtos são cruciais para os trabalhos do nervo artificial da rede neural funcionando porque os pesos

13:37.100 --> 13:44.040
são como as redes neurais aprendem, ajustando os pesos, a rede neural decide, em cada caso, qual

13:44.470 --> 13:50.270
sinal único é pobre e o que? O sinal não é importante para certos neurônios.

13:50.270 --> 13:51.140
O único que

13:51.140 --> 13:56.300
é transmitido e o sinal que não é transmitido ou a força em que medida os sinais são transmitidos.

13:56.300 --> 13:57.770
Portanto, os pesos são cruciais.

13:57.770 --> 13:59.320
Eles são e são as coisas que se ajustam através do processo de aprendizagem.

13:59.330 --> 14:03.590
Como quando, quando você está treinando sob uma rede neural artificial, você está basicamente

14:03.590 --> 14:07.760
ajustando todos os pesos em todos os sinos em toda essa rede neural.

14:07.760 --> 14:11.050
E é aí que a descida gradiente

14:11.250 --> 14:17.910
e a propagação traseira entram em jogo e esses são conceitos que também discutiremos.

14:17.910 --> 14:19.240
Então, basicamente, esses são os pesos.

14:19.670 --> 14:21.410
Isso é o que eu preciso saber por enquanto.

14:21.410 --> 14:22.940
E nós temos os neurônios para que os sinais entrem no neurônio e o que acontece na Europa.

14:23.150 --> 14:28.420
Então, esta é a parte interessante.

14:28.430 --> 14:30.520
Como estamos falando sobre o neurônio hoje, o que acontece dentro do neurônio.

14:30.530 --> 14:33.670
Então, algumas coisas acontecem primeiro e o primeiro

14:33.890 --> 14:40.100
passo é que todos esses valores que está recebendo são adicionados, então isso leva isso adicionado.

14:40.190 --> 14:43.730
multiplique, acrescente-se e, em seguida, aplica uma função de ativação.

14:43.850 --> 14:51.200
Então, a soma ponderada de todos os valores de entrada que está ficando muito simples, é muito simples, apenas adicione-se,

14:51.220 --> 14:57.200
Agora, vamos falar mais sobre as funções de ativação, mas é basicamente uma função atribuída a esse neurônio ou

14:57.200 --> 15:00.960
a toda essa camada e é aplicada dessa maneira para adicionar algumas.

15:00.960 --> 15:09.420
E então, a partir daí, a zona do euro entende se precisa transmitir um sinal se você quiser e

15:09.570 --> 15:16.890
esse é o sinal que ele passa, que a função se aplica à maneira como alguns.

15:16.890 --> 15:22.260
Mas, basicamente, dependendo da função, o neurônio passará

15:22.260 --> 15:26.400
o sinal ou não passará o sinal.

15:26.400 --> 15:27.640
E isso é exatamente o que aconteceu aqui no terceiro passo.

15:27.870 --> 15:30.910
A massa de neurônios nesse sinal para o próximo neurônio na linha.

15:31.430 --> 15:35.670
E é disso que vamos falar no próximo tutorial porque é um tópico bastante importante.

15:36.090 --> 15:39.960
Queremos aprofundar a função de ativação, mas espero que por agora tudo esteja

15:39.960 --> 15:46.380
bem claro, como você conhece os valores de entrada que você tem, você tem casas de design, você tem algo que

15:46.380 --> 15:51.600
você sabe que acontece no neurônio, Tenho uma maneira Sarmad de uma função de ativação aplicada e,

15:51.660 --> 15:56.430
em seguida, isso é transmitido pela linha e isso só é repetido em toda a rede

15:56.430 --> 16:00.510
neural de mais sobre e sobre e sobre e você conhece milhares de

16:00.510 --> 16:06.660
milhares de vezes, dependendo de quão grande quantos neurônios você tem quantos inscreva-se como você tem em sua rede neural.

16:06.660 --> 16:09.550
Então vamos lá.

16:09.570 --> 16:10.110
Espero que você tenha gostado do código do tutorial de hoje em uma extensão.

16:10.110 --> 16:13.270
Até então, aproveite a aprendizagem profunda.

16:13.410 --> 16:15.010
&nbsp;
