艾莉森应该知道的事｡
什么是互联网？
Internet是一个庞大计算机网络｡
现在变得很大的那个｡
你什么意思, 那是｡
怎么一个｡
你给它写什么？
像邮件？
不, 不, 不
很多人都用它来交流｡
我猜他们可以和NBC的编剧和制片人交流｡
艾莉森, 你能解释一下什么是互联网吗？
这是多么令人惊奇啊？
就在20多年前, 人们甚至不知道互联网是什么｡
今天, 我们甚至无法想象没有它的生活｡
欢迎来到深度学习课程A to Z｡
我的名字是基拉·拉姆科和合作教练沿着, 挤在庞蒂米斯特｡
我们非常高兴您能加入我们的行列, 今天我们将为给予简要介绍什么是深度学习,
以及为什么它现在正在兴起｡
那么我们开始吧｡
我们为什么要看那段视频
这张照片是什么？
那是1994年的视频
这是一张1980年的电脑照片｡
我们之所以要深入研究历史,
是因为神经网络和深度学习已经存在了相当长的一段时间, 它们现在才开始起步并影响世界｡
但如果你回头看八十年代,
你会发现, 尽管它们是在六七十年代发明的, 但它们确实在八十年代赶上了一种潮流或刮起了风｡
所以人们开始谈论他们很多｡
在这个领域有很多研究, 每个人都认为深度学习或神经网络是一种新事物,
它将影响世界, 将改变一切, 它将解决所有世界问题｡
然后在接下来的十年里慢慢消失了｡
那后来呢？
为什么为什么神经网络没有存活下来, 没有改变世界？
这就是原因, 它们不够好, 它们不擅长预测事物,
也不擅长建模, 基本上不是一个好的发明.
还是另有原因？
事实上,
之所以会出现在我们面前, 是因为当时的技术还没有达到促进神经网络发展的标准｡
为了让神经网络和深度学习正常工作, 你需要两样东西｡
你需要数据, 你需要大量的数据, 你需要处理能力｡
你需要强大的计算机来处理这些数据, 并促进神经网络｡
让我们来看看是如何做到的｡
数据或数据存储经过多年的发展, 然后我们将看看技术是如何发展的｡
这里我们有三年时间, 1956年, 1980年, 2017年｡
1956年的存储是什么样子的？
嗯, 有一个硬盘驱动器, 而那个硬盘驱动器只是一个五等一兆字节的硬盘驱动器｡
这是5兆字节的叉车上的一个小房间的大小｡
这是一个硬盘驱动器被运送到另一个位置的飞机｡
这就是1956年的存储情况,
你必须支付一家公司当时的2500美元来租用硬盘, 而不是购买硬盘来租用一个月｡
1980年, 情况稍有好转｡
所以这里我们有一个10MB的硬盘, 35000美元仍然很贵, 而且只有10MB｡
这就像是这些天的一张照片｡
而在2017年的今天, 我们以150美元的价格推出了一张256 GB的SD卡, 它可以戴在你的手指上｡
如果你在一年后或者2019年或2025年看这段视频, 你可能会暗自发笑,
因为到那时你的存储容量甚至更大了｡
但不管怎么说, 这一点是成立的｡
因此, 如果我们全面比较这些产品, 并且我们已经将价格和规模考虑在内,
那么当时的趋势就是容量｡
所以从1956年到1980年, 容量增加了大约一倍, 然后又增加了大约25,600倍｡
时间的长短, 也没什么不同｡
所以从1956年到1982年24年, 从1980年到2017年37年｡
所以不是时间的增加, 而是技术进步的巨大飞跃｡
这表明, 这不是一个线性趋势｡
这是技术的指数级增长｡
如果我们把价格和尺寸考虑进去, 它将增加数百万美元｡
这是一个对数刻度的图表｡
如果我们绘制每GB的硬盘成本, 您会看到类似这样的结果｡
我们现在正迅速接近零｡
你可以在Dropbox和Google Drive上获得存储空间, 这不需要你花任何钱, 云存储,
这将继续下去｡
事实上, 在过去的几年里, 这将进一步发展｡
现在, 科学家们正在研究利用DNA进行存储｡
而且现在它相当昂贵｡
合成两兆字节的数据需要花费7,000美元, 然后再花2000美元来读取它｡
但这提醒了你硬盘和飞机的整个情况, 这将很快得到缓解, 从现在起10到10年后,
20年后, 每个人都将使用DNA存储,
如果我们沿着这个方向发展｡
这里有一些数据｡
所以你可以进一步探索它, 如果你想读更多关于这个的内容, 可以暂停这个, 暂停视频｡
这是自然网发来的｡
基本上, 你可以在一公斤的DNA存储器中存储世界上所有的数据,
或者你可以在一克的DNA存储器中存储大约10亿TB的数据｡
所以这只是一些东西来显示我们的进步有多快, 这就是为什么深度学习正在加快,
现在我们终于到了一个阶段, 我们有足够的数据来训练超级酷, 超级复杂的模型｡
回到八十年代, 当它最初被发明的时候, 情况并非如此｡
我们讨论的第二件事是处理能力｡
这里我们又得到了一个对数尺度的指数曲线｡
这里的描述并不理想, 但在右边你可以看到它是一个对数刻度, 这就是计算机的发展过程｡
请再次暂停这张幻灯片｡
这就是摩尔定律｡
你可能听说过计算机的处理能力发展得有多快｡
现在, 我们在这里的某个地方,
一台普通的计算机可以花1000美元买下, 以老鼠大脑的速度思考, 25之间将是人类或23岁的孩子的速度｡
然后到2050年或2045年, 它将超过所有人类的总和｡
所以基本上我们正在进入一个电脑的时代, 它是非常强大的,
它可以处理事情的速度比我们想象的要快得多｡
而这正是促进深度学习的原因｡
所以所有这些都让我们想到了一个问题：什么是深度学习？
这整个神经网络是怎么回事？
这到底是怎么回事？
我们到底在说什么？
你们可能看过一张照片, 类似这样的, 让我们深入了解一下｡
什么是深度学习？
这位先生, 杰弗里·欣顿顿, 被称为深渊教父｡
他在八十年代做过深度学习方面的研究｡
他做了很多很多的工作, 他在深度学习上发表了很多研究论文｡
现在他在谷歌工作｡
所以我们将要讨论的很多东西实际上都来自杰弗里·欣顿顿, 你可以看到很多｡
他在YouTube上有很多视频｡
他把事情解释得很好｡
所以我强烈建议你去看看｡
所以深度学习背后的想法是观察人类的大脑, 这将是一个相当多的神经科学即将到来, 在这些教程｡
我们在这里要做的是模仿人脑的运作方式｡
而我们知道的也不多｡
你并不了解人类大脑的一切, 但我们所知道的那一点点, 我们想模仿它,
再创造它｡
为什么呢？
因为人类的大脑似乎是这个星球上最强大的学习工具之一, 用来学习, 适应技能,
然后应用它们｡
如果计算机可以复制, 那么我们就可以利用自然选择已经为我们决定的东西｡
所有这些算法, 它已经决定是最好的｡
我们只是要利用这一点｡
为什么要重新发明自行车？
好吧, 我知道了
让我们来看看它是如何工作的｡
我们有一些神经元｡
这些神经元被涂在玻璃上, 然后在一个有颜色的显微镜下观察｡
你可以看到它们的样子｡
它们有身体, 有树枝, 还有尾巴等等.
这样你就能看到他们了｡
它们中间有一个细胞核｡
这基本上就是人脑中神经元的样子｡
总共大约有1000亿个神经元｡
这些是独立的神经元｡
这些实际上是运动神经元因为它们更大, 更容易看到.
然而, 人类大脑中有1000亿个神经元, 每个神经元都与多达1000个相邻神经元相连｡
给予你们一张图片, 这是它的样子｡
这是人脑的一个真实部分｡
这是小脑, 也就是你大脑后部的一部分｡
它负责像矩阵和保持你的平衡和一些语言能力之类的东西｡
所以这只是为了展示有多少个神经元｡
它们就像是数十亿的神经元在你的大脑中连接在一起｡
所以我们说的不是五个､ 五百个､ 一千个或一百万个｡
这里面有数十亿个神经元｡
是的, 所以这就是我们要尝试重现的｡
那么我们如何在计算机中重现这个呢？
我们创建了一个人工结构, 叫做人工神经网络, 这里有节点或者神经元,
我们还有一些神经元用来输入值.
所以这些是你在特定情况下所知道的价值观｡
比如说, 你在建模, 你想预测,
你总是会有一些输入, 一些开始你的预测的东西｡
这就是所谓的输入层, 然后是输出层｡
这就是你要预测的价值, 或者是意外, 或者是某人要离开银行还是留在银行,
这是一笔欺诈交易吗？
这是真实的交易吗？
如此等等｡
这将是输出层｡
在中间我们会有一个隐藏层｡
所以你可以在你的大脑中看到, 你有这么多的神经元｡
所以一些信息通过你的眼睛､ 耳朵､ 鼻子进入｡
所以你基本上是你的感官｡
然后, 它不仅仅是直接输出｡
结果是在到达输出端之前, 经过了数十亿个神经元｡
这就是我们要对大脑建模的整个概念｡
所以我们需要这些隐藏的层在输出之前｡
输入层的神经元连接到隐藏层的神经元, 隐藏层的神经元连接到输出值｡
所以这是这是相当酷｡
但这到底是怎么回事？
这里的深度学习在哪里？
为什么叫深度学习？
这里面没什么东西｡
这就像是一种可以被称为浅层次学习的选择｡
实际上没什么进展｡
但为什么叫深度学习呢？
好吧, 因为这样我们就能更进一步｡
我们把它分离得更远｡
而且我们并不是只有一个隐藏层｡
我们有很多很多隐藏的层, 然后我们把所有的东西都连接起来｡
就像在人类的大脑里一样, 我们把一切都联系起来, 把一切都联系起来｡
这就是输入值如何通过所有这些隐藏的层进行处理, 就像在人脑中一样｡
然后我们有了一个输出值, 现在我们谈论深度学习｡
这就是深度学习在一个非常抽象的层面上的意义｡
在后续的教程中, 我们将深入剖析深度学习, 在教程结束时,
您将了解深度学习是什么, 以及如何将其应用到您的项目中｡
对这个可汗超级兴奋｡
等待开始, 我期待着看到你在下一个教程｡
在此之前, 请尽情享受深度学习｡