AI即将撞墙吗？
简介：  在过去的几个月中，围绕AI将要碰壁的主题出现了多个故事。我们所经历的快速改进和所产生的收益无法以当前的速度持续下去。值得一看这些论点，看看我们是否应该调整计划和期望。
在过去的几个月中，围绕AI将要碰壁的主题出现了多个故事。我们所经历的快速改进和所产生的收益无法以当前的速度持续下去。值得一看这些论点，看看我们是否应该调整计划和期望。
这些问题围绕两个问题：
仅有少数几个城市对AI的投资过度集中，这将如何影响增长。
我们最先进的应用程序所需的计算量似乎比暗示要追求最大计算量的先进技术的成本/收益受到一定限制之前的增长速度快了七倍。
过度集中投资
的确，对AI的投资非常集中在少数几个城市。美国国家风险投资协会的这张图表显示，超过80％的投资仅投向了六个地铁。顺便说一句，低于这个水平的分配有很大的突破，仅次于最好的地铁仅获得总投资的2.4％（芝加哥）。
那么有什么问题呢？对此发表文章的人们将这视为人才的过度集中，这增加了这些领域的劳动力成本，使得某些类型的新AI投资不经济。
旧金山的AI人才集中似乎导致在那里产生了AI的最新思想。但是，这真的是一个引力太大的黑洞吗，以至于好主意无法逃脱而无法在其他地方执行？
担心这种集中的人会看到这些好主意逃到了海外低成本地点。我不确定。
有一种模式是，由风投资助的AI初创公司和成熟的AI公司的最大集中将吸引最底层的新人才。应届毕业生和年轻人自然会被机会最多的城市吸引。
我个人认为，这种担忧忽略了随着这些地铁变得越来越密集而带来的机遇，它们的居住成本也大大提高，生活质量迅速下降（旧金山，我在看着你）。
当年轻的专业人??士获得经验并进入他们想要结婚，购买房屋和开始家庭的生活阶段时，他们自然会迁移到价格便宜的地区。这可能意味着它们将以较低的生活成本吸引到这些大都市的郊区，人工智能企业将自然而然地吸引人才。这也可能意味着愿意在更长的距离上搬迁到生活质量良好的地区，例如奥斯汀，西雅图，华盛顿，亚特兰大或迈阿密，那里的投资将跟随人才。
现在，针对最高级应用程序的培训计算的增长比以前快7倍。
人工智能研究实验室OpenAI于2018年首次提出了这一关注领域，最近又更新了新数据。他们的发现是，自2012年以来，训练最大的AI模型所需的计算能力每3.4个月翻一番。
他们将历史分为两个截然不同的时代，从2012年开始的新时代现在的增长速度比前一个时代快7倍。
这种现象已经导致一些领先的行业专家，包括Facebook人工智能副总裁Jerome Pesenti，在最近的Wired文章中观察到，在改善AI模型的极端极限下可以实现的目标可能存在成本/收益的极限。
Pesenti表示，扩大规模是应对最困难挑战的有价值的解决方案，例如深度伪造图像检测，人工智能对伪造新闻和网络滥用进行审核，而进步速度是不可持续的。
“如果您查看顶级实验，那么每年的成本将上涨10倍。现在，一个实验可能是七个数字，但不可能达到九个或十个数字，这是不可能的，没人能负担得起。这意味着我们将在某个时候碰壁。我们已经在许多方面拥有了。”
处于风险中的其他进步可能是人工智能中的许多“下一件大事”，包括需要增加前瞻性或回顾性以进行正确分类的尖端应用程序。这些将包括下一代计算机视觉中的许多导航应用程序，以及可以将我们的日程安排和动作与外部事件相关联的上下文智能NLP助手。
尽管我不希望没有这些改进，但有趣的是OpenAI图表中包含了哪些内容。例如，最需要计算的模型实际上是一个强化学习游戏玩应用程序AlphaGoZero。我个人希望继续进行深度学习RL模型的研究，但是商业应用并不像BERT（谷歌的新型NLP语言编码器）那么吸引人。
要记住的另一个问题是，这是一个影响现有功能的增量收益的问题。佩森蒂（Pesenti）大声地想知道是否不是时候对这些应用成本/收益标准。所谓的隔离墙不会以任何方式阻止我们继续将现有的AI / ML功能快速应用到业务中，并从中收获目前正在获得的收益。
从某种意义上讲，这就是飞行综合症。我们进展得如此之快，以至于如果我们没有立即获得深入的假冒检测或虚假新闻自动审核，我们会怀疑我们的飞行车在哪里。
还值得注意的是，正在进行大量研究以提高培训过程的效率。例如，就在上周，莱斯大学的研究人员宣布了他们新的MACH技术（通过散列合并平均分类器）的结果。  他们报告说， “训练时间比以前的大规模深度学习技术快了约7-10倍，并且……内存占用量减小了2-4倍”。
对于这些隔离墙，幸运的是，聪明的人正在解决这个问题的两端。我们可能需要在研究中引入一些成本/收益方面的知识，但是如果有市场需求，我敢打赌，我们将找到一种方法。

关注 CDA人工智能学院 ，回复“录播”获取更多人工智能精选直播视频！