Google的深度神经网络强在哪里?谷歌首席科学家说了这些奇妙的特性
第一代系统DistBeliet在可扩缩性上表现很好,但在用于研究时灵活性达不到预期。对问题空间的更深理解让我们可以做出一些大幅度的简化。 这也是第二代系统的研发动机,用 TensorFlow 表达高层次的机器学习计算。它是C++语言编写的核心,冗余少。而不同的前端,现有Python和C++前端,添加其他语言的前端也不是难题。 计算可以用一张数据流图来理解。 我们输入数据、权重、误差以及标签,在不同节点进行不同的运算。 TensorFlow名字的意义 Tensor(张量)意味着N维数组。1维时就是向量,2维时就是矩阵;通过图像可以代表更高维的数据流,比如,图像可以用三维张量(行,列,颜色)来表示。 Flow(流)意味着基于数据流图的计算。有许多运算(图中的节点)应用在数据流上。 张量从图象的一端流动到另一端,这就是“TensorFlow”。“边”代表张量(数据),节点代表运算处理。 这是使用张量计算的示意图。 这是使用状态计算的示意图。 这是使用分布式计算的示意图。 它能够在各个平台上自动运行模型:电话上,单个机器上(CPU或GPU),由成百上千的GPU卡组成的的分布式系统。 如果你还没想通过深度学习网络去解决你的数据问题,你还是要赶紧考虑。TensorFlow 让每个人更容易获取深度学习能力。 高度扩展的设计,更快的实验速度加速研究进程 容易分享模型,开发代码应用到可重用的效果 通过同一个系统把研究工作直接用于生产环境 最后说一些quora上大家给Jeff Dean大神编的段子,供君一乐: Jeff Dean当初面试Google时,被问到“如果P=NP能够推导出哪些结论”,Jeff回答说:“P = 0或者N = 1”。而在面试官还没笑完的时候,Jeff检查了一下Google的公钥,然后在黑板上写下了私钥。编译器从不警告Jeff Dean,只有Jeff警告编译器。Jeff Dean的编码速度在2000年底提高了约40倍,因为他换了USB2.0的键盘。Jeff Dean被迫发明了异步API因为有一天他把一个函数优化到在调用前就返回结果了。Jeff Dean曾经写过一个O(n2)算法,那是为了解决旅行商问题。Jeff Dean的键盘只有两个键,1和0。 Jeff Dean失眠的时候,就Mapreduce羊。 参考文章:Jeff Dean on Large-Scale Deep Learning at Google。 (编辑:云计算网_泰州站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |