“NIPS 2017：与李飞飞、哈萨比斯、Ian Goodfellow等7位大牛面对面”

本篇文章5647字，读完约14分钟

【新智元领导】nips在不平凡的会议上，deepmind、fb、英伟达、batj提出了全身解数，各企业表示自己的想法不同。 李飞、哈扎维斯、ian goodfellow等大牛分享了它们吗？ micheal jordan还在现场打鼓吗？ 斯坦福大学博士生，师从李飞飞教授jim fan (范麟熙)参加了这次nips的所有主要活动和讲座，带来了他第一手的注意和体验。

我现在在斯坦福大学主修人工智能博士，向斯坦福大学的人工智能实验室主任、现在谷歌云的最高科学家李飞飞教授学习。 这是我第一次参加nips会议。 今年的nips不仅热情地达到了历史高峰，在文案和活动上也很棒。 在nips上听到的演讲和遇到的人物，大多与我研究人工智能的心灵之旅直接相关，所以有很多“没遇到过”和“感慨无限”的瞬间。

第一天早上6点45分走到会场门外，排在签名队的第一排，但回头一看，紧挨着的是yoshua bengio大神。 我以前就听说那位老人睡得很晚早起的习惯，还是很有名的。

nips学术讲座:面对七位大神

emma brunskill :如何将强化学习与人联系起来

nips的第一天，我参加了教程会话。 上午8点的第一个tutorial是斯坦福大学的教授emma brunskill发表的，标题是“Reinforcementlearning Forthe PeoPleand Bythe People”。 这个标题巧妙地借用了美国总统林肯在葛底斯堡演说中的名言“government of the people，by the people，for the people，shall not perish from the earth .”。

emma和我在斯坦福大学共同进行了元学习(元学习)项目。 她对强化学习( rl )的理论有很深的基础，她参与的许多论文包括很多收敛性说明。 deepmind结合了最新的深度学习技术和古老的强化学习算法后，rl也成为了“炼金术”。 像emma这样严密的数学说明也越来越少了。

回到emma的讲座文案:如何把人与强化学习有机结合？

李飞教授:计算机视觉在医疗中的应用与前景

这次很遗憾没能进入自己领导的讲座专场，只能站在门口踮着脚尖眺望。 我晚了一点，整个大厅靠着肩膀，不仅没有空位，而且几乎没有空位。 当天没有比第二次讲座更盛况空前的了。

飞飞老师的演讲主题是人工智能和计算机视觉在医疗中的应用和未来前景。

deepmind共同创始人demis hassabis自去年3月alphago比赛以来，一下子成为人工智能期的天王巨星。 deepmind严格遵守时间，在nips期间发表了“alphazero”的最新论文。 alphazero没有围棋设计专用的组件，可以直接适用于国际象棋和日本象棋等所有完全新闻( complete informatio )的游戏。

我大学一年级的时候，因为很有趣，所以自己用c+写了国际象棋引擎。 当时参考了最强的开源引擎stockfish (塔拉)。 这次看了alphazero的完胜塔拉引擎，心里有万感。 我在另一份复印件里详细写alphazero和塔拉的传说。

ali rahimi :炼金术，实验严谨，以及出现的智能

这次nips的“test of time award”被授予ali rahimi，他的颁奖演说也成为这次nips最大的彩蛋，大家在茶余饭后都成为了兴趣盎然的话题。 ali获奖的经典论文题为“randomfeaturesforlarge-scalekernelmachine”“大规模Kernel机的随机特征”。 对我个人来说，这篇论文的意义特别深。 我在纽约哥伦比亚大学二年级的时候，从自然语言解决( nlp )的宗师michael collins那里进行了关于语音识别的研究，深入比较了基于深神经互联网、rahimi和recht的随机特征算法。 这是我学术生涯中的第一个正式研究项目，也是第一次摆脱教科书和作业的限制，进行最先进的机器学习。 我记得当时phd前辈和java写了整个培训框架，把只能在cpu上执行的代码更改为cuda加速gpu代码。 项目度过了暑假，我学到了很多算法和gpu编程的知识，然后为更多复杂、规模更大的项目奠定了坚实的基础。 没有rahimi就没有我的处女作！ 这次能在现场直接听到他的演讲是我的荣幸。

另一方面，现在很多论文确实缺乏严格的科学态度。 这非常危险。 我想从“p-value”这个经典的实验统计指标开始。 用大鼠测试了新药，假设批次的生存率是90%。 文献中旧药的存活率为88%。 我的新药一定比旧药有效吗？ 必须给出p-value才能评价。 我可能做了小规模的实验。 碰巧吸了身体结实的老鼠，药效更好。 换句话说，生存率可能只有85%。 p-value代表“自信度”。 越低越好。 p-value 0.01的话，统计上新药确实比老药有效，不是因为我在做实验所以运气好。

其他应用科学行业的论文，如医学、生物学、经济学，关于实验结果的比较，通常提到p-value。 但不知为什么，在深度学习界，“p-value”似乎没有人问津。 深神经网络的初始参数通常是随机生成的，改变随机种子后不能再现论文结果的实验不少。 很多论文只再跑了一次实验，比文献结果高0.5%，主张自己的算法是很大的进步。

这种现象在强化学习中特别明显。 因为现在很多深度强化学习算法在训练时比较不稳定。 算法的代码行不变，不同的随机初始化可能会导致训练结果大不相同。 确实也有反复多次实验求出平均值的论文，但最后报告的结果是“前五”的曲线，不得不说有“听到喜讯不担心”的嫌疑。

在一些方面，我非常赞同rahimi的意见。 实验方法需要规范化，实验结果必须经得起推敲。

另一方面，我站在杨乐村一边。 经验总是比理论领先，即使没有理论，“炼金术”也并不意味着不值得做。 我的理由首先分为两部分。

第一，人工智能和物理方程不同。 后者可以准确地引导。 例如，牛顿的万有引力方程无处不在。 也能正确测量光速的数值和电子的电荷。 但是，前者的本性是模仿人的理性和感情，它们本身就是fuzzy，是定义不确定的概念。 问问画家为什么选择这个颜色。 他只能说。 你向李世石下棋时，问他为什么选择这一步，他也会对你说“凭感觉就是这样”。 我们可以用心理学等科学系统地记述人类认识的过程，尽管如此，普遍的“智能方程式”还是不存在。

其次，如果有一天我们真的实现了“强人工智能( artificial general intelligence，agi )”，我想那很可能是emergent property，即所谓的“出现的性质”。 以我们的大脑为例。 大脑中有成千亿个神经元细胞。 每个细胞既不存在自我意识，也不存在很多复杂的推论，只是按照一定的法则接收神经电信号，向邻居发送脉冲。 但是亿万神经元一运行，就能演奏思考和感情的交响乐。 这就是“出现”的意思。 可以用数学理论正确地说明各神经元每毫秒的活动，但不能理解为什么大脑整体上有喜怒哀乐，有仇恨。 所以，在我的预测中，强人工智能很可能无法用rahimi设想的系统理论体系完全分解。

ian goodfellow:gan在艺术和创造性中的应用

ian大神的代表作是现在众所周知的“生成对抗式网络”( gan )。 现在，基于gan和卷积神经网络的算法可以合成假乱真的图像。 我和ian大神的交叉点是年openai的暑假实习，ian本科毕业于斯坦福大学，是我的嫡系校长。 phd毕业于蒙特利尔大学ai研究所( mila )，也是我和yoshua bengio一起进行科学研究的地方。 我对他的印象是很健谈的前辈，思辨得很好，偶尔会有冷淡的幽默。 ian这次在nips上报告了gan在艺术和创造中的应用。

jurgen schmidhuber:classy的画风与周围的人不同
schmidhuber老年人最有名的工作是20年前的long short-term memory(lstm )，反馈式新 这次幸运地在nips上见到了本人，谈了强化学习和元学习的一点看法。 老年人穿着笔挺的西装，classy的画风和周围的人不一样。

michael jordan :闭幕式太鼓的声援！

在nips盛大的闭幕式上，“imposterior”乐队为大家倾情演奏摇滚和爵士乐等音乐。 乐队最有名的成员是michael jordan教授，伯克利的机器学习宗师，现在蚂蚁金服的首席科学家。

接下来，让我们回顾一些时间，看看这次nips公司的玩家。 在ai热潮下，公司纷纷来学术会议招聘人才，不遗余力。 在公司举办的午餐会、晚宴和after-party上，可以看到各自的风格和气氛。

我第一次参加nips，所以没怎么比较。 但是，据参加的伙伴们介绍，今年nips公司的参加度明显提高，不仅老牌google brain，facebook ai research和deepmind、苹果和亚马逊等企业也有自己的专业讲座

除了主会场的日程外，各企业白天和晚上都拿出全身解数参加午餐会、晚宴和深夜派对。 这次应邀参加了许多知名企业的派对，给大家带来了第一手体验报告。

deepmind :严格的招待制。 不自己来的话会被拒绝的

缓慢上升的deepmind企业，阿法犬的威风震动世界后也越来越冷了。 他们nips的after-party是严格的招待制。 即使其他企业没有邀请，通常也会让来访者暂时登记。 但是，deepmind有几个警卫在门口，无情地拒绝了不被邀请的客人们。 据说每个deepmind的员工只能参加一个好朋友。

当然，派对将在高级别的地方举行。

特斯拉:面具不会错过人才多的地方

elon musk当然不会错过nips这样的人才聚集的地方。 我们组毕业的前辈，现在特斯拉无人驾驶总负责人andrej karpathy也参加了特斯拉的座谈会。

问了elon，特斯拉的无人驾驶视觉系统能否防御adversarial attack (恶意干扰神经互联网的算法)，他说:“所有的信号灯和路标都在地图数据库里，需要当场识别。 (下图左二是elon musk，左三是karpathy。 ）

随着开放的研究浪潮，像瓶子一样闭口不谈的苹果企业也举办了教授faceid(iphonex面部识别)、animoji (动态表情)、hey siri(siri语音识别关键词识别)背后秘密的讲座。

facebook onnx:fb、亚马逊、微软三大公司合作

facebook onnx团队的活动将在parker lighthouse举行。 onnx的全名是openneuralnetworkexchangeformat，是一座相互贯通不同深度学习平台的桥梁。 现在正式支持的是pytorch、caffe2、cntk (微软)和mxnet (亚马逊)的体系结构。 tensorflow也支持，但是是非正式的community effort。

例如，写入pytorch的机器翻译反馈型神经网络可以用ONX简单地导出训练有素的互联网的参数和架构，用caffe2部署，运用效率高。 可以说onnx提供了从实验研究到直接工业应用的捷径。

在晚宴上，ONX是aws (亚马逊云计算mxnet )、Facebook open Source ( Facebook开源计划pytorch和caffe2)、microsoft (微软cntk )三家企业的深度

这次听说黄社长要来nips，第一天去找英伟达的hr预约了after-party的邀请函。 英伟达是nips的钻石级赞助商，黄社长当然从世界各地吸引了ai精英们。 晚上的after-party简直是黄老板的私人脱口秀。 现场的气氛和音乐会几乎没有变化，一直在燃烧，有时能听到大家的喊叫声和疯狂的掌声。

英伟达在现场揭幕了titan v gpu！ titan v是一种台式机图形卡，面向机器学习研究者、开发者和数据科学家，希望在台式机上构建和测试机器学习系统。
从左到右，从上到下: pedro domingos上台领取纪念版titan x的黄先生向yoshua bengio颁奖。 好莱坞管弦乐队现场演奏ai谱曲的交响乐。 黄社长有由苹果企业ai主任科学家ruslan salakhutdinov颁发的黄社长签名的纪念杯，抽签时可以免费领取英伟达titan v。

黄色老板还仔细策划了鸡蛋。 参加活动的观众中有20个幸运的孩子抽titan v，抽奖方法很独特。 进门的时候，每个人都收到了纪念杯。 如果这个杯子上有黄色老板的签名，恭喜你！ (很遗憾我没有抽……)

现场还赠送了星球大战藏书版的titan x gpu，其他20名幸运观众抽了star wars titan x。 黄先生还来到好莱坞管弦乐队，现场演奏了aiva谱子的交响乐。 aiva是音乐的人工智能，自动合成乐谱，声音优美有时可以震撼。 那天晚上画龙点睛的笔！

中间总结

年是第三十一届nips大会。 三十一年，一代科学巨匠们的光辉历史！ 这次大会，学术圈的百家争鸣，公司界也百花齐放，大家从各种行业、不同的视角、不同的应用，为人工智能的迅速发展做出了自己的贡献。

这次nips主席samy bengio在开幕式上说，在丹佛市参加第一次会议时只有100多人，坐在一个大厅里绰有余。 今年有8500多人登记，很多会场都客满了。 人数逐年呈指数增长，唯一不变的是追求科学真正信息的执行和人类创造智能的古老梦想。 有越来越多的副本，访问新智元小程序，回顾nips (请往前走几页啊)。

最后一天的夕阳:

本文是首次在微信公共平台上发表:新智元。 文案是作者个人的观点，不代表网络的角度。 投资者据此，风险请自己承担。