“我们不会产生阴谋论。” 与来自科学和IT公司的人讨论ML会议

现在几乎没有任何公共活动发生，但是我们希望情况会很快改变（我们正在为此而努力）。我们希望转移的事件将在其他日期发生，并且将来的事件将不会被取消，因为没有必要取消它们。包括2020年在内，应举行数十次大型机器学习会议。

NeurIPS（以前称为NIPS）被认为是其中最负盛名的。每年，NeurIPS都会聚集成千上万的研究人员和工程师，他们在ML的不同领域展示其科学成果：深度学习，强化学习，可扩展优化，贝叶斯方法等。



基于几个月前在温哥华举行的NeurIPS，我们进行了讨论，邀请了来自科学界和IT界的专家。他们每个人都对机器学习中的不同事物感兴趣，访问NeurIPS的体验也不同。削减–简要讨论与参加会议的原因有关的那些部分。

会员

德米特里·维特罗夫（Dmitry Vetrov）。物理数学候选人 HSE计算机科学学院教授，​​研究员，HSE三星实验室负责人和ShAD教授。发表了130余篇科学论文。Dima已在包括NeurIPS在内的顶级ML会议上反复发表论文。自2011年以来，他已经五次参加会议：演讲者和参与者。

米哈伊尔·伯采夫（Mikhail Burtsev）。物理和数学博士学位，神经系统和深度学习MIPT实验室负责人。与他人合着20余篇科学论文。自2017年以来，她一直在NeurIPS上进行对话系统竞赛，她对与对话式人工智能相关的一切都感兴趣。

谢尔盖·科列斯尼科夫（Sergey Kolesnikov）兴奋剂。Tinkoff的研发负责人，Catalyst的项目负责人，Yandex和MIPT的研究员。最近五年从事DL和RL。NeurIPS于2019年首次访问。

米哈伊尔（Mikhail Bilenko）。Yandex的机器智能和研究主管，曾在Microsoft工作。感兴趣的领域-分布式学习。自2005年以来参加NeurIPS，仅三次未参加。

康斯坦丁·拉曼克拉赫曼。Yandex的计算机视觉和ML应用程序主管。对CV和NLP感兴趣。从2014年开始，每年都会骑NeurIPS。

阿列克谢·纳特金（Alexey Natekin）纳特金。开放数据科学（ODS）的创建者和独裁者-独联体最大的数据科学家在线社区。机器学习的兴趣领域是元学习，联合学习，转移学习以及与自动机器学习有关的一切。他于2016年首次参加NeurIPS，两次参加比赛，两次帮助组织比赛。

承担数学工程的重担

你为什么骑NeurIPS？

Sergey Kolesnikov：
在过去三年中，我一直在推广RL，这就是我想要到达那里的原因之一。我被邀请参加了比赛，但我赢了比赛，但是在加拿大要签证一个月很难。在2019年，我终于抓住了这一机遇：那是NeurIPS过去的签证，签证已经进行了六个月。这是一个成功的故事，并错过了三个签证。

米哈伊尔·比连科（Mikhail Bilenko）：
在这里，我与同事交流，找到文章和其他找不到的人。 2016年，我失业去NeurlPS，那时我们遇到了Kostya Lahman。这次会议是一次出色的工程和科学旅游：休息，但数学和工程负担重。让您不发胖，纠正形状并保持良好状态。您不能因工作任务而分心-您只会获得纯粹的智力乐趣。

德米特里·维特罗夫（Dmitry Vetrov）：
在我年轻，聪明的时候，我去学习新的方向和新的机器学习技术。大约十年后，似乎开始变得不再那么酷，我很快找不到任何对自己有价值的东西。但是到目前为止，每次我离开会议时，都会有很多有趣的事情-arXiv上看不到的东西。

米哈伊尔·伯采夫（Mikhail Burtsev）：
我加入迪玛。一方面，来听您很久以前所读的内容似乎很奇怪。另一方面，会议有助于关注您可能没有注意到的工作。与其他人交流，您可以对工作有一个全新的印象，看到您自己以前从未见过的东西。与文章不同，这里的人们仍在讨论他们现在正在或计划要做的事情。这有助于调整他们的工作过程，而不是犯错误。您会突然发现自己不需要做打算做的事情。

康斯坦丁·拉曼（Konstantin Lahman）：
除了联网之外，还有另一个重要点-会议有助于检查风向。当NIPS稍小时，风向更容易理解。首先，风吹入GAN网络的风帆，然后吹入NLP的风帆，然后吹入RL。

现在有时会感觉到风在同一时间在所有风帆中吹来，但并没有那么大。尽管如此，将自己与您所在领域中正在发生的事情进行比较还是很有用的。匹配是可选的，但比较有趣。

现代科学被设计成不会发表负面结果。不幸的是，只有积极的发表。这样的会议是找出什么和为什么不起作用的好方法。

阿列克谢·纳特金（Alexey Natekin）：
房间里有一个平均温度：他们在会议上自己说的话，以及聚会后的旁白。后台对话可能比大厅中的对话更有趣。真正新颖的东西主要可以在研讨会上找到，因为参加会议的申请是在一个月内提交的，而参加会议本身的申请是在六个月内提交的。

每年的会议都在增长和变化，但是根本没有增加新的内容。您不认为科学的新颖性正在变小吗？

德米特里·维特罗夫（Dmitry Vetrov）：
引用Axiom Cole的话：“地球上的思想之和是一个恒定的值，并且人口在不断增长。”在我看来，会议的科学新颖性也是一个不变的价值，而且会议越来越多。因此，我认为NeurIPS的平均报告水平正在下降。

Mikhail Bilenko：
Dima正确地说，但是对我来说，从那部分仍然有趣的材料中取出有用的东西始终很重要。 urge鱼法律规定，所有事物的90％都是胡说八道。我专注于剩下的十个。我同意胡说八道的数量比例会更高。

康斯坦丁·拉曼（Konstantin Lahman）：
顺便说一句，在我看来，NeurlPS所发生的事情与所有会议都不同。由于行政管理框架的原因，它正试图成为一个储备区，人为地维持所有地区的最低必要人口。简历会议的组织方式不同：在某个主题上没有工作-嗯，在另一个主题上的很多工作也很好。

Mikhail Bilenko：
我在NeurIPS计划委员会任职了几年，但实际上区域分布相当有机。让我们不要产生阴谋论。

学院和IT公司

NeurlPS问题的可见性如何，那就是需要在大量GPU上学习模型，而公司而不是学术界可以负担得起吗？

Mikhail Bilenko：
在过去的几年中，组织者一直在举行公开会议。学者们说，这样做的原因是大型IT公司的同志仅是因为他们拥有凉爽的硬件并且可以进行巨大的实验。我们的资源确实不平等。因此，对结果的再现性提出了很高的要求。

给科学家的问题。您如何看待许多业内人士来参加会议，他们听报告，交流但不带来任何新东西？

德米特里·维特罗夫（Dmitry Vetrov）：
当我可以谈论对许多人所做的事情时，我感到无比震撼，这对行业的科学家或专家而言都无关紧要。最主要的是，他们和科学家一样喜欢我的工作。

Mikhail Burtsev：
对我来说，谁来自行业，谁来自科学家，都无所谓，更重要的是，自从现在以来，许多科学家进入该行业，并且一切都混在一起了。与人交流很重要，这一点很重要。在这方面，我更喜欢工作坊-人群有限，沟通的机会也更多。

科学和生产之间总是存在差距。会议上介绍的文章距离可以快速推出生产的距离有多近？

康斯坦丁·拉曼（Konstantin Lahman）：
关于NeurIPS的说法是不正确的，因为最初几乎没有任何内容可以立即应用于生产。会议预算包括赞助商和与会人员的捐款。大多数参与者来自行业。事实证明，IT公司为科学会议付费。这就提出了一个有趣的问题-科学界是否应该以某种方式考虑到这一点？这个行业为他的工作付出了更多。也许他还需要一些东西来帮助行业？

NeurlPS旨在寻找灵感并了解机器学习的发展方向。

谢尔盖·科列斯尼科夫（Sergey Kolesnikov）：
是的，NeurIPS很有趣，因为您可以在一个星期内与大量人交谈，可以将自己沉浸在各种行业和学术案例中，并广泛了解发生的一切。在那里的所有想法都可以放在黑匣子中，然后定期打开它。在下一次会议上，已经在检查什么有效，什么无效。对此，神圣。

顶级ML会议

如果您只能参加一年的两次会议，您会选择什么？

Alexey Natekin：
明斯克的数据巨星和数据巨星！

康斯坦丁·拉曼（Konstantin Lahman）：
NeurIPS和CVPR。

Mikhail Burtsev：
NeurIPS和NLP。

Mikhail Bilenko：
ICML和NeurlPS。

Sergey Kolesnikov：
NeurlPS和Data Fest。

Dmitry
Vetrov ：ICML和NeurlPS。NeurlPS上没有交通堵塞时，请交换它们！

视频