"Nous ne donnerons pas lieu à des théories du complot." Parlez de conférences ML avec des gens des sociétés scientifiques et informatiques

Aujourd'hui, presque aucun événement public n'a lieu, mais nous espérons que la situation changera bientôt (et nous faisons des efforts pour y parvenir). Nous prévoyons que les événements transférés auront lieu à d'autres dates et que les événements futurs ne seront pas annulés, car il ne sera pas nécessaire de les annuler. Y compris en 2020, des dizaines de grandes conférences sur l'apprentissage automatique devraient être organisées.

NeurIPS (anciennement NIPS) est considéré comme le plus prestigieux d'entre eux. Chaque année, NeurIPS rassemble des milliers de chercheurs et d'ingénieurs qui présentent leurs résultats scientifiques dans différents domaines du ML: apprentissage profond, apprentissage renforcé, optimisation évolutive, méthodes bayésiennes et plus encore.



Sur la base du NeurIPS organisé il y a quelques mois à Vancouver, nous avons eu une discussion où nous avons invité des experts du monde scientifique et du monde informatique. Chacun d'eux s'intéresse à différentes choses dans l'apprentissage automatique, l'expérience de visiter NeurIPS est également différente. Under the cut - un bref aperçu des parties de la discussion qui se rapportent aux raisons de la participation à la conférence.

Membres

Dmitry Vetrov . Candidat de Phys.-Math Sci., Professeur-chercheur, Faculté d'informatique, HSE, chef du laboratoire Samsung à HSE et professeur de ShAD. L'auteur de plus de 130 articles scientifiques. Dima a publié à plusieurs reprises des publications lors des meilleures conférences ML, y compris NeurIPS. Il a participé à la conférence à cinq reprises depuis 2011: en tant que conférencier et participant.

Mikhail Burtsev . Docteur en physique et mathématiques, chef du laboratoire des systèmes neuronaux et du Deep Learning MIPT. Co-auteur de plus de 20 articles scientifiques. Depuis 2017, elle anime des concours de systèmes de dialogue sur NeurIPS, elle s'intéresse à tout ce qui touche à l'intelligence artificielle conversationnelle.

Sergey KolesnikovScitateur. Responsable R&D chez Tinkoff, chef de projet chez Catalyst, chercheur chez Yandex et MIPT. Les cinq dernières années ont été engagées dans DL et RL. NeurIPS a visité pour la première fois en 2019.

Mikhail Bilenko . Responsable de l'intelligence artificielle et de la recherche chez Yandex, précédemment travaillé chez Microsoft. Domaine d'intérêt - apprentissage distribué. Participe à NeurIPS depuis 2005, ne l'a manqué que trois fois.

Konstantin Lahmanklakhman. Responsable de la vision par ordinateur et des applications ML chez Yandex. Intéressé par CV et PNL. Conduit le NeurIPS chaque année, à partir de 2014.

Alexey Natekinnatekin. Créateur et dictateur de l' Open Data Science (ODS) - la plus grande communauté en ligne de scientifiques des données dans la CEI. Les domaines d'intérêt en ML sont le méta-apprentissage, l'apprentissage fédéré, l'apprentissage par transfert et tout ce qui entoure l'auto-ML. Il est allé à NeurIPS pour la première fois en 2016, a participé deux fois et a aidé à organiser des compétitions à deux reprises.

Reste avec la charge d'ingénierie mathématique

Pourquoi roulez-vous avec NeurIPS?

Sergey Kolesnikov :
Depuis trois ans, je fais la promotion de RL, c'est une des raisons pour lesquelles je voulais y aller. J'ai gagné le concours, j'ai été invité, mais il est difficile de faire un visa pour un mois au Canada. Et en 2019, j'ai enfin compris: il y avait un visa du passé de NeurIPS, qui a été fait pour six mois. Il s'agit d'une réussite et de trois visas manqués.

Mikhail Bilenko :
J'y trouve des articles et des gens que je ne trouverais pas autrement, je communique avec des collègues. En 2016, je suis allé à NeurlPS sans travail, juste à ce moment-là, nous avons rencontré Kostya Lahman. La conférence est un excellent tourisme d'ingénierie et scientifique: repos, mais avec une charge mathématique et d'ingénierie. Vous permet de ne pas grossir, de corriger la forme et d'être en forme. Vous ne pouvez pas être distrait par les tâches professionnelles - vous obtenez simplement un pur plaisir intellectuel.

Dmitry Vetrov :
Quand j'étais plus jeune et plus intelligent, je suis allé apprendre de nouvelles directions et de nouvelles techniques d'apprentissage automatique. Après une dizaine d'années, il a semblé que les rapports n'étaient plus aussi cool, et bientôt je n'ai rien trouvé de valable pour moi. Mais jusqu'à présent, chaque fois que je retire de la conférence beaucoup de choses intéressantes - quelque chose qui ne peut pas être lu sur arXiv.

Mikhail Burtsev :
Je rejoins Dima. D'une part, il semble étrange de venir écouter ce que vous avez lu il y a longtemps. D'un autre côté, la conférence aide à prêter attention au travail que vous n'avez peut-être pas remarqué. En communiquant avec d'autres personnes, vous pouvez avoir un tout nouveau regard sur votre travail, voir quelque chose que vous-même n'aviez jamais vu auparavant. Et contrairement aux articles, ici les gens discutent encore de ce qu'ils font ou envisagent de faire. Cela permet d'ajuster le cours de leur travail, de ne pas faire d'erreurs. Vous pouvez soudainement découvrir que vous n'avez pas besoin de faire ce que vous alliez faire.

Konstantin Lahman :
En plus du réseautage, il y a un autre point important - la conférence aide à vérifier où le vent souffle. Lorsque le NIPS était légèrement plus petit, la direction du vent était plus compréhensible. D'abord, le vent a soufflé dans les voiles des réseaux GAN, puis dans les voiles du PNL, puis dans le RL.

Maintenant, il y a parfois le sentiment que le vent souffle dans toutes les voiles en même temps, mais pas tellement. Néanmoins, il est utile de vous comparer à ce qui se passe dans le monde dans votre sphère. La correspondance est facultative, mais intéressante à comparer.

La science moderne est conçue pour que les résultats négatifs ne soient pas publiés. Seuls les positifs sont publiés, malheureusement. De telles conférences sont un excellent moyen de découvrir ce qui n'a pas fonctionné et pourquoi.

Alexey Natekin :
Il y a une température moyenne dans la salle: ce qu'ils disent lors de la conférence elle-même et ce qui est en marge de l'afterparty. Les conversations dans les coulisses sont peut-être plus intéressantes que celles dans la salle. Quelque chose de vraiment nouveau se trouve principalement dans les ateliers, car les demandes de participation sont soumises dans un mois, et les demandes de participation à la conférence elle-même - dans six mois.

D'année en année, la conférence grandit et change un peu, mais rien de fondamentalement nouveau n'est ajouté. Ne pensez-vous pas que la nouveauté scientifique diminue?

Dmitry Vetrov :
Pour citer Axiom Cole: «La somme de l'esprit sur la planète est une valeur constante et la population ne cesse de croître.» Il me semble que la nouveauté scientifique de la conférence est également une valeur constante, et il y a de plus en plus de conférences. Par conséquent, à mon avis, le niveau moyen de rapports à NeurIPS est en baisse.

Mikhail Bilenko :
Dima a bien dit, mais il est toujours important pour moi de retirer quelque chose d'utile de ce pourcentage du matériel qui reste intéressant. Il y a la loi de Sturgeon selon laquelle 90% de tout est complètement absurde. Je me concentre sur les dix autres. Et dans le rapport quantitatif de non-sens, il est devenu plus, je suis d'accord.

Konstantin Lahman :
Soit dit en passant, il me semble que ce qui se passe avec NeurlPS n'est pas le même qu'avec toutes les conférences. En raison du cadre administratif, il essaie d'être une telle réserve, où la population minimale nécessaire de toutes les régions est maintenue artificiellement. Les conférences CV sont organisées différemment: il n'y a pas de travail sur un sujet - eh bien, beaucoup de travail sur un autre sujet est également bon.

Mikhail Bilenko :
J'ai fait partie du comité du programme NeurIPS pendant plusieurs années, et pourtant, en fait, la répartition des zones est assez organique. N'engendrons pas de théories du complot.

Académie et sociétés informatiques

Quelle est la visibilité du problème avec NeurlPS que les modèles doivent être appris sur des tonnes de GPU, et que les entreprises et non les académies peuvent se le permettre?

Mikhail Bilenko :
Au cours des dernières années, les organisateurs ont tenu une réunion ouverte. Les universitaires disent que les camarades de grandes sociétés informatiques n'écrivent des articles que parce qu'ils ont du matériel cool et qu'ils peuvent mener de gigantesques expériences. Nos ressources ne sont vraiment pas égales. Il y a donc une forte demande pour que les résultats soient reproductibles.

Question aux scientifiques. Que pensez-vous du fait que de nombreuses personnes de l'industrie viennent à la conférence qui écoutent les rapports, communiquent, mais n'apportent rien de nouveau?

Dmitry Vetrov :
Je ressens un énorme buzz quand je peux parler de ce que j'ai fait à un grand nombre de personnes - cela n'a pas d'importance pour les scientifiques ou les spécialistes de l'industrie. L'essentiel est qu'ils aiment mon travail autant que les scientifiques.

Mikhail Burtsev :
Peu importe moi non plus qui est de l'industrie, et qui vient des scientifiques, d'autant plus que maintenant de nombreux scientifiques sont entrés dans l'industrie, et tout est mélangé. Il est important qu'il soit intéressant de communiquer avec la personne. À cet égard, j'aime davantage les ateliers - là, le cercle des gens est limité et il y a plus de possibilités de communication.

Il y a toujours un écart entre ce que fait la science et ce qui entre dans la production. Dans quelle mesure les articles présentés lors de la conférence sont-ils proches de ce qui peut être rapidement déployé en production?

Konstantin Lahman :
Il est incorrect de dire cela à propos de NeurIPS, car à l'origine, il n'y a pratiquement rien qui puisse être immédiatement appliqué en production. Le budget de la conférence comprend les contributions des sponsors et des participants. La plupart des participants sont issus de l'industrie. Il s'avère que les sociétés informatiques paient pour une conférence scientifique. Et cela soulève une question intéressante - la communauté scientifique devrait-elle en tenir compte d'une manière ou d'une autre? L'industrie paie plus pour son travail. Peut-être qu'il a également besoin de quelque chose pour aider l'industrie?

NeurlPS consiste à trouver l'inspiration et à comprendre où se développe l'apprentissage automatique.

Sergey Kolesnikov :
Oui, NeurIPS est intéressant précisément parce qu'en une semaine, vous parvenez à parler avec un grand nombre de personnes, vous pouvez vous immerger dans divers cas industriels et académiques, avoir une vision large de tout ce qui se passe. Toutes les idées à partir de là peuvent être mises dans une boîte noire, puis l'ouvrir périodiquement. Et lors de la prochaine conférence, c'est déjà pour vérifier ce qui a fonctionné et ce qui n'a pas fonctionné. À cet égard, divine.

Top conférences ML

Si vous ne pouviez assister qu'à deux conférences de l'année, que choisiriez-vous?

Alexey Natekin :
Data Fest et Data Fest à Minsk!

Konstantin Lahman :
NeurIPS et CVPR.

Mikhail Burtsev :
NeurIPS et NLP.

Mikhail Bilenko :
ICML et NeurlPS.

Sergey Kolesnikov :
NeurlPS et Data Fest.

Dmitry Vetrov :
ICML et NeurlPS. Échangez-les lorsqu'il n'y a pas d'embouteillages sur NeurlPS!

Vidéo