Como usamos o item2vec para recomendar produtos semelhantes

Olá, meu nome é Vasya Rubtsov, estou desenvolvendo sistemas de recomendação no Avito.

O principal objetivo do espaço de anúncio é ajudar os vendedores a encontrar compradores e compradores que procuram produtos. Diferentemente das lojas on-line, o fato da venda ocorre fora da nossa plataforma e não podemos rastrear isso. Portanto, a principal métrica para nós é "contato" - este é o evento de pressionar o botão "mostrar telefone" no cartão do produto ou o início de um diálogo no messenger com o vendedor. A partir dessa métrica, obtemos "compradores" - o número de usuários únicos por dia que fizeram pelo menos um contato.

Os dois principais produtos com os quais o departamento de recomendações da Avito lida são recomendações para o usuário na página principal ou no user2item e um bloco de anúncios semelhantes no cartão do produto ou no item2item. Um terço de todas as visualizações de anúncios e um quarto de todos os contatos são provenientes de recomendações; portanto, os mecanismos de referência desempenham um papel importante no Avito.

No artigo, mostrarei como melhoramos nossas recomendações item2item devido ao item2vec e como isso afetou as recomendações user2item.

Como era antes

Anteriormente, para pesquisar anúncios semelhantes, usamos um modelo linear nos recursos obtidos para um par de anúncios: o número de palavras correspondentes no título e a descrição do anúncio, locais correspondentes, parâmetros, proximidade por região geográfica. Os coeficientes neste modelo foram selecionados por bandidos multarmados. Dissemos isso em um artigo separado .

   , , . ,    « wifi » «SQ11» ,  , , . — «  », «   », «-» « ». ,   , . «»       ,  .

, ,   .   finn.no "Deep neural network marketplace recommenders in online experiments".

item2vec

item2vec  ,     ,   .

 ,   .   .

    ,  ,  . ,   — .   , ,   ,   ,   .  ?   ,  :

  , 0.6 ± 0.1.       .

 .  , ,   .   ?

, ,   — , ,   . , ,   .   . , . ,      ,  ,   -.

  . , , 8 .     3 .

, ,   . ,  desktop   . ,  app — .

  540  180  .

  — 14 . ,   ,   . ,   «» «»  . .   — .

    :

— 128- .

— ,   embedding : , , (  , ) (  ).  title embedding ,   — lstm. — one-hot .   — .

title , ,  .   , .   . , — lstm GRU .    , .

. ,  . —   . , . — , .

  — .  ,  -1  1. ,  128,    int8   .

  . ,  int8.

GPU, 20 . CPU GPU .

,   id  .  , .

, 128- .
   ,   .   :

1. .

2. 4000  ( — ,   GPU)   .   ,     ,  .

3. , .
— . 100    , 100    .

4. — cross entropy loss — .

  , forward  4001 , backward —  101,  ,  .

    500 000 000 () × 4 000 ( ) × 5 () = 10 ^ 13 . 2  4 x Tesla P40.

  :

  : 7    , 6    ,    . ,   , .   prec@8.

  item2vec   « ».    AvitoNet. AvitoNet — ,   .    .     -.

  3    6 .     — 62 .  , — 2048,   GPU,  CPU . :  ,   — , 3 , . , .   ,   , . Prec@8  0,4%, , .

  « »:

  « / /122—128 (6—8 )».   :

  , ,   «» «».

 item2vec :

« ». -, -   «» «».  , ,   «». , — !

    top-n .   Sphinx.    , .  200ms (p99) 200K rpm.

    .     -.    , , - — , .   .

  .

  ,  .   :

sim(i, j) = <v_i, v_j> * (log(t_j + 1) ^ a_c)

i j — , j (t_j = now - start_time_j).

, , ,  , .       . , c — a_c. ,   0,   . ,   — .   .  , ,   - . , .

, .
— ,    , , .

 item2vec  30%  ,  20%    .