Get best of the week

Nuevas arquitecturas de redes neuronales

Nuevas arquitecturas de redes neuronales


Red


Artículo anterior “ Redes neuronales. ¿A dónde va todo ?


Este artículo discute brevemente algunas arquitecturas de redes neuronales, principalmente en la tarea de detectar objetos , con el fin de encontrar (o al menos intentar encontrar) direcciones futuras en este campo en rápido desarrollo.


El artículo no pretende ser exhaustivo y tener una buena comprensión de los artículos leídos en diagonal. El autor está seguro de que mientras escribía este artículo, aparecieron muchas más arquitecturas nuevas. Por ejemplo, vea aquí: https://paperswithcode.com/area/computer-vision .



Detección de objetos en 20 años : una excelente descripción general de más de 400 artículos para detectar objetos durante más de 20 años.


El Neural Network Zoo es un zoológico de redes neuronales cuyos contenidos cambian constantemente.


Un video interesante con recomendaciones sobre cómo diseñar una red neuronal: " Cómo diseñar una red neuronal ".



Efficientnet


Efficientnet


EfficientNet — , (, scaling) ( ) , . (compound scaling method), // . «Neural Architecture Search» (NAS, 1, 2, ) EfficientNets.


  • «EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks»
  • TensorFlow
  • 1, 2.1, 2.2, 3


EfficientDet


Efficientdet


EfficientDet . . EfficientNet , BiFPN, «» / .


Arquitectura EfficientDet


— EfficientDet == EfficientNet + BiFPN + /


  • «EfficientDet: Scalable and Efficient Object Detection»
  • TensorFlow
  • PyTorch
  • 1


SpineNet


Spinenet


SpineNet . Google Research , state-of-the-art (SOTA) .


. , ( ). () - « » (Convolutional Encoder-Decoder Neural Network). « » . , – (). (backbone model), , , . , « » , ().


SpineNet - ( ). (Neural Architecture Search, NAS). SpineNet (Average Precision, AP). .


Construyendo una red permutada a escala al permutar ResNet


– ResNet (ResNet-50-FPN )


  • «SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization»
  • «SpineNet: »
  • SpineNet online demo


CenterNet


Centernet


CenterNet CornerNet-Lite 2019 (c « »).


CenterNet , , . , , 3D-, , .. (image features) . , (heatmap). . . CenterNet 3D .


3 : , .


Diagrama de CenterNet


– CenterNet


CornerNet CenterNet. CornerNet , : (bounding box). (anchor box), SSD YOLO, . « », .


CornerNet «corner pooling» . CenterNet «center pooling» .


Esquina de agrupación de esquina superior izquierda de CornerNet


– «corner pooling» . «max-pooling» «max-pooling». (feature maps) .


  • CenterNet «CenterNet: Keypoint Triplets for Object Detection» + 1 + 2
  • CornerNet-Lite «CornerNet-Lite: Efficient Keypoint Based Object Detection» +
  • CornerNet: «CornerNet: Detecting Objects as Paired Keypoints» + +


ThunderNet


Thundernet


ThunderNet . . , , ARM ( ) 24.1 fps (frames per second, ) MobileNet-SSD.


  • «ThunderNet: Towards Real-time Generic Object Detection»
  • GitHub

Arquitectura Thundernet


— ThunderNet



CSPNet


Cspnet


CSPNet (Cross Stage Partial Network) Darknet, . , (residual neural networks, ResNet). , . , . CSPNet , . , CSPNet (feature pyramid network, FPN).


  • «CSPNet: A New Backbone that can Enhance Learning Capability of CNN»
  • 1, 2

Característica red piramidal, FPN


—



DenseNet


Un bloque denso con 5 capas y tasa de crecimiento 4


— DenseNet c 5 k = 4. .


DenseNet con tres bloques densos


— DenseNet


DenseNet (Densely Connected Convolutional Network) 2017 . ResNet (Deep Residual Network) , CNN . (dense) , . , , ResNet, («») , (, channel-wise concatenation) . DenseNet , . , DenseNet .


  • «Densely Connected Convolutional Networks»
  • Keras + CoLab
  • Torch ,


SAUNet


SAUNet (Shape Attentive U-Net) 2020 , .


Arquitectura SAUNet


— SAUNet : (texture stream); (gated shape stream). U-Net DenseNet-121 ( DenseNet), U-Net « » (dual attention decoder block).


SAUNet : U-Net, DenseNet, Gated-SCNN Squeeze-and-Excitation Networks.


  • «SAUNet: Shape Attentive U-Net for Interpretable Medical Image Segmentation»
  • PyTorch


DetNASNet


Arquitectura de Detnasnet


— DetNASNet


, , , (object detection) (image classification) . DetNASNet Neural Architecture Search (NAS) , . , NAS, .. , . 44 GPU- COCO. , ResNet-101, FLOP-.


  • «DetNAS: Backbone Search for Object Detection»
  • PyTorch


SM-NAS


SM-NAS AP


— () (mAP) COCO.


SM-NAS Structural-to-Modular NAS (SM-NAS): ; .


  • .
  • «SM-NAS: Structural-to-Modular Neural Architecture Search for Object Detection»


AmoebaNet


Arquitectura AmoebaNet-A


— AmoebaNet-A. . «Normal Cell». «Reduction Cell».


AmoebaNet . AmoebaNet . AmoebaNet (search space), NASNet. TPU (Tensor Processing Units) .


  • «Regularized Evolution for Image Classifier Architecture Search»


Graph Neural Network


Red Neural Gráfica


Graph Neural Network , — , — . , .. - . . : PyTorch Geometric PyTorch, Graph Nets TensorFlow, Deep Graph .


  • CoLab
  • by Siraj Raval
  • DGL (Deep Graph Library)


Growing Neural Cellular Automata


Autómatas celulares neuronales en crecimiento


—


Growing Neural Cellular Automata , «» . (, ..). . «» 16 . «» , , JPEG (), MP3 (), MPEG () ZIP ().


, , () .


  • Distill
  • Colab notebook
  • by Yannic Kilcher
  • «»



Spiking neural network . . 1952 , . , . . , , , .


  • (ru, en)
  • PapersWithCode.com


DPM


DPM, Deformable Part Model detector, . ( CoLab) (HOG). - 2009 , , «Object Detection in 20 Years: A Survey», Integral Channel Features (ICF), .


«» , , , . , «Deformable Part Models are Convolutional Neural Networks» DPM .


  • «Deformable Part Models are Convolutional Neural Networks» + MatLab Caffe



  1. :


    • , AutoML, « », Neural Architecture Search (NAS NASNet);
    • (attention mechanism), ;
    • « » , (backbone) ;
    • , state-of-the-art (SOTA) .

  2. . , . , , . « » , — , .



PS recomiendo el blog de vídeo ML Tokio , donde el autor explica y hace que las redes neuronales en Keras. Su seminario de CNN es justo lo que necesita un "neurocodificador" novato como yo.


¡Gracias por la atención!

More articles:


All Articles