Get best of the week

Neue neuronale Netzwerkarchitekturen

Neue neuronale Netzwerkarchitekturen


Netzwerk


Vorheriger Artikel „ Neuronale Netze. Wo geht das alles hin ? "


In diesem Artikel werden einige neuronale Netzwerkarchitekturen kurz erläutert, hauptsächlich zum Erkennen von Objekten , um zukünftige Richtungen in diesem sich schnell entwickelnden Bereich zu finden (oder zumindest zu versuchen).


Der Artikel gibt nicht vor, umfassend zu sein und die diagonal gelesenen Artikel gut zu verstehen. Der Autor ist sich sicher, dass während er diesen Artikel schrieb, viele weitere neue Architekturen erschienen sind. Siehe hier: https://paperswithcode.com/area/computer-vision .



Objekterkennung in 20 Jahren - Ein großartiger Überblick über mehr als 400 Artikel zum Erkennen von Objekten über 20 Jahre.


Der Neural Network Zoo ist ein Zoo neuronaler Netze, dessen Inhalt sich ständig ändert.


Ein interessantes Video mit Empfehlungen zum Entwerfen eines neuronalen Netzwerks: „ Entwerfen eines neuronalen Netzwerks “.



Efficientnet


Efficientnet


EfficientNet — , (, scaling) ( ) , . (compound scaling method), // . «Neural Architecture Search» (NAS, 1, 2, ) EfficientNets.


  • «EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks»
  • TensorFlow
  • 1, 2.1, 2.2, 3


EfficientDet


Efficientdet


EfficientDet . . EfficientNet , BiFPN, «» / .


EfficientDet-Architektur


— EfficientDet == EfficientNet + BiFPN + /


  • «EfficientDet: Scalable and Efficient Object Detection»
  • TensorFlow
  • PyTorch
  • 1


SpineNet


Spinenet


SpineNet . Google Research , state-of-the-art (SOTA) .


. , ( ). () - « » (Convolutional Encoder-Decoder Neural Network). « » . , – (). (backbone model), , , . , « » , ().


SpineNet - ( ). (Neural Architecture Search, NAS). SpineNet (Average Precision, AP). .


Aufbau eines skalierungspermutierten Netzwerks durch Permutieren von ResNet


– ResNet (ResNet-50-FPN )


  • «SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization»
  • «SpineNet: »
  • SpineNet online demo


CenterNet


Centernet


CenterNet CornerNet-Lite 2019 (c « »).


CenterNet , , . , , 3D-, , .. (image features) . , (heatmap). . . CenterNet 3D .


3 : , .


CenterNet-Diagramm


– CenterNet


CornerNet CenterNet. CornerNet , : (bounding box). (anchor box), SSD YOLO, . « », .


CornerNet «corner pooling» . CenterNet «center pooling» .


CornerNet-Pooling-Ebene oben links


– «corner pooling» . «max-pooling» «max-pooling». (feature maps) .


  • CenterNet «CenterNet: Keypoint Triplets for Object Detection» + 1 + 2
  • CornerNet-Lite «CornerNet-Lite: Efficient Keypoint Based Object Detection» +
  • CornerNet: «CornerNet: Detecting Objects as Paired Keypoints» + +


ThunderNet


Thundernet


ThunderNet . . , , ARM ( ) 24.1 fps (frames per second, ) MobileNet-SSD.


  • «ThunderNet: Towards Real-time Generic Object Detection»
  • GitHub

Thundernet Architektur


— ThunderNet



CSPNet


Cspnet


CSPNet (Cross Stage Partial Network) Darknet, . , (residual neural networks, ResNet). , . , . CSPNet , . , CSPNet (feature pyramid network, FPN).


  • «CSPNet: A New Backbone that can Enhance Learning Capability of CNN»
  • 1, 2

Funktionspyramidennetzwerk, FPN


—



DenseNet


Ein dichter Block mit 5 Schichten und Wachstumsrate 4


— DenseNet c 5 k = 4. .


DenseNet mit drei dichten Blöcken


— DenseNet


DenseNet (Densely Connected Convolutional Network) 2017 . ResNet (Deep Residual Network) , CNN . (dense) , . , , ResNet, («») , (, channel-wise concatenation) . DenseNet , . , DenseNet .


  • «Densely Connected Convolutional Networks»
  • Keras + CoLab
  • Torch ,


SAUNet


SAUNet (Shape Attentive U-Net) 2020 , .


SAUNet-Architektur


— SAUNet : (texture stream); (gated shape stream). U-Net DenseNet-121 ( DenseNet), U-Net « » (dual attention decoder block).


SAUNet : U-Net, DenseNet, Gated-SCNN Squeeze-and-Excitation Networks.


  • «SAUNet: Shape Attentive U-Net for Interpretable Medical Image Segmentation»
  • PyTorch


DetNASNet


Detnasnet-Architektur


— DetNASNet


, , , (object detection) (image classification) . DetNASNet Neural Architecture Search (NAS) , . , NAS, .. , . 44 GPU- COCO. , ResNet-101, FLOP-.


  • «DetNAS: Backbone Search for Object Detection»
  • PyTorch


SM-NAS


SM-NAS AP


— () (mAP) COCO.


SM-NAS Structural-to-Modular NAS (SM-NAS): ; .


  • .
  • «SM-NAS: Structural-to-Modular Neural Architecture Search for Object Detection»


AmoebaNet


AmoebaNet-A-Architektur


— AmoebaNet-A. . «Normal Cell». «Reduction Cell».


AmoebaNet . AmoebaNet . AmoebaNet (search space), NASNet. TPU (Tensor Processing Units) .


  • «Regularized Evolution for Image Classifier Architecture Search»


Graph Neural Network


Graph Neuronales Netz


Graph Neural Network , — , — . , .. - . . : PyTorch Geometric PyTorch, Graph Nets TensorFlow, Deep Graph .


  • CoLab
  • by Siraj Raval
  • DGL (Deep Graph Library)


Growing Neural Cellular Automata


Wachsende neuronale zelluläre Automaten


—


Growing Neural Cellular Automata , «» . (, ..). . «» 16 . «» , , JPEG (), MP3 (), MPEG () ZIP ().


, , () .


  • Distill
  • Colab notebook
  • by Yannic Kilcher
  • «»



Spiking neural network . . 1952 , . , . . , , , .


  • (ru, en)
  • PapersWithCode.com


DPM


DPM, Deformable Part Model detector, . ( CoLab) (HOG). - 2009 , , «Object Detection in 20 Years: A Survey», Integral Channel Features (ICF), .


«» , , , . , «Deformable Part Models are Convolutional Neural Networks» DPM .


  • «Deformable Part Models are Convolutional Neural Networks» + MatLab Caffe



  1. :


    • , AutoML, « », Neural Architecture Search (NAS NASNet);
    • (attention mechanism), ;
    • « » , (backbone) ;
    • , state-of-the-art (SOTA) .

  2. . , . , , . « » , — , .



PS ich das Video Blog empfehlen ML Tokyo , in dem der Autor erklärt und macht neuronale Netze auf Keras. Sein CNN-Seminar ist genau das, was ein Anfänger wie ich braucht.


Vielen Dank für Ihre Aufmerksamkeit!

More articles:


All Articles