Get best of the week

Arsitektur jaringan saraf baru

Arsitektur jaringan saraf baru


Jaringan


Artikel sebelumnya “ Jaringan saraf. Kemana semua ini pergi ? "


Artikel ini secara singkat membahas beberapa arsitektur jaringan saraf, terutama pada tugas mendeteksi objek , untuk menemukan (atau setidaknya mencoba menemukan) arah masa depan di bidang yang berkembang pesat ini.


Artikel tersebut tidak berpura-pura komprehensif dan memiliki pemahaman yang baik tentang artikel baca diagonal. Penulis yakin bahwa ketika ia sedang menulis artikel ini, lebih banyak arsitektur baru muncul. Misalnya, lihat di sini: https://paperswithcode.com/area/computer-vision .



Deteksi Objek dalam 20 Tahun - Tinjauan hebat 400+ artikel untuk mendeteksi objek lebih dari 20 tahun.


Neural Network Zoo adalah kebun binatang dari jaringan saraf yang isinya terus berubah.


Video yang menarik dengan rekomendasi tentang cara mendesain jaringan saraf: " Cara Mendesain Jaringan Syaraf ".



Efficientnet


Efficientnet


EfficientNet — , (, scaling) ( ) , . (compound scaling method), // . «Neural Architecture Search» (NAS, 1, 2, ) EfficientNets.


  • «EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks»
  • TensorFlow
  • 1, 2.1, 2.2, 3


EfficientDet


Efficientdet


EfficientDet . . EfficientNet , BiFPN, «» / .


Arsitektur EfficientDet


— EfficientDet == EfficientNet + BiFPN + /


  • «EfficientDet: Scalable and Efficient Object Detection»
  • TensorFlow
  • PyTorch
  • 1


SpineNet


Spinenet


SpineNet . Google Research , state-of-the-art (SOTA) .


. , ( ). () - « » (Convolutional Encoder-Decoder Neural Network). « » . , – (). (backbone model), , , . , « » , ().


SpineNet - ( ). (Neural Architecture Search, NAS). SpineNet (Average Precision, AP). .


Membangun jaringan skala-permutasi dengan permutasi ResNet


– ResNet (ResNet-50-FPN )


  • «SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization»
  • «SpineNet: »
  • SpineNet online demo


CenterNet


Centernet


CenterNet CornerNet-Lite 2019 (c « »).


CenterNet , , . , , 3D-, , .. (image features) . , (heatmap). . . CenterNet 3D .


3 : , .


Diagram CenterNet


– CenterNet


CornerNet CenterNet. CornerNet , : (bounding box). (anchor box), SSD YOLO, . « », .


CornerNet «corner pooling» . CenterNet «center pooling» .


CornerNet layer pooling pojok kiri atas


– «corner pooling» . «max-pooling» «max-pooling». (feature maps) .


  • CenterNet «CenterNet: Keypoint Triplets for Object Detection» + 1 + 2
  • CornerNet-Lite «CornerNet-Lite: Efficient Keypoint Based Object Detection» +
  • CornerNet: «CornerNet: Detecting Objects as Paired Keypoints» + +


ThunderNet


Thundernet


ThunderNet . . , , ARM ( ) 24.1 fps (frames per second, ) MobileNet-SSD.


  • «ThunderNet: Towards Real-time Generic Object Detection»
  • GitHub

Arsitektur thundernet


— ThunderNet



CSPNet


Cspnet


CSPNet (Cross Stage Partial Network) Darknet, . , (residual neural networks, ResNet). , . , . CSPNet , . , CSPNet (feature pyramid network, FPN).


  • «CSPNet: A New Backbone that can Enhance Learning Capability of CNN»
  • 1, 2

Fitur jaringan piramida, FPN


—



DenseNet


Blok padat dengan 5 lapisan dan tingkat pertumbuhan 4


— DenseNet c 5 k = 4. .


DenseNet dengan tiga blok padat


— DenseNet


DenseNet (Densely Connected Convolutional Network) 2017 . ResNet (Deep Residual Network) , CNN . (dense) , . , , ResNet, («») , (, channel-wise concatenation) . DenseNet , . , DenseNet .


  • «Densely Connected Convolutional Networks»
  • Keras + CoLab
  • Torch ,


SAUNet


SAUNet (Shape Attentive U-Net) 2020 , .


Arsitektur SAUNet


— SAUNet : (texture stream); (gated shape stream). U-Net DenseNet-121 ( DenseNet), U-Net « » (dual attention decoder block).


SAUNet : U-Net, DenseNet, Gated-SCNN Squeeze-and-Excitation Networks.


  • «SAUNet: Shape Attentive U-Net for Interpretable Medical Image Segmentation»
  • PyTorch


DetNASNet


Arsitektur detnasnet


— DetNASNet


, , , (object detection) (image classification) . DetNASNet Neural Architecture Search (NAS) , . , NAS, .. , . 44 GPU- COCO. , ResNet-101, FLOP-.


  • «DetNAS: Backbone Search for Object Detection»
  • PyTorch


SM-NAS


SM-NAS AP


— () (mAP) COCO.


SM-NAS Structural-to-Modular NAS (SM-NAS): ; .


  • .
  • «SM-NAS: Structural-to-Modular Neural Architecture Search for Object Detection»


AmoebaNet


Arsitektur AmoebaNet-A


— AmoebaNet-A. . «Normal Cell». «Reduction Cell».


AmoebaNet . AmoebaNet . AmoebaNet (search space), NASNet. TPU (Tensor Processing Units) .


  • «Regularized Evolution for Image Classifier Architecture Search»


Graph Neural Network


Grafik Jaringan Saraf Tiruan


Graph Neural Network , — , — . , .. - . . : PyTorch Geometric PyTorch, Graph Nets TensorFlow, Deep Graph .


  • CoLab
  • by Siraj Raval
  • DGL (Deep Graph Library)


Growing Neural Cellular Automata


Automata Neural Seluler Tumbuh


—


Growing Neural Cellular Automata , «» . (, ..). . «» 16 . «» , , JPEG (), MP3 (), MPEG () ZIP ().


, , () .


  • Distill
  • Colab notebook
  • by Yannic Kilcher
  • «»



Spiking neural network . . 1952 , . , . . , , , .


  • (ru, en)
  • PapersWithCode.com


DPM


DPM, Deformable Part Model detector, . ( CoLab) (HOG). - 2009 , , «Object Detection in 20 Years: A Survey», Integral Channel Features (ICF), .


«» , , , . , «Deformable Part Models are Convolutional Neural Networks» DPM .


  • «Deformable Part Models are Convolutional Neural Networks» + MatLab Caffe



  1. :


    • , AutoML, « », Neural Architecture Search (NAS NASNet);
    • (attention mechanism), ;
    • « » , (backbone) ;
    • , state-of-the-art (SOTA) .

  2. . , . , , . « » , — , .



PS Saya merekomendasikan blog video ML Tokyo , di mana penulis menjelaskan dan membuat jaringan saraf pada Keras. Seminar CNN -nya adalah apa yang dibutuhkan oleh "neurocoder" pemula seperti saya.


Terimakasih atas perhatiannya!

More articles:


All Articles