إنقاص حجم نموذج ML بدون تسجيل و SMS

1. نقوم بإنشاء نموذج ، تهيئة معلماته بشكل عشوائي
2. تعلم شبكة التكرارات ي
3. نقطع معلمات الشبكة ذات القيمة الأصغر (أبسط مهمة هي تعيين بعض قيمة العتبة)
4. نعيد تعيين المعلمات المتبقية إلى قيمها الأولية ، نحصل على الشبكة الفرعية التي نحتاجها.

import tensorflow as tf
from tensorflow import keras

model = keras.Sequential([
    keras.layers.Flatten(input_shape=(28, 28)),
    keras.layers.Dense(300, activation='relu'),
    keras.layers.Dense(150, activation='relu'),
    keras.layers.Dense(10, activation='softmax')
])

model.compile(optimizer='SGD',
              loss='sparse_categorical_crossentropy',
              metrics=['accuracy'])

#  
threshold = 0.001

#       np.array
weights = model.weights
weights = np.asarray(weights)

#    
first_h_layer_weights = weights[1]
second_h_layer_weights = weights[3]

def delete_from_layers(one_d_array, threshold):
    index = []
    for i in range(one_d_array.shape[0]):
        #   ,       
        if abs(one_d_array[i]) <= threshold:
            index.append(i)
    #    ,   
    new_layer = np.delete(one_d_array, index)
    return new_layer

new_layer_weights = delete_from_layers(second_h_layer_weights, threshold)