chapitres précédents

Algorithmes de débogage final

44. Test de vérification d'optimisation (Le test de vérification d'optimisation)

Supposons que vous développez un système de reconnaissance vocale. Le système reçoit la voix d'entrée d' enregistrement A et calcule une certaine valeur A (S) , l' estimation de la vraisemblance que ce clip audio correspond proposition S . Par exemple, vous pouvez essayer d'estimer la valeur de A (S) = P (S | A) , la probabilité que la transcription de sortie correcte offrira S, à condition que le son d'entrée était un .

Quelle que soit la méthode d'estimation de la quantité A (S) que vous choisissez, la tâche consiste à trouver la phrase anglaise S à laquelle cette quantité sera maximale:

Comment aborder le calcul de "arg max" dans cette formule? Disons 50 000 mots en anglais, dont vous pouvez faire

N — , , .

, , S, () A(S). « », K . ( , « »). , S, A(S).

, A -, « ». : « ».
:

1. . ( ) S, A(S).
2. ( ). A(S) = P(S|A) . , A(S) « » .

, - . . , A(S).

, ; A(S). , , .
?

(« »), S_out. (« »), S*. , , (The Optimization Verification test): Score_A(S*) Score_A(S_out), Score_A(S*) Score_A(S_out).

1: Score_A(S*) > Score_A(S_out)

S*, , S_out. , S_out, S*. , S, A(S) . (The Optimization Verification test) , , . , « » (beam search).

2: Score_A(S*) ≤ Score_A(S_out).

Score_A(.): S* S_out. (The Optimization Verification test) . , , Score_A(S) S.

. (The Optimization Verification test) , . , Score_A(S*) > Score_A(S_out). , , , . , Score_A(S*) ≤ Score_A(S_out) Score_A(.).

, , 95% Score_A(.), 5% - . , , ~ 5% . , Score_A(.).

45. (The Optimization Verification test).

(the Optimization Verification test) , , x , , x(y), , y x , arg max_yScore_x(y), , . x=A, y=S.

, y* — «» , y_out. Score_x(y*) > Score_x(y_out). , . , . , Score_x(y).

. , . C Score_C(E) E. , Score_C(E) = P(E|C), E, , C.

, , .

, E_out E*. , Score_C(E*) > Score_C(E_out). , Score_C(.) E* E_out; , . , Score_C(.).

« » : (approximate scoring function) Score_x(.), (approximate maximization algorithm). , (The Optimization Verification test) .

46.

, , . , , .

«». , . -. , , .

« » R(.), T. , T , R(T) = -1000 — «» . T, , R(T) , , . R(.), , T. , , , . — .

, R(T) , , , max_TR(T). .
, R(.) , . , , - — .

— , , , , max_TR(T) , , ?
(Optimization Verification test), T_human, , -, T_out . , T_human T_out. : , R(T_human) > R(T_out)?

1: , R(.) , T_human T_out. , , T_out, . , .

2: : R(T_human) ≤ R(T_out). , R(.) T_human , T_out, , T_human . R(.), .

«» Score_x(.) . x, Score(.). Score(T)=R(T), (optimization algorithm) , , T.

L'une des différences entre cet exemple et les exemples précédents est que la qualité de l'algorithme n'est pas comparée au résultat «optimal», mais à la trajectoire _humaine T _humaine . Nous avons supposé que T _humain est assez bon, même s'il n'est pas optimal. En général, tant que vous obtenez un résultat y * (dans cet exemple, T _humain ) qui dépasse la qualité du système - même s'il n'est pas «optimal», le test de vérification d'optimisation indiquera que plus prometteur: améliorer l'algorithme d'optimisation ou la fonction d'évaluation.

continuation