. , , ,

,,,

,

2.2.2. . , , , . . . . , . . , , [91,97]. - - , () .

[79] , . , .

, . .

, - , .. , , . , "" "" , , . , , . , , , . , 頠 [63].

, . . , -, , . , , . ࠠ ⠠ [73] :

V - , Ҡ - , ̠ - , L - , ͠ - , R - , Ϡ - . 렠 , . CPP.

, , R s . , .

, , , " " , , .

{Ai} p(A1 ),(A2 ),.,p(Ar), {Bj} - P(B1,), p(B2),..., (Bs). , {Ai} ,

P{Bj}=∑ri=1P(Ai)*P(Bj/Ai)

0,89 0,1 0,01
O 0,15 0,75 0,1
0,01 0,1 0,89

2.2 (2.2)

I(Ai,Bj), , ࠠ Ai , Bj, , [91]

I(Ai,Bj)=LOG(P(Ai/Bj)/P(Ai)) (2.3)

, () A(Ai), B=(Bj) ,

I(A, B)=∑A, BP(Ai,Bj)*I(Ai,Bj)= ∑A, BP(Ai,Bj)*LOG2 (P(Ai/Bj)/P(Ai)=

=-∑A, BP(Ai,Bj)*LOG2 P(Ai)+ ∑A, BP(Ai,Bj)*LOG2 (P(Ai/Bj);

I(A, B)=H(A)+∑A, BP(Ai,Bj)*LOG2 (P(Ai/Bj); (2.4 )

, (A)- , =(Ai) . (2.4) ,

H(A)- I(A, B)=-∑A, BP(Ai,Bj)*LOG2 P(Ai/Bj)=

=-∑A, BP(Ai,Bj)*P(Bj)LOG2 P(Ai/Bj)=-∑ BP(Bj)∑AP(Ai/Bj)LOG2 P(Ai/Bj)=H(A/B)

(/B)- ,


, (Ai) . , .

(), 2H(A), 2 H|(A/B) () (Ai) , (Bj) , .. . 󠠠 . 2 H|(A/B) , (Ai) . , (/)= 2 H|(A/B) =1. , (/)=0, 2 H|(A/B) =1, , 堠 (/)=(), ࠠ 2 H|(A) .

( ), P(Ai/Bj) .

젠 - 젠 (, , ), . / . " - . - - . . 2.2.3.

P(Ai/Bj), , .

83


, . ( ), . .

- , . 砠 . . .

, [7].

2.2.3. . . V=(V1,V2,..,Vr,..,VR) Vr=(Ai1,Ai2,..,Ain) , W=(W1,W2,..,Ws,..,WS) Ws=(Bj1,Bj2,,Bjr) , AiÎA , BjÎB ; r= 1,R ; s= 1,S ; n = n (r ) ; l= l(s). ࠠ , 젠 ,  , 頠 WsÎW Wsk Î Ws , K=1, Ks . V Wsk W P(Wsk). ⠠ Wsk Î Ws , f(Ws), . Ws, , - , , , , , - , , , .

, ,  , ꠠ , ( , - , , ), ࠠ Wsk . , , , , . 蠠 , , .  - , .

Wsk , , ( , , ), "", . 堠 ( ) , ( ). .

( ) 젠 , ⠠ . , 򠠠 , , .

"" ( . , , ( ) , . , - . , (蠠 , - , , , ).

,  ⠠ , , . , 蠠 Vx Ws Ws1 Ws2 , P(Vx/Ws1) P(Vx/Ws2) , , :

P(Vx/Ws1)> Δ s 1;

P(Vx/Ws1)-P(Vx/Ws1))> Δ s1s2

Δs1 - , Ws1 , Δ s1s2 - Vx Ws1 Ws2 , Vx.

Δs1, Δ s1s2 , 򠠠 .   , , , . . , V . , , V , R , . P(Vr/Ws) VrÎ V , WsÎ W , r= 1R , s= 1S , ( ). P(Vr/Ws).

, , WsÎ W ( , ) , , - . Ws ( ) ( ). f (Ws) WsÎ W , Wsk, , K = 1,2,3..,Ks; WskÎWs L=L(s,k) ,

, , .. L , 蠠 L=L(s,k).

, , L=L(s) . 젠 , , , "" , .

, 堠 , , , . , , 堠 蠠 . , , , 젠 , . , , , - , , 堠 [81,80] .

, , M W1,W2,W3,,Wn,,Wm , . W= Un=1m Wm , , : ( 頠 ) , Lm; m=1, M.

蠠 ,

P(a/b)=[Pij], (2.5)

Pm(Vr/Ws) ⠠ :

Pm (Vr/Ws)=; (2.7)

T=1,2,..,Tm 蠠 Wm , Art Î Vr ,

Bst Î Ws.. Ws Ks, , Wm . ""

P(Vr/Ws)= (2.8)


, ,

I(V/W)=-, (2.9)

2I=(V/W) - , 2I=(V) - ,

I(V)=-, (2.10)

, (2.4), (2.5), , 젠 . . , , , , , , , , , . 蠠 , , .  , , . , , , , . (2.7) , .

2.2.2. . , ,

 

 

 

! , , , .
. , :