. , , ,

,,,

: , , , — ,

..

(informatio - , , ) , ( - , , , ..), , . - . , , . , , , .

, , :

, - ( - , , ..) (, );

, , ( , );

, ();

, ( );

( );

(, );

, , ().

, , - , , , - , , , . . ( , [9]) , .

1. ,

- ( ) , , (, , , ) (, , , , ). , , , . , - , , , . - . - .

( ) () .

. , , , - , , - . , (), ( ), (), (), (). (, , ), (). , , , , .

( ) : , .

( ) - , .

( ) - , .

, ( ) - , , , .. . ( ) .

. , , , , - . , , ( ) , , "" .

. ( ) , . , , .. . , , , ( ).

:

( );

( );

( ).

. , , (, ..), .. ; , .. - ; - .

:

( );

( );

- - ( -).

. , , - , - -.

:

(, );

(, , );

(, , );

(, );

(, );

(, , , );

, (, , , , , );

( , , );

, (, , , , , , .., ) .

, : ; ; ; ; ; ; ; .

( ) - , , , . . . .. , , () , , , . .

( ):

( );

() (, );

( );

, , ( );

( );

( );

, (, );

( );

(, );

();

( );

();

( ).

. - (), () () . , . , , .

, , , - , "", . - .

. - , () , .

- , , , . () - --. (, , ), ( , ), ( , , ), ( ) - , .

2. ,

, .

( ).

( ).

- (, ) - .

.

- ( ).

- ().

- , .

- ().

, , .

- .

- (), .

- .

- .

- .

- .

, - , .

, - / .

- .

- , , .

- , .. , , .

- , , .. () () ; () .

- ; , , , , , .. ( , ).

( ), , ( ), ( , ) .

.

- , .

- , / , .

- , .. , , ( , , ).

- , .

- , , , , .

3.

, , , , , , , .

, . , . ( ) .

- , , , , , () .

, n , , . ( ). - , .. () .

1. . . N S N , . , , d, , , N. , . : H=k log N, k - (, ), - .

, k=1, H=lnN (); - , k=1/ln2, H=log2N (); - , k=1/ln10, H=lgN ().

. .. , 1 (" ?"). , 1 (I=log2 2). 2 , 2 (I=log24). n , I=log2 n.

: X={x1, x2, ..., xn} xiÎ X, , , loga n () .

, , - , .

. 192 . , . , 2 ( , - ): ) ; ) . , I=log22=1 , , k , k log22k³ log2192. , k³ 7 , k=7. , 7 ( ).

. , . ( ) , 1,5´ 1023 . log2(4)=2 () . , 3´ 1023 . , . , - , - . , , 5 6 % ( - ). - . ( ) . - , - , , , , () . . , . , , ... , .

, ( , , N ). . : N .

() () N .

, ( 1!), - .

. . , :

n I = å pi log2 pi . i=1

n - ; i - ( ) i- , pi 1.

(.. i=1/n), I=log2n.

. . . .

. t N log2N: t=200+180log2N (). . , , n , . , , , n , I , pi - i. .

, :

n I = å pi log2 pi £ log2n. i=1 i - (, , , pi=1), I=0.

, . ( , - -).

. , , - k- , .. âñå i=0, k=1, I=log21=0 .

. , ( ). 90 (10 - 99), I=log290 I=6.5. 9 (1- 9), - 10 (0-9), I=log290=log29+log210. log210 3.32. , 3.32 , ( log22=1), , , , ( ; , - ).

fi = n log2 pi , , I fi .

, fi i pi , .

n , mi - i=1, 2, .... n , N - . i- pi=mi/N. n

n

p=N! / Õ mi! .

i=1

n

I=log2 p=ln p / ln 2 = ln ( N! / Õ mi!)/ln 2 .

i=1

( , , N>100) - N! (N/e)N , , - ln N! N(ln N 1) ( ):

n n

I (N ln N å mi ln mi ) / ln 2= (N / ln 2) å pi ln pi .

i=1 i=1

. - . p1=0.028, p2=0.062. p N k m (k+m=N) . , , n=N!/(k! m!). : I=log2 n=ln n / ln2=log2e [ln N! ln k! ln m!]. ( ) 1 :

I1=I/N (log2e/N)[(k+m)( ln N 1) k(ln k1) m(ln m 1)]=

=(log2e/N)[k ln(N/k) m ln(N/m)]=

= log2e[(k/N) ln(k/N) + (m/N) ln(m/N)]£

£ log2e [p1 ln p1+p2 ln p2]=log2e[0.028 ln0.028+0.062 ln0.062] 0.235.

. 4 a, 2 , 1 , 6 . ( ) . N 13 : N=13!/(4!´ 2!´ 1!´ 6!)=180180. I : I=log2(N)=log2180180 17.5 ().

k- , k=1.38´ 10-16 /,

n S = k å pi ln pi i=1 , . I S , I ( - / ).

. :

I+S(log2e)/k=const

dI/dt= ((log2e)/k)dS/dt.

, , , , - ( ), . : ( , ), , .

() () () . (S=Smax) (I=Imin) (S=Smin) (I=Imax) .

. , , () . , ( ).

3. . - ( , ). , , .

() S, 0, 1 - S () , . () :

(0,1)=0 1.

. (0,1) S ( ), - .

. p1 ( ), - p2 . :

D I = k ln(p1 / p2) = k (ln p1 ln p2 ).

p1 > p2 (D I >0) - , .. , p1<p2 (D I<0)- . , ( ).

. , - 10 (3), 20 (3). . p1=1 (lnp1=0). [ln10]. , , .. D I=kln(20/10)=kln2 (). . - .

D I , ( D I>0 - , D I>0 - ).

() , . , , , , - - .

4. (-) . () () - , , , . - " ", - " ", ( A B) , f: A B. - - . , - , .

. N=1.5´ 1015 . - . 1015 , 107 ( 108), .. , , . 1 : I=log21015 50 . , , 50 (h - , n - ): E=hn =6.62´ 1027(/c)´ 0.5´ 1015(1)=3.3´ 1012 (). , 1 "" m =107 /. : n=m /E=107 (/)/(3.3´ 1012 ()) 3.3´ 1018 (). 1 N () m: V=n log2N=3.3´ 1018´ 50 1.6´ 1020 (/).

4.

, () , .

. ? ? ? , , .

.

. - : 1- (40-50- 19 ) 104 . 1- ( 90- ) , , 1012 . .

( ).

1. .

2. , , .

3. , ( ) .

4. ( ).

5. . , , , , , ; .

- , , .

. , , , , , , , . , .. . , , / . , .

, - , , , , , , .

, ( , , .), ( ) . [1-11] ( ).

5.

.

1. ={A, B, C, D}, (). 1.5´ 1023 . , 1013 , ( ).

2. 16 . , , 70 (, , , - ).

3. : - 0.1, - 0.5, - 0.4. ( ) ? 2, ?

4. 128 . , ( )? , 8, ?

5. ( ) , . ( )? , , . :

0.090 0.028 , , 0.014

, 0.072 0.026 0.013

, 0.062 0.025 0.012

, 0.053 0.023 0.009

0.045 0.021 , , 0.006

0.040 0.018 , , 0.003

0.035 , 0.016 0.002

6. () . . .

7. , , . ? ?

8. ( ) ( ): ( ) , ; . ( ) .

9. () ( , , , - 0 1), .

10. 46 ( , ). ( ). , .

. . .: , 1960. - 392 .

. . .: , 1963 - 830 .

. . .: , 1974. - 240 .

.. . .: . , 1975. - 424 .

.. .:,1987.-303 .

.. . : ,1989. - 320 .

. . .: , 1991. - 240 .

. . . .., .: -, 1994, - 352 .

.. ( 3- ), , 1997. - 324 .

.. . .: , 1998. - 124 .

.., .. . , N2, 1999, . 32 - 38.

.. (informatio - , , ) , ( - , , ,

 

 

 

! , , , .
. , :