Расчет взаимной информации

#mutual-information

Вопрос:

У меня есть матрица размером 13X8, приведенная ниже (q’). теперь автор рассчитал взаимную информацию двух соседних строк в этой матрице. Чтобы сначала вычислить взаимную информацию, она рассчитала распределение вероятностей каждого элемента в этой матрице, рассчитав количество раз, когда элемент встречается в матрице, деленное на общее количество элементов в матрице.

 4   2   2   1   1   1   2   2

1   1   2   2   2   2   1   1

2   2   1   1   1   1   1   1

1   1   1   1   1   1   1   1

1   1   1   1   1   2   1   2

1   2   1   2   1   2   2   2  = q' (13X8)

1   2   2   2   2   3   3   3

2   3   3   3   4   3   4   4

4   3   4   4   4   4   4   4

4   4   4   4   4   4   4   4

4   4   4   4   4   4   4   4

4   4   4   4   3   3   3   3

3   3   3   3   4   3   4   3
 

и, наконец, получил матрицу распределения вероятностей в виде

 0.317   0.211   0.211   0.298   0.298   0.298   0.211   0.211

0.298   0.298   0.211   0.211   0.211   0.211   0.298   0.298

0.211   0.211   0.298   0.298   0.298   0.298   0.298   0.298

0.298   0.298   0.298   0.298   0.298   0.298   0.298   0.298

0.298   0.298   0.298   0.298   0.298   0.211   0.298   0.211

0.298   0.211   0.298   0.211   0.298   0.211   0.211   0.211

0.298   0.211   0.211   0.211   0.211   0.173   0.173   0.173

0.211   0.173   0.173   0.173   0.317   0.173   0.317   0.317

0.317   0.173   0.317   0.317   0.317   0.317   0.317   0.317

0.317   0.317   0.317   0.317   0.317   0.317   0.317   0.317

0.317   0.317   0.317   0.317   0.317   0.317   0.317   0.317

0.317   0.317   0.317   0.317   0.173   0.173   0.173   0.173

0.173   0.173   0.173   0.173   0.317   0.173   0.317   0.173
 

теперь мое сомнение начинает нарастать с этого момента, когда она вычисляет совместную вероятность в соответствии с ней Для вычисления совместной вероятности каждой пары элементов в матрице q, она учитывает количество раз, когда пары встречаются подряд, и делит его на общее количество строк в матрице q’.И она вычисляет взаимную информацию каждой пары соседних строк в
матрице Q’, которая является

 85.473

91.466

88.391

92.235

70.560

41.308

58.340

79.062

83.363

66.160

68.891
 

как мы можем рассчитать совместную матрицу вероятностей, а затем, наконец, рассчитать взаимную информацию, приведенную выше.