entropia warunkowa 1

rzeczownikdomena: myślenierejestr: specj.

Słowosieć [ver.5.0]

Polski

Definicja

wartość używana w teorii informacji, która mierzy, ile wynosi entropia nieznanej zmiennej losowej Y, jeśli wcześniej znamy wartość innej zmiennej losowej X.

Przykłady

1.Miarą przekazanej przez komunikat informacji (statystyczno – syntaktycznej) jest różnica między entropią repertuaru a entropią warunkową pod warunkiem otrzymania komunikatu (informacja wzajemna).
2.W wielu zastosowaniach ważne jest maksymalizowanie informacji wzajemnej, co często oznacza minimalizowanie entropii warunkowej.