RELATIVE ERROR FOR ENTROPY ESTIMATION OF DISTRIBUTION DENSITYSPECIFIED CONTINUOUS RANDOM QUANTITY
Keywords:
entropy, entropy estimation, relative error, normal law entropy, logistical distribution entropy, gamma distribution entropy, Weibull’s distribution entropy, lognormal distribution entropy, exponential distribution law entropyAbstract
The work formulates problem of relative error definition for entropy estimation of a continuous random quantity. The problem is solved according to definition rule of relative error appearing under calculation of multivariable function values. Absolute error of each argument was defined as difference between top and bottom confidence interval values of distribution parameters or average value confidence intervals and mean-square deviation of sample parameters. Expressions were found to define the value of relative error for entropy estimation of a continuous random quantity, this vale being distributed under normal law, logistical distribution, gamma distribution, Weibull’s distribution, lognormal and exponential distribution.
Downloads
References
Кузьмин И.В. Основы теории информации и кодирования / И.В. Кузьмин, В.А. Кедрус. – К.: Вища школа, 1986. – 238 с.
Вероятность и математическая статистика: Энциклопедия / Гл. ред. Ю.В. Прохоров.– Москва.: БСЭ, 1999. – 910 с.
Добрушин Р.Л. Упрощенный метод экспериментальной оценки энтропии случайных последовательностей / Р.Л. Добоушин // Теория вероятностей и её применение. – 1958. – Т.3. – Выпуск 4. – С. 462-464.
Зубков А.М. Предельные распределения статистической оценки энтропии / А.М. Зубков // Теория вероятностей и её применение. – 1973. – Т 18. – Выпуск 3. – С. 643-650.
Михайлов В.Г. Статистическое оценивание энтропии дискретных случайных величин с большим числом исходов / В.Г. Михайлов, В.А. Ватутин // Успехи математических наук. – 1995. – том 50. – Выпуск 5 (305). – С. 121-13.
Гайдышев И.П. Моделирование стохастических и детерминированных систем: Руководство польз. прогр. Atte Stat / И.П. Гайдышев-Курган.: БИ, 2015. – 484 с.
Электрические измерения неэлектрических величин / [А.М. Туричин, П.В. Новицкий, Е.С. Левшина и др.] под ред. П.В.Новицкого. – Ленинград.: «Энергия», 1975. – 576 с.
Дубницкий В.Ю. Устойчивость оценки энтропии гистограммы непрерывной случайной величины по отношению к изменению количества её интервалов / В.Ю. Дубницкий, Л.Д. Филатова, А.И. Ходырев // Системи управління, навігації та зв’язку. – Полтава : ПНТУ, 2017. – Вип. 5(45). – С. 42-46.
Вадзинский Р.Н. Справочник по вероятностным распределениям. / Р.Н. Вадзинский. – М.: Наука, 2001. – 295 с.
Michlowicz J. V. Handbook of DIFFERENTIAL ENTROPY / J.V. Michlowicz, J.M. Nichols, Bucholtz F. – New York.: A.CHAPMAN & HALL, 2014. – 220 p.
Guide to the Expression of Uncertainty in Measurement: First edition. / ISO, Switzerland, 1993.
ДСТУ-Н РМГ 43:2006 Метрологія. Застосування «Руководства по выражению неопределенности измерений» (РМГ 43:2001).
Поджаренко В.О., Опрацювання результатів вимірювань на основі концепції невизначеності . Навчальний посібник. / В.О. Поджаренко, О.М. Васілевський, В.Ю. Кучерук. – Вінниця: ВНТУ, 2008. – 158 с.
Демидович Б.П. Основы вычислительной математики / Б.П. Демидович, И.А. Марон. – Москва : Наука, 1966. – 664 с.
Лифшиц Н.А. Вероятностный анализ систем автоматического управления. В 2 т. Т 1. Вероятностные и статистические характеристики воздействий и процессов. Линейные стационарные и нестационарные системы. / Н.А.Лившиц, В.Н. Пугачёв. – Москва : Советское радио, 1963. – 896 с.
ГОСТ 11.007-75. Правила определения оценок параметров и доверительных границ для параметров распределения Вейбулла / Москва.: Издательство стандартов, 1976. – 30 с.
ГОСТ 11.011 – 83. Правила определения оценок параметров и доверительных границ для параметров гамма - распределения / Москва.: Издательство стандартов, 1985. – 49 с.
Кобзарь А.И. Прикладная математическая статистика. Для инженеров и научных работников / А.И. Кобзарь – Москва : ФИЗМАТЛИТ, 2006. – 816 с.
Бейтмен Г. Высшие трансцендентные функции. Гипергеометрическая функция. Функции Лежандра / Г. Бейтмен, А. Эрдейи – Москва : НАУКА, 1973. – 296 с.
Дубницкий В.Ю. Аппроксимация функции нормального распределения функцией логистического распределения и её применение для определения надёжности технических систем / В.Ю. Дубницкий, И.А. Черепнев, Г.В. Фесенко // Вісник Харківського технічного ун-ту сільського господарства, 2017. – Вып. 180. – С. 168-181.
