Minimum message length (MML) is a formal information theory restatement of Occam's Razor: even when models are not equal in goodness of fit accuracy to the observed data, the one generating the shortest overall message is more likely to be correct (where the message consists of a statement of the model, followed by a statement of data encoded concisely using that model). MML was invented by Chris Wallace, first appearing in the seminal (Wallace and Boulton, 1968).

PropertyValue
dbpprop:abstract
  • Minimum message length (MML) is a formal information theory restatement of Occam's Razor: even when models are not equal in goodness of fit accuracy to the observed data, the one generating the shortest overall message is more likely to be correct (where the message consists of a statement of the model, followed by a statement of data encoded concisely using that model). MML was invented by Chris Wallace, first appearing in the seminal (Wallace and Boulton, 1968). MML is intended not just as a theoretical construct, but as a technique that may be deployed in practice. It differs from the related concept of Kolmogorov complexity in that it does not require use of a Turing-complete language to model data. The relation between Strict MML (SMML) and Kolmogorov complexity is outlined in Wallace and Dowe (1999a). Further, a variety of mathematical approximations to "Strict" MML can be used — see, e.g. , Chapters 4 and 5 of Wallace (posthumous) 2005.
  • Сообщение минимальной длины — это формальное переопределение принципа бритвы Оккама на языке теории информации: даже если модели не эквивалентны в точности, та из них, которая порождена наикратчайшим сообщением, является наиболее корректной. Понятие было введено Крисом Уоллесом. Имеет значение не только в качестве теоретической конструкции, но и как практическая техника. Существует также сообщение максимальной ёмкости — из нескольких моделей или выражений наиболее ёмким является то, которое порождает наибольшее количество информации. Концепция сообщений минимальной длины не позволяет использовать язык, полный по Тьюрингу, для моделирования данных, в отличие от связанной концепции Колмогоровской сложности.
dbpprop:hasPhotoCollection
dbpprop:reference
rdfs:comment
  • Minimum message length (MML) is a formal information theory restatement of Occam's Razor: even when models are not equal in goodness of fit accuracy to the observed data, the one generating the shortest overall message is more likely to be correct (where the message consists of a statement of the model, followed by a statement of data encoded concisely using that model). MML was invented by Chris Wallace, first appearing in the seminal (Wallace and Boulton, 1968).
  • Сообщение минимальной длины — это формальное переопределение принципа бритвы Оккама на языке теории информации: даже если модели не эквивалентны в точности, та из них, которая порождена наикратчайшим сообщением, является наиболее корректной.
rdfs:label
  • Minimum message length
  • Сообщение минимальной длины
owl:sameAs
skos:subject
foaf:page
is dbpprop:columnsListProperty of
is dbpprop:redirect of