Меню Главная Случайная статья Настройки Доверительная область Материал из https://ru.wikipedia.org Доверительная область — обобщение понятия доверительного интервала на случай многомерного параметра[1][2][3][4][5][6] целевой функции, которая аппроксимируется с помощью числовой функции, часто квадратичной: если найдена числовая функция, соответствующая точности целевой функции внутри доверительной области, то область расширяется, и наоборот, если точность аппроксимации низкая, то область сужается. Под точностью аппроксимации обычно понимается ширина доверительной области[7]. Метод доверительной области известен также, как одношаговый метод. В некотором смысле он двойственен методу линейного поиска — в методе доверительной области сначала выбирают размер шага (размер доверительной области), затем его направление, в методе линейного поиска выбирают сначала направление шага, а затем его размер. Подходящий размер вычисляется после сравнения отношения ожидаемого улучшения по числовой функции и действительного улучшения, полученного вычислением целевой функции. В качестве критерия расширения или сужения, используется простой принцип — числовая функция достоверна только в области, где она обеспечивает приемлемую аппроксимацию. Содержание 1 Пример 2 Литература 3 Примечания 4 Ссылки Пример Концептуально, в алгоритме Левенберга — Марквардта целевая функция итеративно аппроксимируется поверхностью второго порядка, затем решается соответствующая система линейных уравнений, и оценка обновляется, после чего цикл повторяется до достижения нужной точности аппроксимации. Если использовать только этот алгоритм и если начальное предположение было «слишком далеко» от оптимального решения, то метод может не дать сходимости к нужной точности аппроксимации. По этой причине алгоритм ограничивает каждый шаг, предотвращая слишком «далёкую» аппроксимацию. Алгоритм определяет «слишком далеко» следующим образом. Вместо решения ${\displaystyle A\,\Delta x=b}$ относительно ${\displaystyle \Delta x}$ метод предлагает решать ${\displaystyle {\big (}A+\lambda \operatorname {diag} (A){\big )}\,\Delta x=b}$, где ${\displaystyle \operatorname {diag} (A)}$ является диагональной матрицей с той же диагональю, что и у матрицы A, а ${\displaystyle \lambda }$ является параметром, который контролирует размер доверительной области. Геометрически, метод добавляет параболоид с центром в ${\displaystyle \Delta x=0}$, что приводит к меньшему шагу каждой итерации. Смысл заключается в том, чтобы изменять размер доверительной области (${\displaystyle \lambda }$). На каждой итерации квадратичная аппроксимация предсказывает уменьшение целевой функции ${\displaystyle \Delta f_{p}}$ (здесь и ниже ${\displaystyle f_{p}}$ означает полученное аппроксимацией значение, а ${\displaystyle f_{a}}$ означает действительное значение функции), которая ожидается меньшей по сравнению с истинным уменьшением. Если дано ${\displaystyle \Delta x}$, мы можем вычислить ${\displaystyle \Delta f_{a}}$ по формуле: ${\displaystyle \Delta f_{a}=f(x)-f(x+\Delta x).}$ После вычисления отношения ${\displaystyle \Delta f_{p}/\Delta f_{a}}$ мы можем изменить размер доверительной области. В общем случае ожидается, что ${\displaystyle \Delta f_{p}}$ будет чуть меньше, чем ${\displaystyle \Delta f_{a}}$, так что отношение окажется в интервале между 0.25 и 0.5. Если отношение больше 0.5, то это значит, что взят слишком большой шаг, поэтому требуется расширить доверительную область (уменьшить ${\displaystyle \lambda }$) и продолжить итерации. Если отношение меньше 0.25, то истинная функция «слишком сильно» отличается от аппроксимации в доверительной области, значит, требуется уменьшить доверительную область (увеличиваем ${\displaystyle \lambda }$) и продолжить итерации. Литература Andrew R. Conn, Nicholas I. M. Gould, Philippe L. Toint. Trust-Region Methods. — (MPS-SIAM Series on Optimization). Byrd R. H, Schnabel R. B., Schultz G. A. A trust region algorithm for nonlinearly constrained optimization // SIAM J. Numer. Anal.,. — 1987. — Т. 24. — С. 1152–1170. Sorensen D. C. Newton’s Method with a Model Trust Region Modification // SIAM J. Numer. Anal.. — 1982. — Т. 19, № 2. Yuan Y. Recent Advances in Trust Region Algorithms // Math. Program.. — 2015. Примечания А. Я. Дороговцев. Доверительная область / Энциклопедия кибернетики Архивная копия от 4 июня 2021 на Wayback Machine // Ред. коллегия: В. М. Глушков (отв. ред.) и др.; АН УССР. — Киев: Укр. сов. энциклопедия, 1974. — Т. 1: Абс — Мир. — 606 с. — С. 296. Крамер, Харальд - Математические методы статистики [Текст] - Search RSL . search.rsl.ru. Дата обращения: 4 июня 2021. Архивировано 4 июня 2021 года. Математическая энциклопедия [Текст] / Гл. ред. И.М. Виноградов - Search RSL . search.rsl.ru. Дата обращения: 4 июня 2021. Архивировано 4 июня 2021 года. Справочник по прикладной статистике : [В 2 т.] / Под ред. Э. Ллойда, У. Ледермана ; Пер. с англ. под ред. Ю. Н. Тюрина - Search RSL . search.rsl.ru. Дата обращения: 4 июня 2021. Архивировано 4 июня 2021 года. Кендэл, Морис Джордж - Статистические выводы и связи [Текст] - Search RSL . search.rsl.ru. Дата обращения: 4 июня 2021. Архивировано 4 июня 2021 года. Картамышев А. И., Коноплев Л. Н. Применение метода статистических испытаний для изучения характеристик рассеяния выборочных кривых повторяемости // Ученые записки ЦАГИ. — 1976. — № 5. Архивировано 4 июня 2021 года. Ссылки Kranf site: Trust Region Algorithms Trust-region methods