文章基本信息

标题：Nuevo método de aceleración de los procesos de decisión de Markov
本地全文：下载
作者：Ma. de Guadalupe García-Hernández ; José Ruiz-Pinales ; Sergio Ledesma-Orozco 等
期刊名称：Acta Universitaria
印刷版ISSN：0188-6266
出版年度：2011
卷号：21
期号：2
页码：50-57
语种：Spanish
出版社：Universidad de Guanajuato
摘要：En este artículo se presenta un nuevo método de aceleración para resolver a los procesos de decisión de Markov. El clásico algoritmo de iteración de valor ha resuelto satisfactoriamente a estos procesos estocásticos, pero este algoritmo y sus variantes aceleradas han sido lentos con factores de descuento cercanos a la unidad y sus propiedades de convergencia han dependido, en gran medida, de un buen ordenamiento en la actualización de estados. Recientemente se mostró que la iteración de valor presenta buena velocidad de convergencia gracias al uso de un algoritmo de ordenamiento topológico mejorado. Sin embargo, la desventaja de este algoritmo es debida a sus requerimientos de memoria. Aquí se presenta un método diferente para obtener un buen ordenamiento de estados actualizados con menor requerimiento de memoria. De igual manera se presentan los resultados experimentales obtenidos sobre un problema de ruta estocástica más corta.
其他摘要：In this paper we propose a new acceleration method for solving Markov decision processes. Value iteration is a classical algorithm for solving Markov decision processes, but this algorithm and its variants are quite slow for discount factors close to one and their convergence properties depend to a great extent on a good state update order. Recently, it has been shown that improved topological value iteration presents a good convergence speed thanks to the use of an improved topological ordering algorithm. Nevertheless, the drawback of this algorithm is due to its memory requirements. So, we present a different method to obtain a good state backup order with less memory requirements. Experimental results obtained on a stochastic shortest path problem are presented.
关键词：Procesos de decisión de Markov; ordenamiento topológico; ruta más corta;Markov decision processes; topological ordering; shortest path