Лекции о сложности алгоритмов. С. А. Абрамов (1121249), страница 33
Текст из файла (страница 33)
Основываясь на (.) и бинарном алгоритме возведенияв степень, построение C ∗ можно выполнить с пространственной сложностью 3n2 + O(1).. Искомая матрица C ∗ будет вычисляться правильно и послеувеличения показателя степени в правой части (.).. Воспользовавшись утверждением, содержащимся в задаче ,заменим показатель степени в правой части (.) на 2m , где m —наименьшее целое, такое что 2m ¾ n − 1. Как изменится верхняя оценка (.) при переходе к этой новой версии алгоритма?. Исследовать пространственную сложность описанного в задаче алгоритма..
Какой наибольшей временной сложностью может обладатьалгоритм умножения булевых матриц, или, другими словами, какуюверхнюю границу должна допускать функция B(n), чтобы временные затраты описанного в задаче алгоритма допускали бы оценкуO(n3 )?. Можно ли первую строку приведенного в § псевдокода алгоритма Уоршелла переместить в конец этого псевдокода?Указание.
Рассмотрим алгоритм в сокращенном виде, удалив эту строкуиз псевдокода. Влияют ли значения диагональных элементов исходной матрицы на значения внедиагональных элементов матрицы-результата?. Описать версию алгоритма Уоршелла для вычисления кратчайших путей между вершинами графа G, считая, что вместо матри-Задачицы смежности дана матрица, содержащая длины соответствующих ребер. Если какие-то вершины не соединены, то длина ребра равна ∞.Провести анализ сложности по числу операций сложения и операций нахождения минимума (раздельно) и анализ пространственнойсложности.
(В этой задаче мы не рассматриваем битовую сложность.)Глава Рекуррентные соотношения как средствоанализа сложности алгоритмов§ . Простейшие рекуррентные уравненияРекуррентные соотношения (уравнения и неравенства) играют существенную роль в анализе алгоритмов. Наиболее известный и простой вид таких соотношений — это линейные рекуррентные уравнения с постоянными коэффициентами.Пример .. Вернемся к задаче , в которой надо доказать, чтоесли к числу, первоначально равному нулю, прибавляется шаг за шагом по единице до достижения значения 2n − 1, n ¾ 0, то в целом потребуется 2n − n − 1 переносов единиц в старшие разряды. Коль скорозаранее указан ответ, для доказательства можно использовать индукцию. Но формулу 2n − n − 1 можно вывести, исходя лишь из условиязадачи.
Обозначим через s(n) исследуемое количество переносов и заметим, что если прибавлением единиц уже получено число 2n−1 − 1(на это потребуется s(n − 1) переносов), то очередное прибавлениеединицы потребует n − 1 переносов и приведет к числу 2n−1 , двоичная запись которого есть 10...0 (количество нулей после единицыравно n − 1).
Далее в процессе достижения числа 11...1 (n единиц)потребуется еще s(n − 1) переносов. Получаем рекуррентное уравнение s(n) = 2s(n − 1) + n − 1 илиs(n) − 2s(n − 1) = n − 1,(.)при этом s(0) = 0. Характеристическое уравнение , соответствующеерекуррентному уравнению (.), имеет вид λ − 2 = 0. Общее решение однородного уравнения s(n) − 2s(n − 1) = 0 есть c2n . Правую частьуравнения (.) можно записать в виде квазиполинома (n − 1)1n .Значение 1 не является корнем характеристического уравнения, поО методе решения линейных рекуррентных уравнений с постоянными коэффициентами см. в приложении G.§ . Простейшие рекуррентные уравненияэтому (.) обладает частным решением вида an + b; подставляя этовыражение вместо s(n) в (.), получаем an + b − 2(a(n − 1) + b) == n − 1, и, приравнивая в левой и правой частях коэффициенты припервой и нулевой степенях n, имеем a = b = −1.
Получаем общее решение уравнения (.): s(n) = c2n − n − 1. Подбираем значение константы c так, чтобы выполнялось s(0) = 0; для этого должно выполняться c · 2 − 2 = 0, т. е. c = 1. Итак, потребуется 2n − n − 1 переносовединиц в старшие разряды.Алгоритм, который содержит прямые или косвенные (т. е. при посредстве других алгоритмов) обращения к себе, как известно, называется рекурсивным. Рекуррентные соотношения являются удобнымсредством анализа сложности рекурсивных алгоритмов.В следующем примере обсуждается использование рекуррентныхуравнений в анализе рекурсивных алгоритмов и указывается одиннеудачный вид рекурсии.Пример ..
Рассмотрим построение множества Vn всех целыхчисел, десятичная запись каждого из которых содержит только цифры 1 и 2, а сумма цифр равна заданному числу n ¾ 1. Непосредственно видно, что V1 = {1}, V2 = {11, 2}, V3 = {111, 21, 12}. В общемслучае Vn является, очевидно, объединением двух непересекающихсяподмножеств, в первое из которых входят все числа из Vn , оканчивающиеся цифрой 1, во второе — цифрой 2. Если вычеркнуть последнюю цифру, то при n ¾ 2 первое подмножество превратится в Vn−1 ,второе — в Vn−2 . Это наблюдение приводит к рекурсивному алгоритму VRec построения Vn : если n = 1 или n = 2, то результатом будет{1} или соответственно {11, 2}; иначе надо найти Vn−1 (рекурсивноеобращение к алгоритму) и приписать справа ко всем числам этогомножества единицу, затем найти Vn−2 (еще одно рекурсивное обращение) и приписать справа ко всем числам этого множества двойку,после чего построить объединение двух получившихся множеств.Не составляет труда заметить, что алгоритм VRec избыточно сложен (о чем еще будет идти речь).
Но анализ сложности часто приходится проводить и для «плохих» алгоритмов — например, чтобы показать их практическую непригодность.Прежде чем исследовать временную сложность этого алгоритма,установим, чему равно число v(n) элементов Vn . Мы видим, чтоv(1) = 1, v(2) = 2, v(n) = v(n − 1) + v(n − 2), n = 3, 4, ... Таким образом, v(n) равно (n + 1)-му числу Фибоначчи: v(n) = Fn+1 .
Явное выражение v(n) через n можно получить, воспользовавшись формулойБине (.), которая сама может быть выведена с помощью общегоГлава . Рекуррентные соотношения и сложность алгоритмовметода решения линейных рекуррентных уравнений с постояннымикоэффициентами.Используя рекуррентные уравнения, мы можем определить количество y(n) преобразований чисел при построении множества Vnпо описанному алгоритму (каждое из этих преобразований состоит в приписывании справа к числу единицы или двойки). Мы можем также определить число z(n) выполняемых операций объединения множеств.
Очевидно, имеет место уравнение y(n) = y(n − 1) ++ y(n − 2) + Fn + Fn−1 , которое мы перепишем в более удобном видеи добавим начальные значения:y(n) − y(n − 1) − y(n − 2) = Fn+1 ,(.)y(2) = y(1) = 0. Аналогично, имеемz(n) − z(n − 1) − z(n − 2) = 1,(.)z(2) = z(1) = 0.Начнем со второго уравнения. Будем, как обычно, прибегатьк обозначениямppφ=1+ 5,2φ̃ =1− 5.2Непосредственно видно, что −1 является частным решением нашего рекуррентного уравнения (это частное решение можно получитьи общим методом: правая часть является квазиполиномом 1n , приэтом 1 не есть корень характеристического уравненияλ2 − λ − 1 = 0,(.)и, следовательно, существует частное решение вида c1n , где c — полином нулевой степени, т.
е. константа; подстановка в (.) даетc = −1). Корнями уравнения (.) служат числа φ и φ̃ , входящиев формулу Бине, и общее решение уравнения (.) может быть записано в виде z(n) = C1 φ n + C2 φ̃ n − 1. Начальные условия z(2) = z(1) = 0приводят нас к системеpp1+ 51− 5C1 +C2 = 1,22p 2p 21+ 51− 5C1 +C2 = 1.22ПолучаемφC1 = p ,5φ̃C2 = − p .5(.)§ . Простейшие рекуррентные уравненияТаким образом, z(n) = Fn+1 − 1. Отсюда следует ряд асимптотическихформул:15z(n) = p φ n+1 + O(1),15z(n) ∼ p φ n+1 ,z(n) = Θ(φ n )(.)и т.
д. Обратимся теперь к (.). Характеристическим уравнениемздесь вновь является (.). Поскольку Fn+1 = c1 φ n + c2 φ̃ n , где c1 , c2 —полиномы нулевой степени, то правая часть уравнения (.) является суммой двух квазиполиномов, и для нахождения интересующего нас решения может быть привлечен общий метод, в результатечего получится формула вида y(n) = p1 (n)φ n + p2 (n)φ̃ n , где, в силутого, что φ и φ̃ являются корнями кратности 1 характеристического уравнения, а также того, что c1 , c2 6= 0, степени полиномов p1 (n)и p2 (n) равны 1. Это показывает, что y(n) = C1 φ n + C2 φ̃ n + p1 (n)φ n ++ p2 (n)φ̃ n = q1 (n)φ n + q2 (n)φ̃ n при соответствующем выборе полиномов q1 (n), q2 (n) первой степени. Можно было бы найти эти полиномы, но даже не делая этого, а просто принимая во внимание, чтостепень q1 (n) равна 1, получаемy(n) = Θ(nφ n ).(.)Мы видим, что анализ сложности простейших рекурсивных алгоритмов часто приводит к линейным рекуррентным уравнениям первого или второго порядка с постоянными коэффициентами (однородным или с правыми частями в виде суммы квазиполиномов).