С.А. Абрамов - Лекции о сложности алгоритмов (pdf) (1123764), страница 31
Текст из файла (страница 31)
К числу, первоначально равному нулю, прибавляется шаг зашагом по единице до получения значения 2n − 1, n ¾ 0. При этих сложениях потребуется 2n − n − 1 переносов единицы в старший разряд.. Пусть p — простое, a и b — произвольные целые, k — натуkkkральное. Тогда (a + b) p ≡ a p + b p (mod p).Задачи.
а) Аддитивная группа кольца Zk является циклической, в качестве образующей этой группы может выступать любой класс, содержащий число l, взаимно простое с k.б) Пусть p — простое, тогда мультипликативная группа поля Z p ,т. е. группа всех ненулевых элементов по умножению, является циклической.. Еслиp — простое, а k — неотрицательное целое, мень числоpшее p, то≡ 0 (mod p).kУказание. Предварительно показать, что p не делит k!.. Индукцией по a доказать малую теорему Ферма.Указание. Использовать равенство a p = (1 + (a − 1)) p и предыдущую задачу..
Имеет место следующая китайская теорема об остатках:пусть k1 , k2 , ..., k n — взаимно простые натуральные числа (модули); тогда для любых b1 , b2 , ..., bn ∈ Z найдется f ∈ N такое, что f ≡≡ bi (mod k i ), i = 1, 2, ..., n. (Задача восстановления числа по остаткамобсуждалась в древних китайских математических трактатах.) Датьконструктивное доказательство этой теоремы, т.
е. доказательство,содержащее в себе алгоритм построения подходящего f (каждыйтакой алгоритм может быть назван китайским алгоритмом).Указание. Пусть k = k1 k2 ... kn и gi = k/ki , i = 1, 2, ..., n. При всех i = 1, 2, ......, n числа ki и gi взаимно просты, поэтому расширенным алгоритмом ЕвклиnPbj h j gj .да можно определить hi так, что hi gi ≡ 1 (mod ki ) и положить f =j =1. Исходя из того, что значение полинома f (x) в точке x = aравно по теореме Безу остатку от деления f (x) на x − a, установитьпараллелизм между интерполяционной формулой Лагранжа и формулой для значения f , данной в указании к задаче .. Битовая сложность китайского алгоритма, эскизно обрисованного в указании к задаче и основывающегося на расширенномалгоритме Евклида, наивном делении и наивном умножении, допускает оценку O(log2 k), если в качестве размера входа рассмотреть k,и оценку O(m2 ), если в качестве размера входа рассмотреть битовуюдлину m числа k.Указание.
По поводу сложности вычисления g см. пример .; сложностьPnэтапа вычисления всех gi допускает оценку Olog g log ki и т. д.i =1Глава . Битовая сложность. Верно ли, что для битовой сложности m в среднем алгоритма4пробных делений справедлива оценка Ω?3. Битовая сложность в среднем алгоритма наивного умножениядвух неотрицательных целых чисел a и b допускает оценку Ω(m2 ),а тем самым — и Θ(m2 ), где m = max{λ(a), λ(b)}.Указание. Битовые затраты при наивном умножении a на b не могут бытьменьше, чем cλ(a)λ∗ (b). Два случаяλ(a) = m,λ(b) ¶ mиλ(a) ¶ m,λ(b) = mприводят к двум вероятностным пространствам V1 , V2 , состоящим из соответствующих пар (a, b) с равномерными распределениями вероятностей.Определить значения вероятностей событий λ(a) = k и λ(b) = k для произвольного 0 ¶ k ¶ m для каждого из пространств V1 , V2 и найти математические ожидания случайных величин ξ(a, b) = λ(a), η(a, b) = λ∗ (b).
В силунезависимости ξ и η можно воспользоваться равенством E(ξ(a, b)η(a, b)) == (E(ξ(a, b))(Eη(a, b)).. Привести полное доказательство равенства (.).. Основываясь на (.) и бинарном алгоритме возведенияв степень, построение C ∗ можно выполнить с пространственной сложностью 3n2 + O(1)..
Искомая матрица C ∗ будет вычисляться правильно и послеувеличения показателя степени в правой части (.).. Воспользовавшись утверждением, содержащимся в задаче ,заменим показатель степени в правой части (.) на 2m , где m —наименьшее целое, такое что 2m ¾ n − 1. Как изменится верхняя оценка (.) при переходе к этой новой версии алгоритма?.
Исследовать пространственную сложность описанного в задаче алгоритма.. Какой наибольшей временной сложностью может обладатьалгоритм умножения булевых матриц, или, другими словами, какуюверхнюю границу должна допускать функция B(n), чтобы временные затраты описанного в задаче алгоритма допускали бы оценкуO(n3 )?. Можно ли первую строку приведенного в § псевдокода алгоритма Уоршелла переместить в конец этого псевдокода?Указание. Рассмотрим алгоритм в сокращенном виде, удалив эту строкуиз псевдокода. Влияют ли значения диагональных элементов исходной матрицы на значения внедиагональных элементов матрицы-результата?.
Описать версию алгоритма Уоршелла для вычисления кратчайших путей между вершинами графа G, считая, что вместо матри-Задачицы смежности дана матрица, содержащая длины соответствующих ребер. Если какие-то вершины не соединены, то длина ребра равна ∞.Провести анализ сложности по числу операций сложения и операций нахождения минимума (раздельно) и анализ пространственнойсложности. (В этой задаче мы не рассматриваем битовую сложность.)Глава Рекуррентные соотношения как средствоанализа сложности алгоритмов§ . Простейшие рекуррентные уравненияРекуррентные соотношения (уравнения и неравенства) играют существенную роль в анализе алгоритмов.
Наиболее известный и простой вид таких соотношений — это линейные рекуррентные уравнения с постоянными коэффициентами.Пример .. Вернемся к задаче , в которой надо доказать, чтоесли к числу, первоначально равному нулю, прибавляется шаг за шагом по единице до достижения значения 2n − 1, n ¾ 0, то в целом потребуется 2n − n − 1 переносов единиц в старшие разряды. Коль скорозаранее указан ответ, для доказательства можно использовать индукцию. Но формулу 2n − n − 1 можно вывести, исходя лишь из условиязадачи.
Обозначим через s(n) исследуемое количество переносов и заметим, что если прибавлением единиц уже получено число 2n−1 − 1(на это потребуется s(n − 1) переносов), то очередное прибавлениеединицы потребует n − 1 переносов и приведет к числу 2n−1 , двоичная запись которого есть 10...0 (количество нулей после единицыравно n − 1). Далее в процессе достижения числа 11...1 (n единиц)потребуется еще s(n − 1) переносов. Получаем рекуррентное уравнение s(n) = 2s(n − 1) + n − 1 илиs(n) − 2s(n − 1) = n − 1,(.)при этом s(0) = 0. Характеристическое уравнение , соответствующеерекуррентному уравнению (.), имеет вид λ − 2 = 0.
Общее решение однородного уравнения s(n) − 2s(n − 1) = 0 есть c2n . Правую частьуравнения (.) можно записать в виде квазиполинома (n − 1)1n .Значение 1 не является корнем характеристического уравнения, поО методе решения линейных рекуррентных уравнений с постоянными коэффициентами см. в приложении G.§ . Простейшие рекуррентные уравненияэтому (.) обладает частным решением вида an + b; подставляя этовыражение вместо s(n) в (.), получаем an + b − 2(a(n − 1) + b) == n − 1, и, приравнивая в левой и правой частях коэффициенты припервой и нулевой степенях n, имеем a = b = −1.
Получаем общее решение уравнения (.): s(n) = c2n − n − 1. Подбираем значение константы c так, чтобы выполнялось s(0) = 0; для этого должно выполняться c · 2 − 2 = 0, т. е. c = 1. Итак, потребуется 2n − n − 1 переносовединиц в старшие разряды.Алгоритм, который содержит прямые или косвенные (т. е. при посредстве других алгоритмов) обращения к себе, как известно, называется рекурсивным. Рекуррентные соотношения являются удобнымсредством анализа сложности рекурсивных алгоритмов.В следующем примере обсуждается использование рекуррентныхуравнений в анализе рекурсивных алгоритмов и указывается одиннеудачный вид рекурсии.Пример ..
Рассмотрим построение множества Vn всех целыхчисел, десятичная запись каждого из которых содержит только цифры 1 и 2, а сумма цифр равна заданному числу n ¾ 1. Непосредственно видно, что V1 = {1}, V2 = {11, 2}, V3 = {111, 21, 12}. В общемслучае Vn является, очевидно, объединением двух непересекающихсяподмножеств, в первое из которых входят все числа из Vn , оканчивающиеся цифрой 1, во второе — цифрой 2. Если вычеркнуть последнюю цифру, то при n ¾ 2 первое подмножество превратится в Vn−1 ,второе — в Vn−2 . Это наблюдение приводит к рекурсивному алгоритму VRec построения Vn : если n = 1 или n = 2, то результатом будет{1} или соответственно {11, 2}; иначе надо найти Vn−1 (рекурсивноеобращение к алгоритму) и приписать справа ко всем числам этогомножества единицу, затем найти Vn−2 (еще одно рекурсивное обращение) и приписать справа ко всем числам этого множества двойку,после чего построить объединение двух получившихся множеств.Не составляет труда заметить, что алгоритм VRec избыточно сложен (о чем еще будет идти речь).
Но анализ сложности часто приходится проводить и для «плохих» алгоритмов — например, чтобы показать их практическую непригодность.Прежде чем исследовать временную сложность этого алгоритма,установим, чему равно число v(n) элементов Vn . Мы видим, чтоv(1) = 1, v(2) = 2, v(n) = v(n − 1) + v(n − 2), n = 3, 4, ... Таким образом, v(n) равно (n + 1)-му числу Фибоначчи: v(n) = Fn+1 . Явное выражение v(n) через n можно получить, воспользовавшись формулойБине (.), которая сама может быть выведена с помощью общегоГлава .