Д. Кнут - Искусство программирования том 1 (1119450), страница 8
Текст из файла (страница 8)
Если мы хотим ограничить понятие "алгоритм" таким образом, чтобы в нем могли содержаться только элементарные операции, то введем ограничении на элементы Я, 1 й и 1, например, следующим образом. Пусть А— это ограниченное множество букв, а А" — множество всех строк, определенных на множестве А (т. е.
множество всех упорядоченных последовательностей хсхз... х„, где п > О и х принадлежит А для 1 < 1 < и). Идея заключается в следующем: закодировать состояния вычисления таким образом, чтобы они были представлены строками из множества А". Теперь пусть Ас — целое неотрицательное число, а О— множество всех пар (сг,у), где сс принадлежит А', а 1 — целое число, О < 1 < Ас. Пусть 1 — подмножество пар из с„, для которых 1 = О, а й — подмножество пар из Я, для которых 1 = Ас. Если е и и — строки из А*, то мы будем говорить, что д входит в и, если сг имеет вид адсе, где а и ш — некоторые строки.
И в завершение определим функцию 1 с помощью строк ду сэ и целых чисел а„б, О < 1 < Ас следующим образом: 1(сг,у) =(п,а ), если д, не входит в пз 1(сг, 1) = (аСууы, 61), если а является самой короткой строкой, для которой и = ад;се: 1(сг, Ас) = (сг, Ас). метод вычислений, удовлетворяющий этому определению, безусловно, является эффективным.
Кроме того, опыт показывает, что в таком виде можно представить любую задачу, которая решается с помощью карандаша и бумаги. Существует также много других по сути эквивалентных способов формулировки понятия эффективного метода вычислений (например, с помощью машины Тьюринга). Приведенная выше формулировка практически совпадает с той, которую дал А. А. Марков (Маг)юч) в своей книге Теория алгорифмов [Труды АН СССР, Ин-т математики.
— 1954, — 42. — 376 с.], а впоследствии исправил и расширил Н. М. Нагорный (Хабогпу) (Мл Наука, 1984), УПРАЖНЕНИЯ 1. [10] В тексте показано, как взаимно заменить значения переменных т и и с помощью символа замены, а именно — полагая 1 <- гэ, т < — и, и с — б Покажите, «ак в результате ряда замен можно преобразовать чешверку переменных (о,б,с,4) в (Ь,с,4,а). Другими словами, новое значение переменной а должно стать равным первоначальному значению 6 и т. д.
Постарайтегь выполнить преобразование с помощью минимального числа замен. 2. [15] Докажите, что в начале выполнения шага Е1 т всегда больше и, за исключением, возможно, только первого случая выполнения этого шага. 3. [90] Измените алгоритм Е (из соображений эффективности) таким образом, чтобы исключить из него все тривиальные операции замены типа "гп +- и". Запишите этот новый алгоритм в стиле алгоритма Е н назовите его алгоритмом Е. 4. [10] Чему равен наибольший общий делитель чисел 2 1бб и б 999? б. [12] Покажите, что для процедуры чтения книг этой серии, приведенной в предисловии, не хватает трех нз пяти условий для того, чтобы она стала настоящим алгоритмом! Укажите также некоторые различия в форме записи этой процедуры и алгоритма Е.
б. [90] Чему равно Тэ (среднее число случаев выполнения шага Е1 при п = 5)? ?. [М91] Пусть т известно, а и — любое целое положительное число. Пусть 11 — среднее число случаев выполнения шага Е1 из алгоритма Е. Покажите, что (? четко определено.
Существует ли какая-либо связь между Ц„и Т,„? 8. [М95] Придумайте эффективный формальный алгоритм вычисления наибольшего общего делителя целых положительных чисел ш и и, определив соответствующим образом 0э, фм ам Ь, (как в формулах (3)). Пусть входные данные представлены строкой а 6", т.
е. за а, взятым ш раз, следует Ь, взятое и рэз. Постарайтесь найти самое простое решение, насколько это возможно. [Указание. Воспользуйтесь алгоритмом Е, но вместо деления на шаге Е1 присвойте г +- [т — и[, и +- ш1п(ш, и).] 9. [МУО] Предположим, что С, = Ям!,,Пм11) и Сз = (Яг,1э,йм7з) — методы вычислений, Например, С1 может обозначать алгоритм Е (см.
формулу (2)) при условии, что т и и ограничены по величине, а Сэ — компьютерную программу, реализующую алгоритм Е. (Тогда можно считать, что 14э — это набор всех состояний машины, т. е. всех возможных конфигУРаций ее памЯти и РегнстРов, 1э опРеделЯет элементаРНУю машиннУЮ опеРацию, а 1э — начальное состояние, которое включает программу определения наибольшего общего делителя, а также значения т и и.) Сформулируйте теоретико-множественное определение понятия "Сэ является представлением С1" или "Сэ имитирует С1".
Интуитивно это означает, что любая вычисляемая последовательность С1 имитируется См за исключением того, что у Сэ может быть больше шагов, на которых выполняются вычисления, и можно получить больше информации из состояний. (Таким образом, мы получим точную интерпретацию утверждения "Программа Х является реализацией алгоритма У".) 1.2. МАТЕМАТИЧЕСКОЕ ВВЕДЕНИЕ В этом гкздклк мы рассмотрим математические обозначения, используемые в книге Искусство програььмпрованпя, и выведем основные формулы, которые будут часто применяться.
Даже читатель, которого не интересуют сложные математические выкладки, должен понять смысл формул, чтобы иметь возможность пользоваться готовыми результатами. Математические обозначения используются в этой книге для двух основных целей: для описания частей алгоритма и для анализа его рабочих характеристик. В предыдущем разделе были приведены обозначения, используемые в описаниях алгоритмов; как вы уже знаете, они достаточно просты. Но для анализа алгоритмов нам нужны другие, специальные обозначения. Больпьинство рассматриваемых нами алгоритмов будет сопровождаться математическими подсчетами, определяющими ожидаемую скорость выполнения алгоритльа.
В этих вычислениях будут использоваться знания практически из всех разделов математики (для изложения всех используемых математических понятий потребовалась бы отдельная книга). Тем не менее для выполнения большинства вычислений используются знания математики на уровне школьного курса алгебры, поэтому читатель, знакомый с элементарными вычислениями, сможет разобраться почти во всех математических выкладках. В случаях, когда нам понадобятся более глубокие результаты из теории комплексного переменного, теории групп, теории чисел, теории вероятностей и т.
д., материал будет излагаться как можно проще либо будет дана ссылка на другие источники информации. Математические методы, используемые при анализе алгоритмов, имеют свои отличительные особенности. Например, нам довольно часто придется выполнять суммирование конечноь о числа рациональных чисел или решать рекуррентные уравнения. Подобные темы обычно очень поверхностно освещаются при чтении математических дисциплин, поэтому назначение следующих разделов — не только потренироваться в использовании обозначений, но и проиллюстрировать типы и методы вычислений, которые будут нам особенно необходимы. Важное замечание. Хотя в следующих разделах содержатся обширные сведения из различных областей математики, которые совершенно необходимы для изучения компьютерных алгоритмов, большинство читателей сначала не увидят особой связи между этим материалом и программированием (за исключением раздела 1.2.1, в котором такая связь очевидна).
Читатель, конечно, может сразу приступить к внимательному изучению след~'ющих разделов, приняв на веру слова автора о том, что данные темы действительно очень важны. Но я считаю, что главной побу-. дительной силой является интерес. Поэтому, наверное, лучше поступить иначе: сначала просьпа просмотреть этот раздел, а затем (после знакомства с применением указанных методов в следующих главах) снова вернуться к мему для более глубокого изучения. Ведь если во время первого чтения книги потратить слишком много времени на изучение данного математического материала, то можно никогда не дойти до вопросов программирования! Тем не менее каждый читатель должен ознакомиться хотя бы с общим содержанием этих разделов и дуже во время первого чтения попытаться выполнить несколько упражнений. Разделу 1.2.10 следует уделить особое внимание, так как зго отправная точка для большей части творе.
тического материала, излагаемого впоследствии. В разделе 1.3 происходит резкий переход от "чистой математики" к "чистому программированию." Более подробно последующий материал излагается в книге 11. СгаЛаш, П. КппСЛ, О. РатавЛп!)с, Сопсгете Магйетат!св, весопд ейВоп (Веад!пк, Мазза Адд!яоп-17ея!еу, 1994) (Грэхем Р., Кнут Д., Паташник О. Конкретная математика. — Ма Мир, 1998).
Впоследствии, ссылаясь на эту книгу, мы будем называть ее просто СМаГЛ. 1.2.1. Математическая индукция Пусть Р(п) — некоторое утверждение, касающееся целого числа п, например, "и умножить на (п + 3) — четное число" или "если п > 10, то 2" > пя". Предположим, нам нужно доказать, что утверждение Р(п) верно для всех положительных целых чисел и. Существует важный метод доказательства этого факта, который состоит в следующем.
а) Доказать, что Р(1) верно. Ь) Доказать, что "если Р(1), Р(2),..., Р(и) справедливы, то Р(п + 1) также справедливо"; это доказательство должно иметь силу для любого целого положительного и. В качестве примера рассмотрим следующие известные с древних времен равенства, которые многие исследователи открывали независимо друг от друга: 1г 1+3 = 2г, 1+3+5 = Зг, 1+3+5+7=4г, 1+3+5+7+9=5г. В общем виде эти равенства можно записать следующим образом: 1+ 3+ + (2и — 1) = пг. Давайте назовем это утверждение Р(п) и докажем, что оно верно для любого положительного п. Согласно методу, описанному выше, имеем следующее. а) "Р(1) верно, так как 1 = 1г." Ь) "Если все утверждения Р(1),...,Р(п) справедливы, то, в частности, верно и Р(п); следовательно, выполняется соотношение (2). Добавляя к обеим частям этого уравнения 2п + 1, получаем 1+ 3+ "° + (2п — 1) +(2п+1) = пг+ 2и+1= (и+1) .
Таким образом, утверждение Р(п + 1) также справедливо." Этот метод можно считать лгарипииической процедурой доказательства. В самом деле, следующий алгоритм дает доказательство утверждения Р(п) для любого целого положительного п в предположении, что пп. (а) и (Ь) уже выполнены. Алгоритм 1 (Построить доказательство). Для заданного целого положительного числа и этот алгоритм (рнс. 2) выдаст доказательство того, что утверждение Р(п) верно.
11. (Доказать Р(1).) Присвоить й 4- 1 и в соответствии с п. (а) выдать доказательство утверждения Р(1). 12. [к = п?) Если )с = и, закончить выполнение алгоритма; требуемое доказательство выдано. 13. (Доказать Р(Е+ 1).] Согласно п. (Ь) выдать доказательство того, что "Если все утверждения Р(1),..., Р(к) справедливы, то Р()с + 1) также справедливо". Вывести фразу ьМы уже доказали, что если утверждения Р(1),..., Р(к) верны, то верно и Р(И+1)". 14. (Увеличить й.) Увеличить к на 1 и перейти к шагу 12.
!2. к=из 13. Доказать Р(к+1) П. Доказать Р(1) 14. Увеличить к Да Рис. 2. Алгоритм1: математическая иидукция. Поскольку этот алгоритм выдает доказательство утверждения Р(п) для любого заданного и, метод доказательства, сформулированный в пп. (а) и (Ь), логически обоснован. Он называется доказательством методом математической индукции. Понятие математической индукции следует отличать от того, что в научной практике обычно называют индуктивным методом. Данный метод заключается в том, что ученый делает некоторые наблюдения и создает "по индукции" общую теорию или выдвигает гипотезу, объясняющую эти факты. Например, на основании пяти соотношений (1), приведенных выше, мы могли бы сформулировать соотношение (2). В этом смысле индукция — не более чем догадка или попытка объяснить.