Оптимизация процесса тестирования по С с использованием эвристического анализа тестового покрытия кода (1187409)
Текст из файла
Министерство образования и науки Российской ФедерацииФедеральное государственное автономное образовательное учреждениевысшего профессионального образования«Московский физико-технический институт(государственный университет)»Факультет управления и прикладной математикиКафедра теоретической и прикладной информатикиОПТИМИЗАЦИЯ ПРОЦЕССА ТЕСТИРОВАНИЯ ПО СИСПОЛЬЗОВАНИЕМ ЭВРИСТИЧЕСКОГО АНАЛИЗАТЕСТОВОГО ПОКРЫТИЯ КОДАВыпускная квалификационная работа(магистерская работа)Направление подготовки: 03.04.01 Прикладные математика и физикаВыполнил:Смирнов Илья АлексеевичНаучный руководитель:к.ф-м.н.
Коротаев К.С.Рецензент:старший программист Орлов Д.Л.Москва - 2017Содержание0. Введение0.1 Классификация тестирования0.2 Тестирование как этап разработки5671. Подробнее о юнит-тестировании91.1 Преимущества91.1.1. Упрощение процесса разработки91.1.2. Документирование91.1.3. Стандартизация интерфейсов91.1.4.
Рефакторинг91.1.5. Разработка через тестирование (TDD)101.2. Недостатки101.2.1. Громоздкость101.2.2. Зависимость от культуры разработки101.2.3. Низкая полезность в отсутствие других этапов тестирования 111.2.4. Устаревание и неверная работа объектов-заглушек111.3. Вывод112. Покрытие кода2.1. Метрики2.1.1. Построчное покрытие (Statement Coverage)2.1.2. Покрытие ветвей (Decision Coverage)2.1.3. Покрытие по условиям (Condition Coverage)2.1.4.
Покрытие по веткам и условиям (C/D Coverage)2.1.5. Покрытие по всем условиям (Multiple Condition Coverage)2.1.6. MC/DC (Modified Condition/Decision Coverage)12121213141414143. Проблема длительности тестового цикла3.1. Описание проблемы3.2. Варианты решения3.2.1. Работа с кодовой базой3.2.2. Оптимизация тестов3.3. Причина выбора пути оптимизации1515151516164. Автоматизация процесса тестирования185.
Исследуемый метод оптимизации1925.1. Постановка задачи5.2. Абстрактный метод5.2.1. Провал теста5.2.2. Типы изменений кода5.2.3. Типы изменений тестов5.3. Алгоритм выбора “дорогих” тестов5.3.1. Постановка задачи5.3.2. Решение5.3.3. Метод динамического программирования5.3.4. Реализация метода динамического программирования5.4.
Алгоритм для работы с изменениями5.4.1. Определение затронутых тестов1919202021212121222424256. Имплементация6.1. Требования к имплементации6.2. Работа с изменениями в кодовой базе6.3. Выбор утилиты6.4. Обзор решений для анализа покрытия кода6.4.1. Testwell CTC++6.4.2. Froglogic Coco6.4.3. Bullseye Covegare6.4.4. GCT6.4.5. GCOV6.4.6. Выбор утилиты6.4.7. Интерфейс для выбранной утилиты6.5.
Хранение данных о тестах и покрытии6.6. Сопоставление покрытия и изменений6.7. Вычисление разницы между областями покрытия6.8. Интерфейс для работы с тестирующей системой6.9. Инициализация и поддержание актуальности своих данных6.10. Полная схема утилиты6.10.1. Транслятор6.10.2. Обработчик изменений6.10.3. Алгоритм выбора тестов6.11. Рекомендации по использованию и ограничения262626272828292930303032323233333435353536367. Экономическая эффективность3838. Прикладные расчеты и результаты8.1 Проект8.2 Расчеты8.3 Применение оптимизации8.4 Результаты39394142439. Вывод4510.
Список литературы4640. ВведениеТестирование программного обеспечения - процесс анализа программногосредства и сопутствующей документации с целью выявления дефектов иповышения качества продукта. Этап тестирования является неотъемлемой[1]частью цикла жизни программного обеспечения.В момент зарождения индустрии разработки это был предельноформализованный процесс, больше похожий на отладку и математическоедоказательство правильности кода. С развитием индустрии разработкипрограммного обеспечения и усложнением технологического процесса,появлением комплексных методов решения задач, роль тестированиявозросла.
Вместо одной из финальных стадия создания проектатестирование стало применяться на протяжении всего цикла разработки. Вдальнейшем были созданы гибкие методики тестирования, разнообразныеоптимизации и была углублена интеграция с процессом разработки. Вданный момент в индустрии имеется огромный интерес к тестированию,[2]как таковому, так и к методам улучшения качества программ в целом.В прикладном понимании тестирование определяется как процессопределения качества программного обеспечения в соответствии состандартом ГОСТ Р ИСО/МЭК 25010-2015 как степень удовлетворениясистемой заявленных и подразумеваемых потребностей различныхзаинтересованных сторон.
[20]Модель качества продукта по данному стандарту обозначается в видевосьми критериев:● Функциональная пригодность● Уровень производительности● Совместимость● Удобство пользования5● Надежность● Защищенность● Сопровождаемость● ПереносимостьТакже можно определить тестирование как процесс, имеющий в качествевходных параметров тестируемый объект и набор кейсов. Кейс - это пара,определяющая соответствие входных параметров уже тестируемогообъекта и ожидаемого от него результата.0.1 Классификация тестированияСуществует множество признаков, по которым данный процесс можноразделить на классификации. Рассмотрим их подробнее.Во-первых, это разделение по объекту тестирования. В данном случаеупорделаетсянапроверкусоответствиязаявленныхфункцийдействительности.
К данному типу тестирования относится тестированиепроизводительности,безопасности,функциональноеюзабилити-тестирование.Обычно,проверкиданныеипроизводятсяотдельным персоналом, не имеющим отношения к непосредственномунаписанию кода, и производятся уже после формального завершенияразработки части продукта.[7]Во-вторых - по степени знания системы. Классическое разделение случаевбелого-черногоящика.Впервомслучаепроизводитсяпроверкавнутренней структуры продукта путем анализа логики работы программы.Во втором - производится проверка поведения продукта с точки зрениявнешнего мира, при котором подразумевается отсутствие знаний о егоустройстве.[8]В-третьих, по степени изолированности системы. В данной классификацииработа с продуктом ведется с точки зрения разбиения его на логические6компоненты.
Тестирование идет от малого к большему - сначалапроизводитсяпроверкаизолированныхчастей,втомчислесиспользованием имитации других модулей (mocking) - модульное илиюнит-тестирование. Далееидетинтеграционноетестирование-протестированные по отдельности компоненты объединяются в группы ианализируется их совместимость и надежность. Системное тестированиеявляется финальным этапом, в ходе которого проверяется соответствие[3]системы исходным требованиям.Также существует множество других критериев и видов тестирования,порожденных высокой скоростью развития индустрии и постоянноизменяющимисяпредставлениямиосовременномиоптимальномпроцессе разработки.0.2 Тестирование как этап разработкиТестирование - единственный способ предотвращения негативныхпоследствий некорректной работы продукта до того, как он попадет кконечному потребителю.
Более того, внутренние затраты на проверкукачества программ почти всегда покрывают потенциальные риски.Однако, зачастую, в силу ограниченности ресурсов, разработчиквынужден балансировать между количеством и качеством - котороенапрямую зависит от этапа тестирования - реализованных задач.Повышенное уделение внимания тестированию может, в свою очередь,очень сильно тормозить процесс непосредственного написания кода.
Вслучае неоптимального использования тестовых методик, пусть даже иработающих полностью верно, затраты на анализ внесенных измененийимеют тенденцию превосходить затраты на их имплементацию в разы.Интеграция автоматических систем запуска тестов и анализа кодапозволяет не допускать попадания в кодовую базу некорректных7коммитов, однако приводит к ситуациям, когда разработчик вынужденждать часами, пока несколько строк кода попадут куда нужно. Не говоряуже о всевозможных неполадках, которые могут возникнуть в процессесамого тестирования. Не смотря на эти проблемы, отказ от тестированияявляется куда большим риском.
Именно по-этому прилагаются серьезныеусилия по оптимизации и стандартизации тестирования. Одной из такихоптимизаций и посвящена данная работа.81. Подробнее о юнит-тестированииВисследованииосновнойупорбудетсделаннаоптимизациююнит-тестирования. Идея метода состоит в том, чтобы покрыть всенетривиальные участки кода тестами, описывающими всевозможныекейсы.Обычно,написаниемтестовзанимаетсянепосредственноразработчик, работающий над тестируемой частью.1.1 Преимущества1.1.1. Упрощение процесса разработкиУже существующие на момент внесения изменений в кодовую базу тестыфиксируют корректное поведение программы, что позволяет избежатьрегрессов - появления ошибок в ранее работавших корректно частях.Добавлениетестов,посвященныхконкретнымнетривиальнымисправлениям, также позволяет быстрее понять, какого типа проблемыбыли вызваны неудачными изменениями.1.1.2. ДокументированиеКаждый тест, будучи набором входных данных и соответствующих имрезультатов, определяет правила, по которым работает тестируемый код.При написании тестов поощряется стремление к простоте и возможностибыть прочитанным “сверху-вниз”.1.1.3.
Характеристики
Тип файла PDF
PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.
Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.