входной предикат ;
выходной предикат ;
по одному утверждению для каждого цикла (эти утверждения
задаются для входной точки цикла и должныхарактеризовать семантику вычислений в
цикле).
Доказательство неистинности условий корректности свидетельствует о
неправильности программы, или ее спецификации, или программыи спецификации.
Несмотря на достаточную сложность процесса верификации программы и на то, что
даже успешно завершенная верификация не даетгарантий качества программы ( т.к.
ошибка может содержаться и в верификации ), применение методов аналитического
доказательства правильности очень полезно дляуточнения смысла разрабатываемой
программы, а знание этих методов благотворно сказывается на квалификации
программиста.
Наконец, динамический контроль программы - это проверка правильности программы
при ее выполнении на компьютере, т.е.тестирование.
ЦЕЛИ , ПРИНЦИПЫ И ЭТАПЫ ТЕСТИРОВАНИЯ .
Каждому программисту известно, сколько времени и сил уходит на отладку и
тестирование программ. Наэтот этап приходится около 50% общей стоимости
разработки программного обеспечения.
Но не каждый из разработчиков программных средств может верно определить цель
тестирования.Нередко можно услышать, что тестирование - это процесс выполнения
программы с целью обнаружения в ней ошибок. Но эта цель недостижима : ни какое
самоетщательное тестирование не дает гарантии, что программа не содержит ошибок.
Другое определение тестирования ( у Г. Майерса ) тестирование - это процесс
выполнения программы с целью обнаружения вней ошибок. Такое определение цели
стимулирует поиск ошибок в программах. Отсюда также ясно, что “удачным” тестом
является такой, на котором выполнениепрограммы завершилось с ошибкой. Напротив,
“неудачным можно назвать тест, не позволивший выявить ошибку в программе.
Определение Г. Майерса указывает на объективную трудность тестирования : это
деструктивный ( т.е. обратный созидательному )процесс. Поскольку
программирование - процесс конструктивный, ясно, что большинству разработчиков
программных средств сложно “переключиться” при тестировании созданной ими
продукции.
7
У Майерса сформулированы также основные принципы организации тестирования :
1) необходимой частью каждого теста должно являться описание
ожидаемых результатов работы программы, чтобыможно было быстро выяснить наличие
или отсутствие ошибки в ней ;
2) следует по возможности избегать тестирования программы ее
автором, т.к.кроме уже указанной объективной сложности тестирования для
программистов здесь присутствует и тот фактор, что обнаружение недостатков в
своей деятельностипротиворечит человеческой психологии ( однако отладка
программы эффективнее всего выполняется именно автором программы ) ;
3) по тем же соображениям организация - разработчик
программногообеспечения не должна “единолично ” его тестировать ( должны
существовать организации, специализирующиеся на тестировании программных средств
) ;
4) должны являться правилом доскональное изучение результатов
каждого теста, чтобы не пропуститьмалозаметную на поверхностный взгляд ошибку в
программе ;
5) необходимо тщательно подбирать тест не только для
правильных ( предусмотренных ) входных данных, но и для
неправильных(непредусмотренных) ;
6) при анализе результатов кождого теста необходимо
проверять, не делает ли программа того, что она недолжна делать ;
7) следует сохранять использованные тесты (для повышения
эффективности повторного тестированияпрограммы после ее модификации или
установки у заказчика) ;
8) тестирования не должно планироваться исходя из
предположения, что в программе не будутобнаружены ошибки (в частности, следует
выделять для тестирования достаточные временные и материальные ресурсы) ;
9) следует учитывать так называемый “принцип скопления
ошибок” : вероятность наличия не обнаруженныхошибок в некоторой части программы
прямо пропорциональна числу ошибок, уже обнаруженных в этой части;
10) следует всегда помнить , что тестирование -
творческий процесс, а не относиться к немукак к рутинному занятию.
Существует два основных вида тестирования : функциональное и структурное. При
функциональномтестировании программа рассматривается как “черный ящик” (то есть
ее текст не используется). Происходит проверка соответствия поведения программы
ее внешнейспецификации. Возможно ли при этом полное тестирование программы ?
Очевидно , что критерием полнотытестирования в этом случае являлся бы перебор
всех возможных значений входных данных, что невыполнимо .
8
Поскольку исчерпывающее функциональное тестирование невозможно, речь может идти
о разработки методов,позволяющих подбирать тесты не “вслепую”, а с большой
вероятностью обнаружения ошибок в программе.
При структурном тестировании программа рассматривается как “белый ящик” (т.е.
ее текст открыт для пользования ).Происходит проверка логики программы. Полным
тестированием в этом случае будет такое, которое приведет к перебору всех
возможных путей на графе передачуправления программы (ее управляющем графе).
Даже для средних по сложности программ числом таких путей может достигать
десятков тысяч. Если ограничитьсяперебором только линейных не зависимых путей,
то и в этом случае исчерпывающее структурное тестирование практически
невозможно, т. к. неясно, как подбиратьтесты , чтобы обеспечить “покрытие” всех
таких путей. Поэтому при структурном тестировании необходимо использовать другие
критерии его полноты, позволяющиедостаточно просто контролировать их выполнение,
но не дающие гарантии полной проверки логики программы.
Но даже если предположить, что удалось достичь полного структурного
тестированиянекоторой программы, в ней тем не менее могут содержаться ошибки,
т.к.
1) программа может не соответствовать своей внешней
спецификации, что в частности,может привести к тому, что в ее управляющем графе
окажутся пропущенными некоторые необходимые пути ;
2) не будут обнаружены ошибки, появление которых зависит от
обрабатываемых данных (т.е. на одних исходныхданных программа работает
правильно, а на других - с ошибкой).
Таким образом, ни структурное, ни функциональное тестирование не может быть
исчерпывающим. Рассмотрим подробнее основные этапы тестирования
программныхкомплексов.
В тестирование многомодульных программных комплексов можно выделить четыре
этапа:
1) тестирование отдельных модулей ;
2) совместное тестирование модулей ;
3) тестирование функций программного комплекса (т.е. поиск
различий между разработанной программой и ее внешней спецификацией ) ;
4) тестирование всего комплекса в целом (т.е. поиск несоответствия
созданного программного продукта сформулированнымранее целям проектирования,
отраженным обычно в техническом задании).
На первых двух этапах используются прежде всего методы структурного
тестирования, т.к.
на последующих этапах тестирования эти методы
использоватьсложнее из-за больших размеров проверяемого программного обеспечения
;
последующие этапы тестирования ориентированы на обнаружение
ошибок различного типа, которые необязательно связаны с логикой программы.
При тестировании как отдельных модулей, так и их комплексов должны быть решены
двезадачи :
1) построение эффективного множества тестов ;
2) выбор способа комбинирования (сборки) модулей при
создании трестируемого варианта программы .
СТРУКТУРНОЕ ТЕСТИРОВАНИЕ .
Поскольку исчерпывающее структурное тестирование невозможно, необходимо выбрать
такиекритерии его полноты, которые допускали бы их простую проверку и облегчали
бы целенаправленный подбор тестов.
Наиболее слабым из критериев полноты структурного тестирования является
требование хотябы однократного выполнения (покрытия) каждого оператора
программы.
Более сильным критерием является так называемый критерий С1 : каждая ветвь
алгоритма(каждый переход) должна быть пройдена (выполнена) хотя бы один раз. Для
большинства языков программирования покрытие переходов обеспечивает и
покрытиеоператоров, но , например, для программ на языке ПЛ/1 дополнительно к
покрытию всех ветвей требуется всех дополнительных точек входа в процедуру
(задаваемыхоператорами ENTRY) и всех ON - единиц.
Использование критерия покрытия условий может вызвать подбор тестов,
обеспечивающих переход впрограмме, который пропускается при использовании
критерия С1 (например, в программе на языке Паскаль, использующей конструкцию
цикла WHILE х AND y DO... , применение критерия покрытия условий требует
проверки обоих вариантов выхода из цикла : NOT x и NOT y ).
С другой стороны покрытие условий может не обеспечивать покрытия всех
переходов. Например, конструкция IF A AND BTHEN... требует по критерию покрытия
условий двух тестов (например, A=true, B=false и A=false, B=true ), при
которыхможет не выполняться оператор, расположенный в then - ветви оператора
if.
Практически единственным средством, предоставляемым современными системами
программирования, является возможность определения частоты выполнения
различныхоператоров программы (ее профилизации). Но с помощью этого инструмента
поддержки тестирования можно проверить выполнение только слабейшего из
критериевполноты - покрытие всех операторов.
Правда, с помощью этого же инструмента можно проверить и выполнение критерия С1.
Но дляэтого предварительно текст программы должен быть преобразован таким
образом, чтобы все конструкции условного выбора (IF и CASE
10