Измерение, таким образом, не состоится по причине несоответствия уровня трудности теста уровню подготовленности. Из этих соображений легко вывести, что самый эффективный тест- это тест, точно соответствующий по трудности заданий уровню подготовленности испытуемых.
Эффективность тестов может зависеть и от формы. Нарушение тестовой формы всегда приводит к худшему выражению содержания и к худшему пониманию смысла задания испытуемыми.
Эффективность теста зависит также и от принципа подбора заданий. Если подбирать задания для измерения на всем диапазоне изменения трудности, то снижается точность измерения на отдельном участке. И наоборот, если стремится точно измерить знания испытуемых, например, среднего уровня подготовленности, то это потребует иметь больше заданий именно данного уровня трудности.
Поэтому тест не может быть эффективным вообще, на всем диапазоне подготовленности испытуемых. Он может быть более эффективен на одном уровне знаний и менее- на другом. Именно этот смысл вкладывается в понятие дифференциальной эффективности теста.
Соответствие уровня трудности теста уровню подготовленности испытуемых можно попытаться оценить показателем количества информации, получаемой в процессе измерения. Впервые этот показатель в практику тестирования ввел А. Bimbaum.
3.Качество тестовых заданий
3.1 Проверка качества тестовых заданий
Работа по превращению заданий в тестовой форме в тестовые задания требует опоры на теорию тестов.[3]
Во всех известных теориях тестирование рассматривается как процесс противоборства испытуемого с предлагаемым ему заданием. Испытуемого обычно обозначают символом
, а задание – символом , тогда результат испытания равен . Значение этого балла зависит от соотношения между уровнем знаний тестируемого и уровня трудности задания, от избранной единицы измерения и от заранее принятого соглашения (конвенции)- что считать "победой" испытуемого или задания, и допустима ли "ничья".В самом простейшем случае рассматриваются два исхода: победа или поражение. Если испытуемый справляется с заданием, ему за победу дается один балл. В таких случаях пишут
.= 1. Если не справляется, то дается ноль баллов.
В отличие от других педагогических контрольных материалов, тестовые задания проходят процесс специальной апробации , например, предварительно тестирование . Хотя разработка заданий начинается, как обычно, с общего педагогического замысла, она на этом не заканчивается. Далее начинаются попытки превращения заданий в тестовой форме в тестовые задания. Ключевым моментом является эмпирическая проверка тестовых свойств и применения статистических методов обработки данных.
Определение статистических характеристик является главным (после экспертной проверки содержания) средством диагностики тестовых свойств заданий, причем по любой учебной дисциплине.
3.2 Матрица результатов
Для проверки тестовых свойств заданий используется матрица результатов тестирования.
Матрицей называется компактная форма записи элементов, связанных некоторой общностью содержания.
Матрица тестовых результатов представляет результаты испытуемых по всем проверяемым заданиям. Если представить, для примера, что четверо испытуемых отвечают на три задания, и что за каждый правильный ответ даётся один балл, а за неправильный - ноль, то результат тестирования можно представить в матрице
.В этой матрице имеется четыре строки, что равняется числу испытуемых, и три столбца, что равно числу заданий. Использованы только две оценки, 1 и 0. В матрице любого размера эти оценки отражают результаты взаимодействия множества испытуемых со множеством заданий.
Тестовый балл первого испытуемого (первая строка) по третьему заданию (третий столбец,
) равен единице; тестовый балл третьего испытуемого по второму заданию ( ) равен нулю и т. д.Рассмотрим пример матрицы (таблица 1), в которой приведены результаты проверки знаний 13-ти испытуемых по 10-ти заданиям(
).№ | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 |
1 | 1 | 1 | 1 | 0 | 1 | 1 | 1 | 1 | 1 | 1 |
2 | 1 | 1 | 0 | 1 | 1 | 1 | 1 | 1 | 1 | 0 |
3 | 1 | 1 | 1 | 1 | 0 | 1 | 1 | 0 | 1 | 0 |
4 | 1 | 1 | 1 | 1 | 0 | 1 | 0 | 1 | 0 | 0 |
5 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 | 0 |
6 | 1 | 1 | 1 | 1 | 0 | 0 | 1 | 0 | 0 | 0 |
7 | 1 | 1 | 0 | 1 | 1 | 0 | 1 | 0 | 0 | 0 |
8 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 | 0 | 0 |
9 | 1 | 0 | 1 | 0 | 1 | 1 | 0 | 0 | 0 | 0 |
10 | 0 | 1 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 1 |
11 | 1 | 1 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
12 | 1 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
13 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
Таблица 1. Матрица результатов
В данной матрице приведены результаты тестирования группы из 13 человек, которым задавалось по 10 одинаковых заданий. Ноль соответствует ошибке в ответе, а единица - означает правильный ответ на вопрос. В дальнейшем с этой матрицей проведут некоторые вычисления, описанные в следующих пунктах.
3.3 Работа с матрицей результатов
Для проверки тестовых свойств заданий тестовой формы и превращения части из них в тестовые задания, с данными (таблица 1) делается ряд расчетов. Результаты представлены в таблице 2.
1 | 1 | 1 | 1 | 0 | 1 | 1 | 1 | 1 | 1 | 1 | 9 | 0,9 | 0,1 | 9 | 2,19722 |
2 | 1 | 1 | 0 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 8 | 0,8 | 0,2 | 4 | 1,38629 |
3 | 1 | 1 | 1 | 1 | 0 | 1 | 1 | 0 | 1 | 0 | 7 | 0,7 | 0,3 | 2,333 | 0,8473 |
4 | 1 | 1 | 1 | 1 | 0 | 1 | 0 | 1 | 0 | 0 | 6 | 0,6 | 0,4 | 1,5 | 0,40547 |
5 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 | 0 | 6 | 0,6 | 0,4 | 1,5 | 0,40547 |
6 | 1 | 1 | 1 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 5 | 0,5 | 0,5 | 1 | 0 |
7 | 1 | 1 | 0 | 1 | 1 | 0 | 1 | 0 | 0 | 0 | 5 | 0,5 | 0,5 | 1 | 0 |
8 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 | 0 | 0 | 5 | 0,5 | 0,5 | 1 | 0 |
9 | 1 | 0 | 1 | 0 | 1 | 1 | 0 | 0 | 0 | 0 | 4 | 0,4 | 0,6 | 0,667 | -0,4055 |
10 | 0 | 1 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 1 | 4 | 0,4 | 0,6 | 0,667 | -0,4055 |
11 | 1 | 1 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 3 | 0,3 | 0,7 | 0,429 | -0,8473 |
12 | 1 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 2 | 0,2 | 0,8 | 0,25 | -1,3863 |
13 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 1 | 0,1 | 0,9 | 0,111 | -2,1972 |
12 | 11 | 9 | 7 | 6 | 6 | 5 | 4 | 3 | 2 | 65 | |||||
1 | 2 | 4 | 6 | 7 | 7 | 8 | 9 | 10 | 11 | ||||||
0,923 | 0,846 | 0,692 | 0,538 | 0,462 | 0,462 | 0,385 | 0,308 | 0,231 | 0,154 | 5 | |||||
0,077 | 0,154 | 0,308 | 0,462 | 0,538 | 0,538 | 0,615 | 0,692 | 0,769 | 0,846 | ||||||
0,071 | 0,13 | 0,213 | 0,249 | 0,249 | 0,249 | 0,237 | 0,213 | 0,178 | 0,13 | ||||||
0,083 | 0,182 | 0,444 | 0,857 | 1,167 | 1,167 | 1,6 | 2,25 | 3,333 | 5,5 | ||||||
-2,48 | -1,7 | -0,81 | -0,15 | 0,154 | 0,154 | 0,47 | 0,811 | 1,204 | 1,705 |
Таблица 2. Матрица результатов с расчётами