45968 (665274), страница 2
Текст из файла (страница 2)
4. формирование полного компьютерного теста;
5. тестовый эксперимент;
6. выбор эффективного теста;
7. анализ, корректировка и доводка теста до вида эксплуатации.
На рис.1.1 приводится схема создания теста. Множество тестовых заданий
(тестовоепространство), согласно принципу исчерпывающего тестирования, вообще
говоря, может быть бесконечным. Однако очевидно, что существует конечное
подмножество тестовыхзаданий, использование которых позволяет с большой
вероятной точностью оценить соответствие личностной модели знаний экспертным
моделям знаний (полный тест).Важнейшим элементом в подготовке тестов выступает
класс
эквивалентности тестовых заданий.
Для создания тестов по предметной области существуют и разрабатываются
специальные инструментальныепрограммы-оболочки, позволяющие
вырабатывать компьютерные тесты путём формирования базы данных из набора
тестовых заданий.
В большинстве случаев тестовые оболочки (ТО) построены на принципах
однозначногораспознавания ответов тестируемого: выбор, шаблонный ответ,
конструирование ответа.
Другим важным свойством ТО должно быть наличие возможности передачи результатов
и протоколатестирования какому-либо статистическому пакету для дальнейшей
обработки, что в некоторых существующих ТО представлено неполно.[5]
1.3. Критерии качества тестов
Научно обоснованный тест – это метод, соответствующий установленным стандартам
надежности ивалидности.
Традиционно выделяются два основных критерия качества тестов. Первый из них
связан спонятием точности измерений и известен, главным, образом, в виде
понятия надежности теста.
Качество педагогического контроля в вузе зависит не только от надежности
используемых методов, но и от их валидности. Валидность теста — его
пригодностьдля достижения поставленной цели: пригодность по содержанию,
пригодность к применению в конкретных обстоятельствах, пригодность по
какому-либо критериюили, что то же самое, характеристика его способности изучать
то, что он должен изучать по замыслу авторов.[1]
1.3.1. Надежность тестов.
Существует несколько практических способов определения надежности теста.
Самыйбезупречный со статистической точки зрения метод определения надежности –
это коррелирование двух параллельных тестов, созданных для измерения одного и
тогоже свойства.
Суть корреляции состоит в том, что из полученной каждым студентом суммы баллов
вычитаетсяровно то число, которое может быть угадано в соответствии с теорией
вероятностей. Корреляция осуществляется с помощью соотношения:
,
где - скорректированный на догадку тестовый балл испытуемого;
- число правильных ответов, полученных испытуемым в тесте;
- число неправильных ответов;
- число готовыхответов в заданиях теста.
Эта формула применяется к заданиям с одинаковым числом готовых ответов.
Интуитивно наиболее понятный и простой способ определения надежности теста –
это двукратное, по меньшей мере, использованиеодного и того же теста в той же
самой группе студентов. Результаты обоих опросов анализируются с целью поиска
корреляции между ними. Данный метод имеет своидостоинства и недостатки.
Достоинства заключаются в сравнительной простоте его использования, ясности
основных посылок, лежащих в определении надежности,простоте расчетов. К
недостаткам можно отнести неопределенность в выборе временного интервала
между первым и вторым опросами. Этот интервал может колебаться отнескольких
минут до нескольких дней, месяцев и даже лет.
Надежность тестов достаточно просто оценить в гомогенных тестах. Однако, оценка
надежности заметно осложняется в гетерогенных тестах.Осложнение вызвано главным
образом некоррелируемостью (или слабой коррелируемостью) гомогенных тестов между
собой. Соответственно ответыстудентов на задания одного гомогенного теста, как
правило, редко коррелируют с ответами на задания другого. Отсутствие же
корреляции мешает всякой надежде намало-мальски заметную надежность теста в
целом.
Все методы оценки надежности теста основаны на разных теоретических положениях,
но все они призваныответить на один и тот же вопрос – насколько точны
проведенные измерения? Само понятие "точность" в каждом случае оценки
приобретает несколько отличающийсясмысл.
Имеются, по меньшей мере, два источника погрешностей, мешающие говорить об
абсолютной надежности теста. Первый источниксвязан с выборкой испытуемых. Вряд
ли можно найти две такие выборки, в которых тестовый опрос был бы одинаково
надежным. Скорее всего, значения варьировалибы от выборки к выборке в некоторых
пределах в соответствии с законом нормального распределения. Уже одно это
призывает к осторожности в интерпретациикоэффициента надежности. Вместо
выражения «надежность теста» мы вынуждены использовать другое, более точное –
"полученная в данной выборке оценканадежности теста".
Второй источник погрешностей – в формулировании и отборе заданий. Если мы
примем небезосновательноепредположение о детерминации (в статистическом смысле)
или, иначе, о зависимости конкретных результатов измеренияот истинных,
присущих данным испытуемым в идеальных условиях, то коэффициент надежности
удобно интерпретировать как коэффициент детерминации.[1]
1.3.2. Валидность тестов.
в отличие от надежности, определение которой сводится к выбору одной из
множестварасчетных схем, обоснование валидности теста представляет собой задачу
методологического характера. Как и обоснование любой деятельности,
процессвалидизации начинается с уточнения цели и конкретных задач
педагогического контроля. Если ставится цель проверить знания студентов по
какой-либодисциплине и при этом не важно, каким методом это надо будет сделать,
то легко понять, что эта цель может быть достигнута посредством использования
зачетов,экзаменов, курсовых и дипломных работ. Эти и другие методы неравноценны
с точки зрения объективности и качества оценки, и потому вопрос о
валидностилегко переводится в прагматическую плоскость оценки сравнительной
пригодности того или иного метода длядостижения поставленной цели.
Тест может быть валидным, если помимо прочих требований средние результаты
соответствуютбольшей части студентов, а сами данные распределяются по
нормальному закону. Если это условие не выполняется, то тест считается
невалидным с точки зрениясоответствия стандартам распределения. Именно отсюда
возникает стремление разработчиков тестов добиваться нормальности распределения
за счет варьированиячисла легких и трудных заданий.
Если в тесте нет достаточного числа легких и трудных заданий, то возникает
вопрос о его сбалансированности по трудности, тоесть обычно в тесте должно быть
больше заданий средней трудности и несколько меньше откровенно легких или
трудных заданий. В процессе создания теста мератрудности регулярно проверяется
на случайной выборке из того контингента, для которого тест предназначается. В
сбалансированном тесте легко добиваютсянормальности распределения. Дальнейшее
совершенствование идет по пути замены ряда заданий, ответы на которые нарушают
нормальность распределения. Трудностьзаданий влияет на надежность и валидность.
Если тест очень трудный, то студенты чаще вынуждены догадываться – какой ответ
правильный. Но чем чаще ониприбегают к догадке, тем больше распределение
результатов теста приближается к случайному распределению. Поэтому пригодность
теста для оценки всей массыстудентов будет тем ниже, чем труднее тест. Такое же
влияние на надежность, – но по другой причине – оказывает легкий тест, в котором
студенты, наоборот,догадываются редко, их ответы устойчивы, но почти нет
различий между испытуемыми.
Валидность теста существенно зависит от его различающей способности. Если
десять человекв группе получают «отлично», такая оценка не позволяет различать,
кто из этих десяти лучше, а кто несколько хуже знает предмет. Различающая
способность темвыше, чем меньше одинаковых оценок студенты по нему получают.
Следовательно, тем больше вариация результатов и более чувствительна шкала к
индивидуальнымразличиям. Поэтому повышению различающей способности теста (РСТ)
в стадии его создания уделяется большое внимание. При этом применяются несколько
методов:
1.Регулирование по времени тестирования; чем больше стандартное отклонение, тем
больше различающая способность теста.
2. Оптимальный подбор заданий. В принципе РСТ, а вместе с ней и надежность
теста, возрастают с увеличением доли заданийсредней трудности в тесте. Однако в
тесте обязательно должна быть некотораячасть легких и трудных вопросов, точное
количество которых зависит от конкретныхобстоятельств.
3. Точность измерений. Если, например, время реакции измерять у испытуемых с
точностью до одной десятой, сотой, тысячной итак далее секунды, то получим
различную различающую способность теста.
Валидность теста связана, помимо прочего, с понятиями «гомогенный и
гетерогенный тест». Если тест создан с целью проверкизнаний по одной учебной
дисциплине и все вопросы теста связаны именно с ней, то такой тест считается
гомогенным, а значит и валидным для этой частной цели.Поэтому в более чистом
виде гомогенный тест представляет собой тест для изучения знаний какому-то
частному разделу программы.
Для комплексной оценки знаний студентов может быть составлен тест, состоящий
извопросов по нескольким дисциплинам. Это – пример гетерогенного теста, который
состоит из группы гомогенных тестов. Соответственно такой тест являетсявалидным
именно для комплексной оценки.
Валидность теста зависит и от так называемой длины теста. Под длиной теста
понимаетсяколичество заданий, входящих в тест. Существуют тесты очень короткие,
состоящие из 7 – 15 заданий, и очень длинные, состоящие из более чем пятисот
заданий.
Если тест очень длинный, то ухудшается мотивация и внимание у испытуемых, а
это снижает надежность и валидность. Практика показывает, что еслитестирование
занимает более полутора часов, то при этом возникают организационные проблемы,
испытуемые с неохотой соглашаются отвечать на вопросы теста. С другойстороны, с
точки зрения теории, чем длиннее тест, тем он надежнее. Возникающее противоречие
между теорией и практикой решается компромиссом в ту или инуюсторону, в
зависимости от конкретного случая.
Валидность теста зависит еще и от расположения заданий в тесте. Существует
различнаяпрактика расположения заданий:
1. По степени возрастания трудности. Такое расположение характерно в основном
для гомогенных тестов. Для гетерогенныхтестов сохранение этого принципа
выражается в так называемой «спиральной» форме расположения заданий.
2. В случайном порядке. Этот способ расположения заданий широко применяется в
психологических тестах и в процессекомпьютерного тестирования.
3. В специальном порядке, в соответствии с какой-либо теорией, соображениями
переноса навыков, концентрации внимания идругих.
4. В порядке, сочетающем специальный и случайный подбор. Обычно это делается
в гетерогенныхтестах.
Существуют несколько подходов к валидизации тестов, различающихся в
зависимости от используемых критериев. В педагогическойпрактике наибольшее
распространение в последние годы получили такие тесты, валидность которых не
требуется доказывать эмпирически: в таких тестах критериемих пригодности
является само содержание теста, одобренное опытными преподавателями-экспертами.
При этом у преподавателя должна быть уверенность втом, что:
задания теста находятся в соответствии с программой;
задания теста охватывают не один какой-либо раздел, а всю программу курса;
высока вероятность того, что студент, успешно ответивший на задания теста,
знаетпредмет в соответствии с полученной оценкой.
Перечисленные три пункта объединяются общей идеей – содержит ли тест задания,
пригодные дляоценки знаний по конкретной дисциплине? Если в результате
статистической проверки выявляется, что ответы на вопросы теста вполне позволяют
обоснованносудить о знаниях студентов, то считается, что тест содержит валидные
вопросы; он валиден по содержанию. Требование валидности по содержанию
предъявляется ккаждому вопросу теста, мерой валидности является коэффициент
корреляции ответов по заданию с критерием. При создании теста в качестве
критерия обычно берутсяоценки, выставляемые студентам группой