111226 (Автоматизированная система распределения мест и оценок качества олимпиадных заданий), страница 5

Рис. 2. Окно распределения мест.

Левее этой панели расположена область построения диаграмм. При первом открытии окна в этой области построений нет. Для того чтобы построить распределение по какому-либо из параметров нужно воспользоваться всплывающим меню, которое появляется при нажатии правой кнопки мыши на области построения диаграммы. Это меню представлено на рис. 3:

Рис. 3. Всплывающее меню построения распределений.

Первая опция строит распределение по ή₁, вторая – по ή₂, третья – по ή₃, четвертая – по суммарному баллу. Следующие три опции имеют дополнительные функции: первая меняет цвет диаграммы, вторая меняет цвет фона диаграммы, а третья печатает диаграмму на принтере.

Теперь рассмотрим, как осуществляется оценка качества заданий в контексте данной автоматизированной системы. Этот процесс происходит при нажатии либо кнопки инструментальной панели «Сервисы» «Оценка качества», либо пункта главного меню «Сервис» «Оценка качества». Локальная БД должна быть открыта перед совершением этих действий.

Стоит сразу заметить одну важную особенность: никакой дополнительной конфигурации программы для данной операции нет. Эта особенность связана с тем, что оценка уровня качества заданий в программе ведется на основе значений трех параметров, которые полностью описаны в §5 Главы 2. Все данные, которые необходимы для расчета этих параметров, берутся из того протокола олимпиады, который вводит оператор.

Окно, отвечающее за процесс распределения мест, представлено ниже на рис. 4. Как видно из рисунка, данное окно состоит из четырех частей. Первая часть окна – диаграмма «Сбалансированность комплекта». Эта диаграмма фактически представляет собой шкалу сложности задач. Круглые точки красного цвета на шкале представляют собой положения на шкале сложности блоков задач (на рис. 5 представлен комплект из 3 блоков). Зеленая линия, проходящая по области диаграммы, представляет собой биссектрису главного координатного угла шкалы сложности.

Рис. 4. Окно «Оценка уровня качества заданий».

Как следует из теории, эта линия необходима для оценки сбалансированности блоков задач или комплекта в целом. В системе можно построить данную диаграмму для всех заданий олимпиады. Для этого сконфигурировать систему на работу с одним блоком задач.

Вторая часть окна – это диаграмма распределения участников по суммарному баллу. Эта диаграмма необходима для сравнения получившегося экспериментального распределения с идеальным. Как известно, идеальное распределение представляет собой «колокол».

Третья часть окна – это диаграмма надежности реализации сложности. Она необходима для визуализации процесса расчета этого параметра.

Четвертая часть окна – это информационная панель, на которой отображается текущая конфигурация системы, а также численные значения каждого параметра (если эти значения есть).

Видно, что система не требует вмешательства пользователя при оценке уровня качества заданий. Она только демонстрирует полученный результат. Никаких дополнительных возможностей данное окно не предоставляет.

Выше представлено полное руководство по работе с разработанной системой. Таким образом, на этом можно завершить. В следующей главе вниманию читателей будет представлено описание результатов работы системы с реальными наборами данных.

Глава 4. Результаты, полученные в ходе исследования.

§1. Результаты, полученные на основе олимпиад.

В комплекте с программой поставляется БД, которая представляет собой протокол областной олимпиады по физике в 11 классах. Данная БД размещается в файле DBOLYMP1.DB. Общее количество записей в этой БД равно 32. Ниже будут представлены результаты, для этого набора, которые были получены при помощи разработанной системы. Непосредственно сами фамилии участников можно посмотреть при помощи программы, а мы опишем только результаты по двум операциям: распределение участников по местам и оценка уровня качества заданий.

Распределение по местам.

Ниже, на рис. 1, представлено окно распределения мест для этой БД. Конфигурация системы для этой БД следующая: количество блоков задач – 3, максимальный балл за задачу – 6, установлен второй порядок сортировки. На рисунке видно, что данный набор является потенциально слабым, так как значения поля «Параметр1» (ή₁) почти все отрицательны. Поэтому, можно сортировать по второму методу сортировки (сортировка для слабого коллектива). Очевидно, что победителем олимпиады является Панкратов С. А., который набрал максимальный суммарный балл (18). При желании, можно отсортировать участников по одному из трех параметров или автоматически.

Рис. 1. Распределение по местам для данной БД.

Ниже места участникам присуждаются исходя из положения их результатов в таблице. На следующем рисунке представлены распределения участников по 4 параметрам (ή₁, ή₂, ή₃, S).

Рис. 2. Распределения по параметрам.

Из этого рисунка видно, что до идеального вида этим распределениям далеко. Полученный вид распределений указывает на то, что задания, которые предлагались в качестве базового блока, были слишком простыми (об этом говорит и сам протокол), а задания, которые предлагались в качестве квалификационного блока, оказались практически нерешаемыми. Можно сделать вывод о том, что, скорее всего, комплект заданий, предложенный этим участникам, сбалансированным не будет. Верно ли это предположение или нет, можно узнать лишь в результатах оценки качества этих заданий.

Оценка уровня качества заданий.

После того, как распределение участников по местам закончено, можно попытаться оценить качество заданий. Окно оценки качества приведено ниже на рис. 3:

Рис. 3. Оценка качества заданий.

Диаграмма «Сбалансированность комплекта» показывает нам, что наше предположение оказалось верным. Данный комплект не является сбалансированным. Однако два других параметра указывают на достаточно хорошие показатели. Видно, что составителям удалось реализовать большую сложность 2 блока по сравнению с 1, а также большую сложность 3 блока по сравнению с 1, на 100%. Большая же сложность 3 блока по сравнению со 2 реализована лишь на 68,75%, что тоже считается хорошим результатом. Коэффициент мест для данного коллектива равен 0,71875. Это тоже достаточно хороший результат.

Описание в целом.

В целом об олимпиаде можно сказать следующее: составителям удалось реализовать основные требования к проведению такого мероприятия как олимпиада, однако участники оказались достаточно слабыми для такого класса заданий, которые предлагались им для решения.

§2. Результаты, полученные на основе педагогической практики.

Кроме БД, которая описана выше в §1, в комплекте поставляется еще одна локальная БД (содержится в файле DBOLYMP5.DB). Она сформирована мной на педагогической практике и включает результаты учащихся моего класса по нескольким работам. Для демонстрации мультифункциональности системы решено было использовать данную БД для демонстрации. При проверке использовалась следующая конфигурация системы: количество блоков задач – 3, использовался смешанный метод сортировки, максимальный балл за задания – 5.

Распределение по местам.

Окно распределения мест для данного набора данных представлено ниже на рис. 1. Из этого рисунка видно, что лидером по успеваемости по физике в 11Б классе является Нечаева Е., которая набрала самый большой суммарный балл. Этот вывод подтверждается классным журналом. Распределения по четырем параметрам представлены на рис. 2. Из вида этих распределений можно сделать вывод о том, что предложенный мною комплект задач не является сбалансированным.

Рис. 1. Распределение мест для этой БД.

Более того, если обратить внимание на распределение по суммарному баллу, то видно, что «колокол» имеет максимум не в зоне среднестатистических результатов (так должно быть в идеале), а в зоне, приближенной к максимально возможному баллу.

Рис. 2. Распределения по четырем параметрам.

Это говорит о том, что задания, предложенные на самостоятельных работах, оказались очень простыми для учащихся и, поэтому, большая их часть набрала высокий балл. Вид других распределений только подтверждает это обстоятельство.

Оценка уровня качества.

В результате оценки качества для этой БД были получены следующие результаты. Диаграмма сбалансированности комплекта представлена на рис. 3. Она подтверждает наше предположение о несбалансированности комплекта. Точки, каждая из которых характеризует отдельный блок, находятся практически «друг на друге». Для сбалансированности комплекта это неприемлемо.

Рис. 3. Диаграмма сбалансированности комплекта.

Следующая диаграмма, необходимая для оценки качества, это диаграмма надежности реализации сложности. Она представлена на рис. 4. При помощи данной диаграммы получены следующие численные результаты. Надежность реализации неравенств:

• x₁≥x₂ – 50%;

• x₂≥x₃ – 64,29%;

• x₁≥x₃ – 64,29%.

Эти значения говорят о том, что в целом удалось реализовать разную сложность для разных задач. Однако сами по себе эти показатели имеют достаточно маленькие значения.

Рис. 4. Диаграмма надежности реализации сложности.

И последний параметр, это коэффициент мест. Для данной БД его значение составляет 0,93. Это говорит о том, что 93% всех участников занимают одно заслуженное место, и только 7% делят свое место с другими. Такой результат считается достаточно высоким.

Описание в целом.

Все параметры, описанные выше, позволяют сделать несколько выводов касательно данной БД. Во-первых, параметры качества заданий говорят о достаточно высоком классе подбора заданий, однако этот подбор не явился в результате сбалансированным, а это большой минус. Во-вторых, необходимо подбирать (для этого коллектива) задачи с большим уровнем сложности. Это может помочь в выявлении скрытых талантов учеников.

§3. Результаты, полученные на основе ведомостей студентов.

Самым интересным из проделанной работы явились результаты, полученные на основе зимней сессии студентов физико-математического факультета нашего университета. В качестве тестируемых были взяты результаты экзаменов трех групп по трем предметам. Естественно, для чистоты эксперимента было необходимо полное различие в фактической сложности предметов. Поэтому, были выбраны три следующих: возрастная психология, общая физика и математический анализ. Причем последние два предмета были взяты у двух групп отделения «Физика». Сдавались эти экзамены в зимнюю сессию одним и тем же преподавателям.

Не секрет, что в студенческих кругах психология считается легким экзаменом, общая физика – средним, а математический анализ – сложным. Однако такое деление предметов во многом зависит от преподавателя. Например, если преподаватель принимает экзамен по математическому анализу очень мягко, то, очевидно, такой экзамен автоматически становится простым, а если экзамен принимается очень жестко, то он становится сложным.

Кроме этого сложность предмета зависит еще и от его фактической сути. Например, тот же математический анализ является точной наукой, а это накладывает определенный отпечаток на его сложность. Психология же во многом является очевидным предметом (это многим только кажется). Эти факты склоняют его сложность в более простую сторону. Физика же есть эмпирическая наука. Это значит, что практически все ее законы можно проверить на опыте. Это обстоятельство вызывает определенный интерес у студентов, а это способствует лучшему пониманию предмета.

Из этих соображений вытекает суть той идеи, которую мы используем для описания конкретно этих результатов. А идея проста: если есть набор оценок по каким-либо предметам, то, построив распределение по этим оценкам, можно оценить жесткость экзаменаторов по конкретным дисциплинам.

Первая БД (содержится в файле DBOLYMP2.DB) представляет собой протокол экзамена по математическому анализу у групп 15 и 16 ФМФ. В результате обработки данного протокола было получено следующее распределение по суммарному баллу: