39
Университет «Туран»
Общественное объединение «Институт Развития Человека»
Качество образования в Республике Казахстан:
технология переориентации на результаты
Алматы - Астана, 2004 г.
ББК 74
К 75 Рекомендовано Ученым советом университета «Туран»
Рецензент: Тазабеков К.А., к.э.н., профессор
Под общей редакцией Алиева У.Ж., к.э.н., профессора
Коханец А.И..
К 75 Качество образования в Республике Казахстан: технология
переориентации на результаты. - Алматы: Университет «Туран», 2004. - 48 с.
ISBN 9965-9430-0-1
Предлагаемая работа посвящена практическим проблемам реального осуществления реформы образования в соответствии с «Концепцией развития образования в Республике Казахстан до 2015 года». Основное внимание уделено созданию сквозных механизмов позитивного влияния и стимулирования основных субъектов образования в направлении переориентации текущей деятельности на достижение высоких конечных результатов.
Рассматриваются конкретные алгоритмы практических действий, призванные обеспечить необходимое качество учебных программ, процесса обучения и тестирования его итогов.
Оглавление
Введение: оценка ситуации. 4
1. Качество учебных программ. 9
1.1. Типовая программа. 9
1.2. Рабочая программа. 15
2. Качество контроля результатов. 17
2.1. Качество тестирования. Общие положения. 17
2.2. Тестирование теоретического курса. 22
2.3. Тестирование практического курса. 23
2.4. Требования к содержанию и форме теста. 24
2.5. Процедуры создания и проверки теста. 29
3. Качество обучения. 30
3.1. Внешнее стимулирование. Квалификация преподавателя. 30
3.2. Организация учебного материала. Программированное
обучение. 31
3.3. Готовность учащихся к самообучению. 32
Приложение 33
Заключение: резюме 40
Введение: краткая оценка ситуации
Осуществляемая в настоящее время Министерством образования и науки РК линия на реформирование всей системы образования, в смысле полной его переориентации с формального процесса на действительные результаты, представляется единственно правильной и конструктивной. По нашему мнению, удачно найдена исключительно подходящая для этой цели форма организации образования (кредитная система) и точно выделен главный опорный момент (источник) развития - сочетание максимально возможной свободы действий субъектов образования и минимальных ограничений, накладываемых на их деятельность требованием необходимых гарантий для общества в отношении конечных результатов.
Эта политика реально учитывает два центральных момента, характеризующих реальную ситуацию в образовании:
- учебный процесс на всех уровнях и во всех формах образования и
повышения квалификации называется профессиональным обучением, но фактически строится как формальное информирование обучающихся - с неопределенным декларированием целей и практически полным отсутствием обратной связи и ответственности за результаты (организует обучение и преподает кто угодно, что хочет, как хочет и как умеет; сам себя оценивает, и т.п.);
- любые документы о получении образования и повышении
квалификации, как фиксированная форма представления соответствующих результатов (аттестаты, медали, дипломы, сертификаты, свидетельства, удостоверения, ученые звания и степени), фактически потеряли свой исходный смысл и назначение, поскольку не позволяют отличать профессионала от дилетанта, а специалиста от совершенно неподготовленного к профессиональной деятельности человека.
В таких условиях не следует удивляться низким результатам усвоения учебных программ, выявляемым в ходе тестирования выпускников общеобразовательных школ и студентов вузов, которое проводилось или еще будет проводиться по линии Министерства образования и науки. Более того, не следует считать их и чем-то позорным, чем-то таким, чего следует стыдиться, скрывать или искать виновных. Они отражают лишь непривычную обнаженность объективной оценки, фактически являясь повсеместным и нормальным состоянием нашего образования. Это реальность, которую нужно воспринимать спокойно и конструктивно, как актуальную практическую задачу.
Информирование, как преобладающий метод обучения, ставит обучающихся в такие условия (вал неструктурированной информации), при которых они сами должны систематизировать, отбирать и усваивать знания, поддерживать у себя высокий уровень мотивации. С такой самостоятельной работой могут справиться только люди с высоким и хорошо сформированным теоретическим интеллектом, доля которых в обществе всегда мала (так и должно быть!), что фактически и выявляет процесс тестирования.
Мы полагаем, что в данных обстоятельствах практически любой хорошо составленный тест измеряет скорее не профессиональную подготовку обучающихся, а уровень их общего развития (интеллекта). Иначе говоря, существующий процесс обучения настолько мало влияет на результаты, что распределение балльных оценок должно быть близким к нормальному (случайному) распределению населения по уровню интеллекта (5 % - высокий уровень, 15 % - выше среднего; 40 % - средний; 15 % - ниже среднего; 5 % - низкий). При этом нижняя граница балльной оценки «удовлетворительно» - проходит обычно где-то между средним и высоким уровнем интеллекта. То есть самостоятельно с учебной программой как-то справляется примерно 20 % обучающихся.
Если же где-то тестирование выявляет результаты, заметно отличающиеся от нормального распределения, это, скорее всего, означает низкое качество тестов и/или процедуры тестирования.
Предполагается, что при высокой эффективности образования распределение оценок тестирования полностью теряет вид нормального, поскольку практически каждый обучающийся достигает уровня «хорошо» или «отлично», и лишь значительно меньшая часть учится на - «удовлетворительно» или отсеивается по разным причинам.
Отсюда следует, что предстоит масштабная работа невероятной трудности. Всех сложностей не берусь перечислить даже приблизительно. Остановлюсь лишь на двух факторах определяющей значимости.
Первое препятствие психологического свойства - преодоление на всех уровнях системы образования инерции привычного, расслабленного и в чем-то беззаботного образа действий. Не затрагивая всего многообразия и глубины этой проблемы, отмечу только самое важное условие - необходимость механизма всеохватывающего, последовательного, неуклонного и достаточно сильного внешнего давления на всех участников системы образования (организаторов, преподавателей, обучающихся), который выполнял бы функцию непрерывного их стимулирования в сторону переориентации повседневной деятельности на конкретные конечные результаты.
Это главная (в отношении образования) функция государства в лице Министерства образования и науки Республики Казахстан и его подразделений на местах, которая уже реализуется вводимой системой независимого тестирования, аккредитации и национального рейтинга учебных заведений. Такую же систему внутри каждого учреждения образования и структур повышения квалификации предстоит сформировать их организаторам, о чем и пойдет речь ниже.
Указанный выше принцип «сочетания возможной свободы и необходимых ограничений» применительно к министерству означает, на наш взгляд, его освобождение от всех функций субъекта образования - непосредственного управления учреждениями системы образования (аттестация и повышение квалификации педагогических кадров, контроль за содержанием и качеством учебного процесса, воспитательной и любой другой текущей деятельности) и сосредоточение на функциях внешнего влияния (лицензирование; аккредитация; контроль качества результатов образования; финансов государственных учебных заведений, а также затрат и отдачи по грантам и кредитам; государственное финансирование продвинутых образовательных проектов в негосударственной сфере, обеспечивающих перспективы среднесрочного и долгосрочного развития образования в Республике Казахстан; централизованное финансирование разработок, профессиональной экспертизы и апробации типовых учебных программ, учебников, учебно-методических пособий для массового применения в системе образования; широкое привлечение общественных структур к процессу контроля за качеством реального образования), а также координации действий других государственных структур по вопросам академического образования и повышения квалификации.
Внутри учреждений образования при переходе на кредитную систему организации обучения эта задача решается за счет введения: жесткого текущего и рубежного контроля, независимого от преподавателей (служба Регистратора) промежуточного и итогового контроля результатов усвоения каждого учебного курса в форме проходного балла; непрерывного мониторинга успеваемости; введения индивидуального рейтинга обучающихся; а также за счет приведения в соответствие оплаты труда (статуса и т.п.) преподавателей и организаторов с конкретными результатами их деятельности (успеваемость, качество учебных программ и УМК, качество обучения, индивидуальный рейтинг и др.).
Самой серьезной и первоочередной проблемой в этой работе (наряду с необходимостью единых и однозначных критериев, показателей и процедур оценки качества образования) представляется создание научно обоснованной системы тестов и процедур их применения, обеспечивающих объективные и сопоставимые (одинаковые) результаты при внутреннем и внешнем тестировании.
Второе препятствие, неразрывно связанное с первым, - преодоление массового непрофессионализма кадров всех уровней в сфере образования в смысле подчинения всей деятельности достижению реального конечного результата и умения действительно его обеспечить.
Никто в сфере академического образования и повышения квалификации не имеет серьезного опыта систематической работы, ориентированной на результаты. Все практически одинаково не подготовлены к ней. Всем нужно научиться этому в процессе текущей деятельности. И для этого есть только один реальный путь: нужно признать это перед самим собой и перед другими; нужно заново осмысливать каждый шаг своей деятельности; нужно помогать в этом окружающим, создавая при необходимости местные механизмы побуждения (стимулирования) и принуждения; делать новый шаг и опять осмысливать результаты; и так далее, повторяя этот цикл снова и снова.
Иначе говоря, необходим массовый всеобуч: для организаторов - в отношении умения создавать и поддерживать необходимые механизмы; для преподавателей - в умении гарантировать результаты обучения; для обучающихся - в умении эффективно, самостоятельно и мотивированно учиться. При этом в ситуации острой конкуренции, успех каждого конкретного учреждения образования будет определяться умением его руководителей реализовать эффективный инновационный менеджмент в условиях нарастания жесткого давления на кадры и механизма регламентирования (операционального) их деятельности (сохранить и привлечь наиболее квалифицированных специалистов, превратить их в сплоченную и эффективную команду).
Заметим здесь, что государственные структуры, оказывая функции давления на субъекты общего и специального образования, выступают в своеобразной роли «Социального заказчика». Таким заказчиком, преимущественно в сфере академического образования, является министерство образования и науки, а в сфере повышения профессиональной квалификации (послевузовское образование) - отраслевые министерства и ведомства (в том числе, - Агентство по государственной службе). Так что все, что уже изложено и будет изложено ниже, в равной мере относится и к тому, и к другому. Быть может, к сфере действующей системы повышения квалификации это относится даже в большей степени, поскольку здесь нет ни ясного разграничения сфер и функций, ни какой-то координации действий между указанными субъектами, и ясно только одно, - невозможно (и бесполезно) реформировать академическое образование, оставив без изменения существующую систему переподготовки и повышения квалификации кадров, поскольку именно в практической квалификации и проявляются подлинные конечные результаты любого образования.
Все, что написано ниже, представляет собой такую попытку переосмысления практической работы по обеспечению качества образования на опыте внедрения кредитной системы и ее организации в университете «Туран - Астана» в сентябре - декабре 2003 года.
Процесс образования, ориентированного на результаты, рассматривается здесь как общеобразовательная деятельность в ее системно-функциональном смысле. Она, как и любая другая, хорошо сформированная деятельность любого субъекта, имеет следующую структуру: действия по выбору цели и формы представления конечного результата деятельности; набор конкретных действий, реализующих эту цель; а также алгоритм, объединяющий их в одно целое (общая технология).
Понятие «хорошо сформированная» применяется здесь в двух смыслах одновременно: во-первых, оно означает полностью и адекватно освоенную деятельность, доведенную до целостного и автоматизированного (без сознательного контроля) выполнения; во-вторых, - оно означает отбор и формирование каждого из составляющих ее действий по критерию содействия максимальной эффективности деятельности в целом. При этом каждое действие может быть, в свою очередь, представлено, проанализировано и сформировано как относительно самостоятельная целостная деятельность (подсистема); а сама исходная деятельность, - как действие в рамках более общей деятельности (надсистеме).
Далее будем рассматривать образовательную деятельность в более узком смысле - как «учебную деятельность», поскольку именно ее непосредственные результаты имеются в виду под термином «качество образования».
Итак, цель осуществляемой реформы образования представлена как переориентация всех его сфер и уровней с процесса информирования обучающихся (формирования у них общих представлений о конкретной области знаний и профессиональной деятельности) на конечные результаты в виде профессионального освоения конкретных знаний, умений и навыков для активного применения в жизни и практической работе по специальности.
Как практическую задачу ее можно в сжатом виде представить формулой - критерием: «Качество образования - это качество учебных программ, качество обучения, качество результатов обучения и его тестирования (контроля)». По этим критериям должна оцениваться деятельность всех образовательных учреждений - основных субъектов образования, в рамках механизма конструктивной обратной связи с интересами общества.
Как отмечалось выше, эти понятия необходимо переосмыслить, адекватно сформулировать и «хорошо сформировать».
1. Качество учебных программ (бакалавриат)
В настоящее время реальное содержание образования определяется рабочими программами (в большинстве своем, низкого качества), которые ежегодно и формально пишутся преподавателями каждого учебного заведения к началу учебного года, с некоторой и весьма редкой оглядкой на типовую программу (зачастую далекую от совершенства и служащую лишь приблизительным ориентиром). Нереально было бы ожидать и требовать от них быстрого и массового роста профессиональной квалификации, а значит и нужного повышения качества таких программ только за счет административного ресурса.
Проблему качества рабочих программ предлагаю решать за счет повышения статуса и качества типовых программ. Каждая такая программа содержала бы необходимый и достаточный минимум качественного содержания по учебному курсу. Она входила бы (обязательным дублированием) в соответствующие рабочие программы на местах в качестве единого для всех и неизменного ядра. В республике нетрудно подобрать группы квалифицированных специалистов, и за два - три года вся армия преподавателей работала бы по готовым программам высокого качества, постепенно подтягиваясь до их уровня и в классе преподавания.
Одновременно была бы решена и проблема соответствия итогов внутреннего контроля результатов в каждом учебном заведении и независимого внешнего тестирования, - за счет единого банка единиц содержания (минимума, подлежащего усвоению и внешнему тестированию).
1.1. Типовая учебная программа по конкретному учебному курсу (в новом понимании) - представляет собой единый для всех учебных заведений Республики Казахстан стандартный перечень теоретических и практических знаний, практических умений и навыков (профессиональная компетентность), который должен быть обязательно освоен каждым, кто изучает данный курс, - как необходимый и достаточный минимум подготовки специалиста.
Она должна иметь варианты: для основного курса по специальности; для вспомогательного курса по смежным специальностям. Каждый вариант должен иметь особую структуру и редакцию содержания в зависимости от того, является ли курс вводным для родственных дисциплин, обобщающим (заключающим) ряд уже освоенных дисциплин, или же самостоятельной (одиночной) дисциплиной.
Ее содержание должно соответствовать:
образовательному стандарту Министерства образования и науки Республики Казахстан;
квалификационным требованиям реальной работы по конкретной специальности;
требованиям самостоятельного и непрерывного образования
(магистратура, докторантура, переквалификация).
Поскольку типовая программа является эталонной, она должна задавать единые цели, критерии, показатели оценки и процедуры контроля результатов обучения (тестирования). Ее содержание в обязательном порядке должно включать батарею тестов (комбинированный тест) для внутреннего (учебное заведение) и внешнего (министерство образования и науки) контроля результатов (в виду особой важности качества тестирования в начале реформы, оно рассматривается ниже как отдельный критерий).
Требование эталонности означает также однозначность выделения и толкования каждой единицы содержания. Отсюда следует обязательность четкого и обоснованного его структурирования, конкретизация целей курса до элементарных единиц, подлежащих освоению (и контролю), при полном исключении любых деклараций и неопределенности.
В противном случае невозможно обеспечить объективный мониторинг продвижения, контроль и сопоставимость результатов, без которых вся реформа ставится под сомнение.
Проблема «творчества и свободы» решается за счет двух моментов: во-первых, типовая программа задает лишь необходимый минимум содержания, так что образовательное учреждение имеет право по своему усмотрению расширить его, или включить другие требования в своих рабочих программах в сторону их повышения относительно стандарта типовой программы; во-вторых, - за ним остается полная свобода относительно процесса и способов обучения, кроме обязательного требования обеспечить заданный минимум результатов.
Заключительный уровень - освоенный процесс свободного и творческого применения знания, а также поиска нового знания. Он характеризуется накоплением опыта и навыков поиска, осмысленного применения, свободного и самостоятельного переноса знания на другие масштабы и сферы деятельности, становится органичной частью личности. Это личностно-активный (личностно-деятельностный) уровень знания.
Содержанием теоретического курса является теоретическое знание, его усвоение и применение.
Усвоить теоретический курс - это значит:
иметь систему представлений (теоретическую, системно-
функциональную модель какой-то части реального мира, изучаемой в данном курсе);
уметь применять ее на практике по образцу, под контролем сознания (уровень умения);
уметь применять ее свободно, освоение навыка переноса в сфере своих профессиональных обязанностей (уровень навыка, эвристический);
уметь применять ее творчески, свободный перенос на другие
сферы и проблемы, самостоятельный поиск нового знания
(уровень творчества и исследования).
Кстати, указанная структура может служить основанием для дифференциации тестовых оценок по уровню усвоения (первая и вторая позиция - «удовлетворительно»; первая и третья - оценка «хорошо»; первая - четвертая - «отлично»).
С учетом изложенного, можно сформулировать ступенчатый принцип дробления (последовательность усложнения и детализации в процессе обучения) содержания теоретического курса в учебной программе: от обобщенного и мало структурированного представления системы знания в форме целей, задач и основных понятий, к максимальной детализации содержания в темах курса, излагающих целостную систему знания, и с последующим возвратом к обобщенному и хорошо структурированному знанию в темах прикладного характера.
В частности, при подготовке типовой программы предлагаю трехступенчатое дробление содержания предмета: цели, задачи (темы), единицы содержания. При этом:
цели курса излагаются в одном - двух предложениях как
обобщенное перечисление основных знаний и видов деятельности, которые должны быть освоены при изучении курса;
задачи (темы) курса - формулируются как конкретизация каждой
цели в форме однозначного перечня знаний, умений и навыков, подлежащих поэтапному освоению (одна задача - название и содержание одной темы - занятий одной недели или одного занятия);
единицы содержания - последняя детализация, при которой
знания и осваиваемые виды деятельности (действия) темы формулируются в виде элементарных (не делимых далее), существенных и однородных единиц знания (процесс выделения единиц для осваиваемой деятельности будет изложен ниже), каждая из которых должна быть единицей усвоения и единицей тестирования при контроле результатов обучения. Ее содержание - ответ на вопрос «Что это такое и какова его сущность?» Оно состоит из трех элементов: определения понятия, его структурно-логической схемы; указания назначения (функции, связи); примера функционирования или практического применения (демонстрация осмысления).
Не должно быть пропущено ничего существенного по каждой
теме и курсу в целом - теоретические знания, умения и навыки; профессиональные знания, умения, навыки (компетенция). Перечень единиц содержания по одной теме формулируется на одном уровне обобщенности, при равном объеме понятий.
Программа должна содержать только существенные положения и факты. В любой ее части должны быть исключены декларативные формулировки, частные и второстепенные аспекты, относящиеся к пояснениям, описаниям контекста, неоднородной детализации и иллюстрации существенных сообщений.
Существенными идеями (положениями, сообщениями) считаются структурные элементы главной идеи, конкретизирующие назначение курса или темы (целостные смысловые единицы того, что должно быть усвоено).
Существенными фактами считаются сообщения, содержащие конкретные данные о действительном, практическом основании существенных идей (цифры и другие сведения объективного характера, представляющие собой необходимый и достаточный минимум обоснования, доказательства или опровержения основных положений).
Структурирование практического курса имеет свою специфику в дополнение к изложенному выше. Его содержанием является практическое знание и освоение конкретной профессиональной деятельности (компетенции). Структура этого знания как модели осваиваемой деятельности: осознание целей деятельности как конкретной формы представления результатов; представление о каждом действии - его назначении и способах выполнения; представление об алгоритме деятельности как целостной и фиксированной последовательности действий.
Усвоить практический курс, - это значит:
сформировать практические знания, модель осваиваемой деятельности;
освоить выполнение каждого отдельного действия под
контролем сознания, а затем - автоматизировать его;
освоить алгоритм осваиваемой деятельности под контролем
сознания (уровень умения), а затем - автоматизировать его применение (уровень навыка).
Соответственно, указанное структурирование позволяет построить дифференцированную шкалу оценки по уровням освоения деятельности:
оценка «удовлетворительно» - при наличии указанных выше практических
знаний, освоении каждого отдельного действия на уровне навыка, освоении целостной деятельности на уровне умения;
оценка «хорошо» - при наличии практических знаний, освоении каждого
отдельного действия и целостной деятельности на уровне навыка;
оценка «отлично» - при наличии практических знаний, освоении каждого
отдельного действия и целостной деятельности на уровне навыка, а также свободного переноса в другие сферы и на другие масштабы деятельности.
Дробление при структурировании практического курса: тема - название деятельности, которую нужно освоить; единицы содержания темы: практические знания о деятельности (понятие и назначение деятельности, форма представления результатов, действия, алгоритм их объединения в целое); освоение и автоматизация отдельных действий, освоение и автоматизация целостной деятельности, перенос деятельности на другие масштабы и другие сферы жизнедеятельности.
Типовая программа обновляется не чаще одного раза в четыре года. Обновленная или вновь созданная программа должна проходить многостороннюю, квалифицированную, независимую и анонимную (относительно авторов) экспертизу на соответствие указанным выше требованиям. Эксперты подбираются из числа квалифицированных преподавателей-методистов, имеющих опыт преподавания учебного курса проходящего экспертизу, а также разработки учебных программ, тестов и методических материалов к нему. Привлекаемая к экспертизе группа специалистов проходит предварительное обучение с целью согласования предмета, правил и формы ее проведения.
1.2. Рабочая программа по учебному курсу является основным документом, организующим процесс реального обучения.
Ее вариант для обучающихся (путеводитель, силлабус) повторяет содержание типовой программы и дополнительно содержит по каждой теме: перечень конкретных заданий по организации аудиторной и внеаудиторной работы по усвоению каждой единицы содержания; постраничные ссылки на источники необходимой информации; вопросы для самоконтроля; критерии, оценочные шкалы и показатели, процедуры текущего, рубежного и итогового контроля усвоения курса. Кроме того, указываются пререквизиты курса (обязательный входной контроль), сведения о преподавателе, график и место проведения занятий и консультаций, а также его требования к обучающимся в отношении поведения и этики отношений.
Вариант для преподавателя дополняется наличием учебно-методического комплекса (УМК). Комплекс содержит детально проработанные информационные и методические материалы, используемые на аудиторных и других занятиях (демонстрационные, раздаточные, инструкции и тексты к групповым занятиям и заданиям СРС, конспекты, электронные учебники, методические советы и пособия, тексты и темы контрольных и курсовых работ, тесты входного, текущего, рубежного и итогового контроля в электронном и бланковом исполнении, а также ключи к ним, носители информации и адреса ее дополнительных источников, и т.п.). УМК обновляется ежегодно.
Обновленная или вновь созданная рабочая программа (прежде всего тесты и задания по СРС) должна проходить квалифицированное и анонимное рецензирование нескольких специалистов по данному предмету или независимую экспертизу (не менее трех заключений экспертов, с последующим согласованием).
В порядке завершения раздела по качеству учебных программ - небольшое пожелание в отношении обучения по программам магистратуры и докторантуры. - Не следует спешить с запуском этого «конвейера», отложив это хотя бы на 3-4 года, чтобы накопить опыт профессиональной организации обучения в системе подготовки бакалавров. Потому что, как уже отмечалось в самом начале этого текста, таких специалистов сегодня готовить некому, и получится привычная профанация в виде массового производства дилетантов-магистров и т.п.
В соответствии с концепцией развития образования Республики Казахстан до 2015 года, назначение указанных форм послевузовского образования - подготовка научных и научно-педагогических кадров. Имеется в виду, что со временем право преподавания в вузе будет иметь только специалист со степенью магистра или доктора. Однако научно-педагогическая подготовка вузовских кадров - дело для нас абсолютно новое. С обучением методологии научного исследования справиться будет не так сложно, а вот научной педагогики, как профессионально освоенной деятельности, в наших вузах не существует; ее еще только предстоит сформировать, в чем и состоит нынешний кризис образования.
2. 2. Качество результатов обучения
При оценке качества результатов образования (рейтинга), достигнутых конкретным учебным заведением, предлагаю применять три обобщенных критерия, выражающих степень действительной эффективности его деятельности: обеспечиваемый уровень академической подготовки выпускников (показатели: средний балл успеваемости выпускников; доводимость от приема до выпуска); сравнительный уровень востребованности выпускников, как признание работодателями обеспечения высокой и гарантированной квалификации (показатели: динамика трудоустройства и уровня начальной заработной платы выпускников); престижность учебного заведения, как форма его общественного признания (показатели: конкурсность приема - сравнительный средний балл принятых на первый курс и его динамика; относительная численность набора на первый курс, в том числе - по грантам и кредитам и их динамика).
Главный из указанных критериев - уровень академической подготовки - определяется качеством усвоения каждого и всей совокупности учебных курсов, составляющих содержание подготовки специалиста - бакалавра. Необходимость объективного выявления и оценки качества усвоения учебного материала в учебном процессе предъявляет особые требования к созданию и применению тестов.
2.1. Качество тестирования. Общие положения.
Назначение тестирования - обеспечить объективный контроль (текущий, рубежный, промежуточный, итоговый) усвоения теоретических и профессиональных (компетенция) знаний, умений и навыков по каждому учебному курсу и специальности в целом. Эта цель и соответствующие задачи решаются содержанием конкретных тестов, способами их внутренней организации и формами применения.
Любое тестирование знаний и поведения человека - есть процесс измерений в психологии, который относится к науке «психометрии». В соответствии с ее правилами при создании и применении любого теста «как инструмента измерения» должны тщательно соблюдаться требования «валидности», «точности» и «надежности». Любой тест нельзя допускать к применению без основательной проверки и доказательства его соответствия указанным требованиям. Несоблюдение этого условия создает иллюзию «легкости» создания теста и самого тестирования, и приводит к тому, что применение такого теста вводит в заблуждение относительно измеряемых результатов и их сопоставимости; поскольку очень часто на самом деле измеряется не то, что намеревались измерить; а если и измеряется, - то с недостаточной и неизвестной степенью достоверности результатов и значимости различий (без чего тестирование не имеет смысла). Это особенно актуально при переходе на кредитную систему образования, для которой сопоставимость и возможность суммирования результатов тестирования имеет решающее значение.
Поэтому при создании теста (на каждом этапе и по каждому его элементу) обязательны: независимое рецензирование, экспертная оценка, практическая проверка валидности и трудности теста (и каждого из его вопросов-заданий), точности и надежности измерений с обработкой результатов методами математической статистики.
Валидность теста (тестового задания, вопроса) - это ответ на вопросы «Что должен измерять и что на самом деле измеряет тест (отдельное его задание, вопрос и ответ)? Не произошло ли незаметное искажение или даже подмена заданной цели за счет неудачной формулировки вопросов, ответов, инструкции, отсутствия равных и одинаковых условий проведения, и т.п.?"
Точность теста - это оценка вероятности ошибки в измерении, степени достоверности получаемых оценок; вероятностная оценка значимости различий между тестовыми оценками. Только она дает возможность обоснованной дифференциации оценок. Например, что считать существенным различием и оценивать в 3 - 4 - 5 баллов, а какие различия, наоборот, считать несущественными и оценивать их одинаково.
Надежность теста - это заданная степень совпадения оценок по одному тесту при повторном, независимом тестировании одних и тех же людей разными людьми и в разное время; при сопоставлении получаемых оценок по данному тесту с оценками по другим тестам, измеряющим то же самое.
Трудность теста - это его способность обоснованно распределять тестируемых по различающимся уровням успешности (в самом простом случае - это оценки «удовлетворительно», «хорошо» и «отлично») за счет меняющейся сложности заданий.
Можно выделить три класса ошибок при создании тестов:
Ошибки моделирования объекта тестирования закладываются на стадии подготовки учебной программы. Они возникают как следствие произвольного толкования содержания программ, обусловливающего несопоставимость внутреннего (преподаватель, вуз) и внешнего (вуз, министерство) контроля качества образования.
Сама программа может не отвечать требованиям государственного стандарта подготовки специалиста; единицы ее содержания могут быть представлены в декларативной и неоднозначной формулировке; тестовые задания могут не совпадать со смыслом и логикой содержания программы и т.д.
Ошибки организации теста и процесса тестирования возникают в процессе создания и применения теста. Тестовые задания могут не совпадать со смыслом и логикой содержания программы, они могут измерять не то, что должны; произвольная процедура тестирования может влиять на результаты, искажая их и т.д. и т.п.
Ошибки исследования теста и толкования результатов - следствие произвольного толкования процедур создания и применения теста, а также интерпретации получаемых с его помощью результатов. Это обусловлено отсутствием соответствующих стандартов и доказательной проверки их соблюдения.
При непосредственном создании теста наиболее распространены пять ситуаций, обусловливающих его скрытую или явную непригодность (первичное выявление неадекватности теста достигается независимым рецензированием и экспертизой):
Формулируя тестовый вопрос-задание с несколькими ответами,
составитель нередко проявляет непроизвольную тенденцию отбирать и включать в вопросы информацию, требующую простого воспроизведения единичных, а часто и второстепенных фактов (понятия, названия, цифры, имена, даты и пр.), а также более привычную и лучше им самим освоенную. В результате тест работает на простое воспроизведение значительно упрощенного и искаженного содержания учебного курса, серьезно завышая оценки.
Это обусловлено высокой сложностью работы, которая на первый взгляд представляется легкой, но на деле требует высокой квалификации, большого труда и сосредоточенности. В самом деле, простым по форме вопросом-заданием нужно выявить глубину понимания и усвоения конкретного элемента учебной программы; одновременно нужно подобрать простой, но емкий и точный правильный ответ; при этом нужно сформулировать еще несколько неверных ответов, каждый из которых был бы очень правдоподобным. Кроме того, нужно сделать эти задания разной степени трудности и предусмотреть простую оценку ее различия. К тому же тест содержит большое количество таких вопросов-заданий.
Эту ошибку легко выявить процедурой обратной сверки: по формулировкам тестовых вопросов-заданий составляется список фактически тестируемых единиц, который сверяется с единицами содержания каждой темы учебной программы. Обнаруженное несоответствие устраняется по критерию совпадения единиц содержания и единиц тестирования.
Формулировка вопроса может быть такой, что содержит
подсказку (наводящий вопрос), - это позволяет дать правильный ответ тому, кто знает материал ниже заданных требований.
Формулировка вопроса и ответов может быть недостаточно
определенной, неоднозначной (допускающей различные толкования), так что неверный ответ может выбрать и тот, кто хорошо усвоил материал.
Варианты ответов могут быть подобраны так, что, даже не зная
материала, можно логически отсеять часть или все неверные ответы (например, при вариантах ответов, явно относящихся к другой теме или сфере знаний).
Чрезмерно ограниченное число ответов на один вопрос в
закрытом варианте теста (выбор ответа из готового их списка).
При этом имеет место высокая вероятность угадать правильный ответ, совершенно не зная материала.
Остановимся на этом подробнее, поскольку это относится к важной проблеме обеспечения точности теста.
Например, при дихотомическом выборе ответа (да-нет, правильно-неправильно) вероятность угадать верный ответ составляет 50%. То есть, если тест состоит из 100 вопросов, то можно утверждать, что число правильно угаданных ответов будет около 50. Такой тест можно применить только при условии, что достаточно усвоить половину материала; но и тогда, для удовлетворительной оценки (типа «зачтено») нужно требовать 100 правильных ответов (иначе нет гарантии действительного усвоения половины курса).
Исходя из сказанного, минимально допустимое число ответов на один закрытый ответ равно «пяти». Вероятность случайного угадывания правильного ответа здесь равна 0,20 (20%), а точность измерения - 0,80. Хотя она ниже, чем общепринятая в математической статистике (0,95), но вполне приемлема для большинства тестов на измерение знаний с недифференцированной оценкой типа «усвоено - не усвоено». Однако, при необходимости введения различных уровней усвоения такое построение теста непригодно.
Для иллюстрации этого утверждения попытаемся построить соответствующую шкалу оценок. При требовании знать 51 % материала для оценки удовлетворительно, обучающийся должен набрать по тесту 63,75 % правильных ответов (это гарантирует нас от случайного угадывания 20% ответов). 60 % усвоения требует 75 % правильных ответов.
75 % усвоения - 94 % верных ответов, а 80 % - 100 % точных ответов. Очевидно, что такой тест не обладает достаточной различительной способностью для высокого уровня усвоения («отлично» получат те, кто усвоил менее 80 % курса, или вообще - никто, поскольку шкала не позволяет различать высокие оценки). К этому следует добавить, что уровень усвоения курса в 51 % можно признать удовлетворительным только в тех случаях, когда учебный курс призван сформировать лишь общие представления в какой-то области знания. В сфере освоения профессиональных знаний и умений, а также при освоении новой деятельности эта «планка» должна быть поднята значительно выше (невозможно принять удовлетворительным освоение наполовину количества основных грамматических форм или минимального словаря изучаемого языка; или - половину действий, составляющих какую-то целостную осваиваемую деятельность).
Из изложенного следует, что точность теста должна быть выше, чем 0,80. Иначе говоря, нужен выбор не из пяти, а из 20 и более ответов (точность 0,95 и выше). Такой тест трудно составить, с ним неудобно работать тем, кто проходит тестирование (невозможно удержать в памяти и легко обозревать возможные ответы, выбор ответа требует очень много времени и усилий, что приводит к ошибкам).
Выход состоит в том, чтобы каждая тестируемая единица была представлена несколькими однородными вопросами (батареей) с выбором из пяти ответов на каждый вопрос. Так, при двух вопросах на тестируемую единицу, - два правильных ответа обеспечивают точность оценки 0,96. При трех вопросах на тестируемую единицу: два правильных ответа гарантируют точность 0,88, а три - 0,992. При четырех вопросах: два верных ответа дают точность 0,76; три - 0,968. При пяти вопросах - три правильных ответа дают точность 0,95 (наилучший вариант для тестируемых, поскольку снижается возможность случайной ошибки или неверного ответа из-за неудачной формулировки ответа составителем теста).
При таком конструировании теста сначала необходимо оценивать усвоение каждой тестируемой единицы (по принципу «усвоено или нет»), а затем - оценивать усвоение по всему тесту (процент правильных ответов из их общего числа вопросов или процент усвоенных единиц из числа всех единиц теста). Это дает хорошо дифференцированную шкалу оценок.
Разновидности тестов. Сплошное и выборочное тестирование.
Наиболее распространены простые и сложные тесты с однородной и дифференцированной трудностью заданий.
Простой тест состоит из примерно одинаковых по трудности вопросов-заданий и обычно предназначен для оценки усвоения типа «зачтено - не зачтено». Его преимущество в относительной легкости составления, простоты применения и компьютеризации. Такой вид теста в настоящее время является преобладающим. Он используется для оценки усвоения знаний и отдельных действий на уровне «понимание и воспроизведение» в процессе текущего контроля и строится по принципу «одна единица содержания учебного курса - один тестовый вопрос - пять вариантов ответа». Его недостаток - малая пригодность для получения дифференцированных оценок при промежуточном и итоговом контроле (усвоения теоретических знаний на уровне осмысления и применения, а также практического освоения отдельных видов профессиональной деятельности).
Сложный тест предназначен для более глубокого контроля и получения интегрированных и хорошо различаемых оценок. Главная особенность и достоинство такого теста - контролируемое изменение трудности тестовых заданий, позволяющее четко дифференцировать обучающихся по успешности обучения. Это качество обеспечивается двумя способами построения (и применения) теста. В первом случае подбирается три группы заданий, различающихся по уровню сложности и соответствующих оценкам «удовлетворительно», «хорошо» и «отлично». Обучающимся дается возможность выбрать подходящий уровень трудности. Во втором случае всем обучающимся предъявляется один тест, все задания которого различаются по сложности. Предполагается, что более подготовленные студенты справятся с большим числом заданий, и произойдет естественное ранжирование их успешности (практически все тестируемые получат разные оценки в отличие от предыдущего способа, при котором тестируемые распределяются только на три группы).
Термин сплошное тестирование означает способ контроля, при котором тестируются все единицы содержания учебного курса (или его части), независимо от общего их числа. Он должен быть обязательным для промежуточного и итогового контроля (проводимого службой Регистратора или деканатом), а также частично - для текущего и рубежного, в тех случаях, когда обязательно усвоение каждой без исключения единицы содержания («промежуточный контроль» означает экзамен или завершающую работу после окончания изучения учебного курса; «итоговый контроль» - итоговый по дисциплине или междисциплинарный выпускной экзамен, или выпускную работу по специальности).
Термин выборочное тестирование означает способ контроля, при котором тестируется относительно небольшая часть единиц содержания курса (обычно 10 %), отобранная из их общего числа (списка) случайным образом (лучше всего - компьютером). Предполагается, что полученна я приблизительная оценка усвоения курса имеет допустимую точность для самоконтроля обучающимися, текущего и (реже) рубежного контроля со стороны преподавателя.
2.2. Тестирование теоретического учебного курса
При создании и применении тестов необходимо учитывать различия в структуре, особенностях проявления (фиксирования) и усвоения теоретических и практических знаний, познавательной деятельности по их применению, а также практической деятельности по освоению и применению профессиональных умений и навыков.
Структура знаний и деятельности различна (см. п. 3.1.). Назначение теоретического курса - сформировать модель какой-то части мира (специфическое знание) и научить применять ее (сформировать соответствующие умения и навыки в решении познавательных задач практики). То есть его содержание неоднородно. Это влечет за собой качественное различие соответствующих единиц содержания в учебной программе, различие способов обучения и способов фиксирования его результатов.
Иначе говоря, для тестирования теоретического курса необходимо два различных теста: один - для оценки знаний (на уровне «понимание-воспроизведение» и с оценкой «усвоено на приемлемом уровне - не усвоено»); другой - для оценки умения их применять (на уровне «системного осмысления знания и применения по образцу - свободного применения - творческого применения» и с дифференцированной оценкой 3-4-5 баллов). Формально объединив их, получим один комбинированный тест.
2.3. Тестирование практического учебного курса
Назначение практического курса - сформировать модель новой деятельности (практическое знание) и научить выполнять ее (сформировать практические действия - умения и навыки ее выполнения в рамках профессиональных обязанностей).
Структура такого практического знания: осознание целей деятельности как конкретных форм представления результатов; представление о каждом действии - его назначении и способах выполнения; представление об алгоритме деятельности как целостной и фиксированной последовательности действий. Элементы этой структуры (единицы знания) должны быть единицами содержания учебной программы, единицами обучения и единицами тестирования. Нужен тест контроля практического знания.
Программа должна также зафиксировать в качестве единиц обучения (и тестирования) практическое освоение всех действий и деятельности в целом (умение выполнять каждое действие в отдельности, выполнять деятельность как целостный процесс, фиксировать ее конечные результаты в заданной форме). При этом обязательно должен быть освоен (и протестирован) каждый элемент. Следовательно, нужен второй тест - для контроля освоения целостной деятельности под контролем сознания (уровень умения). Два указанных теста, при успешном их выполнении (оба с оценкой «усвоено»), выявят приемлемый уровень усвоения деятельности (оценка «удовлетворительно»).
Только после этого можно применить еще один тест для получения более высокой, дифференцированной оценки «хорошо» или «отлично».
Таким образом, тестирование практического курса предполагает наличие и применение трех различных по содержанию тестов. В зависимости от реальных различий в качественной структуре содержания конкретного учебного курса, их может быть и больше трех. В любом случае, формально объединив частные тесты под общим названием курса, получим один комбинированный тест.
1.1. По каждой отдельной теме или курсу выделяется предмет оценки (что оценивается - специфическое знание, его качественная характеристика, вид деятельности и т.п.);
1.2. По каждому критерию формируется отдельная база данных («вопросы-задания» - «ответы-ключи») и приводится балльная шкала оценки;
1.3. При частичном тестировании по одному критерию указывается как балльная шкала оценки, так и «процентная доля курса», выделяемая для этой части тестирования.
2. «Вопросы-задания»:
2.1. Обеспечивается полный и равномерный охват содержания курса: не пропущено ничего существенного по каждой теме - теоретические знания, умения и навыки; профессиональные знания, умения, навыки (компетенция). При этом по каждой теме (учебная программа курса) указывается перечень существенных единиц содержания, являющихся одновременно единицами тестирования. Каждая единица тестирования должна быть представлена в тесте одинаковым числом вопросов-заданий.
2.2. Соблюдается простота, однородность и однозначность формулировок: вопросы формулируются короткими простыми предложениями, на одном уровне обобщенности, при равном объеме понятий; один вопрос-задание относится к одному критерию и одной смысловой единице информации - единице тестирования.
2.3. Обеспечивается минимизация и обоснованность формулировок: - вопросы формулируются только по существенным идеям и фактам (должны быть исключены частные и второстепенные аспекты, относящиеся к пояснениям, описаниям контекста, детализации и иллюстрации существенных сообщений);
существенными идеями (сообщениями) считаются базовые
(стержневые) структурные элементы главной идеи, конкретизирующие назначение курса или темы (целостные смысловые единицы того, что должно быть усвоено);
- существенными фактами считаются сообщения, содержащие конкретные данные о действительном, практическом основании существенных идей, положений (цифры, статистика и другие сведения объективного характера), представляющие собой необходимый и достаточный минимум их доказательства или опровержения.
2.4. Содержание тестовых заданий подбирается с учетом уровня
трудности (сложности). Обоснованность ее градаций должна обязательно проверяться (с коррекцией соответствующих формулировок) в группировках «сильных» - «средних» - «слабых» учащихся.
Для варьирования заданий по трудности можно использовать выделенные системной дидактикой пять уровней усвоения знания:
Уровень общего знакомства с материалом. Это задания, в
которых требуется опознать единицы знания с помощью опоры (выбрать правильный ответ из нескольких представленных вариантов ответа или установить соответствие элементов одного списка элементам другого).
Уровень воспроизведения (алгоритмический). Это задания,
требующие вспомнить и воспроизвести материал по памяти без внешней опоры (варианты заданий: подстановки - вставить в заданную структуру ответа недостающие и пропущенные или исправить искаженные элементы; способ конструирования или восстановления по памяти порядка какого-либо действия с последующим его выполнением; способ типовой задачи - выполнение действия по определенному алгоритму, формуле, схеме; способ восстановления алгоритма - вспомнить и воспроизвести последовательность какого-то процесса, деятельности).
Уровень эвристический (частичного поиска). Это задания на
самостоятельный перенос известного алгоритма действий в заданные конкретные условия (варианты заданий: дополнить формулировку вопроса посредством применения общего правила для заданной ситуации; построить ответ, алгоритм с изменением условия; решить задачу, изменив алгоритм типового процесса и применив его в заданной ситуации).
- Уровень творческого применения знаний. Это задания, требующие
самостоятельной рационализации, моделирования или конструирования. Их результатом могут быть алгоритмы, схемы, карты и т.д. К таким заданиям прилагаются требования к форме представления результатов, параметры, условия и другие ограничения, которым должны соответствовать творческие разработки.
Уровень исследования. Это задания трех видов: на проверку и
уточнение известного знания, на его дополнение и развитие, на получение нового, не имеющего аналогов, знания. Такие задания, помимо знаний конкретного учебного курса, предполагают определенное владение понятийным аппаратом и методологией научного исследования. Как и в предыдущем пункте, здесь тоже задается организующий комплекс необходимых условий и ограничений.
Примечание: материал этого пункта (пять уровней усвоения) представлен Пырлик Л.Я., гуманитарный колледж, г. Астана.
2.5. Вопросы-задания строятся как закрытые (в большинстве), полуоткрытые и открытые. Закрытые - предполагают выбор из предъявляемого списка ответов. Полуоткрытые - предлагают самостоятельно ввести ответ, осуществляя выбор из известного, но не предъявляемого списка ответов (например, напечатать перевод слова с иностранного языка по известному словарю). Реже применяется открытый вариант - с произвольной формой развернутого ответа. Хотя он и обладает наилучшими возможностями для выявления результатов усвоения, его трудно оценивать (необходимо создавать специальную шкалу с произвольными ограничениями, которую сложно и не всегда возможно обоснованно формализовать) и приходится использовать трудоемкий способ ручного тестирования.
3. «Ответы-ключи»:
3.1. Обеспечивается однозначное соответствие формулировки ответа и сути задания (вопроса): с одной стороны, - каждый ответ в списке обязательно содержит существенные признаки распознавания идеи (действия) правильного ответа; а с другой, - формулировка ответа в соответствующем списке исключает прямое или косвенное искажение этой идеи (действия), ее двусмысленное толкование.
3.2. Формулировки в списке возможных ответов должны
максимально снижать возможность случайного угадывания правильных ответов и исключать возможность его логического «вычисления» без подлинного знания:
каждая тестируемая единица темы должна быть представлена
двумя - пятью вопросами (заданиями) с выбором из пяти (или более) возможных ответов для каждого из них;
все формулировки в списке возможных ответов должны быть
построены на изменении (в тексте правильного ответа) существенных признаков тестируемой идеи (действия), без использования суждений, не относящихся к ней (чтобы было невозможно чисто логически отсеять формулировки, явно не относящиеся к сути вопроса);
- эти формулировки должны иметь одинаковую логическую структуру и состоять из простых по составу и относительно коротких предложений;
- вопросы (задания) должны предъявляться по одному и в
случайном порядке (во избежание запоминания правильных ответов по их привычному расположению в списке вопросов, или их логического «вычисления» посредством сопоставления ответов при использовании печатного бланка). Эти условия легко выполнить при компьютерном тестировании. Для соблюдения указанных условий при использовании ручного тестирования формулировки инструкций и вопросов, их порядок в списке, организация материала в бланках для фиксирования ответов должны отрабатываться с помощью экспертной оценки и не допускать
произвольного изменения в практике тестирования.
4. Шкалы общих оценок:
4.1. Принимается единая базовая шкала оценок, построенная как вычисление процентной доли усвоенного по отношению к числу всех единиц содержания курса (или вопросов-заданий) теста:
________________________________________________________________________
Оценка Значение Процент Средний балл (варианты)
A + замечательно 100 5 5 5 отлично
A - почти отлично 90 - 94 4,5 4 4 очень хорошо
B + очень хорошо 85 - 89 4,25 4 4 хорошо
B хорошо 80 - 84 4,0 4 3 уд-но, (выше ср.)
B - почти хорошо 75 - 79 3,75 3 3 уд-но (средне)
C + вполне удов-но 70 - 74 3,5 3 3 удовлетв-но
C удовлетворительно 65 - 69 3,25 3 0 неуд-но (провал)
C - почти удов-но 60 - 64 3,0 0 0
F провал 59 - 0 0,0 0 0
P прошел NA NA
(финальный тест)
Эта шкала делает сопоставимыми все результаты, позволяет накапливать и интегрировать (промежуточный и итоговый контроль) оценки любых тестов и форм контроля, в том числе, - тестирование по частям и в разное время. Процентная шкала применяется при любом тестировании.
4.2. Единая процентная шкала дополняется для каждого конкретного критерия и теста собственной шкалой балльной оценки (0; 3; 4; 5 баллов). Шкала баллов применяется при оценке усвоения всего курса в целом (промежуточный и итоговый контроль). Она устанавливает соответствие между достигнутой процентной долей усвоения и ее оценкой в баллах (это необходимо для расчета показателей среднего балла, проходного балла, рейтинга, и т.д.).
4.3. При каждом частичном тестировании (текущий и рубежный контроль) обязательно указывается выделенная для него доля процентной шкалы (для пересчета текущего процента по теме или другой части курса в одну общую долю усвоения курса). Балльная оценка может применяться и в этом случае, однако она не фиксируется в банке данных Регистратора (то есть используется только в текущей работе по усмотрению преподавателя).
4.4. Оценка по тесту производится в три, четыре или пять шагов:
оценка правильности сделанного выбора ответа на каждый
вопрос теста;
- оценка усвоения каждой единицы тестирования (оценка
«усвоено» по курсу или его части фиксируется при зачете всех тестируемых единиц; оценка «не усвоено», - если не зачтена хотя бы одна единица). Применяется в тех случаях, когда курс может считаться усвоенным только при приемлемом уровне усвоения каждой единицы теста без исключения (пример: деятельность не может считаться освоенной, если не освоено хотя бы одно из составляющих ее действий). Соответственно, если не зачтена хотя бы одна единица, то по тесту выставляется оценка «0»;
- общая оценка как доля правильных ответов на все вопросы теста в процентах (для дифференциации оценки уровня усвоения);
- перевод процентной оценки в баллы;
- суммирование балльных оценок промежуточного и итогового контроля в форме подсчета их средне-арифметического значения (в том случае, когда курс выносится на выпускной экзамен или завершается выпускной работой по специальности).
5. Шкала для оценки усвоения отдельных единиц тестирования:
5.1. Если тест строится из двух или трех вопросов на каждую единицу тестирования (с пятью вариантами ответов), то она считается усвоенной при двух правильных ответах.
5.2. Если тест строится из четырех или пяти вопросов (заданий) на каждую единицу (с пятью вариантами ответов), - то она считается освоенной при трех правильных ответах.
5.3. Если тест конструируется иначе, то должна быть обеспечена вероятность случайного угадывания правильного ответа не более 0,05, а также - статистическое обоснование делений балльной шкалы оценок (различия процентной шкалы для оценок «3», «4» и «5» баллов должны быть не менее статистически значимых).
2. Пилотажное исследование валидности и точности теста, его
заданий и ответов:
- практическое проведение тестирования на достаточной по объему выборке обучающихся для получения статистически достоверных результатов;
- проведение тестирования в той же выборке на основе других способов тестирования (экспертная оценка усвоения каждой тестируемой единицы на основе индивидуального собеседования экспертов с каждым обучающимся; сравнительное тестирование посредством «расщепления» исходного теста; тестирование посредством другого, проверенного теста и т.п.);
- сопоставление результатов (выявление степени совпадения и
расхождения) тестирования по тесту в целом, отдельным единицам тестирования и вопросам-заданиям на основе статистической обработки и проверки гипотез (корреляция и т.д.);
- отсев «плохих» заданий (вопросов) и ответов (при замене заданий или изменении формулировок вся процедура тестирований и сопоставления результатов проводится заново), построение и обоснование оценочных шкал.
3. Исследование надежности теста:
- повторное тестирование той же выборки (тем же тестом с интервалом времени от 3 до 6 месяцев) и сопоставление результатов;
- повторное тестирование на другой выборке (другими людьми с
интервалом времени от 3 до 6 месяцев) и сопоставление результатов.
4. Принятие обязывающего решения компетентного органа о разрешении, порядке и границах применения созданного и проверенного теста, интерпретации и практического использования получаемых результатов тестирования.
В случаях статистически значимого расхождения в оценке результатов при внутреннем и внешнем тестировании одного и того же контингента обучающихся (по одному и тому же учебному курсу) необходима сравнительная экспертиза единиц тестирования, положенных в основу теста, а также материалов проверки применяемых тестов на валидность, точность и надежность. По каждому факту такого расхождения должно быть принято решение о запрете или ограничениях на применение теста, не отвечающего требованиям стандарта (вуза или министерства).
3. Качество процесса обучения.
Современное обучение понимается как эффективно организованный процесс самообучения студентов (учащихся), всесторонне обеспеченный необходимыми условиями и направляющей поддержкой и гарантирующий высокие индивидуальные результаты и личностный рост.
Традиционно учебный процесс строится так, что всегда фиксированы условия обучения (способ представления информации преподавателем один для всех учащихся; время, отводимое на ее понимание и усвоение, - тоже одинаково для всех, и т.д.), а единственной переменной величиной остается… результат обучения.
Современные технологии «полного усвоения знаний» и «разноуровнего образования» исходят из фиксированного результата: все обучающиеся свободно усваивают практически любой учебный материал, если организация материала, его представление и другие условия обучения оптимально изменяются в зависимости от конкретных особенностей восприятия, способностей и личных качеств каждого обучающегося (подстраиваются по обратной связи).
Для нашей задачи это предполагает переориентацию учебного процесса с информирования (фиксированный способ обучения) на обеспечение индивидуально гарантированного результата в каждом системном элементе учебной деятельности: внешние условия - учебный материал - учащийся - преподаватель - взаимодействие.
3.1. Главный фактор ориентации внешних условий на результат - это механизм внешнего давления в направлении заданных изменений и содействия им. В отношении обучающихся - это рамки кредитной системы организации обучения, с ее жесткими требованиями к самоорганизации и непрерывным мониторингом успеваемости в сочетании с полным информационно-методическим обеспечением и свободой в выборе учебного плана, преподавателей и траектории профессиональной подготовки.
В отношении преподавателя:
- это рамки той же кредитной организации, обязывающей его организовать, обеспечить информационно и методически аудиторную и внеаудиторную работу каждого учащегося по каждой единице учебной программы и междисциплинарным аспектам, в том числе повседневную и индивидуальную обратную связь (самоконтроль, текущий и рубежный контроль результатов обучения);
- это личный рейтинг преподавателя по итогам семестра и учебного года (средний балл обучавшихся у него студентов - по итогам независимого тестирования);
- это официальная оценка квалификации (квалификационный статус) преподавателя по результатам ежегодной аттестации, включающей: указанный выше средний балл; экспертную оценку качества информационно-методического комплекса по его учебным курсам; личный портфель достижений (научные исследования, методические разработки, повышение профессионального мастерства); оценка студентами квалификации преподавателя и качества преподавания по итогам обучения; относительное число студентов, записавшихся на обучение к данному преподавателю;
- это изменение положения об аттестации преподавателя, устанавливающее прямую зависимость заработной платы и официального статуса (ученые звания и др.) от личного рейтинга, квалификации (по результатам годовой аттестации) и наличия сертификата (свидетельства, удостоверения) о научно-педагогической подготовке (переподготовке);
- это предоставление практических возможностей получения научно-педагогической подготовки на профессиональном уровне, соответствующей переподготовки и повышения квалификации (психолого-педагогические основы и практические навыки ускоренного, развивающего и междисциплинарного обучения; современные методики интерактивного, индивидуального и группового обучения; методология научного исследования, организация и руководство НИРС).
3.2. Для ориентации на результат учебного материала главным фактором является жесткий отбор, структурирование и организация преподавателем всех материалов и деятельности обучающихся по их освоению в расчете на минимум подготовленности и способности к самостоятельному обучению. В частности:
- Четкое выделение единиц содержания, максимально сжатое изложение курса (на руки выдается максимально краткий конспект без подробностей и пояснений) - ядро курса для программированного освоения.
- Пошаговое усложнение структуры знания и осваиваемых видов деятельности (каждое дробление - не более 3-5 единиц).
- Освоение содержания малыми смысловыми блоками простой структуры до хорошего результата и с постоянной самопроверкой; после этого - переход к освоению следующего блока, и т.д.
- Отработка на аудиторных занятиях и перенос на самостоятельную работу алгоритма по усвоению материала и самоконтролю, выработка индивидуального стиля успешного самообучения. Мы выделяем три уровня (этапа) в формировании такого стиля: программированное обучение - учебный материал и процесс его усвоения полностью организуется преподавателем (кратко описано выше); программированное самообучение - учащийся самостоятельно и в группе организует усвоение (по заданному алгоритму) материала, структурированного и организованного преподавателем для целей обучения; свободное самообучение - самостоятельное усвоение учащимся информации из любого источника.
- Формирование алгоритма самоуправления оптимальным рабочим состоянием и быстрым восстановлением работоспособности (настройка и поддержание).
При этом преподаватель постоянно, в каждом действии нацелен на результат, эффективное взаимодействие и стимулирование учащихся к самообучению: «Как представить учащимся новую единицу содержания курса, как организовать для ее усвоения аудиторную и самостоятельную работу каждого учащегося с учетом его личных возможностей и ограничений, как поддержать их мотивацию, как направлять и наиболее эффективно организовать их индивидуальную и групповую работу, коллективное взаимообучение и самоконтроль?»
В итоге к тестированию все учащиеся в группе подходят на 100 % усвоив материал, многократно проверив себя и убедившись в этом. Поэтому официальный тест уже является не стрессовым фактором, а способом официального признания и фиксирования успеха, стимулирующим, мотивирующим дальнейшую работу.
Умение работать с информацией понимается здесь как наличие следующих видов освоенной деятельности: быстро и продуктивно читать (500 - 1000 слов в минуту); осмысливать, запоминать и вести структурированные записи при чтении и слушании учебного материала; грамотно, последовательно и обоснованно строить устную и письменную речь.
Личностная зрелость означает: осознанный выбор профессии в соответствии с жизненными целями и ценностями, принятие ответственности за свое образование и профессиональную подготовку как средство личной самореализации; наличие эффективной стратегии достижения жизненных целей; объективное понимание себя и других людей, умение и готовность взаимодействовать с ними на основе сотрудничества.
Термин значимые пробелы в предшествовавшем обучении означает конкретные знания, умения и навыки, низкий уровень освоения которых делает затруднительным или вообще невозможным обучение в вузе или колледже (например, отсутствие элементарных навыков теоретической работы и низкий уровень общего развития) или продолжение обучения по какому-то учебному курсу (например, не освоенный в средней школе курс казахского или английского языка, делает невозможным освоение соответствующего вузовского курса, если он построен как продолжающий).
Необходимость практического учета указанных факторов предполагает обязательный входной контроль - тестирование по пререквизитам учебных программ до или сразу после приема на первый курс обучения, а также организацию соответствующего предварительного обучения (в общеобразовательной школе, на подготовительных курсах, в период летнего семестра перед началом учебы в вузе и колледже или же в первом семестре).
Создание теста для текущего или рубежного контроля
(примерный образец начальной работы)
Спецификация теста по учебному курсу «Личностный рост»
1. Название теста: «Распознавание основных свойств личности»
2. Общая цель создания: инструмент самоконтроля, промежуточного и рубежного контроля по модулю «Понимание себя и других людей».
3. Задачи, решаемые тестом: выявить степень освоения признаков проявления основных свойств личности (модель Ю-А) на соответствие нормативному уровню; дать обучающимся возможность самопроверки.
4. Содержание теста: 56 заданий, равномерно охватывающих признаки распознавания в реальном поведении восьми базовых свойств личности по изучаемой модели (семь заданий на каждое свойство).
5. Время тестирования: 60 минут.
6. Вид тестирования: сплошное тестирование с раздельной оценкой (достижение нормативного уровня усвоения признаков распознавания каждого свойства и общая оценка по тесту).
7. Способы и шкалы оценки: каждое свойство считается освоенным при наличии трех и более правильных ответов из семи возможных (вероятность случайного угадывания - 0,049); если хотя бы по одному свойству число правильных ответов ниже указанного уровня, то по тесту в целом выставляется оценка ноль баллов; если все восемь свойств освоены, то общий балл по тесту вычисляется как процентная доля всех правильных ответов в общем числе заданий.
8. Уровень трудности заданий: задания считаются однородными, задача дифференциации заданий по трудности не ставилась, поскольку отрабатывается минимально необходимый и обязательный уровень усвоения (а не определение рейтинга обучающихся, который требует их упорядочения по индивидуальному уровню достижений, характерного для тестов по итогам обучения).
9. Результаты исследования обоснованности теста: тест находится в начале отработки и применялся на выборке из 68 обучающихся, экспертиза и статистическое обоснование не проводилось.
Производится отбор существенных признаков для опознания каждого из восьми свойств личности и составляется перечень для обязательного усвоения и включения в тестовые задания. Каждый признак, положенный в основу заданий, предварительно отрабатывается на практических занятиях и в заданиях для СРС.
Формулировка каждого задания строилась так, чтобы по возможности просто и ясно представлять один существенный признак. Поскольку исходные изучаемые свойства отобраны как пары по признаку противоположности, то и признаки формулируются, изучаются и представлены в тестовых заданиях аналогичными парами. Например, паре свойств «сенсорный - интуитивный» соответствуют признаки противоположной ориентации во времени: для сенсорного типа - «Стремление преуспевать здесь и сейчас», а для интуитивного - «Работает, чтобы обеспечить успех в будущем». В итоге, получился следующий список зданий, сгруппированный по свойствам:
Свойства и признаки (список)
Стремление преуспевать здесь и сейчас. (1)
Стремление использовать опыт других людей, недоверие к идеям,
не проверенным практикой. (1)
Преобладает опора на органы чувств и практическую деятельность. (1)
Имеет развитые органы чувств и хорошее физическое развитие. (1)
Ценит физическую силу, высокое социальное положение и власть, уделяет внимание спорту, поддержанию хорошей физической формы. (1)
Имеет средний рост, атлетическое, плотное телосложение. Лицо среднего размера, квадратное или круглое. (1)
При полноте жировая прослойка равномерно распределяется по всему телу. (1)
Работает, чтобы обеспечить успех в будущем. (2)
Способность предчувствовать, предвидеть развитие событий. (2)
Стремление опираться на новые идеи. (2)
Преобладает опора на воображение и теоретическую деятельность. (2)
Ценит ум, талант, творчество, состоявшуюся личность. Не уделяет особого внимания физическому развитию. (2)
Имеет тонкое телосложение, без выраженных мышц на лице и других частях тела (хилый - тонкие руки, ноги, шея и т.д.); слегка или сильно вытянутое лицо; иногда - высокий рост, крупные черты лица, нескладную фигуру. (2)
При полноте - более выражена полнота нижней части лица и тела. (2)
Предпочтение личного общения - деловому. (3)
Высокая значимость взаимодействия с людьми, повышенная зависимость
от них. (3)
Стремление быть человечным, сострадающим, сопереживающим. (3)
Особое значение придает соблюдению равенства интересов, взаимного уважения в отношениях между людьми. (3)
Оценка ситуации и поведения по субъективным критериям -«нравится - не нравится», «хороший - плохой». (3)
Склонность к полноте: округленность, сглаженность черт лица и фигуры; толстая кожа - лицо без мелких морщин, иногда - угреватость кожи. (3)
Улыбчивость: улыбка свободная, освещает все лицо, практически не образуя складок и морщин. (3)
4. Логический
Предпочтение деловых отношений - личным. (4)
Стремление к анализу и решению проблем. (4)
Преобладающая значимость объективных процессов и явлений, независимость суждений и оценок. (4)
Особое значение придает рациональному достижению целей и результатов. (4)
Оценка ситуации и поведения по объективным критериям, доказательность и обоснованность суждений и выводов. (4)
Худощавость: резкие, рельефные черты лица и фигуры (угловатость); тонкая кожа - при подъеме бровей на лбу образуются мелкие морщины, а при улыбке - складки вокруг рта и морщины вокруг глаз. (4)
Серьезное (мрачное) выражение лица, улыбка зажатая, ограниченная складками кожи, иногда неуверенная. (4)
5. Левый
Жесткое поведение - нетерпимость к отклонениям от заданных правил, нормативов. (5)
Повышенная обязательность, неохотное отступление от привычных правил поведения. (5)
Восприятие действительности в статике, последовательное,
поэлементное - в абстрактных образах символов и понятий. (5)
Целесообразное упорядочение окружающей среды, поведения людей и
собственных действий, приведение их в соответствие с принятыми стандартами, рамками и правилами. (5)
Инертные нервные процессы, низкая переключаемость - замедленный переход от одних действий к другим и обратно. (5)
Способность длительное время сосредоточиваться на монотонной работе. (5)
При вспоминании зрительных картин глаза фиксируются слева-вверху; а при вспоминании голоса и звуков - слева-в средней части поля зрения. (5)
6. Правый
Высокая готовность к изменению привычных правил поведения, чаще встречается личная необязательность в выполнении обещаний. (6)
образах. (6)
Гибкое поведение - выбор действий в зависимости от возможностей конкретной ситуации. (6)
Приспособительное поведение - принятие реальности такой, какая она есть. (6)
Подвижные нервные процессы, легкая переключаемость - быстрый переход от одних действий к другим и обратно. (6)
Трудно дается сосредоточенность на монотонной работе. (6)
При вспоминании зрительных картин глаза фиксируются справа-вверху; при вспоминании голоса и звуков - справа- в средней части поля зрения. (6)
7. Интровертный
Нацеленность на выявление скрытых связей и отношений между объектами и свойствами среды. (7)
Преобладающая ориентация на обстоятельное обдумывание действий. (7)
Склонность проводить время в привычной обстановке, в домашнем кругу. (7)
Пассивность, сдержанность, осторожность в действиях и общении. (7)
Затруднения при вступлении в контакт с незнакомыми людьми. (7)
Неуверенность, скованность, робкое поведение. (7)
Склонность к индивидуальной деятельности, самодостаточность. (7)
8. Экстравертный
Нацеленность на выявление и активное использование свойств среды и составляющих ее объектов. (8)
Ориентация на немедленные действия. (8)
Склонность к приключениям и перемене мест. (8)
Активность, напористость, импульсивность в действиях и общении. (8)
Легкое вступление в контакты с незнакомыми людьми. (8)
Уверенное, раскованное поведение. (8)
Склонность к коллективным действиям, к компании. (8)
Второй этап работы
Единицы перечня случайным образом «перемешиваются» и становятся заданиями первичного (сырого) теста (приведен ниже). Теперь тест применяется на реальной группе изучающих данный курс. По результатам опроса и сопоставления ответов сильных и слабых учащихся (по каждому заданию отдельно) выявляются «плохие» формулировки (непонятные, относящиеся одновременно к разным свойствам, двусмысленные, неоднозначные). Они отбрасываются или переформулируются (тогда нужно заново делать проверку). После этого тест готов для экспертизы специалистами на предмет соответствия стандартным требованиям в отношении содержания, формулировок, процедуры применения, оценок, интерпретации и использования результатов.
Тест 1. (Вариант 2) «Распознавание основных свойств личности» (с ключами - цифра в конце каждого задания означает номер свойства в приведенном выше списке)
Для каждого суждения в предлагаемом ниже списке определите, какое из восьми основных свойств типа личности оно характеризует. Выберите нужный ответ «мышкой» и нажмите клавишу Enter.
1. Преобладающая значимость объективных процессов и явлений, независимость суждений и оценок. (4)
2. Нацеленность на выявление скрытых связей и отношений между объектами и свойствами среды. (7)
3. Предпочтение личного общения - деловому. (3)
4. Высокая готовность к изменению привычных правил поведения, чаще
встречается личная необязательность в выполнении обещаний. (6)
5. Стремление преуспевать здесь и сейчас. (1)
6. Нацеленность на выявление и активное использование свойств среды и составляющих ее объектов. (8)
7. Работает, чтобы обеспечить успех в будущем. (2)
8. Жесткое поведение - нетерпимость к отклонениям от заданных правил,
нормативов. (5)
9. Серьезное (мрачное) выражение лица, улыбка зажатая, ограниченная складками кожи, иногда неуверенная. (4)
10. Склонность к индивидуальной деятельности, самодостаточность. (7)
11. Улыбчивость: улыбка свободная, освещает все лицо, практически не образуя складок и морщин. (3)
12. При вспоминании зрительных картин глаза фиксируются справа-вверху; при
вспоминании голоса и звуков - справа- в средней части поля зрения. (6)
13. Имеет средний рост, атлетическое, плотное телосложение. Лицо среднего размера, квадратное или круглое. (1)
14. Склонность к коллективным действиям, к компании. (8)
15. При полноте - более выражена полнота нижней части лица и тела. (2)
16. Инертные нервные процессы, низкая переключаемость - замедленный переход от одних действий к другим и обратно. (5)
17. Худощавость: резкие, рельефные черты лица и фигуры (угловатость); тонкая кожа - при подъеме бровей на лбу образуются мелкие морщины, а при улыбке - складки вокруг рта и морщины вокруг глаз. (4)
18. Неуверенность, скованность, робкое поведение. (7)
19. Высокая значимость взаимодействия с людьми, повышенная зависимость
от них. (3)
28. Гибкое поведение - выбор действий в зависимости от возможностей конкретной ситуации. (6)
29. Ценит физическую силу, высокое социальное положение и власть, уделяет внимание спорту, поддержанию хорошей физической формы. (1)
30. Склонность к приключениям и перемене мест. (8)
31. Имеет тонкое телосложение, без выраженных мышц на лице и других частях тела (хилый - тонкие руки, ноги, шея и т.д.); слегка или сильно вытянутое лицо; иногда - высокий рост, крупные черты лица, нескладную фигуру. (2)
32. Способность длительное время сосредоточиваться на монотонной работе. (5)
33. Особое значение придает рациональному достижению целей и результатов. (4)
34. Преобладающая ориентация на обстоятельное обдумывание действий. (7)
35. Склонность к полноте: округленность, сглаженность черт лица и фигуры; толстая кожа - лицо без мелких морщин, иногда - угреватость кожи. (3)
36. Подвижные нервные процессы, легкая переключаемость - быстрый переход
от одних действий к другим и обратно. (6)
37. Стремление использовать опыт других людей, недоверие к идеям,
не проверенным практикой. (1)
38. Активность, напористость, импульсивность в действиях и общении. (8)
39. Преобладает опора на воображение и теоретическую деятельность. (2)
40. Целесообразное упорядочение окружающей среды, поведения людей и
собственных действий, приведение их в соответствие с принятыми стандартами, рамками и правилами. (5)
41. Предпочтение деловых отношений - личным. (4)
42. Склонность проводить время в привычной обстановке, в домашнем кругу. (7)
43. Особое значение придает соблюдению равенства интересов, взаимного уважения в отношениях между людьми. (3)
44. Приспособительное поведение - принятие реальности такой, какая она есть.
(6)
45. Преобладает опора на органы чувств и практическую деятельность. (1)
46. Легкое вступление в контакты с незнакомыми людьми. (8)
47. Способность предчувствовать, предвидеть развитие событий. (2)
48. Восприятие действительности в статике, последовательное,
поэлементное - в абстрактных образах символов и понятий. (5)
49. Стремление к анализу и решению проблем. (4)
50. Пассивность, сдержанность, осторожность в действиях и общении. (7)
51. Оценка ситуации и поведения по субъективным критериям -«нравится - не нравится», «хороший - плохой». (3)
52. Трудно дается сосредоточенность на монотонной работе. (6)
53. Имеет развитые органы чувств и хорошее физическое развитие. (1)
54. Уверенное, раскованное поведение. (8)
55. Стремление опираться на новые идеи. (2)
56. Повышенная обязательность, неохотное отступление от привычных правил поведения. (5)
Свойство номер характеристики
в списке теста
_____________________________________________________________________
Сенсорный
Логический
Этический.
Правополушарный
Левополушарный.
Интуитивный.
Интровертный.
Экстравертный.
Проводится проверка теста и его заданий на обоснованность валидности, надежности, вариативности и меры трудности по статистическим критериям на большой репрезентативной выборке.
Для тестов по итогам изучения курса или для выпускного экзамена она обязательна, а для текущего и рубежного контроля - не является обязательной и может выполняться (или нет) по усмотрению учебного заведения или преподавателя.
Заключение: резюме.
Оценка ситуации в сфере образования.
Смысл реформы системы образования в Республике Казахстан состоит в переориентации на конечные результ аты деятельности всех ее субъектов. Выбрана удачная форма организации образования (кредитная) и побудительный источник его развития (гарантия результатов для общества). Главным недостатком действующей системы образования назван общепринятый способ обучения, состоящий в одностороннем информировании учащихся и формальной ориентации на процесс без обратной связи. В качестве важного условия успеха выделена необходимость преодоления инерции и недостаточного профессионализма субъектов образования. В качестве критерия оценки действительной переориентации учебных заведений принято «качество даваемого ими образования», реализуемое через качество учебных программ, контроля результатов и процесса обучения.
Качество учебных программ.
Предлагается радикально повысить качество учебных программ, по которым ведется фактическое обучение за счет повышения статуса и детализации типовых программ, централизованного их создания (в комплексе с тестами) и дублирования в рабочих программах. Варьируемая часть рабочих программ сосредоточивается на информационно-методическом обеспечении и организации аудиторной и внеаудиторной работы учащихся в рамках программированного и свободного обучения.
Для общей оценки качества образования в учебных заведениях (рейтинг) предложено три критерия с соответствующими показателями оценки: уровень академической подготовки выпускников, их востребованность работодателями и престижность учебного заведения (конкурс и средний балл принятых на первый курс). Особое внимание уделено профессиональной организации тестирования в сфере образования. Приведены характерные недостатки, типичные ошибки и практические рекомендации по созданию и применению тестов.
Качество процесса обучения.
Исходной основой при оценке качества учебного процесса принято требование гарантированного и качественного освоения учебных программ каждым учащимся. Выделены факторы формирования практического алгоритма действий по ориентации на конкретные результаты каждого элемента учебной деятельности: внешних условий (механизм стимулирования), учебного материала, преподавателя и учащихся.
! | Как писать курсовую работу Практические советы по написанию семестровых и курсовых работ. |
! | Схема написания курсовой Из каких частей состоит курсовик. С чего начать и как правильно закончить работу. |
! | Формулировка проблемы Описываем цель курсовой, что анализируем, разрабатываем, какого результата хотим добиться. |
! | План курсовой работы Нумерованным списком описывается порядок и структура будующей работы. |
! | Введение курсовой работы Что пишется в введении, какой объем вводной части? |
! | Задачи курсовой работы Правильно начинать любую работу с постановки задач, описания того что необходимо сделать. |
! | Источники информации Какими источниками следует пользоваться. Почему не стоит доверять бесплатно скачанным работа. |
! | Заключение курсовой работы Подведение итогов проведенных мероприятий, достигнута ли цель, решена ли проблема. |
! | Оригинальность текстов Каким образом можно повысить оригинальность текстов чтобы пройти проверку антиплагиатом. |
! | Оформление курсовика Требования и методические рекомендации по оформлению работы по ГОСТ. |
→ | Разновидности курсовых Какие курсовые бывают в чем их особенности и принципиальные отличия. |
→ | Отличие курсового проекта от работы Чем принципиально отличается по структуре и подходу разработка курсового проекта. |
→ | Типичные недостатки На что чаще всего обращают внимание преподаватели и какие ошибки допускают студенты. |
→ | Защита курсовой работы Как подготовиться к защите курсовой работы и как ее провести. |
→ | Доклад на защиту Как подготовить доклад чтобы он был не скучным, интересным и информативным для преподавателя. |
→ | Оценка курсовой работы Каким образом преподаватели оценивают качества подготовленного курсовика. |
Курсовая работа | Деятельность Движения Харе Кришна в свете трансформационных процессов современности |
Курсовая работа | Маркетинговая деятельность предприятия (на примере ООО СФ "Контакт Плюс") |
Курсовая работа | Политический маркетинг |
Курсовая работа | Создание и внедрение мембранного аппарата |
Курсовая работа | Социальные услуги |
Курсовая работа | Педагогические условия нравственного воспитания младших школьников |
Курсовая работа | Деятельность социального педагога по решению проблемы злоупотребления алкоголем среди школьников |
Курсовая работа | Карибский кризис |
Курсовая работа | Сахарный диабет |
Курсовая работа | Разработка оптимизированных систем аспирации процессов переработки и дробления руд в цехе среднего и мелкого дробления Стойленского ГОКа |