Тип термина: Definition

Термин: Модель Киркпатрика

Альтернативные термины: -

Короткое описание: Модель Киркпатрика - четырехуровневая модель оценки эффективности обучения

Длинное описание:

Модель Киркпатрика - четырехуровневая модель оценки эффективности обучения:

Реакция (эмоциональный уровень)

Усвоение (уровень знаний)

Поведение (уровень навыков)

Результат

Реакция (эмоциональный уровень) - эмоциональная оценка обучения участниками. С одной стороны, положительная реакция как таковая не имеет большого значения, поскольку “понравившийся тренинг” отнюдь не означает “эффективный тренинг”. Он может никоим образом не изменить участников. С другой стороны, не стоит недооценивать этот фактор: удовлетворенность тренингом - это заинтересованность, внимание и позитивный настрой участников, необходимые для успешного обучения.

Усвоение (уровень знаний) показывает,какие знания, навыки, техники и методы усвоены участниками тренинга. Приобретение новых знаний является важным, но недостаточным результатом тренинга. Чтобы получить знания, не обязательно проходить тренинг - достаточно прочитать книгу или посетить лекцию. К тому же, само по себе приобретение новых знаний, без умения и желания их применять, часто не влияет на эффективность работы человека. Более ценным результатом тренинга может оказаться получение участниками «осознаний», так называемых «инсайтов», когда участник тренинга получает какое-либо знание не от тренера, а в результате анализа опыта, полученного в ходе какого-либо упражнения.

Поведение (уровень навыков) - изменение поведения участника в рабочей ситуации, применение им полученных навыков в рабочих условиях. Изменение поведения показывает, что участники на практике применяют знания и навыки, полученные на тренинге. Это важнейший показатель эффективности, поскольку основная цель тренинга - улучшение бизнес-показателей путем совершенствования поведения участников. Ведь новые знания и умения бесполезны, если их не применять.

Результат - выявляются измеримые результаты (например, улучшение качества обслуживания, уменьшение нерациональных расходов и т. д.). В компаниях обычно имеются данные о ключевых, интегральных бизнес-показателях, таких, как объем продаж, прибыль, затраты. Понятно, что проведенный тренинг не является единственным фактором, который влияет на эти показатели, существует много других факторов, как внешних, так и внутренних. И точно измерить вклад тренинга, например, в увеличение объема продаж довольно сложно, особенно, если это был тренинг по лидерским навыкам или по навыкам самоорганизации. Затраты на исследования этого показателя могут многократно превышать стоимость самих тренингов, поэтому этот уровень оценки рекомендуется проводить только в случае проведения долгосрочных и дорогостоящих программ.

То, что произошло с американцем Дональдом Кирпатриком, бывает довольно редко. Полвека назад он предложил концептуальный подход к оценке тренинговых программ, который стал классическим. Любой специалист по оценке сегодня просто обязан знать четыре уровня оценки "по Киркпатрику".

Интересно, что вокруг предложенного Киркпатриком подхода не умолкают споры, однако его модель оценки тренингов остается одной из базовых, а его книги – наиболее цитируемыми. Классик и ныне здравствует, хотя уже отошел от активного бизнеса. Он сделал блестящую карьеру; написал несколько книг, ставших бестселлерами и принесших ему мировую известность; был президентом одного из самых авторитетных профессиональных объединений тренеров и консультантов в мире – American Research and Development Society (ARSD). Сегодня Дональд Киркпатрик продолжает заниматься общественной работой и поддерживает контакты с профессиональным сообществом. Он продолжает публиковать статьи и выступать с лекциями и семинарами на крупнейших форумах.

Итак, что же предложил Киркпатрик?..

Киркпатрик рассматривает оценку как неотъемлемую часть цикла проведения обучения, который включает 10 этапов :

1. Определение потребностей.
2. Постановка целей.
3. Определение предметного содержания.
4. Выбор участников обучения.
5. Формирование оптимального расписания.
6. Подбор соответствующего помещения.
7. Подбор соответствующих преподавателей.
8. Подготовка аудиовизуальных средств.
9. Координация программы.
10. Оценка программы.

1. Оправдать существование отдела обучения, показав, какой вклад делает этот от-дел в достижение целей и задач организации.
2. Принять решение о том, продолжать или прекратить тренинговую программу.
3. -Получить информацию о том, как улучшить тренинговую программу в будущем.

Сам Киркпатрик считает, что в большинстве случаев оценка проводится для того, чтобы понять, как повысить эффективность тренинга, какими способами можно его улучшить . В связи с этим предлагается ответить на следующие 8 вопросов:

1. В какой мере содержание тренинга соответствует потребностям участников?
2. Является ли выбор преподавателя (Киркпатрик использует здесь слово "лидер", которое по-русски имеет совершенно другое значение) оптимальным?
3. Использует ли преподаватель наиболее эффективные методы для поддержания интереса участников, передачи им знаний, формирования у них навыков и установок?
4. Являются ли условия для проведения обучения удовлетворительными?
5. Устраивает ли участников расписание занятий?
6. Способствуют ли аудиовизуальные средства улучшению коммуникации и поддержанию интереса участников?
7. Была ли координация программы удовлетворительной?
8. Что еще может быть сделано для улучшения программы?

Отметим, что все вопросы кроме первого и последнего сформулированы автором как закрытые (предполагающие ответы "да" или "нет"). С точки зрения формулирования вопросов задания для проведения оценки такая форма вопросов хороша далеко не всегда. Однако мы придерживаемся авторского текста.

Киркпатрик считает, что в большинстве случаев оценка ограничивается использованием анкет по окончании тренинга – изучением непосредственной реакции слушателей на обучение. Он называет эти анкеты "листами для улыбки" (smile-sheets), имея в виду, что чаще всего участники используют анкеты для выражения благодарности. Более сложная и глубокая оценка не проводится, потому что

• ее не считают срочной или важной,
• никто не знает, как ее провести,
• руководство не требует этого,
• люди чувствуют себя в безопасности и не видят нужды "копать" глубже,
• есть много вещей, которые для них более важны или которыми они предпочитают заниматься.

Четыре уровня Четыре уровня, по Кирктпатрику, определяют последовательность проведения оценки обучения (тренинга). Он пишет: "Каждый уровень важен и влияет на следующий за ним уровень. При переходе от уровня к уровню процесс оценки становится более трудным и требует больше времени, но при этом позволяет получить более ценную информацию. Ни один из уровней не может быть пропущен просто потому, чтобы сконцентрировать на том, что тренер считает наиболее важным" (надо заметить, что многие специалисты не согласны с этим утверждением Киркпатрика). Вот знаменитые четыре уровня по версии автора:

• Уровень 1 – Реакция (Reaction)
• Уровень 2 – Научение (Learning)
• Уровень 3 – Поведение (Behavior)
• Уровень 4 – Результаты (Results)

Реакция

Оценка на этом уровне определяет, как участники программы реагируют на нее. Сам Киркпатрик называет это оценкой удовлетворенности потребителей . В случае, когда обучение проводится внутри фирмы, реакция участников не всегда интерпретируется как удовлетворенность потребителей. Дел в том, что участие в таких тренингах бывает обязательным. У людей просто нет выбора. Руководство компании определяет необходимость данного тренинга и обязывает сотрудников принимать в нем участие. Казалось бы, в этом случае, нужно говорить о реакции руководства. Киркпатрик подчеркивает, что и в этом случае реакция участников является очень важным критерием успешности тренинга, как минимум, по двум причинам .

• Во-первых, люди так или иначе делятся своими впечатлениями от тренинга со своим руководством, и эта информация уходит выше. Следовательно, она влияет на принятие решений о продолжении тренинга.
• Во-вторых, если участники не будут реагировать позитивно, то у них не будет мотивации к научению. По мнению Киркпатрика, позитивная реакция не гарантирует успешного освоения новых знаний, умений и навыков. Отрицательная же реакция на тренинг почти наверняка означает уменьшение вероятности научения.

Научение

Научение определяется как изменение установок, улучшение знаний и совершенствование навыков участников в результате прохождения ими программы обучения. Киркпатрик утверждает, что изменение поведения участников в результате тренинга возможно только тогда, когда произойдет научение (изменятся установки, улучшатся знания или усовершенствуются навыки).

Поведение

На этом уровне происходит оценка того, в какой степени изменилось поведение участников в результате обучения. Киркпартик указывает на то, что отсутствие изменений в поведении участников не означает, что тренинг был неэффективен . Возможны ситуации, когда реакция на тренинг была позитивной, научение произошло, но поведение участников в дальнейшем не изменилось, поскольку для этого не были соблюдены необходимые условия. Поэтому отсутствие изменения поведения участников после тренинга не может быть поводом для принятия решения о прекращении программы. Киркпартик рекомендует в этих случаях кроме оценки реакции и научения проверить наличие следующих условий :

1. Желание участников изменить поведение.
2. Наличие у участников знаний о том, что и как делать.
3. Наличие соответствующего социально-психологического климата.
4. Поощрение участников за изменение поведения.

Говоря о социально-психологическом климате, Киркпатрик имеет в виду прежде всего непосредственных руководителей участников обучения. Он выделяет пять видов "климата": запрещающий, обескураживающий, нейтральный, поддерживающий, требующий. Позиция руководителя, соответственно, меняется от запрета на изменение поведения до требования изменить поведение после окончания тренинга. Киркпатрик считает, что единственный способ создания позитивного климата – вовлечение руководителей в разработку учебных программ .

Результаты

К результатам относятся изменения, которые произошли в связи с тем, что участники прошли обучение. В качестве примеров результатов Киркпатрик приводит увеличение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров.

Киркпатрик настаивает на том, что результаты не следует измерять в деньгах . Он считает, что перечисленные выше изменения могут, в свою очередь, приводить к увеличению прибыли. Киркпатрик пишет: " Меня разбирает смех, когда я слышу, что профессиональные тренеры должны уметь показывать выгоду для клиента в терминах возврата на инвестиции в тренинг. То же самое я думаю о связи между тренинговыми программами и прибылью. Вы только представьте себе все факторы, которые влияют на прибыль! И можете добавить их к списку факторов, влияющих на возврат на инвестиции".

По мнению Киркпатрика, оценка на этом уровне – самая сложная и дорогостоящая. Вот несколько практических рекомендаций, которые могут помочь в оценке результатов:

• если возможно, использовать контрольную группу (не проходившую обучение),
• проводить оценку через некоторое время, чтобы результаты стали заметны,
• проводить оценку до и после программы (если это возможно),
• провести оценку несколько раз в ходе программы,
• сопоставить ценность информации, которую удастся получить с помощью оценки и стоимость получения этой информации (автор считает, что проведение оценки на 4 уровне не всегда целесообразно в связи с ее высокой стоимостью).

Как построена книга Киркпатрика Kirkpatrick, D. L. (1998). Evaluating training programs: the four levels. San Francisco: Berrett-Koehler Publishers, Inc.

Книга разделена на две неравные части. Первая – описание 4-уровневой модели, теория (примерно 70 страниц). Вторая часть (около 200 страниц) – подробный разбор нескольких конкретных случаев (case studies) и примеры инструментов, используемых для проведения оценки на разных уровнях.

По материалам информационного бюллетеня компании «Процесс Консалтинг» (processconsulting.ru/bulletin1.pdf)

Когда тренинг эффективен?

Сотрудникам HR -департамента и руководителям большинства компаний уже не надо объяснять важность и значимость обучения персонала .

Трудности теперь возникают на этапе оценки реальной эффективности корпоративных бизнес тренингов .

Главная цель бизнес-тренингов: улучшение бизнес-показателей организации путем совершенствования навыков, умений и поведения ее сотрудников.

Кроме того, наличие у работодателя программы обучения персонала, является важным факторов при поиске кандидатом нового места работы. Так как если кандидат собирается повышать свою квалификацию в области продажи услуг, например, то лучше же сделать это за счет работодателя?
Но как менеджерам по персоналу определить, действительно ли имеющиеся программы тренингов и профессионального развития являются эффективными. И в самом ли деле позволяют достичь целей организации? Дональд Киркпатрик (Donald Kirkpatrick) еще в начале 60-х прошлого века представил четырехуровневую модель для оценки качества программ обучения, тренингов, семинаров.

На первом уровне измеряется эмоциональная реакция участников бизнес тренинга на программу обучения.

Казалось бы, оценка программы тренинга на этом уровне не имеет особой важности, так как позитивная реакция участников тренинга еще не будет гарантировать успешного освоения новых навыков и умений.

Но отрицательная реакция участников может свести к минимуму мотивацию персонала к развитию.

Киркпатрик подымает значимость оценки этого уровня, так как дальнейшая работа по улучшению программ тренингов становится практически бессмысленной, если на этом этапе не удалось заинтересовать сотрудников.

Следствием этого будет усложнение оценки результатов работы бизнес тренера, и на следующих уровнях потребует значительно больших усилий и ресурсов HR.

На первом уровне будет достаточно дать анкеты участникам бизнес тренинга в конце обучения, затем собрать и обработать.

На втором уровне модели Киркпатрика оцениваются результаты пройденного участниками тренинга.

Заказчику обучения, HR, необходимо понять в какой мере участникам тренинга удалось усвоить именно те навыки и умения, ради которых и проводили данный курс и готовили программу обучения.

Для оценки этого уровня можно применять специально разработанные тесты и задания по определению степени развития этих самых навыков, лучше предварительно оцифровав их (например по шкале от 1 до 10).

Затем сравнивать результаты участников до начала тренингов и после их завершения согласно выбранной шкале.

Было до тренинга: +2, а после него стало +5.

что ж, значит было за что бороться HR, и что-то получил "продажник" на самом деле!

Следует помнить и о методе простого наблюдения за поведением участников во время выполнения заданий и проведения бизнес игр со стороны тренера.

Затем это наблюдение финиширует описанием в отчете кратких характеристик участников.

Но, новые знания сотрудника практически не несут никакой ценности для компании без умения и желания их использовать. А вот с этим порой много сложнее.

Почему, так как само по себе таящееся знание в голове сейлз менеджера не влияет на эффективность его продаж.

Поэтому важно чтобы произошло «осознание», то есть была усвоена ни только информация, полученная непосредственно от тренера, но и был бы получен собственный опыт по завершению тренинга.

Разрешить эту проблему может только третий уровень модели Киркпатрика.

Вполне возможно привлечение и клиентов к оценке эффективности тренинга.

Например, оценивая тренинг продаж можно использовать анкеты клиента или произвести анализ изменений характера записей в книге жалоб и предложений в случае прохождения тренинга направленного на повышение клиентоориентированности услуг.

На четвертом уровне модели Киркпатрика оценивается воздействие обучения на бизнес-результаты организации.Это расчетный уровень, требующий предварительного расчета перед тренингом, например расчета рентабельности продаж для всего отдела продаж (сейлзменов - продажников ). А затем тот же расчет по той же методике, но уже после программы обучения.

Этот этап и метод важен для топ менеджмента, так как именно на этом уровне производится конечная оценка эффективности вложений в мероприятия по обучению.

Измерение изменений результатов деятельности компании производится как по качественным показателям (изменение имиджа компании, узнаваемости бренда, улучшение психологического климата и др.), так и по количественным (снижение на Н% текучести кадров, увеличения на Р% объема продаж и др.). Оценка на таком уровне самая сложная и высокая по стоимости.

Модель Киркпатрика уже долгое время используется многими HR менеджерами для оценки и улучшения программ обучения и профессионального развития.

Она позволяет учесть интересы трех ключевых заинтересованных групп. Топ менеджерам компаний модель помогает принимать решения: «Стоит ли тренинг инвестированных в него затрат средств и ресурсов? Или следует направить в следующий раз их на другие цели?». Сотрудник сможет выяснить, как обучение повлияет на эффективность его работы или окажет влияние на карьеру. Бизнес тренер же сможет оценить реальную эффективность своих тренингов и работы выразив результат в полученной прибыли заказчика.

Жажда объективности в оценке тренинга послужила основ­ной причиной разработки модели Д. Киркпатриком. В основе подхода лежит принцип разделения четырех уровней анали­за, расположенных в хронологическом порядке (на тренинге, сразу после тренинга, после тренинга и в долгосрочной пер­спективе):

1. Уровень реакции участников (изучается мнение и отноше­ние участников - понравилось или не понравилось);

2. Уровень усвоенных знаний (изучается комплексное вли­яние тренинга на эмоциональный настрой, изменение профессиональной мотивации участников, получение новой информации);

3. Уровень поведения участников (анализируется измене­ние поведения на рабочем месте в результате получен­ных на тренинге знаний);

4. Уровень эффекта от участия (влияние участия в тренин­ге на результаты работы организации, например: сниже­ние оттока кадров, увеличение объема продаж).

Специфика оценки результатов тренинга по модели Киркпатрика заключается в двух моментах. Во-первых, подход можно трактовать как попытку отделить эмоциональное вос­приятия тренинга от рационального. Во-вторых, предложен­ный подход демонстрирует различия в оценке, зависящие от времени подведения итогов: в момент предварительной диа­гностики, анализа результатов во время тренинга и сразу пос­ле длительного их изучения по его окончании.

Несмотря на очевидное преимущество панорамы мне­ний, ограничения в применении модели Киркпатрика тоже есть.

При внимательном рассмотрении модели создается впе­чатление, что в сравнении с самим тренингом процесс оценки начинает доминировать. Так или иначе, в его осуществление вовлечены все возможные стороны. Оценка начинается до начала занятий и длится долго после их окончания. Именно это заставляет усомниться в эффективности самого механиз­ма. Во-первых, процедуры и процесс оценки требуют боль­ше затрат, чем сам тренинг (при этом расходы на проведение оценки почему-то не учитываются). Во-вторых, попытка оп­ределить различия в уровнях оценки не дает видения целого и получить ответ на вопрос: есть ли у тренинга результаты и если да, то какие?

Не менее популярным подходом к оценке результатов тренин­га является модель (Return On Investments - рентабельность инвестиций), предложенная Дж. Филипсом. Честно говоря, ROI - лишь один из элементов сложной, на этот раз пяти­уровневой системы, во многом аналогичной рассмотренной выше. Но попытка определить результаты тренинга через «формулу успеха» определила общее отношение.

На первом уровне производится оценка реакции участ­ников, т.е. сбор мнений о тренинге, проведенный в виде ан­кетирования. На втором уровне предполагается измерение усвоения учебного материала. На этом уровне тренер оце­нивает результаты обучения методами тестирования, конт­рольных упражнений, экзаменов. На третьем уровне анализу подвергаются изменения в поведении участников по оконча­нии обучения, возможность использования полученных зна­ний и навыков на практике. Основной метод оценки в этом случае - тестирование, и сравнение результатов до и после тренинга. Однако метод не исключает косвенных показате­лей эффективности: например, увеличение объема продаж после проведенного тренинга для торговых представителей. Обратите внимание: предположительный период оценки по­казателей третьего уровня - от нескольких месяцев до по­лугода.

И только на четвертом уровне предлагается рассчитать воз­врат на инвестиции в обучение персонала. Расчет формулы прост: затраты на обучение должны быть не только окупаемы­ми, но быть значительно меньше выгоды организации, полу­чаемой по окончании тренинга.

ROI = (Доход - Затраты) / Затраты X 100%

Несмотря на кажущуюся простоту и привлекательность «формулы успеха», основная трудность в ее применении - очевидное увеличение расходов. Затраты на проведение пред­варительного и последующего за тренингом анализа становят­ся критическими. И если прибыль от инвестиций в обучение персонала посчитать возможно, то как оценить финансовую эффективность сопроводительных мероприятий?

Но формула - это еще не все. Предполагается пятый уро­вень оценки, а именно, посттренингового сопровождения. В этом случае предлагается предусмотреть и подсчитать расхо­ды на создание дополнительных инструкций, подготовку из­даний, методичек и видеоархива, что со временем позволит поддерживать полученные на тренинге знания и навыки в ра­бочем состоянии.

Идея посттренингового сопровождения в компании отража­ет возможность поддержания, контроля и управления процес­сом подготовки персонала. Мы обеими руками «за» организа­цию посттренингового комплекса мер. Но все-таки в компании должны быть созданы рабочие, а не учебные условия, при ко­торых участники тренинга могут применять новые знания и навыки и обеспечивать прибыль. Попытка создания спецус­ловий для «непрерывного тренинга» демонстрирует, скорее, отсутствие представлений о конечности (и, следовательно, результативности) программы обучения. Но тренинг конечен. В противном случае измерить результаты очень трудно.

Существуют и другие ограничения многоуровневого под­хода, предложенного Дж. Филипсом. Оценка эффективности тренинга становится внутренним делом компании-заказчи­ка. Даже если тренер принимает участие в многоступенчатой аналитической страде, процессом анализа результатов он не управляет. В дополнение следует сказать, что длительный процесс сбора и обработки информации принципиально уве­личивает затраты.

В основе рассмотренных многоуровневых подходов лежит заполнение бесчисленных анкет и опросников, которые плани­руется внимательно изучить, проанализировать и сделать пра­вильные выводы. Работа персонала стоит. Поскольку сначала потенциальные участники, а также их руководители отвечают на вопросы анкеты, потом учатся и продолжают отвечать на вопросы анкеты, заканчивают обучение и снова приступают к ответам на вопросы. Процесс может затянуться.

Фактически предложенный подход позволяет провести са­мостоятельное исследование. Однако практика тренерской работы показывает, что, несмотря на обилие разных по форме и содержанию вопросов, выводы об эффективности того или иного тренинга в этой ситуации сделать неимоверно трудно. Поэтому заполненные анкеты не только не позволяют увидеть результат проделанной работы, но часто становятся безмолв­ным свидетельством того, что работа была проделана с... не­известным результатом.

ПО ПОЗИЦИЯМ

Многоступенчатые возможности оценки результатов тренин­га важны, но не всем и не всегда по силам. Чаще тренер на­ходится в ситуации «здесь и сейчас», где необходимо быстро принять решение в условиях ограниченных ресурсов. В то же время поскольку в открытом и, особенно, в корпоративном тренинге de facto принимают непосредственное участие от двух до четырех заинтересованных сторон, оценка эффектив­ности с разных позиций будет, так или иначе, отличаться.

Поэтому для нас, прежде всего, важно знать принципиаль­ные различия и точки пересечения задач, интересов, ожиданий и возможностей всех участников «мирного процесса».

Напомним, что основными субъектами тренинга являются:

1. тренер (непосредственный исполнитель, инструктор, ве­дущий);

2. участники тренинга (вне зависимости от формы проведе­ния тренинга);

3. заказчик тренинга (руководитель, HR-менеджер, генераль­ный директор, собственник);

4. организатор тренинга (тренинг-провайдер, работодатель тренера).

Совершенно очевидно, что позиции для оценки тренинга разные, а интересы сторон не всегда пересекаются. Но имен­но поэтому четкое понимание эффективности важно для всех субъектов тренинга. Рассмотрим последовательно основные задачи, ценности, критерии и «болевые» точки эффективнос­ти тренинга для всех позиций.

Сам себе тренер

Не стоит перекладывать работу по оценке результатов своего труда на плечи третьих лиц. Нет сомнений, что они прекрасно справятся. Но не отчуждайте от себя, как учил нас еще Карл Маркс, результаты своего труда. Поскольку в этом случае они точно не будут вам принадлежать. А ведь вам еще работать и работать...

Если говорить серьезно, то, конечно, тренер сам должен знать, что получилось, что не получилось и почему. Более того, он всегда это знает, только иногда не хочет признаваться. Конечно, в случае неудачи с тренингом можно попробовать кокетничать и капризничать: «Не та аудитория, не та мотива­ция, не тот заказчик, не тот заказ...». Но это скромный вклад в тренерский аутотренинг. Не более. Оценить результаты тре­нинга позволяют поставленные и принятые задачи.

Основными задачами работы тренера, наряду с собственно обучением, являются выполнение заказа (в соответствии с ус­ловиями договора) и общий позитивный эффект от участия в тренинге, который обеспечит репутацию компании-органи­затору и позволит клиенту в дальнейшем обратиться повтор­но. Решению этих основных задач подчинены все популярные критерии оценки.

Эффективность тренера, прежде всего, отражается в содер­жании программы тренинга, в умении ориентироваться в те­матике, отраслевой специфике, а также в навыках аргумента­ции и в ответах на вопросы участников. Наряду с проявлением собственной компетенции тренер должен обучить участников, поэтому критериями эффективности тренинга являются вы­полнение участниками всех заданий, тестов, а также публич­ная демонстрация полученных знаний и навыков. Методами самооценки тренера становятся личное наблюдение, тесты, контрольные и практические работы для определения дина­мики развития навыков, знаний, установок в работе участни­ков в процессе тренинга.

Вместе с тем тренер должен обеспечить такую нематериальную вещь, как положительный эмоциональный настрой в процессе обучения. Поэтому в качестве оценки эффективности принято считать наличие интереса участников, известного как мотивация к обучению, и отсутствие напряженности и конфликтов.

Интерес обеспечивается соответствием программы обуче­ния производственным задачам участников, уровню их про­фессиональной подготовки и интересом тренера к своей рабо­те. Если вы уныло тянете лямку, не уверены в своей правоте, не видите перспектив, не дотягиваете до уровня участников, не подготовлены - не надейтесь, что у аудитории появится интерес к предмету обучения.

Основным индикатором тренерского провала станет за­тяжное публичное сопротивление: препирательства тренера с участниками, напоминание участников о том, что они заплати­ли за обучение, нежелание выполнять задания и упражнения, высказанные сомнения в квалификации тренера. Обращаем внимание на бессмысленность переноса ответственности за «неправильное» поведение на особенности характера участ­ников. Именно тренер руководит группой во время тренинга, поэтому навык успешного управления группой является од­ним из критериев качества работы.

Соблюдение всех параметров, успешное управление эмо­циями участников, более того, создание позитивного настроя позволяют говорить об успехе тренинга. По окончании тре­нинга вы можете провести анкетирование, можете предоста­вить участникам возможность выступить устно. Но, если в процессе тренинга ни у группы, ни у заказчика, ни у органи­заторов претензий к тренеру не возникло, а его работа была востребована в дальнейшем, то тренинг можно считать эф­фективным и успешным.

Однако даже при умении выполнять поставленные зада­чи, следовать программе, вызывать искренний восторг и вос­хищение участников новыми горизонтами тренеру не стоит расслабляться. Существуют дополнительные условия, учет которых необходим для успешной работы. Так, например, в корпоративном тренинге наряду с ожиданиями участников тренинга важно знать и учитывать интересы заказчика.

Несмотря на то что именно заказчик оплатил обучение участников, их интересы заметно отличаются. Если для учас­тников основным приоритетом является личностный рост и совершенствование собственных навыков, задачи заказчика лежат в плоскости повышения конкурентоспособности ком­пании и снижения издержек, связанных с трудовыми ресур­сами. Поэтому особенно в корпоративном тренинге тренеру не обойтись без его поддержки. В противном случае тренинг превращается в поединок между тренером и заказчиком.

Противостояние тренера и заказчика может быть вызва­ны разными причинами: конкуренцией за внимание участ­ников, неуверенностью заказчика в квалификации тренера, различными представлениями о возможностях и методах тренинга. Отсутствие взаимопонимания может стать пово­дом для публичного проявления сомнений в эффективности и профессионализме тренера. Тренинг перестает выполнять учебные задачи, превращаясь в ярмарочный аттракцион по перетягиванию каната. Однако любые попытки тренера «понравиться» заказчику только усиливают сопротивление, заметно снижая возможность успешного завершения тре­нинга.

Существуют только два метода преодоления разрушитель­ного конфликта с заказчиком. Причем все усилия необходи­мо предпринимать задолго до начала тренинга. Прежде всего, стоит избегать прямого вмешательства заказчика в тренинг в процессе публичной работы, а все основные параметры тре­нинга отражать в договоре. Если конфликт все-таки произо­шел - только договор останется единственным беспристраст­ным арбитром.

Даже если заказчик в тренинге лично не участвует, необхо­димо заранее узнать его нормы, ценности, установки, для того чтобы содержание самого блестящего тренинга не оказалось в противоречии с принятой корпоративной культурой компа­нии. В противном случае участникам просто не представится счастливая возможность применить новые знания и навыки на практике.

Планируя оценку своей работы, тренеру стоит учитывать, что интересный тренинг может дать участникам новые знания и навыки, избыточные для выполнения ежедневных должнос­тных обязанностей, что приведет к разочарованию по окон­чании тренинга, активизации поиска лучшими из участников новой работы и в любом случае - к недовольству заказчика.

Как видим, оценка эффективности тренинга с позиции тре­нера не ограничивается знанием предмета, умением подгото­вить программу интенсивного обучения и успешно управлять эмоциями участников. От тренера потребуется детальное вос­становление интересов и задач заказчика, карьерных перспек­тив и возможностей участников и их учет в планировании и проведении учебной программы. Кроме того, согласование договорных условий позволит проявить незаурядный дипло­матический талант, поскольку именно тренеру придется во­площать в жизнь все обещания.

Организатор

Следует отметить, что критерии оценки эффективности тре­нинга, применяемые провайдерами - работодателями тре­нера, в силу различия задач будут отличаться от критериев оценки самого тренера. Другими словами, основными задача­ми организатора являются успешное выполнение заказа и... управление персоналом, или самим тренером. За понятием успешного выполнения заказа обычно тоже стоят эмоции: до­вольный клиент и участники.

Организаторы гордятся выполнением заказа и стремятся публично продемонстрировать успех компании отзывами участников и клиентов тренинга. Поэтому под качеством обычно понимается высокое положительное эмоциональ­ное напряжение участников, которое находит свое отраже­ние в многочисленных отзывах: «Семинар мне понравил­ся, во-первых, он своевременный, а во-вторых, грамотно и доступно проведен»; «Замечательно! Поучительно!»; «Ин­тересно, нестандартно. И как следствие - высокая усвоя­емость материала»; «После тренинга появились легкость, непринужденность в общении с людьми, в том числе с ру­ководством и коллегами по работе. Жить стало интересней и веселей».

Конечно, тренеру важно ориентироваться на ожидания ор­ганизатора. Однако противоречие заключается в том, что, в отличие от организатора, заказчик ждет от тренинга не только довольных и воодушевленных, но и подготовленных кадров.

В оценке тренинга организатору важно запастись терпени­ем и учитывать не столько сиюминутный настрой. Несмотря на то, что бесконфликтность - хороший показатель стабиль­ности работы тренера, всегда существует опасность, что за вре­мя тренинга всем довольная группа так ничему не научилась.

У организатора немного рычагов влияния на ход тренинга. Любые попытки изменить действия тренера только усиливают беспомощную и неуправляемую ситуацию. Однако возмож­ность создать условия для позитивного настроя участников существует: заранее ознакомиться с программой, принци­пами обучения и подготовить все необходимые условия для комфортной работы, в том числе удобное помещение, встречу участников и организацию питания. От этих факторов будет зависеть и результат и настроение.

Решение задачи управления тренером лежит в плоскости трудового договора. Вне зависимости, ведет семинар штатный труженик или free-lance, организатор в оценке тренера будет использовать стандартные для любой работы критерии оцен­ки: «качественно и в срок», отсутствие сбоев, соотношение «цена - качество», выполнение всех условий договора, вос­требованность заказчиком. В целом работа тренера не должна вызывать нареканий организаторов. В противном случае они просто предпримут шаги по поиску нового тренера.

Заказчик

Критерии эффективности для заказчика тренинга отражают, прежде всего, возможности экономической отдачи от обуче­ния персонала, инвестиций в человеческие ресурсы. Самые продвинутые заказчики попытаются оценить и рассчитать экономическую эффективность «по формуле». Но, как пра­вило, кроме общих теоретических рассуждений о процентном соотношении ВНП на инвестиции в персонал в США, Европе или Японии и безнадежной информации о том, что средний период окупаемости инвестиций в персонал составляет от 10 до 25 лет, современная экономическая мысль не предлагает.

Экономическую эффективность тренинга трудно вычислить из-за существующей дистанции между ограниченными пол­номочиями службы персонала, направляющей сотрудников на обучение, условиями труда и системой мотивации сотрудников, находящимися в компетенции других служб, поскольку на про­изводительность труда влияет не только обучение, но и условия труда, заработная плата, структура управления. Тренинг как ра­зовая акция способен поднять продажи до 40%. Задача руководи­теля - этот результат удержать.

Основное условие для получения результата от инвести­ций в человеческие ресурсы - своевременность обучения, поскольку все благие идеи подготовки сотрудников в качестве трудового резерва без применения на практике полученных навыков не оправдают расходов на тренинг. Говоря о задаче изменения мотивации и принципов управления сотрудника­ми при помощи средств обучения, напомним, что само учас­тие в тренинге мотивирующим фактором не является.

Помимо экономических существуют управленческие кри­терии эффективности тренинга. Среди них особое внимание заказчики уделяют наличию воспитательного эффекта, в том числе повышения уровня лояльности группы участников (или участника) к ценностям компании, адекватность тре­нинга корпоративным ценностям, принципам и правилам работы, а также благодарности сотрудников за участие и за­боту.

Как правило, заказчики ожидают, что в тренинге не будут продвигаться идеалистические идеи, которые не соответству­ют идеологии и практике работы в конкретной компании. На­пример, в крупной компании заказчика существует жесткая иерархия процедуры принятия решений, которая в тренинге рассматривается как атавизм тоталитарной системы, и предла­гается командный стиль в работе. В этом случае по окончании тренинга закономерно возникнут взаимные упреки: «Как вы работаете? Нас учили иначе...».

Для заказчика важно, чтобы содержание тренинга не ста­вило под сомнение авторитет руководителя и корпоративную культуру компании. Заказчик рассчитывает, что в программе корпоративного тренинга будут учтены возможности балан­са теоретических знаний и практических навыков. Основная сложность возникает в случае компромиссного согласия орга­низаторов и тренера решить в тренинге заведомо неразреши­мые задачи. Например, изменить систему мотивации сотруд­ников без изменения реальных условий труда.

Одна из важных для заказчика задач тренинга - расшире­ние возможностей управления коллективом. И только в этом контексте заказчика будет интересовать сплоченность коллек­тива и развитие потенциала сотрудников.

Любой корпоративный тренинг является публичной пло­щадкой. Это означает, что возможны не только созидательные проявления, но и возникновение трений и конфликтов. Пос­кольку корпоративное обучение обычно происходит по ини­циативе руководства, в группе могут оказаться недовольные отрывом от работы, потенциальные конкуренты руководства, специалисты более высокой квалификации, чем тренер.

Существующее скрытое сопротивление в коллективе может получить на тренинге прекрасный шанс вылиться в митинг протеста против руководства с вовлечением в ряды недоволь­ных новых активистов. В результате коллектив может выйти из тренинга подготовленным и сплоченным, но... против ру­ководства.

Именно поэтому заказчику необходимо заранее удостове­риться в профессионализме и компетентности тренера и ком­пании - организатора тренинга, познакомиться с программой и четко обозначить свои задачи. В конечном счете, заказчик ожидает, что после тренинга количество рычагов управления сотрудниками увеличится, а не наоборот.

Участник

Оценка эффективности тренинга с позиции участника сложна и многогранна, поскольку сильно зависит от индивидуальной специфики: мотивации, особенностей восприятия, уровня подготовки, личных целей и задач. В основном проводимая участниками в форме ответов на устные или письменные вопросы оценка тренинга охватывает два уровня: эмоциональный (понравилось - не понравилось) и прагматический, отража­ющий возможную пользу (или ее отсутствие) для работы. Но указанные критерии не всегда полно отражают реальную кар­тину, которая нередко имеет второе, скрытое дно.

Часто именно с тренингом связаны большие надежды на обучение не в виде однообразного заучивания и утомительно­го конспектирования, а в форме увлекательного и зрелищного развлечения. Поскольку взрослые участники опасаются быть некомпетентными в вопросах, рассматриваемых в тренин­ге, они ожидают, что свет знаний и навыков будет освещать новые горизонты не только быстро, но и по возможности без особых усилий и риска для профессиональной репутации.

Подобные ожидания участников существенно подкрепля­ются игровой традицией в современном тренинге, формиру­ющей и поддерживающей представления о том, что перенос задачи освоения профессиональных навыков в игровую плос­кость позволяет добиться впечатляющих результатов. В свою очередь, доминирование в тренингах психологического подхо­да создает акцент на решении проблем личности и межличнос­тных взаимоотношений. Поэтому не стоит удивляться, увидев, что ожидания участников тренинга лежат в плоскости возмож­ного проявления положительных эмоций при накале страстей, общения с коллегами, отвлечения от рутинной работы.

Однако любая эффективная учебная работа в интенсивном тренинге для взрослых, опытных людей неизбежно проходит через два сложных и болезненных процесса: «преодоления» и «созидания». Преодоление требует умения отказаться от лич­ных подозрений, профессиональных иллюзий и статусных амбиций, критично пересмотреть свой предыдущий опыт, «открыть» себя для сознательного усвоения нового материала. Созидание представляет собой усилия как для овладения но­выми знаниями и навыками, так и для критического осмысле­ния новых условий, в которых они будут применяться.

К сожалению, очень часто открыты ко всему «новому и ин­тересному» только люди, которые воспринимают обучение как развлечение, а содержательную часть тренинга как необхо­димое дополнение к вкусному обеду или вниманию руководства. Как только участники тренинга начинают задумываться, анализировать, незамедлительно появляются грустные мысли и негативные эмоции. Опытным и вполне успешным в карь­ере специалистам очень сложно признаться себе в професси­ональных заблуждениях, штампах, неудачах, сдерживающих дальнейшее развитие и эффективность работы. Процессы преодоления и созидания часто сопряжены с проявлением т.н. «групповой динамики».

С другой стороны, участники ожидают получить возмож­ность для демонстрации своей состоятельности и компетент­ности в рассматриваемом вопросе. При этом участникам хо­телось, чтобы само по себе участие в тренинге повысило их статус. Однако они меньше всего заинтересованы быть прове­ренными на усвоенные знания и навыки, тем более работать в измененных условиях и нормативах по окончании обучения.

Конечно, ни тренер, ни участники, ни тем более заказчик не хотят конфликтов. Компромиссным спасением репутации тренеров обычно становится проведение всего тренинга под флагом «толерантного» отношения к любому, даже неверно­му мнению. Популярная идея безоценочной обратной связи заметно ограничивает возможности конфликта, но и не ос­тавляет пространства для реалистичной оценки ситуации. Поэтому, несмотря на то что бесконфликтность - хороший показатель стабильности работы тренера, существует опас­ность, что за время тренинга всем довольная группа так ниче­му не научилась.

В то же время, наряду с общими ожиданиями и представ­лениями, существуют различия в мотивации участников кор­поративного и открытого обучения. Так, например, участни­ки открытого тренинга в большей степени ориентированы на получение результата, поэтому очень внимательны и требо­вательны к программе, работе и квалификации тренера, соб­людению условий договора.

Большая требовательность и серьезное отношение к тре­нингу вызваны тем, что участники открытых программ обычно самостоятельно выбирают и оплачивают курс или прилагают усилия для обоснования необходимости своего обучения у руководства. Разочарование мотивированных участников может вызвать только низкий уровень тренинга, невысокая квалификация тренера, несоответствие програм­мы предварительной рекламе и обещаниям. Но в этом случае от участников требуется большая щепетильность и дотош­ность в выборе учебной программы, а от тренера - повыше­ние квалификации.

С участниками программ внутрифирменного обучения дело обстоит сложнее. Участники корпоративных тренингов, как правило, менее мотивированы на обучение и испытыва­ют сложный комплекс противоречивых чувств. Недоверие к тренингу заметно усиливается воздействием коллектива и ожиданием последствий на работе. Напряжение участников вызывает ожидание перемен на рабочих местах по окончании тренинга. Тренинг может полярно восприниматься и как под­тверждение исключительности одного из специалистов, как дополнительный компенсационный пакет или даже как санк­ции со стороны руководства.

В целом гамма чувств участников, пришедших на тренинг без особого личного желания, может проявляться в разных формах саботажа. Тренеру может «попасть» за все организа­ционные неудачи и просчеты заказчика: невысокую зарплату, грубость и невнимание, за то, что тренинг проходит в «закон­ные» выходные, за то, что собрали вместе лидеров и отстаю­щих, старослужащих и новичков, руководителей и подчинен­ных и т.д.

На наш взгляд, именно поэтому сегодня на рынке домини­руют игровые и психологические подходы в проведении боль­шинства тренингов. Действительно, перевод сложных профес­сиональных проблем в пласт игры и переключение внимания участников на анализ личных психологических особенностей может спасти репутацию тренера. Это великолепное решение. Играть и узнавать про себя. Однако производственных задач такое обучение не решает.

Еще один подводный камень корпоративного тренинга - избыточная или несвоевременная подготовка участников. Несвоевременность подготовки, любые попытки обучить со­трудников впрок в рамках концепции «lifelong learning» часто активизируют поиск возможностей дальнейшего применения полученных знаний и навыков вне стен компании, но на луч­ших условиях. Парадокс: «непрерывное образование» исклю­чительно облагораживает конкретного индивида, но для орга­низации может оказаться губительным.

Специфика корпоративного обучения проявляется и в том, что вне зависимости от типа тренинга основным приорите­том участников является приобретение новых знаний для себя лично и только во вторую очередь - для компании. Чем луч­ше подготовлен специалист, тем больше возникает професси­ональных амбиций: на должность, на зарплату, на уважение и почет. Отлично подготовленному персоналу после тренинга может стать тесно в своей организации. Поэтому, прежде чем «тренировать», необходимо определить, что изменится на ра­бочих местах сотрудников, кроме увеличения нагрузки.

Другими словами, может получиться и так: «что сотруд­нику хорошо, то работодателю смерть». Успешно подгото­вив специалистов на тренинге, заказчик может оказаться не в состоянии изменить процедуры, нормативы, условия труда и вознаграждение в практической жизни. В результате под­готовленный сотрудник станет просто недосягаем для своего патрона.

Практика показывает, что участники корпоративного тре­нинга менее всего склонны думать об экономической эффек­тивности тренинга как отдаче от инвестиций заказчика. Это неудивительно, поскольку в этом случае не они принимали ре­шения и не они платили за тренинг самостоятельно. Решение вопросов личной и экономической ответственности участни­ков перед заказчиком могут решаться методом предъявления претензий непосредственно к тренеру: не научил, не объяснил, не подготовил. Или, например, невозможностью работать в предложенных условиях: «Подушка жесткая, одеяло колючее, кофе не крепкий, чай не сладкий и т.д.».

Несмотря на то, что участники корпоративного тренинга могут высоко оценить эмоциональный эффект от тренинга («понравилось, интересно, весело»), они тут же совершенно безжалостно скажут, что ничему не научились. Это мнение до­статочно распространено и заведомо ставит тренера в зависи­мую позицию: «Не смог научить всех - плохой специалист».

Так или иначе, позитивные и негативные эмоции участни­ков на входе и по окончании тренинга не являются мерилом эффективности тренинга. Нравится, не нравится - очень субъективная оценка, которую можно отнести к развлечени­ям, а к тренингу - едва ли. При рассмотрении эффективности обучения нужны иные аргументы, которые позволят ответить на вопрос о применимости полученных знаний и навыков на реальных рабочих местах.

Обучение, несмотря на то что само понятие имеет почти сакральный смысл, - процесс, требующий усилий не только со стороны учителя, но и, в первую очередь, ученика. Обра­тите внимание на закономерность: чем больше усилий будут прилагать ваши участники, тем дороже станут для них резуль­таты тренинга, тем больше положительных эмоций, впечатле­ний, отдачи.

Квартет

Как видим, у всех четырех сторон, участвующих в тренинге, будет разное отношение и разное мнение по вопросу резуль­тативности занятий.

Для тренера основным приоритетом станет собственная ре­путация, востребованность, заработок, позитивный настрой группы, выполнение обязательств контракта.

Для заказчика важна экономическая отдача от тренин­га, иными словами, соразмерность затрат полученным пре­имуществам. За редким исключением, заказчику не важны подходы и методика обучения, применяемая в тренинге. Приоритеты заказчика касаются возможности персонала но­выми, полученными в ходе обучения навыками выполнить новые профессиональные задачи. К очевидным приоритетам заказчика также отнесем лояльность персонала, возможность более эффективно управлять и отсутствие деструктивного влияния тренинга на корпоративную культуру и деятель­ность компании в целом. Кроме того, для заказчика важно, чтобы обученный персонал стабильно работал в интересах организации.

Для провайдера (организатора тренинга) важна лояльность тренера, сохранение (в идеале усиление) репутации в глазах заказчика, экономический результат от деятельности каждого конкретного тренера. Повторные обращения.

Для участника тренинга важен собственный личностный рост, раскрытие новых возможностей, собственная состоя­тельность, приобретение конкурентного преимущества, дру­гими словами, будущие перспективы, причем как в компании, так и, возможно, за ее пределами.

дипломная работа

1.6 Модель оценки эффективности обучения Д. Киркпатрика

Как уже неоднократно упоминалось выше, проблема оценки эффективности обучения все еще остается актуальной для многих компаний, занимающихся развитием своего персонала.

Интересно, что вокруг предложенного Киркпатриком подхода не умолкают споры, еще в конце 1950-х годах, он сформулировал ныне известные 4 уровня оценки эффективности, однако его модель оценки тренингов остается одной из базовых, а его книги - наиболее цитируемыми. Киркпатрик рассматривает оценку как неотъемлемую часть цикла проведения обучения, который включает 10 этапов:

1. Определение потребностей.

2. Постановка целей.

3. Определение предметного содержания.

4. Выбор участников обучения.

5. Формирование оптимального расписания.

6. Подбор соответствующего помещения.

7. Подбор соответствующих преподавателей.

8. Подготовка аудиовизуальных средств.

9. Координация программы.

10. Оценка программы.

Киркпатрик считает, что в большинстве случаев оценка ограничивается использованием анкет по окончании тренинга - изучением непосредственной реакции слушателей на обучение. Он называет эти анкеты "листами для улыбки" (smile-sheets), имея в виду, что чаще всего участники используют анкеты для выражения благодарности.

Четыре уровня, по Кирктпатрику, определяют последовательность проведения оценки обучения. Он пишет: «Каждый уровень важен и влияет на следующий за ним уровень. При переходе от уровня к уровню процесс оценки становится более трудным и требует больше времени, но при этом позволяет получить более ценную информацию» .

· Уровень 1 - Реакция (Reaction)

· Уровень 2 - Научение (Learning)

· Уровень 3 - Поведение (Behavior)

· Уровень 4 - Результаты (Results)

1. Реакция

Оценка на этом уровне определяет, как участники программы реагируют на нее. Сам Киркпатрик называет это оценкой удовлетворенности потребителей. В случае, когда обучение проводится внутри фирмы, реакция участников не всегда интерпретируется как удовлетворенность потребителей. Зачастую руководство определяет необходимость участия в какой-либо образовательной программе. Киркпатрик подчеркивает, что и в этом случае реакция участников является очень важным критерием успешности тренинга, как минимум, по двум причинам.

· Во-первых, люди так или иначе делятся своими впечатлениями от тренинга со своим руководством, и эта информация уходит выше. Следовательно, она влияет на принятие решений о продолжении тренинга.

· Во-вторых, если участники не будут реагировать позитивно, то у них не будет мотивации к научению. Позитивная реакция не гарантирует успешного освоения новых знаний, умений и навыков. Отрицательная же реакция на тренинг почти наверняка означает уменьшение вероятности научения.

2. Научение

Научение определяется как изменение установок, улучшение знаний и совершенствование навыков участников в результате прохождения ими программы обучения. Изменение поведения участников в результате тренинга возможно только тогда, когда произойдет научение (изменятся установки, улучшатся знания или усовершенствуются навыки).

3. Поведение

На этом уровне происходит оценка того, в какой степени изменилось поведение участников в результате обучения. Киркпартик указывает на то, что отсутствие изменений в поведении участников не означает, что тренинг был неэффективен. Возможны ситуации, когда реакция на тренинг была позитивной, научение произошло, но поведение участников в дальнейшем не изменилось, поскольку для этого не были соблюдены необходимые условия. Поэтому отсутствие изменения поведения участников после тренинга не может быть поводом для принятия решения о прекращении программы. В этих случаях кроме оценки реакции и научения рекомендуется проверить наличие следующих условий:

· Желание участников изменить поведение.

· Наличие у участников знаний о том, что и как делать.

· Наличие соответствующего социально-психологического климата.

· Поощрение участников за изменение поведения.

Говоря о социально-психологическом климате, Киркпатрик имеет в виду прежде всего непосредственных руководителей участников обучения. Он выделяет пять видов "климата": запрещающий, обескураживающий, нейтральный, поддерживающий, требующий. Позиция руководителя, соответственно, меняется от запрета на изменение поведения до требования изменить поведение после окончания тренинга. Киркпатрик считает, что единственный способ создания позитивного климата - вовлечение руководителей в разработку учебных программ.

4. Результаты

К результатам относятся изменения, которые произошли в связи с тем, что участники прошли обучение. В качестве примеров результатов Киркпатрик приводит увеличение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров. Результаты не следует измерять в деньгах.

По мнению Киркпатрика, оценка на этом уровне - самая сложная и дорогостоящая. Вот несколько практических рекомендаций, которые могут помочь в оценке результатов:

· если возможно, использовать контрольную группу (не проходившую обучение),

· проводить оценку через некоторое время, чтобы результаты стали заметны,

· проводить оценку до и после программы (если это возможно),

· провести оценку несколько раз в ходе программы,

· сопоставить ценность информации, которую удастся получить с помощью оценки и стоимость получения этой информации (автор считает, что проведение оценки на 4 уровне не всегда целесообразно в связи с ее высокой стоимостью).

К принципиальным недостаткам данного подхода относится тот факт, что выделенные информационные блоки не связаны между собой, кроме этого отсутствуют механизмы обратной связи, позволяющие управлять процессом генерации и передачи знаний.. Остальные трудности связаны с неразработанностью процедурного уровня сбора информации и ее обработки. Вследствие этого:

1) обобщенные числовые характеристики объективно не отражают состояния и отношения в измеряемой эмпирической системе;

2) используемые измерительные техники не обладают свойствами валидности, чувствительности и надежности;

3) не учитывается влияние внешних факторов;

4) не ясно, как выделить «чистый эффект» от обучения».