Материал предоставлен https://it.rfei.ru

Отбор экспертов и организация их работы

При выборе экспертов должны быть поставлены следующие обязательные условия:

  • эксперт должен быть компетентным в тех вопросах, которые выносятся на экспертизу;
  • эксперт не должен являться лицом, принимающим решение на основе полученной информации. Он может быть только советником того, кто берет на себя ответственность за постановку цели, план, программу или проект. В противном случае возникает соблазн «подчинения» экспертизы заранее запланированному решению, прикрытия воли руководителя ссылкой на «мнение экспертов»;
  • необходимым является также оптимальное сочетание узкой специализации и общего кругозора эксперта, а также оптимальное сочетание его индивидуальных качеств.

Еще одним весьма важным критерием отбора является наличие у эксперта высоких моральных качеств. Ясно, что это очень трудно оценить, однако очевидно, что без должного морального уровня эксперта остальные его качества могут оказаться бесполезными, способными лишь увеличить опасность получения псевдопрогноза.

Методы отбора экспертов

Методы отбора экспертов сводятся к двум основным подходам – объективному и субъективному. Объективный подход имеет, в свою очередь, два варианта – документальный и экспериментальный.

Документальный метод предусматривает подбор экспертов на основе анкетных и социально-демографических данных. Экспериментальный метод проводится на основе испытания, тестирования кандидата в эксперты, либо по результатам эффективности его прежней экспертной деятельности.

Оба методических приема требуют большой деликатности по отношению к будущему эксперту. Так, тестирование не всегда приемлемо с этической точки зрения. Кроме того, валидность и надежность тестов нередко вызывает сомнения.  Субъективный подход также распадается на несколько приемов. Один из них – аттестация, когда подбор экспертов осуществляется с помощью открытого или тайного голосования потенциальных членов будущей экспертной группы с отводом тех из них, кто не набрал определенного минимума голосов. Здесь могут использоваться методики с расширяющимися кругами экспертов в несколько туров. В первом туре круг экспертов составляет списки кандидатов в эксперты. Туры повторяются до тех пор, пока состав кандидатов в эксперты не стабилизируется. Затем проводится расчет коэффициентов компетентности экспертов в зависимости от числа включений в списки.

Сам по себе этот прием достаточно эффективен, но лишь при условии, что члены будущей группы хорошо знают друг друга и обладают высокой добросовестностью. В противном случае возникает опасность отвода по случайным, непринципиальным мотивам.

Другой прием – метод взаимной оценки будущих экспертов (в баллах или ранжированием) – является по существу разновидностью первого со всеми его особенностями и ограничениями.

Третий прием – метод самооценки степени компетентности и объективности. Здесь, правда, имеется опасность завышенных самооценок. Но практика показывает, что серьезные эксперты, напротив, склонны несколько занижать свои оценки и стремятся не принимать участие в экспертизах, выходящих за рамки их интересов.

На практике часто применяется способ, когда каждый эксперт оценивает компетентность всех членов экспертной группы, в том числе и свою собственную, используя заранее установленную балльную шкалу, например такую, как в табл.35, где используются следующие числовые значения: 1 – слабая компетентность в рассматриваемой области, 2 – удовлетворительная компетентность, 3 – хорошая компетентность, 4 – высокая компетентность в этой области.

Таблица 35. Балльная шкала компетентности экспертов в рассматриваемой области

Ф.И.О. экспертаNo экспертаСлабая компетентностьУдовлетворительная компетентностьХорошая компетентностьВысокая компетентность
 1
 2
 3

Вместе с тем очевидно, что ни один из перечисленных методов и приемов отбора экспертов не является универсальным и что методика отбора должна базироваться на сочетании различных приемов.  ### Организация работы экспертов

На практике численность экспертной группы большей частью составляет примерно 5 – 7, максимально 10 – 15 человек при очных опросах и 20 – 30, максимально 60 – 80 человек при заочных опросах, в зависимости от характера экспертизы. За этими пределами увеличение числа экспертов не дает существенного прироста новой информации ни в деталях, ни, главное, по качеству.

Кроме того, требуется разумное сочетание экспертов различного возраста, темперамента, различного служебного положения, производственного и жизненного опыта.

Известно, что члены экспертной группы не любят начинать работу с «чистого листа». Набор конкретных вопросов, а в ряде случаев и вероятных ответов помогает эксперту лучше понять поставленную задачу. Поэтому в большинстве экспертных методов экспертам предлагают анкету, которая обычно содержит три группы вопросов:

1) объективные данные о самом эксперте (возраст, образование, профессия, стаж работы, ученое звание, узкая специализация и т.п.);

2) характеристики, позволяющие оценить мотивы, которыми руководствуется эксперт при оценке исследуемой проблемы;

3) основные вопросы, касающиеся существа исследуемой проблемы.

По форме вопросы могут быть открытыми, закрытыми, прямыми и косвенными.

Вопрос называется открытым или свободным, если ответ на него может быть дан в любой форме. Вопрос называется закрытым, если в его формулировке содержатся варианты возможных ответов (перечень альтернатив) и эксперт должен остановить свой выбор на одном или нескольких из них. Одной из разновидностей закрытого вопроса является дихотомический вопрос, в котором возможна только альтернатива «да – нет».

Основным преимуществом открытых вопросов является то, что с их помощью можно обнаружить новый, совершенно неожиданный для аналитиков аспект проблемы. Основными недостатками являются возможная несопоставимость данных опроса и сложность анализа.

Преимущество закрытых вопросов состоит в том, что они строго и однозначно интерпретируются и требуют меньше времени на обработку. Вместе с тем анкета с закрытыми вопросами таит в себе опасность навязывания эксперту ответов, особенно в тех случаях, когда по тому или иному вопросу он вообще не имеет своего сложившегося мнения или же когда его мнение не совпадает с ответами анкеты.  Цели анкеты могут быть замаскированными, и тогда признаки анкеты называют косвенными. Такие анкеты применяются, когда нет уверенности в том, что эксперт по данному вопросу сумеет (или захочет) дать определенную информацию.

При подборе вопросов анкеты необходимо провести проверку того, чтобы они не допускали двойного толкования. С этой целью полезно «проиграть» анкету самим аналитикам. Если распределение суждений по некоторому вопросу обладает значительным стандартным отклонением, то можно предположить, что этот вопрос двусмыслен.

Известно, что групповая оценка может считаться достаточно надежной только при условии хорошей согласованности ответов опрашиваемых специалистов. Поэтому статистическая обработка информации, полученная от экспертов, должна включать:

  • оценку степени согласованности экспертов по каждому признаку в отдельности и по всему набору признаков в целом;
  • выделение подгрупп экспертов с близким мнением в случае существенных расхождений в ответах;
  • выявление причин разброса мнений, определяющих влияние характеристик экспертов на содержание ответов, и осуществление мероприятий, позволяющих повысить достоверность оценок экспертов.

В специальной литературе рассматривается целый ряд методов статистической обработки информации, позволяющих решить сформулированные задачи. К наиболее распространенным методам относятся расчет коэффициентов ассоциации, метод ранговой корреляции, расчет коэффициентов конкордации и др.

Проблемы и ограничения при использовании экспертов в качестве источников информацииМетод ранговой корреляции