Ошибки в оценке науки, или Как правильно использовать библиометрию

Другое важное ограничение библиометрии состоит в том, что базы данных включают не все журналы, в которых публикуются исследователи. Этот факт неоднократно подчеркивался аналитиками из разных лабораторий, которые смогли точно установить присутствие или отсутствие публикаций своих сотрудников в различных базах данных[141]. Учитывая закон больших чисел, чем меньше масштаб анализа, тем менее надежны и репрезентативны результаты и тем осторожнее их следует анализировать. Явная тенденция рассматривать базы данных как вещи в себе заставляет забывать тот простой факт, что не учтенные в них работы (и особенно работы не на английском языке) тем самым обесцениваются, а между тем никто еще не доказал, что не внесенные в базы журналы обладают худшим качеством.

Часто отмечают, что в Web of Science (или в Scopus) не индексируются книги, что на деле путают с цитированием книг. Ведь совершенно очевидно, что Web of Science (так же как и Scopus) содержит библиографические описания всех книг, процитированных в статьях. Вполне возможно, что распределение ссылок в журналах по общественным наукам похоже на то, которое обнаруживается в книгах по тем же дисциплинам. Действительно, было бы крайне удивительным, если бы какой-либо автор, мало цитируемый в журналах, вдруг стал бы обильно цитироваться в книгах, тем более что последние часто основываются на уже опубликованных статьях, отредактированных и собранных вместе. Если это так, то можно с полным основанием заключить, что инвестиция в создание индекса книг компанией Thomson Reuters, недавно выпустившей на рынок Индекс цитирования книг (Book Citation Index), окажется бесполезной. Ведь важно не абсолютное число ссылок, а их распределение и относительная представленность в той или иной области. Грубо говоря, библиометрия имеет дело с чем-то вроде репрезентативной выборки. В результате добавления воды в бассейн ее средний уровень повышается, однако ее состав от этого не меняется — иначе говоря, структура выборки остается прежней. Вот почему рейтинги совокупной продукции стран в базах данных Scopus и Web of Science примерно одинаковы, хотя на уровне дисциплин иногда выявляются существенные различия[142]. И наконец, следует отметить, что Индекс цитирования книг еще более ориентирован на англо-американскую продукцию, чем базы данных журналов (которые с годами мало-помалу диверсифицировались), а это делает его использование для оценки еще более проблематичным.

Многомерный мир

В дискуссиях об оценивании более всего раздражает стремление все свести к одной-единственной цифре. Примитивность такого подхода можно проиллюстрировать при помощи следующего образа: многомерное пространство, сведенное до пространства с нулевым измерением, то есть до точки! В самом деле, при суммировании взвешенных значений нескольких показателей для получения одной цифры теряется информация о каждой из осей многомерного пространства, которые репрезентируют тот или иной показатель. Только одновременный учет сразу нескольких показателей позволяет охватить разные измерения того или иного понятия, например понятия влияния (импакта) исследовательской работы.

Так, академическую среду интересует прежде всего научное влияние публикаций, но нельзя пренебрегать и другими типами влияния, для измерения которых подобрать корректные показатели не так трудно. Например, речь может идти об экономическом, социетальном, культурном, экологическом и политическом влиянии научных исследований. Иначе говоря, в случае университетов исследовательская функция институции должна рассматриваться наряду с другими ее функциями. К примеру, качество преподавания не может оцениваться исключительно в свете проводимых в университете исследований без учета той среды, в которую погружены учащиеся там студенты (качество зданий, библиотечные ресурсы и т. п.). Чтобы эти параметры получили надлежащее освещение, следует избавляться от «синдрома фонаря», то есть от привычки искать ключи там, где светло, а не в том месте (пусть и темном), где они были потеряны. Таким образом, необходимо отказаться от использования легкодоступных показателей и, подробно изучив отдельные кейсы, оценить наличие некоторых из этих типов влияния для каждого из основных показателей. Такой качественный подход затратен, однако он необходим для адекватной оценки влияния исследований в различных секторах[143].

Оценка показателей