О формальных критериях и экспертных оценках
09/15/2006 | Бывший эксперт
http://www.rg.ru/2006/09/12/osipov.html
»РГ | Как вы относитесь к заявлению некоторых чиновников, что эффективность научного поиска оценивается по конечному результату?
Осипов | Это очень примитивная точка зрения, если речь идет об оценке работы за сравнительно короткий период. Яркий пример - тот же Перельман, о котором сейчас говорит весь мир. С 94-го года опубликовал только одну работу. И то несколько лет назад. И что же? Если исходить из индекса эффективности, цитирования и прочего бреда, то его надо было уволить? А что было бы с Сахаровым, когда он занимался закрытыми работами и в течение многих-многих лет вообще ничего не публиковал? А многие академики - выдающиеся генеральные конструкторы? Там вообще публикаций практически нет. У них, как правило, все работы закрытого характера.
Поэтому формальные признаки, формальные критерии использовать надо там, где их разумно использовать. Но все-таки окончательная оценка должна даваться экспертами. Я люблю приводить такой пример. У нас есть один очень известный алгебраист. Когда стали мусолить ситуацию с индексом цитирования, он поспорил, что в течение двух лет его индекс цитирования просто взлетит. И он это сделал: договорился с коллегами-иностранцами и со своими, чтобы в статьях друг на друга ссылаться. Всегда же можно написать, что вот к изучаемой проблеме примыкают такие-то работы. Это известная шутка у математиков».
Уровень аргументации некоторых академиков по математике и даже многолетних президентов государственных академий, не говоря уже об остальных особах рангом поменьше, просто восхищает и приводит в священный трепет.
Ну, хотя б обдумали и продумали доводы, а то брякают чушь, приводят детские примеры и считают, что изрекают абсолютную истину, с которой нужно безропотно соглашаться в силу их начальственного положения.
Во-первых, эти бескорыстные служители науки занимаются элементарнейшей софистикой.
Причем тут Перельман? Он то получил выдающийся результат, а вот могут ли похвастаться им представители многочисленного класса академиков, каждый из них Перельман по государственному определению, и каждый из которых получает у кассы каждый месяц то, что Перельман за год не получает.
Во-вторых, эти лица не уточняют, что они имеют в виду под формальными критериями и экспертами. И в этом то собака зарыта.
Формальные критерии их, видите ли, не устраивают. А вот мнения экспертов да.
На основе личного опыта попытаюсь помочь критикам «формального» подхода к оценке научных результатов, а также остальным, попавшим под их влияние.
Цель – показать, что существует неразрывное единство формальных критериев и экспертных оценок, реализуемое, например, в деятельности ведущих международных журналов. И ничто, кроме шкурных интересов большинства, числящегося по научному ведомству и необразованности высшего руководства страны, не мешает использовать соответствующие процедуры для чистки авгиевых конюшен отечественной науки.
Итак.
Для сведения непризнанных гениев, количество которых на 10 000 человек особенно велико на территории СНГ, устройство вселенной таково, что только текст, а не витающая в воздухе идея может быть субъектом применения как формальных критериев, так и оценки экспертов.
Поэтому категорически не приемлю точки зрения, что есть, мол толковые научные работники, у которых много идей, но которые по каким-то причинам их не оформляют в виде текста (статьи, доклада, книги). Времени не хватает. Стесняются. Языков иностранных не знают. Начальники не дают. Жена ревнует к компьютеру. Занимаются заробитчанством и т.д. и т.п.
Есть текст, есть что оценивать. Нет текста, гуляй непризнанный гений Вася или Гриць по другим лесам и чащам.
Допустим, что текст есть.
Дальнейшая судьба текста.
Два варианта: текст плохой и текст хороший. Хороший или плохой – согласно самооценке.
Текст плохой, его научная ЦЕННОСТЬ равна нулю. Его после публикации никто читать не будет, и естественно ссылаться на него никто и никогда не будет.
Но этот текст можно протолкнуть в отечественные мурзилки, где всем заправляют начальнички.
Поэтому наиболее оптимальная стратегия такова. Продаюсь своему начальнику, он подписывает мой текст в качестве соавтора и проталкивает, используя свои административные и кумовские возможности.
Здесь начальник необходим. Он доволен очередным доказательством его неиссякаемых творческих возможностей. И я доволен, публикация моего текста автоматически делает его бюрократически хорошим (в том смысле, что этим уже обнародованным текстом можно отчитаться в годовом отчете, включить в список опубликованных работ, который абсолютно ФОРМАЛЬНО будет служит КРИТЕРИЕМ для моего дальнейшего карьерного продвижения). Да и начальничку любовь засвидетельствовал, что немаловажно, так как от его власти и доброго отношения ко мне зависит моя будущая профессиональная жизнь. Это, конечно, в основном относится к молодым. С возрастом, молодые, старея и поднимаясь вверх по служебной лестнице, сами будут жить по таким же правилам.
Конечно, если сам уже начальник, то нет нужды брать в соавторы другого начальника. Для этого есть твои подчиненные.
Замечу, что если и есть рецензенты в наших мурзилках, то относятся они к этой священной обязанности спустя рукава. Кто готов бросить в меня камень, пусть посмотрит на уровень абсолютного большинства наших журналов. Попытайтесь вспомнить, что вас там за последние десять лет заинтересовало, вызвало восхищение и чувство, что автор прочитанной вами статьи умнее вас.
Статья хорошая.
Тут уж ваш начальник кровно заинтересован в своем соавторстве (признаю и существование исключений, хотя и очень малочисленных, если судить по количеству публикаций большинства наших «видных» ученых). ъ
В совковые времена безвыходная ситуация. Но сейчас у вас ПОКА ЕЩЕ есть возможность САМОСТОЯТЕЛЬНО опубликовать вашу работу в приличном международном журнале. Риск минимальный – как правило, из-за чрезвычайной перегруженности вашего начальника неустанной и ежечасной заботой о развитии науки во вверенном его попечительству интеллектуальном гареме, он давно уже перестал перелистывать эти журналы. Кроме того, журналов то очень много. Не сообщайте своему начальнику о ваших опубликованных зарубежных работах. Не делайте его лично причастным к тому, к чему он не имеет отношения. Когда накопите достаточное количество приличных работ, поставьте начальника перед свершившимся фактом. Даже в наших супердемократических условиях он с вами ничего сделать не сможет. В случае возникновения конфликтных ситуаций у вас будут железобетонные аргументы для отстаивания ваших позиций даже в наших очень справедливых судах.
Работайте дальше. Требуйте повышения, прибавки в жаловании и т.д. и чихайте на вашего начальника, если он, конечно, этого заслуживает.
Хорошие статьи в приличных международных журналах дают вам возможность с большими шансами участвовать в конкурсах на соискание грантов, быть приглашенным на престижные конференции, и, если вы еще молод, подыскивать работу в тех странах, где нет государственных академий, но наука почему-то развивается и где благосостояние вашей семьи, в принципе конечно, зависит от вашей головы, а не от того, в каком руководящем кресле сидит ваше заднее место.
На вас рано или поздно начнут ссылаться, вас будет привлекать для оценки проектов, будет предлагать рецензировать статьи и т.п. -- то есть вы станете известны ограниченному кругу людей, работающих, как и вы в узкой профессиональной области. Что еще надо для самоуважения? Вы полноправный участник процесса развития МИРОВОЙ науки, а не хуторянский имитатор научной деятельности.
НО, немножко отвлекся. Речь-то у нас об «антагонизме» формальных критериях и экспертных оценок.
Вот эти проклятые западные журналы выдумали разные вздорные требования к публикациям, похуже требований Всемирной торговой организации к нашим товаропроизводителям. Ууу, гады.
Для них почему-то ничего не значат наши звания, степени, должности регалии и ордена. Им подавай научный товар приличного качества. Но оценивают его они по формальным количественным критериям. Выдумали какую-то ФОРМУ применении к ОЦЕНКЕ результатов научной деятельности законов взаимосвязи КОЛИЧЕСТВА и КАЧЕСТВА, а также ФОРМЫ и СОДЕРЖАНИЯ.
И необходимую роль в том играют ЭКСПЕРТЫ, то есть ученые, работающие в достаточно узкой профессиональной деятельности и научные результаты которых признаются узким профессиональным сообществом в качестве новых, важных и перспективных. Не понимают зажравшиеся западники, как математик может оценивать биолога, а историк философа. Вот она умственная ограниченность Запада. Бездуховность. Нет уроков христианской этики.
Одного эксперта им мало, они обычно привлекают сразу трех экспертов. Делать им нечего.
Ниже имеются в виду не западные мурзилки, которых там так же хватает, как и у нас, а журналы с высоким импакт-фактором.
Эти журналы беззастенчиво и без оплаты используют каких-то там анонимных рецензентов, причем рекрутируемых не из деканов, ректоров, руководителей лабораторий, а из своих же активных авторов. Сплошное научное кумовство. И как им доказать, что подписанное нашим академиком – это товар высшего научного качества. Это ж издевательство над идеалами, завещанными нам В.И.Вернадским.
Вы послали работу в один из таких журналов. И только в такие имеет смысл ее посылать.
Готовьтесь к тому что оценивать ее будут эксперты по формальным критериям. Но в этой оценке должно быть отражено ее НАУЧНОЕ КАЧЕСТВО. Согласен, это сплошная схоластика и полнейшее отрицание отечественной патриархальной практики. Это ж ужас.
Оценили эти ЭКСПЕРТЫ ПОЛОЖИТЕЛЬНО КАЧЕСТВО вашей работы по некоторым ФОРМАЛЬНЫМ КРИТЕРИЯМ и рекомендовали ее к публикации. Хорошо, не зря вас родина кормила, обучала и учила. Вы ее честь, гордость и краса. Не печальтесь тем, что она вас не ценит и никогда не оценит, если не станете академиком. Ей просто не до вас в частности, и до науки в целом.
Не рекомендовали вашу работу рецензенты. Не дотягиваете. После десятка неудачных попыток серьезно подумайте о переходе на другой вид деятельности.
Несколько лет был рецензентом одного журнала. Приходилось на каждую статью до 10 страниц заполнять две странички анкеты, где предлагались разные шкалы оценок, типа СТАТЬЯ НЕСОМНЕННО ЗАСЛУЖИВАЕТ ПУБЛИКАЦИИ, МОЖЕТ БЫТЬ ОПУБЛИКОВАНА, МОЖЕТ БЫТЬ ОПУБЛИКОВАНА ПОСЛЕ УЧЕТА ЗАМЕЧАНИЙ, НЕ МОЖЕТ БЫТЬ ОПУБЛИКОВАНА.
То есть проклятые натовцы заставляли меня как эксперта-рецензента оценивать ИНТЕГРАЛЬНОЕ КАЧЕСТВО статьи по каким-то несчастным ФОРМАЛЬНЫМ критериям. Честно скажу, когда стали присылать по пять статей в месяц, отказался – работы много и ничего кроме морального удовлетворения. Надо ж семью кормить.
При анонимном рецензировании есть, конечно, и факты предвзятости и т.п. – но они, по моему мнению, не типичны. Кроме того, существует возможность послать отвергнутую статью в конкурирующий журнал. Испытайте судьбу еще раз.
Неуправляемость и анонимность рецензентов международных журналов, вот что раздражает многих научных работников, которые в случае отклонения своих статей предпочитают ссылаться на предвзятость, необъективность, плохой английский и т.п., но не на качество своих опусов.
У нас такой практики рецензирования (то есть формы формальной аттестации с привлечением экспертных оценок) нет. И, в свете гениальной Концепции развития научной сферы, разработанной нашими гениальными учеными по указу президента, никогда не будет такой практики, противоречащей национальному менталитету . Да и большинство научных сотрудников ее не хотят. И понятно почему.
Поэтому представляется почти невероятным даже создание условий для появления у нас такой практики. Уж больно много придется менять в отечественной науке – начиная от морали и кончая формами ее организации. Уж больно многие голые короли останутся без фиговых листочков. Уж больно многие будут считать себя несправедливо обиженными и лишенными синекур.
Поэтому все написанное выше о единстве формальных критериев и экспертных оценок к нашим реалиям и нашем неминуемому будущему не имеет ни малейшего отношения.
У нас правили, правят и будут править бал «эксперты», назначаемые по их должностям и регалиям, а не по профессиональным достижениям. Научный вес в мировом научном сообществе подавляющего большинства из них ничтожен или вообще отсутствует.
Аминь.
Відповіді
2006.09.15 | Versus
Re: О формальных критериях и экспертных оценках
15-09-2006 14:10, Бывший эксперт> Есть текст, есть что оценивать. Нет текста, гуляй непризнанный гений Вася или Гриць по другим лесам и чащам. >
А материал и технология ? Это не результат ? В магазин Вы ходите за товаром или только за хорошо написанной инструкцией к товару ? Ваши взгляды очень упрощают ситуацию (кстати, теперь я понимаю, почему такое катастрофическое положение в гуманитарных науках). С моральными аспектами ghj,ktvs согласен полностью.
2006.09.15 | Бывший эксперт
О формальных критериях и экспертных оценках
Н-да. Нету слов.Вы не думали, что Вашей возможности пойти в магазин и купить что-то электрически совершенное, кстати не наше, предшествовали фундаментальные исследования Гальвани, Фарадея и конечно же Максвелла. Они же не "возили свои исследования" по Европе. Хотя и были демонстрационные опыты с целью заинтересовать тогдашних лиц, принимающих решения, и возможных спонсоров. Для Вас это может звучать откровением, но даже тогда ученые оформляли полученные результаты в виде текстов (преставьте себе с картинками), которые рассылали по переписке вначале своим коллегам, а затем и в появившиеся научные журналы. Не так ли?
Так что ваше противопоставление характеризует не только ваше понимание науки ...
Здесь от Вас неоднократно домогались сформулировать Ваши замечания к Концепции развития научной сферы. Хотя поезд сегодня уже ушел (deadline - 15 September), но все таки может что сформулируете в виде текста?
2006.09.15 | vsv
Re: О формальных критериях и экспертных оценках
Полностью согласен с автором первого письма. Сам рецензирую в трех журналах, один из США и два из Elsevier. Слава богу не так часто как у Вас, но где-то 3 в месяц выходит. И должен сказать что 90 % отправляю на дороботку и 40 % вообще потом хоронятся (причем это все не из СНГ). Тем не менее, все они переделывают, борются и доказывают, даже если это не удается. У нас этого нет. Полученная отрицательная рецензия пугает наших авторов, и они перестают писать в этот журнал. И совершенно напрасно.Теперь Осипову. По своим меркам меряет. Для западного ученого подобная просьба о цитировании его работ равносильна самоубийству. Он машину будет покупать в магазине, а не с рук (хотя тут сильно дешевле), потому что это уронит его реноме.
И Versusу. Вы большое трепло, судя по всем письмам. При этом не имеющее понятия о технологиях и материалах. Я в СССР писал докторскую с грифом ДСП, при 12 АС СССР с этим грифом, 2 ТУ и технологи, прошедшей госиспытания. И тем не менее у меня было более 70 публикаций, из которых более 30 за рубежом, а еще 20 в журналах СССР, которые и сейчас входят в список ISI. Так вот. Если ты ученый, то не рааскрывая сущности своих изобретений, найдешь, что сообщить научному сообществу и как это сообщить. А после 91 года вообще нет таких ограничений. Сам, как на западе решай, что сообщить , а что утаить для себя и государства. Единицы из ученых связаны с тематикой, по которой невозможно выудить публикацию. А в основном это ширма для бездельников. Мне не раз приходилось на ответ - это является предметом наших изобретений, отвечать - а я не прошу раскрывать сущность изобретения, а по делу, какова причина этого влияния, или как будет влиять то или иное свойство. И в 99 % - глухое молчание. Так что не надо много поливать воды.
2006.09.15 | не академик
Re: О формальных критериях и экспертных оценках
Бывший эксперт пише:>
> Несколько лет был рецензентом одного журнала. Приходилось на каждую статью до 10 страниц заполнять две странички анкеты, где предлагались разные шкалы оценок, типа СТАТЬЯ НЕСОМНЕННО ЗАСЛУЖИВАЕТ ПУБЛИКАЦИИ, МОЖЕТ БЫТЬ ОПУБЛИКОВАНА, МОЖЕТ БЫТЬ ОПУБЛИКОВАНА ПОСЛЕ УЧЕТА ЗАМЕЧАНИЙ, НЕ МОЖЕТ БЫТЬ ОПУБЛИКОВАНА.
> То есть проклятые натовцы заставляли меня как эксперта-рецензента оценивать ИНТЕГРАЛЬНОЕ КАЧЕСТВО статьи по каким-то несчастным ФОРМАЛЬНЫМ критериям. Честно скажу, когда стали присылать по пять статей в месяц, отказался – работы много и ничего кроме морального удовлетворения. Надо ж семью кормить.
>
Простите "натовца" за любопытство. А что за журнал-то был? Который по пять статей присылать стал на рецензию. Или это из нескольких до пяти набегало? Просто имея опыт работы как Associate Editor, я не представляю наглеца, который бы так загружал одного рецензента. Из нескольких журналов - может быть.
И еще - как прореагировали в редакции(ях) на отказ от рецензирования? В принципе, отказаться можно (однократно), при этом рекомендовать других Referee под конкретную статью. Но отказаться "навсегда"... Какая реакция была? Просто есть неписаные нормы поведения - если хочешь посылать в журнал собственные статьи - будь любезен рецензировать чужие. Поэтому и интересна реакция редактора.
-----
По сути. О формальных критериях. Спор идет уже много лет. Я имею ввиду не Украину. Что-то нужно. Но четкого ответа не найдено. Всегда находится "контрпример", как в офф-топе.
Да, еще. Даже если таковые критерии будут сформулированы, всегда найдутся "бессмертные", которые им не подвласны... Очень трудно выгнать, например, с постоянной профессорской позиции. Если честно читаешь лекции... Разве что ввести доп. пункты в базовый контракт. Для новых позиций. Но тогда - это не "постоянная позиция", смысл таковой теряется.
А вот для исследовательских центров - тут такое возможно. И осуществлено. Ибо постоянных контрактов там и нет почти... Скажем, в Планковских институтах их всего 3-5, для "директоров". Остальные подбираются "под проект" и уволить по истечении контракта нет проблем. Можно и с "волчьим билетом", ведь мир тесен, все обо всех знают.
2006.09.18 | Versus
Re: О формальных критериях и экспертных оценках
15-09-2006 23:10, не академик пише> По сути. О формальных критериях. Спор идет уже много лет. Я имею ввиду не Украину. Что-то нужно. Но четкого ответа не найдено. Всегда находится "контрпример", как в офф-топе.
Це дійсно так. Універсальної системи оцінки не існує. Аби не влаштовувати кампанії у вигляді атестацій, що може викликати конфліктні ситуації, західна модель працює на випередження. В першу чергу, шляхом прозорої системи розподілу коштів на дослідження. Я знаю тільки атестацію аспірантів, яка зазвичай проходить у вигляді семінару з керівником та консультантами з інших університетів (або представником промисловості, що часом співфінансує роботу). А потім вечеря за рахунок університету. Все по-людськи.
2006.09.18 | vazazh
Re: О формальных критериях и экспертных оценках
Ну сколько можно об одном и том же. Система там работает и неплохо, поэтому она и устоявшаяся. Хочете, чтобы и наша система работала, как и раньше, на чае с руководителем? Речвь идет о реформировании с целью поднятия уровня, в том числе и первоначального отбора. А вот после достижения состояния квалифицировааной подготоки, можно переходить на чай или пиво.2006.09.15 | Versus
Re: О формальных критериях и экспертных оценках
15-09-2006 20:03, Бывший эксперт> Н-да. Нету слов.
> Для Вас это может звучать откровением, но даже тогда ученые оформляли полученные результаты в виде текстов (преставьте себе с картинками), которые рассылали по переписке вначале своим коллегам, а затем и в появившиеся научные журналы. Не так ли?
> Так что ваше противопоставление характеризует не только ваше понимание науки ...
> Здесь от Вас неоднократно домогались сформулировать Ваши замечания к Концепции развития научной сферы. Хотя поезд сегодня уже ушел (deadline - 15 September), но все таки может что сформулируете в виде текста?
Біжу підвищувати свій освітній рівень. Розумовий, мабуть, вже не встигну.
Кстати, у Вас есть альтернатива домогательству. Самоудовлетворение. Некоторым помогает.