Penipuan berdasarkan metrik

Ada beberapa catatan penting tentang penipuan berbasis metrik yang disebabkan oleh sistem pendidikan tinggi saat ini. Ini adalah beberapa fakta dan trik bermain dengan metrik. Catatan ini dapat dibaca dibuku yang berjudul “Gaming the Metrics: Misconduct and Manipulation in Academic Research” yang diterbitkan oleh MIT Press.

  • Metrik yang menguasai begitu banyak otoritas dalam pendidikan tinggi saat ini. Universitas semakin banyak berinvestasi untuk pengelolaan dan terkadang memalsukan angka untuk meningkatkan peringkat nasional dan global mereka, sambil secara bersamaan menggunakan metrik ketika memutuskan proyek pengembangan universitas.
  • Universitas dengan peringkat tinggi menerima peningkatan visibilitas dan prestise, menerima calon mahasiswa yang lebih bagus prestasi akademiknya, lebih banyak mendapatkan sumbangan dari alumni, dan, yang paling penting, potensi penghasilan yang lebih besar.
  • Wacana keunggulan adalah tren dan ciri khas dari universitas modern saat ini. Menjadi unggul hanya dapat dicapai melalui indikator kuantitatif seperti produktivitas dosen, dampak publikasi mereka, tingkat penerimaan mahasiswa, pengeluaran universitas per mahasiswa, sumbangan alumni, jumlah buku di perpustakaan, dana hibah yang diterima oleh universitas, peringkat ketenagakerjaan lulusan, gaji dosen, dan sebagainya.
  • Budaya audit sudah menjadi keseharian universitas modern. Ini adalah pergeseran dari bentuk evaluasi kualitatif kepada indikator kuantitatif untuk menilai keunggulan atau dampak. Hal ini menyebabkan polarisasi, terutama ketika metrik digunakan untuk mengevaluasi publikasi ilmiah seorang dosen melalui sitasi yang mereka terima. Cara ini perlu ditinjau ulang untuk memahami kualitas dari publikasi yang seringkali dipermainkan secara radikal di era metrik.
  • Penipuan dan manipulasi riset muncul sebagai respons terhadap lingkungan yang didasarkan kepada “publish or perish“, dan fenomena ini sudah bersifat epistemik. Penipuan riset ini termasuk fabrikasi, pemalsuan, dan plagiarisme dalam publikasi hasil penelitian.
  • Tinjauan sejawat (peer review) palsu adalah contoh lain dari permainan dalam publikasi. Ketika editor jurnal meminta Anda untuk memberikan nama-nama penilai, penulis mungkin memutuskan untuk memberikan nama-nama ilmuwan ternama tetapi memberikan alamat email non-institusional mereka, seperti pehul@yahoo.com. Akun itu sebenarnya bukan milik Dr. Pehul, tetapi milik penulis sehingga penulis sendiri yang menilai makalahnya.
  • Penulis membuat kolaborator dengan rekan penulis palsu dari universitas bergengsi (contoh dari Harvard University) yang berkontribusi pada dampak artikel penulis.
  • Cara yang lebih berani adalah dengan cara meretas database jurnal dengan menambahkan nama penulis sebelum artikel dicetak.
  • Jika cukup kaya dan memiliki uang, Anda dapat menggunakan uang tersebut untuk meletakkan nama Anda dalam artikel yang sudah ditulis dan dikirimkan untuk diterbitkan.
  • Editor dapat meningkatkan impact factor jurnal mereka dengan perjanjian co-citation dengan editor jurnal lain, yang melibatkan penulis dari satu jurnal untuk mensitasi artikel dari jurnal yang berkolusi. Ada juga beberapa universitas mengundang dosen dari universitas lain mereka untuk mengutip satu sama lain untuk membantu meningkatkan peringkat institusi.
  • Zaman sekarang, memiliki makalah yang dipublikasikan di jurnal berdampak tinggi kemungkinan besar tidak hanya membantu kenaikan pangkat tetapi juga menjadi promosi, kenaikan gaji, atau, di beberapa universitas dengan insentif tunai publikasi. Ini biaya mahal untuk universitas, tetapi publikasi berdampak tinggi akan berkontribusi pada peringkat universitas, dan dengan demikian dapat menarik donasi, kontrak, dan mendapatkan mahasiswa. Metrik memainkan peranan penting dalam pemeringkatan universitas.
  • Permainan metrik dalam dunia akademik semakin hari semakin canggih dan terus berkembang. Scientometrics pada awalnya dipahami sebagai pengindeksan literatur dan teknik pencarian, dengan cepat berkembang menjadi seperangkat alat evaluatif, dan sekarang telah menjadi infrastruktur yang juga memiliki nilai ekonomis. Jurnal telah menjadi komoditi yang “diperdagangkan” dan digunakan sebagai sebagai “alat pembayaran yang sah” dari dampak riset berdasarkan scientometrics.

Pandainya hanya mengutip pendapat orang lain

Semasa hidupnya, Ali Akbar Navis, seorang sastrawan Indonesia yang terkenal dengan cerpennya yang berjudul “Robohnya surau kami”, seperti yang dituturkan oleh orang-orang terdekatnya pernah mengatakan bahwa “ada” sarjana ilmu sosial Indonesia yang pandai mengutip pendapat orang lain. Membaca tulisan-tulisan para cendekiawan sosial di media massa, maupun di jurnal-jurnal ilmu sosial yang terbit di Indonesia, saya bisa membenarkan pendapat Pak Navis.

Saya pernah membaca tulisan seorang antropolog Indonesia yang memiliki gelar Ph.D. dari universitas ternama di Amerika yang juga bergelar profesor. Meskipun tulisan-tulisannya memiliki banyak referensi, saya tidak menemukan pemikiran atau gagasannya sendiri (asli) yang diungkapkan dalam tulisan-tulisan tersebut. Orang awam mungkin akan terkagum-kagum dengan luasnya sumber bacaan dan banyaknya teori ilmu sosial (berasal dari pemikiran ilmuwan barat) yang dikuasai oleh para antropolog tersebut. Mungkin kehebatannya dalam mengutip teori-teori ilmiah bisa mengangkat ‘prestise’nya sebagai ilmuwan sosial di mata masyarakat awam. Tapi apa kontribusinya di bidang ini?

Apa alasannya tidak ada pendapat orisinal yang keluar dari para sarjana ilmu sosial ini? Jawabannya karena mereka tidak pernah melakukan penelitian ‘lapangan’. Hal ini sangat disayangkan, karena sebagian besar tulisan tentang masalah sosial di Indonesia ditulis oleh orang asing. Hal ini juga berlaku untuk ilmu-ilmu sosial lainnya seperti sosiologi, pendidikan, psikologi, politik dan sebagainya. Jika Anda tidak percaya, silakan cari ‘google scholar’. Jarang sekali sarjana ilmu sosial Indonesia banyak melakukan penelitian ‘lapangan’, banyak di antaranya adalah sarjana ilmu sosial yang pandai mengutip pendapat orang lain. Menurut saya, inilah yang menyebabkan banyak masalah sosial di Indonesia tidak dapat diselesaikan dengan baik.

Jika ilmuwan sosial meneliti tentang santri, tentunya akan mengacu pada hasil penelitian yang dilakukan oleh Prof. Clifford Geertz (ilmuwan sosial ternama dari Pricenton University). Mengapa tidak ada ‘Clifford Geertz’ dari Indonesia?

Mencari pembenaran atau kebenaran?

Dulu, sewaktu mula berkecimpung dalam bidang penelitian, ketika membaca makalah dan tesis, saya masih sukar melihat apakah data-data dan hasil-hasil penelitian tersebut adalah hanya mencari pembenaran (justification) atau kebenaran (truth). Sekarang, setelah lebih dua puluh tahun mempunyai pengalaman membaca ratusan makalah dan tesis saya lambat laun dapat melihat apakah laporan tersebut hanyalah untuk pembenaran bukannya berusaha mencari kebenaran.

Walaubagaimanapun saya sadar bahwa tekanan yang dialami oleh peneliti dan dosen sekarang ini untuk menghasilkan publikasi ilmiah adalah penyebab mengapa mencari kebenaran tidak menjadi tujuan utama. Yang penting adalah dapat memenuhi syarat untuk publikasi, hal yang sering sekali tidak dipedulikan. Oleh karena itu, cara pembenaran ini menjadi metoda yang biasa digunakan supaya makalah tersebut dapat dipublikasikan. Sayangnya, tidak semua penilai berpengalaman dan mempunyai pandangan bahwa mencari kebenaran itu sangat penting. Banyak makalah-makalah yang tidak untuk mencari kebenaran yang akhirnya dapat diterbitkan dengan cara ini. Inilah yang disebut sebagai trik dalam dunia riset. Ada juga trik yang dilakukan dengan cara yang anggun.

Saya memahami pembenaran adalah sebagai usaha menyetujui dan mendukung hasil riset. Sebagai contoh adalah hasil riset yang tidak sesuai dengan harapan dipaksakan dicarikan pembenarannya dengan rujukan-rujukan yang hanya mendukung hasil riset tersebut. Seharusnya untuk mencari kebenaran, semua rujukan yang berkaitan, baik yang mendukung dan tidak mendukung perlu dirujuk. Dari cara ini kita dapat melihat apakah hasil penelitian tersebut betul-betul dinilai dengan cara yang adil.

Saya sadar bahwa dunia ini memang tidak adil, namun sebagai ilmuwan dan peneliti kita perlu mencari kebenaran. Ini yang perlu diperjuangkan supaya ilmu pengetahuan dapat berkembang dengan pesat.

Masa depan publikasi ilmiah

Proposal Profesor Walter Noll (almarhum) mengenai masa depan publikasi ilmiah yang saya tulis kembali menarik dan mungkin dapat menjadi bahan pertimbangan dari pengambil keputusan di tingkat universitas dan nasional untuk memacu perkembangan ilmu pengetahuan dan teknologi dan melepaskan diri dari jeratan kapitalisasi ilmu pengetahuan melalui publikasi ilmiah yang semakin hari semakin mahal — dan tidak mampu dibayar oleh peneliti (miskin) dari negara berkembang.

Di bawah ini adalah saran dari Profesor Walter yang saya terjemahkan dari paper beliau.

  • Setiap ilmuwan harus didorong untuk membuat situs webnya sendiri dan mempublikasikan semua karyanya di situs web ini. Pertama, sebagian besar universitas dan lembaga penelitian sekarang dapat dengan mudah membuat situs web semacam itu. Kedua, penerbit dan percetakan tidak lagi diperlukan untuk penyusunan huruf. Sebagian besar ilmuwan telah mengetahui cara melakukan penyusunan huruf sendiri dengan menggunakan perangkat lunak komputer seperti TeX. Bahkan hingga saat ini, hampir semua jurnal ilmiah mensyaratkan agar makalah disampaikan dalam bentuk typeset.
  • Persyaratan untuk memperoleh gelar Ph.D. harus diubah. Kandidat doktor harus menyerahkan tesisnya di situs web yang dibuat oleh universitas atas namanya. Penguji Ph.D. kemudian dapat memeriksa tesis baik dengan membacanya di layar komputer mereka atau dengan mencetaknya. Selain itu, alih-alih membuat tesis menjadi satu dokumen, itu bisa menjadi kumpulan beberapa makalah penelitian. Panitia harus memutuskan apakah ada cukup materi untuk membenarkan gelar Ph.D. Banyak birokrasi dapat dihindari dengan cara ini.
  • Ilmuwan seharusnya tidak lagi merasa bahwa pekerjaan mereka harus diserahkan ke jurnal. Jika ada di situs web mereka, itu dapat diakses oleh semua orang di dunia yang tertarik, sebenarnya lebih mudah daripada melalui jurnal. Saat mengevaluasi nilai pekerjaan untuk memutuskan promosi dan masa jabatan, ini dapat dilakukan hanya dengan mengirimkan daftar judul dari situs web ke pengulas saat meminta rekomendasi. Tidak perlu lagi meneruskan cetak ulang atau pracetak. Beberapa kekurangan dari “publish or perish syndrome” dapat dihindari karena panitia promosi tidak akan tergoda untuk hanya menghitung jumlah makalah yang diterbitkan oleh kandidat daripada melakukan pemeriksaan kualitas secara menyeluruh.
  • Jika sebuah karya telah diterbitkan di situs webnya, penulis dapat dengan mudah melakukan koreksi dan perbaikan pada interval yang sering. Jika telah diterbitkan dengan cara tradisional, maka menjadi beku dan sulit untuk menerbitkan koreksi dan perbaikan. Juga, di situs web, seseorang dapat menerbitkan manuskrip pendahuluan dan akhirnya menyelesaikannya.
  • Seorang ilmuwan dapat lebih mudah mencari tahu tentang makalah yang mungkin relevan dengannya dengan mengetikkan kata kunci ke Google atau mungkin ke mesin pencari yang mengkhususkan diri pada sains. Ini akan membawanya ke situs web dengan makalah yang mungkin layak untuk dilihat. Beberapa indikasi nilai kertas adalah berapa kali kertas itu dilihat atau ditautkan. Ini sejalan dengan indeks kutipan saat ini. Faktanya, para pendiri Google menggunakan model indeks kutipan ini untuk memesan tanggapan saat mengetik dalam pencarian. Saya yakin tidak dapat dihindari bahwa sistem yang saya usulkan di sini, atau variasinya, pada akhirnya akan berlaku.

Saya bukan siapa-siapa yang bisa merubah sistem publikasi ilmiah yang telah dibangun seperti sistem sekarang ini. Walaubagaimanapun saya mencoba untuk menerapkan proposal Profesor Walter dengan meletakkan semua publikasi saya dalam website ini supaya semua orang dapat mengaksesnya secara gratis.

Apakah Anda setuju?

Dua puluh tip untuk menafsirkan klaim ilmiah

Daftar ini akan membantu non-ilmuwan untuk menafsirkan klaim ilmiah yang ditulis oleh William J. Sutherland, David Spiegelhalter, dan Mark A. Burgman.

  • Perbedaan dan kebetulan menyebabkan variasi.
  • Tidak ada pengukuran yang tepat.
  • Bias merajalela
  • Jumlah sampel yang lebih banyak biasanya lebih baik.
  • Korelasi tidak berarti sebab-akibat.
  • Regresi ke mean dapat menyesatkan.
  • Ekstrapolasi di luar data berisiko.
  • Waspadalah terhadap kekeliruan tingkat dasar.
  • Kontrol itu penting.
  • Pengacakan menghindari bias.
  • Carilah replikasi, bukan pseudoreplikasi.
  • Ilmuwan adalah manusia.
  • Signifikansi adalah signifikan.
  • Pisahkan tidak ada efek dari tidak signifikan.
  • Ukuran efek penting.
  • Relevansi studi membatasi generalisasi.
  • Perasaan mempengaruhi persepsi risiko.
  • Ketergantungan mengubah risiko.
  • Data dapat dikeruk atau dipetik ceri.
  • Pengukuran ekstrim dapat menyesatkan.

Referensi: https://www.nature.com/news/policy-twenty-tips-for-interpreting-scientific-claims | Twenty tips for interpreting scientific claims [PDF]

Sitasi sindrom

Tulisan ini terinspirasi dari tulisan Google Scholar Syndrome yang ditulis oleh Prof. Eleftherios Diamandis. Supaya lebih umum, saya mengeneralisasikan menjadi sitasi sindrom atau dalam bahasa Inggris dapat ditulis sebagai citation syndrome. Sindrom ini biasanya menimpa saintis yang mempunyai sitasi publikasi yang sangat baik (mungkin juga dialami oleh si pengarang, Prof. Eleftherios Diamandis). Sama seperti Google Scholar Syndrome, berikut ini adalah tiga gejala dari citation syndrome (yang saya terjemahkan dari tulisan Google Scholar Syndrome):

  • Semakin sering melihat sitasi publikasi diri sendiri (Scopus, Clarivate Analytics dan juga Googe Scholar). Pertama-tama sebulan sekali, lalu seminggu sekali, lalu sekali sehari, dan, dalam tahap lanjut, beberapa kali sehari, seperti melihat h-index, sitasi tertinggi, juga tren dan peningkatannya.
  • Membandingkan sitasi publikasi Anda dengan pesaing Anda (lokal, nasional atau internasional), dengan harapan bahwa Anda telah melampaui mereka.
  • Saat mencapai jumlah sitasi tertentu, misalnya 100.000 atau lebih, Anda mulai membandingkan diri Anda dengan pemenang hadiah Nobel.

Jika Anda memiliki salah satu dari tiga gejala di atas, mulailah merenung. Anda perlu bertanya apa hikmah di balik angka yang Anda incar. Jangan tertipu, dan kembali ke maksud dan tujuan penelitian Anda. Dunia penelitian Indonesia tidak akan maju jika hanya ingin mencapai prestasi semu, bukan untuk menghasilkan penelitian yang berkualitas dan bernilai tinggi. Maaf, gejala ini sudah terlihat, seperti kartel kutipan dimana penulis atau editor jurnal bekerja sama untuk meningkatkan kutipan artikel mereka dengan mengutip artikel anggota kartel secara tidak proporsional.

Bibliometrik Universiti Teknologi Malaysia

Pada 14 Maret 2022, Universiti Teknologi Malaysia (UTM) berumur 50 tahun. Dari tahun 2002 hingga 2022, saya bekerja di Universitas Teknologi Malaysia (UTM), mulai sebagai peneliti, pensyarah, profesor madya, dan diangkat sebagai profesor pada tahun 2010. Saya dan beberapa orang teman menulis artikel mengenai publikasi ilmiah UTM. Analisis bibliometrik dilakukan untuk menganalisis publikasi UTM dan tren penelitian selama 50 tahun, terutama selama periode post-research university (RU), dampak publikasi, keahlian bidang studi dan kinerja publikasi dibandingkan dengan RU lainnya. UTM unggul dalam jumlah publikasi dari tahun 2015 hingga 2020 di empat bidang, yaitu teknik, ilmu komputer, ilmu material, dan teknik kimia, dibandingkan dengan RU lainnya. Silahkan klik gambar di bawah untuk membaca analisisnya. Artikel ini juga dapat dibaca melalui melalui situs ini: https://mjfas.utm.my

Keseriusan dalam menulis artikel ilmiah

Sebagai Editor-in-Chief dari Malaysian Journal of Fundamental and Applied Sciences (MJFAS), saya melihat satu persatu dari manuskrip yang dikirim ke MJFAS. Salah satu yang saya lihat adalah keseriusan dari penulis untuk mempublikasikan manuskrip mereka. Hal ini kelihatan dari penulisan yang rapi dengan bahasa yang bagus dan juga kepatuhan penulis mengikuti peraturan dari jurnal atau author guidelines. Mohon maaf, saya akan langsung menolak manuskrip yang ditulis oleh penulis yang tidak serius dan kelihatan main-main. Saya tidak ingin membuang waktu saya untuk melayani artikel-artikel jenis ini.

Tugas sebagai editor dan kelicikan penerbit

Tugas saya sebagai associate editor dari Frontiers of Chemistry adalah menilai dan menjaga kualitas dari manuskrip yang akan diterbitkan. Kualitas ini terlihat dari Impact Factor (5.221) dan CiteScore (4.1) dari jurnal ini yang relatif tinggi. Untuk menjaga kualitas, sudah dua kali saya menolak manuskrip yang ditulis oleh penulis yang juga associate editor dari Frontiers of Chemistry. Ini adalah contoh bahwa manuskrip yang ditulis editor tidak semuanya berkualitas baik. Kebetulan saya tidak kenal secara pribadi dengan penulis tersebut. Mungkin akan lain ceritanya jika kenal rapat. Secara total, saya telah menolak 6 manuskrip dan menerima 11 manuskrip untuk dipublikasikan di jurnal ini.

Ada hal yang saya tidak suka dengan sistem publikasi dari jurnal ini. Jurnal ini adalah jurnal berbayar dengan bayaran yang menurut ukuran saya adalah sangat mahal yaitu US$ 2,950 atau sekitar Rp 42,7 juta. Disamping itu, sistemnya dibuat supaya editor dan reviewer dibuat sukar untuk menolak paper yang diterima. Ketika reviewer menolak manuskrip, langsung sistem menonaktifkan reviewer tersebut sehingga reviewer tidak bisa lagi melihat komentar dari editor. Sistem ini seakan-akan berusaha supaya mengarahkan manuskrip tersebut diterima. Dengan cara begini, penerbit akan mendapatkan manuskrip yang berkualitas dan sekaligus keuntungan finansial.

Dapat dibayangkan keuntungan yang diterima oleh penerbit, sedangkan editor dan reviewer tidak dibayar. Sistem yang menurut saya licik untuk mencari keuntungan. Lalu kenapa saya masih mau menjadi editor? Jawabannya karena saya merasa ini adalah pengakuan dari rekan sejawat yang percaya kepada kepakaran saya dalam bidang yang saya tekuni. Itu saja.

Ini adalah contoh laporan saya kepada Chief Editor. Ada informasi yang sengaja saya hapus untuk menjaga kerahasiaan.