Salah satu kritik utama yang muncul adalah kurangnya transparansi algoritma. Wajib pajak tidak memiliki akses untuk mengetahui bagaimana sistem mengevaluasi dan mengkategorikan mereka sebagai berisiko tinggi atau tidak. Tidak tersedia informasi mengenai parameter apa saja yang digunakan, bagaimana bobot risiko ditentukan, atau data apa yang menjadi dasar penilaian. Ketika sebuah sistem memutuskan perlakuan administratif terhadap seseorang namun tidak menyediakan ruang klarifikasi atau pembelaan, maka prinsip keadilan prosedural telah dilanggar. Dalam konteks administrasi publik, hal ini menimbulkan ketidakpastian hukum dan dapat mencederai kepercayaan masyarakat terhadap lembaga perpajakan.
Lebih lanjut, permasalahan muncul dalam aspek akurasi algoritma. Sistem yang terlalu mengandalkan pola data historis berisiko mengalami overfitting, yaitu kecenderungan menarik kesimpulan berdasarkan data masa lalu yang belum tentu relevan dengan konteks saat ini. Misalnya, pola transaksi yang tidak biasa namun sah secara hukum bisa ditafsirkan sebagai risiko tinggi hanya karena berbeda dari mayoritas populasi data sebelumnya. Hal ini berpotensi menghasilkan false positives, yakni wajib pajak yang sebenarnya patuh tetapi dianggap mencurigakan dan terkena tindakan administratif seperti audit atau penundaan pengembalian pajak.
Kritik semakin menguat karena keputusan sistem dilakukan secara otomatis tanpa proses verifikasi manusia. Keputusan seperti penundaan restitusi, pemblokiran akses sistem, atau penunjukan sebagai target audit dapat langsung dieksekusi oleh sistem tanpa pemeriksaan manual. Praktik ini tidak hanya mengurangi fleksibilitas administratif, tetapi juga membuka peluang terjadinya kesalahan yang berdampak besar pada individu atau pelaku usaha kecil.
Selain itu, dari sudut pandang etika dan perlindungan data, sistem seperti Cortex berpotensi melanggar hak wajib pajak. Penggunaan data dalam skala besar---baik dari sumber internal DJP maupun dari pihak ketiga seperti perbankan dan e-commerce---dapat menimbulkan pertanyaan serius terkait privasi dan otorisasi data, terlebih jika tidak disertai dengan persetujuan eksplisit dari pihak yang datanya digunakan. Dalam kerangka hukum perlindungan data pribadi, setiap individu memiliki hak untuk mengetahui bagaimana data mereka digunakan dan untuk tujuan apa.
Sebagai langkah preventif dan korektif, sistem seperti ini sebaiknya dilengkapi dengan audit algoritma oleh pihak independen, mekanisme transparansi logika kerja, serta akses koreksi atau prosedur banding yang mudah diakses oleh wajib pajak. Prinsip keadilan dalam sistem digital bukan hanya soal hasil akhir, tetapi juga proses yang memungkinkan semua pihak untuk memahami dan merespons keputusan yang memengaruhi hak dan kewajiban mereka.
HOW
1. Prinsip Keadilan Rawls yang Relevan
Rawls mengajukan dua prinsip utama dalam keadilan:
