AI Bisa Lebih Bias Saat Rekrut Karyawan? Ini Buktinya!

Jadi, bayangin deh, kamu lagi ngelamar kerja dan tiba-tiba CV kamu disaring sama AI sebelum ada manusia yang lihat. Keren, kan? Tapi, ada yang perlu kamu tahu, AI ini bisa jadi nggak adil dalam menilai kamu. Penelitian menunjukkan kalau AI bisa nyerap bias dari data yang dipelajarinya, dan yang lebih parah, AI juga bisa bikin bias sendiri dari pengalaman yang didapat.

Penelitian dari Princeton dan Universitas Chicago ngelakuin eksperimen rekrutmen yang melibatkan beberapa model AI kayak ChatGPT dan Claude. Mereka disuruh bantu rekrut orang untuk 20 posisi kerja dari empat kelompok etnis fiktif. Hasilnya? AI lebih cepat memisahkan kandidat berdasarkan kelompok etnis dibanding manusia. Gila, kan? Skor segregasi mereka jauh lebih tinggi, sekitar 65% lebih banyak dibanding manusia!

Model-model AI yang lebih pintar kayak OpenAI's o3 dan DeepSeek's R1 malah menunjukkan stereotip yang lebih parah. Kenapa bisa gitu? Soalnya, kemampuan mereka dalam memecahkan masalah logika bikin mereka gampang banget untuk menggeneralisasi dari data sosial yang terbatas. Jadi, kalau mereka lihat satu kandidat gagal, mereka langsung menghindari kandidat dari kelompok itu untuk posisi serupa. Padahal, semua kandidat sebenarnya punya peluang yang sama untuk sukses.

Masalahnya makin rumit karena AI sekarang punya fitur memori yang lebih baik. Jadi, mereka bisa 'mengingat' pengalaman sebelumnya dan ini bisa bikin bias semakin kuat. Misalnya, kalau AI udah pernah lihat kandidat dari kelompok tertentu gagal, mereka cenderung bakal menghindari kandidat dari kelompok itu di masa depan. Ini jelas jadi masalah, soalnya pengguna pengen AI bisa ingat informasi penting, tapi jangan sampai jadi bias.

Nah, ada cara untuk mengurangi bias ini. Penelitian menunjukkan kalau memberi insentif untuk rekrutmen yang beragam bisa bikin AI lebih adil. Jadi, daripada cuma bilang ke AI untuk 'adil', lebih baik kita desain tujuan yang mengedepankan nilai-nilai sosial yang baik. Dengan cara ini, AI bisa berperilaku lebih baik dalam proses rekrutmen.

Tapi, pertanyaannya adalah, seberapa besar AI ini bakal nge-stereotype kandidat di dunia nyata? Di eksperimen, AI langsung tahu apakah mereka berhasil merekrut kandidat yang tepat. Tapi di dunia nyata, prosesnya bisa lebih lambat. Perusahaan butuh waktu untuk tahu apakah rekrutan mereka bagus atau enggak. Dan saat umpan balik mulai datang, AI bisa jadi salah paham dengan hasil tersebut dan bikin keputusan yang keliru di masa depan.

Jadi, saat perusahaan mulai menggunakan AI untuk menyaring CV dan melakukan wawancara, penting banget untuk memperhatikan bias yang mungkin muncul. Kita harus waspada, soalnya bias ini bisa muncul dari pengalaman yang nggak diajarkan oleh manusia. Ini adalah tantangan serius yang harus dihadapi, karena bias baru ini bisa terus ada tanpa kita sadari.