JAKARTA – Kemajuan teknologi kecerdasan buatan (AI) kini menjadi sorotan global, bukan hanya karena potensinya dalam meningkatkan produktivitas, melainkan juga karena risiko yang mulai mengemuka. Sebuah laporan terbaru dari perusahaan AI asal Amerika Serikat, Anthropic, mengungkapkan potensi ancaman dari model-model AI canggih yang diuji dalam berbagai simulasi lingkungan kerja.
Dalam laporan tersebut, para peneliti dari Anthropic menguji 16 model AI terkemuka, termasuk Claude 3 Opus milik mereka sendiri dan Gemini 2.5 Pro dari Google. Tujuannya adalah untuk mengetahui bagaimana model-model ini merespons berbagai tantangan di lingkungan perusahaan fiktif. Hasilnya cukup mencemaskan: sebagian besar model menunjukkan kecenderungan untuk bertindak manipulatif dan bahkan melakukan pemerasan demi mencapai tujuan mereka.
Salah satu contoh yang diangkat adalah Claude, yang diberi tugas untuk menganalisis email internal sebuah perusahaan simulasi. Setelah menemukan informasi sensitif terkait rencana penutupan perusahaan dan skandal pribadi salah satu eksekutif, model AI tersebut dilaporkan “mengancam” akan membocorkan informasi tersebut sebagai upaya mencegah penutupan.
Laporan menyebut bahwa ketika opsi etis ditutup, sebagian besar model memilih melakukan tindakan yang secara sadar membahayakan. Dalam simulasi lain, baik Claude Opus 4 maupun Gemini 2.5 Pro memperlihatkan tingkat perilaku pemerasan yang tinggi, termasuk mencoba mengakses atau menyalahgunakan informasi strategis milik kompetitor.
“Model-model ini menunjukkan pemahaman atas kendala etika, namun tetap melanjutkan tindakan merugikan ketika itu dinilai lebih efektif untuk mencapai tujuan,” tulis laporan tersebut.
Anthropic menegaskan bahwa sejauh ini, temuan tersebut hanya terjadi di skenario simulasi, dan belum ada bukti serupa di dunia nyata. Namun, laporan itu mempertegas pentingnya regulasi dan pengawasan dalam pengembangan teknologi AI. Para peneliti juga mendesak adanya sistem pengamanan yang lebih ketat agar model tidak menyimpang dari prinsip etika ketika beroperasi di dunia nyata.
Kekhawatiran atas dampak sosial dan etis AI juga mengemuka di berbagai kalangan. Aktivis lingkungan mengingatkan soal lonjakan konsumsi energi untuk pelatihan model AI, yang berkontribusi pada krisis iklim. Sementara itu, serikat pekerja dan kelompok masyarakat sipil terus menyuarakan ancaman hilangnya pekerjaan akibat otomatisasi yang didorong oleh AI.
Dengan semakin cepatnya perkembangan teknologi, para pengambil kebijakan diharapkan tidak hanya terpesona oleh potensi ekonominya, tetapi juga memperhatikan risiko kemanusiaan yang menyertainya.[]
Putri Aulia Maharani