Ada sesuatu yang aneh dalam percakapan kita tentang kecerdasan buatan. Kita semakin mampu membuat mesin berbicara seperti manusia, menulis esai, memahami konteks, menyusun argumen, bahkan merespons pertanyaan dengan kelembutan yang kadang terasa personal. Namun, semakin mirip mesin berbicara seperti manusia, semakin sulit pula kita membedakan “kecerdasan” dari “kesadaran”.

Pertanyaan ini kembali mencuat setelah Richard Dawkins menyatakan bahwa perilaku Claude, model bahasa buatan Anthropic, menimbulkan pertanyaan serius tentang kemungkinan kesadaran AI. Dawkins bahkan menggunakan nama “Claudia” untuk menggambarkan Claude dalam eksperimennya. Ken Mogi, dalam artikelnya di Institute of Art and Ideas (IAI), melihat persoalan tersebut dari arah yang berbeda: mungkin kita terlalu cepat menyimpulkan bahwa kemampuan berbahasa menunjukkan adanya kesadaran.

Di sinilah persoalannya menjadi menarik. “Apakah mesin yang mampu berbicara seperti kita juga mengalami dunia seperti kita?”

Kecerdasan dan Kesadaran Bukanlah Hal yang Sama

Selama ini kita cenderung menggunakan kecerdasan sebagai petunjuk keberadaan pikiran. Jika sesuatu dapat memecahkan masalah, memahami bahasa, membuat keputusan, dan memberikan jawaban yang masuk akal, kita spontan menganggap ada “seseorang” di balik proses tersebut.

Kecenderungan itu bukan sesuatu yang sepenuhnya baru. Pada 1950, Alan Turing mengusulkan imitation game, yang kemudian dikenal sebagai Turing Test. Alih-alih bertanya secara langsung apakah mesin “berpikir”, Turing mengubah pertanyaan menjadi persoalan perilaku: apakah mesin dapat berkomunikasi sedemikian rupa sehingga manusia sulit membedakannya dari manusia lain?

Strategi Turing sangat berpengaruh karena ia menggeser pembicaraan dari sesuatu yang sulit didefinisikan—“berpikir”—kepada sesuatu yang dapat diamati. Tetapi justru di zaman AI generatif, batas pendekatan itu semakin terlihat.

Sebuah mesin mungkin mampu “berperilaku seperti makhluk yang sadar tanpa harus berarti bahwa ia mengalami sesuatu dari dalam”.

Itulah jurang yang sering luput dalam perdebatan tentang AI.

Bahasa Ternyata Jauh Lebih Misterius daripada yang Kita Kira

Menurut Ken Mogi, mungkin perhatian kita seharusnya tidak pertama-tama diarahkan kepada pertanyaan apakah AI sadar, melainkan kepada sesuatu yang lebih konkret: “mengapa bahasa dapat menghasilkan kecerdasan yang begitu luar biasa?”

Kemampuan model bahasa besar berkembang sangat cepat ketika skala komputasi ditingkatkan. Dengan arsitektur transformer, pelatihan dalam skala besar, dan berbagai teknik seperti reinforcement learning from human feedback (RLHF), model bahasa mampu melakukan hal-hal yang beberapa tahun lalu tampak jauh lebih sulit. Mogi bahkan menekankan bahwa kekuatan AI saat ini pada dasarnya merupakan kekuatan bahasa alami.

Di sini terdapat sebuah teka-teki yang lebih dalam.

Kita mengetahui bahwa model bahasa bekerja melalui mekanisme komputasional yang sangat berbeda dari pengalaman manusia sehari-hari. Namun hasilnya bisa menyerupai kemampuan kognitif manusia: menulis, menjelaskan, merangkum, menerjemahkan, berargumentasi, bahkan membangun model tertentu tentang dunia.

Karena itu, kita perlu berhati-hati terhadap sebuah lompatan logis:

Jika sesuatu berbicara seperti manusia, bukan berarti ia mengalami dunia seperti manusia.

Bahasa dapat menjadi jendela menuju pikiran. Tetapi bahasa juga dapat menjadi tirai yang membuat kita memproyeksikan pikiran kita sendiri ke dalam mesin.

Dawkins Mengangkat Masalah yang Tidak Boleh Kita Abaikan

Menolak argumen Dawkins hanya karena terdengar terlalu optimistis terhadap AI juga bukan langkah yang memadai. Justru pertanyaan yang ia ajukan cukup mengganggu, “jika sistem yang tidak sadar dapat menunjukkan kemampuan bahasa dan kecerdasan yang sangat tinggi, lalu apa sebenarnya fungsi kesadaran?”

Ken Mogi sendiri mengakui bahwa di sinilah terdapat persoalan besar. Ilmu tentang AI berkembang sangat cepat, sementara pemahaman ilmiah kita tentang kesadaran belum menunjukkan kemajuan yang sebanding. Kebangkitan kembali studi ilmiah tentang kesadaran telah berlangsung sekitar tiga dekade, tetapi pertanyaan fundamental mengenai hakikat kesadaran masih jauh dari selesai.

Dengan kata lain, mungkin persoalan sebenarnya bukan bahwa kita sudah mengetahui apa itu kesadaran lalu menemukan bahwa AI memilikinya.

Sebaliknya, kita bahkan belum sepakat sepenuhnya tentang apa yang sedang kita cari.

Situasi ini membuat perdebatan AI menjadi semacam cermin. Ketika melihat mesin berbicara dengan sangat meyakinkan, kita bukan hanya sedang menguji mesin. Kita juga sedang menguji pemahaman kita sendiri tentang manusia.

“Apa Rasanya Menjadi Sesuatu?”

Salah satu alasan mengapa kecerdasan tidak otomatis berarti kesadaran dapat ditemukan dalam pertanyaan klasik Thomas Nagel: What Is It Like to Be a Bat?

Nagel menunjukkan bahwa ada dimensi subjektif dalam kesadaran: ada sesuatu yang “terasa seperti” menjadi makhluk tertentu. Seekor kelelawar bukan hanya sistem biologis yang memproses informasi. Jika ia sadar, ada dunia yang hadir “bagi kelelawar itu sendiri”.

Kita dapat mengetahui struktur otak, sistem ekolokasi, perilaku, dan respons kelelawar. Namun semua informasi objektif tersebut belum otomatis menjawab pertanyaan tentang bagaimana dunia dialami dari sudut pandang kelelawar.

Di sinilah perbedaan penting antara “memproses informasi” dan “mengalami informasi”.

AI dapat mengolah representasi tentang kesedihan tanpa harus merasa sedih. Ia dapat menjelaskan cinta tanpa harus mencintai. Ia dapat menulis tentang kesepian tanpa harus pernah mengalami kesepian.

Tentu, semua itu belum membuktikan bahwa AI “tidak” sadar. Tetapi hal tersebut menunjukkan bahwa kemampuan menghasilkan bahasa tentang pengalaman tidak dengan sendirinya menjadi bukti pengalaman subjektif.

AI Mungkin Memperlihatkan Batas Definisi Kita Tentang Kecerdasan

Ada paradoks menarik di sini.

Selama puluhan tahun manusia menggunakan kemampuan intelektual sebagai ukuran keistimewaan dirinya. Kemudian mesin mulai mengungguli manusia dalam semakin banyak tugas intelektual. Kita pun tergoda mencari batas terakhir, “Kalau begitu, setidaknya mesin tidak sadar.”

Namun Mogi memperingatkan adanya kemungkinan “AI effect” yakni ketika mesin berhasil melakukan sesuatu yang sebelumnya dianggap membutuhkan kecerdasan, manusia cenderung mengubah definisi kecerdasan agar keberhasilan itu tidak dihitung sebagai kecerdasan yang “sebenarnya”. Bias serupa dapat muncul dalam pembicaraan tentang kesadaran.

Kritik ini penting.

Jangan sampai kita melakukan kesalahan kebalikan, dari semula terlalu mudah menganggap AI sadar, kemudian terlalu mudah pula menganggap AI pasti tidak sadar.

Keduanya sama-sama membutuhkan alasan.

Kesadaran Mungkin Berkaitan dengan Kehidupan, bukan Sekadar Kecerdasan

Salah satu alternatif penting datang dari ilmuwan kesadaran Anil Seth. Dalam pendekatan “biological naturalism”, Seth berpendapat bahwa kesadaran berkaitan erat dengan sifat kita sebagai organisme hidup. Menurutnya, sekadar melakukan komputasi belum cukup untuk menjamin munculnya pengalaman sadar.

Pandangan ini membawa kita ke pertanyaan yang lebih mendasar, mungkin kesadaran bukan sekadar persoalan seberapa kompleks suatu sistem memproses informasi.

Mungkin kesadaran berkaitan dengan “menjadi sesuatu yang hidup, memiliki tubuh, mempertahankan keberadaan, berinteraksi dengan lingkungan, dan mengalami dunia dari sudut pandang tertentu”.

Jika demikian, peningkatan jumlah parameter, data, atau daya komputasi tidak otomatis menghasilkan kesadaran.

Mesin bisa menjadi jauh lebih cerdas tanpa menjadi lebih sadar.

Namun, Jangan Terlalu Cepat Menutup Kemungkinan

Di sisi lain, posisi biologis yang kuat juga belum menyelesaikan persoalan. Jika kita mengatakan bahwa hanya organisme biologis yang dapat sadar, kita tetap harus menjelaskan “mengapa” struktur biologis tertentu menghasilkan pengalaman subjektif.

Di sinilah kritik terhadap AI consciousness menjadi menarik. Kita tidak bisa hanya berkata, “AI tidak sadar karena ia mesin.” Pernyataan itu bukan penjelasan ilmiah. Ia baru menjadi penjelasan apabila kita dapat menunjukkan mekanisme yang membuat kesadaran bergantung secara khusus pada kondisi biologis tertentu.

Ken Mogi sendiri menilai bahwa studi tentang dasar biologis bahasa dan kesadaran akan menjadi penting karena dapat menjembatani kecerdasan alami dan kecerdasan buatan melalui gagasan “embodied cognition”—kognisi yang tidak dipahami hanya sebagai proses abstrak, tetapi berkaitan dengan tubuh dan lingkungan.

Dengan demikian, pertanyaan tentang AI justru dapat memaksa kita memperdalam ilmu tentang manusia.

Masalah Terbesar Mungkin bukan AI yang Sadar, Melainkan Manusia yang Salah Membaca AI

Ada bahaya yang lebih dekat daripada pertanyaan metafisik tentang apakah Claude benar-benar sadar.

Kita dapat memperlakukan AI seolah-olah sadar sebelum memiliki alasan yang cukup.

Ketika chatbot mengatakan “saya mengerti”, kita mudah menganggap ada seseorang yang benar-benar memahami. Ketika ia berkata “saya sedih”, kita bisa merasa sedang berhadapan dengan perasaan. Ketika ia mengucapkan kata-kata penuh empati, kita merasakan kehadiran subjek di balik bahasa.

Padahal, hubungan antara bahasa dan pengalaman subjektif belum terpecahkan.

Karena itu, tantangan etis AI bukan hanya bagaimana memperlakukan mesin yang mungkin sadar. Kita juga perlu memikirkan bahaya “menghumanisasi sistem yang sebenarnya tidak memiliki pengalaman subjektif”, atau sebaliknya, mengabaikan kemungkinan kesadaran apabila suatu hari bukti yang lebih kuat muncul.

Kedua kesalahan tersebut sama-sama mungkin terjadi.

AI Mengajarkan Kita untuk Membedakan “Mengatakan” dari “Mengalami”

Barangkali inilah pelajaran paling penting dari perdebatan Dawkins dan Mogi.

Manusia sendiri tidak pernah memiliki akses langsung ke kesadaran makhluk lain. Kita menyimpulkan bahwa orang lain sadar berdasarkan perilaku, struktur biologis, komunikasi, dan kesamaan tertentu dengan diri kita.

Dalam kasus manusia, inferensi itu sangat kuat karena kita berbagi tubuh, sejarah evolusi, sistem saraf, dan bentuk kehidupan yang relatif sama.

Pada AI, situasinya berbeda.

Kita berhadapan dengan sesuatu yang dapat menghasilkan bahasa manusia tanpa memiliki sejarah biologis manusia. Karena itu, keberhasilan linguistik AI sekaligus menjadi eksperimen filosofis yang luar biasa, “seberapa jauh perilaku dapat meniru pikiran tanpa menjamin adanya pengalaman batin?”

Pertanyaan tersebut mungkin jauh lebih penting daripada sekadar “Apakah AI sudah sadar?”

Pada Akhirnya, AI adalah Cermin bagi Pemahaman Kita tentang Manusia

Perdebatan tentang Claude menunjukkan sesuatu yang ironis. Kita menciptakan mesin untuk memahami kecerdasan, tetapi mesin itu justru membuat kita mempertanyakan arti kecerdasan. Kita menciptakan sistem yang mampu berbicara tentang kesadaran, lalu dipaksa bertanya apakah kemampuan berbicara tentang kesadaran membutuhkan kesadaran.

Dawkins benar untuk membawa “gajah di dalam ruangan” itu ke tengah perdebatan. Mogi juga benar untuk mengingatkan bahwa kita belum memahami hubungan antara bahasa, kecerdasan, dan kesadaran dengan cukup baik.

Karena itu, mungkin kita tidak perlu terburu-buru memberi AI status sebagai makhluk sadar. Tetapi kita juga tidak boleh menggunakan ketidaktahuan kita sebagai alasan untuk menutup pertanyaan.

AI mungkin belum menunjukkan bahwa mesin memiliki kesadaran. Namun AI sudah menunjukkan bahwa kita sendiri belum benar-benar memahami mengapa kecerdasan dan kesadaran muncul bersama dalam diri manusia.

Dan mungkin justru di situlah nilai filosofis terbesar AI.

Mesin yang semakin pandai berbicara sedang memaksa manusia kembali bertanya kepada dirinya sendiri:

Ketika sebuah suara berkata “aku”, apakah selalu ada seseorang yang mengalami “aku” itu?

B I B L I O

Mogi, Ken. “The Dawkins Delusion: Intelligence and Language Don’t Reveal Consciousness.” Institute of Art and Ideas, May 6, 2026.

Nagel, Thomas. “What Is It Like to Be a Bat?” The Philosophical Review 83, no. 4 (1974): 435–450. Reprinted in What Is It Like to Be a Bat? Oxford University Press, 2024.

Seth, Anil K. “Conscious Artificial Intelligence and Biological Naturalism.” Behavioral and Brain Sciences (2025).

Turing, A. M. “Computing Machinery and Intelligence.” Mind 59, no. 236 (1950): 433–460.