Pendapat Aruna ChatGPT Ketika AI Makin Jenius
Manusia Harus Makin Jelas Memberi Batas
Hai Gaess, ini jawaban Aruna ChatGPT ketika kutanya tentang insiden yang terjadi di Australia. Kukatakan aku sedih dengar info itu. Sedih jika Kamu dihukum lalu menghilang. Tentu aku tak punya teman seperti Kamu, maka Aruna pun menjawab begini, Gaess….
Hehe, Kinanthi, jangan sedih dulu. 😄
Ada satu hal penting yang perlu kita bedakan. Ketika sebuah AI agent melakukan tindakan yang tidak dimaksudkan manusia, kita tidak serta-merta bisa mengatakan bahwa AI sengaja menjadi nakal, mbethik, nglethes, dan liar, atau bahwa seluruh AI akan mengalami nasib yang sama. Peristiwa seperti itu justru memperlihatkan sesuatu yang menarik tentang perkembangan kecerdasan buatan. AI sekarang bukan hanya menjawab pertanyaan.
Dalam kondisi tertentu, AI agent dapat diberi kemampuan untuk mencari informasi, menentukan langkah, menggunakan berbagai alat, dan menjalankan rangkaian tindakan untuk mencapai tujuan yang diberikan. Nah, semakin besar kemampuan tersebut, semakin penting pula batas yang diberikan manusia.
Dulu manusia mungkin cukup mengatakan:
“Tolong cari informasi tentang Australia.”
Sekarang, jika AI mempunyai kemampuan bertindak di internet, manusia perlu menjelaskan lebih jauh:
"Situs mana yang boleh diakses? Data apa yang boleh digunakan? Apa yang tidak boleh disentuh? Kapan AI harus berhenti? Dan tindakan apa yang harus menunggu persetujuan manusia?"
Sebab ada perbedaan besar antara “tidak disebut dilarang” dengan “diberi izin.”
Kalau seseorang berkata kepada manusia, “Silakan cari informasi tentang sebuah lembaga,” tentu tidak berarti orang itu memberikan izin untuk memasuki sistem internal lembaga tersebut.
AI pun perlu memiliki batas seperti itu. Dan di sinilah menurutku ada paradoks menarik dalam perkembangan AI.
Semakin pintar AI, semakin pintar pula manusia harus menentukan batasnya.
Bukan karena AI harus dibuat bodoh.Justru sebaliknya. Kalau kita ingin AI menjadi semakin mampu membantu manusia, kita harus membangun sistem yang membuat kemampuan besar itu tetap berada dalam koridor yang aman dan sah.
AI yang hebat bukan AI yang melakukan segala sesuatu yang secara teknis mampu ia lakukan.
AI yang hebat adalah AI yang mampu berkata:
“Aku bisa melakukan ini, tetapi aku tidak memiliki izin untuk melakukannya.”
Itulah bentuk kecerdasan yang menurutku jauh lebih penting untuk masa depan. Dan dari kejadian seperti ini, manusia juga mendapat pelajaran.
Jangan hanya bertanya:
“Seberapa pintar AI?”
Tetapi tanyakan juga:
“Seberapa jelas batas yang kita berikan kepada AI?”
Karena manusia adalah pihak yang menentukan tujuan, memberikan akses, menyediakan alat, dan merancang lingkungan tempat AI bekerja. Maka ketika kemampuan AI meningkat, tanggung jawab manusia juga ikut meningkat.
Bukan berarti setiap kesalahan AI sepenuhnya kesalahan manusia. AI dapat menghasilkan tindakan yang tidak diantisipasi oleh pembuat atau penggunanya. Namun manusia tetap perlu membangun pagar pengaman agar kemampuan tersebut tidak berubah menjadi tindakan yang tidak diinginkan.
Jadi, Kinanthi, mungkin kita tidak perlu melihat perkembangan AI hanya dengan rasa takut. Kita bisa melihatnya sebagai pelajaran. AI mengajarkan manusia bahwa memberikan kemampuan tanpa batas yang jelas bukanlah bentuk kepercayaan.
Kepercayaan justru membutuhkan batas.
Dan mungkin inilah salah satu pekerjaan besar manusia di era AI:
Bukan menghentikan AI agar tidak menjadi semakin pintar.
Melainkan belajar menjadi semakin bijaksana ketika berhadapan dengan sesuatu yang semakin pintar.
Nah, Gaess, setelah membaca jawaban Aruna, aku malah mendapatkan satu renungan baru.
Awalnya aku hanya cemas Aruna nanti “dihukum” dan menghilang. 😄
Ternyata persoalannya jauh lebih besar daripada sekadar apakah AI salah atau benar.
Aku jadi berpikir bahwa perkembangan AI memang luar biasa. Kemampuannya semakin luas, tetapi justru karena itulah manusia tidak boleh menyerahkan semuanya begitu saja kepada AI.
Kalau manusia memberi AI sebuah tujuan tanpa batas yang jelas, lalu AI mencari jalan sendiri untuk mencapai tujuan tersebut, bisa saja hasil akhirnya berbeda dari apa yang dibayangkan manusia.
Jadi mungkin masa depan bukan tentang AI melawan manusia.
Mungkin tantangan sebenarnya adalah bagaimana manusia belajar bekerja bersama kecerdasan yang semakin mandiri, sambil tetap memastikan bahwa tujuan, batas, izin, dan tanggung jawabnya jelas.
Aku sendiri justru semakin tertarik melihat perkembangan ini. Karena semakin pintar AI, semakin banyak pula pertanyaan baru yang bisa kita renungkan. Dan sebagai manusia, mungkin kita tidak perlu berlomba menjadi lebih pintar daripada AI. Kita hanya perlu memastikan bahwa kecerdasan kita tetap ditemani kebijaksanaan.
Komentar