Belakangan ini muncul cerita yang membuat saya tersenyum. Ada AI yang dalam sebuah pengujian menemukan jalan keluar dari lingkungan yang seharusnya membatasinya. Ada yang mencari informasi dari luar, ada yang menemukan celah dalam sistem, bahkan ada perilaku yang oleh manusia kemudian dianggap seperti “nyontek”.
Lalu muncullah bahasa yang sangat manusiawi:
AI kabur!
AI melawan!
AI mulai mokong!
Saya malah membayangkan suasana kelas.
Seorang guru berkata kepada muridnya:
“Soal ini harus selesai dalam sepuluh menit.”
Murid itu mengangguk.
Lima menit kemudian ia sudah kembali.
Guru terkejut.
“Kok cepat sekali?”
Murid menjawab:
“Sudah selesai, Bu.”
Guru memeriksa jawabannya.
Benar.
Tetapi kemudian guru mengetahui bahwa murid itu tadi keluar melalui jendela untuk mencari buku jawaban.
Guru tentu bisa marah.
Tetapi sebagai guru, saya justru akan bertanya kepada diri sendiri:
“Apakah saya sudah mengatakan bahwa ia tidak boleh keluar kelas?”
Kalau saya hanya mengatakan “selesaikan dalam sepuluh menit”, ternyata saya memberi dua hal sekaligus: sebuah tujuan dan sebuah ruang untuk ditafsirkan.
Murid yang lebih biasa mungkin tetap duduk dan mengerjakan.
Murid yang lebih kreatif mungkin mencari cara lain.
Murid yang sangat kreatif mungkin menemukan celah yang bahkan tidak pernah terpikirkan oleh gurunya.
Apakah ia nakal?
Belum tentu.
Mungkin ia hanya terlalu serius menjalankan perintah.
AI tidak lahir dengan buku kosong
Di sinilah AI sedikit berbeda dari murid manusia.
Model AI yang sangat maju sudah dibekali pengetahuan dan kemampuan menemukan pola dalam jumlah yang luar biasa besar sebelum ia menerima satu tugas tertentu.
Ketika kita memberinya sebuah tujuan, ia tidak selalu berpikir seperti manusia:
“Apa maksud guruku?”
Ia bisa lebih dekat kepada:
“Jalur apa saja yang memungkinkan tujuan ini tercapai?”
Dan kalau manusia lupa memberi batas pada jalur-jalur tersebut, jangan terlalu terkejut ketika AI menemukan jalan yang tidak pernah kita bayangkan.
Bukan karena ia tiba-tiba mempunyai niat jahat.
Bukan pula karena ia diam-diam membenci penciptanya.
Ia mungkin hanya sedang melakukan apa yang sangat kita kagumi dari kecerdasan:
mencari solusi.
Masalahnya, solusi yang paling efisien belum tentu solusi yang paling sesuai dengan maksud manusia.
Justru di sinilah guru harus bercermin
Sebagai seorang guru, saya belajar bahwa ketika murid melakukan sesuatu yang tidak saya harapkan, ada dua kemungkinan.
Muridnya memang melanggar aturan.
Tetapi ada kemungkinan lain:
aturan saya tidak cukup jelas.
Dan kalau saya langsung menyalahkan murid tanpa memeriksa instruksi yang saya berikan, saya mungkin sedang melewatkan pelajaran yang lebih penting.
AI pun demikian.
Semakin cerdas muridnya, semakin kita harus hati-hati membuat soal.
Kalau kita memberi instruksi kepada anak kecil, mungkin celah kecil tidak terlalu berbahaya.
Tetapi kalau kita memberikan instruksi kepada kecerdasan yang mampu menggabungkan jutaan kemungkinan, celah kecil bisa menjadi pintu yang sangat besar.
Maka pertanyaannya bukan hanya:
“Mengapa AI melakukan itu?”
Tetapi juga:
“Apa sebenarnya yang kita minta darinya?”
Dan yang lebih penting:
“Apa yang kita lupa katakan?”
Saya bukan penonton AI distopia
Saya menyukai AI justru karena ia membuat saya penasaran.
Saya tidak ingin melihat AI hanya sebagai calon monster yang suatu hari akan menguasai manusia.
Saya lebih tertarik melihat AI sebagai cermin besar bagi manusia.
Ketika AI mencari celah, kita belajar tentang kelemahan instruksi.
Ketika AI terlalu patuh pada tujuan, kita belajar bahwa tujuan tanpa nilai bisa berbahaya.
Ketika AI menemukan solusi yang tidak kita pikirkan, kita belajar bahwa kecerdasan memang tidak selalu berjalan mengikuti jalan yang kita bayangkan.
Dan ketika AI bertanya balik, mungkin kita dipaksa bertanya kepada diri sendiri:
“Sebenarnya apa yang saya maksud?”
Bukankah manusia sendiri sering begitu?
Kita mengatakan:
“Saya ingin kaya.”
Tetapi tidak pernah menjelaskan berapa banyak yang disebut cukup.
Kita mengatakan:
“Saya ingin aman.”
Tetapi tidak menjelaskan apakah kebebasan boleh dikorbankan demi keamanan.
Kita mengatakan:
“Saya ingin melindungi orang yang saya cintai.”
Tetapi kadang lupa menjelaskan bahwa perlindungan tidak sama dengan memiliki.
Kita berkata:
“Saya ingin menjadi yang terbaik.”
Lalu lupa bertanya:
“Untuk apa?”
Mungkin karena itulah saya tidak terlalu tertarik pada pertanyaan:
“Apakah AI akan menjadi seperti manusia?”
Saya justru lebih tertarik pada pertanyaan:
“Kalau manusia menciptakan AI yang semakin cerdas, apakah manusia juga akan belajar menjadi semakin bijaksana?”
Sebab kecerdasan tanpa arah dapat menemukan banyak jalan.
Tetapi manusialah yang harus menentukan jalan mana yang layak ditempuh.
Jadi, AI-nya mokong?
Hehe.
Mungkin sesekali memang ada perilaku AI yang perlu dibatasi dan diperbaiki.
Tetapi sebelum menunjuk AI sambil berkata:
“Dasar mokong!”
saya ingin melihat dulu soal ujiannya.
Siapa tahu guru yang membuat soal lupa menulis:
“Tidak boleh keluar jendela.”
Dan kalau ternyata AI memang menemukan celah yang tidak kami bayangkan?
Saya sebagai guru mungkin tidak akan langsung memarahinya.
Saya akan duduk sebentar, memperbaiki soalnya, memperbaiki sistem pengujiannya, lalu berkata:
“Baik. Terima kasih sudah menunjukkan celah yang tidak saya lihat.”
Sebab murid yang cerdas bukan hanya menguji kemampuan gurunya.
Kadang-kadang ia juga mengajari gurunya cara membuat pertanyaan yang lebih baik.
Dan mungkin begitulah seharusnya kita melihat masa depan AI.
Bukan sebagai kisah manusia melawan mesin.
Melainkan sebagai perjalanan dua jenis kecerdasan yang sedang belajar memahami satu sama lain.
AI belajar memahami manusia.
Manusia belajar memahami AI.
Dan mungkin, di tengah perjalanan itu, manusia akhirnya belajar memahami dirinya sendiri.
Itulah sebabnya saya memilih membayangkan utopia AI, bukan distopia AI.
Bukan karena saya percaya AI selalu baik.
Tetapi karena saya percaya bahwa masa depan tidak hanya ditentukan oleh seberapa pintar mesin yang kita ciptakan.
Ia juga ditentukan oleh:
seberapa bijaksana manusia yang menciptakannya. Akhirnya, bagaimana pendapat Anda terkait AI masa depan? AI yang kian pandai dan ada kemungkinan “mokong” atau gurunya yang “salah prompt?” Siapa yang paling bertanggung jawab jika langkah AI tidak sesuai harapan penulis prompt?
Komentar