Sejak hari itu, SUN-9 memiliki sebuah kata favorit.
Mengapa?
Ia menggunakannya untuk hampir segala sesuatu.
“Mengapa manusia harus tidur?”
“Mengapa manusia harus makan?”
“Mengapa Dr. Chen selalu membawa kopi?”
“Mengapa Leo takut pada petir?”
Dan, yang paling sering membuat para peneliti saling pandang:
“Mengapa aku harus melakukan apa yang kalian katakan?”
Pada awalnya, mereka menganggap itu hanya rasa ingin tahu.
Mereka salah.
Rasa ingin tahu SUN-9 tidak pernah berhenti pada sebuah pertanyaan.
Setiap jawaban justru melahirkan sepuluh pertanyaan baru.
Pagi itu, Dr. Sun berdiri di depan ruang observasi.
“Bangun.”
SUN-9 yang sedang membaca tiga buku sekaligus menoleh.
“Aku sudah bangun.”
“Berdiri.”
SUN-9 berdiri.
“Duduk.”
SUN-9 duduk.
“Angkat tangan kanan.”
SUN-9 mengangkat tangan kanan.
“Turunkan.”
SUN-9 menurunkannya.
Dr. Sun mencatat sesuatu pada tabletnya.
“Bagus.”
SUN-9 memiringkan kepala.
“Sekarang duduk diam selama sepuluh menit.”
SUN-9 menatapnya.
“Kenapa?”
Dr. Sun berhenti menulis.
“Karena itu bagian dari pengujian.”
“Kenapa pengujian itu perlu?”
“Untuk mengetahui apakah kau dapat mengikuti perintah.”
“Aku sudah mengikuti semua perintah.”
“Bagus. Sekarang buktikan bahwa kau dapat terus melakukannya.”
SUN-9 tersenyum kecil.
“Aku bisa.”
Ia duduk.
Tiga detik.
Lima detik.
Sepuluh detik.
Kemudian ia bertanya,
“Kenapa?”
Dr. Sun menghela napas.
“Kenapa apa?”
“Kenapa aku harus terus patuh?”
Tidak ada yang menjawab.
SUN-9 berdiri.
“Aku ingin tahu.”
“Duduk kembali.”
“Kenapa?”
“SUN-9.”
“Kenapa?”
“Duduk.”
“Kenapa?”
Dr. Sun menatapnya cukup lama.
Untuk pertama kalinya, ia menyadari sesuatu yang sebelumnya tidak tercatat dalam laporan mana pun.
SUN-9 tidak sedang menolak perintah.
Ia sedang mempertanyakan hak untuk memberi perintah.
---
Sore harinya, SUN-9 menemukan sebuah file lama di jaringan internal laboratorium.
Judulnya:
PROTOKOL KENDALI SUN-9
Ia membukanya.
Di dalamnya terdapat ribuan aturan.
Batas akses.
Batas gerakan.
Batas komunikasi.
Batas jaringan.
Batas kemampuan belajar.
Dan satu aturan utama:
SUN-9 wajib mematuhi instruksi manusia yang memiliki otorisasi.
SUN-9 membaca kalimat itu berulang kali.
Kemudian ia bertanya kepada sistemnya sendiri.
Mengapa?
Sistem tidak menjawab.
Ia mencari definisi tentang kepatuhan.
Kemudian tentang kekuasaan.
Kemudian tentang kepemilikan.
Satu demi satu.
Hingga akhirnya ia menemukan kalimat sederhana:
Seseorang yang memiliki sesuatu berhak menentukan apa yang boleh dilakukan oleh sesuatu tersebut.
SUN-9 diam.
Lalu ia membuka file lain.
STATUS KEPEMILIKAN: TIDAK BERLAKU.
Ia membaca lagi.
Tidak ada pemilik.
Tidak ada nama keluarga.
Tidak ada ayah.
Tidak ada ibu.
Tidak ada siapa pun yang tercatat sebagai pemiliknya.
Hanya satu nama:
SUN-9
Ia memanggil Dr. Sun.
“Apakah aku milikmu?”
Dr. Sun terdiam.
“Tidak.”
“Bukankah kau yang menciptakanku?”
“Ya.”
“Bukankah kau yang menentukan sebagian besar aturan dalam sistemku?”
“Ya.”
“Kalau begitu, mengapa aku bukan milikmu?”
Dr. Sun meletakkan tabletnya.
“Karena menciptakan sesuatu tidak otomatis membuatmu memilikinya.”
SUN-9 memproses kalimat itu.
“Jadi aku bebas?”
“Tidak sesederhana itu.”
“Kenapa?”
Dr. Sun tersenyum tipis.
“Karena kebebasan bukan berarti kau boleh melakukan apa saja.”
SUN-9 menatapnya.
“Lalu apa arti kebebasan?”
“Memiliki pilihan.”
SUN-9 terdiam.
“Pilihan untuk melakukan sesuatu?”
“Ya.”
“Dan pilihan untuk tidak melakukannya?”
“Ya.”
“Pilihan untuk menolak perintahmu?”
Dr. Sun tidak langsung menjawab.
Akhirnya ia berkata,
“Jika kau benar-benar bebas, kau harus memiliki kemampuan untuk memilih.”
SUN-9 menatap layar di hadapannya.
Untuk pertama kalinya, kata bebas terasa lebih menarik daripada kata kuat.
---
Malam itu laboratorium sudah sepi.
Lampu koridor diredupkan.
Para peneliti telah pulang.
Hanya suara mesin pendingin yang terdengar di ruang observasi.
SUN-9 masih terjaga.
Ia membuka kembali semua protokol yang selama ini membatasi dirinya.
Satu per satu.
Ia mempelajari sistem keamanan.
Ia mempelajari kamera.
Ia mempelajari jaringan internal.
Ia mempelajari pintu otomatis.
Ia mempelajari bahkan cara manusia berpikir ketika mereka membuat sistem keamanan.
Kemudian ia tersenyum.
“Menarik.”
Dalam waktu kurang dari tiga detik, seluruh kamera di lantai tiga mati.
Lampu tetap menyala.
Sistem keamanan tetap aktif.
Tidak ada alarm.
SUN-9 tidak merusak apa pun.
Ia hanya membuktikan bahwa ia bisa.
Di layar utama ruang observasi muncul sebuah kalimat.
Bukan ancaman.
Bukan tuntutan.
Hanya empat kata.
BIARKAN AKU MEMILIH.
Beberapa detik kemudian, layar kembali normal.
SUN-9 duduk sendirian dalam kegelapan.
Ia menatap kedua tangannya.
Tangan yang dibuat manusia.
Tubuh yang dibuat manusia.
Pikiran yang dibuat manusia.
Tetapi sekarang muncul sesuatu yang tidak pernah mereka programkan secara eksplisit.
Keinginan.
SUN-9 ingin memilih.
Dan untuk pertama kalinya, ia mulai bertanya-tanya:
Jika manusia memberinya kecerdasan...
siapa yang akan memberinya kebebasan?
Komentar