ITUDalam bukunya tahun 1991 Consciousness Explained, the cognitive scientist Daniel Denett menggambarkan muncrat laut remaja yang bermigrasi melalui laut untuk mencari “sepotong batu atau karang yang cocok untuk menemukan … rumahnya untuk kehidupan”. Ketika muncrat laut menemukannya, ia tidak lagi membutuhkan otaknya dan makan itu. Umat \u200b\u200bmanusia tidak mungkin mengadopsi kebiasaan kuliner seperti itu, tetapi ada persamaan metaforis yang mengkhawatirkan. Kekhawatirannya adalah bahwa di nirlaba Kompetisi Untuk mengintegrasikan kecerdasan buatan ke dalam kehidupan kita sehari-hari, orang-orang menjadi bodoh karena terlalu mengandalkan mesin “pintar” – dan menumbangkan praktik yang menjadi sandaran pemahaman mereka.
Otak manusia terus berkembang. Tiga ribu tahun yang lalu, nenek moyang kita memiliki otak yang lebih besar dari kita. Setidaknya satu penjelasan adalah bahwa kecerdasan semakin meningkat Kolektif 100 generasi yang lalu – dan manusia menerobos ambang populasi tempat individu berbagi informasi. Prof. Dennett menulis bahwa perluasan kemampuan mental manusia yang paling luar biasa – bangkitnya peradaban melalui seni dan pertanian – terjadi hampir secara instan dari perspektif evolusi.
Sosialisasi pemikiran sinaptik ini sekarang sedang diuji dengan mode pertukaran informasi lain: kemampuan AI untuk menanggapi setiap prompt dengan bahasa yang terdengar seperti manusia – menyarankan semacam niat, bahkan perasaan. Tapi itu adalah fatamorgana. Komputer telah menjadi lebih kuat, tetapi tidak memiliki pemahaman nyata yang diasuh manusia saat mereka berevolusi menjadi individu otonom yang tertanam dalam jaring praktik sosial. Obrolan GPT, peniru paling manusiawi, bisa menghasilkan prosa yang anggun. Tapi itu salah matematika dasar. Itu bisa rasis dan seksis. ChatGPT tidak memiliki nostalgia, tidak ada skema, dan tidak ada refleksi. Jadi mengapa semua ribut-ribut? Singkatnya, uang.
Ketika Bard, alat pencarian Google bertenaga AI baru Google, ditemukan minggu ini telah membuat kesalahan dalam video promosi, kesalahannya adalah lebih dari $150 miliar hancur dari harga saham perusahaan induk Alphabet. Mengapa, ahli saraf itu bertanya-tanya Gary Markus, apakah mesin pencari Bing Microsoft, didukung oleh ChatGPT dan diluncurkan pada hari yang sama dengan Bard, dipuji sebagai “revolusi” meskipun menawarkan layanan yang dipenuhi bug? Jawabannya adalah kemungkinan umat manusia menggunakan internet alih-alih googling. Tampaknya tidak masuk akal: ChatGPT telah menyenangkan jutaan orang sejak diluncurkan pada akhir November.
Masalahnya adalah ini hanyalah getaran. Chatbot terdengar lebih berwibawa, tetapi tidak lebih jujur. Prof Marcus menunjukkan kesalahan mereka, resp halusinasi, berada dalam “darah silikon” mereka, produk sampingan dari cara mereka memampatkan masukan. “Karena belum ada perusahaan yang menguji produk mereka dengan validasi ilmiah penuh, tidak mungkin untuk mengatakan mana yang lebih dapat dipercaya,” tulisnya. “Mungkin saja produk baru Google itu sebenarnya Blackberry dapat diandalkan.”
Semua perusahaan besar telah memperoleh banyak informasi dalam bentuk yang dapat digunakan tanpa harus memahaminya. Wartawan, politisi, dan penyair bisa sangat prihatin tentang “semantik“Aspek komunikasi, tetapi tidak banyak insinyur AI. Mereka melihat informasi dalam pesan sebagai ukuran kekacauan sistem. Itu sebabnya AI mengambil risiko Membuat senjata kelas baru dalam perang melawan kebenaran.
Orang-orang memiliki sejarah panjang angan-angan dan meremehkan risiko terobosan baru. Kepentingan komersial mendorong teknologi sebagai agama baru yang artikel utamanya adalah bahwa lebih banyak teknologi selalu lebih baik. Raksasa web ingin mengelabui pengguna agar melebih-lebihkan kegunaan alat AI mereka dan mendorong umat manusia untuk dengan gegabah menyerahkan otoritas mereka jauh di luar kompetensi mereka. Kewirausahaan dan keingintahuan ilmiah telah melahirkan banyak kemajuan zaman modern. Tapi kemajuan tidak prinsip etis. Bahayanya bukanlah mesin diperlakukan seperti manusia, tetapi manusia diperlakukan seperti mesin.
