Alasan artikel ini (dan lainnya) terungkap sederhana: mungkin kecerdasan buatan bukan hanya topik penting untuk diskusi, tetapi yang paling penting dalam konteks masa depan. Siapa pun yang sedikit memahami esensi potensi kecerdasan buatan menyadari bahwa topik ini tidak dapat diabaikan. Beberapa - dan di antara mereka Elon Musk, Stephen Hawking, Bill Gates, bukan orang paling bodoh di planet kita - percaya bahwa kecerdasan buatan merupakan ancaman eksistensial bagi umat manusia, sebanding dalam skala kepunahan total kita sebagai spesies. Nah, duduk dan beri tanda i untuk dirimu sendiri.
“Kita berada di ambang perubahan yang sebanding dengan asal usul kehidupan manusia di Bumi” (Vernor Vinge).
Apa artinya berada di ambang perubahan seperti itu?
Sepertinya tidak ada yang istimewa. Tetapi Anda harus ingat bahwa berada di tempat seperti itu pada grafik berarti Anda tidak tahu apa yang ada di sebelah kanan Anda. Anda harus merasakan sesuatu seperti ini:
Perasaan cukup normal, penerbangan berjalan dengan baik.
Masa depan akan datang
Bayangkan sebuah mesin waktu membawa Anda ke tahun 1750 - saat dunia mengalami gangguan konstan dalam pasokan listrik, komunikasi antar kota berarti tembakan meriam, dan semua transportasi berjalan di atas jerami. Katakanlah Anda sampai di sana, membawa seseorang dan membawanya ke tahun 2015, tunjukkan bagaimana keadaannya di sini. Kami tidak dapat memahami bagaimana rasanya melihat semua kapsul mengkilap ini terbang di sepanjang jalan; berbicara dengan orang-orang di seberang lautan; lihat permainan olahraga yang jaraknya ribuan kilometer; mendengar pertunjukan musik yang direkam 50 tahun yang lalu; bermain dengan persegi panjang ajaib yang dapat mengambil foto atau mengabadikan momen langsung; buat peta dengan titik biru paranormal yang menunjukkan lokasinya; melihat wajah seseorang dan berkomunikasi dengannya beberapa kilometer jauhnya, dan seterusnya. Semua ini adalah sihir yang tidak bisa dijelaskan untuk orang berusia hampir tiga ratus tahun. Belum lagi Internet, Stasiun Luar Angkasa Internasional, Large Hadron Collider, senjata nuklir, dan relativitas umum.
Pengalaman seperti itu baginya tidak akan mengejutkan atau mengejutkan - kata-kata ini tidak menyampaikan seluruh esensi keruntuhan mental. Pelancong kita bisa mati sama sekali.
Tapi ada poin yang menarik. Jika dia kembali ke tahun 1750 dan cemburu karena kita ingin melihat reaksinya di tahun 2015, dia dapat membawa mesin waktu bersamanya dan mencoba melakukan hal yang sama dengan, katakanlah, tahun 1500. Dia akan terbang ke sana, menemukan seseorang, menjemputnya pada tahun 1750 dan menunjukkan segalanya. Seorang pria dari 1500 akan terkejut tak terkira - tetapi tidak mungkin mati. Meskipun dia, tentu saja, akan terkejut, perbedaan antara 1500 dan 1750 jauh lebih sedikit daripada antara 1750 dan 2015. Seseorang dari 1500 akan terkejut pada beberapa momen dari fisika, akan kagum pada apa yang telah terjadi di Eropa di bawah tumit keras imperialisme, akan menggambar peta dunia baru di kepalanya … Tetapi kehidupan sehari-hari pada tahun 1750 - transportasi, komunikasi, dll. - tidak mungkin mengejutkannya sampai mati.
Tidak, untuk seorang pria dari tahun 1750 untuk bersenang-senang seperti kita, dia harus melangkah lebih jauh - mungkin tahun seperti ini pada 12.000 SM. SM, bahkan sebelum revolusi pertanian pertama melahirkan kota-kota pertama dan konsep peradaban. Jika seseorang dari dunia pemburu-pengumpul, dari saat manusia masih merupakan spesies hewan lain, melihat kerajaan manusia yang besar pada tahun 1750 dengan gereja-gereja tinggi mereka, kapal-kapal yang melintasi lautan, konsep mereka "di dalam" sebuah gedung, semuanya pengetahuan ini - dia akan mati, kemungkinan besar.
Dan kemudian, setelah kematian, dia akan iri dan ingin melakukan hal yang sama. Akan kembali 12.000 tahun yang lalu, pada 24.000 SM. e., akan mengambil seseorang dan membawanya pada waktunya. Dan seorang musafir baru akan berkata kepadanya: "Baiklah, tidak apa-apa, terima kasih." Karena dalam hal ini, seseorang dari 12.000 SM. NS. akan perlu untuk kembali ke 100.000 tahun dan menunjukkan api dan bahasa penduduk asli untuk pertama kalinya.
Jika kita perlu membawa seseorang ke masa depan untuk terkejut sampai mati, kemajuan harus menempuh jarak tertentu. Point of Death Progress (TPP) harus tercapai. Artinya, jika pada waktu TSP pemburu-pengumpul memakan waktu 100.000 tahun, pemberhentian berikutnya sudah terjadi pada 12.000 SM. NS. Setelah itu, kemajuan sudah lebih cepat dan secara radikal mengubah dunia pada tahun 1750 (kira-kira). Kemudian butuh beberapa ratus tahun, dan di sinilah kita.
Gambar ini - di mana kemajuan manusia bergerak lebih cepat seiring berjalannya waktu - futuris Ray Kurzweil menyebut hukum percepatan pengembalian dalam sejarah manusia. Ini karena masyarakat yang lebih maju memiliki kemampuan untuk memajukan kemajuan lebih cepat daripada masyarakat yang kurang berkembang. Orang-orang abad ke-19 tahu lebih banyak daripada orang-orang abad ke-15, sehingga tidak mengherankan bahwa kemajuan di abad ke-19 lebih cepat daripada di abad ke-15, dan seterusnya.
Pada skala yang lebih kecil, ini juga berfungsi. Back to the Future dirilis pada tahun 1985 dan masa lalu pada tahun 1955. Dalam film tersebut, ketika Michael J. Fox kembali pada tahun 1955, ia dikejutkan oleh kebaruan televisi, harga soda, kurangnya kecintaan pada suara gitar, dan variasi bahasa gaul. Itu adalah dunia yang berbeda, tentu saja, tetapi jika filmnya diambil hari ini, dan masa lalunya terjadi pada tahun 1985, perbedaannya akan jauh lebih global. Marty McFly, kembali ke masa dari zaman komputer pribadi, Internet, telepon seluler, akan jauh lebih tidak relevan daripada Marty, yang pergi ke 1955 dari 1985.
Semua ini karena hukum percepatan pengembalian. Tingkat kemajuan rata-rata antara 1985 dan 2015 lebih tinggi daripada tingkat 1955 hingga 1985 - karena dalam kasus pertama, dunia lebih maju, jenuh dengan pencapaian 30 tahun terakhir.
Dengan demikian, semakin banyak pencapaian, semakin cepat perubahan terjadi. Tapi bukankah itu memberi kita petunjuk tertentu untuk masa depan?
Kurzweil mengemukakan bahwa kemajuan seluruh abad ke-20 dapat dicapai hanya dalam 20 tahun pada tingkat perkembangan tahun 2000 - yaitu, pada tahun 2000 tingkat kemajuan lima kali lebih cepat daripada tingkat kemajuan rata-rata abad ke-20. Dia juga percaya bahwa kemajuan seluruh abad ke-20 setara dengan kemajuan periode dari 2000 hingga 2014, dan kemajuan abad ke-20 lainnya akan setara dengan periode hingga 2021 - yaitu, hanya dalam tujuh tahun. Setelah beberapa dekade, semua kemajuan abad ke-20 akan terjadi beberapa kali dalam setahun, dan kemudian hanya dalam sebulan. Pada akhirnya, hukum percepatan pengembalian akan membawa kita ke titik bahwa kemajuan sepanjang abad ke-21 akan 1.000 kali lebih besar daripada kemajuan abad ke-20.
Jika Kurzweil dan pendukungnya benar, 2030 akan mengejutkan kita dengan cara yang sama seperti pria dari 1750 akan mengejutkan 2015 kita - yaitu, TSP berikutnya hanya akan memakan waktu beberapa dekade - dan dunia 2050 akan sangat berbeda dari yang modern yang hampir tidak kita temukan. Dan ini bukan fiksi. Ini adalah pendapat banyak ilmuwan yang lebih pintar dan lebih berpendidikan daripada Anda dan saya. Dan jika Anda melihat sejarah, Anda akan memahami bahwa prediksi ini mengikuti logika murni.
Lalu mengapa, ketika kita dihadapkan dengan pernyataan seperti "dunia dalam 35 tahun akan berubah tanpa bisa dikenali", kita dengan skeptis mengangkat bahu? Ada tiga alasan skeptisisme kami tentang prediksi masa depan:
1. Ketika datang ke sejarah, kita berpikir dalam garis lurus. Dalam mencoba memvisualisasikan kemajuan 30 tahun ke depan, kami melihat kemajuan 30 tahun sebelumnya sebagai indikator seberapa besar kemungkinan yang akan terjadi. Ketika kita berpikir tentang bagaimana dunia kita akan berubah di abad ke-21, kita mengambil kemajuan abad ke-20 dan menambahkannya ke tahun 2000. Kesalahan yang sama yang dilakukan orang kita dari tahun 1750 ketika dia mendapatkan seseorang dari tahun 1500 dan mencoba mengejutkannya. Kami secara intuitif berpikir secara linier, ketika kami harus eksponensial. Pada dasarnya, seorang futuris harus mencoba memprediksi kemajuan 30 tahun ke depan, tidak melihat 30 tahun sebelumnya, tetapi menilai dari tingkat kemajuan saat ini. Maka ramalannya akan lebih akurat, tetapi masih di depan gerbang. Untuk berpikir dengan benar tentang masa depan, Anda perlu melihat segala sesuatunya bergerak dengan kecepatan yang jauh lebih cepat daripada yang bergerak sekarang.
[/Tengah]
2. Lintasan sejarah akhir-akhir ini sering terdistorsi. Pertama, bahkan kurva eksponensial yang curam tampak linier ketika Anda melihat sebagian kecil darinya. Kedua, pertumbuhan eksponensial tidak selalu mulus dan seragam. Kurzweil percaya bahwa kemajuan bergerak dalam kurva berkelok-kelok.
Kurva tersebut melewati tiga fase: 1) pertumbuhan lambat (fase awal pertumbuhan eksponensial); 2) pertumbuhan cepat (eksplosif, fase akhir pertumbuhan eksponensial); 3) pemantapan dalam bentuk paradigma tertentu.
Jika Anda melihat cerita terakhir, bagian dari kurva S tempat Anda berada saat ini dapat menyembunyikan kecepatan kemajuan dari persepsi Anda. Beberapa waktu antara 1995 dan 2007 dihabiskan untuk ledakan perkembangan Internet, memperkenalkan Microsoft, Google dan Facebook kepada publik, kelahiran jejaring sosial dan perkembangan telepon seluler dan kemudian telepon pintar. Ini adalah fase kedua dari kurva kami. Tetapi periode dari 2008 hingga 2015 tidak terlalu mengganggu, setidaknya di bidang teknologi. Mereka yang memikirkan masa depan hari ini dapat mengambil beberapa tahun terakhir untuk mengukur kecepatan kemajuan secara keseluruhan, tetapi mereka tidak melihat gambaran yang lebih besar. Faktanya, Fase 2 yang baru dan kuat mungkin sedang dibuat sekarang.
3. Pengalaman kita sendiri membuat kita menjadi orang tua yang pemarah ketika datang ke masa depan. Kami mendasarkan ide-ide kami tentang dunia pada pengalaman kami sendiri, dan pengalaman ini telah mengatur laju pertumbuhan di masa lalu bagi kami sebagai hal yang biasa. Demikian juga, imajinasi kita terbatas, karena mereka menggunakan pengalaman kita untuk memprediksi - tetapi lebih sering daripada tidak, kita tidak memiliki alat yang memungkinkan kita untuk memprediksi masa depan secara akurat. Ketika kita mendengar prediksi untuk masa depan yang bertentangan dengan persepsi kita sehari-hari tentang bagaimana segala sesuatunya bekerja, kita secara naluriah menganggapnya naif. Jika saya katakan bahwa Anda akan hidup sampai usia 150 atau 250 tahun, atau mungkin Anda tidak akan mati sama sekali, secara naluriah Anda akan berpikir bahwa “ini bodoh, saya tahu dari sejarah bahwa selama ini semua orang mati”. Begitulah: tidak ada yang hidup untuk melihat tahun-tahun seperti itu. Tetapi tidak ada satu pun pesawat terbang sebelum penemuan pesawat terbang.
Jadi, sementara skeptisisme tampaknya masuk akal bagi Anda, itu lebih sering salah. Kita harus menerima bahwa jika kita mempersenjatai diri dengan logika murni dan menunggu zigzag sejarah yang biasa, kita harus mengakui bahwa sangat, sangat, sangat banyak yang harus berubah dalam beberapa dekade mendatang; lebih dari secara intuitif. Logika juga menyatakan bahwa jika spesies paling maju di planet ini terus membuat lompatan raksasa ke depan, lebih cepat dan lebih cepat, pada titik tertentu lompatannya akan sangat parah sehingga secara radikal akan mengubah kehidupan seperti yang kita ketahui. Hal serupa terjadi dalam proses evolusi, ketika manusia menjadi begitu cerdas sehingga ia mengubah kehidupan spesies lain di planet Bumi sepenuhnya. Dan jika Anda meluangkan sedikit waktu untuk membaca apa yang terjadi dalam sains dan teknologi saat ini, Anda mungkin mulai melihat beberapa petunjuk tentang seperti apa lompatan raksasa berikutnya.
Jalan menuju superintelligence: apa itu AI (kecerdasan buatan)?
Seperti banyak orang di planet ini, Anda terbiasa menganggap kecerdasan buatan sebagai ide fiksi ilmiah yang konyol. Namun akhir-akhir ini, banyak orang yang serius telah menunjukkan keprihatinan tentang ide bodoh ini. Apa yang salah?
Ada tiga alasan yang menyebabkan kebingungan seputar istilah AI:
Kami mengasosiasikan AI dengan film. "Perang Bintang". "Terminator". "Sebuah Pengembaraan Luar Angkasa 2001". Tapi seperti robot, AI dalam film-film ini adalah fiksi. Dengan demikian, kaset Hollywood melemahkan tingkat persepsi kita, AI menjadi akrab, akrab, dan, tentu saja, jahat.
Ini adalah bidang aplikasi yang luas. Dimulai dengan kalkulator di ponsel Anda dan mengembangkan mobil self-driving menjadi sesuatu yang jauh di masa depan yang akan merevolusi dunia. AI singkatan dari semua hal ini, dan itu membingungkan.
Kami menggunakan AI setiap hari, tetapi seringkali kami bahkan tidak menyadarinya. Seperti yang dikatakan John McCarthy, penemu istilah "kecerdasan buatan" pada tahun 1956, "setelah berhasil, tidak ada yang menyebutnya AI lagi." AI telah menjadi lebih seperti prediksi mitos tentang masa depan daripada sesuatu yang nyata. Pada saat yang sama, nama ini juga memiliki rasa sesuatu dari masa lalu yang tidak pernah menjadi kenyataan. Ray Kurzweil mengatakan dia mendengar orang mengasosiasikan AI dengan fakta dari tahun 80-an, yang dapat dibandingkan dengan "mengklaim bahwa internet mati bersama dengan dotcom di awal 2000-an."
Mari kita menjadi jelas. Pertama, berhenti memikirkan robot. Robot yang menjadi wadah AI terkadang meniru bentuk manusia, terkadang tidak, tetapi AI itu sendiri adalah komputer di dalam robot. AI adalah otak, dan robot adalah tubuh, jika ia memiliki tubuh sama sekali. Misalnya, perangkat lunak dan data Siri adalah kecerdasan buatan, suara wanita adalah personifikasi dari AI ini, dan tidak ada robot dalam sistem ini.
Kedua, Anda mungkin pernah mendengar istilah "singularitas" atau "singularitas teknologi". Istilah ini digunakan dalam matematika untuk menggambarkan situasi yang tidak biasa di mana aturan biasa tidak lagi berfungsi. Dalam fisika, ini digunakan untuk menggambarkan titik yang sangat kecil dan padat dari sebuah lubang hitam, atau titik asli dari Big Bang. Sekali lagi, hukum fisika tidak bekerja di dalamnya. Pada tahun 1993, Vernor Vinge menulis sebuah esai terkenal di mana ia menerapkan istilah itu pada saat di masa depan ketika kecerdasan teknologi kita melampaui kita sendiri - di mana kehidupan seperti yang kita tahu akan berubah selamanya, dan aturan keberadaannya yang biasa tidak akan bekerja lagi … … Ray Kurzweil lebih lanjut menyempurnakan istilah ini, menunjukkan singularitas akan tercapai ketika hukum percepatan mundur mencapai titik ekstrim, ketika kemajuan teknologi bergerak begitu cepat sehingga kita berhenti memperhatikan pencapaiannya, hampir sangat cepat. Kemudian kita akan hidup di dunia yang sama sekali baru. Namun, banyak ahli telah berhenti menggunakan istilah ini, jadi mari dan kita tidak akan sering merujuknya.
Akhirnya, meskipun ada banyak jenis atau bentuk AI yang berasal dari konsep AI yang luas, kategori utama AI bergantung pada kalibernya. Ada tiga kategori utama:
Kecerdasan buatan (AI) yang terfokus (lemah). UII mengkhususkan diri dalam satu bidang. Di antara AI ini ada yang bisa mengalahkan juara catur dunia, tapi itu saja. Ada satu yang dapat menawarkan cara terbaik untuk menyimpan data di hard drive Anda, dan hanya itu.
Kecerdasan buatan umum (kuat). Terkadang juga disebut sebagai AI level manusia. AGI mengacu pada komputer yang secerdas manusia - mesin yang mampu melakukan tindakan intelektual apa pun yang melekat pada seseorang. Membuat AGI jauh lebih sulit daripada AGI, dan kita belum mencapainya. Profesor Linda Gottfredson menggambarkan kecerdasan sebagai "dalam pengertian umum, potensi psikis, yang, antara lain, mencakup kemampuan untuk menalar, merencanakan, memecahkan masalah, berpikir abstrak, memahami ide-ide kompleks, belajar dengan cepat dan belajar dari pengalaman."AGI harus dapat melakukan semua ini semudah yang Anda lakukan.
Kecerdasan buatan (ISI). Filsuf Oxford dan ahli teori AI Nick Bostrom mendefinisikan superintelligence sebagai "kecerdasan yang jauh lebih pintar daripada pikiran manusia terbaik di hampir semua bidang, termasuk kreativitas ilmiah, kebijaksanaan umum, dan keterampilan sosial." Kecerdasan super buatan mencakup komputer yang sedikit lebih pintar dari manusia dan komputer yang triliunan kali lebih pintar ke segala arah. ISI adalah alasan meningkatnya minat pada AI, serta fakta bahwa kata-kata "kepunahan" dan "keabadian" sering muncul dalam diskusi semacam itu.
Saat ini, manusia telah menaklukkan tahap pertama kaliber AI - AI - dalam banyak hal. Revolusi AI adalah perjalanan dari AGI melalui AGI ke ISI. Jalan ini kita mungkin tidak bertahan, tapi pasti akan mengubah segalanya.
Mari kita lihat lebih dekat bagaimana para pemikir terkemuka di lapangan melihat jalan ini dan mengapa revolusi ini bisa terjadi lebih cepat dari yang Anda kira.
Di mana kita dalam aliran ini?
Kecerdasan buatan terfokus adalah kecerdasan mesin yang sama atau lebih besar dari kecerdasan atau efisiensi manusia dalam melakukan tugas tertentu. Beberapa contoh:
* Mobil penuh sesak dengan sistem ICD, mulai dari komputer yang menentukan kapan sistem pengereman anti-lock harus diaktifkan hingga komputer yang menentukan parameter sistem injeksi bahan bakar. Mobil self-driving Google, yang saat ini sedang diuji, akan berisi sistem AI yang kuat yang merasakan dan merespons dunia di sekitar mereka.
* Ponsel Anda adalah pabrik ICD kecil. Saat Anda menggunakan aplikasi peta, dapatkan rekomendasi untuk mengunduh aplikasi atau musik, memeriksa cuaca besok, berbicara dengan Siri, atau melakukan hal lain - Anda menggunakan AI.
* Filter spam email Anda adalah tipe AI klasik. Ini dimulai dengan mencari tahu cara memisahkan spam dari email yang dapat digunakan dan kemudian mempelajarinya saat menangani email dan preferensi Anda.
* Dan perasaan canggung ini ketika kemarin Anda mencari obeng atau plasma baru di mesin pencari, tetapi hari ini Anda melihat penawaran dari toko-toko yang membantu di situs lain? Atau ketika jejaring sosial merekomendasikan Anda untuk menambahkan orang yang menarik sebagai teman? Semua ini adalah sistem AI yang bekerja bersama, menentukan preferensi Anda, mengambil data tentang Anda dari Internet, semakin dekat dengan Anda. Mereka menganalisis perilaku jutaan orang dan menarik kesimpulan berdasarkan analisis ini untuk menjual layanan perusahaan besar atau membuat layanan mereka lebih baik.
* Google Terjemahan, sistem AI klasik lainnya, sangat bagus dalam hal-hal tertentu. Begitu juga dengan pengenalan suara. Ketika pesawat Anda mendarat, terminal untuk itu tidak diidentifikasi oleh seseorang. Harga tiketnya sama. Catur, catur, backgammon, buldoser, dan permainan terbaik dunia lainnya saat ini diwakili oleh kecerdasan buatan yang terfokus secara sempit.
* Google Search adalah salah satu AI raksasa yang menggunakan metode yang sangat cerdas untuk menentukan peringkat halaman dan menentukan SERP.
Dan ini hanya di dunia konsumen. Sistem IMD yang canggih banyak digunakan di industri militer, manufaktur, dan keuangan; dalam sistem medis (pikirkan IBM Watson) dan sebagainya.
Sistem IMD dalam bentuknya yang sekarang tidak menimbulkan ancaman. Dalam kasus terburuk, AI yang buggy atau terprogram dengan buruk dapat menyebabkan bencana lokal, pemadaman listrik, runtuhnya pasar keuangan, dan sejenisnya. Tapi sementara AGI tidak diberdayakan untuk menciptakan ancaman eksistensial, kita perlu melihat hal-hal yang lebih luas - badai dahsyat menanti kita, yang pertandanya adalah AII. Setiap inovasi baru di AGI menambahkan satu blok ke jalan menuju AGI dan ISI. Atau, seperti yang telah dicatat dengan baik oleh Aaron Saenz, AI di dunia kita seperti "asam amino dari sup primordial Bumi muda" - namun komponen kehidupan tak bernyawa yang akan bangun suatu hari nanti.
Jalan dari AGI ke AGI: mengapa begitu sulit?
Tidak ada yang mengungkapkan kompleksitas kecerdasan manusia selain mencoba membuat komputer yang sama pintarnya. Membangun gedung pencakar langit, terbang ke luar angkasa, rahasia Big Bang - semua ini tidak masuk akal dibandingkan dengan mengulang otak kita sendiri atau setidaknya hanya memahaminya. Otak manusia saat ini adalah objek paling kompleks di alam semesta yang diketahui.
Mungkin Anda bahkan tidak menyangka betapa sulitnya membuat AGI (komputer yang secara umum akan menjadi pintar sebagai manusia, dan tidak hanya di satu bidang). Membangun komputer yang dapat mengalikan dua angka sepuluh digit dalam sepersekian detik semudah mengupas buah pir. Menciptakan orang yang bisa melihat anjing dan kucing dan memberi tahu di mana anjing itu berada dan di mana kucing itu berada sangatlah sulit. Buat AI yang bisa mengalahkan grandmaster? Dibuat. Sekarang cobalah untuk membuatnya membaca sebuah paragraf dari buku berusia enam tahun dan tidak hanya memahami kata-katanya, tetapi juga artinya. Google menghabiskan miliaran dolar untuk mencoba melakukan ini. Dengan hal-hal yang kompleks - seperti perhitungan, menghitung strategi pasar keuangan, menerjemahkan bahasa - komputer mengatasi hal ini dengan mudah, tetapi dengan hal-hal sederhana - visi, gerakan, persepsi - tidak. Seperti yang dikatakan Donald Knuth, "AI sekarang melakukan hampir semua hal yang membutuhkan 'pemikiran', tetapi AI tidak dapat mengatasi apa yang dilakukan manusia dan hewan tanpa berpikir."
Ketika Anda memikirkan alasannya, Anda akan menyadari bahwa hal-hal yang tampaknya sederhana bagi kita untuk dilakukan hanya tampak demikian karena telah dioptimalkan untuk kita (dan hewan) selama ratusan juta tahun evolusi. Ketika Anda menjangkau suatu objek, otot, persendian, tulang bahu, siku, dan tangan Anda secara instan melakukan rantai panjang operasi fisik, sinkron dengan apa yang Anda lihat, dan gerakkan lengan Anda dalam tiga dimensi. Tampaknya sederhana bagi Anda, karena perangkat lunak ideal di otak Anda bertanggung jawab atas proses ini. Trik sederhana ini membuat prosedur untuk mendaftarkan akun baru dengan memasukkan kata yang ditulis bengkok (captcha) sederhana untuk Anda dan neraka untuk bot jahat. Bagi otak kita, ini tidak sulit: Anda hanya perlu bisa melihat.
Di sisi lain, mengalikan angka besar atau bermain catur adalah aktivitas baru bagi makhluk biologis, dan kita tidak punya cukup waktu untuk memperbaikinya (bukan jutaan tahun), jadi tidak sulit bagi komputer untuk mengalahkan kita. Coba pikirkan: Apakah Anda lebih suka membuat program yang dapat mengalikan angka besar, atau program yang mengenali huruf B dalam jutaan ejaannya, dalam font yang paling tidak terduga, dengan tangan atau dengan tongkat di salju?
Salah satu contoh sederhana: ketika Anda melihat ini, Anda dan komputer Anda menyadari bahwa ini adalah kotak bolak-balik dari dua warna yang berbeda.
Tetapi jika Anda menghilangkan hitamnya, Anda akan segera menggambarkan gambaran lengkapnya: silinder, bidang, sudut tiga dimensi, tetapi komputer tidak bisa.
Dia akan menggambarkan apa yang dia lihat sebagai berbagai bentuk dua dimensi dalam nuansa berbeda, yang pada prinsipnya benar. Otak Anda melakukan banyak pekerjaan menafsirkan kedalaman, permainan bayangan, cahaya dalam gambar. Pada gambar di bawah, komputer akan melihat kolase dua dimensi putih-abu-abu-hitam, padahal sebenarnya ada batu tiga dimensi.
Dan apa yang baru saja kita uraikan adalah puncak gunung es dalam hal memahami dan memproses informasi. Untuk mencapai tingkat yang sama dengan seseorang, komputer harus memahami perbedaan ekspresi wajah yang halus, perbedaan antara kesenangan, kesedihan, kepuasan, kegembiraan, dan mengapa Chatsky baik, dan Molchalin tidak.
Apa yang harus dilakukan?
Langkah pertama untuk membangun AGI: meningkatkan daya komputasi
Salah satu hal yang perlu terjadi agar AGI menjadi mungkin adalah meningkatkan kekuatan perangkat keras komputasi. Jika sistem kecerdasan buatan ingin secerdas otak, itu perlu mencocokkan otak dalam kekuatan pemrosesan mentah.
Salah satu cara untuk meningkatkan kemampuan ini adalah melalui jumlah total komputasi per detik (OPS) yang dapat dihasilkan otak, dan Anda dapat menentukan angka ini dengan menghitung OPS maksimum untuk setiap struktur otak dan menggabungkannya.
Ray Kurzweil menyimpulkan bahwa cukup dengan mengambil perkiraan profesional OPS dari satu struktur dan beratnya relatif terhadap berat seluruh otak, dan kemudian mengalikannya secara proporsional untuk mendapatkan perkiraan keseluruhan. Kedengarannya agak meragukan, tetapi dia melakukannya berkali-kali dengan perkiraan yang berbeda dari area yang berbeda dan selalu menghasilkan angka yang sama: pada urutan 10 ^ 16, atau 10 kuadriliun OPS.
Superkomputer tercepat di dunia, Tianhe-2 China, telah melampaui angka ini: ia mampu melakukan sekitar 32 kuadriliun operasi per detik. Tapi Tianhe-2 menempati ruang 720 meter persegi, mengkonsumsi energi 24 megawatt (otak kita hanya mengkonsumsi 20 watt) dan biaya 390 juta dolar. Kami tidak berbicara tentang penggunaan komersial atau luas.
Kurzweil menyarankan agar kita menilai kesehatan komputer dengan berapa banyak OPS yang dapat Anda beli seharga $ 1.000. Ketika angka itu mencapai level manusia - 10 kuadriliun OPS - AGI mungkin akan menjadi bagian dari hidup kita.
Hukum Moore - aturan historis yang dapat diandalkan bahwa daya komputasi maksimum komputer berlipat ganda setiap dua tahun - menyiratkan bahwa perkembangan teknologi komputer, seperti pergerakan manusia sepanjang sejarah, tumbuh secara eksponensial. Jika kita membandingkan ini dengan aturan seribu dolar Kurzweil, kita sekarang dapat membeli 10 triliun OPS seharga $ 1.000.
Komputer seharga $ 1.000 memotong otak tikus dalam kekuatan komputasi mereka dan seribu kali lebih lemah daripada manusia. Ini sepertinya indikator yang buruk sampai kita ingat bahwa komputer satu triliun kali lebih lemah dari otak manusia pada tahun 1985, satu miliar pada tahun 1995, dan satu juta pada tahun 2005. Pada tahun 2025, kita harus memiliki komputer yang terjangkau yang menyaingi kekuatan komputasi otak kita..
Dengan demikian, tenaga mentah yang dibutuhkan untuk AGI secara teknis sudah tersedia. Dalam 10 tahun, ia akan meninggalkan China dan menyebar ke seluruh dunia. Tetapi kekuatan komputasi saja tidak cukup. Dan pertanyaan berikutnya adalah: bagaimana kita memberikan kecerdasan tingkat manusia dengan semua kekuatan ini?
Langkah kedua untuk membuat AGI: memberinya kecerdasan
Bagian ini cukup rumit. Sebenarnya, tidak ada yang benar-benar tahu cara membuat mesin menjadi cerdas - kami masih mencoba mencari cara untuk membuat kecerdasan tingkat manusia yang dapat membedakan kucing dari anjing, mengisolasi B yang digambar di salju, dan menganalisis film kelas dua. Namun, ada beberapa strategi berpikiran maju di luar sana, dan pada satu titik salah satunya harus berhasil.
1. Ulangi otak
Pilihan ini seperti ilmuwan berada di kelas yang sama dengan anak yang sangat pintar dan pandai menjawab pertanyaan; dan bahkan jika mereka rajin mencoba memahami sains, mereka bahkan tidak mendekati anak yang pintar. Pada akhirnya, mereka memutuskan: ke neraka, hapus saja jawaban atas pertanyaannya. Masuk akal: kita tidak dapat membangun komputer super kompleks, jadi mengapa tidak menggunakan salah satu prototipe terbaik di alam semesta sebagai dasar: otak kita?
Dunia ilmiah bekerja keras untuk mencari tahu bagaimana otak kita bekerja dan bagaimana evolusi menciptakan hal yang begitu rumit. Menurut perkiraan paling optimis, mereka hanya akan dapat melakukan ini pada tahun 2030. Tapi begitu kita memahami semua rahasia otak, efisiensi dan kekuatannya, kita bisa terinspirasi oleh metodenya dalam menciptakan teknologi. Sebagai contoh, salah satu arsitektur komputer yang meniru cara kerja otak adalah jaringan saraf. Dia mulai dengan jaringan transistor "neuron" yang terhubung satu sama lain dengan input dan output, dan tidak tahu apa-apa - seperti bayi yang baru lahir. Sistem "belajar" dengan mencoba menyelesaikan tugas, mengenali teks tulisan tangan, dan sejenisnya. Hubungan antara transistor diperkuat dalam kasus jawaban yang benar dan melemah dalam kasus jawaban yang salah. Setelah banyak siklus tanya jawab, sistem membentuk anyaman saraf cerdas yang dioptimalkan untuk tugas-tugas tertentu. Otak belajar dengan cara yang sama, tetapi dengan cara yang jauh lebih kompleks, dan saat kami terus mempelajarinya, kami menemukan cara baru yang luar biasa untuk meningkatkan jaringan saraf.
Bahkan plagiarisme yang lebih ekstrim melibatkan strategi yang disebut emulasi otak penuh. Tujuan: Untuk memotong otak asli menjadi irisan tipis, pindai masing-masing otak, kemudian secara akurat merekonstruksi model 3D menggunakan perangkat lunak, dan kemudian menerjemahkannya ke dalam komputer yang kuat. Kemudian kita akan memiliki komputer yang secara resmi dapat melakukan semua yang dapat dilakukan otak: hanya perlu mempelajari dan mengumpulkan informasi. Jika para insinyur berhasil, mereka dapat meniru otak nyata dengan akurasi luar biasa yang begitu diunduh ke komputer, identitas dan memori otak yang sebenarnya akan tetap utuh. Jika otak itu milik Vadim sebelum dia meninggal, komputer akan bangun dalam peran Vadim, yang sekarang akan menjadi AGI tingkat manusia, dan kita, pada gilirannya, akan mengubah Vadim menjadi ISI yang sangat cerdas, yang pasti akan dia lakukan. senang dengan.
Seberapa jauh kita dari sepenuhnya meniru otak? Sebenarnya, kami baru saja meniru otak cacing pipih milimeter, yang berisi total 302 neuron. Otak manusia mengandung 100 miliar neuron. Jika mencoba mencapai angka itu tampaknya sia-sia bagi Anda, pikirkan tentang tingkat kemajuan pertumbuhan eksponensial. Langkah selanjutnya adalah meniru otak semut, lalu ada tikus, lalu ada orang yang mudah dijangkau.
2. Cobalah untuk mengikuti jejak evolusi
Nah, jika kita memutuskan bahwa jawaban anak pintar terlalu rumit untuk dihapus, kita bisa mencoba mengikuti jejaknya belajar dan mempersiapkan ujian. Apa yang kita tahu? Sangat mungkin untuk membangun komputer sekuat otak - evolusi otak kita sendiri telah membuktikan hal ini. Dan jika otak terlalu rumit untuk ditiru, kita bisa mencoba meniru evolusi. Intinya adalah, bahkan jika kita dapat meniru otak, itu mungkin seperti mencoba membuat pesawat terbang dengan melambaikan tangan yang meniru gerakan sayap burung. Lebih sering daripada tidak, kami berhasil membuat mesin yang baik menggunakan pendekatan berorientasi mesin, daripada tiruan yang tepat dari biologi.
Bagaimana cara mensimulasikan evolusi untuk membangun AGI? Metode yang disebut "algoritma genetik" ini harus bekerja seperti ini: harus ada proses yang produktif dan evaluasinya, dan itu akan berulang berulang kali (dengan cara yang sama makhluk biologis "ada" dan "dievaluasi" oleh kemampuannya. untuk mereproduksi). Sekelompok komputer akan melakukan tugas, dan yang paling sukses dari mereka akan berbagi karakteristik mereka dengan komputer lain, "keluaran". Yang kurang sukses akan tanpa ampun dibuang ke tong sampah sejarah. Melalui banyak, banyak iterasi, proses seleksi alam ini akan menghasilkan komputer yang lebih baik. Tantangannya terletak pada menciptakan dan mengotomatisasi siklus pemuliaan dan evaluasi sehingga proses evolusi berjalan dengan sendirinya.
Kelemahan dari menyalin evolusi adalah evolusi membutuhkan miliaran tahun untuk melakukan sesuatu, dan kita hanya perlu beberapa dekade untuk melakukannya.
Tapi kami memiliki banyak keuntungan, tidak seperti evolusi. Pertama, ia tidak memiliki karunia pandangan ke depan, ia bekerja secara kebetulan - ia memberikan mutasi yang tidak berguna, misalnya, - dan kita dapat mengontrol proses dalam kerangka tugas yang diberikan. Kedua, evolusi tidak memiliki tujuan, termasuk keinginan untuk kecerdasan - terkadang di lingkungan spesies tertentu tidak menang dengan mengorbankan kecerdasan (karena yang terakhir mengkonsumsi lebih banyak energi). Kami, di sisi lain, dapat bertujuan untuk meningkatkan kecerdasan. Ketiga, untuk memilih kecerdasan, evolusi perlu melakukan sejumlah perbaikan pihak ketiga - seperti mendistribusikan kembali konsumsi energi oleh sel - kita cukup membuang kelebihannya dan menggunakan listrik. Tanpa ragu, kita akan lebih cepat dari evolusi - tetapi sekali lagi, tidak jelas apakah kita bisa melampauinya.
3. Tinggalkan komputer untuk diri mereka sendiri
Ini adalah kesempatan terakhir ketika para ilmuwan benar-benar putus asa dan mencoba memprogram program pengembangan diri. Namun, metode ini mungkin terbukti paling menjanjikan dari semuanya. Idenya adalah bahwa kami sedang membangun komputer yang akan memiliki dua keterampilan dasar: meneliti AI dan perubahan kode itu sendiri - yang memungkinkannya tidak hanya untuk belajar lebih banyak, tetapi juga untuk meningkatkan arsitekturnya sendiri. Kita dapat melatih komputer untuk menjadi insinyur komputer mereka sendiri sehingga mereka dapat mengembangkan diri. Dan tugas utama mereka adalah mencari cara untuk menjadi lebih pintar. Kami akan membicarakan ini secara lebih rinci.
Semua ini bisa terjadi segera
Kemajuan pesat dalam perangkat keras dan eksperimen dengan perangkat lunak berjalan secara paralel, dan AGI dapat muncul dengan cepat dan tidak terduga karena dua alasan utama:
1. Pertumbuhan eksponensial sangat kuat, dan apa yang tampak seperti langkah siput dapat dengan cepat berkembang menjadi lompatan tujuh mil --g.webp
gambar animasi: hi-news.ru/wp-content/uploads/2015/02/gif.gif
2. Dalam hal perangkat lunak, kemajuan mungkin tampak lambat, tetapi kemudian satu terobosan langsung mengubah kecepatan kemajuan (contoh bagus: pada zaman pandangan dunia geosentris, sulit bagi orang untuk menghitung pekerjaan alam semesta, tetapi penemuan heliosentrisme membuat segalanya lebih mudah). Atau, ketika datang ke komputer yang meningkatkan dirinya sendiri, hal-hal bisa tampak sangat lambat, tetapi kadang-kadang hanya satu amandemen sistem memisahkannya dari efisiensi seribu kali lipat dibandingkan dengan versi manusia atau warisan.
Jalan dari AGI ke ISI
Pada titik tertentu, kita pasti akan mendapatkan AGI - kecerdasan buatan umum, komputer dengan tingkat kecerdasan manusia secara umum. Komputer dan manusia akan hidup bersama. Atau tidak.
Intinya AGI dengan tingkat kecerdasan dan daya komputasi yang sama dengan manusia akan tetap memiliki keunggulan yang signifikan dibandingkan manusia. Sebagai contoh:
Peralatan
Kecepatan. Neuron otak beroperasi pada 200 Hz, sementara mikroprosesor modern (yang secara signifikan lebih lambat daripada yang akan kita dapatkan pada saat AGI dibuat) beroperasi pada frekuensi 2 GHz, atau 10 juta kali lebih cepat daripada neuron kita. Dan komunikasi internal otak, yang dapat bergerak dengan kecepatan 120 m / s, secara signifikan lebih rendah daripada kemampuan komputer untuk menggunakan optik dan kecepatan cahaya.
Ukuran dan penyimpanan. Ukuran otak dibatasi oleh ukuran tengkorak kita, dan tidak bisa lebih besar, jika tidak, komunikasi internal dengan kecepatan 120 m / s akan memakan waktu terlalu lama untuk berpindah dari satu struktur ke struktur lainnya. Komputer dapat diperluas ke ukuran fisik apa pun, menggunakan lebih banyak perangkat keras, meningkatkan RAM, memori jangka panjang - semua ini di luar kemampuan kami.
Keandalan dan daya tahan. Tidak hanya memori komputer yang lebih akurat daripada memori manusia. Transistor komputer lebih akurat daripada neuron biologis dan kurang rentan terhadap kerusakan (dan memang, mereka dapat diganti atau diperbaiki). Otak orang lebih cepat lelah, sementara komputer dapat bekerja tanpa henti, 24 jam sehari, 7 hari seminggu.
Perangkat lunak
Kemungkinan pengeditan, modernisasi, kemungkinan yang lebih luas. Tidak seperti otak manusia, program komputer dapat dengan mudah dikoreksi, diperbarui, dan dicoba. Area di mana otak manusia lemah juga dapat ditingkatkan. Perangkat lunak manusia untuk penglihatan dirancang dengan luar biasa, tetapi dari sudut pandang teknik, kemampuannya masih sangat terbatas - kita hanya melihat dalam spektrum cahaya yang terlihat.
Kemampuan kolektif. Manusia lebih unggul dari spesies lain dalam hal kecerdasan kolektif besar. Dimulai dengan perkembangan bahasa dan pembentukan komunitas besar, bergerak melalui penemuan tulisan dan percetakan, dan sekarang ditenagai oleh alat seperti Internet, kecerdasan kolektif orang adalah alasan penting mengapa kita dapat menyebut diri kita mahkota evolusi. Tapi komputer masih akan lebih baik. Jaringan kecerdasan buatan di seluruh dunia yang bekerja pada satu program, yang terus-menerus menyinkronkan dan mengembangkan diri, akan memungkinkan Anda untuk secara instan menambahkan informasi baru ke database, di mana pun Anda mendapatkannya. Kelompok seperti itu juga akan dapat bekerja menuju satu tujuan secara keseluruhan, karena komputer tidak mengalami perbedaan pendapat, motivasi, dan kepentingan pribadi seperti yang dialami manusia.
AI, yang kemungkinan akan menjadi AGI melalui pengembangan diri terprogram, tidak akan melihat "kecerdasan tingkat manusia" sebagai tonggak penting - tonggak ini hanya penting bagi kami. Dia tidak akan punya alasan untuk berhenti pada level yang meragukan ini. Dan mengingat keuntungan yang bahkan dimiliki oleh AGI tingkat manusia, cukup jelas bahwa kecerdasan manusia akan menjadi kilatan singkat untuk itu dalam perlombaan untuk keunggulan intelektual.
Perkembangan peristiwa ini mungkin sangat mengejutkan kita. Faktanya adalah, dari sudut pandang kami, a) satu-satunya kriteria yang memungkinkan kita untuk menentukan kualitas kecerdasan adalah kecerdasan hewan, yang secara default lebih rendah dari kita; b) bagi kami, orang yang paling pintar SELALU lebih pintar dari yang paling bodoh. Seperti itu:
Artinya, ketika AI hanya mencoba untuk mencapai tingkat perkembangan kita, kita melihat bagaimana ia menjadi lebih pintar, mendekati tingkat binatang. Ketika dia mencapai level manusia pertama - Nick Bostrom menggunakan istilah "negara idiot" - kami akan senang: "Wow, dia sudah seperti orang bodoh. Dingin! " Satu-satunya hal adalah bahwa dalam spektrum umum kecerdasan orang, dari idiot desa hingga Einstein, kisarannya kecil - oleh karena itu, setelah AI mencapai level idiot dan menjadi AGI, ia akan tiba-tiba menjadi lebih pintar daripada Einstein.
Dan apa yang akan terjadi selanjutnya?
ledakan kecerdasan
Saya harap Anda menganggapnya menarik dan menyenangkan, karena sejak saat itu, topik yang kita bicarakan menjadi tidak normal dan menyeramkan. Kita harus berhenti sejenak dan mengingatkan diri kita sendiri bahwa setiap fakta yang disebutkan di atas dan di luar itu adalah sains nyata dan prediksi nyata untuk masa depan yang dibuat oleh para pemikir dan ilmuwan paling terkemuka. Hanya perlu diingat.
Jadi, seperti yang kami tunjukkan di atas, semua model modern kami untuk mencapai AGI menyertakan opsi saat AI meningkatkan dirinya sendiri. Dan begitu dia menjadi AGI, bahkan sistem dan metode yang dia gunakan untuk tumbuh menjadi cukup pintar untuk memperbaiki dirinya sendiri - jika mereka mau. Sebuah konsep menarik muncul: perbaikan diri secara rekursif. Ini bekerja seperti ini.
Sistem AI tertentu pada tingkat tertentu - katakanlah, idiot desa - diprogram untuk meningkatkan kecerdasannya sendiri. Setelah berkembang - katakanlah, ke tingkat Einstein - sistem seperti itu sudah mulai berkembang dengan kecerdasan Einstein, dibutuhkan lebih sedikit waktu untuk berkembang, dan lompatannya semakin besar. Mereka memungkinkan sistem untuk mengungguli siapa pun, menjadi lebih dan lebih. Dengan perkembangan pesatnya, AGI melonjak ke ketinggian surgawi dalam kecerdasannya dan menjadi sistem ISI yang sangat cerdas. Proses ini disebut ledakan kecerdasan, dan ini adalah contoh paling jelas dari hukum percepatan pengembalian.
Para ilmuwan berdebat tentang seberapa cepat AI akan mencapai tingkat AGI - sebagian besar percaya bahwa kita akan mendapatkan AGI pada tahun 2040, hanya dalam 25 tahun, yang sangat, sangat sedikit menurut standar pengembangan teknologi. Melanjutkan rantai logis, mudah untuk mengasumsikan bahwa transisi dari AGI ke ISI juga akan berlangsung sangat cepat. Seperti itu:
“Butuh beberapa dekade untuk sistem AI pertama mencapai tingkat kecerdasan umum terendah, tetapi akhirnya terjadi. Komputer mampu memahami dunia sekitar sebagai orang berusia empat tahun. Tiba-tiba, secara harfiah satu jam setelah mencapai tonggak sejarah ini, sistem menghasilkan teori fisika hebat yang menggabungkan relativitas umum dan mekanika kuantum, yang tidak dapat dilakukan manusia. Setelah satu setengah jam, AI menjadi ISI, 170.000 kali lebih pintar dari manusia mana pun."
Kami bahkan tidak memiliki istilah yang tepat untuk menggambarkan superintelijen sebesar ini. Di dunia kita, "pintar" berarti seseorang dengan IQ 130, "bodoh" - 85, tetapi kita tidak memiliki contoh orang dengan IQ 12,952. Penguasa kita tidak dirancang untuk itu.
Sejarah umat manusia memberi tahu kita dengan jelas dan jelas: bersama dengan kecerdasan datanglah kekuatan dan kekuatan. Ini berarti bahwa ketika kita menciptakan kecerdasan super buatan, itu akan menjadi makhluk paling kuat dalam sejarah kehidupan di Bumi, dan semua makhluk hidup, termasuk manusia, akan sepenuhnya berkuasa - dan ini mungkin terjadi dalam dua puluh tahun.
Jika otak kita yang kecil mampu menghasilkan Wi-Fi, maka sesuatu yang lebih pintar dari kita yang seratus, seribu, satu miliar kali dapat dengan mudah menghitung posisi setiap atom di alam semesta pada waktu tertentu. Segala sesuatu yang bisa disebut sihir, kekuatan apa pun yang dikaitkan dengan dewa yang mahakuasa - semua ini akan menjadi milik ISI. Menciptakan teknologi untuk membalikkan penuaan, mengobati penyakit apa pun, menghilangkan kelaparan dan bahkan kematian, mengendalikan cuaca - semuanya akan tiba-tiba menjadi mungkin. Sebuah akhir instan untuk semua kehidupan di Bumi juga mungkin. Orang-orang terpintar di planet kita setuju bahwa begitu kecerdasan super buatan muncul di dunia, itu akan menandai penampakan Tuhan di Bumi. Dan sebuah pertanyaan penting tetap ada.
