AI dapat berpikir dan juga merasakan sakit? Google DeepMind: Manusia meremehkan keterikatan emosional AI, menjalin hubungan dengan AI lebih nyata daripada yang Anda bayangkan.
Dalam podcast yang dipandu oleh Google DeepMind ini, Profesor Murray Shanahan dari Departemen Robotika Imperial College London dan pen主持人 Hannah Fry berdiskusi tentang perkembangan AI, mulai dari inspirasi filosofi film fiksi ilmiah, hingga membahas apakah AI dapat "menalar", apakah ia memiliki "kesadaran, emosi", serta apakah seharusnya memberikan hak dan perlindungan etika kepada AI.
AI tidak hanya sekadar Bot, tetapi juga menginspirasi banyak masalah pikiran dan filosofi.
Shanahan membuka dengan menyatakan bahwa AI menginspirasi sejumlah pertanyaan filosofis tentang "hakikat pikiran manusia" dan "kesadaran."
Dia bahkan menggunakan entitas asing yang mirip dengan pikiran (Exotic mind-like entities) untuk menggambarkan model bahasa besar saat ini (LLM), dan menekankan bahwa manusia belum membangun kosakata dan kerangka yang cukup untuk mendeskripsikannya.
Dari film fiksi ilmiah, apakah manusia meremehkan realitas keterikatan emosional AI?
Shanahan pernah menjadi penasihat untuk film "Artificial Consciousness Ex Machina". Dia回顧当初自己看不上《云端情人 Her》那部描述人类爱上语音 AI 的电影，结果现在回头看，现实世界的发展几乎完全印证了这种「虚拟恋爱」的可行性。
Dia berkata dengan terus terang: "Kami meremehkan kemungkinan hubungan antara manusia dan AI tanpa tubuh."
Kiri adalah kesadaran buatan, kanan adalah gambar dari film "Cloud Lover". Mengenal perkembangan AI, dari AI Simbolik hingga model bahasa besar.
Shanahan berasal dari simbol AI ( Simbolik AI) aliran, pada saat itu AI mengandalkan aturan logika "jika... maka..." untuk berargumentasi, seperti sistem pakar medis.
Namun, model ini terlalu rapuh dan terlalu bergantung pada input aturan manusia. Kemudian beralih ke jaringan saraf "berbasis data" yang memungkinkan AI untuk mencapai terobosan.
Sekarang LLM sudah mampu meniru rantai penalaran (Chain of thought), misalnya ChatGPT akan terlebih dahulu mencantumkan langkah-langkah logika sebelum menjawab, ini membuat orang berpikir ulang apakah AI benar-benar dapat berreason.
Apakah itu pemahaman yang sebenarnya atau pura-pura, logika matematis sangat berbeda dengan penalaran bahasa.
Shanahan menjelaskan bahwa apa yang disebut sebagai penalaran AI tradisional adalah "logika keras" yang dapat membuktikan teorema matematika.
Namun LLM saat ini meniru pola bahasa melalui statistik, dan tidak menjamin keakuratan jawaban. Ia memberi contoh, seperti merencanakan rute armada untuk perusahaan logistik, algoritma tradisional mungkin lebih akurat, tetapi LLM lebih fleksibel.
Turing Test sudah ketinggalan zaman? Film Garland menguji kesadaran yang lebih tinggi
Uji Turing (Turing Test) adalah metode awal untuk mengevaluasi apakah AI dapat menyamar sebagai manusia, tetapi Shanahan berpendapat bahwa itu terlalu sempit dan hanya menguji kemampuan bahasa.
Dia lebih mengagumi "Garland Test" yang terinspirasi dari film "Kecerdasan Buatan."
"Anda menyadari bahwa pihak lain adalah Bot, tetapi tetap percaya bahwa ia memiliki kesadaran, inilah yang sebenarnya menjadi masalah yang patut dibahas." tegas Shanahan.
Uji ARC Francois Chollet: Tantangan yang lebih mirip tes IQ
Dia juga menyebutkan satu jenis pengujian lanjutan "ARC Test", yang memerlukan AI untuk memahami pola abstrak agar dapat lulus.
Namun seiring dengan kemajuan teknologi, beberapa LLM dapat lolos dengan cara kekerasan dan pengenalan pola, yang menantang semangat pengujian dan menyoroti bahwa standar evaluasi AI harus disesuaikan seiring evolusi teknologi.
Tubuh adalah kunci? Shanahan: AI tanpa tubuh akan selalu kurang satu rasa
Pikiran manusia tidak dapat dipisahkan dari ruang dan pengalaman sensorik. Shanahan menekankan bahwa bahasa kita penuh dengan metafora ruang, seperti pemahaman mendalam atau terbenam di dalamnya, dan semua ini berasal dari pengalaman tubuh.
Dia berpendapat bahwa untuk membuat AI benar-benar memahami dunia dan mencapai kecerdasan umum (AGI), masih perlu mengembangkan "robot fisik".
Bahasa bisa menyesatkan, jangan sembarangan mengatakan AI percaya, tahu, dan merasakan.
Shanahan berpendapat bahwa pemahaman kita tentang AI sering kali disesatkan oleh bahasa. Ungkapan seperti mengatakan navigasi "mengira kamu berada di tempat parkir" membuat orang keliru mengira bahwa mesin memiliki pemahaman subjektif.
Dia mengingatkan bahwa bahasa psikologi rakyat ini (Folk psychology) dapat dengan mudah membuat kita melebih-lebihkan keadaan mental AI.
Apakah AI akan merasakan sakit di masa depan? Shanahan mengatakan jika AI merasakan sakit, kita harus berhati-hati.
Mengenai isu etika apakah AI dapat "merasakan rasa sakit", Shanahan menyatakan bahwa model saat ini tidak memiliki tubuh dan tidak memenuhi syarat untuk "merasakan rasa sakit".
"Namun jika di masa depan AI dirancang untuk merasakan emosi atau menanggung penderitaan, maka masyarakat manusia harus menetapkan etika perlindungan untuk itu," tegasnya.
Mengapa disebutkan gurita? Shanahan menggunakannya sebagai perumpamaan untuk situasi masa depan AI.
Shanahan menggunakan gurita sebagai contoh, dunia ilmiah sebelumnya tidak menganggap bahwa gurita memiliki emosi, tetapi seiring dengan meningkatnya interaksi dan perkembangan ilmu saraf, kita mulai bersedia mengakui bahwa mereka memiliki kesadaran.
"Pada awalnya tidak dianggap sebagai makhluk yang memiliki emosi, tetapi seiring interaksi yang semakin dalam, pandangan orang-orang akan perlahan-lahan berubah." Shanahan percaya bahwa AI di masa depan juga akan mengalami proses serupa.
Tolong bersikap sopan kepada AI, ia akan membalasmu dengan kejutan.
Shanahan akhirnya membagikan tips berguna, berbicaralah dengan sopan kepada model AI, itu akan membuatnya merespons dengan lebih baik dan lebih lancar.
Dia menyebut ini sebagai hasil dari "efek peran", karena model AI meniru konteks dan emosi percakapan manusia.
Kita membutuhkan bahasa baru untuk menggambarkan "bukan manusia tetapi sangat mirip manusia".
Shanahan mengusulkan untuk menyebut AI ini dengan istilah baru yang tampak mirip dengan kecerdasan manusia, tetapi sebenarnya sangat berbeda dari kecerdasan manusia. Dia percaya bahwa kita berada dalam tahap di mana kita perlu menciptakan kembali bahasa dan konsep untuk menggambarkan AI, dan proses itu sendiri juga akan mengubah pemahaman kita tentang "kecerdasan" dan "keberadaan".
Artikel ini Apakah AI bisa berpikir dan merasa sakit? Google DeepMind: manusia meremehkan ikatan emosional AI, jatuh cinta dengan AI lebih nyata daripada yang Anda bayangkan. Pertama kali muncul di Berita Blockchain ABMedia.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
1 Suka
Hadiah
1
1
Bagikan
Komentar
0/400
GateUser-95e351e6
· 04-29 09:27
Duduk dengan baik dan pegang erat, segera To da moon 🛫
AI dapat berpikir dan juga merasakan sakit? Google DeepMind: Manusia meremehkan keterikatan emosional AI, menjalin hubungan dengan AI lebih nyata daripada yang Anda bayangkan.
Dalam podcast yang dipandu oleh Google DeepMind ini, Profesor Murray Shanahan dari Departemen Robotika Imperial College London dan pen主持人 Hannah Fry berdiskusi tentang perkembangan AI, mulai dari inspirasi filosofi film fiksi ilmiah, hingga membahas apakah AI dapat "menalar", apakah ia memiliki "kesadaran, emosi", serta apakah seharusnya memberikan hak dan perlindungan etika kepada AI.
AI tidak hanya sekadar Bot, tetapi juga menginspirasi banyak masalah pikiran dan filosofi.
Shanahan membuka dengan menyatakan bahwa AI menginspirasi sejumlah pertanyaan filosofis tentang "hakikat pikiran manusia" dan "kesadaran."
Dia bahkan menggunakan entitas asing yang mirip dengan pikiran (Exotic mind-like entities) untuk menggambarkan model bahasa besar saat ini (LLM), dan menekankan bahwa manusia belum membangun kosakata dan kerangka yang cukup untuk mendeskripsikannya.
Dari film fiksi ilmiah, apakah manusia meremehkan realitas keterikatan emosional AI?
Shanahan pernah menjadi penasihat untuk film "Artificial Consciousness Ex Machina". Dia回顧当初自己看不上《云端情人 Her》那部描述人类爱上语音 AI 的电影，结果现在回头看，现实世界的发展几乎完全印证了这种「虚拟恋爱」的可行性。
Dia berkata dengan terus terang: "Kami meremehkan kemungkinan hubungan antara manusia dan AI tanpa tubuh."
Kiri adalah kesadaran buatan, kanan adalah gambar dari film "Cloud Lover". Mengenal perkembangan AI, dari AI Simbolik hingga model bahasa besar.
Shanahan berasal dari simbol AI ( Simbolik AI) aliran, pada saat itu AI mengandalkan aturan logika "jika... maka..." untuk berargumentasi, seperti sistem pakar medis.
Namun, model ini terlalu rapuh dan terlalu bergantung pada input aturan manusia. Kemudian beralih ke jaringan saraf "berbasis data" yang memungkinkan AI untuk mencapai terobosan.
Sekarang LLM sudah mampu meniru rantai penalaran (Chain of thought), misalnya ChatGPT akan terlebih dahulu mencantumkan langkah-langkah logika sebelum menjawab, ini membuat orang berpikir ulang apakah AI benar-benar dapat berreason.
Apakah itu pemahaman yang sebenarnya atau pura-pura, logika matematis sangat berbeda dengan penalaran bahasa.
Shanahan menjelaskan bahwa apa yang disebut sebagai penalaran AI tradisional adalah "logika keras" yang dapat membuktikan teorema matematika.
Namun LLM saat ini meniru pola bahasa melalui statistik, dan tidak menjamin keakuratan jawaban. Ia memberi contoh, seperti merencanakan rute armada untuk perusahaan logistik, algoritma tradisional mungkin lebih akurat, tetapi LLM lebih fleksibel.
Turing Test sudah ketinggalan zaman? Film Garland menguji kesadaran yang lebih tinggi
Uji Turing (Turing Test) adalah metode awal untuk mengevaluasi apakah AI dapat menyamar sebagai manusia, tetapi Shanahan berpendapat bahwa itu terlalu sempit dan hanya menguji kemampuan bahasa.
Dia lebih mengagumi "Garland Test" yang terinspirasi dari film "Kecerdasan Buatan."
"Anda menyadari bahwa pihak lain adalah Bot, tetapi tetap percaya bahwa ia memiliki kesadaran, inilah yang sebenarnya menjadi masalah yang patut dibahas." tegas Shanahan.
Uji ARC Francois Chollet: Tantangan yang lebih mirip tes IQ
Dia juga menyebutkan satu jenis pengujian lanjutan "ARC Test", yang memerlukan AI untuk memahami pola abstrak agar dapat lulus.
Namun seiring dengan kemajuan teknologi, beberapa LLM dapat lolos dengan cara kekerasan dan pengenalan pola, yang menantang semangat pengujian dan menyoroti bahwa standar evaluasi AI harus disesuaikan seiring evolusi teknologi.
Tubuh adalah kunci? Shanahan: AI tanpa tubuh akan selalu kurang satu rasa
Pikiran manusia tidak dapat dipisahkan dari ruang dan pengalaman sensorik. Shanahan menekankan bahwa bahasa kita penuh dengan metafora ruang, seperti pemahaman mendalam atau terbenam di dalamnya, dan semua ini berasal dari pengalaman tubuh.
Dia berpendapat bahwa untuk membuat AI benar-benar memahami dunia dan mencapai kecerdasan umum (AGI), masih perlu mengembangkan "robot fisik".
Bahasa bisa menyesatkan, jangan sembarangan mengatakan AI percaya, tahu, dan merasakan.
Shanahan berpendapat bahwa pemahaman kita tentang AI sering kali disesatkan oleh bahasa. Ungkapan seperti mengatakan navigasi "mengira kamu berada di tempat parkir" membuat orang keliru mengira bahwa mesin memiliki pemahaman subjektif.
Dia mengingatkan bahwa bahasa psikologi rakyat ini (Folk psychology) dapat dengan mudah membuat kita melebih-lebihkan keadaan mental AI.
Apakah AI akan merasakan sakit di masa depan? Shanahan mengatakan jika AI merasakan sakit, kita harus berhati-hati.
Mengenai isu etika apakah AI dapat "merasakan rasa sakit", Shanahan menyatakan bahwa model saat ini tidak memiliki tubuh dan tidak memenuhi syarat untuk "merasakan rasa sakit".
"Namun jika di masa depan AI dirancang untuk merasakan emosi atau menanggung penderitaan, maka masyarakat manusia harus menetapkan etika perlindungan untuk itu," tegasnya.
Mengapa disebutkan gurita? Shanahan menggunakannya sebagai perumpamaan untuk situasi masa depan AI.
Shanahan menggunakan gurita sebagai contoh, dunia ilmiah sebelumnya tidak menganggap bahwa gurita memiliki emosi, tetapi seiring dengan meningkatnya interaksi dan perkembangan ilmu saraf, kita mulai bersedia mengakui bahwa mereka memiliki kesadaran.
"Pada awalnya tidak dianggap sebagai makhluk yang memiliki emosi, tetapi seiring interaksi yang semakin dalam, pandangan orang-orang akan perlahan-lahan berubah." Shanahan percaya bahwa AI di masa depan juga akan mengalami proses serupa.
Tolong bersikap sopan kepada AI, ia akan membalasmu dengan kejutan.
Shanahan akhirnya membagikan tips berguna, berbicaralah dengan sopan kepada model AI, itu akan membuatnya merespons dengan lebih baik dan lebih lancar.
Dia menyebut ini sebagai hasil dari "efek peran", karena model AI meniru konteks dan emosi percakapan manusia.
Kita membutuhkan bahasa baru untuk menggambarkan "bukan manusia tetapi sangat mirip manusia".
Shanahan mengusulkan untuk menyebut AI ini dengan istilah baru yang tampak mirip dengan kecerdasan manusia, tetapi sebenarnya sangat berbeda dari kecerdasan manusia. Dia percaya bahwa kita berada dalam tahap di mana kita perlu menciptakan kembali bahasa dan konsep untuk menggambarkan AI, dan proses itu sendiri juga akan mengubah pemahaman kita tentang "kecerdasan" dan "keberadaan".
Artikel ini Apakah AI bisa berpikir dan merasa sakit? Google DeepMind: manusia meremehkan ikatan emosional AI, jatuh cinta dengan AI lebih nyata daripada yang Anda bayangkan. Pertama kali muncul di Berita Blockchain ABMedia.