หากคุณกำลังจะมาที่ฉันคุณมาถูกที่ดีที่สุดหรือฉันจะตบข้อโต้แย้งเล็ก ๆ ของคุณอ่อนแอรอบ ๆ เหมือนแมวเล่นกับลูกบอล

ก่อนอื่นฉันอ่านมัน

ข้อสองฉันลืมเอกสารวิชาการเพิ่มเติมเกี่ยวกับ AI มากกว่าที่คุณจะอ่านมาทั้งชีวิต

ข้อสามคุณสนใจผู้มีอำนาจที่ไม่เกี่ยวข้องซึ่งเขียนหนังสือปรัชญาป๊อป ฉันสนุกกับการทำ sci-fi ของฉันและมันเกี่ยวกับมัน อย่ามาหาฉันด้วยความเข้าใจผิดอย่างมีเหตุผล

ข้อสี่ถ้าคุณอ่านคนที่ทำงานเกี่ยวกับ AI จริง ๆ คุณจะรู้ว่า AI ไม่ทำงานอะไรอย่างที่เขาอธิบายและ Bostrom ทำแบบสำรวจสิ่งที่ผู้คนคิดว่าไม่ใช่การวิเคราะห์ทางวิทยาศาสตร์ มันเป็นเรื่องตลก แม้แต่คนที่ขี้กลัวที่ทำงานให้กับ Musk ที่ OpenAI ไม่ได้ซื้อความฉลาดหลักแหลมก็จะฆ่าพวกเราทุกคน

นี่คือสิ่งที่นักวิจัย AI ที่แท้จริงได้พูดเกี่ยวกับ Bostrom และคำถามที่ว่าเมื่อใดที่ Superintelligence เข้ามา:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

““ วิธี, วิธี, วิธีมากกว่า 25 ปี ศตวรรษเป็นไปได้มากที่สุด แต่ไม่เคย”

“ เรากำลังแข่งขันกับวิวัฒนาการของสมองมนุษย์หลายล้านปี เราสามารถเขียนโปรแกรมแบบใช้ครั้งเดียวที่สามารถแข่งขันกับมนุษย์และบางครั้งก็ยอดเยี่ยม แต่โลกไม่ได้แบ่งออกเป็นคำถามที่มีปัญหาเดียวอย่างเป็นระเบียบ

“ Nick Bostrom เป็นมืออาชีพที่ทำให้ตกใจ บทบาทของสถาบันของเขาคือการค้นหาภัยคุกคามที่มีต่อมนุษย์ เขาเห็นพวกเขาทุกที่”

ผู้คนต่างใฝ่ฝันถึงภัยคุกคามที่มีอยู่ตั้งแต่เราคลานออกจากป่าพรุ ก่อนอื่นมันเป็นฟ้าร้อง ถ้าอย่างนั้นพระเจ้าแห่งฝนจะโกรธเราถ้าเราไม่เต้นถ้าท้องทุ่งหรือเสียสละแพะในเวลาที่เหมาะสม จากนั้นมันก็แตกเปลือกเต่าบอกจักรพรรดิว่ามีอะไรเลวร้ายเกิดขึ้น แล้วมันก็เป็นอุตสาหกรรม เรารักภัยคุกคามที่ฉูดฉาด ตอนนี้เรามี super-AI

หากคุณต้องการที่จะเขียนหนังสือยอดนิยมเพียงแค่เลือกภัยคุกคามที่มีอยู่ตามที่คุณต้องการไม่ว่าจะเป็นเอเลี่ยนอุกกาบาตพระเจ้าที่คลั่งไคล้เราหรือ AI ที่ชาญฉลาดและคุณสามารถขายมันให้คนโง่ล้านได้ แต่คุณไม่สามารถขายอึนั้นได้ที่นี่และมาพูดเหมือนมันเป็นงานวิจัยเชิงวิชาการ มันไม่ใช่. มันเป็นลัทธิวันโลกาวินาศ และไม่ใช่เรื่องใหม่ไม่ว่าคุณจะแต่งตัวในงานวิจัยทางวิทยาศาสตร์หลอกและภาษาเฉพาะโดเมนที่ทำให้คุณรู้สึกฉลาดกว่าคุณ อยู่ห่างจากประตูสวรรค์เพียงก้าวเดียว

เรากลัวสิ่งมีชีวิตที่อาศัยอยู่และหากคุณต้องการขายความกลัวคุณจะพบผู้ซื้ออยู่เสมอ มีเหตุผลที่ Steven King เป็นหนึ่งในนักเขียนที่ยิ่งใหญ่ที่สุดในโลก

ประการที่ห้าคุณเสนอให้แก้ไขปัญหาที่ไม่มีอยู่ได้อย่างไร กฎหมาย? ฉันแน่ใจว่าประเทศจีนจะให้อึเกี่ยวกับกฎหมายนั้นและจะไม่ดำเนินการต่อไป ฉันแน่ใจว่า AI ที่ฉลาดหลักแหลมก็จะสนใจเช่นกันหากพวกเขาปรากฏตัวในที่เกิดเหตุ

ประการที่หกในขณะที่คุณกำลังกังวลเกี่ยวกับภัยคุกคามที่มีอยู่ในระยะไกลที่ไม่เป็นจริงเรามี AIs จริงที่ให้คนเข้าคุกโดยตัดสินว่าคุณได้รับเงินกู้หรือไม่และขับรถยนต์ ถึงเวลาที่ต้องกังวลเกี่ยวกับปัญหาจริงที่เราสามารถจัดการได้ในตอนนี้แทนที่จะเป็นปัญหาแฟนตาซีที่ไม่มีวิธีแก้ปัญหาและเพียงแค่ป้อนข้อผิดพลาดความกลัว