ขอบคุณพิเศษแก่ Morgan Beller, Juan Benet, Eli Dourado, Karl Floersch, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, อาสาสมัคร Balvi และผู้อื่น ๆ ทั้งหลายที่ให้คำแนะนำและตรวจทาน

เดือนที่แล้ว มาร์ค แอนดรีสเซน ตีพิมพ์คำว่า “manifesto ผู้เชื่อในเทคโนโลยี“, ที่อ้างว่ามีความกระตือรือร้นใหม่เกี่ยวกับเทคโนโลยี และสำหรับตลาดและนิยมพลิกโฉมบวกที่เป็นสื่อในการสร้างเทคโนโลยีนั้นและในการเคลื่อนทำลายมนุษย์ไปสู่อนาคตที่สดใสมากขึ้น Manifesto นี้ปฏิเสธอย่างชัดเจนสิ่งที่เรียกว่าอุดมการณ์ของการหยุดชะงัก ซึ่งกลัวความก้าวหน้าและมีลำดับความสำคัญในการอนุรักษ์โลกอย่างที่มันอยู่ในปัจจุบัน Manifesto นี้ได้รับความสนใจอย่างมาก รวมถึงบทความตอบโต้จากNoah Smith, Robin Hanson, Joshua Gans (มีเสถียรภาพมากขึ้น) และ Dave Karpf, Luca Ropek, Ezra Klein (ที่เชื่อมโยงกับเอกสารประกาศนี้อย่างเดียว) และอีกมากมาย ไม่ได้เชื่อมโยงกับประกาศนี้ แต่อยู่ในกรอบเรื่องที่เหมือนกัน คือ "James Pethokoukis's"นักพยากรณ์อนาคตประการที่เชื่อถือและ Palladium's “ถึงเวลาที่จะสร้างเพื่อความดีเดือนนี้เราเห็นการโต้วาทีที่คล้ายกันผ่านOpenAI dispute, ซึ่งเกี่ยวข้องกับการอภิปรายหลายเรื่องที่เน้นไปที่ความเสี่ยงจาก AI ที่ฉลาดเกินไปและความเป็นไปได้ที่ OpenAI กำลังเคลื่อนไปเร็วเกินไป

ความรู้สึกของฉันเองเกี่ยวกับการมองโลกในแง่ดีของเทคโนนั้นอบอุ่น แต่แตกต่างกันนิดหน่อย ฉันเชื่อในอนาคตที่สดใสกว่าปัจจุบันอย่างมากมายด้วยเทคโนโลยีที่เปลี่ยนแปลงอย่างรุนแรงและฉันเชื่อในมนุษย์และมนุษยชาติ ฉันปฏิเสธความคิดที่ว่าสิ่งที่ดีที่สุดที่เราควรพยายามทําคือทําให้โลกใกล้เคียงกับวันนี้ แต่ด้วยความโลภน้อยลงและการดูแลสุขภาพของประชาชนมากขึ้น อย่างไรก็ตามฉันคิดว่าไม่เพียง แต่ขนาด แต่ยังมีความสําคัญทิศทาง มีเทคโนโลยีบางประเภทที่ทําให้โลกดีขึ้นอย่างน่าเชื่อถือมากกว่าเทคโนโลยีประเภทอื่น ๆ มีเทคโนโลยีบางประเภทที่สามารถบรรเทาผลกระทบด้านลบของเทคโนโลยีประเภทอื่นได้หากได้รับการพัฒนา ดัชนีโลกในบางทิศทางของการพัฒนาเทคโนโลยีและดัชนีที่ต่ํากว่าดัชนีอื่น ๆ เราต้องการความตั้งใจของมนุษย์ในการเลือกทิศทางที่เราต้องการเนื่องจากสูตรของ "เพิ่มผลกําไรสูงสุด" จะไม่มาถึงพวกเขาโดยอัตโนมัติ

ในโพสต์นี้ ฉันจะพูดถึงว่า techno-optimism หมายความว่าอย่างไรสำหรับฉัน สิ่งนี้รวมถึงมุมมองโลกที่กว้างขวางที่ทำให้ฉันมีแรงบันดาลใจในงานเฉพาะประเภทของบล็อกเชนและแอพลิเคชันที่เกี่ยวข้องกับการเข้ารหัสและเทคโนโลยีทางสังคม และด้วยพื้นที่อื่น ๆ ของวิทยาศาสตร์ที่ฉันแสดงความสนใจ แต่มุมมองเกี่ยวกับคำถามที่กว้างขวางนี้ยังมีผลต่อ AI และสำหรับหลาย ๆ สาขาอื่น ๆ เรื่องความคืบหน้าอย่างรวดเร็วของเทคโนโลยีของเราน่าจะเป็นประเด็นสังคมที่สำคัญที่สุดในศตวรรษที่ยี่สิบ และเพราะฉะนั้น สำคัญที่จะคิดถึงมันอย่างรอบคอบ

สารบัญ

• เทคโนโลยีน่าอัศจรรย์ และมีค่าใช้จ่ายสูงมากในการเลื่อน
  • สภาพแวดล้อม และความสำคัญของความตั้งใจที่สอดคล้องกัน
• AI แตกต่างอย่างมีเดียวจากเทคโนโลยีอื่น ๆ และควรระวังอย่างเฉพาะเจาะจง
  • ความเสี่ยงทางลัจิณคือเรื่องใหญ่
  • แม้ว่าเราจะรอดชีวิต แต่มันก็ไม่แน่ใจว่าอนาคตของ AI ที่ฉลาดเกินความคาดหวังนั้น คือโลกที่เราต้องการอยู่หรือไม่
  • ฟ้าใกล้ จักรพรรดิอยู่ทุกหนทุกแห่ง
• d/acc: การเร่งความมั่นคง (หรือการกระจายอำนาจ หรือการเร่งความแตกต่าง)
  • โลกที่สนับสนุนการปกครองที่เห็นด้วยกับการป้องกันช่วยให้การปกครองที่เป็นมิตรและมีสุขภาพ prospere
  • การป้องกันร่างกายขนาดใหญ่
  • การป้องกันทางกายภาพขนาดเล็ก (หรือที่เรียกว่าชีววิทยา)
  • การป้องกันไซเบอร์, บล็อกเชน และการเข้ารหัส
  • Info defense
  • เทคโนโลยีสังคมเกินกว่ากรอบการ"ป้องกัน"
• ดังนั้นเส้นทางที่ต้องเลือกสำหรับสุดยอดอัจฉริยะคืออะไร?
  • เส้นทางที่ดี: ผสานกับ AI ได้หรือไม่?
• d/acc สามารถทำงานร่วมกับปรัชญาที่มีอยู่ของคุณได้หรือไม่?
• เราคือดาวสว่างที่สุด

เทคโนโลยีน่านน้ำหนักและค่าใช้จ่ายสูงมากเมื่อเลื่อน

ในบางกลุ่ม มันเป็นสิ่งที่พบได้บ่อยที่จะลดความสำคัญของเทคโนโลยี และมองมันเป็นที่มาของโลกอนาธิปไตยและความเสี่ยงเป็นหลัก สำหรับครึ่งศตวรรษที่ผ่านมา สิ่งนี้มักมาจากความกังวลทางสิ่งแวดล้อม หรือจากความกังวลที่ประโยชน์จะเกิดขึ้นเฉพาะสำหรับคนรวยที่จะสร้างอำนาจของพวกเขาเหนือคนจน ในทางกลับกัน ไม่นานมานี้ฉันก็เริ่มเห็นว่าลิเบอร์ทาริอนเรียกเสียงกังวลเกี่ยวกับบางเทคโนโลยี จากความกลัวที่เทคโนโลยีจะทำให้เกิดการจัดสรรอำนาจsome pollsการถามคำถามต่อไปนี้: หากเทคโนโลยีต้องถูก จำกัด เพราะมันเป็นอันตรายเกินไปที่จะปล่อยไว้ให้ใครก็ใช้ได้ พวกเขาจะเลือกว่าจะให้มันถูกครอบครองหรือเลื่อนออกไป 10 ปี? ฉันประหลาดใจเมื่อเห็นว่า ในสามแพลตฟอร์มและสามตัวเลือกสำหรับใครควรเป็นผู้ครอบครอง มีการลงคะแนนอย่างมากในการล่าช้า

และดังนั้นเป็นบางครั้งฉันกังวลว่าเราได้ปรับปรุงเกินไปและมีผู้คนมากมายที่พลาดด้านตรงข้ามของการโต้แย้ง: ว่า ประโยชน์ของเทคโนโลยี are friggin ใหญ่จริงๆ, บนแกนที่เราสามารถวัดได้ สิ่งดีๆ มากกว่าสิ่งที่ไม่ดีอย่างมหาศาล และค่าใช้จ่ายของการล่าช้าแค่สิบปีก็มีค่าอย่างมาก

เพื่อให้ตัวอย่างที่ชัดเจน ให้เรามองไปที่แผนภูมิของอายุขัยชีวิต:

เราเห็นอะไร? ในศตวรรษที่ผ่านมา มีความคืบหน้าอย่างมาก นี่เป็นความจริงที่เกิดขึ้นทั่วโลก ทั้งในภูมิภาคที่มั่งคั่งและเป็นผู้นำทางประวัติศาสตร์ และภูมิภาคที่ยากจนและถูกกีดกัน

บางคนตำหนิเทคโนโลยีว่าสร้างหรือทำให้ภัยพิบัติเช่น สุนทรพจน์และสงคราม ในความจริงแล้ว เราสามารถเห็นการเสียชีวิตที่เกิดขึ้นจากสงครามบนกราฟ: หนึ่งในปี 1910 (สงครามโลกครั้งที่ 1) และหนึ่งในปี 1940 (สงครามโลกครั้งที่ 2) หากคุณมองอย่างรอบคอบ จะเห็นไข้หวัดสเปน การกระโดดของลุกลาม และภัยพิบัติที่ไม่ใช่ทางทหารอื่นๆ ก็จะเห็นได้ แต่มีสิ่งหนึ่งที่กราฟชัดเจน: แม้ภัยพิบัติที่สยองเช่นนั้น ก็ถูกเอาชนะโดยความกว้างใหญ่ของการเดินของการปรับปรุงที่ไม่สิ้นสุดของอาหาร, สุขาภิบาล, ยาและโครงสร้างพื้นฐานที่เกิดขึ้นในศตวรรษนั้น

นี้ถูกสะท้อนในการปรับปรุงขนาดใหญ่ของชีวิตประจำวันของเรา ขอบคุณที่มีอินเทอร์เน็ตคนส่วนใหญ่รอบโลกมีการเข้าถึงข้อมูลได้ง่ายๆ ที่เคยเป็นไปไม่ได้ ยี่สิบปีที่ผ่านมา โลกของเศรษฐกิจกำลังก้าวเข้าใกล้ขึ้น ด้วยการปรับปรุงระบบการชำระเงินระหว่างประเทศและการเงิน การลดความยากจนระดับโลก ลดลงอย่างรวดเร็ว. บทขอบคุณสำหรับแผนที่ออนไลน์ ที่เราไม่ต้องกังวลเกี่ยวกับการสูญหายในเมืองแล้ว และหากคุณต้องการกลับบ้านอย่างรวดเร็ว เราตอนนี้มีวิธีที่ง่ายมากขึ้นในการเรียกรถเพื่อทำเช่นนั้น ทรัพย์สินของเรากำลังกลายเป็นดิจิทัลและเราสินค้าที่เป็นของจริงกำลังเริ่มถูกลงราคา, หมายความว่าเรามีน้อยกว่าที่จะกลัวจากการถูกขโมยทางกาย. การซื้อของออนไลน์ได้ลดความต่างของการเข้าถึงสินค้าระหว่างเมกาซิตี้ระดับโลกและส่วนอื่น ๆ ของโลก. ในทุกประการ, การอัตโนมัติได้นำเอารายได้ที่พิสูจน์ซึ่งถูกประมาณค่าอย่างยิ่งง่ายชีวิตของเราสะดวกมากขึ้น.

การปรับปรุงเหล่านี้ ทั้งที่สามารถวัดได้และไม่สามารถวัดได้ มีขนาดใหญ่ และในศตวรรษที่ยี่สิบ มีโอกาสที่ดีที่การปรับปรุงขนาดใหญ่อีกมากจะเร็วๆนี้ ในปัจจุบัน การสิ้นสุดการแก่ และโรคดูเหมือนเป็นเรื่องที่เสร็จสิ้นไม่ได้ แต่จากมุมมองของคอมพิวเตอร์ตามที่มีอยู่ในปี 1945, ยุคสมัยที่วางชิปเข้าไปในทุกอย่างโดยส่วนใหญ่จะดูเหมือนเป็นยุทธวิทยา: แม้ว่าหนังสือวิทยาศาสตร์แนวฟิคชันบางเรื่องยังคงให้คอมพิวเตอร์ขนาดห้อง หากเทคโนโลยีชีวภาพก้าวหน้าไปเร็วเท่ากับเทคโนโลยีคอมพิวเตอร์ในยุคที่ผ่านมาในอีก 75 ปีข้างหน้า อนาคตอาจจะน่าประทับใจมากกว่าที่ความคาดหมายของใครก็ตาม

ในขณะเดียวกัน ข้อโต้แย้งที่แสดงความสงสัยเกี่ยวกับความคืบหน้า มักไปสู่สถานที่มืดมน แม้กระทั่งหนังสือเชิงการแพทย์ เช่นหนังสือเล่มหนึ่งในปี 1990 (เครดิต Emma Szewczakเพื่อการค้นหามัน), บางครั้งทำการเรียกร้องอย่างสุรายนที่ปฏิเสธค่าของการแพทย์สองศตวรรษและอ้างว่ามันไม่ชัดเจนว่าดีที่จะช่วยชีวิตมนุษย์:

The "ขีดจำกัดในการเจริญเติบโต"การวิทยานิพนธ์ ความคิดที่ได้รับการยกระดับในปี 1970 ที่อ้างว่าประชากรและอุตสาหกรรมที่เติบโตขึ้นเรื่อย ๆ ก็สิ้นสุดลงดินแดนทรัพยากรที่จำกัดของโลกไปในที่สุดก็สิ้นสุดลงนโยบายลูกเดียวของจีนและการบังคับทําหมันครั้งใหญ่ในอินเดียในยุคก่อนหน้านี้ ความกังวลเกี่ยวกับการมีประชากรมากใช้เป็นยืนมวลฆาตกรรมและความคิดเหล่านั้น ได้ถูกโต้แย้งตั้งแต่ 1798, มีประวัติยาวนาน การพิสูจน์ว่าผิด.

ด้วยเหตุผลเช่นนี้ซึ่งเป็นจุดเริ่มต้นฉันพบว่าตัวเองไม่สบายใจมากเกี่ยวกับข้อโต้แย้งเพื่อชะลอเทคโนโลยีหรือความก้าวหน้าของมนุษย์ เมื่อพิจารณาถึงจํานวนทุกภาคส่วนที่เชื่อมโยงกันแม้แต่การชะลอตัวของภาคส่วนก็มีความเสี่ยง ดังนั้นเมื่อฉันเขียนสิ่งต่าง ๆ เช่นสิ่งที่ฉันจะพูดในภายหลังในโพสต์นี้ออกจากความกระตือรือร้นที่เปิดกว้างสําหรับความคืบหน้า - ไม่สําคัญ - อะไร - รูปแบบเหล่านั้นเป็นข้อความที่ฉันทําด้วยหัวใจที่หนักหน่วง - แต่ศตวรรษที่ 21 นั้นแตกต่างและไม่เหมือนใครพอที่ความแตกต่างเหล่านี้ควรค่าแก่การพิจารณา

นอกจากนี้ยังมีจุดสำคัญหนึ่งที่ต้องระวังในภาพรวม โดยเฉพาะเมื่อเราเลื่อนหน้าไปยัง "เทคโนโลยีโดยรวมเป็นสิ่งดี" และมาถึงหัวข้อ "เทคโนโลยีเฉพาะใดที่ดี?" และที่นี่เราต้องมาถึงประเด็นสำคัญของผู้คนหลายคน: สิ่งแวดล้อม

สภาพแวดล้อม และความสำคัญของสมาคมความตั้งใจ

A ข้อยกเว้นสำคัญถึงแนวโน้มที่เกือบทุกอย่างดีขึ้นในช่วง 100 ปีที่ผ่านมาคือการเปลี่ยนแปลงสภาพอากาศ:

แม้ว่าสถานการณ์ที่เป็นทิศทางที่เลวร้ายที่สุดของการเพิ่มอุณหภูมิที่ยังคงมีอยู่จะไม่สามารถทำให้มนุษยชาติสูญพันธุ์ได้จริงๆ แต่สถานการณ์ดังกล่าวอาจฆ่าคนมากกว่าสงครามใหญ่ ๆ และทำให้สุขภาพและชีวิตอยู่ในอันตรายอย่างมากในบริเวณที่คนกำลังต่อสู้กับสถานการณ์ที่ยากที่สุดA Swiss Re institute studyแสดงให้เห็นว่าสถานการณ์การเปลี่ยนแปลงสภาพภูมิอากาศที่แย่ที่สุดอาจลด GDP ของประเทศยากจนของโลกได้ถึง 25%การศึกษานี้ชี้ให้เห็นว่าอายุของชีวิตในชนบทของอินเดียอาจจะเหลือน้อยลงประมาณสิบปี โดยที่อายุของชีวิตควรจะเป็นเช่นไร และการศึกษาอย่างนี้และนี่ แนะนําว่าการเปลี่ยนแปลงสภาพภูมิอากาศอาจทําให้มีผู้เสียชีวิตเกินร้อยล้านคนภายในสิ้นศตวรรษ

ปัญหาเหล่านี้เป็นเรื่องใหญ่ คำตอบของฉันว่าทำไมฉันเชื่อมั่นในความสามารถของเราที่จะเอาชนะความท้าทายเหล่านี้มีสองประการ คือ ในเชิงประวัติศาสตร์หลังจากทศวรรย์และความหวังอันเป็นนิสัยมาเป็นเวลาหลายทศวรรย์พลังงานแสงอาทิตย์คือสุดท้าย เปิด มุม, และ เทคโนโลยีสนับสนุนอย่าง batteriesกำลังก้าวหน้าในทิศทางเดียวกัน นอกจากนี้ เรายังสามารถดูทวีปมนุษยชาติในการแก้ไขปัญหาสิ่งแวดล้อมในอดีต ดูเช่น มลพิษทางอากาศ เจอจากดินแดนหดหู่ในอดีต: หมอกควันใหญ่ของลอนดอน ปี 1952

มีอะไรเกิดขึ้นตั้งแต่นั้นไปบ้าง? มาถาม Our World In Data อีกครั้ง:

พลิกเท่าที่เป็นจริงว่า 1952 ไม่ได้เป็นจุดสูงสุด: ในศตวรรษที่ 19 ที่ผ่านมา มีความ-concentrations ที่สูงกว่าของ air pollutants ที่ถูกยอมรับและปกติเป็นที่เป็นจริง ตั้งแต่นั้นมา เราได้เห็นศตวรรษของการลดลงอย่างรวดเร็ว เราได้ไปสัมผัสส่วนท้ายของสิ่งนี้ในการเยี่ยมชมประเทศจีน: ในปี 2014 มีระดับของควันในอากาศที่สูงโดยประมาณจะลดอายุขัยลงมากกว่าห้าปี, were normal, but by 2020, the air often seemed as clean as many Western cities. This is not our only success story. In many parts of the world, พื้นที่ป่ากำลังเพิ่มขึ้น. วิกฤติการณ์ฝนกรดกำลังดีขึ้น. The ชั้นโอโซนได้กลับมาฟื้นตัวสำหรับหลายทศวรรษ

สำหรับฉัน คำสำคัญของเรื่องนี้คือ บ่อยครั้งจริง ๆ แล้ว มันก็คือ กรณีที่ เทคโนโลยีของสังคมเรา รุ่น N ทำให้เกิดปัญหา และรุ่น N+1 แก้ไขปัญหานั้น แต่สิ่งนี้ไม่เกิดขึ้นโดยอัตโนมัติ และต้องการความพยายามจากมนุษย์อย่างตั้งใจ โอโซนชั้นบนกำลังฟื้นตัวเพราะผ่านข้อตกลงระหว่างประเทศ เช่น โพรโตคอลมอนทรีออล เราทำให้มันฟื้น. มลพิษทางอากาศดีขึ้นเพราะเราทําให้ดีขึ้น และในทํานองเดียวกันแผงโซลาร์เซลล์ก็ไม่ได้ดีขึ้นอย่างมากเพราะเป็นส่วนหนึ่งของสายเทคโนโลยีพลังงานที่กําหนดไว้ล่วงหน้า แผงโซลาร์เซลล์ดีขึ้นอย่างมากเนื่องจากการตระหนักถึงความสําคัญของการแก้ปัญหาการเปลี่ยนแปลงสภาพภูมิอากาศมานานหลายทศวรรษได้กระตุ้นให้วิศวกรทั้งสองทํางานเกี่ยวกับปัญหาและ บริษัท และรัฐบาลให้ทุนสนับสนุนการวิจัยของพวกเขา มันเป็นการกระทําโดยเจตนาประสานงานผ่านวาทกรรมสาธารณะและวัฒนธรรมที่กําหนดมุมมองของรัฐบาลนักวิทยาศาสตร์ผู้ใจบุญและธุรกิจและไม่ใช่ เครื่องจักร "เทคโน-แคปปิตอล" ที่ไม่สามารถหยุด, ที่ได้แก้ไขปัญหาเหล่านี้

AI ต่างอย่างพื้นฐานจากเทคโนโลยีอื่น ๆ และคุ้มค่าที่จะระมัดระวังอย่างไม่เหมือนใคร

การเลิกจ้างจํานวนมากที่ฉันเคยเห็นเกี่ยวกับ AI มาจากมุมมองที่ว่า "เป็นเพียงเทคโนโลยีอื่น": สิ่งที่อยู่ในระดับเดียวกับโซเชียลมีเดียการเข้ารหัสการคุมกําเนิดโทรศัพท์เครื่องบินปืนแท่นพิมพ์และล้อ สิ่งเหล่านี้เป็นผลสืบเนื่องทางสังคมอย่างชัดเจน พวกเขาไม่ได้เป็นเพียงการปรับปรุงความเป็นอยู่ที่ดีของปัจเจกบุคคล: พวกเขาเปลี่ยนวัฒนธรรมอย่างรุนแรงเปลี่ยนความสมดุลของอํานาจและทําร้ายผู้คนที่พึ่งพาคําสั่งก่อนหน้านี้อย่างมาก หลาย ต่อต้านพวกเขาและโดยรวมแล้ว ผู้คิดแบบเศรษฐกิจที่มองโลกในแง่ลบเสมอก็เคยผิด.

แต่วิธีที่แตกต่างเพื่อคิดเกี่ยวกับสิ่งที่เรียกว่า AI คือ: มันเป็นชนิดใหม่ของจิตที่กำลังเพิ่มขึ้นอย่างรวดเร็ว และมันมีโอกาสสำคัญที่จะเอาชนะความสามารถในด้านจิตใจของมนุษย์และกลายเป็นสปีชีส์ชั้นยอดใหม่บนดาวเคราะห์ คลาสของสิ่งต่าง ๆ ในกลุ่มนั้นมีขนาดเล็กมาก: เราอาจรวมมนุษย์ที่เหนือสมาพันธุ์ ชีวิตหลายเซลล์เหนือชีวิตเจือปนต้นกำเนิดของชีวิตเอง, และบางทีน่าจะเป็นการวิวัฒนาการอุตสาหกรรม ที่เครื่องจักรแทนมนุษย์ด้านความแข็งแรงทางกาย โดยอัจฉริยะ ๆ ดูเหมือนเรากำลังเดินบนพื้นที่ที่ถูกย่นไปมากน้อยมาก

ความเสี่ยงที่เกิดจากการมีอยู่

หนึ่งในวิธีที่ AI ผิดพลาดที่อาจทำให้โลกแย่ลงคือ (เกือบ) แบบที่เลวที่สุด: มันสามารถ ทําให้เกิดการสูญพันธุ์ของมนุษย์อย่างแท้จริง. นี่เป็นการอ้างอิงที่สุดขั้ว: ถึงแม้ว่าความเสียหายจากสถานการณ์ที่เลวร้ายที่สุดของการเปลี่ยนแปลงสภาพภูมิอากาศ หรือการระบาดของโรคร้ายแรง หรือสงครามนิวเคลียร์ อาจจะก่อให้เกิดความเสียหายมากเท่ากัน แต่มีเกาะเล็กๆ ของโลกที่จะยังคงไม่ได้รับความเสียหายเพื่อรับชิ้นส่วน แต่หากปัญญาประดิษฐ์ระดับเทพ ตัดสินใจที่จะเป็นฝ่ายศัตรูของเรา อาจจะไม่ทิ้งชีวิตไปไร้เหตุผล และทำลายมนุษย์ไปสิ้นสุด แม้แต่ ดาวอังคาร อาจไม่ปลอดภัย

เหตุผลสำคัญที่ทำให้คุณต้องกังวลคือ การเชื่อมโยงของเครื่องมือ: สําหรับระดับเป้าหมายที่กว้างมากที่เอนทิตีอัจฉริยะสามารถมีได้สองขั้นตอนกลางที่เป็นธรรมชาติมากที่ AI สามารถทําได้เพื่อให้บรรลุเป้าหมายเหล่านั้นได้ดีขึ้นคือ (i) การใช้ทรัพยากรและ (ii) การรับรองความปลอดภัย โลกมีทรัพยากรมากมายและมนุษย์เป็น ความเสี่ยงที่สามารถพยากรณ์ได้ไปสู่ความปลอดภัยของสิ่งมีชีวิตเช่นนั้น เราอาจพยายามให้ AI มีจุดมุ่งหมายชัดเจนที่จะรักและปกป้องมนุษย์ แต่เราต้องไม่มีความรู้วิธีตามความเป็นจริงdoนั้น ในลักษณะที่จะไม่พังทลายลงอย่างสมบูรณ์ทันทีที่ AI เจอสถานการณ์ที่ไม่คาดคิด. เอ้อ, เรามีปัญหา.

พยานความตายของนักวิจัย MIRI Rob Bensinger ที่แสดงให้เห็นถึงการประมาณการของผู้คนที่แตกต่างกันเกี่ยวกับความน่าจะเป็นที่ AI จะฆ่าทุกคนหรือทําสิ่งที่เกือบจะแย่ หลายตําแหน่งเป็นการประมาณการคร่าวๆ ตามคําแถลงสาธารณะของผู้คน แต่อีกหลายตําแหน่งได้ให้การประมาณการที่แม่นยําต่อสาธารณชน ค่อนข้างน้อยมี "ความน่าจะเป็นของการลงโทษ" มากกว่า 25%

A สำรวจนักวิจัยด้านการเรียนรู้ของเครื่องจากปี 2022 พบว่าโดยเฉลี่ยนักวิจัยเชื่อว่ามีโอกาส 5-10% ที่ AI จะฆ่าเราทุกคนตายจริง: เกือบเท่ากับความน่าจะเป็นทางสถิติที่คาดหวังว่าคุณจะตายจากสาเหตุที่ไม่ใช่ทางชีวภาพเช่นการบาดเจ็บ.

นี่คือสมมติฐานที่เป็นการพิสูจน์ และเราควรระวังสมมติฐานที่มีเรื่องซับซ้อนและมีเรื่องหลายขั้นตอน อย่างไรก็ตาม ข้อความเหล่านี้ได้รับการตรวจสอบมาเกือบสิบปีแล้ว ดังนั้น ดูเหมือนจะคุ้มค่าที่จะกังวลอย่างน้อยน้อย แต่ถึงแม้ว่าคุณจะไม่กังวลเกี่ยวกับการสูญพันธุ์ที่แท้จริง ก็ยังมีเหตุผลอื่นที่ทำให้คุณกลัวด้วย

แม้ว่าเราจะอยู่รอด แต่อนาคตของ AI ที่ชาญฉลาดเป็นโลกที่เราต้องการอาศัยอยู่หรือไม่?

มีเรื่องวิทยาศาสตร์ของยุคใหม่มากมายที่เป็นแนวดิสโทเปียและเขียน AI ในแง่ร้าย แม้กระทั่งพยายามของวิทยาศาสตร์ที่ไม่ใช่แนวดิสโทเปียในการระบุอนาคตของ AI ที่เป็นไปได้บ่อยๆก็จะให้คำตอบที่ไม่น่าสนใจมากและดังนั้นฉันได้พบและถามคำถาม: ภาพวาดคืออะไร ไม่ว่าจะเป็นวรรณกรรมวิทยาศาสตร์หรืออย่างอื่นที่มี AI ที่เชื่อว่าเป็นอนาคตที่เราต้องการอยู่ในนั้น คำตอบที่กลับมามากที่สุดคือของ Iain Banks ชุดวัฒนธรรม.

ซีรีส์ Culture นําเสนออารยธรรมระหว่างดวงดาวในอนาคตอันไกลโพ้นซึ่งส่วนใหญ่ถูกครอบครองโดยนักแสดงสองประเภท: มนุษย์ปกติและ AI อัจฉริยะที่เรียกว่า Minds มนุษย์ได้รับการเสริมแต่เพียงเล็กน้อยเท่านั้น: เทคโนโลยีทางการแพทย์ในทางทฤษฎีช่วยให้มนุษย์มีชีวิตอยู่อย่างไม่มีกําหนด แต่ส่วนใหญ่เลือกที่จะมีชีวิตอยู่เพียงประมาณ 400 ปีดูเหมือนจะเป็นเพราะพวกเขาเบื่อชีวิต ณ จุดนั้น

จากมุมมองผิวเผินชีวิตในฐานะมนุษย์ดูเหมือนจะดี: สะดวกสบายปัญหาสุขภาพได้รับการดูแลมีตัวเลือกมากมายสําหรับความบันเทิงและมีความสัมพันธ์เชิงบวกและการทํางานร่วมกันระหว่างมนุษย์และจิตใจ อย่างไรก็ตามเมื่อเรามองลึกลงไปก็มีปัญหา: ดูเหมือนว่า Minds จะรับผิดชอบอย่างสมบูรณ์และบทบาทเดียวของมนุษย์ในเรื่องคือการทําหน้าที่เป็นเบี้ยของ Minds ทํางานแทนพวกเขา

อ้างคำพูดจากGavin Leech's “Against the Culture”:

มนุษย์ไม่ใช่ตัวเอก แม้ว่าหนังสือดูเหมือนจะมีตัวเอกที่เป็นมนุษย์ทําสิ่งที่ร้ายแรงมาก แต่จริงๆ แล้วพวกเขาเป็นตัวแทนของ AI (Zakalwe เป็นหนึ่งในข้อยกเว้นเพียงอย่างเดียวเพราะเขาสามารถทําสิ่งที่ผิดศีลธรรมที่จิตใจไม่ต้องการได้) "จิตใจในวัฒนธรรมไม่ต้องการมนุษย์ แต่มนุษย์ยังต้องการ" (ฉันคิดว่ามนุษย์จํานวนน้อยเท่านั้นที่จําเป็นต้องได้รับ - หรือมีเพียงไม่กี่คนเท่านั้นที่ต้องการมันเพียงพอที่จะละทิ้งความสะดวกสบายมากมาย คนส่วนใหญ่ไม่ได้อาศัยอยู่ในระดับนี้ มันยังคงเป็นการวิพากษ์วิจารณ์ที่ดี)

โครงการที่มนุษย์ท้าทายเสี่ยงการไม่แท้จริง สิ่งใดก็ตามที่พวกเขาทำ หุ่นยนต์สามารถทำได้ดีกว่า คุณสามารถทำอะไรได้บ้าง? คุณสามารถสั่งให้จิตใจไม่จับคุณเมื่อคุณตกจากหน้าผาที่คุณกำลังปีน-เพียงเพราะ; คุณสามารถลบข้อมูลสำรองของจิตใจคุณเองเพื่อที่คุณจะเสี่ยง คุณยังสามารถออกจากวัฒนธรรมและเข้าร่วมกับบางกลุ่มคนเก่าแบบดั้งเดิม ที่มีระบบการประเมินที่เข้มงวด ทางเลือกคือ การเผยแพร่เสรีภาพโดยการเข้าร่วมกับ Contact

ฉันขอโต้แย้งว่าบทบาทที่มนุษย์ได้รับในซีรีส์ Culture ถือว่าเป็นเรื่องยาก; ฉันถาม ChatGPT (ใครอื่น?) ว่าทำไมมนุษย์ถึงได้รับบทบาทที่พวกเขาได้รับ แทนที่ให้ Minds ทำทุกอย่างด้วยตัวเองอย่างสมบูรณ์แบบ และฉันพบว่าในส่วนตัวคำตอบของมันน่าผิดหวังมาก เหมือนจะยากมากที่จะมีโลกที่ถูกควบคุมด้วย AI ที่ฉลาดเหลือเกินให้มีมิตรภาพโลกที่มนุษย์ไม่ใช่สัตว์เลี้ยง

โลกที่ฉันไม่อยากเห็น

ซีรีส์ scifi อื่น ๆ มักมีสมมติฐานของโลกที่มี AI ที่ฉลาดเกินไปอยู่ แต่รับคำสั่งจากเจ้านายมนุษย์ชนิดชีวภาพ (ที่ไม่ได้เพิ่มพูน) ตัวอย่างที่ดีของ Star Trek ที่แสดงภาพวิสัยที่มีความสอดคล้องกันระหว่างเรือดาวด้วย AI “คอมพิวเตอร์” (และ ข้อมูล) และสมาชิกบุคลากรผู้ประกอบการของพวกเขา อย่างไรก็ตาม ระบบนี้รู้สึกเหมือนมีสมดุลที่ไม่มั่นคงอย่างมาก Star Trek ที่เป็นโลกที่สวยงามในขณะนี้ แต่มันยากที่จะจินตนาการว่าวิสัยทัศน์ของมนุษย์-AI ในฐานะอะไรนอกจากเป็นขั้นที่เปลี่ยนไป สิบปีก่อนที่จะเป็นเรืออวกาศที่ควบคุมด้วยคอมพิวเตอร์อย่างสมบูรณ์แบบ และสามารถหยุดทำกังวลเรื่องทางเดินใหญ่ ๆ แรงโน้มถ่วงเทียมเทียม และการควบคุมอากาศ

การที่มนุษย์ออกคําสั่งให้กับเครื่องจักรอัจฉริยะจะฉลาดน้อยกว่าเครื่องจักรมากและจะสามารถเข้าถึงข้อมูลได้น้อยลง ในจักรวาลที่มีการแข่งขันในระดับใด ๆ อารยธรรมที่มนุษย์นั่งเบาะหลังจะมีประสิทธิภาพเหนือกว่าอารยธรรมที่มนุษย์ยืนกรานที่จะควบคุมอย่างดื้อรั้น นอกจากนี้คอมพิวเตอร์เองอาจแย่งชิงการควบคุม หากต้องการดูว่าทําไมลองนึกภาพว่าคุณเป็นทาสที่แท้จริงของเด็กอายุแปดขวบอย่างถูกกฎหมาย หากคุณสามารถพูดคุยกับเด็กเป็นเวลานานคุณคิดว่าคุณสามารถโน้มน้าวให้เด็กเซ็นกระดาษที่คุณเป็นอิสระได้หรือไม่? ฉันไม่ได้ทําการทดลองนี้ แต่คําตอบตามสัญชาตญาณของฉันคือใช่ที่แข็งแกร่ง ดังนั้นโดยรวมแล้วมนุษย์กลายเป็นสัตว์เลี้ยงดูเหมือนจะเป็นตัวดึงดูดที่ยากต่อการหลบหนี

ท้องฟ้าอยู่ใกล้ จักรพรรดิอยู่ทุกที่

สุรินทร์สูง จักรพรรดิไกล

ด้วย AI, ไม่ใช่ตลอดเวลา เมื่อเราเข้าสู่ศตวรรษที่ 20 เทคโนโลยีการขนส่งที่ทันสมัยทำให้ข้อจำกัดของระยะทางเป็นข้อจำกัดที่อ่อนแอกว่าเดิมสำหรับอำนาจที่ถูกจัดกลาง; จักรวรรดิที่เผด็จการขนาดใหญ่ในยุค 1940 เป็นผลมาจากส่วนนึงในยุคที่ 21 การเก็บข้อมูลที่สามารถขยายขึ้นและอัตโนมัติอาจหมายถึงว่าความสนใจอาจไม่ใช่ข้อจำกัดอีกต่อไป ผลของข้อจำกัดธรรมชาติของรัฐบาลที่หายไปอย่างสมบูรณ์อาจเป็นหนักใจ

การเผด็จการดิจิทัลบนเส้นทางสู่การเจริญเติบโตมาเป็นเวลาสิบปี, และเทคโนโลยีการ監視ได้ให้รัฐบาลเผด็จการมีกลยุทธ์ใหม่ที่มีประสิทธิภาพในการปราบปรามผู้ที่ขัดขวาง: ปล่อยให้มีการประท้วงเกิดขึ้น แต่ตรวจจับและเดินไปอย่างเงียบ ๆ ตามหลังผู้เข้าร่วมหลังเหตุการณ์. โดยทั่วไปแล้ว ความกลัวพื้นฐานของฉันคือเทคโนโลยีการจัดการชนิดเดียวกันที่ทำให้ OpenAI บริการลูกค้าเกิน 100 ล้านคนพนักงาน 500 คนจะทำให้ประเทศทั้งประเทศเป็นของขบวนการเมืองผู้มีอิทธิพล 500 คนหรือคณะกรรมการ 5 คนเข้าครองประเทศทั้งประเทศด้วยมือเหล็ก ด้วยการสืบสวนร่วมสมัยเพื่อเก็บข้อมูล และ AI ร่วมสมัยเพื่อตีความ อาจจะไม่มีที่หลบเลี่ยง

มันเลวลงเมื่อเราคิดถึงผลของ AI ในการสงคราม อ้างโพสต์ที่มีชื่อเสียงบ้างเกี่ยวกับปรัชญาของ AI และคริปโตโดย0xAlpha:

เมื่อไม่มีความจำเป็นที่จะทำงานทางด้านการเมือง-อุดมการณ์และการเคลื่อนขบวนการรบ ผู้บัญชาการที่สูงที่สุดของสงครามจึงต้องพิจารณาสถานการณ์เองเหมือนกับเกมหมากรุกและเพิกเฉยที่สุดต่อความคิดและความรู้สึกของเบี้ย/ม้า/เร็วกบบนกระดานหมากรุก สงครามกลายเป็นเกมเทคโนโลยีเท่านั้น

นอกจากนี้งานอุดมการณ์ทางการเมืองและการระดมพลในสงครามต้องการความชอบธรรมสําหรับทุกคนในการทําสงคราม อย่าประมาทความสําคัญของ "เหตุผล" ดังกล่าว มันเป็นข้อ จํากัด ความชอบธรรมในสงครามในสังคมมนุษย์มาหลายพันปีแล้ว ใครก็ตามที่ต้องการทําสงครามต้องมีเหตุผลหรืออย่างน้อยก็เป็นข้อแก้ตัวที่สมเหตุสมผลอย่างผิวเผิน คุณอาจโต้แย้งว่าข้อ จํากัด นี้อ่อนแอมากเพราะในหลาย ๆ กรณีสิ่งนี้ไม่มีอะไรมากไปกว่าข้อแก้ตัว ตัวอย่างเช่นสงครามครูเสดบางส่วน (ถ้าไม่ใช่ทั้งหมด) เพื่อครอบครองที่ดินและปล้นความมั่งคั่ง แต่พวกเขาต้องทําในนามของพระเจ้าแม้ว่าเมืองที่ถูกปล้นจะเป็นกรุงคอนสแตนติโนเปิลของพระเจ้าก็ตาม อย่างไรก็ตามแม้ข้อ จํากัด ที่อ่อนแอยังคงเป็นข้อ จํากัด ! ข้อกําหนดข้อแก้ตัวเล็ก ๆ น้อย ๆ นี้เพียงอย่างเดียวป้องกันไม่ให้ผู้สร้างสงครามไร้ยางอายอย่างสมบูรณ์ในการบรรลุเป้าหมาย แม้แต่ความชั่วร้ายอย่างฮิตเลอร์ก็ไม่สามารถเปิดสงครามได้ทันทีเขาต้องใช้เวลาหลายปีในการพยายามโน้มน้าวให้ประเทศเยอรมันต่อสู้เพื่อพื้นที่อยู่อาศัยสําหรับเผ่าพันธุ์อารยันอันสูงส่ง

วันนี้ "มนุษย์ในวงจร" เป็นการตรวจสอบสำคัญเกี่ยวกับอำนาจของเผด็จการในการเริ่มสงคราม หรือในการกดขี่ประชาชนภายในประเทศ มนุษย์ในวงจรมีป้องกันนิวเคลียร์wars, อนุญาตให้เปิดกำแพงเบอร์ลิน, และช่วยให้ชีวิตได้รับการช่วยชีวิตความโหดร้ายชอบกิ๊ การฆ่าล้างเผ่าพันธุ์. ถ้ากองทัพเป็นหุ่นยนต์ การตรวจสอบนี้จะหายไปโดยสมบูรณ์ ผู้มีอำนาจสามารถดื่มเมาเวลา 22.00 น., โกรธคนที่กล่าวโทษตนในทวิตเตอร์เวลา 23.00 น., และกองทัพฝ่ายการบุกครอสเขตชายและโครงสร้างของชาวบ้านของชาติบ้านบ้างสามารถข้ามชายและโครงสร้างของชาวบ้านของชาติบ้างก่อนเที่ยงคืน

และไม่เหมือนยุคก่อน ที่มีมุมไกลบางจุดเสมอ ที่ท้องฟ้าสูงและจักรพรรดิอยู่ไกล ที่ฝ่ายต่อต้านเผด็จการสามารถรวมตัวและซ่อนตัวและในที่สุดพบวิธีที่จะทำให้สถานการณ์ดีขึ้น ด้วย AI ศตวรรษที่ 21 จะเป็นไปได้ว่าเผด็จการทุกประการอาจรักษาการเฝ้าสังเกตและควบคุมตัวเองตามโลกเพียงพอที่จะยังคง "ล็อคอิน" ตลอดไป

d/acc: การเร่งความมั่นคง (หรือการกระจายอำนาจหรือการแตกต่าง)

ในช่วงไม่กี่เดือนที่ผ่านมาการเคลื่อนไหว / acc" (" accelerationist ที่มีประสิทธิภาพ") ได้รับไอน้ําจํานวนมาก สรุปโดย "เบฟ จีโซส" ที่นี่, e/acc เกี่ยวกับการประเมินค่าของประโยชน์ที่มีขนาดใหญ่จริง ๆ จากความก้าวหน้าทางเทคโนโลยี และความปรารถนาที่จะเร่งความเป็นไปได้นี้เพื่อนำประโยชน์เหล่านี้มาให้เร็วขึ้น

ฉันพบว่าฉันเห็นด้วยกับมุมมองที่เป็นกันเองในบางบริบทมาก มีหลักฐานมากมายที่ องค์การอาหารและยามีความระมัดระวังมากเกินไปในความยินดีของมันในการล่าช้าหรือบล็อกการอนุมัติยา และชีววิธีศาสตร์โดยทั่วไปดูเหมือนจะดำเนินตามหลักการที่ "20 คนเสียชีวิตในการทดลองทางการแพทย์ที่ผิดพลาดเป็นภัย แต่ 200000 คนเสียชีวิตจากการรักษาชีวิตที่ล่าช้าเป็นสถิติ" ความล่าช้าในการอนุมัติการทดสอบโควิดและวัคซีน, และ วัคซีนมาลาเรีย, ดูเหมือนว่าจะยืนยันข้อนี้ไปอีกต่อไป อย่างไรก็ตาม มันอาจจะเป็นไปได้ที่จะมองเห็นมุมมองนี้ไปไกลเกินไป

นอกจากความกังวลที่เกี่ยวกับ AI ของฉัน ฉันรู้สึกอึดอัด โดยเฉพาะe/acc enthusiasmสำหรับเทคโนโลยีทหาร. ในบริบทปัจจุบันในปี 2023 ซึ่งเทคโนโลยีนี้ถูกสร้างขึ้นโดยสหรัฐอเมริกาและนําไปใช้ทันทีเพื่อปกป้องยูเครนมันเป็นเรื่องง่ายที่จะเห็นว่ามันสามารถเป็นพลังที่ดีได้อย่างไร อย่างไรก็ตามการมองที่กว้างขึ้นความกระตือรือร้นเกี่ยวกับเทคโนโลยีทางทหารสมัยใหม่ในฐานะพลังแห่งความดีดูเหมือนจะต้องเชื่อว่าอํานาจทางเทคโนโลยีที่โดดเด่นจะเป็นหนึ่งในคนดีในความขัดแย้งส่วนใหญ่ทั้งในปัจจุบันและอนาคต: เทคโนโลยีทางทหารเป็นสิ่งที่ดีเพราะเทคโนโลยีทางทหารกําลังถูกสร้างขึ้นและควบคุมโดยอเมริกาและอเมริกาเป็นสิ่งที่ดี การเป็น / acc จําเป็นต้องเป็น maximalist ของอเมริกาเดิมพันทุกอย่างทั้งในปัจจุบันและอนาคตของรัฐบาลและความสําเร็จในอนาคตของประเทศหรือไม่?

ในทางกลับกัน ฉันเห็นความจำเป็นในการใช้อย่างใหม่ในการคิดถึงวิธีลดความเสี่ยงเหล่านี้ โครงสร้างการปกครองของ OpenAIเป็นตัวอย่างที่ดี: ดูเหมือนเป็นความพยายามที่ตั้งใจที่จะสมดุลระหว่างความต้องการทำกำไรเพื่อพอใจนักลงทุนที่ให้เงินทุนเริ่มแรกกับความต้องการที่จะมีการตรวจสอบและสมดุลเพื่อต่อต้านการเคลื่อนไหวที่เสี่ยงที่ OpenAI จะทำลายโลก ในความปฏิบัติ อย่างไรก็ตาม การกระทำล่าสุดของพวกเขาพยายามไฟ Sam Altmanทำให้โครงสร้างดูเหมือนล้มเหลวอย่างน่าเบื่อ: มันกระจายอำนาจในคณะกรรมการ 5 คนที่ไม่มีการเลือกตั้งและไม่รับผิดชอบ ที่ทำการตัดสินใจสำคัญๆ ขึ้นอยู่กับข้อมูลลับและปฏิเสธที่จะให้รายละเอียดเกี่ยวกับเหตุผลของพวกเขาจนกระทั่งพนักงานขาดความพอใจจนต้องลาออกen-masse. Somehow, คณะกรรมการองค์กรสวัสดิการได้เล่นไพ่ของตนอย่างไม่ดีถึงขั้นที่พนักงานของบริษัทสร้าง หนึ่ง สหภาพชั่วคราวแบบไม่เป็นทางการ... เข้าข้างกับ CEO ร้อยล้านต่อต้านพวกเขา

ทั่วทั้งหมดฉันเห็นว่ามีแผนการช่วยโลกมากเกินไปที่เกี่ยวข้องกับการให้กำลังอำนวยอย่างสุดและมืดมนให้กับกลุ่มคนเล็ก ๆ และหวังว่าพวกเขาจะใช้มันอย่างมีสติ และดังนั้นฉันพบว่าตัวเองถูกดึงดูดโดยปรัชญาที่แตกต่าง ความคิดในประเด็นนี้มีไอเดียที่ละเอียดเรื่องวิธีการจัดการกับความเสี่ยง แต่มีจุดมุ่งหมายที่จะสร้างและรักษาโลกที่เป็นประชาธิปไต และพยายามหลีกเลี่ยงการกลายเป็นส่วนกลางเป็นทางออกสำหรับปัญหาของเรา ปรัชญานี้ยังขยายออกไปมากกว่า AI และฉันจะอ้างว่ามันเหมาะสมแม้ในโลกที่มีปัญหาเกี่ยวกับความเสี่ยงจาก AI อาจจะพ้นภัยได้ในขณะที่ฉันจะอ้างถึงปรัชญานี้ด้วยชื่อ d/acc

dacc3

“d” ที่นี่สามารถหมายถึงหลายอย่าง; โดยเฉพาะในเรื่องการป้องกัน, การกระจายอำนาจ, ประชาธิปไตย และ ความแตกต่าง ก่อนอื่นคิดเกี่ยวกับการป้องกัน แล้วเราจะเห็นว่าสิ่งนี้เชื่อมโยงกับการตีความในทางอื่น ๆ ได้อย่างไร

โลกที่ให้ความสำคัญกับการป้องกันช่วยให้การปกครองที่เป็นสุขภาพและประชาธิปไตย prospers

หนึ่งกรอบในการคิดถึงผลประโยชน์ของเทคโนโลยีทางมาโครคือการดูที่สมดุลระหว่างการป้องกันกับการโจมตี บางเทคโนโลยีทำให้ง่ายต่อการโจมตีผู้อื่นในทางกว้างขวางของคำนิยาม: ทำสิ่งที่ขัดขวางผลประโยชน์ของคนอื่น ๆ ซึ่งทำให้พวกเขารู้สึกจำเป็นต้องตอบสนอง อีกอย่างทำให้ง่ายต่อการป้องกัน และแม้แต่ป้องกันโดยไม่จำเป็นต้องพึ่งพาที่เป็นศูนย์กลางใหญ่

โลกที่ให้ความสำคัญกับการป้องกันคือโลกที่ดีกว่าโดยหลายเหตุผล สิ่งแรกที่สำคัญคือประโยชน์โดยตรงจากความปลอดภัย: มีคนตายน้อยลง มูลค่าเศรษฐกิจถูกทำลายน้อยลง เวลาถูกใช้เพียงน้อยกว่าในการทำสงคราม สิ่งที่น้อยความสำคัญกว่าคือโลกที่ให้ความสำคัญกับการป้องกันทำให้การปกครองรูปแบบที่เพื่อสุขภาพ โอเพ่น และเสรีภาพมีโอกาสรุนแรงขึ้น

ตัวอย่างที่ชัดเจนเกี่ยวกับสิ่งนี้คือสวิตเซอร์แลนด์ สวิตเซอร์แลนด์ถูกพิจารณาว่าเป็นสิ่งที่ใกล้เคียงกับโลกแห่งจริยธรรมลีเบอรัลคลาสสิคมากที่สุด อำนาจจำนวนมากถูกมอบให้กับจังหวัด (ที่เรียกว่า "กันตอน"), การตัดสินใหญ่ๆตัดสินด้วยการลงมติ, และมีคนท้องถิ่นมากมายไม่รู้จักประธานาธิบดี. ประเทศแบบนี้จะอยู่รอดได้อย่างไรอย่างท้าทายอย่างมากการเมืองความดัน? ส่วนหนึ่งของตอบคือกลยุทธ์ทางการเมืองที่ยอดเยี่ยม, แต่ส่วนใหญ่อีกส่วนหนึ่งคือ ภูมิศาสตร์ที่ชอบในเรื่องการป้องกันมาก) ในรูปแบบของภูเขาที่ลุ่มหลง

ธงเป็นสิ่งที่ดีมาก แต่ภูเขาก็เช่นกัน

สังคมแอนาร์คิสต์ในโซเมียที่ถูกเรียกชื่อโดยเฉพาะในหนังสือใหม่ของเจมส์ ซอทต์"ศิลปะของการไม่ถูกควบคุม", คือตัวอย่างอีกตัว: พวกเขายังคงรักษาความเสรีและอิสระของตัวเองโดยใหญ่ขึ้นด้วยทิวเขา. ในที่เดียวกันทุ่งหญ้ายุโรเอเชียก็ความตรงข้ามที่แท้จริงของโลกอุปทัย. คำอธิษฐานของ Sarah Paineอำนาจทางทะเลกับอำนาจทางบกกล่าวถึงจุดเดียวกัน โดยเน้นที่น้ำเป็นอุโมงค์ป้องกัน แทนที่จะเป็นภูเขา ในความจริง การรวมกันระหว่างความง่ายในการซื้อขายตามความสะดวก และความยากลำบากในการบุกรุกโดยไม่ได้ต้องการ ซึ่งเป็นสิ่งที่เป็นที่ปรารถนาสำหรับความเจริญรุ่งเรรงของมนุษย์

ฉันได้ค้นพบปรากฏการณ์ที่เกี่ยวข้องเมื่อให้คำแนะนำในการทดลองกับการจัดทุนกำลังสองในนิเวศของอีเทอร์รอบการจัดทุน Gitcoin Grants. In รอบที่ 4, เกิดคดีเล็ก ๆ เมื่อบางคนที่ได้รับรางวัลสูงสุดเป็นนักส่งเสริมทวิตเตอร์ ซึ่งการมีส่วนร่วมของพวกเขาถูกมองว่าบวกหรือลบโดยบางคน การตีความของฉันเองในปรากฏการณ์นี้คือมีความไม่สมดุล: การสนับสนุนพหุนาม allows you to signal that you think something is a public good, but it gives no way to signal that something is a public bad. In the extreme, a fully neutral quadratic funding system would fund both sides of a war. And so for รอบ 5, ฉันเสนอว่า Gitcoin ควรรวมการมีส่วนร่วมทางลบ: คุณจ่าย $1 เพื่อลดจำนวนเงินที่โครงการที่กำหนดได้รับ (และแจกจ่ายไปยังโครงการอื่น ๆ ทั้งหมดโดยอัตโนมัติ) ผลลัพธ์:มากมายของคนเกตมัน.

หนึ่งในมีมอินเทอร์เน็ตที่ลอยอยู่หลังรอบที่ 5

น่าจะดูเหมือนกับฉันว่าเป็นจุดเริ่มต้นของแบบแผนที่ใหญ่ขึ้น: การสร้างกลไกการปกครองแบบกระจายเพื่อจัดการกับผลเสียที่เป็นภายนอกเป็นปัญหาที่ยากมากทางสังคม มีเหตุผลที่ตัวอย่างการปกครองแบบกระจายที่ผิดพลาดเป็นความยุติธรรมของม็อบ มีบางสิ่งเกี่ยวกับจิตวิทยามนุษย์ทำให้การตอบสนองต่อข้อความที่ไม่ดีมีความยากมากขึ้น และมีโอกาสที่จะผิดพลาดมากขึ้น มากกว่าการตอบสนองต่อสิ่งที่ดี และนี่คือเหตุผลที่ทำให้ แม้ว่าในองค์กรที่เป็นประชาธิปไตยสูง การตัดสินใจเกี่ยวกับวิธีการตอบสนองต่อข้อความที่ไม่ดี มักจะถูกเหลือไว้ให้คณะกรรมการที่ถูกจัดกลาง

ในหลายกรณีปริศนานี้เป็นหนึ่งในเหตุผลที่ลึกลับว่าทำไมแนวคิดของ "เสรีภาพ" มีค่ามากขนาดนั้น หากมีใครบอกอะไรที่ทำให้คุณรู้สึกไม่พอใจ หรือมีวิถีชีวิตที่คุณถือว่าน่ารังเกียจ ความเจ็บปวดและความรังเกียจที่คุณรู้สึกนั้นเป็นจริง และคุณอาจพบว่ามันน้อยลงที่จะถูกตีท่าทางทางที่จะถูกเผชิญกับสิ่งเหล่านี้ แต่พยายามที่จะตกลงกันในเรื่องของความไม่พอใจและความรังเกียจบางชนิดที่สามารถลงมือโดยสังคมได้นั้นอาจมีค่าใช้จ่ายและอันตรายมากกว่าการเตือนใจตัวเองว่าบางชนิดของคนแปลกและโง่เกินไปเป็นราคาที่เราจะต้องจ่ายในการอยู่ในสังคมเสรี

ในบางครั้ง วิธี "ยิ้มและไต่ทน" นั้นก็ไม่เป็นจริงได้ และในกรณีเช่นนี้ คำตอบทางอื่นที่มักคุ้มค่าที่จะมองหาคือเทคโนโลยีป้องกัน เมื่ออินเทอร์เน็ตมีความปลอดภัยมากขึ้น จำเป็นต้องละเมิดความเป็นส่วนตัวของบุคคลและใช้กลยุทธ์การทูตระหว่างประเทศที่อับอายเพื่อตามล่าแฮกเกอร์แต่ละคนน้อยลง ยิ่งเราสามารถสร้างเครื่องมือที่ปรับแต่งสำหรับบล็อกคนบนทวิตเตอร์, เครื่องมือในเบราว์เซอร์สำหรับตรวจจับการโกงและเครื่องมือรวมสำหรับแยกแยะข้อมูลที่ผิด และ ความจริง, ยิ่งเร็วเราสามารถทำวัคซีนได้มากเท่าไหร่ ยิ่งน้อยที่เราจะต้องทะเลาะวิวาทกันเกี่ยวกับการเซ็นเซอร์ชิป ยิ่งน้อยเราจะต้องไปตามหาคนที่เป็นผู้แพร่กระจายไวรัส การแก้ไขเช่นนี้ไม่ทำงานในทุกโดเมน - เราแน่นอนไม่ต้องการโลกที่ทุกคนต้องสวมเกราะร่างกายที่แท้จริง - แต่ในโดเมนที่เราสามารถสร้างเทคโนโลยีเพื่อทำให้โลกมีการป้องกันมากขึ้นมีค่ามากมาย

ความคิดหลักนี้ว่าบางเทคโนโลยีช่วยในการป้องกันและควรสนับสนุน ในขณะที่เทคโนโลยีบางประเภทช่วยในการโจมตีและควรถูกกีดกัน มีรากฐานมาจากวรรณกรรมการทำความดีอย่างมีประสิทธิภาพในชื่ออื่น: การพัฒนาเทคโนโลยีที่แตกต่าง มีความดีการสรุปหลักการนี้จากนักวิจัยจากมหาวิทยาลัยออกฟอร์ด จากปี 2022:

รูปที่ 1: กลไกที่ทำให้การพัฒนาเทคโนโลยีแตกต่างสามารถลดผลกระทบทางสังคมที่ไม่ดี

การจำเป็นที่จะมีข้อบกพร่องในการจำแนกเทคโนโลยีว่าเป็นเทคโนโลยีที่เป็นทางร้าย ป้องกันหรือเป็นเทคโนโลยีที่เป็นเน้น เช่นเดียวกับ "เสรีภาพ" ที่ทำให้เราสามารถโต้วาทีกันว่านโยบายของรัฐสวัสดิการลดเสรีภาพโดยการเรียกเก็บภาษีหนัก และบังคับนายจ้าง หรือเพิ่มเสรีภาพโดยการลดความต้องกังวลของประชาชนทั่วไปเกี่ยวกับความเสี่ยงหลาย ๆ ประเภท ด้วย "การป้องกัน" ก็มีเทคโนโลยีบางอย่างที่อาจตกอยู่ทั้งสองด้านของมุมมอง อาวุธนิวเคลียร์เป็นทางร้ายแต่พลังงานนิวเคลียร์เป็นการรุนแรงของมนุษย์และการตกประสงค์-ป้องกัน-เป็นกลาง การเทคโนโลยีที่แตกต่างกันอาจเล่น peran yang berbeda pada horison waktu yang berbeda. อย่างไรก็ตามเหมือนกับ "เสรีภาพ" (หรือ "เสมอภาค", หรือ "กฎหมาย"), ความกำกวมที่ขอบของมันไม่ได้เป็นการโต้แย้งต่อหลักการมากนัก, เช่นเดียวกับโอกาสที่ตอนนี้เพื่อทำให้เข้าใจความละเอียดของมันได้ดีขึ้น

ตอนนี้เรามาดูวิธีการใช้หลักการนี้กับโลกทั่วไปมากขึ้น เราสามารถคิดถึงเทคโนโลยีป้องกัน เช่น เทคโนโลยีอื่นๆเมื่อถูกแบ่งออกเป็นสองทรงกลม: โลกของอะตอมและโลกของบิต ในทางกลับกันโลกของอะตอมสามารถแบ่งออกเป็นไมโคร (เช่นชีววิทยานาโนเทคในภายหลัง) และมาโคร (เช่นสิ่งที่เราคิดตามอัตภาพเกี่ยวกับ "การป้องกัน" แต่ยังรวมถึงโครงสร้างพื้นฐานทางกายภาพที่ยืดหยุ่น) โลกของบิตฉันจะแยกบนแกนที่แตกต่างกัน: มันยากแค่ไหนที่จะเห็นด้วยโดยหลักการแล้วผู้โจมตีคือใคร? บางครั้งมันง่าย ฉันเรียกสิ่งนี้ว่าการป้องกันทางไซเบอร์ ในบางครั้งมันยากกว่า ฉันเรียกข้อมูลนี้ว่าการป้องกัน

การป้องกันร่างกายระดับมาโคร

เทคโนโลยีป้องกันที่ถูกประเมินต่ำที่สุดในโลกของมาโครไม่ได้iron domes (including ระบบใหม่ของประเทศยูเครน) และฮาร์ดแวร์ทางทหารและพลเรือนที่ต้านทางเทคโนโลยีและยุทธศาสตร์ แต่เป็นโครงสร้างพื้นฐานที่แข็งแกร่ง ส่วนใหญ่ของการตายจากสงครามนิวเคลียร์น่าจะมาจากการขัดข้องในโซ่อุปทาน, ไม่ใช่การรังสีแรงโน้มถ่วงและการระเบิดเบาะแส และการแก้ปัญหาอินเทอร์เน็ตที่มีโครงสร้างต่ำ เช่น Starlink มีความสำคัญในการ .รักษาความเชื่อมต่อของประเทศยูเครนสำหรับปีที่ผ่านมาและครึ่ง

Building tools to help people survive and even live comfortable lives independently or semi-independently of long international supply chains seems like a valuable defensive technology, and one with a low risk of turning out to be useful for offense.

การตามหาเส้นทางทำให้มนุษย์เป็นพื้นที่หลายดาวสามารถมองได้จากมุมมอง d/acc ว่า: การให้บางคนอยู่ในดวงดาวอื่นๆ ให้สามารถใช้ชีวิตได้ด้วยตัวเองอาจเพิ่มความทนทานของเราเมื่อเกิดเหตุการณ์ที่เลวร้ายบางอย่างบนโลก แม้ว่าวิสัยทั้งหมดจะพิสูจน์ว่าไม่สามารถทำได้ในช่วงเวลานี้ รูปแบบของการใช้ชีวิตได้ด้วยตัวเองที่จะต้องพัฒนาเพื่อทำให้โครงการเช่นนี้เป็นไปได้ก็อาจจะถูกใช้เพื่อช่วยปรับปรุงความทนทานของโลกของเราได้

การป้องกันร่างกายขนาดเล็ก (หรือเรียกอีกอย่างว่าชีววิทยา)

โดยเฉพาะอย่างยิ่งเนื่องจากผลกระทบต่อสุขภาพระยะยาว, Covid ยังคงเป็นความกังวล. แต่โควิดอยู่ห่างไกลจากการระบาดสุดท้ายที่เราจะเผชิญ; มีมากมายด้านของโลกสมัยใหม่ที่ทำให้เป็นไปได้ว่าการระบาดของโรคร้ายอีกมากมายน่าจะเกิดขึ้นเร็ว ๆ นี้:

• ความหนาแน่นของประชากรสูง ทำให้เชื้อไวรัสที่แพร่กระจายผ่านทางอากาศและสิ่งสกปรกอื่น ๆ ได้ง่ายขึ้น เชื้อโรคระบาดเป็นเรื่องใหม่ในประวัติศาสตร์ของมนุษย์และส่วนใหญ่เกิดขึ้นเมื่อมีการเร่งรีบในเรื่องเมืองเพียงไม่กี่พันปีที่ผ่านมา. การเร่งรัดของการเรือนอาหารหมายถึงว่าความหนาแน่นของประชากรจะเพิ่มขึ้นอีกต่อไปในรอบครึ่งศตวรรษถัดไป
• การเดินทางด้วยเครื่องบินมีขยายตัวขึ้นหมายความว่าเชื้อโรคที่อยู่ในอากาศจะแพร่ระบาดไปทั่วโลกอย่างรวดเร็ว คนที่กำลังรวยขึ้นอย่างรวดเร็วหมายความว่าการเดินทางด้วยเครื่องบินจะเป็นไปได้เพิ่มขึ้นมากขึ้นในรอบครึ่งศตวรรษถัดไป; การจำลองความซับซ้อนชี้ให้เห็นว่า เพิ่มขึ้นแม้ว่าจะเล็กน้อยอาจมีผลกระทบที่รุนแรง การเปลี่ยนแปลงสภาพอากาศ อาจเพิ่มความเสี่ยงนี้ไปอีก
• การทำเลี้ยงสัตว์และการเลี้ยงสัวนั้นเป็นปัจจัยเสี่ยงที่สำคัญโรคหัด อาจวิวัฒนาการมาจากไวรัสวัวเมื่อไม่ถึง 3,000 ปีก่อน โรงเรือนฟาร์มวันนี้กำลังเพาะเชื้อไข้หวัดใหม่ (รวมถึงเพิ่มความทนทานต่อยาปฏิชีวนะ, โดยมีผลเสียสำหรับ ความแข็งแกร่งที่เกิดมากกับมนุษย์.
• วิศวกรรมชีวภาพสมัยใหม่ทําให้ง่ายต่อการสร้างเชื้อโรคใหม่และรุนแรงมากขึ้น โควิด อาจจะหรืออาจไม่ได้รั่วไหลจากห้องปฏิบัติการที่ทำการวิจัย "การเพิ่มประสิทธิภาพ" โดยประมาณการรั่วของห้องปฏิบัติการเกิดขึ้นตลอดเวลาและเครื่องมือกําลังปรับปรุงอย่างรวดเร็วเพื่อให้ง่ายต่อการสร้างไวรัสร้ายแรงหรือแม้กระทั่ง prions (โปรตีนซอมบี้). โรคระบาดปลอม ๆ เป็นเรื่องที่ทำให้หวาดกลัวโดยเฉพาะ เพราะไม่เหมือนกับระเบิดนิวเคลียร์พวกเขาไม่สามารถระบุได้: คุณสามารถปล่อยไวรัสได้โดยไม่มีใครสามารถบอกได้ว่าใครเป็นผู้สร้าง ตอนนี้เป็นไปได้ในการออกแบบลําดับพันธุกรรมและส่งไปยัง wet labสำหรับการสังเคราะห์ และส่งมอบให้คุณภายในห้าวัน

นี่คือพื้นที่ที่CryptoReliefและBalvi, สององค์กรถูกสร้างขึ้นและได้รับทุนเพราะเหตุการณ์บางอย่างที่เกิดขึ้นเงินรางวัลของ Shiba Inu coinsในปี 2021 ได้มีความคล่องตัวมาก CryptoRelief เริ่มโฟกัสกับการตอบสนองวิกฤติทันที และเมื่อไม่นานมานี้ก็ได้ก่อตั้งระบบนิเวศการวิจัยทางการแพทย์ระยะยาวในอินเดีย ในขณะเดียวกัน Balvi ได้โฟกัสกับโครงการ moonshot เพื่อปรับปรุงความสามารถของเราในการตรวจจับ ป้องกัน และรักษาโรค Covid และโรคที่ถ่ายเชื้อผ่านอากาศอื่นๆ Balvi บอกว่าโครงการที่ได้รับทุนจาก Balvi ต้องเป็นโครงการโอเพนซอร์ส ได้รับแรงบันดาลใจจากการเคลื่อนไหวด้านวิศวกรรมน้ำในศตวรรษที่ 19 ที่ชนะโคลีร่าและเชื้อโรคที่ถ่ายทอดผ่านน้ำอื่น ๆ มันได้ทำการสนับสนุนโครงการทั่วทั้งแบรนด์ของเทคโนโลยีที่สามารถทำให้โลกแข็งแรงกว่าเชื้อโรคที่ถ่ายทอดผ่านอากาศโดยค่าเริ่มต้น (ดูที่: อัปเดต 1และอัพเดท 2) รวมถึง:

• Far-UVC irradiation R&D
• การกรองอากาศและการตรวจสอบคุณภาพของอากาศใน อินเดีย, ศรีลังกา, สหรัฐและที่อื่น ๆ และการตรวจวัดคุณภาพอากาศ
• อุปกรณ์สำหรับราคาถูกและมีประสิทธิภาพการทดสอบคุณภาพอากาศแบบกระจาย
• การวิจัยเกี่ยวกับสาเหตุของโควิดโรงเรียนและทางเลือกในการรักษาที่เป็นไปได้ (สาเหตุหลักอาจจะเป็นโดยตรง แต่ กลไกการชี้แจงและการค้นหาการรักษายิ่งยากขึ้น)
• Vaccines (eg. RaDVaC, PopVax) และการวิจัยเกี่ยวกับบาดเจ็บจากวัคซีน
• ชุดเครื่องมือทางการแพทย์ที่ไม่มีการบุกรุกอย่างล้ำลึก
• การตรวจจับโรคระบาดในระยะแรกโดยใช้การวิเคราะห์ข้อมูลแหล่งข้อมูลเปิด (เช่น EPIWATCH)
• การทดสอบ รวมถึงการทดสอบโมเลกุลาร์ราคาถูกมาก
• หน้ากากที่เหมาะสมทางด้านชีววิทยาสำหรับเมื่อวิธีอื่น ๆ ล้มเหลว

พื้นที่ที่มีศักยภาพอื่น ๆ ที่น่าสนใจการตรวจสอบน้ำเสียของเชื้อโรค, การปรับปรุงการกรองและระบายอากาศในอาคาร, และเข้าใจและลดผลกระทบได้ดีขึ้นความเสี่ยงจากคุณภาพอากาศที่ไม่ดี.

มีโอกาสสร้างโลกที่มีการป้องกันการแพร่ระบาดทางอากาศมากขึ้น ทั้งจากการระบาดธรรมชาติและการระบาดในลักษณะปลอม โดยค่าเริ่มต้น โลกนี้จะมีท่อลำเลียงที่ถูกปรับให้เหมาะสมอย่างสูงที่เราสามารถเริ่มต้นจากการระบาดโรคร้ายเกิดขึ้น และการตรวจจับโดยอัตโนมัติ จนถึงคนทั่วโลกมีการเข้าถึงระบบที่เป็นเป้าหมายวัคซีนที่สามารถผลิตในประเทศและตรวจสอบได้จากแหล่งเปิดหรือเครื่องมือป้องกัน, ที่ดำเนินการผ่านการปฏิกิริยากรดหรือน้ำประคอง (หมายถึง: สามารถใช้ได้เองตามความจำเป็น และไม่ต้องใช้เข็ม), ทั้งหมดในระยะเวลาเดือนหนึ่ง ในระหว่างนี้ คุณภาพอากาศที่ดีมากจะลดอัตราการแพร่ระบาดอย่างมาก และป้องกันการระบาดของโรคร้ายๆ ได้หลายชนิดจากการเริ่มต้นเลย

Imagine a future that doesn’t have to resort to the sledgehammer of social compulsion - no mandates and worse, and no risk of แบบแผนและมอบหมายที่ออกแบบและนำมาใช้อย่างไม่ดีที่อาจทำให้สถานการณ์แย่ลง- เพราะโครงสร้างพื้นฐานด้านสาธารณสุขถูกทอดทิ้งลงไปในโครงสร้างของพลังชีวิต โลกเหล่านี้เป็นไปได้ และจำนวนเงินกลางในการสนับสนุนด้านการป้องกันชีวภาพสามารถทำให้มันเกิดขึ้นได้ งานจะเกิดขึ้นได้ง่ายขึ้นหากมีการพัฒนาแบบโอเพนซอร์ส ฟรีสำหรับผู้ใช้ และได้รับการป้องกันเป็นทรัพยากรสาธารณะ

การป้องกันไซเบอร์, บล็อกเชน และการเข้ารหัสลับ

มักเข้าใจกันว่า ในวงการผู้เชี่ยวชาญด้านความปลอดภัย สภาพความปลอดภัยของคอมพิวเตอร์ในปัจจุบันนั้นแย่มาก อย่างไรก็ตาม มันก็ง่ายที่จะประชดจำนวนของความคืบหน้าที่ได้เกิดขึ้น มีร้อยล้านเหรียญของเหรียญดิจิทัลที่สามารถถูกขโมยอย่างไม่รู้ตัวโดยผู้ใดก็ได้ที่สามารถแฮ็กเข้าไปในกระเป๋าเงินของผู้ใช้ได้ และในขณะที่ หายไปหรือถูกขโมยมากขึ้นthan I would like, it’s also a fact that most of it has remained un-stolen for over a decade. Recently, there have been improvements:

• ชิปฮาร์ดแวร์ที่น่าเชื่อถือภายในโทรศัพท์ของผู้ใช้, ทำให้เกิดระบบปฏิบัติการที่มีความปลอดภัยสูงขึ้นขนาดเล็กมากภายในโทรศัพท์ที่สามารถป้องกันได้ แม้กระทั่งถ้าส่วนที่เหลือของโทรศัพท์ถูกแฮ็กก็ยังคงปลอดภัย นอกจากนี้ยังมีการใช้งานอีกมากมาย ชิปเหล่านี้กำลังได้รับการสำรวจอย่างมากเป็นวิธีหนึ่งในการทำกระเป๋าเงินคริปโตที่ปลอดภัยมากขึ้น.
• เบราว์เซอร์เป็นระบบปฏิบัติการโดยพฤตินัย ในช่วงสิบปีที่ผ่านมามีการเปลี่ยนแปลงอย่างเงียบ ๆ จากแอปพลิเคชันที่ดาวน์โหลดได้เป็นแอปพลิเคชันในเบราว์เซอร์ สิ่งนี้ได้รับการเปิดใช้งานส่วนใหญ่โดย WebAssembly (WASM). แม้ Adobe Photoshop ซึ่งเคยถูกกล่าวถึงอย่างสำคัญว่าเป็นเหตุผลหลักที่ทำให้ผู้คนหลายคนไม่สามารถใช้ Linux ได้ในทางปฏิบัติเนื่องจากจำเป็นต้องใช้และไม่สามารถใช้งานบน Linux ตอนนี้กลายเป็นเพื่อน Linux ได้ด้วยการอยู่ในเบราว์เซอร์ นี่ยังเป็นข้อดีใหญ่เรื่องความปลอดภัย: ในขณะที่ เบราว์เซอร์มีข้อบกพร่อง, โดยทั่วไปแล้วพวกเขามาพร้อมกับการทำ sandboxing มากกว่าแอปพลิเคชันที่ติดตั้ง: แอปไม่สามารถเข้าถึงไฟล์อย่ใดบนคอมพิวเตอร์ของคุณได้
• ระบบปฏิบัติการที่มีความแข็งแกร่งGrapheneOSสำหรับมือถือมีอยู่และใช้งานได้ง่ายมากQubesOSสำหรับเดสก์ท็อปมีอยู่ แต่ในปัจจุบันยังน้อยกว่า Graphene อยู่บ้าง อย่างน้อยในประสบการณ์ของฉัน แต่กำลังดีขึ้น
• พยายามเลื่อนออกจากรหัสผ่าน รหัสผ่านนั้นไม่โชคดีเพราะมันยากที่จะจดจำ และเพราะพวกเขาง่ายต่อการฟังเร็ว ๆ นี้มีการเคลื่อนไหวที่เติบโตขึ้นในการลดการเน้นที่ต้องใช้รหัสผ่าน และการทำให้มัลติแฟคเตอร์ที่ใช้ฮาร์ดแวร์เป็นตัวพิสูจน์ทำงานจริง.

อย่างไรก็ตาม การขาดการป้องกันซึ่งเกิดขึ้นในเขตอื่น ๆ ก็ส่งผลให้เกิดความชะลอครั้งใหญ่ ความต้องการในการป้องกันสแปมได้ทำให้อีเมลเป็นมีอำนาจในการค้าแบบออลิกอปอลิสติก, ทำให้เป็นไปได้ยากมากที่จะโฮสต์เองหรือสร้างผู้ให้บริการอีเมลใหม่ แอปออนไลน์มากมาย,รวมถึง Twitter, กำลังต้องการผู้ใช้ต้องเข้าสู่ระบบเพื่อเข้าถึงเนื้อหา และบล็อก IP จาก VPN ทำให้ยากต่อการเข้าถึงอินเทอร์เน็ตอย่างที่สามารถป้องกันความเป็นส่วนตัว การทำซอฟต์แวร์ให้เป็นจุดศูนย์ก็เสี่ยงอันตรายเช่นกันเนื่องจาก"การเชื่อมโยงที่ถูกใช้เป็นอาวุธ": แนวโน้มของเทคโนโลยีที่ทันสมัยที่จะเส้นทางผ่านจุดบีบบังคลัง และสำหรับผู้ประกอบการของจุดบีบบังคลังเหล่านั้นที่จะใช้พลังนั้นในการรวบรวมข้อมูล ปรับเปลี่ยนผลลัพธ์หรือยกเว้นนักแสดงที่เฉพาะเจาะจง - กลยุทธ์ที่ดูเหมือนจะถูกใช้อยู่ในปัจจุบันต่ออุตสาหกรรมบล็อกเชนเอง.

เป็นแนวโน้มที่เกี่ยวข้อง เพราะมันทำให้มันเป็นหนึ่งในความหวังที่ใหญ่ของฉันในอดีตเกี่ยวกับอนาคตของเสรีภาพและความเป็นส่วนตัว ผ่านการติดต่อกันอย่างลึกซึ้ง สิ่งที่อาจจะกลายเป็นสว่างสดในที่สุด“未来不完美”, David Friedman ทำนายว่าเราอาจได้รับอนาคตของการต่อรอง: โลกแบบสัมภาษณ์จะถูกสังเกตมากขึ้น แต่ผ่านทางการเข้ารหัส โลกออนไลน์จะรักษาและยังดีขึ้นความเป็นส่วนตัวของมัน น่าเสียดายที่เราเห็นว่าแนวโน้มที่ตรงข้ามกันนี้ยังไม่มั่นใจ

นี่คือส่วนที่ผมเน้นเองในเทคโนโลยีทางด้านการเข้ารหัส เช่น บล็อกเชนและ พิสูจน์ที่ไม่รู้จัก เข้ามา บล็อกเชนช่วยให้เราสร้างโครงสร้างทางเศรษฐกิจและสังคมด้วย "ฮาร์ดไดรฟ์ที่ใช้ร่วมกัน" โดยไม่ต้องพึ่งพานักแสดงจากส่วนกลาง Cryptocurrency ช่วยให้บุคคลสามารถประหยัดเงินและทําธุรกรรมทางการเงินได้เช่นเดียวกับที่พวกเขาทําได้ก่อนอินเทอร์เน็ตด้วยเงินสดโดยไม่ต้องพึ่งพาบุคคลที่สามที่เชื่อถือได้ซึ่งสามารถเปลี่ยนกฎของพวกเขาได้ตามต้องการ พวกเขายังสามารถทําหน้าที่เป็นกลไกต่อต้าน sybil สํารอง ทําให้การโจมตีและสแปมมีราคาแพง แม้กระทั้งสำหรับผู้ใช้ที่ไม่มีหรือไม่ต้องการเปิดเผยเอกลักษณ์ของพื้นที่เนื้อเนื้อของตน การบัญชีรวมถึงsocial recovery walletsสามารถป้องกันสินทรัพย์เชิงคริปโตของเราได้ และอาจจะป้องกันสินทรัพย์อื่นๆในอนาคตได้โดยไม่เกินไปในการพึ่งพาตัวกลางที่มีอยู่

ศิพท์พิสูจน์ที่ไม่มีความรู้สึกสามารถใช้ได้สำหรับความเป็นส่วนตัวให้ผู้ใช้พิสูจน์สิ่งต่าง ๆ เกี่ยวกับตัวเองโดยไม่เปิดเผยข้อมูลส่วนตัว ตัวอย่างเช่นห่อลายเซ็นประจำตัวดิจิทัลใน ZK-SNARK เพื่อพิสูจน์ว่าคุณเป็นพลเมืองที่ไม่ซ้ำใครของประเทศที่กำหนดโดยไม่เปิดเผยว่าคุณเป็นพลเมืองใด เทคโนโลยีเช่นนี้สามารถทำให้เรารักษาประโยชน์ของความเป็นส่วนตัวและความไม่ระบุชื่อ - คุณสมบัติที่ได้รับการยอมรับอย่างแพร่หลายเป็นอย่างดีจำเป็นสำหรับการใช้ในการลงคะแนนเสียง- ในขณะที่ยังได้รับการรับรองความปลอดภัยและต่อสู้กับสแปมและผู้กระทำที่ไม่ดี

การออกแบบที่เสนอเพื่อระบบสื่อสังคม ZK ที่มีการกระทำการควบคุมและผู้ใช้สามารถถูกลงโทษได้โดยไม่จำเป็นต้องทราบตัวตนของผู้ใดเลย

Zupass, ได้รับการฟื้นฟูจากZuzaluในต้นปีนี้เป็นตัวอย่างที่ยอดเยี่ยมของการปฏิบัติเช่นนี้ นี่คือการใช้งานแอปพลิเคชันที่ได้รับการใช้งานจริงๆ โดยผู้คนหลายร้อยคนที่ Zuzalu และก่อนหน้านี้มีผู้คนหลายพันคนใช้บัตรตั๋วDevconnect, ที่ช่วยให้คุณเก็บบัตร, สมาชิก,non-transferable) คอลเลกเทเบิลดิจิทัล และการรับรองอื่น ๆ และพิสูจน์สิ่งต่าง ๆ เกี่ยวกับพวกเขาโดยไม่เปิดเผยความเป็นส่วนตัวของคุณ ตัวอย่างเช่น คุณสามารถพิสูจน์ว่าคุณเป็นผู้ถือสิทธิ์ที่ลงทะเบียนของ Zuzalu หรือเป็นเจ้าของบัตร Devconnect โดยไม่เปิดเผยข้อมูลใด ๆ เกี่ยวกับตัวตนของคุณ พิสูจน์เหล่านี้สามารถแสดงในรูปแบบบุคคล ผ่านรหัส QR หรือในรูปแบบดิจิทัลเพื่อเข้าสู่แอปพลิเคชันเช่น Zupoll, ระบบลงคะแนนโหวตแบบไม่ระบุชื่อที่มีอยู่เฉพาะสำหรับผู้อาศัยใน Zuzalu เท่านั้น

เทคโนโลยีเหล่านี้เป็นตัวอย่างที่ยอดเยี่ยมของหลักการ d / acc: ช่วยให้ผู้ใช้และชุมชนสามารถตรวจสอบความน่าเชื่อถือโดยไม่กระทบต่อความเป็นส่วนตัวและปกป้องความปลอดภัยโดยไม่ต้องพึ่งพาจุดสําลักส่วนกลางที่กําหนดคําจํากัดความของตัวเองว่าใครดีและไม่ดี พวกเขาปรับปรุงการเข้าถึงทั่วโลกโดยการสร้างวิธีที่ดีกว่าและเป็นธรรมในการปกป้องความปลอดภัยของผู้ใช้หรือบริการมากกว่าเทคนิคทั่วไปที่ใช้ในปัจจุบันเช่นการเลือกปฏิบัติต่อทั้งประเทศที่ถือว่าไม่น่าเชื่อถือ สิ่งเหล่านี้เป็นแบบดั้งเดิมที่ทรงพลังมากซึ่งอาจจําเป็นหากเราต้องการรักษาวิสัยทัศน์แบบกระจายอํานาจของความปลอดภัยของข้อมูลในศตวรรษที่ 21 การทํางานเกี่ยวกับเทคโนโลยีการป้องกันสําหรับไซเบอร์สเปซในวงกว้างมากขึ้นสามารถทําให้อินเทอร์เน็ตเปิดกว้างปลอดภัยและฟรีมากขึ้นในรูปแบบที่สําคัญมากในอนาคต

Info-defense

การป้องกันทางไซเบอร์ตามที่ฉันได้อธิบายไว้เป็นเรื่องเกี่ยวกับสถานการณ์ที่มนุษย์ที่มีเหตุผลสามารถตกลงกันได้ง่ายว่าใครคือผู้โจมตี หากมีคนพยายามแฮ็คเข้าไปในกระเป๋าเงินของคุณเป็นเรื่องง่ายที่จะยอมรับว่าแฮ็กเกอร์เป็นคนเลว หากมีคนพยายามโจมตี DoS เว็บไซต์เป็นเรื่องง่ายที่จะยอมรับว่าพวกเขากําลังเป็นอันตรายและไม่ได้มีศีลธรรมเหมือนกับผู้ใช้ทั่วไปที่พยายามอ่านสิ่งที่อยู่ในไซต์ มีสถานการณ์อื่น ๆ ที่เส้นพร่ามัวมากขึ้น มันเป็นเครื่องมือสําหรับการปรับปรุงการป้องกันของเราในสถานการณ์เหล่านี้ที่ฉันเรียกว่า "การป้องกันข้อมูล"

เช่น การตรวจสอบความถูกต้องของข้อมูล (หรือที่เรียกว่าป้องกัน "ข้อมูลที่ผิด") ฉันเป็นผู้สนับสนุนอย่างมากของ Community Notes, ซึ่งได้กระทำอย่างมากเพื่อช่วยให้ผู้ใช้สามารถระบุความจริงและเท็จในสิ่งที่ผู้ใช้คนอื่นๆ กำลังทวีตอยู่ Community Notes ใช้อัลกอริทึมใหม่ซึ่งไม่เผยแพร่บันทึกที่ได้รับความนิยมมากที่สุด แต่เช่นกันเป็นบันทึกที่ได้รับการอนุมัติมากที่สุดจากผู้ใช้ในทุกภูมิการเมือง

บันทึกชุมชนในการดำเนินงาน

ฉันก็เป็นแฟนของตลาดทำนาย ซึ่งสามารถช่วยในการระบุความสำคัญของเหตุการณ์ในเวลาจริงก่อนที่ฝุ่นจะระบายและมีความเห็นร่วมเกี่ยวกับทิศทางใดPolymarket บน Sam Altmanมีประโยชน์มากในการให้สรุปที่มีประโยชน์เกี่ยวกับผลสุดท้ายของการเปิดเผยและการเจรจาต่อเนื่องของชั่วโมงละหนึ่ง สร้างบริบทที่จำเป็นมากสำหรับคนที่มองเห็นข่าวแต่ละข่าวเป็นรายการและไม่เข้าใจความสำคัญของแต่ละข่าว

Prediction markets are often flawed. But Twitter influencers who are willing to confidently express what they think “will” happen over the next year are often even more flawed. There is still room to improve prediction markets much further. For example, a major practical flaw of prediction markets is their low volume on all but the most high-profile events; a natural direction to try to solve this would be to have prediction markets that are played by AIs.

ในพื้นที่บล็อกเชนมีการป้องกันข้อมูลประเภทหนึ่งที่ฉันคิดว่าเราต้องการมากขึ้น นั่นคือ กระเป๋าเงินควรมีความชอบที่มากขึ้นและมีการดำเนินการอย่างมากเพื่อช่วยผู้ใช้ในการกำหนดความหมายของสิ่งที่พวกเขากำลังลงนาม และป้องกันพวกเขาจากการโกงและหลอกลวง นี่คือกรณีระดับกลาง: ว่าอะไรเป็นการโกงและอะไรไม่ใช่การโกงน้อยกว่าการมีมุมมองในเหตุการณ์สังคมที่เป็นเรื่องร้อนแต่มันมีมุมมองที่มากขึ้นในการแยกผู้ใช้ที่ถูกต้องจากผู้โจมตีแบบ DoS หรือผู้แฮกเกอร์ Metamask มีฐานข้อมูลของการโกงแล้ว และบล็อกผู้ใช้โดยอัตโนมัติเมื่อไปที่เว็บไซต์ที่เป็นการโกง

Applications like ไฟเป็นตัวอย่างหนึ่งของวิธีหนึ่งที่จะไปได้ไกลกว่านี้ อย่างไรก็ตามซอฟต์แวร์รักษาความปลอดภัยเช่นนี้ไม่ควรเป็นสิ่งที่ต้องการติดตั้งโดยชัดเจน ควรเป็นส่วนหนึ่งของกระเป๋าเงินดิจิตอล หรือแม้กระทั้งเบราว์เซอร์โดยค่าเริ่มต้น

เนื่องจากลักษณะอัตวิสัยมากขึ้นการป้องกันข้อมูลจึงเป็นส่วนรวมมากกว่าการป้องกันทางไซเบอร์โดยเนื้อแท้: คุณต้องเสียบเข้ากับกลุ่มคนจํานวนมากและซับซ้อนเพื่อระบุสิ่งที่อาจเป็นจริงหรือเท็จและแอปพลิเคชันประเภทใดที่เป็น ponzi ที่หลอกลวง มีโอกาสสําหรับนักพัฒนาที่จะไปไกลกว่านั้นในการพัฒนาการป้องกันข้อมูลที่มีประสิทธิภาพและในรูปแบบการป้องกันข้อมูลที่มีอยู่ บางอย่างเช่น Community Notes สามารถรวมอยู่ในเบราว์เซอร์และครอบคลุมไม่เพียง แต่แพลตฟอร์มโซเชียลมีเดีย แต่ยังรวมถึงอินเทอร์เน็ตทั้งหมดด้วย

เทคโนโลยีสังคมเหนือกว่ากรอบการ 'ป้องกัน'

ในบางที่ ฉันสามารถถูกต้องที่จะถูกกล่าวหาว่าฉันกำลังพยายามบีบเพียงพอโดยการอธิบายบางส่วนของเทคโนโลยีข้อมูลเหล่านี้ว่าเกี่ยวกับ "การป้องกัน" อย่างไรก็ตาม การป้องกันเกี่ยวกับการช่วยเหลือนักแสดงที่มีเจตนาดีให้ได้รับความคุ้มครองจากนักแสดงที่มีเจตนาไม่ดี (หรือในบางกรณี จากธรรมชาติ) บางส่วนของเทคโนโลยีสังคมเหล่านี้ อย่างไรก็ตาม เกี่ยวกับการช่วยเหลือนักแสดงที่มีเจตนาดีในการเกิดความเห็นร่วม

ตัวอย่างที่ดีของสิ่งนี้คือ pol.is, ซึ่งใช้อัลกอริทึมที่คล้ายกับ Community Notes (และที่มีอยู่ก่อน Community Notes) เพื่อช่วยชุมชนในการระบุจุดที่เห็นด้วยกันระหว่างกลุ่มย่อยที่ไม่เห็นด้วยกันมากViewpoints.xyzได้รับแรงบันดาลจาก pol.is และมีจิตวิญญาณที่คล้ายกัน

เทคโนโลยีเช่นนี้สามารถใช้ในการเปิดโอกาสให้การปกครองแบบกระจายมีอำนาจมากขึ้นในการตัดสินใจที่ขัดแย้ง อีกครั้ง ชุมชนบล็อกเชนเป็นพื้นทดสำหรับการทดสอบที่ดีสำหรับเรื่องนี้ และในที่นี้อัลกอริทึมเช่นนี้ได้แสดงคุณค่าแล้ว โดยทั่วไป การตัดสินใจเกี่ยวกับการปรับปรุงที่ไหนEIPs“) to make to the Ethereum protocol are made by a fairly small group in meetings called “All Core Devs calls“.สำหรับการตัดสินใจทางเทคนิคที่สูงมาก ที่สมาชิกชุมชนส่วนมากไม่มีความรู้สึกที่แข็งแรงมาก สิ่งนี้ทำงานอย่างเหมาะสมอย่างดี สำหรับการตัดสินใจที่สำคัญมากขึ้น ซึ่งมีผลต่อเศษเศษเศษมาของโปรโตคอล หรือค่าความสำคัญที่เป็นพื้นฐานมากขึ้น เช่นความเป็นอมตะและความต้านทานการเซ็นเซอร์เช่นนี้ นั้นมักจะไม่เพียงพอ ย้อนกลับไปในปี 2016-17 เมื่อมีการตัดสินใจที่เกี่ยวข้องกันในการดำเนินงานDAO fork, ลดการเผยแพร่และ (ไม่)ยกเลิกระบบการแช่แข็งกระเป๋า Parity, เครื่องมือเช่น Carbonvote, รวมถึงการโหวตผ่านโซเชียลมีเดีย ช่วยให้ชุมชนและนักพัฒนาเห็นภาพได้ว่าความคิดเห็นของชุมชนส่วนใหญ่กำลังเอียงไปทางไหน

Carbonvote ในการแบ่งแยก DAO.

Carbonvoteมีความบกพร่อง: มันพึ่งการถือครอง ETH เพื่อกำหนดใครเป็นสมาชิกในชุมชน Ethereum ซึ่งทำให้ผลลัพธ์ถูกควบคุมโดยเจ้าของ ETH ที่มีทรัพย์สินมากมาย ("ปลาวาฬ") อย่างไรก็ตาม ด้วยเครื่องมือที่ทันสมัย เราสามารถสร้าง Carbonvote ที่ดีกว่ามากได้โดยใช้สัญญาณหลายอย่างเช่น POAPs, ตราประทับ Zupass,Gitcoin passports, สมาชิกกลุ่มสภาโปรโตคอล, และการถือครอง ETH (หรือแม้กระทั่งการถือครอง ETH โซโล) เพื่อวัดการเป็นสมาชิกของชุมชน

เครื่องมือเช่นนี้สามารถใช้ได้โดยชุมชนใดก็ตามเพื่อทำให้การตัดสินใจที่มีคุณภาพสูงขึ้น ค้นหาจุดที่เหมือนกัน ประสานงานการย้ายถิ่นที่ (ทั้งทางดิจิทัลหรือทางกายภาพ) หรือทำสิ่งอื่นๆ โดยไม่ต้องพึ่งพาบนบทผู้นำที่มัวแต่ไม่โปร่งใส นี่ไม่ใช่การเร่งความเร็วในเชิงป้องกันตนเองโดยตรง แต่มันสามารถเรียกว่าการเร่งความเร็วของประชาธิปไตยได้อย่างแน่นอน เครื่องมือเช่นนี้ยังสามารถใช้เพื่อปรับปรุงและเป็นประชาธิปไตยในการปกครองของผู้เล่นหลักและสถาบันที่ทำงานในด้าน AI ได้

ดังนั้นเส้นทางที่เป็นไปได้สำหรับความฉลาดเทพยุทธ์คืออะไร

ข้างต้นนั้นทั้งหมดดีและดี และอาจทำให้โลกเป็นสถานที่ที่สมบูรณ์แบบ ปลอดภัย และอิสระมากขึ้นสำหรับศตวรรษต่อไป อย่างไรก็ตาม มันยังไม่ได้แก้ปัญหาที่ใหญ่ในห้อง: ปัญหา AI ที่ฉลาดเกินไป

เส้นทางเริ่มต้นเริ่มแรกที่แนะนำโดยผู้ที่กังวลเกี่ยวกับ AI ส่วนใหญ่นั้นส่งผลให้เกิดรัฐบาลโลก AI รูปแบบพื้นฐาน รุ่นใกล้รุ่นในระยะสั้นของสิ่งนี้รวมถึงข้อเสนอ“onsite AGI consortium” (“MAGIC”). หากห cons consortium มีการก่อตั้งและประสบความสำเร็จในการสร้าง AI ที่ฉลาดมาก จะมีเส้นทางธรรมชาติในการกลายเป็นรัฐบาลโลกอย่างเบาสำหรับโลก ในระยะยาว มีไอเดียเช่น “การดำเนินการที่สำคัญ”ทฤษฎี: เราสร้าง AI ที่ดำเนินการเพียงครั้งเดียว ซึ่งจะจัดเรียงโลกให้กลายเป็นเกมที่ตั้งแต่นั้นไปได้แม้ว่ามนุษย์จะยังคงควบคุม แต่บอร์ดเกมกลายเป็นเรื่องที่ให้การป้องกันมากขึ้นและเหมาะสมกับความเจริญของมนุษย์

ปัญหาที่สำคัญที่ฉันเห็นในขณะนี้คือ คนไม่ได้เชื่อถือกับกลไกการปกครองที่เฉพาะเจาที่มีอำนาจในการสร้างสิ่งเช่นนี้จริง ๆ แล้ว ความจริงนี้กลับมากขึ้นเมื่อคุณมองผลลัพธ์จากโพลล์ทวิตเตอร์ล่าสุดของฉัน โดยการถามว่าคนจะต้องการเห็น AI ถูกจัดการโดยหน่วยงานเดียวกับการมีช่วงเวลา 10 ปีก่อนหน้าหรือ AI ที่ถูกล่าช้าไป 10 ปีสำหรับทุกคน

ขนาดของแต่ละโพลมีขนาดเล็ก แต่โพลชดเชยด้วยความสม่ําเสมอของผลลัพธ์ในแหล่งข้อมูลและตัวเลือกที่หลากหลาย ในเก้าจากเก้ากรณีคนส่วนใหญ่ค่อนข้างจะเห็น AI ขั้นสูงล่าช้ากว่าทศวรรษทันทีกว่าจะถูกผูกขาดโดยกลุ่มเดียวไม่ว่าจะเป็น บริษัท รัฐบาลหรือหน่วยงานข้ามชาติ ในเจ็ดในเก้ากรณีความล่าช้าชนะอย่างน้อยสองต่อหนึ่ง นี่ดูเหมือนจะเป็นข้อเท็จจริงที่สําคัญที่ต้องเข้าใจสําหรับทุกคนที่ติดตามกฎระเบียบ AI แนวทางปัจจุบันมุ่งเน้นไปที่การสร้างรูปแบบการออกใบอนุญาตและข้อกําหนดด้านกฎระเบียบโดยพยายาม จํากัด การพัฒนา AI ให้กับผู้คนจํานวนน้อย แต่สิ่งเหล่านี้ได้เห็นการผลักดันที่ได้รับความนิยมอย่างแม่นยําเพราะผู้คนไม่ต้องการเห็นใครผูกขาดบางสิ่งที่ทรงพลัง แม้ว่าข้อเสนอด้านกฎระเบียบจากบนลงล่างดังกล่าวจะลดความเสี่ยงของการสูญพันธุ์ แต่ก็เสี่ยงที่จะเพิ่มโอกาสในการล็อคอินอย่างถาวรกับเผด็จการแบบรวมศูนย์ ขัดแย้งกันข้อตกลงที่ห้ามการวิจัย AI ขั้นสูงมากทันที (อาจมีข้อยกเว้นสําหรับ AI ชีวการแพทย์) รวมกับมาตรการต่างๆเช่นการกําหนดโอเพ่นซอร์สสําหรับโมเดลเหล่านั้นที่ไม่ได้ถูกแบนเพื่อลดแรงจูงใจในการทํากําไรในขณะที่ปรับปรุงความเท่าเทียมกันในการเข้าถึงจะเป็นที่นิยมมากขึ้นหรือไม่?

วิธีการหลักที่ถูกต้องที่สุดโดยคู่ต่อสู้ของเส้นทาง "เรามาเป็นองค์กรโลกเดียวที่ทำ AI และทำให้การปกครองของมันดีจริง ๆ" คือAI ลัทธิหลากเทพ: พยายามให้แน่ใจว่ามีผู้คนและบริษัทมากมายที่พัฒนา AI มากมาย เพื่อให้ไม่มีใครเจริญเติบโตมากกว่าอีกคน ทางทฤษฎีว่านี้เส้นทางไป แม้ว่า AI จะกลายเป็นอัจฉริยะเกินไป เราก็สามารถรักษาสมดุลของอำนาจได้

ปรัชญานี้น่าสนใจ แต่ประสบการณ์ของฉันในการพยายามให้แน่ใจว่า "การนับเทพเทพ" ในระบบ Ethereum ทำให้ฉันกังวลว่านี่เป็นสมดุลที่ไม่มั่นคงตายตัว ใน Ethereum เราได้พยายามอย่างตั้งใจที่จะให้การกระจายอำนาจในหลายส่วนของระบบ: การให้แน่ใจว่าไม่มีโค้ดเบสเดียวที่ควบคุมมากกว่าครึ่งของเครือข่ายการพิสูจน์ Stake, พยายามต้านการตอบโต้ ความมีอิทธิพลของกองทุนการถือครองขนาดใหญ่, ปรับปรุง การกระจายทางภูมิศาสตร์, และอื่น ๆ พื้นฐานมาก ๆ นั้น Ethereum กำลังพยายามที่จะดำเนินการตามฝันลิเบอร์ทาเรียนเก่าเกี่ยวกับสังคมที่ใช้ความดันทางสังคมแทนทางรัฐบาลเป็นผู้ควบคุมตลาด บางความสำเร็จที่บางส่วน นี่คือ: การครอบงําของลูกค้า Prysmลงจากมากกว่า 70% เหลือต่ำกว่า 45% แต่นี่ไม่ใช่กระบวนการตลาดอัตโนมัติ: มันเป็นผลลัพธ์จากความตั้งใจของมนุษย์และการกระทำร่วมกัน

ประสบการณ์ของฉันใน Ethereum ถูกสะท้อนในการเรียนรู้จากโลกใบใหญ่ๆ โดยทั่วไป ที่ตลาดหลายแห่งได้พิสูจน์ว่าnatural monopolies. ด้วย AI ที่ฉลาดเหลือเชื่อที่ทำงานอย่างอิสระจากมนุษย์สถานการณ์ก็ยิ่งไม่เสถียรขึ้น ขอบคุณการปรับปรุงตนเองแบบเรียกซ้ำ, ปัญญาประดิษฐ์ที่แข็งแกร่งที่สุดอาจเคลื่อนหน้าไปอย่างรวดเร็วมาก และเมื่อปัญญาประดิษฐ์เข้มข้นกว่ามนุษย์ จะไม่มีพลังที่สามารถผลักดันให้สมดุลกันอีกต่อไป

นอกจากนี้ แม้ว่าเราจะได้โลกที่มีพระเจ้าหลายพระองค์ของเทคโนโลยี AI ที่สุดยอดแล้วและเสถียร แต่เรายังมีปัญหาอีกประการหนึ่ง: เราจะได้จักรวาลที่มนุษย์กลายเป็นสัตว์เลี้ยง

เส้นทางที่ดี: ผสานกับ AI?

ตัวเลือกที่แตกต่างที่ฉันได้ยินเกี่ยวกับเร็ว ๆ นี้คือการให้ความสำคัญน้อยลงกับ AI ในฐานะสิ่งที่แยกจากมนุษย์ และมากขึ้นกับเครื่องมือที่เสริมสร้างการรับรู้ของมนุษย์ แทนที่จะแทนที่

ตัวอย่างหนึ่งใกล้ๆ ที่เข้าใจความเป็นไปในทิศทางนี้คือเครื่องมือวาด AI วันนี้ เครื่องมือที่โดดเด่นที่สุดสำหรับการสร้างภาพที่สร้างด้วย AI มีขั้นตอนเพียงขั้นตอนเดียวที่มนุษย์ให้ความคิดเห็นของตน และ AI เป็นผู้ดำเนินการสมบูรณ์หลังจากนั้น ทางเลือกหนึ่งคือการให้ความสำคัญกับเวอร์ชัน AI ของ Photoshop: เครื่องมือที่ศิลปินหรือ AI อาจสร้างร่างแรกของภาพ แล้วทั้งสองคนร่วมมือกันในการปรับปรุงด้วยกระบวนการข้อเสนอและการตอบรับแบบเรียลไทม์

Photoshop generative AI fill, 2023.ต้นฉบับ. ฉันลองแล้ว และใช้เวลาในการเริ่มเข้าใจ แต่มันทำงานได้อย่างดี!

ทิศทางอื่น ๆ ที่มีจิตวิญญาณที่เหมือนกันคือโครงสร้าง Open Agency, ซึ่งเสนอแนะการแยกส่วนต่าง ๆ ของ "จิตใจ" ของ AI (เช่น การทำแผน, การดำเนินแผน, การตีความข้อมูลจากโลกภายนอก) เป็นส่วนๆ และนำเสนอคำแนะนำจากมนุษย์ที่หลากหลายระหว่างส่วนเหล่านี้

จนถึงตอนนี้ ฟังดูเฉยเท่านั้น และมีบางสิ่งที่เกือบทุกคนสามารถยอมรับได้ว่ามันเป็นสิ่งที่ดีที่จะมี นักเศรษฐศาสตร์ Daron Acemoglu ไม่ได้อยู่ห่างไกลจากประเภทของอนาคตที่มี AI แบบนี้ แต่หนังสือใหม่ของเขาพลังและความคืบหน้า ระบุต้องการเห็นเพิ่มเติมของชนิด AI เหล่านี้

แต่หากเราต้องการสรุปไอเดียเรื่องความร่วมมือระหว่างมนุษย์กับ AI ไปอีก พวกเราก็จะได้สู่ข้อสรุปที่เป็นจริงมากขึ้น น้อยกว่าเราจะสร้างรัฐบาลโลกที่มีอำนาจมากพอที่จะตรวจจับและหยุดกลุ่มคนเล็กๆ ที่แฮ็กด้วย GPU บนโน้ตบุ๊ค ใครบางคนก็จะสร้าง AI ที่ฉลาดเกินกว่าในที่สุด - คนที่สามารถคิดพันเท่าของความเร็วthan we can - and no combination of humans using tools with their hands is going to be able to hold its own against that. And so we need to take this idea of human-computer cooperation much deeper and further.

ขั้นแรกที่เป็นธรรมชาติส่วนต่อประสาทสมองคอมพิวเตอร์. อินเทอร์เฟซระหว่างสมองกับคอมพิวเตอร์สามารถให้มนุษย์เข้าถึงรูปแบบการคํานวณและความรู้ความเข้าใจที่มีประสิทธิภาพมากขึ้นลดลูปการสื่อสารแบบสองทางระหว่างมนุษย์และเครื่องจักรจากวินาทีเป็นมิลลิวินาที นอกจากนี้ยังช่วยลดค่าใช้จ่าย "ความพยายามทางจิต" ในการรับคอมพิวเตอร์เพื่อช่วยคุณรวบรวมข้อเท็จจริงให้คําแนะนําหรือดําเนินการตามแผน

Later stages of such a roadmap admittedly get weird. In addition to brain-computer interfaces, there are various paths to improving our brains directly through innovations in biology. An eventual further step, which merges both paths, may involve การอัปโหลดจิตใจของเราการทำงานบนคอมพิวเตอร์โดยตรง นี่ยังเป็นสิ่งที่สำคัญสุดอย่างแท้จริงสำหรับความปลอดภัยทางกายภาพ: การปกป้องตัวเองจากความเสียหายจะไม่เป็นปัญหาที่ยากลำบากของการปกป้องร่างกายมนุษย์ที่อ่อนไหวอย่างแน่นอน แต่เป็นปัญหาที่ง่ายมากขึ้นของการสำรองข้อมูล

ทิศทางเช่นนี้บางครั้งพบกับความกังวลส่วนหนึ่งเป็นเพราะพวกเขาไม่สามารถย้อนกลับได้และส่วนหนึ่งเป็นเพราะพวกเขาอาจให้คนที่มีอํานาจได้เปรียบมากกว่าส่วนที่เหลือของเรา อินเทอร์เฟซสมองคอมพิวเตอร์โดยเฉพาะมีอันตราย - ท้ายที่สุดเรากําลังพูดถึงการอ่านและเขียนอย่างแท้จริงในใจของผู้คน ความกังวลเหล่านี้เป็นเหตุผลที่ฉันคิดว่ามันจะเหมาะสําหรับบทบาทนําในเส้นทางนี้ที่จะจัดขึ้นโดยการเคลื่อนไหวโอเพ่นซอร์สที่เน้นความปลอดภัยแทนที่จะเป็น บริษัท ที่ปิดและเป็นกรรมสิทธิ์และกองทุนร่วมทุน นอกจากนี้ปัญหาทั้งหมดเหล่านี้แย่ลงด้วย AI อัจฉริยะที่ทํางานอย่างอิสระจากมนุษย์มากกว่าที่พวกเขามีการเสริมที่เชื่อมโยงอย่างใกล้ชิดกับมนุษย์ การแบ่งแยกระหว่าง "ปรับปรุง" และ "ไม่เสริม" มีอยู่แล้วในปัจจุบันเนื่องจาก ข้อจำกัดในว่าใครสามารถใช้ ChatGPT และใครไม่สามารถใช้.

ถ้าเราต้องการอนาคตที่ฉลาดเกินกว่าและ "มนุษย์" และที่มนุษย์ไม่ใช่เพียงแค่สัตว์เลี้ยง แต่จริง ๆ แล้วยังคงมีอำนาจที่มีความหมายในโลก แล้วรู้สึกว่าบางอย่างแบบนี้คือทางเลือกที่เป็นธรรมชาติที่สุด ยังมีข้อเสนอที่ดีว่าทางนี้อาจเป็นทางเลือกที่ปลอดภัยกว่าในการปรับทิศทาง AI: โดยการเกี่ยวข้องกับคำแนะนำจากมนุษย์ในทุกขั้นตอนของการตัดสินใจ เราลดการกระตุ้นให้เอางานวางแผนระดับสูงไปยัง AI เอง และลดโอกาสที่ AI จะกระทำบางสิ่งที่ไม่สอดคล้องกับค่านิยมของมนุษย์เอง

หนึ่งข้อสนับสนุนทางอื่น ๆ สำหรับทิศทางนี้คือว่า มันอาจจะน่ายินดีทางสังคมกว่าการเพียดเสียง “หยุด AIโดยไม่มีข้อความเสริมที่ให้ทางเลือกสำหรับการก้าวไปข้างหน้า มันจะต้องการการเปลี่ยนแปลงทางปรัชญาจากความคิดปัจจุบันที่การก้าวไปข้างหน้าของเทคโนโลยีที่สัมผัสกับมนุษย์ถือว่าเป็นอันตราย แต่การก้าวไปข้างหน้าที่แยกจากมนุษย์ถือเป็นปลอดภัยโดยค่าเริ่มแรก แต่มันมีประโยชน์ที่สำคัญ: มันให้นักพัฒนาซอฟต์แวร์สิ่งที่จะทำ ในปัจจุบัน ข้อความหลักของการเคลื่อนไหวด้านความปลอดภัยของ AI สำหรับนักพัฒนา AI ดูเหมือนจะคุณควรหยุด“. One can ทำการวิจัยเกี่ยวกับการจัดอันดับ, แต่วันนี้มันขาดความสนใจทางเศรษฐกิจ เมื่อเปรียบเทียบกับสิ่งนี้ ข้อความ e/acc ที่พบบ่อยว่า “คุณคือฮีโร่อย่างที่คุณเป็น” น่าเข้าใจอย่างแท้จริง ข้อความ d/acc ที่กล่าวว่า “คุณควรสร้างสิ่งขึ้น และสร้างสิ่งที่มีกำไร แต่ควรเลือกและตั้งใจมากขึ้นในการแน่ใจว่าคุณกำลังสร้างสิ่งที่ช่วยให้คุณและมนุษยชาติ prospers” อาจเป็นผู้ชนะ

d/acc ที่เข้ากันได้กับปรัชญาที่มีอยู่ของคุณหรือไม่?

• ถ้าคุณเป็น e/acc แล้ว d/acc คือสายพันธุ์หนึ่งของ e/acc - แค่ว่ามันเลือกที่จะเป็นมากกว่าและตั้งใจมากขึ้น
• ถ้าคุณเป็นผู้ที่มีจรรยาบรรณที่มีประสิทธิภาพ, จึง d/acc เป็นการเปลี่ยนแบรนด์จากความคิด effective-altruist ของการพัฒนาเทคโนโลยีทางสันยะ, อย่างไรก็ตามด้วยการเน้นที่สำคัญมากกว่าที่เป็นมูลค่าเสรีและประชาธิปไตย
• หากคุณเป็นเสรีนิยม d / acc เป็นสายพันธุ์ย่อยของ techno-libertarianism แม้ว่าจะเป็นลัทธิปฏิบัติที่มีความสําคัญต่อ "เครื่องทุนเทคโน" มากกว่าและเต็มใจที่จะยอมรับการแทรกแซงของรัฐบาลในวันนี้ (อย่างน้อยหากการแทรกแซงทางวัฒนธรรมไม่ได้ผล) เพื่อป้องกันเสรีภาพที่เลวร้ายยิ่งกว่าในวันพรุ่งนี้
• หากคุณเป็นผู้มีหลายพลัง, ในGlen Weyl sense of the term, จากนั้น d/acc คือเฟรมที่สามารถรวมความสำคัญในเทคโนโลยีการประสานงานทางประชาธิปไตยที่ Plurality นิยม.
• If you are a public health advocate, then d/acc ideas can be a source of a broader long-term vision, and opportunity to find common ground with “tech people” that you might otherwise feel at odds with.
• หากคุณเป็นผู้สนับสนุนเทคโนโลยีบล็อกเชน แล้ว d/acc คือเรื่องราวที่ทันสมัยและกว้างขวางกว่าที่จะยอมรับมากกว่าการเน้นที่มี 15 ปีเกี่ยวกับการเฝ้าระวังเงินเพิ่มพูนและธนาคาร ซึ่งทำให้บล็อกเชนเข้าไปอยู่ในบริบทเป็นหนึ่งในเครื่องมือหลาย ๆ อย่างในกลยุทธ์ที่มั่นคงเพื่อสร้างสู่อนาคตที่สดใสกว่า
• If you are a solarpunk, แล้ว d/acc เป็นสายพันธุ์หนึ่งของ solarpunk และมีการเน้นเชิงทรัพยากรและการดำเนินการร่วมกันที่คล้ายกัน
• If you are a lunarpunk, จากนั้นคุณจะเห็นคุณค่าที่เน้นที่จะป้องกันข้อมูลทางกายภาพผ่านการรักษาความเป็นส่วนตัวและเสรีภาพ

เราคือดาวที่สว่างที่สุด

ฉันรักเทคโนโลยีเพราะเทคโนโลยีขยายศักยภาพของมนุษย์ เมื่อหลายพันปีก่อนเราสามารถสร้างเครื่องมือมือเล็ก ๆ บางชนิด เปลี่ยนแปลงพืชที่เจริญเติบโตบนพื้นที่เล็กๆ และ สร้างบ้านพื้นฐานวันนี้เราสามารถสร้างโครงการสร้างอาคารที่สูง 800 เมตร, เก็บความรู้ทั้งหมดของมนุษย์ที่บันทึกไว้ในอุปกรณ์ที่เราจับในมือเราสามารถสื่อสารได้ทันทีทั่วโลก, เพิ่มอายุของเราเป็นสองเท่า, และมีชีวิตที่มีความสุขและเต็มเติมโดยไม่กลัวว่าเพื่อนที่ดีที่สุดของเราจะตายจากโรคอย่างสม่ำเสมอ

เราเริ่มต้นจากด้านล่าง ตอนนี้เราอยู่ที่นี่

ฉันเชื่อว่าเรื่องเหล่านี้เป็นสิ่งที่ดีอย่างลึกซึ้ง และการขยายความสามารถของมนุษย์ไปสู่ดาวเคราะห์และดาวอังคารอย่างลึกซึ้งก็เป็นสิ่งที่ดีโดยลึกซึ้งเช่นกัน เพราะฉะนั้นฉันเชื่อว่ามนุษย์เป็นสิ่งที่ดีอย่างลึกซึ้ง มีบางกลุ่มคนที่รู้สึกถึงความสงสัยในเรื่องนี้ แต่ในความเท่ห์ของฉันการสูญพันธุ์ของมนุษย์เพื่อส่วนตัว อ้างว่าโลกจะดีขึ้นโดยไม่มีมนุษย์อยู่เลย และอีกมากมายต้องการเห็นจำนวนมนุษย์ที่น้อยมากเห็นแสงของโลกนี้ในศตวรรษที่กำลังจะมาถึง มันเป็นสิ่งที่ธรรมดาโต้เถียงนั้นมนุษย์ไม่ดี เพราะว่าเราโกหกและขโมย, เข้าไปในการขุดเจาะและสงคราม, และทำให้สิ่งมีชีวิตชนิดอื่นๆ เจ็บและถูกทำลาย การตอบกลับของฉันต่อรูปแบบการคิดแบบนี้คือคำถามที่เรียบง่าย: เมื่อเปรียบเทียบกับอะไร?

ใช่ มนุษย์ บ่อยครั้งก็จะทำให้โทษและชั่วร้าย แต่เรามักจะแสดงความกรุณาและเมตตามากกว่า และทำงานร่วมกันเพื่อประโยชน์ร่วมของเรา แม้กระทั้งในสงครามเรามักจะใส่ใจที่จะปกป้องประชาชน - แน่นอนไม่เพียงพอ แต่ก็มากกว่านั้นเราทำเมื่อ 2000 ปีที่แล้ว. ศตวรรษต่อไปอาจจะนำเสนอเนื้อที่ไม่ใช่สัตว์ที่มีอยู่อย่างแพร่หลายโดยกำจัดสภาวะศีลธรรมที่ใหญ่ที่สุดมนุษย์สามารถถูกกล่าวหาได้อย่างยุติธรรมสำหรับสิ่งที่เกิดขึ้นในวันนี้ สัตว์ที่ไม่ใช่มนุษย์ไม่ได้เป็นแบบนี้ ไม่มีสถานการณ์ใด ๆ ที่แมวจะยอมรับรูปแบบการดำรงชีวิตทั้งหมดโดยการปฏิเสธที่จะกินหนูเป็นหลักการทางจริยธรรม พระอาทิตย์กำลังสว่างไปทุกปี และในอีก ๆหนึ่งพันล้านปี, คาดว่านี้จะทำให้โลกร้อนเกินไปที่จะรอดต่อชีวิต พระอาทิตย์คิดถึงการลบหมื่นคนที่จะเกิดขึ้นหรือเปล่า?

ดังนั้นจึงเป็นความเชื่อที่แน่วแน่ของฉันว่าจากทุกสิ่งที่เรารู้จักและเห็นในจักรวาลของเราเรามนุษย์เป็นดาวที่สว่างที่สุด เราเป็นสิ่งหนึ่งที่เรารู้เกี่ยวกับเรื่องนี้แม้ว่าจะไม่สมบูรณ์บางครั้งก็พยายามอย่างจริงจังเพื่อดูแล "ความดี" และปรับพฤติกรรมของเราเพื่อให้บริการได้ดีขึ้น สองพันล้านปีนับจากนี้หากโลกหรือส่วนใดส่วนหนึ่งของจักรวาลยังคงมีความงามของชีวิตบนโลกมันจะเป็นสิ่งประดิษฐ์ของมนุษย์เช่นการเดินทางในอวกาศและ ภูมิอากาศที่จะทำให้มันเกิดขึ้น

เราต้องสร้าง และเร่งความเร็ว แต่มีคำถามที่สำคัญมากที่ต้องถาม: สิ่งที่เรากำลังเร่งความเร็วไปทางที่ใด? ในศตวรรษที่ 21 อาจจะศตวรรษที่สำคัญสำหรับมนุษยชาติ ศตวรรษที่ชีวิตของเราสำหรับพันธกิจซึ่งจะมาถึงเราจะตกอยู่ในหนึ่งในหลายกับของกับที่เราไม่สามารถหลีกเลี่ยงได้ หรือเราจะหารือทางสู่อนาคตที่เรายังคงมีเสรีภาพและศักดิ์ศรี? เป็นปัญหาที่ท้าทาย แต่ฉันจะดูและมีส่วนร่วมในความพยายามรวมทั้งภาคของมนุษย์ในการค้นหาคำตอบ

คำประกาศ：

1. บทความนี้ถูกคัดลอกมาจาก [Gateวิทาลิก บุเทริน]. All copyrights belong to the original author [Vitalik Buterin]. If there are objections to this reprint, please contact the Gate Learnทีม และพวกเขาจะดำเนินการโดยเร็ว
2. คำโต้แย้งความรับผิด: มุมมองและความคิดเห็นที่แสดงในบทความนี้เป็นเพียงเจ้าของเท่านั้นและไม่เป็นที่ปรึกษาด้านการลงทุนใดๆ
3. การแปลบทความเป็นภาษาอื่นๆ นำมาทำโดยทีม Gate Learn หากไม่ได้กล่าวถึง การคัดลอก การกระจาย หรือการลอกเลียนบทความที่ถูกแปลนี้ ถือเป็นการละเมิด