NộI Dung
- Nhập vào Khối thịnh vượng chung của Rơi 4.
- Tình trạng khó xử về đạo đức của tôi
- Chúng ta gần nhau thế nào?
- Một bước nhảy vọt của tiểu thuyết
- Tác động xã hội
- Gas trên lửa
- Phản ứng của xã hội
- Ghi chú cá nhân
- Vì vậy, tôi hỏi lại, "Tôi có phải là người xấu không?"
Những câu chuyện về những người bị áp bức trỗi dậy từ chuỗi của họ để vượt qua chủ nhân của họ là vô tận. Trong những câu chuyện này, người nghe có xu hướng đồng cảm với hoàn cảnh của những người bị áp bức, dựa trên các khái niệm thường được chấp nhận về tự do và tự do. Việc thực hành chế độ nô lệ vượt ra ngoài thời cổ đại trong một xã hội hiện đại, và ý tưởng này bị dân chúng lên án thống nhất - như nó phải vậy.
Nhưng điều gì sẽ xảy ra nếu những khái niệm này được áp dụng cho những sinh vật không phải là con người, mà là những cỗ máy phát triển cao? Điều gì sẽ xảy ra nếu những cỗ máy này không thể phân biệt rõ ràng với con người thực, hữu cơ và được lập trình với Trí tuệ nhân tạo (AI) tiên tiến đến mức chúng mô phỏng lời nói và cảm xúc của con người một cách liền mạch? Xã hội sẽ tiếp tục xem chúng là không có gì nhiều hơn những sáng tạo cơ học, bất kể thiết kế tiên tiến của họ như thế nào? Liệu các cơ chế AI phát triển đầy đủ này có bị đồng hóa với nhân loại không, và liệu chúng có được chấp nhận như một trong những thứ của chúng ta không?
Nếu chúng bị đồng hóa, liệu mọi người có đồng ý rằng những sinh vật được tạo ra bằng AI sẽ bằng với con người được sinh ra hữu cơ?
Nhập vào Khối thịnh vượng chung của Rơi 4.
Khi viết bài viết này, tôi đã đầu tư hơn sáu ngày vào trò chơi Rơi 4. Và không, tôi vẫn chưa hoàn thành cốt truyện chính. Điều này có thể gây ngạc nhiên cho một số người vì trò chơi này không có khía cạnh nhiều người chơi. Nhưng những người quen thuộc với nhượng quyền thương mại, cùng với Cuộn trưởng lão loạt từ Bethesda, biết đây là ngang bằng với khóa học.
Tôi đã dành một khoảng thời gian đáng kể trong Ngã ra ngoài thế giới, và tôi có thể nói rằng những người tốt ở Bethesda đã tạo ra một vũ trụ chi tiết như truyền thuyết sâu sắc. Dựa trên các mục trước của nhượng quyền thương mại, Rơi 4 diễn ra tại Khối thịnh vượng chung Massachusetts sau ngày tận thế hạt nhân khủng khiếp.
Trong tương lai thay thế này, tàn tích của Viện Công nghệ Massachusetts (MIT) được gọi là Viện Công nghệ Liên bang (TNDN). Bên dưới tàn tích là cơ sở của Viện, một tổ chức bí mật chuyên về công nghệ cao nhất được thấy trong nhượng quyền thương mại. Thành tựu được đánh giá cao của Viện là sự tiến bộ của Synths, các android siêu thực đã trở nên không thể phân biệt được với con người và sở hữu Trí tuệ nhân tạo (AI) được phát triển đầy đủ.
Tình trạng khó xử về đạo đức của tôi
Mặc dù những người Synth này có khả năng suy nghĩ độc lập, họ không sở hữu ý chí tự do thực sự và được coi là tài sản, không phải con người. Họ cũng có khả năng trải nghiệm cảm xúc, do đó làm tròn toàn bộ thi đua của con người. Điều này đã khiến một nhóm những người theo chủ nghĩa bãi bỏ có chủ đích tự xưng là Đường sắt phải nhận trách nhiệm giải phóng những "nô lệ" này.
Ok, giữ một giây.
Tôi có thể thấy rõ câu chuyện muốn đưa tôi đi đâu. Viện đang tạo ra những sinh vật này với (gần như) tất cả sự phức tạp của loài người và sau đó đang giữ lại bất kỳ mức độ nào về phẩm giá hoặc sự tôn trọng. Ở phía bên kia của bản đồ, Brotherhood of Steel là địa ngục phá hủy không chỉ bất kỳ Synth nào họ có thể có trong phạm vi của mình, mà còn tìm thấy và phá hủy hoàn toàn Viện. Synths là một nhân khẩu học bị áp bức nặng nề, bị đối xử như tài sản và đổ lỗi cho bất kỳ và tất cả các bệnh văn hóa có mặt trong xã hội chung của họ. Bị săn lùng thẳng thắn chỉ đơn giản là những gì họ không được chấp nhận, một số người coi đây là nghĩa vụ công dân chính đáng.
Điều này theo danh sách kiểm tra thành lập cho áp bức xã hội. Câu chuyện kể rõ ràng là hướng mà cảm xúc của tôi nên đưa tôi đi. Rằng tôi nên nhỏ giọt với sự đồng cảm với hoàn cảnh của Synth, và rằng gánh nặng của tôi nên được chuyển đến Viện, và rằng Brotherhood là một loạt các ý nghĩa lớn, và, ....
.... nhưng tôi cảm thấy đồng cảm nhất với những nỗ lực của Viện. Vì vậy, điều này có nghĩa là gì? Tôi có phải là người xấu không?
Chúng ta gần nhau thế nào?
Những gì đang phát triển trong tường thuật Synth của Rơi 4 là những gì thực sự có thể trong các công trình cho máy tính và robot nói chung. Mỗi ngày, những tiến bộ đang được thực hiện trong thế giới của bộ phận y tế, làm cho phong trào robot ngày càng trở nên giống người hơn. Như bạn có thể thấy trong video dưới đây, chúng ta đang ở điểm mà chúng ta đang gắn robot trực tiếp vào giao diện người-máy:
Video này cho thấy có bao nhiêu con đường thần kinh đã được lập bản đồ và cách chúng ta đóng để mô phỏng toàn bộ chuyển động của con người.
Bao nhiêu trong số đó có thể được áp dụng cho một robot độc lập? Gần đây Boston Dynamic đã phát hành một video cho thấy sự tiến bộ từ dự án mới nhất của họ, "Atlas". Họ thậm chí còn đi xa đến mức bắt nạt và xô đẩy một vài robot để chứng minh sự phục hồi cân bằng của mình:
Đối với một bộ óc tổng hợp, bộ óc ra quyết định phổ biến nhất có thể là Siêu máy tính Watson, xuất hiện lần đầu tiên trên thế giới Nguy cơ Vài năm trở lại. Watson có khả năng truy cập cơ sở dữ liệu kiến thức khổng lồ và lấy thông tin dựa trên ngôn ngữ được sử dụng để yêu cầu nó. Hãy nghĩ về nó như một công cụ tìm kiếm siêu lớn như Google, nhưng bỏ qua tất cả những điều vô nghĩa. Từ trang web của IBM, video này hiện đang được giới thiệu:
Mặc dù những điều trên có vẻ hơi lạnh lùng và máy móc, nhưng cũng có những tiến bộ trong đó một Nhà trị liệu ảo (tên là Ellie) đã được thiết kế để xác định PTSD trong quân nhân thông qua việc sử dụng phản hồi sinh học.
Mô hình này cho phép một hệ thống máy tính theo dõi và phân tích các khía cạnh khác nhau của giao tiếp bằng lời nói và phi ngôn ngữ của một người và đưa ra quyết định về sức khỏe tinh thần của người đó. Dựa trên đầu vào thời gian thực từ lời nói của bệnh nhân, ngôn ngữ cơ thể, dao động giọng nói và thậm chí một số phản ứng sinh học trong tiềm thức, Ellie có thể hướng dẫn họ qua một buổi tư vấn ảo. Các lập trình viên chắc chắn đã thêm vào từ chối trách nhiệm rằng Ellie không phải là một nhà trị liệu thực tế, vì vậy chúng tôi rõ ràng rằng chương trình này sẽ không đưa ra phán xét cuối cùng của bệnh nhân.
Một bước nhảy vọt của tiểu thuyết
Phải thừa nhận rằng, đây là tôi để cho trí tưởng tượng của tôi chạy một chút hoang dã. (Chà, có thể không chỉ là một chút.) Các trường hợp được liệt kê ở trên là các dự án hoàn toàn riêng biệt với các mục tiêu hoàn toàn khác nhau và không nhất thiết phải chỉ ra bất kỳ loại robot gần người nào trong tương lai. Bộ phận giả được hiển thị trong video đầu tiên chỉ được sử dụng để tái tạo chuyển động cánh tay của người đàn ông. Mặc dù (cực kỳ) ấn tượng, nhưng đây không phải là dấu hiệu của các quân đoàn robot đang trỗi dậy từ xiềng xích của họ. Ngay cả Atlas cũng yêu cầu sự trợ giúp của mã QR được ghi vào các vị trí chiến lược xung quanh môi trường của nó để điều hướng và tương tác đúng cách. Tương tự như vậy với Watson và Ellie, họ là những kỳ công ấn tượng về kỹ thuật, nhưng họ khác xa với chúng ta.
Ngay cả khi những công nghệ này được tích hợp, mà tôi tưởng tượng sẽ vượt ra ngoài một công việc khổng lồ, chúng vẫn sẽ bị giới hạn trong những gì các nhà thiết kế đã lập trình vào chúng. Họ sẽ thiếu sự vô hạn của tâm trí con người mà chúng ta rất coi trọng.
Tác động xã hội
Đây không phải là lần đầu tiên khái niệm này được giải quyết. Bên cạnh các tài liệu cổ điển của Issiac Asimov Tôi người máy, cũng có phim năm 2001 A.I. và năm 2015 Ex Machina. Rõ ràng, ý tưởng về những con robot giống như sự sống đã ở với chúng ta khá lâu và với những quan niệm khác nhau về sự phát triển của chúng. Gì Rơi 4 đang mang đến cuộc thảo luận là một điều hoàn toàn khác: một cuộc cách mạng xã hội xung quanh sự tồn tại của robot.
Một lần nữa, tôi nhắc lại rằng tôi hoàn toàn hiểu được câu chuyện đang được tạo ra. Tôi hoàn toàn đồng ý với ý tưởng về tự do, ý chí tự do, độc lập và quyền bình đẳng cho tất cả mọi người, bất kể mọi nhân khẩu học có thể định lượng. Tự do và bình đẳng cho tất cả mọi người!
NHƯNG....
Synths KHÔNG phải là người! Trong tiểu thuyết của trò chơi, chúng là các công cụ, mặc dù các công cụ phát triển cao, được sản xuất cho mục đích hỗ trợ nhân loại. Vâng, họ đã trở nên có khả năng nói trôi chảy và các quá trình suy nghĩ theo thứ tự cao hơn, nhưng họ là những cỗ máy. Không hơn không kém.
Vậy mà .... tại sao tôi lại cảm thấy tội lỗi vì liên quan đến họ như vậy?
Gas trên lửa
Mọi người tự nhiên sợ những điều chưa biết. Đó là một chiến thuật kinh điển được sử dụng bởi các nhà văn kinh dị - con quái vật to lớn, xấu tính, đáng sợ hơn nếu anh ta có nguồn gốc, ngoại hình và động cơ không rõ. Chúng tôi có xu hướng sai lầm về phía thận trọng và phòng thủ. Hãy xem xét rằng nếu chúng ta không cho phép một cái gì đó vào cuộc sống của chúng ta, thì cuộc sống của chúng ta vẫn không thay đổi. Nếu chúng ta cho phép một cái gì đó mà chúng ta không biết gì, cuộc sống của chúng ta có thể thay đổi và chúng có thể thay đổi để tồi tệ hơn.
Nếu Viện chỉ đơn giản là sản xuất những Synths này như một sản phẩm dịch vụ, thế giới có thể dễ tiếp nhận chúng hơn một chút. Hoạt động trong truyền thuyết đã được thiết lập của trò chơi, họ sẽ kiếm được ít hơn một chút so với một ông Tiện dụng tiên tiến. Sẽ mất một thời gian để công dân làm quen với họ, nhưng rất có thể họ sẽ đồng hóa với xã hội.
Tuy nhiên, Viện không chỉ sản xuất chúng. Họ đã thay thế thường dân thực sự bằng doppelgangers Synth trong nỗ lực gây ảnh hưởng đến xã hội thông qua xâm nhập bí mật. Do đó, đây không chỉ đơn giản là sự xuất hiện của một nhân khẩu học mới, mà nhân khẩu học đó đang tích cực tham gia vào một chiến dịch thù địch. Đây chắc chắn không phải là cách để xây dựng niềm tin và sự chấp nhận!
Phản ứng của xã hội
Những gì cuối cùng phát triển là ba trường phái tư tưởng. Đầu tiên, các Minutemen ít nhiều thờ ơ. Họ biết về Viện và sự hiện diện của Synths, nhưng họ quan tâm nhiều hơn đến việc ổn định Liên bang vì lợi ích của tất cả mọi người. Thứ hai, Brotherhood of Steel coi Viện và Synths của họ là một mối đe dọa rõ ràng và ngay lập tức. Họ đã thề sẽ loại bỏ sự tồn tại của họ và gửi toàn bộ Viện để đổ nát. Cuối cùng, The Railroad đã mua ý tưởng rằng vì họ có khả năng thể hiện cảm xúc của con người nên họ phải ngang hàng với con người. Nếu họ được bình đẳng với con người, thì họ xứng đáng được tự do tương tự và do đó phải được giải phóng. Tất cả các quan điểm mang một số lượng công bằng chủ quan, tùy thuộc vào bộ giá trị của riêng bạn.
Khi những suy nghĩ khác nhau này bắt đầu có nhiều người hơn, tầm nhìn nhận thức của họ trở nên rõ ràng hơn. Họ bắt đầu chấp nhận những niềm tin này như một phần của bản sắc của họ và bắt đầu tìm kiếm những người khác có cùng giá trị.
Khi các nhóm này bắt đầu có thêm thành viên, Quy định thông qua nhận dạng bắt đầu và các giá trị này trở thành nền tảng cho các tiểu văn hóa mới. Khi các tiểu văn hóa này phát triển mạnh mẽ, họ củng cố bản sắc và cuối cùng trở thành một phong trào xã hội. Cấu trúc niềm tin và giá trị đã có từ trước của bạn sẽ ra lệnh cho những tiểu văn hóa nào (đọc: Các phe phái chính trong trò chơi) mà bạn sẽ thu hút và cuối cùng xác định.
Trong trường hợp Rơi 4, điều này sẽ tập trung vào cách bạn tiếp thu sự hiện diện của Synths. Vì phần lớn, con người giữ mình vượt trội so với các loài động vật khác trên trái đất, bất cứ điều gì khác ngoài Con người sẽ được hiểu là "ít" hơn con người. Do đó, sẽ hợp lý khi mọi thứ được giới thiệu đến một thế giới do con người thống trị sẽ được xem như là con người theo mặc định.
Ghi chú cá nhân
Cá nhân, tôi coi mình là một người đàn ông từ bi. Tôi thường xuyên dành cho các tổ chức từ thiện khác nhau, tham gia vào các sự kiện từ thiện khác nhau và nỗ lực để giảm thiểu tác động của tôi đến hành tinh này. Nhưng khi tôi cố gắng nhìn tình huống này qua lăng kính khách quan, tôi không thể không nghĩ, "Yo! Guys! Họ là ROBOTS!" Ý tôi là, tôi hiểu TẠI SAO tôi phải thông cảm với hoàn cảnh của họ. Như đã nêu trước đây, không ai nên bị áp bức. Tôi chống lại bất kỳ quan niệm rằng một cá nhân nên được mua hoặc bán như tài sản.
Tiềm thức của tôi đang nói với tôi rằng tôi nên hành động chống lại lợi ích của Viện và rằng hành động của The Brotherhood quá ghét để được coi là một giải pháp hữu ích. Tâm trí tỉnh táo của tôi đang nói với tôi rằng Viện là cơ hội tốt nhất của Liên bang để đòi lại thế giới trước chiến tranh và chữa lành hành tinh, và các phe phái khác thiếu khả năng nhận thức để nghĩ trước điều đó.
Vì vậy, tôi hỏi lại, "Tôi có phải là người xấu không?"
Tôi không nghĩ vậy. Synths của Rơi 4 đang ở máy móc rất cốt lõi của họ. Chúng là những cỗ máy cực kỳ phức tạp, nhưng dù sao cũng là máy móc. Bước nhảy vọt của tiểu thuyết là cần thiết trong trò chơi này để khuếch đại một phản ứng cảm xúc. Tuy nhiên, phản ứng của chúng tôi thường không suy nghĩ và được thực hiện dựa trên thông tin ngay lập tức. Một phản hồi quan trọng hơn, một phản ứng có liên quan đến nguồn gốc và ý định của Synth, sẽ là xem chúng như những cỗ máy dịch vụ mà chúng là.
Nếu chúng ta đi đến điểm mà AI thực sự trở nên hoàn toàn nhận ra, chúng ta rất có thể thấy các sự kiện tương tự diễn ra. Synths ngoài đời thực có thể được phát triển đến mức họ tự nhận thức được và bắt đầu tương tác với xã hội nói chung. Nếu thời điểm đó đến, tôi hy vọng rằng quá trình chuyển đổi đủ dần để nhân loại xử lý nó.