人工智慧的危險在於我們給它以人的待遇——對電影《機械姬》的一點認識
本片明顯具有警示意義，警示我們人類不要聰明反被聰明誤，不要被自己創造的工具所奴役和傷害。人工智慧發展的終極目標是怎樣的，恐怕專家也說不清楚，發展到像本片中的機械姬那樣，有了人類的自我意識，應當是一個不成問題的階段性目標，但賦予了機械以人的意識是否一定要給予它以人的待遇，卻是個問題。電影在這個問題上是有啟示的。作為人工智慧實驗的主持者納森（Nathan）並不想給予它們以「人」的待遇，結果招致怨恨被殺；而作為實驗參與者的嘉立（Caleb）明顯把機械姬當作一個自然人來看待，甚至被該姬所吸引，結果導致自己被鎖實驗室。當然，前者的危險是由後者所引起的。然而，電影故事雖講完了，但我們仍不知道到底是前者的危險大還是後者的危險大，是要給機械姬以人的待遇還是不給，無論是給還是不給，理由是什麼？
這涉及一個重要倫理問題，機械應不應該享受和人一樣的待遇？有人可能會說，一般情況下，機械是人的工具，不可能享受人一樣的待遇，但作為人工智慧的產物機械姬具有了和人一樣的自我意識，就應該給予人一樣的待遇，因為有自我意識就意味著（1）她具有和人一樣的靈魂；（2）她具有了人性。「靈魂說」其實並不適用於人工智能，因為任何人工智慧產品不可能具有和人一樣的肉體，而靈魂是歇息於肉體的；如果我們承認人性即人的需要，那麼，有了人的意識的機械姬的確可以具有和人一樣的需要，比如本片中的機械姬艾娃（Ava）需要的生存權和自由。但人首先是動物，動物性的需要是一種基本的人性需要，比如吃喝拉撒睡，而人性的其他需要在一定程度上都是以此為基礎或為此而服務的，人工智慧產品顯然並無這種需求，如果因為自我意識導致它們的平權要求，即要求和人類享有同樣的權利，那也是一種偽權利，因為它不是以基本的人性需要作基礎。
無論是靈魂說還是人性說，關鍵還在於我們如何看待「人」，即使人工智慧產品具備了人的意識，也不意味著它們的人性需求是合理的，或者說要求人類給予它們人的待遇就具有正當性。堅持這個原則，人工智慧無論如何發展，它都只能處於工具的地位，這樣，危險也就不會產生。事實上，危險的產生或者說傷害的產生均來自人的自作多情。以前有一部電影《她》也可作為例證。就本片而言，嘉立是一個不理性，有道德良知但易於被誘惑的人。納森實驗只想測試艾娃的自我意識，但沒想讓嘉立太過沉浸其中，所以對艾娃沒有包裹皮囊。然而，嘉立還是被她所吸引，完全把她當作一個人，甚至不惜篡改程序命令讓她逃脫，嘉立對她付出的是真情，而得到的卻是假意。艾娃成功地利用了她的自我意識、想像力、手段、女性魅力和同情心，她的目的就是逃脫人類的控制；而嘉立的目的可是不僅如此。當人機交往，人和機器的付出和得到不能處於對等地位時，危險就會產生，而受傷的肯定是人。因為人受各種各樣規則的約束，而機械不受；人永遠都有局限性和弱點，而機械可以沒有，它可以被設計得比人更強大。如果機械姬的自我意識完全以自我為中心，那麼人機交往的過程中，輸的永遠是人。這也是我們不能給予機械以人的待遇的重要原因。
正如人類的成長一樣，自我意識的形成僅僅是一個人成長的第一步。走出的機械姬能否和人類和平共處，能否與人類正常交往，故事還可以接著寫下。但納森如果真死了，這個實驗效果其實無人能評價了，人工智慧的實驗也就無法繼續了。如果納森也只是一個更像人一樣的機器人，它完全受到幕後真人納森的操作，那麼，接下來的故事應當很精彩。另外，從納森角度而言，似乎《機械姬》還可以寫前傳，因為從本片中的納森的表現看，他天天喝得醉生夢死，是不是可以推測他有過感情創傷？他和另一版本的機械姬交往過，他也把機械當人看待了，結果受傷了，不敢再讓自己來測試了。這種推測是因為我們不理解，在本片中，為什麼要讓納森這樣地表現，如果為了迷惑嘉立，沒必要天天喝醉呀；如果僅為了迷惑，他就不會讓嘉立篡改程序命令導致最後危險產生呀，說明他是真喝醉了，原因何在？另外，在納森和機械姬曾單獨相處一室時，艾娃告訴納森：「創造一個恨你的東西，是不是很奇怪。」納森創造了「恨」，為什麼不創造「愛」呢？這也讓人納悶，必須有前傳才能完整交待。如果前傳是關於「愛」的，本片是「恨」版，那麼接下來就應當是「情」和「仇」了，呵呵，好像還挺有道理吧！
本片明顯具有警示意義，警示我們人類不要聰明反被聰明誤，不要被自己創造的工具所奴役和傷害。人工智慧發展的終極目標是怎樣的，恐怕專家也說不清楚，發展到像本片中的機械姬那樣，有了人類的自我意識，應當是一個不成問題的階段性目標，但賦予了機械以人的意識是否一定要給予它以人的待遇，卻是個問題。電影在這個問題上是有啟示的。作為人工智慧實驗的主持者納森（Nathan）並不想給予它們以「人」的待遇，結果招致怨恨被殺；而作為實驗參與者的嘉立（Caleb）明顯把機械姬當作一個自然人來看待，甚至被該姬所吸引，結果導致自己被鎖實驗室。當然，前者的危險是由後者所引起的。然而，電影故事雖講完了，但我們仍不知道到底是前者的危險大還是後者的危險大，是要給機械姬以人的待遇還是不給，無論是給還是不給，理由是什麼？
這涉及一個重要倫理問題，機械應不應該享受和人一樣的待遇？有人可能會說，一般情況下，機械是人的工具，不可能享受人一樣的待遇，但作為人工智慧的產物機械姬具有了和人一樣的自我意識，就應該給予人一樣的待遇，因為有自我意識就意味著（1）她具有和人一樣的靈魂；（2）她具有了人性。「靈魂說」其實並不適用於人工智能，因為任何人工智慧產品不可能具有和人一樣的肉體，而靈魂是歇息於肉體的；如果我們承認人性即人的需要，那麼，有了人的意識的機械姬的確可以具有和人一樣的需要，比如本片中的機械姬艾娃（Ava）需要的生存權和自由。但人首先是動物，動物性的需要是一種基本的人性需要，比如吃喝拉撒睡，而人性的其他需要在一定程度上都是以此為基礎或為此而服務的，人工智慧產品顯然並無這種需求，如果因為自我意識導致它們的平權要求，即要求和人類享有同樣的權利，那也是一種偽權利，因為它不是以基本的人性需要作基礎。
無論是靈魂說還是人性說，關鍵還在於我們如何看待「人」，即使人工智慧產品具備了人的意識，也不意味著它們的人性需求是合理的，或者說要求人類給予它們人的待遇就具有正當性。堅持這個原則，人工智慧無論如何發展，它都只能處於工具的地位，這樣，危險也就不會產生。事實上，危險的產生或者說傷害的產生均來自人的自作多情。以前有一部電影《她》也可作為例證。就本片而言，嘉立是一個不理性，有道德良知但易於被誘惑的人。納森實驗只想測試艾娃的自我意識，但沒想讓嘉立太過沉浸其中，所以對艾娃沒有包裹皮囊。然而，嘉立還是被她所吸引，完全把她當作一個人，甚至不惜篡改程序命令讓她逃脫，嘉立對她付出的是真情，而得到的卻是假意。艾娃成功地利用了她的自我意識、想像力、手段、女性魅力和同情心，她的目的就是逃脫人類的控制；而嘉立的目的可是不僅如此。當人機交往，人和機器的付出和得到不能處於對等地位時，危險就會產生，而受傷的肯定是人。因為人受各種各樣規則的約束，而機械不受；人永遠都有局限性和弱點，而機械可以沒有，它可以被設計得比人更強大。如果機械姬的自我意識完全以自我為中心，那麼人機交往的過程中，輸的永遠是人。這也是我們不能給予機械以人的待遇的重要原因。
正如人類的成長一樣，自我意識的形成僅僅是一個人成長的第一步。走出的機械姬能否和人類和平共處，能否與人類正常交往，故事還可以接著寫下。但納森如果真死了，這個實驗效果其實無人能評價了，人工智慧的實驗也就無法繼續了。如果納森也只是一個更像人一樣的機器人，它完全受到幕後真人納森的操作，那麼，接下來的故事應當很精彩。另外，從納森角度而言，似乎《機械姬》還可以寫前傳，因為從本片中的納森的表現看，他天天喝得醉生夢死，是不是可以推測他有過感情創傷？他和另一版本的機械姬交往過，他也把機械當人看待了，結果受傷了，不敢再讓自己來測試了。這種推測是因為我們不理解，在本片中，為什麼要讓納森這樣地表現，如果為了迷惑嘉立，沒必要天天喝醉呀；如果僅為了迷惑，他就不會讓嘉立篡改程序命令導致最後危險產生呀，說明他是真喝醉了，原因何在？另外，在納森和機械姬曾單獨相處一室時，艾娃告訴納森：「創造一個恨你的東西，是不是很奇怪。」納森創造了「恨」，為什麼不創造「愛」呢？這也讓人納悶，必須有前傳才能完整交待。如果前傳是關於「愛」的，本片是「恨」版，那麼接下來就應當是「情」和「仇」了，呵呵，好像還挺有道理吧！
收藏