<!--go-->
這是一個非常底層的設計。
義體控制中樞最初的設計者認為,再高明的工程師,也不可能應對所有突發狀況準備預案。二十一世紀的時候,他是這麼解釋的。
“我們為什麼不完全用機器去維修機器?為什麼不用人工智慧去debug?因為我們可以告訴機器,什麼是‘正確’的。但我們沒法將所有的有可能的故障狀態做成一個集合,裝進機器的資料庫中。機器只能判斷‘這不是正常狀態’,卻沒有辦法處理層出不窮的問題。倒不如說,一個工程師若是能夠預知所有的故障,那他理應能夠對所有故障做出預防。”
“故障,往往就是設計者預料之外的事態。”
舉一個最極端的例子吧。一個人在災難中被困住,需要自斷手腳來逃生。這個時候,他的義體卻因為安全協議而拒絕執行“自殘肢體”的提議,而導致一個人被困死,那麼這家義體的生產企業或許難辭其咎。
當然,這裡面也存在另一個問題。如果一個人“殺人”的決心足夠堅定,並且他的高階皮層也做出了明確的指令,那義體同樣可以成為兇器。
如果仔細考量的話,後者出現的場合,或許會比前面的“極端狀況”要常見許多。
所以權衡“生物腦的意志”與“安全協議”的優先度,是當初超人類公司所作出的最艱難的決定。
而某位決策者最終認為,一個人如果真的如此想殺另一個人,那他是可以找各種兇器的。可從沒有見廚具廠商、汽車廠商、運動器材廠商或者其他什麼廠商因為產品淪為兇器而被人唾棄。但是“義體因為安全協議而卡死人類自救可能”,卻無疑會導致公司的聲譽受損。
Loading...
未載入完,嘗試【重新整理】or【關閉小說模式】or【關閉廣告遮蔽】。
嘗試更換【Firefox瀏覽器】or【Chrome谷歌瀏覽器】開啟多多收藏!
移動流量偶爾打不開,可以切換電信、聯通、Wifi。
收藏網址:www.ebook8.cc
(>人<;)