第140章 現在，是我們的時代！

 機器得承認，人類才是需求的主導。

 第三條原則是根據人類行為給機器設定偏好並提供依據。

 這麼設定是因為機器往往不清楚如何具體實現人類的價值。

 但這不要緊，人類可以協助機器實現。所以要加強人機互動。

 因為郝淮構想中的機器人，目的不僅僅是為了滿足某個人或用戶的需求，而是要遵循大家公認的道德價值觀。

 比如，人可能會犯錯，做出違背道德的事。但郝淮不想讓機器人模仿這些行為。

 相反，他希望機器能嘗試理解人類行為的動機，理解普遍的道德觀念，並在適當時候阻止人類做不應該做的事。

 這三條看似寬鬆實則嚴格的法則，不僅能限制機器人自我發展的潛力，還在某些適度寬鬆的地方，留給了機器人自我邏輯完善的餘地。

 防止因某些設定過於極端的法則導致機器人邏輯矛盾，進而引發故障。

 這三個法則將直接焊死在核心代碼裡，永不可改。

 “法則之後，就是防火牆和模塊接入……”

 “如果能確保法則不出問題，接下來就要保證病毒進不來。”

 郝淮捏了捏鼻子，眼神也銳利了幾分。

 在那些機械文明中，有的因編程時的漏洞導致人工智能失控，有的則是人為因素。

 因此，郝淮在吸收大量資料後，決定將核心代碼純淨化！

 簡單講，就是核心代碼會被防火牆嚴密包裹。

 日常運行通過複製的鏡像系統進行。

 而且，核心代碼不接納任何第三方程序。

 這就是防火牆和模塊接入的含義。

 用防火牆保護核心代碼，再通過鏡像系統與所有第三方程序連接。

 這樣一來，所有外部程序都將以模塊化形式存在。

 一旦發現病毒，就能迅速隔離帶毒模塊。

 就算病毒侵入系統，也能直接銷燬鏡像系統，然後重新複製一份。

 平時，核心系統完全不參與工作，

 也與所有模塊完全隔離。

 只有當鏡像系統出問題時，才會人工複製一份新的。

 只要核心系統不受病毒感染，就算病毒再厲害，也無法對人工智能構成威脅。