肥腸真香 作品

第140章 現在,是我們的時代!

 機器得承認,人類才是需求的主導。

 第三條原則是根據人類行為給機器設定偏好並提供依據。

 這麼設定是因為機器往往不清楚如何具體實現人類的價值。

 但這不要緊,人類可以協助機器實現。所以要加強人機互動。

 因為郝淮構想中的機器人,目的不僅僅是為了滿足某個人或用戶的需求,而是要遵循大家公認的道德價值觀。

 比如,人可能會犯錯,做出違背道德的事。但郝淮不想讓機器人模仿這些行為。

 相反,他希望機器能嘗試理解人類行為的動機,理解普遍的道德觀念,並在適當時候阻止人類做不應該做的事。

 這三條看似寬鬆實則嚴格的法則,不僅能限制機器人自我發展的潛力,還在某些適度寬鬆的地方,留給了機器人自我邏輯完善的餘地。

 防止因某些設定過於極端的法則導致機器人邏輯矛盾,進而引發故障。

 這三個法則將直接焊死在核心代碼裡,永不可改。

 “法則之後,就是防火牆和模塊接入……”

 “如果能確保法則不出問題,接下來就要保證病毒進不來。”

 郝淮捏了捏鼻子,眼神也銳利了幾分。

 在那些機械文明中,有的因編程時的漏洞導致人工智能失控,有的則是人為因素。

 因此,郝淮在吸收大量資料後,決定將核心代碼純淨化!

 簡單講,就是核心代碼會被防火牆嚴密包裹。

 日常運行通過複製的鏡像系統進行。

 而且,核心代碼不接納任何第三方程序。

 這就是防火牆和模塊接入的含義。

 用防火牆保護核心代碼,再通過鏡像系統與所有第三方程序連接。

 這樣一來,所有外部程序都將以模塊化形式存在。

 一旦發現病毒,就能迅速隔離帶毒模塊。

 就算病毒侵入系統,也能直接銷燬鏡像系統,然後重新複製一份。

 平時,核心系統完全不參與工作,

 也與所有模塊完全隔離。

 只有當鏡像系統出問題時,才會人工複製一份新的。

 只要核心系統不受病毒感染,就算病毒再厲害,也無法對人工智能構成威脅。