第139章 人類才是需求的主導(第3頁)

 依靠機械體強大的繁殖力，瘋狂燒殺搶掠。

 不知有多少文明毀在了這一步。

 當然，也有一部分機械文明完成了自我升級，徹底彌補了自身缺陷。

 進而進化成智械生命，擁有了完整的情感和獨立的科技體系。

 這些智械生命，其實已不能算是機器人，它們有情感，會痛，會笑，會悲傷。

 它們已經成為生命！

 而且一旦達到這一步，機械體的優勢會被無限放大。

 雖然能進化到這一步的機械文明很少，但每一個都強大無比。

 當然，現在想智械生命的事兒還早得很。

 郝淮當前最緊要的事兒，就是確保自己編寫的智能程序，別鬧出變異或漏洞來！

 不然，對整個地球來說，那可就是個大麻煩。

 研究室內。

 郝淮手指飛快地敲擊著鍵盤。

 一行行代碼在編輯器裡嗖嗖閃過。

 “呼……”

 “三層防護，防火牆，模塊嵌入，終極代碼……”

 “應該差不多夠用了……”

 郝淮邊嘀咕邊編寫著程序。

 看了那麼多資料文獻，

 對於人工智能，他也算是有了套比較成熟的見解。

 說白了，就是取百家之長。

 高級文明的編程技術用不上，那就得把低級文明裡那些成功的理念整合起來。

 通過學習他們的編程技巧和思路，來增強人工智能的安全性。

 琢磨了好幾天，

 郝淮最終決定給人工智能設下四道防線。

 首先是三層防護。

 直接在核心繫統裡把三個法則永久鎖定。

 第一條是利他主義！意味著機器的唯一目標是最大限度地實現人類的目標和價值。

 第二條是謙卑原則，即人工智能應對人類保持敬畏。

 按照這條原則，人工智能要承認自己並非全知全能。

 也就是說，機器要明白要最大化人類的價值，但同時也要清楚自己並不能完全理解價值的意義。

 因此，為了對人類有用，它得通過觀察人類的選擇，根據人類提供的信息去學習、掌握人類的需求。