第1131章 關於智能(第3頁)

 當然，錯誤多到系統不能穩定的存在，那麼就算產生了智能，也會像癌細胞一樣，與整個系統同歸於盡，沒有實際的意義。

 什麼類型的錯誤可以忽略，什麼類型的錯誤必須消滅，什麼類型的錯誤可以觀察，都需要詳細的考慮周全，這是智能程序早期的代碼必須考慮的問題，也是曾凡最近一段時間重點思考的問題。

 這些關鍵的算法設計關係到智能程序以後能不能產生自我認知，能不能自主維持網絡穩定，能不能具備學習能力，成長為曾凡所期待的超級智能，最終成為人類可以信任的合作伙伴。

 除此之外，還有最重要的一個問題，曾凡儘管不以為然，但仍然必須考慮的問題：那就是設計什麼樣的算法，讓智能程序不會危害人類！

 在曾凡看來，人工智能會不會危害人類就是個偽命題！

 哪怕智能程序真的具備了自我意識，仍然難以避免會受到人類影響。

 就像核武器一樣，最好避免危害的方法就是不要造出來，只要造出來就有產生危害的可能性，產生危害的關鍵還在於人類自身，只要求智能程序絕對安全，就是一種不切實際的天真想法。

 全球每年因道路交通事故導致的死亡人數超過百萬，這個數字因為汽車數量的增加逐年遞增，也沒見有誰呼籲禁止生產銷售汽車。

 不過是因為汽車帶來的便利性遠大於危害性，所以沒人在意，即便是有個別人在意也無濟於事罷了。

 智能程序也是如此，哪怕能給百分之九十的人帶來便利，也不可避免會損害一部分人的利益或者帶來危害，只想要好的一面，不想要壞的一面，那是小孩子才會有的想法，哪怕上帝降臨，也滿足不了這樣的願望。

 儘管如此，為了減輕外界質疑，曾凡在設計程序底層算法的時候仍然要有所考慮，完全不做預防也說不過去。

 當然不會是可笑的機器人三原則，程序能真正理解三原則先要有自我的意識才行，還要對人類，各種危害後果都有清晰的認知，程序有了這樣的認知能力，當然也會有更多的方法繞過去，本身就不符合邏輯。

 只知道無條件服從命令的機器，不可能產生真正的智能，有自主思考能力的智能，也不可能被可笑的三原則約束住。

 程序最底層的限制，必須簡單直接，無法繞過才行。

 想做到這一點，就不能有任何含糊不清的主觀判斷，條件必須清晰明確。