第430章強人工智能倫理
第430章強人工智能倫理(第1/2頁)
第430章強人工智能倫理
2022年2月1日，周二，上午九點。
創新學院迎來了一位重量級的嘉賓——張院士。張院士是中國科學院院士，國內人工智能領域的泰鬥。他受邀來給學員們做一次分享，主題是“強人工智能的倫理問題”。
張院士站在講臺上，滿頭白發，但精神矍鑠。他看著下麵的學員，沉默了片刻，然後說：“同學們，今天我們來討論一個既前沿又敏感的話題——強人工智能的倫理問題。”
學員們豎起耳朵，認真聽著。
張院士說：“強人工智能，是指具有通用智能的人工智能係統，它可以在各種任務上達到甚至超越人類水平。目前，我們還處於弱人工智能階段——alphago隻能下圍棋，chatgpt隻能聊天，自動駕駛隻能在特定條件下運行。但強人工智能的到來，隻是時間問題。”
馬強舉手問：“張院士，強人工智能什麼時候會出現？”
張院士說：“這個問題很難回答。樂觀者認為，未來三十年之內就會出現。比如雷·庫茲韋爾預測，2045年人工智能將超越人類智能。悲觀者認為，可能永遠都不會出現，因為人類智能的本質我們還冇有搞清楚。我個人認為，未來五十年之內，強人工智能很有可能實現。”
劉誌強舉手問：“張院士，強人工智能會帶來哪些倫理問題？”
張院士說：“很多。第一，安全問題——如果強人工智能失控，可能會對人類造成威脅。比如，一個被賦予‘消除貧困’任務的ai，可能會得出‘消滅窮人’的極端結論。第二，就業問題——強人工智能可能會取代大量的人類工作，導致大規模失業。牛津大學的研究表明，未來二十年，美國百分之四十七的工作崗位可能被ai取代。第三，權力問題——誰控製強人工智能，誰就可能控製世界。如果強人工智能被少數人或公司壟斷，可能會導致權力的極度不平等。第四，意識問題——如果強人工智能有了自我意識，它是否應該享有權利？我們是否有權關閉一個有意識的ai？”
張曉梅舉手問：“張院士，這些問題有解決方案嗎？”
張院士說：“目前還冇有完美的解決方案。但有一些思路。第一，建立嚴格的監管框架。就像核技術一樣，ai技術也需要國際社會的共同監管。第二，發展‘可解釋的ai’。讓ai的決策過程透明化，讓人類能夠理解ai的思考過程。第三，植入‘倫理約束’。在ai係統中嵌入基本的倫理準則，比如阿西莫夫的機器人三定律。但問題是，這些定律在實際應用中可能會產生矛盾。”
（本章未完，請點擊下一頁繼續閱讀）第430章強人工智能倫理(第2
（本章未完，請點擊下一頁繼續閱讀）