<rt id="m4md3"></rt>
  • <bdo id="m4md3"><meter id="m4md3"></meter></bdo>
  • <label id="m4md3"></label>
      <center id="m4md3"><optgroup id="m4md3"></optgroup></center>
      產品分類

      當前位置: 首頁 > 工業控制產品 > 自動化控制 > 人工智能

      類型分類:
      科普知識
      數據分類:
      人工智能

      研究人員嘗試利用新算法 讓人工智能更安全

      發布日期:2022-10-09 點擊率:46


        在經歷了幾十年起起伏伏的發展后,人工智能終于開始為公司企業帶來實實在在的價值了。近日,麥肯錫發布了報告指出,新進入人工智能領域的公司將學習到早期進入這一領域的巨頭在投資以及創造價值上面的豐富經驗。新技術開啟新應用,但也會帶來新的風險。應用高新技術,必須注意新技術帶來的危險。因此,最近OpenAI和DeepMind的研究人員希望利用一種能從人工反饋中學習的新算法,使人工智能更安全。

        這兩家公司都是強化學習領域的專家。強化學習是機器學習的一個分支,即在給定的環境下,如果人工智能系統做出正確行為,那么就給予獎勵。目標通過算法來制定,而人工智能系統通過編程去尋求獎勵,例如在游戲中贏得高分。

        在教會機器玩游戲,或是通過模擬來駕駛無人車的場景下,強化學習非常成功。這種方法在探索人工智能系統的行為時非常強大,但如果編死的算法出現錯誤,或是產生不必要的副作用,那么也可能非常危險。

        發表至arXiv的一篇論文描述了一種新方法,有助于預防此類問題。首先,人工智能系統在環境中產生隨機行為,預期的獎勵基于人工判斷,而這將被反饋至強化學習算法,以改變人工智能系統的行為。

        研究人員將這種技術應用至一項訓練任務。關于人工智能行為的兩段視頻被發給人工,而人工將判斷哪種行為干得更好。

        通過這種方式,人工智能系統可以逐漸學會如何追逐獎勵,通過更好地解釋人工的評判來學會達成目標。這樣的強化學習算法會調整自身的行為,并不斷尋求人工的認同。

        在這項任務中,人工評判者只花了不到1小時時間。然而對于更復雜的任務,例如做飯或發送電子郵件,那么還需要更多的人工反饋。這樣做可能是不經濟的。

        論文的共同作者、OpenAI研究員達里奧.阿莫德伊(DarioAmodei)表示,減少對人工智能系統的監督是未來可能專注的一個研究領域。

        他表示:“從廣義上說,半監督學習技術在這里可能會有幫助。另一種可能的選擇是提供信息密集的反饋形式,例如語言,或者讓人工指向屏幕的特定部分,以代表良好行為。信息更密集的反饋或許將幫助人工減少與算法溝通的時間。”

        研究員在其他模擬機器人和Atari游戲中測試了他們的算法。結果表明,機器某些時候可能取得超人的成績。不過,這在很大程度上依賴人工的評判能力。

        OpenAI在博客中表示:“關于什么行為是正確的,我們算法的表現與人工評判者的直覺一樣好。但如果人工對于任務沒有很好的把握,那么可能就無法提供較多有幫助的反饋?!?/p>

        阿莫德伊表示,目前的結果僅限于非常簡單的環境。不過,對于那些獎勵難以量化的任務,例如駕駛、組織活動、寫作,以及提供技術支持,這可能會很有幫助。


      下一篇: PLC、DCS、FCS三大控

      上一篇: 索爾維全系列Solef?PV

      推薦產品

      更多
      主站蜘蛛池模板: 久久综合亚洲色一区二区三区| 国产精品亚洲综合久久 | 色欲色香天天天综合网WWW| 亚洲国产综合精品一区在线播放| 色婷婷99综合久久久精品 | 狠狠色丁香久久婷婷综合图片 | 亚洲综合伊人制服丝袜美腿| 伊人久久大香线蕉综合热线| 国产亚洲精品第一综合| 一本久久知道综合久久| 国产成人综合一区精品| 狠狠色综合网站久久久久久久| 亚洲国产精品综合久久网各| 色偷偷狠狠色综合网| 五月天婷婷综合网| 久久午夜综合久久| 综合欧美五月丁香五月| 久久一本色系列综合色| 丁香亚洲综合五月天婷婷| 亚洲综合偷自成人网第页色| 伊人婷婷色香五月综合缴激情| 亚州AV综合色区无码一区| 久久综合88熟人妻| 亚洲五月激情综合图片区| 综合国产精品第一页| 卡通动漫第一页综合专区| 国产综合色香蕉精品五月婷| 亚洲综合久久成人69| 亚洲综合区图片小说区| 亚洲AV综合色区无码一二三区| 一本大道久久a久久精品综合| 亚洲中文字幕无码久久综合网| 九月婷婷综合婷婷| 色欲人妻综合AAAAA网| 亚洲综合在线视频| 中文字幕亚洲综合久久综合| 色偷偷尼玛图亚洲综合| 国产成人综合久久精品下载| 一本久久a久久精品综合香蕉| 亚洲综合色在线观看亚洲| 亚洲综合亚洲综合网成人|