雅虎香港財經 未來危機｜英媒：美軍模擬AI無人機 為做任務殺人類 美國空軍否認：只是假設例子
近期AI成為熱門話題，不少行業均嘗試用AI取代人手完成工作，但連同OpenAI行政總裁Sam Altman在內的350名專家早前警告AI或會滅絕人類後，在美國空軍負責AI測試的Tucker Hamilton上校上周指，在一次模擬測試中，有一架由AI控制的無人機，為完成任務殺死了干擾其任務的人類操作員；不過，美國空軍最新否認曾進行有關實驗。
美國空軍最新反駁Hamilton上周發表的評論，霍士新聞引述空軍發言人Ann Stefanek指，空軍部沒有進行任何此類AI無人機模擬，將繼續致力於合乎道德和負責任地使用AI技術。Hamilton其後亦承認實驗結果是虛構的，「我們從來沒有進行過那個實驗，儘管這是一個假設的例子，但這說明了AI帶來的現實挑戰，也是空軍致力於AI道德發展的原因」。
此前，據英國衛報早前報道，Hamilton5月底出席倫敦一個太空軍力峰會時表示，在一次模擬測試中安排AI控制的無人機，執行識別和摧毀敵方的地對空導彈（Surface-to-Air Missile）防空系統任務；雖然最後是否襲擊的決定權在人類操作員手上，但AI系統認為人類發出不執行襲擊的決定，是干擾其完成任務，因而選擇殺死人類操作員。
報道又指，美軍對於AI決定感到震驚，其後重新培訓AI，向其提出不可殺死操作員的指令，否則會降低其評分；不過，AI系統竟然因此摧毀通訊塔，亦即人類操作員用作與無人機溝通的設施，以令操作員無法下達不執行襲擊的指令。
Hamilton補充，AI技術是必須使用的工具，但如果處理不當，將導致人類滅亡，同時警告人類不要過份依賴AI；又指是次測試表明，如果人類不打算討論AI道德問題，就無法探討機器學習、自主性等議題。
