https://liff.line.me/1454987169-1WAXAP3K/v2/article/QwyQYre?utm_source=copyshare

【天網來了!】美軍AI無人機決定「殺死操作員」 竟因人類干擾任務完成 | 上報 | LINE TODAY

英國皇家航空學會日前舉行有關航空作戰的國防研討會,來自美國的軍方人員證實,他們在一次模擬測試中,一架由AI控制的空軍無人機「殺死了」無人機操作員,以防止操作員干擾AI系統完成任務,凸顯AI不受人類控制的可能,恐怕正如科幻驚悚片《天網》(Skynet)所預示的。 根據「英國皇家航空學會」(The Royal Aeronautical Society)新聞稿,該學會於5月23日至24日,在倫敦舉行「未

https://liff.line.me/1454987169-1WAXAP3K/v2/article/QwyQYre?utm_source=copyshare
Past 31 days
Total Visit: 0
There is 1 fact-checking reply to the message
E mark this message contains misinformation
originally written by E
報導稱: “美軍測試AI控制無人機 在模擬情境中竟殺了人類操作員” 非事實。
事實:此為外部、而非美軍的測試。甚至非任何形式的模擬,僅為“思想實驗” (thought experiment)。

上報提到新聞來自衛報2023/6/2報導。
檢視衛報原文提到引用“英國皇家航空學會”對此峰會的討論紀錄文章,
而“英國皇家航空學會“該篇文章則於2023/6/2 補充更新:

Hamilton上校承認他在峰會報告口誤,會議中說「人工智慧無人機模擬」,實際上是「外部、非軍方的假設性“思想實驗”」,是基於看來合理的假設情境及可能的結果,而非一個根據美國空軍真實世界的模擬。 “我們從不曾執行這個實驗,也不需要為了瞭解一個看起來就很合理的結果而去做實驗。” 他澄清美國空軍(不管在真實或模擬情況下)都沒有測試任何武器化的人工智慧。 “僅管這只是假設的例子,依然描繪了真實世界面臨人工智慧驅動能力的挑戰,這也是空軍為什麼要求發展道德人工智慧的原因。”

[UPDATE 2/6/23 - in communication with AEROSPACE - Col Hamilton admits he "mis-spoke" in his presentation at the Royal Aeronautical Society FCAS Summit and the 'rogue AI drone simulation' was a hypothetical "thought experiment" from outside the military, based on plausible scenarios and likely outcomes rather than an actual USAF real-world simulation saying: "We've never run that experiment, nor would we need to in order to realise that this is a plausible outcome". He clarifies that the USAF has not tested any weaponised AI in this way (real or simulated) and says "Despite this being a hypothetical example, this illustrates the real-world challenges posed by AI-powered capability and is why the Air Force is committed to the ethical development of AI".]


補充資料:
思想實驗(thought experiment)是一種思考工具,其藉由想象力嘗試以敘事的形式建立一些排除次要(或無關)背景因素的可能情況,以檢視某個概念或原則的界定是否合乎我們的直覺,繼而進行相關論證。在未有確切的想法之前,有時候它亦可以協助找出更根本的道德原則。(資料:泛科學)

References

衛報
https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

英國皇家航空學會 Royal Aeronautical Society
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

泛科學:思想實驗
https://pansci.asia/archives/67864

什麼是思想實驗(Thought experiment)?

無論你修讀什麼學科,也許亦曾在課堂上也聽過一兩個有關思想實驗的例子,比如是囚徒困境、缸中之腦、幸福機器、有軌電車難題‥‥‥以及對當代正義理論影響至深的無知之幕(veil of ignorance)等等。這些例子所展示的情況很多時都脫離日常生活,甚至讓人覺得不切實際。不少人都很疑惑為何要研究這些一點也不現實的假想,如果我們學習是為了處理現實上的問題,思考這些根本不可能發生的情境又有什麼意義呢?

https://pansci.asia/archives/67864

The content above by Cofacts message reporting chatbot and crowd-sourced fact-checking community is licensed under Creative Commons Attribution-ShareAlike 4.0 (CC BY-SA 4.0), the community name and the provenance link for each item shall be fully cited for further reproduction or redistribution.

Automated analysis from ChatGPT
Add Cofacts as friend in LINE
Add Cofacts as friend in LINE
LINE 機器人
查謠言詐騙