殺手機器  

作者認為,為無人飛機和機器人加入情緒覺察,可以降低平民傷亡,或是避免在戰鬥中遭到濫用,但是許多時候具備情緒的自主武器說不定一樣糟糕。(Alex Evers@Wikipedia / CC BY 2.0)

殺手機器人的潛在威脅

2018-01-19 風傳媒

理查.楊克(Richard Yonck)

*作者為未來學家、作家暨演講者,專精於發展中的趨勢與科技,為多家報章雜誌和網站撰寫文章和封面故事。本文選自作者著作《情感運算革命》(商周出版)

近幾年來,軍方一直在實驗許多科技,這些技術或許能從提升情緒覺察中獲益,尤以無人飛機與機器人為最。只是無人飛機或無人飛行載具(unmanned aerial vehicle, UAV)的概念已經存在超過一個世紀了,卻直到過去二十年才開始廣泛用於戰爭中。在此同時,一系列的機器人和其他自主武器系統(autonomous weapons systems, AWS)也開發用於各種軍事行動。這種逐漸轉向仰賴自主或半自主工具與武器的變化,引來最終將發展「殺手機器人」的疑慮。

儘管還需時數年,但是對這種潛在威脅的警覺,足以讓軍方內部對可能的利益與風險持續對話,同時也有成熟的公民運動尋求制定國際法以禁止這類武器。國際機器人武器控制委員會(International Committee for Robot Arms Control, ICRAC)就是其中之一,該組織認為我們只有稍縱即逝的機會能遏制這個威脅,否則將悔之晚矣。國際機器人武器控制委員會是一個稱為「阻止殺手機器人運動」(Campaign to Stop Killer Robots)的非政府組織之非正式成員,企圖預先禁止全世界的致命性自主武器。
這類武器的主要疑慮之一,是缺乏同理心和情緒智慧。諾埃爾‧夏基(Noel Sharkey)是英國雪菲爾大學(University of Sheffield)的人工智慧與機器人學教授,同時也是國際機器人武器控制委員會的創辦人之一。夏基指出:

這不只是視覺辨別的問題,還要看涉及的推論。我有一個軍方提供的絕佳例子:幾個海軍陸戰隊隊員將一些叛亂分子圍堵在巷子裡,準備殺了他們。正當海軍陸戰隊隊員舉槍正要射擊時,突然注意到叛亂分子抬著一具棺材,於是放下槍,脫下頭盔,並且恭敬地讓對方通過。因為不可以殺害葬禮中的人,如果他們在這時候殺死叛亂分子,就真的會有麻煩了。但是,換成機器人的話,大概就會直接開槍射殺。也許你能將機器人的程式設定為在這些情況下不能開槍,但是如此一來,所有叛亂分子到哪裡都會帶著棺材了。

這又回到易壞軟體的問題。如果必須將某種情況的條件反應硬寫進程式中,但這種情況又不是完全可以預期的,那麼長期下來是行不通的。最後不是會發生預期範圍以外的狀況,就是會有類似人的因素企圖利用這樣的程式設計。情緒智慧和為周遭不同元素及情況賦予價值的能力,對於解決這個問題大有裨益,特別是當如果一個智慧體不但能確立自身的價值,還能為所有參與的各方賦予價值時。換句話說,該智慧體是否展現心智理論,並表現同理心。

情緒的相似物有可能是未來我們接受自主殺戮機器的關鍵嗎?有可能,只是若有可能,但願不會太久。對於自己沒有真正控制權的殺戮決定,指揮官是不會願意負責的。就算人工情緒智慧可能十分逼真,但是它的反應與思考過程能有多「人性」,這種不確定性在人工智慧達到人類水準後仍將久久不去。另一方面,可能還要數十年,機器才能達到近乎逼真、即時的同理心。

欠缺同理心的自主殺戮機器夢魘

自主武器系統的目的是要獨立於人類操作者之外。這種自主可能只出現幾秒或幾分鐘,但是也可能長達數個月或數年。理論上,可能在衝突結束許久後仍在運轉。美國國防部將自主武器系統定義為「一種武器系統,一旦啟動,可以選擇並鎖定目標,不受人類操作者進一步的干預」。如果你認為不會有人故意發射長期自主武器系統,請記住,全球估計還有一億一千萬顆具有殺傷性的地雷埋在地底。雖然就定義而言,這些殺戮機器並非真的自主,但是確實缺乏同理心,也沒有能力關心殺戮對象。它們可以持續運作數十年,在確定停火之後很久仍會造成死傷。將這個意象延伸到可以追捕、挑選並攻擊曾為敵人,但是現在可能已經握手言和的人,就真的是要設法解決的惡夢了。

二○一五年,宇宙學家馬克斯‧泰格馬克(Max Tegmark)在國際人工智慧聯合會議(Inter-national Joint Conference on Artificial Intelligence)上發表一封公開信,呼籲全世界禁止自主武器,而這封信已經有來自全世界超過兩千五百名人工智慧與機器人學研究人員簽署。由於挑選攻擊目標及追蹤的能力是由人工智慧驅動,其智慧在接下來幾年也將持續改良,這些科學家擔心軍備競賽將會導致大規模毀滅性武器變得平價且容易取得。儘管有些國家或許會選擇不用,但是這些武器勢必會在黑市出現,對恐怖分子和獨裁者極具誘惑。

正如公開信的作者所言:「自主武器最適合諸如暗殺、顛覆國家、鎮壓群眾,以及選擇性殺害特定族裔等任務。」公開信的作者在後續的一篇文章中指出,仰賴在這些武器的程式裡設定道德功能,是假定這樣會符合所有人的利益,但是顯然即使有國際法反制,這種功能也會被敵手關閉。

結合情緒和同理心的機器人與人工智慧,情況大概也會一樣。有鑑於幾乎所有裝置或系統都能被駭客攻擊和進行逆向工程,我們應該預料得到,至少會有部分人類參與者涉及其中的最壞情況。

雖然有些人或許認為,為無人飛機和機器人注入情緒覺察可以降低平民傷亡,或是避免在戰鬥中遭到濫用,但是許多時候具備情緒的自主武器說不定一樣糟糕。一個具有先進的情緒智慧,外表還像是親戚、朋友,甚至母親或小孩的人形機器人,輕易就能滲透到安全地帶,並且奪走無數生命。菲利普‧狄克(Philip K. Dick)於一九五三年的經典短篇科幻小說《第二終結者》(Second Variety)中,末日反烏托邦的居民面對的就是一個充斥著自我複製殺手機器人的世界。這些機器有的演化到與人類真假難辨,就是為了用來進行滲透和殺戮。正如同狄克的許多故事,隨著時間經過,這個故事似乎變得愈來愈有可能成真。不用多說,這應該不是我們想要的未來。

情感運算革命
延伸閱讀:
「殺人機器人」令人心驚 專家警告別讓悲劇發生

創作者介紹
創作者 神仙、老虎、狗 的頭像
神仙、老虎、狗

神仙、老虎、狗

神仙、老虎、狗 發表在 痞客邦 留言(3) 人氣()

留言列表 (3)

發表留言
  • 訪客
  • 極端組織無人機成美軍最大威脅 後者卻未意識到

    2017-10-26 10:01:25 來源: 參考消息網(北京)

    近日,美國《防務新聞》網站報導稱,近期,美國國防部和陸軍等部門的研究認為,在目前的中東反恐戰場上,各種型號、數量繁多的廉價小型無人機,被包括“伊斯蘭國”在內的眾多極端組織廣泛採用。而這些被恐怖分子掌握的無人機,在戰場上對美軍和伊拉克政府軍威脅巨大。

    由於近年來各種商用和民用小型無人機在市場上呈現井噴式發展,恐怖分子能夠輕易購得可在低空短距離內執行軍事任務的小型無人機。這些商用無人機儘管容易被對方用各種手段打擊,但低廉的價格和便利的供給管道,仍使其成為恐怖分子青睞的“新式裝備”,而數量優勢也足以彌補其作戰損失。同時,儘管這些無人機在航程、續航力和最大升限等關鍵指標上並不突出,但由於恐怖分子主要利用前者執行針對民眾和輕步兵的自殺襲擊和偵察,因此這些性能缺陷也不至於影響作戰效能。

    然而,根據美國五角大樓研究機構在伊拉克戰場上對於伊政府軍和美軍參戰人員的調查和訪談,這些長期在反恐一線戰鬥的軍人普遍認為,無論伊政府軍還是美軍,都缺乏有效反制極端組織和其他恐怖組織小型無人機的能力。

    從相關分析來看,伊政府軍應對極端組織無人機攻擊的方法,與傳統的反遊擊戰術無異,說白了就是主要依靠可擕式防空導彈和輕型防空火炮對低空無人機進行攔截。而裝備水準明顯優於伊軍的美軍,除依靠技術水準更高的防空系統外,還會借助各型電子戰裝備偵測、發現敵方無人機的蹤跡,並出動航空兵予以火力打擊。顯然,美軍攔截和打擊無人機的方法更多,效能也更高。

    但值得注意的是,無論是手段相對匱乏的伊軍,還是裝備獨步天下的美軍,其面對敵方無人機的襲擾,依然是以被動防禦為主。且不論這種“守株待兔”的態勢已經將無人機作戰的主動權拱手讓於極端組織,僅從裝備消耗角度看,這種應對措施也非常“不划算”。在現代防空體系中,高精度的防空導彈乃至高射炮彈,價格都十分昂貴。而防空作戰中的低射擊命中率,以及素來“十防九空”的部署劣勢,更使得防空彈藥在反無人機作戰中的消耗變得十分巨大。相比之下,極端組織操縱的無人機不僅成本低廉、數量龐大,而且耐消耗性和補充能力較強。

    除經濟性較高外,小型無人機執行攻擊的作戰效能也頗為可觀。儘管美軍憑藉技術優勢,發展出可對小型無人機執行偵測-追蹤-摧毀的裝備體系,但即使再輕便的防空武器和電子設備,也需要用戰鬥小組和機動車輛運載,這就大大限制了前者的機動應變能力。反觀小型無人機,從體量和技術上已真正實現了單兵攜行、操縱、回收,並且能夠克服地形障礙,隨時隨地針對敵方目標發動襲擊。這種在機動性層面的不對稱,也使得美軍在實戰中常常對小型無人機來襲“防不勝防”。

    而在可預見的未來,極端組織運用低成本小型無人機的戰術範疇,不會僅限中東的非正規戰場,而將拓展到針對和平狀態下的城市與民眾的恐怖襲擊中。從目前小型無人機的技術特點來看,其突破城市安保和監控設施的能力較強,在人口密集的超低空域飛行也很難被發現。同時,由於不需要人力攜帶,因此用以預防恐怖分子的城市安檢設備和手段也在很大程度上失去了作用。在這種情況下,一旦恐怖組織利用小型無人機發動城市恐怖襲擊,則其被破獲的可能性會大大降低。

    此外,從目前技術發展方向看,單個的小型無人機和能夠編組無人機群的控制系統,以及實現遠端遙控和精確制導的地理資訊系統相結合,將會爆發出更強大的威力。如果能把個體的無人機串聯編組成集群,甚至能夠像分導式彈頭那樣,在統一的控制終端操縱下,實現同時針對多個目標的打擊,則其破壞力會較現在有質的提升。而近年來不斷發展和普及的地理資訊系統,如果得以與無人機系統相結合,後者向各種戰場空間執行滲透的能力也會得到提升,而被偵測和發現的幾率卻能顯著降低。這些技術進步,都可能使小型無人機未來成為恐怖組織手中的“隱形殺手”。

    儘管美國軍方一直致力於研究各種反無人機手段和戰法,但其思維依然停滯在針對個體無人機的被動防禦和殺傷層面,尚未意識到無人機作為一個可大量且廣泛運用的新型殺傷工具,或對未來的反恐戰爭和中低烈度軍事行動所帶來的“革命性”影響。
  • 訪客
  • 玩具!?民用無人機裝炸彈成IS殺人武器

    2017年12月14日 19:05 中時電子報 何宜玲

    中國大陸的無人機蓬勃發展,但是卻有業者表示軍用無人機往往受到嚴格的規範管制,但是民用無人機卻像玩具飛機一樣沒有受到法律監管,讓恐怖份子可以藉機鑽漏洞,只要在無人機上加裝幾個手榴彈,立刻讓看似簡單的玩具變身成為殺傷力十足的武器,危險性暴增。

    根據《金融時報》(Financial Times)引述紐約州巴德學院(Bard College)無人機研究中心的報告指出,截至去年年底,共有來自6個國家的32架無人機在敘利亞和伊拉克發生的軍事衝突中被發現,顯示在武裝衝突的過程中,有很多沒人管的民用無人機被安裝手榴彈或炸彈等武器後,像「流氓」一樣肆意對平民進行攻擊。

    報導說,為了反制這種蓄意攻擊的現象,荷蘭警方甚至已經開始使用老鷹來擊落「流氓無人機」。並且中國無人機業者也開始討論制定一套安全系統,要求買家進行身分驗證,並強制在無人機上安裝類似SIM卡的UDIM,作為該架無人機的國際標準碼。也就是說,中國業者希望開發一個全球性的無人機用戶登記系統,以打擊遭到恐怖份子利用的變相殺人武器。

    巴德學院報告指出,2014年敘利亞軍隊曾經擊落過一架廈門天翔模型公司生產的Skyhunter無人機。但是至今都還不清楚這些無人機是如何落入恐怖組織IS手中的,只知道目前網路上有很多經銷商都在販售無人機,因此類似玩具飛機的無人機其實非常容易取得。
  • 訪客
  • 張競/未來戰爭AI主宰 別只見其利不見其弊

    2018年02月13日 ETtoday新聞雲 雲論

    過去幾個月媒體多次報導,中國大陸積極運用人工智慧(Artificial Intelligence,簡稱AI)投入軍事科技,將有可能削弱美國軍事優勢,為此多個美國智庫都倡議要提高軍事預算,加強採購智能武器與儎臺,以便抗衡解放軍整建軍備發展趨勢。

    其實運用人工智慧於軍事決策與武器工藝由來已久,諸多能自主選擇目標、執行攻擊行動的武器系統,早就讓有識之士擔憂日後可能失控。即便1984年經典科幻片《魔鬼終結者》中,阿諾史瓦辛格(Arnold Schwarzenegger)所扮演的智能戰士吸睛奪目,但真正關鍵在於由智能系統失控所導演的核戰,將成為宰制人類命運之深層恐懼。

    儘管人工智慧在股市交易、醫療診斷、自動駕駛及飛航上確實表現驚人,但吾人不能只論其利而避談其弊。過去幾個星期,華爾街股市在預期心理影響下,數度出現暴跌熊市,加上多個投資大戶都仰賴程式交易協助,依既定電腦演算法計算結果,於是便出現大量跟進賣出讓情況雪上加霜。

    人工智慧之所以能夠支持智能系統,就是因為能忠誠追隨所設計的程式,進行判斷並採取後續行動。講實在話,人工智慧能有效運作端賴其忠實守份,不會受操作者臨場判斷而從權便宜行事,但人工智慧真有顛覆整體戰局,主宰未來戰場的本事嗎?

    誠如法國首相克里蒙梭(Georges Clemenceau)曾謂:「戰爭是如此事關緊要,豈可委諸將領之手。」(War is too important to be left to the generals.)兩軍交鋒事關生死,完全聽任人工智慧決策左右,放縱智能武器施為,總是不能完全讓人放心;就算能掌握所有戰場狀況,不能掌控作戰決心,指揮官亦難真正釋懷。

    但在戰場極度危險情況下,運用人工智慧自主接戰智能武器,其實是不得不為之的選擇。其中最具體的案例,就是艦艇上自動反擊來襲飛彈的快砲系統。可是當年海軍就曾失誤擊落過拖靶機,產生重大人命損傷。其他軍事儎臺運用自動導航系統,所產生的飛安與海上事更不可勝數。

    當然科技不斷進步,各國防當局不會因意外就因噎廢食,放棄運用新科技來爭取戰場優勢。像是美國最近針對中國大陸的軍事發展,發動各項與論攻勢,其實就是配合預算審查。雖嘴上高喊共軍因人工智慧獲得優勢,但心中卻也未見得真是把解放軍看在眼裡。

    吾人必須理解,在戰場上新科技雖然有用,但卻無法完全取代傳統戰具與戰法。美軍挾科技優勢進軍阿富汗與伊拉克,到最後還是得派出地面部隊逐屋搜索清掃戰場。最重要的是不能只見其利不見其弊!戰場科技發展軌跡永遠都是曲折前進,從來沒有一步到位的萬靈丹!