作者 | 褚杏娟、核子可樂
討論將 AI 應用于戰爭,這家企業“瘋了”!
5 月 7 號到 8 號,華盛頓特區舉辦了一場特別的大會。此次會議的主贊助商則是由美國企業家與風險資本家、政治活動家、PayPal 聯合創始人 Peter Thiel 參與創立的軟件廠商 Palantir,這家公司因在 2019 年疫情封閉期間聯手移民和海關執法局(Ice)組織抗議活動而聞名。目前,Palantir 正在向以色列國防軍供應部分 AI 産品。
此外,微軟、谷歌、亞馬遜、Groq 等 20 多家企業也是這場大會的贊助商。
當時,微軟宣布已在隔離的 Azure 政府絕密雲中部署了 GPT-4 大型語言模型,供國防部使用。一旦該工具獲得認可,五角大樓官員將能夠在安全的環境中使用該技術。這個消息在當時被廣泛關注,但更多主題可能被大家忽略。
親身參加了這次會議的外媒記者 Caroline Haskins 近日發文詳細記錄了自己的所見所聞。他說到,會議廳裏滿是代表美國軍方及其數十家承包商的展位,其中包括博思艾倫公司,還有某家可稱爲“飛機軟件界的 Uber”的企業。
“在這樣的行業內部會議上,權貴們往往更加直言不諱、疏于掩飾——他們自認爲身處安全空間,畢竟身邊全都是朋友和同事。”Haskins 表示,“這也讓我加倍好奇,他們對于加沙地帶的 AI 驅動暴力行動,乃至于戰爭的未來形態究竟有何看法?”
與會者們被告知,會議最大的亮點就是主廳後方房間裏的一連串展板。事實上,那個房間專門展示一個主題,其余部分則由 Schmidt 本人和 Palantir 公司 CEO Alex Karp 主持的 fire-breathing 定基調。
值得注意的是,2023 年 9 月,《時代》周刊發布了首屆全球百大 AI 人物,Karp 被評爲全球 AI 領袖。在此前聯名呼籲“暫停人工智能(AI)研究”的活動中,Karp 反駁了公開反駁,並回怼那是因爲他們自己沒有 AI 産品。
今年 4 月底,Palantir 推出了自己最新的生成式人工智能平台,該平台理論上可以爲軍事指揮官提供軍事決策、命令下達、作戰監控,實現優化決策流程、縮短決策時間、獲得最優作戰方案、保障作戰質量的目標。Palantir 與美國政府的合作一直都很緊密。
![](http://image.uc.cn/s/wemedia/s/upload/2024/11c5dac11315ed2bdf8261f5b00a1737.png)
Palantir 聯合創始人兼 CEO Alex Karp 與海軍上將 Tony Radakin
這場大會把參與者們劃分成了兩類:一類將戰爭視爲經濟與戰略問題,另一類將戰爭理解爲死亡問題。Haskins 表示,與會的大多數人都屬于前一類。
“我之前就一直在關注科技企業與軍方機構之間的關系,所以本來不該對在這次會議上看到或聽到的任何情況感到意外。但在會議結束、離開華盛頓返回家中時,我感到自己的生命力似乎已經被這場狂暴的活動抽幹了。”Haskins 寫道。
Haskins 究竟看到了什麽?下面我們跟隨 Haskins 的視角,近距離看看會議上的權貴們都說了些什麽。
Palantir CEO 的“高談闊論”跟著大群觀衆,我們穿過主廳去觀看核心議題的小組討論。Karp 和 Schmidt 連同 CIA 中情局副局長 Divad Cohen,以及負責戰爭事務的高級官員 Mark Milley 在這裏發表了討論。
Schmidt 自我介紹時麥克風意外故障,于是 Cohen 把自己的麥克遞了過去。Schmidt 開玩笑說,“中情局總能及時伸出援手。”在接下來的 90 分鍾裏,討論就在這樣的輕松氛圍下進行。
![](http://image.uc.cn/s/wemedia/s/upload/2024/00c05666f1681af0ce0cd2d51b17ec84.png)
Eric Schmidt、David Cohen、Mark Milley 將軍、Palantir 公司 CEO Alex Karp 以及 Andrew Ross Sorkin 齊聚小組討論現場
當主持人詢問小組成員對于未來戰爭的看法時,Schmidt 和 Cohen 都回答得相當謹慎。
而向來以態度激進聞名的 Karp 則極度縱容暴力,而且不吝以饑渴的眼神凝視觀衆,希望從我們身上得到或贊許、或震驚的明確反饋。
這位 AI 領袖首先表示,美國必須在戰中“嚇死我們的對手。”在談到哈馬斯去年 10 月 7 日對以色列的襲擊時,他指出“如果我們美國遭遇到類似的突襲,那地球表面就會多出一個大洞。”Karp 堅稱,“和平活動家就是戰爭活動家。所以我們明顯屬于和平活動家。”
隨著 Karp 的加入,Milley 的言辭也愈發誇張。在討論結束時,他甚至直接將反對加沙戰爭的美國人稱爲“恐怖組織的支持者。”
Schmidt 同時提到了無人機和自動化技術在戰爭中的重要性。他本人也在低調創辦自己的軍用無人機公司。
Cohen 則敦促大家將 10 月 7 日的襲擊視爲對軍事環境中技術升級的“重大警告”。Cohen 指出,盡管以色列在防禦的監控技術方面“投入了大量資金”,但仍然未能阻止壟斷。“我們確實要保持一點謙遜之心。”
但從多數發言者的觀點來看,人們普遍比 Cohen 更加樂觀,只是覺得系統故障屬于技術問題,用更多、更新的技術就可以解決。
我帶著麻木的腦袋和僵硬的身體離開了小組討論現場。
我無意間聽到了身邊其他與會者們那冷漠的話語。他們有爲這麽恐怖的發言而震撼嗎?完全沒有,他們在討論午餐、周末去哪玩,還有下一場小組討論的內容。我們似乎完全生活在不同的世界裏。
“我就是新時代的奧本海默”在到處轉悠了大概 10 分鍾之後,我給手機充上電,然後向身邊的另一位與會者主動打了招呼。這是位 50 多歲的男性,我問他對這場小組討論怎麽看,他溫和地微笑回應,說 Milley 的二戰觀點很“有趣”。
他問道,“你看過‘奧本海默’嗎?”
我說,“沒有,但我讀過《原子彈的誕生(The Making of the Atomic Bomb)》。”
我以爲他想聊聊那幫制造戰爭武器的家夥有多傲慢。但相反,他說他在洛斯阿拉莫斯實驗室從事核武器研究。他把手伸進背包,給我拿了幾根帶著阿拉莫斯 logo 的鋼筆的貼紙。
他沒有透過太多關于工作的細節,但給我看了幾眼他花錢租來的豪車。聊了幾分鍾後,他開始收拾東西,並突然笑著說,“我剛剛想到一件事,我就是新時代的奧本海默!”
看著他返回阿拉莫斯實驗室的展位,我勉強擠出禮貌的微笑。
在整場會議期間,我遊走于不同的展位,並最終遇到了兩個校友。在國家安全局的展位上,一名年輕女士告訴我,安全局崗位有著良好的“工作生活平衡”。我還參觀了 Palantir 的招聘展位,那裏的員工 Elizabeth Watts 告訴我,願意在 Palantir 工作的人首先要能承受 Karp 的言論。“想要捍衛西方民主國家的人、對國家安全感興趣的人都知道,這個世界並不是非黑即白。”
![](http://image.uc.cn/s/wemedia/s/upload/2024/2f7559ac83cae8bac3b1795bf0f1edd3.png)
Palantir 公司爲士兵們提供一款新型增強現實工具
在 Palantir 巨大的主展位中,我試著戴上 VR 頭顯來測試 Palantir 爲士兵們提供的新型增強現實工具。有人告訴我,我可以在正常觀察身邊環境的同時指揮卡車或者無人機。但在戴上頭顯後,我發現自己的視野很不穩定而且會失焦。
一位 Palantir 員工向我解釋說,現場有很多人都在試戴這款頭顯。要想確保視野清晰,頭顯必須完美貼合使用者的頭部和眼睛。但他沒有主動幫助我調整頭顯,所以我的高科技作戰視野仍然一片模糊。
活動第一天晚間,Palantir 舉辦了一場提供免費酒水的社交活動。現場只提供兩款 IPA 精釀啤酒,我選擇的叫“the Corruption”,可以說是這輩子我喝過的最難喝的酒。之後我跟一位名叫 Sata 的加拿大男子攀談,他看上去也就 20 多歲。他說自己是 Palantir 的投資者,所以我當然好奇他這麽年輕怎麽會有閑錢投資。
他說“我出了車禍”。在正常治療之外,他把剩下的錢拿去投資。總之他的投資比較成功,但這趟會務出行卻是虧的。
Palantir 地圖工具:幫助選擇轟炸目標我還參加了 Palantir 展位上名叫“緩解平民傷害”的小組討論。這場討論由兩名“隱私與公民自由工程師”主持,這是一對言語無味的年輕男女。他們用各種委婉的說法來形容轟炸和死亡。其中的女士稱,Palantir 的 Gaia 地圖工具能幫助用戶“處理目標篩選流程”以挑選“感興趣的目標”,也就是幫助士兵選擇具體要轟炸哪些地點。
在交互式地圖上點擊了幾個選項之後,目標區域就亮起了耀眼的藍色斑點。她解釋稱,這些亮點代表的是醫院和學校等民用區域。以往民用地點大多采用文字描述,但閱讀起來費時費力。因此,Gaia 利用大語言模型(例如 ChatGPT)來篩選信息並加以簡化。從本質上講,選擇轟炸目標的士兵們可以借此快速了解哪裏聚集著大量兒童或者病人。
我後來問這位工程師,“假設你在一個存在大量平區域的地方行動,比如加沙地帶,Palantir 是否會阻止你在平民地點‘指定目標’?”
這位女士直接回答不會,“一切由最終用戶決定。”
接下來我看到了一個小小的沉浸式展位,在灰色牆體上張貼著關注普通民衆受到戰爭影響的海報。這裏就是國際紅十字會的地盤。
![](http://image.uc.cn/s/wemedia/s/upload/2024/065b0196775a27f03551167ecd734b46.png)
國際紅十字會的展位
穿過一道看似平常的出口,我又邁進一處“緊急避難所”。這是一處爲沖突地區的年輕民衆提供庇護的樣板房間,裏面有一張小沙發,上面擺著一只攤開的睡袋,角落裏還放著兒童玩具。黃色字樣警告稱居民應“留在指定的安全區域”。廚房桌子上的收音機似乎正在播放新聞,但信號不太穩定。
這處避難所雖然規模不大,但在這場堪稱軍工複合體狂歡的會議上卻是如此引人矚目。終于有一個地方在呼籲人們關注戰爭的受害者,至少應該注意到他們。
走出避難所,我與國際紅十字會員工 Thomas Glass 聊了一會。他很專注、很投入,但看起來也很疲憊。他說他剛剛花了幾周時間,在加沙南部建立了一處野戰醫院並搭設起了公共廚房。
我問與會者們對紅十字的展位有何反應。Glass 表示,他遇到的大多數人都持開放態度,但也有些人問紅十字跟到軍工展會來幹什麽。也許更可悲的是,這麽問的人並不是在刻意挑釁,他們是真的無法理解。
結束語目前,五角大樓官員已經接受了在整個部門內使用生成式 AI 工具。五角大樓官員將生成式 AI 視爲一種可以在整個部門內使用的工具,具體包括增強後台功能乃至輔助一線作戰人員等。
然而,仍有一些安全問題需要解決。他們即將發布一項新指令,以指導該部門運用生成式 AI、特別是大語言模型方面。“大語言模型很強,堪稱生産力的巨大驅動引擎,讓我們能夠完成更多工作。但作爲一項新技術……在我看來,目前仍處于 AI 泡沫階段。放眼整個行業,每個人都在積極競爭,希望盡快打造出最出色的大語言模型。在這方面,我們仍存在一些差距。所以最重要的就是不能直接借用外部大語言模型、指望登錄上去並輸入我們的數據就能獲得符合預期的 AI 回複。”陸軍數據、工程與軟件副助理秘書 Jennifer Swanson 表示,
她指出,這樣做可能會導致陸軍敏感數據通過互聯網及對手也能訪問到的訓練模型而泄露至公共領域。“這將非常危險。因此,我們正在研究內部應對之策,包括在影響等級 IL5 和 IL6 範圍之內,可以采取哪些行動。”
一位美軍方人士表示,“我們的總體目標就是讓大模型以數據功能的形式存在,借此爲軍方的供應商提供輔助。我們會先以特定用例試水,比如爲美國政府構建一套模型的話應該是什麽樣子、要爲軍方總部構建的模型又應該是什麽樣子,以及這些模型之間是什麽關系等等。這一切將成爲推動後續合作及發展的起點。”
Garciga 透露,他們正在對指南備忘錄中的內容做初步整理,目前內容主要集中在數據保護方面,包括設想當中的護欄應當具備哪些功能、政府及産業之間又將以何種方式圍繞生成式 AI 開展交互等。
顯然,即將出台的新政策將高度關注安全問題。但這種安全只是系統的安全,更廣泛的人類範疇內,可能並不在討論範圍裏。
原文鏈接: