在過去十年中，人工智能 (AI) 領(lǐng)域取得了令人矚目的進步，尤其是在數(shù)據(jù)驅(qū)動的機器學(xué)習(xí)（ML）技術(shù)方面。然而，對于許多國家安全應(yīng)用來說，具有適當可信度的人工智能還不存在。為了獲得信任，這樣的系統(tǒng)必須能夠可靠地運行，與人進行適當?shù)幕樱⒁院虾醯赖聜惱淼姆绞綕M足緊迫的國家安全需求。創(chuàng)建這樣的系統(tǒng)需要在（至少）三個關(guān)鍵領(lǐng)域取得重大進展：

1.基礎(chǔ)理論：了解可能性的藝術(shù)，限制特定系統(tǒng)實例化的限制，并為國家安全等具有挑戰(zhàn)性領(lǐng)域的人工智能系統(tǒng)提供信息；

2.人工智能工程：以可預(yù)測的方式構(gòu)建在現(xiàn)實世界中按預(yù)期工作的系統(tǒng)，而不僅僅是在實驗室中；

3.人機協(xié)同：使系統(tǒng)能夠成為具有不同背景的人的流暢、直觀、值得信賴的隊友。

DARPA對于人工智能的理解（翻譯&字幕 by 防務(wù)菌）

美國防高級研究計劃局（DARPA）在起草當前的“AI分析框架”過程中，這些要點成為重要方向，并與國家AI研發(fā)戰(zhàn)略重點保持一致 。此外，需要在數(shù)據(jù)和計算方面顯著提高ML的效率，以使基于ML的系統(tǒng)對許多國家安全應(yīng)用具有成本效益。

2022年9月13日，DARPA在“前沿”系列研討會（詳情可參見防務(wù)菌此前推送：【Forward Conference】重磅！DARPA即將召開前沿系列研討會）的第二站華盛頓州立大學(xué)活動上（詳情可參見防務(wù)菌此前推送：【Forward Conference】DARPA“前沿”系列研討會之第二站——華盛頓州立大學(xué)），信息創(chuàng)新辦公室（I2O）主任凱瑟琳·費舍爾（Kathleen Fisher）博士向與會者做了題為“用于對抗環(huán)境的可信人工智能”的系列項目簡介。在將近45分鐘的時間里，梳理了從生成對抗網(wǎng)絡(luò)（GAN）、深度語音2（Deep Speech 2）到AlphaGo、Move 37、Libratus系統(tǒng)、特斯拉自動駕駛、GPT-3、AlphaFold等等一系列AI在各個領(lǐng)域的應(yīng)用情況，最終落到國防領(lǐng)域。

用于對抗環(huán)境的可信人工智能（翻譯&字幕 by 防務(wù)菌）

2022年10月26日，在“前沿”系列研討會的第四站佐治亞理工學(xué)院站活動上（詳情可參見防務(wù)菌此前推送：【Forward Conference】DARPA“前沿”系列研討會之第四站——佐治亞理工學(xué)院），凱瑟琳·費舍爾（Kathleen Fisher）宣布了“人工智能前沿”（AI Forward）計劃，聚焦三個關(guān)鍵領(lǐng)域：第一，基礎(chǔ)理論，以便了解可能的藝術(shù)；第二，人工智能工程，以便能夠可靠地和可預(yù)測地建立在現(xiàn)場和實驗室中都能工作的系統(tǒng) ；第三，人-AI協(xié)同，使系統(tǒng)能夠作為流暢的直覺伙伴，而不僅僅是工具（詳情可參見防務(wù)菌此前推送：【AI Tutoring 】DARPA人工智能（AI）應(yīng)用新開一局）。

DARPA信息創(chuàng)新辦公室（I2O）主任凱瑟琳·費舍爾解讀“AI前沿”（AI Forward）計劃（翻譯&字幕 by 防務(wù)菌）

為加速推進AI Forward計劃，2023年2月25日，DARPA通過其官網(wǎng)宣布，將于2023年6月和7月，分別通過在線和現(xiàn)場的方式召開兩個研討會。

1.在線研討會：2023年6月13日至16日（周二至周五）；美國東部時間12:00 - 5:00，每天休息一小時。

2.現(xiàn)場研討會：2023年7月31日至8月2日，馬薩諸塞州波士頓，美國東部時間，周一 11:00 - 6:00；周二 9:00 - 6:00；周三 9:00 - 5:00

在這些高度互動和協(xié)作的研討會中，參與者將共同設(shè)想新的AI研究方向，這些方向可能會催生適用于國家安全應(yīng)用的可信AI。每個研討會的參與人數(shù)限制為大約100人。每個研討會都將包括與行業(yè)、學(xué)術(shù)和政府領(lǐng)導(dǎo)以及專家就AI當前和未來研究方向進行的討論和有指導(dǎo)的頭腦風(fēng)暴會議。

DARPA預(yù)計研討會將是激烈、互動和自由思考的。他們旨在激發(fā)對跨越AI許多不同領(lǐng)域的有前途的新研究方向的思考，包括人類語言技術(shù)、大型語言模型、生成模型、AI哲學(xué)和倫理，以及著眼于未來國家安全相關(guān)的具身認知應(yīng)用程序。參與者將被期望與彼此、協(xié)調(diào)人和主題指南（將幫助構(gòu)建和指導(dǎo)討論的領(lǐng)域?qū)＜遥┙ㄔO(shè)性地進行對話，以制定合作研究主題，以幫助定義未來可能的DARPA活動。目標是將來自不同學(xué)科的個人聚集在一起，根據(jù)第一原則進行互動和自由思考，相互學(xué)習(xí)，

在研討會的過程中，參與者將組成小組，針對跨學(xué)科主題領(lǐng)域推介和完善主題（基于主題指南的輸入），這些主題領(lǐng)域推進關(guān)于AI未來的科學(xué)問題，以及如何解決有能力、可信AI的問題在具有挑戰(zhàn)性的現(xiàn)實世界問題中與人類很好地合作。

AI Forward計劃將由KnowInnovation推動，KnowInnovation 是一家專門與科學(xué)團體合作以加速創(chuàng)新并實現(xiàn)戰(zhàn)略成果的公司。參與者可以期待高度互動的在線和現(xiàn)場活動。在一些旨在搭建舞臺的有針對性的全體演講之后，大部分時間將花在以解決方案為中心的討論上。

AI Forward研討會的最終成果將是確定大約40個有前途的未來研究領(lǐng)域。對于每個領(lǐng)域，參與者將探索諸如未解決的問題、潛在的研究問題、預(yù)期的影響以及取得進展所需的專業(yè)知識等項目。參與者將針對每個領(lǐng)域進行演示（2-3 分鐘）并提供配套的白皮書（2-3 頁）。DARPA將考慮這些演示文稿和白皮書，以制定其未來的AI戰(zhàn)略。作為該戰(zhàn)略的一部分，DARPA可能會根據(jù)兩個AI Forward研討會的成果創(chuàng)建2個新的人工智能探索項目 (AIE) 。參與者將能夠向這些AIE提交他們的工作以供考慮，這些AIE將被廣泛宣布以征求建議。

對于即將召開的AI Forward研討會，凱瑟琳·費舍爾表示：“盡管我們已經(jīng)看到了該領(lǐng)域的巨大進步，但人工智能仍然需要大量的投資和進步，以開發(fā)可靠運行、與人適當互動的技術(shù)，并以倫理道德方式滿足最緊迫的國家安全和社會需求。我們正在呼吁所有相關(guān)的研究人員和專家加入我們的行列，因為我們正在定義當今最具影響的技術(shù)的未來。通過參與AI Forward，你將有機會幫助規(guī)劃未來幾十年保持我們國家和我們盟友安全所必需的能力。”

審核編輯 ：李倩