生成式人工智能安全大賽完美收官 | 院士專家共談AI安全與治理
12月11日,首屆生成式人工智能安全大賽完美收官,并在北京鳳凰中心舉辦了隆重的頒獎儀式暨大模型安全技術研討會。大賽由北京市互聯網信息辦公室和中國科學院網絡安全和信息化領導小組辦公室共同指導,中國科學院信息工程研究所和信息內容安全國家工程研究中心聯合主辦,聚焦安全攻擊、安全檢測、安全防護三大賽道,聚集國內優勢力量,有效發現、分析、應對大模型安全風險,不斷提升人工智能基礎底座的安全可控水平,更好地促進北京市及全國的大模型產業安全發展。
大賽自今年4月在中關村論壇啟動以來,吸引了來自全國各地高等院校、科研院所、行業企業等200余支賽隊參與。經過幾個月的初賽、復賽、專家評審等層層篩選和激烈角逐,3個賽道最終確定了冠軍、亞軍、季軍,以及優勝獎。
會上,中國科學院信息工程研究所所長郭莉、鳳凰衛視副總裁劉慶生首先致歡迎辭。大賽指導單位北京市委網信辦副主任潘鋒、中國科學院網信辦副主任曾大軍出席并致辭。中國工程院方濱興院士通過視頻發言致辭,指出高度重視大模型安全已成全球共識,也是各國關注的科技制高點,希望廣大科技工作者承擔起使命和責任。
中國工程院吳世忠院士發表主旨演講,分別從網數智全面轉型創造安全新機遇、大模型廣泛應用提出安全新挑戰、人工智能大發展需要安全新作為三方面,強調了生成式人工智能安全的重要性和緊迫性,以更好保障、支撐、促進人工智能技術的發展。
中國科學院信工所技術副總師韓冀中介紹了大賽組織和初復賽情況,與會嘉賓向獲獎團隊頒發了獎杯和證書。
來自清華大學的許斌研究員、北京大學的楊耀東研究員分別就國產自主可控基礎大模型的研究與應用、大模型安全對齊主題做了技術報告。隨后大會程序委員會主席、中國科學院信工所虎嵩林研究員組織了來自學術屆、產業屆的專家,圍繞人工智能安全與治理進行了圓桌討論。
大賽及活動受到來自政、產、學、研各界的廣泛關注,阿里、百度、360、美團、百川智能、零一萬物、京東、58同城等60余家代表企業參會。