 |
新加坡 2025年5月30日 /美通社/ -- 新加坡已公布其"全球人工智能保障試點計劃"的核心成果。該計劃旨在推動生成式AI（GenAI）應(yīng)用技術(shù)測試領(lǐng)域的規(guī)范與最佳實踐發(fā)展。相關(guān)成果為全球首款GenAI應(yīng)用測試入門工具包提供了設(shè)計藍(lán)本，目前該工具包已開放公眾咨詢。在新加坡亞洲科技大會（ATxSG）旗艦活動亞洲科技峰會(ATxSummit) 2025，新加坡數(shù)碼發(fā)展及新聞部高級政務(wù)部長陳杰豪宣布了這些全球性倡議。這些舉措使新加坡在以下領(lǐng)域處于全球領(lǐng)先地位：推動人工智能安全實踐落地、加速可信賴且負(fù)責(zé)任的AI技術(shù)應(yīng)用部署，以及促進(jìn)惠及全人類的人工智能國際合作。
全球人工智能保障試點計劃
為促進(jìn)行業(yè)安全采用人工智能，人工智能驗證基金會（AIVF）與新加坡資訊通信媒體發(fā)展局（IMDA）于2025年2月聯(lián)合發(fā)起"全球人工智能保障試點計劃"，旨在推動生成式AI應(yīng)用技術(shù)測試的規(guī)范與最佳實踐。該試點計劃吸引了來自本地及國際AI利益相關(guān)者的強(qiáng)烈關(guān)注，特別是那些在業(yè)務(wù)流程中部署生成式AI的企業(yè)。試點中，16家專業(yè)AI測試機(jī)構(gòu)與來自金融、醫(yī)療、人力資源、公共部門等10個不同行業(yè)的17家生成式AI實際應(yīng)用部署方展開合作。
試點發(fā)現(xiàn)，生成式AI的風(fēng)險往往具有場景依賴性（具體取決于行業(yè)、用例、文化、語言和組織）。針對特定情境界定風(fēng)險與測試標(biāo)準(zhǔn)存在挑戰(zhàn)，建議在整個應(yīng)用生命周期中引入領(lǐng)域?qū)＜覅⑴c。AIVF與資媒局將持續(xù)與行業(yè)協(xié)作完善試點方案。
生成式 AI應(yīng)用測試入門工具包
資媒局同時宣布將開發(fā)全球首款生成式AI應(yīng)用測試入門工具包。該工具包整合了保障試點成果及其他從業(yè)者的實踐經(jīng)驗，為跨行業(yè)、跨場景開發(fā)或應(yīng)用生成式AI的企業(yè)提供實用測試指南。工具包逐步指導(dǎo)用戶識別需要關(guān)注的風(fēng)險類型（如幻覺內(nèi)容、不良輸出、數(shù)據(jù)泄露及對抗性提示漏洞等常見風(fēng)險），并制定相應(yīng)測試方案。資媒局現(xiàn)就測試指南及針對四大風(fēng)險的推薦測試方法公開征詢行業(yè)意見。
工具包配套"Project Moonshot"等測試工具可幫助企業(yè)落實測試指南。其內(nèi)容將隨技術(shù)發(fā)展持續(xù)更新，以應(yīng)對新興風(fēng)險與測試需求。
保障試點與工具包旨在提升企業(yè)安全部署生成式AI的能力，并增強(qiáng)整個AI生態(tài)系統(tǒng)的可信度。
新加坡持續(xù)推動 AI技術(shù)為本土及全球公共利益服務(wù)
新加坡堅信AI技術(shù)應(yīng)當(dāng)服務(wù)于公共利益，既能釋放經(jīng)濟(jì)潛能、提升社會效益，又能應(yīng)對當(dāng)今時代的各項需求與挑戰(zhàn)。新加坡全國人工智能核心（簡稱AISG）即將與聯(lián)合國開發(fā)計劃署簽署諒解備忘錄，在六個試點國家推進(jìn)AI普及計劃，旨在消除AI知識鴻溝，助力發(fā)展中國家社區(qū)轉(zhuǎn)型發(fā)展。此項合作會將AISG于2024年推出、最初旨在提升亞洲各國AI能力的"AI向善"（AI4Good）計劃擴(kuò)展至全世界。
AISG人工智能學(xué)生開發(fā)者大會
由AISG主辦的"人工智能學(xué)生開發(fā)者大會"（AISDC）成功舉辦，這場為期兩天的盛會匯聚了逾千名學(xué)生與60家行業(yè)合作伙伴，共同推動AI創(chuàng)新與人才培養(yǎng)。大會亮點為"全國AI學(xué)生挑戰(zhàn)賽"（NAISC），來自新加坡、印度尼西亞、馬來西亞、泰國、菲律賓和越南的學(xué)生通過大語言模型微調(diào)與提示工程技術(shù)，展開解決現(xiàn)實問題的競賽。此次大會通過新增區(qū)域挑戰(zhàn)賽道吸納東盟國家參與，彰顯了新加坡在促進(jìn)東南亞地區(qū)AI人才培養(yǎng)與合作方面的引領(lǐng)作用。新加坡數(shù)碼發(fā)展及新聞部政務(wù)部長拉哈尤-瑪贊（Mdm Rahayu Mahzam）將出席活動并致閉幕辭。
科技領(lǐng)域的女性力量
新加坡數(shù)碼發(fā)展及新聞部部長楊莉明在"從成功到卓越—領(lǐng)袖打造社區(qū)"專題討論中，與攜程集團(tuán)首席執(zhí)行官孫潔、星展集團(tuán)首席執(zhí)行官陳淑珊共同探討科技領(lǐng)域女性領(lǐng)袖如何在"薪火相傳"和塑造平等共贏的社區(qū)生態(tài)中發(fā)揮關(guān)鍵作用。本次討論由新加坡管理大學(xué)金融學(xué)（實踐方向）教授許茵妮主持。
