更多

    新加坡 Project Moonshot 生成式 AI 測試工具 用開源技術應付人工智能風險

    各界提倡以負責任的方式使用人工智能,已大量用上 AI 技術的新加坡亦推廣可靠的 AI 。該國通訊及新聞部部長 Josephine Teo 早前在 ATxSummit 宣布推出一款強調易於使用的測試工具包 AI Verify-Project Moonshot ,以全球開源社區的力量來解決及使用大型語言模型( LLM )的相關安保與安全挑戰。

    Project Moonshot 由 DataRobot 、 IBM、新加坡電信( Singtel )、淡馬錫( Temasek )等夥伴公司共同開發,以確保該工具有用並符合行業需求。目前,該工具為開放測試版,通過通俗易懂的方式提供有關模型或應用程式質素和安全性的結果。

    另外,為讓 Project Moonshot 邁向全球測試標準,人工智能測試機構 AI Verify Foundation( AIVF )和 MLCommons 已簽署意向備忘錄( MOI ),合作建立一個通用的安全基準套件。 AIVF 成立目的推動各界以負責任的方式使用人工智能,提供如用於生成式 AI 的人工智能治理框架模型、 AI Verify 與 ISO 42001 標准對接,以及集成 AI Verify 與 MAS 的 Veritas 工具包等。基金會成員已有 120 多間公司,包括 AWS 和 Dell 。

    最新影片

    您會感興趣的內容

    相關文章