京東重磅發(fā)布開源安全框架JoySafety，助力AI應(yīng)用守護(hù)安全

　　近日，京東正式推出了其開源的大模型安全框架 ——JoySafety。這一框架經(jīng)過多次內(nèi)部測試，已在京東的多個業(yè)務(wù)場景中得到廣泛應(yīng)用，包括 AI 導(dǎo)購、物流客服、銷售助手、醫(yī)療問診、商家工作臺、法務(wù)咨詢及安全問答等。這些場景的需求推動了 JoySafety 的誕生，旨在為企業(yè)提供一套成熟、可靠且免費的安全防護(hù)解決方案。

　　JoySafety 框架支持每日超過億次的調(diào)用，擁有高達(dá)95% 以上的攻擊攔截率，確保用戶在享受高效服務(wù)的同時，數(shù)據(jù)安全和用戶隱私也得到了有力保障。框架的設(shè)計理念是平衡用戶體驗與安全性，使得各項服務(wù)能夠順利運(yùn)行而不受潛在威脅的影響。

　　該框架的核心技術(shù)亮點在于其多輪會話智能識別能力。JoySafety 采用了創(chuàng)新的 Free-Taxi 異步輸出模式，這一模式能夠大幅提升系統(tǒng)的檢測響應(yīng)速度，確保用戶在使用過程中獲得流暢的體驗。此外，JoySafety 還引入了多維響應(yīng)策略矩陣，能夠根據(jù)情況采取不同的應(yīng)對策略。例如，在發(fā)現(xiàn)高風(fēng)險內(nèi)容時，系統(tǒng)會即時阻斷相關(guān)信息;在面臨敏感問題時，紅線知識庫則會提供合適的應(yīng)答;同時，系統(tǒng)還具備智能糾偏功能，能夠自動引導(dǎo)用戶向正向信息回答。

　　隨著 AI 技術(shù)的快速發(fā)展，安全問題日益凸顯，JoySafety 的推出無疑為企業(yè)在使用 AI 技術(shù)時提供了一道重要的安全屏障。未來，京東將繼續(xù)致力于提升技術(shù)創(chuàng)新，守護(hù)用戶的安全與信任。