bhfdivp">IT之家 8 月 10 日消息，发布风险OpenAI 公司于 8 月 8 日发布报告，模型概述了 GPT-4o 模型的卡概系统卡（System Card），介绍了包括外部红队（模拟敌人攻击）、全和准备框架（Preparedness Framework）在内的缓解诸多细节。OpenAI 表示 GPT-4o 模型的措施核心就是准备框架（Preparedness Framework），这是发布风险一种评估和降低人工智能系统相关风险的系统方法。IT之家从报道中获悉，模型该框架主要用于识别网络安全、卡概生物威胁、全和说服和模型自主性等领域的缓解潜在危险。除了针对 GPT-4 和 GPT-4V 进行的措施安全评估和缓解措施外，OpenAI 还针对 GPT-4o 的发布风险音频功能开展了更多安全工作。评估的模型风险包括扬声器识别、未经授权的卡概语音生成、受版权保护内容的潜在生成、无根据推断以及不允许的内容。基于这些评估结果，OpenAI 在模型和系统层面都实施了保障措施。OpenAI 还与 100 多名外部红队人员合作，在向公众发布模型之前对其进行评估。红队人员将进行探索性的能力发现，评估模型带来的新的潜在风险，并对缓解措施进行压力测试。

(责任编辑：国际新闻)