系统之家 > IT资讯

OpenAI 推出“红队网络”：专家合作提升AI安全性

更新日期：2023-09-20

来源：系统之家

　　9月20日消息，美国人工智能巨头OpenAI宣布了一项重大举措，他们正式推出了名为“红队网络”的合作计划，旨在加强与各领域专家的合作，以进一步提升其人工智能(AI)模型的安全性和可靠性。

　　这一举措的核心目标是建立一个由经验丰富、值得信赖的专家组成的社区，以共同评估和改进OpenAI的人工智能系统。虽然OpenAI以前已通过漏洞赏金计划和研究人员访问计划与外部专家合作，但现在他们将这一合作关系正式化，使之成为一个更为系统和持续的过程。

　　OpenAI 推出“红队网络”：专家合作提升AI安全性

　　据了解，这个“红队网络”将在多个方面发挥重要作用，其中之一是帮助识别人工智能系统中的偏见，并评估安全过滤器的性能。这些任务已经成为人工智能模型开发过程中的关键步骤，尤其是在生成式技术越来越广泛应用的情况下。

　　OpenAI的邀请涵盖了各个领域的专家，包括语言学、生物识别、金融和医疗保健等多个领域。公司强调了各种专业知识对人工智能评估的重要性，这些知识不仅限于技术领域，还包括认知科学、法律、网络安全、经济学和医疗保健等多个领域。

　　OpenAI表示，他们期待通过与红队网络的合作，能够更广泛地进行风险评估，以确保其人工智能系统在未来的应用中更加安全可靠。这一举措表明OpenAI正积极采取措施，以确保人工智能技术的可持续发展与社会责任。