去年年初，ChatGPT引爆了新一轮AI浪潮，大模型技术带来了新的机遇，同时也带来了新的安全风险。黑客攻击成本降低，网络钓鱼行为规模扩大，数据泄漏问题愈发严重。面对这些挑战，如何保障大模型的安全性成为全球关注焦点。
在第27届联合国科技大会上，世界数字技术院发布了《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这标志着全球AI安全评估和测试迈入新的阶段，为大模型安全领域树立了新的基准。
OpenAI、蚂蚁集团等巨头参与了这两项国际标准的制定，共同努力解决大模型安全问题。他们通过制定统一的测试框架和明确的测试方法，提高了AI系统的安全性，促进了AI技术的负责任发展。
蚂蚁集团作为标准参与单位代表，在会上强调了生成式AI带来的新风险，呼吁大型科技公司发挥关键作用，推动生成式AI安全和负责任的发展。他们建立了大模型综合安全治理体系，致力于打造“安全、合规、可控、可靠”的大模型。
在AI新时代的挑战面前，各行各业应该携手合作，共同应对AI大模型的新安全挑战，创造一个更加安全、可信、可靠的未来。通过共同努力，我们可以建立一个优先考虑安全、隐私、可靠和伦理的AI生态系统，为人类社会带来更多的福祉。