近期围绕大模型的安全问题引起了广泛关注。红队挑战赛成为评估人工智能模型性能的首次公开评估活动。参与者通过尝试欺骗聊天机器人或语言模型来发现漏洞,并提供修补建议以增强其安全性。这场考验揭示了在人工智能时代中,大模型所面临的操控风险和隐私泄露等问题。