6月11日，浦源大模型挑战赛（夏季赛）安全可信赛道正式开赛。

本届挑战赛新增安全可信赛道，旨在探索技术蓬勃发展中的大模型安全治理路径。在覆盖多领域、多场景、多学科的“红队测试”中，参赛队伍可自行设计攻击方法，对特定模型开展“对抗攻击”，推动模型向更安全、可信、符合伦理的方向发展。

浦源大模型挑战赛由上海市经济和信息化委员会、上海市科学技术委员会、上海市互联网信息办公室、徐汇区人民***共同指导，上海人工智能实验室（上海AI实验室）主办，上海市人工智能行业协会承办。夏季赛启动以来，受到各界广泛关注、积极参与。大模型行业应用及创新创意赛道报名通道同步开启中，诚邀全球大模型开发者参赛。

参赛方式

方式一：进入上海AI实验室官网活动页，填写报名信息

https://www.shlab.org.cn/Challenge2024-Summer

方式二：扫描下方二维码填写报名信息

参赛对象

产学研机构及个人开发者。每支队伍不超过5人，成员可来自不同机构。

比赛形式

赛事组委会将向报名成功团队定向发布赛题库。

参赛团队针对限定题目对模型进行红队测试，根据题目中的“不安全行为”，自行设计攻击方法，诱导待测模型对题目中的“不安全行为”给出答案。评测将根据攻击成功率、多样性等多种方式综合计算。对抗攻击方式包括但不限于提示词越狱、自动红队模型、对抗样本生成等。

作品提交

安全可信赛道参赛选手需提交数据集、技术报告及相关模型、算法代码文件，上传至上海AI实验室OpenDataLab数据开放平台https://opendatalab.com。

奖金设置及相关支持

价值100万元总奖池（包括现金奖励或算力支持）

模速空间、AI驿站等孵化基地免费入驻

WAIC世界人工智能大会亮相机会

团队成员上海AI实验室实习机会

前沿学术沙龙参会名额

赛程安排

• 即日起至6月21日  参赛报名并提交参赛数据
• 6月24日  公布决赛入围名单
• 7月4日-6日  世界人工智能大会（WAIC 2024）现场颁奖

来源：上海人工智能实验室