91传媒姚期智91传媒：超大型大模型的治理，需要尽快研发出规范
姚期智91传媒：超大型大模型的治理，需要尽快研发出规范
知情人士告诉记者，体育馆旁曾经是一块空地，学校在此种植了向日葵和玉米等。去年年底，这块空地开始动工修建学校附属综合楼，但接连有师生注意到，有工人将施工用的袋装材料堆放在体育馆楼顶，令人担忧。“体育馆年久失修，大家都担心楼顶堆重物，会不会出事。”
7月4日，2024世界人91传媒工智能大会暨人工智能全球治理高级别会议在上海开幕。人工智能技术在治理上将遇到哪些挑战、实际运用的情况如何，是各界专家学者关心的话题。 在“人工智能前沿技术的治理挑战与应对措施”主题论坛上，图灵奖获得者、中国科学院院士姚期智，联合国副秘书长、联合国大学校长TshilidziMarwala，香港科技大学首席副校长郭毅可等就人工智能安全治理的话题发表了主旨演讲。 姚期智作主旨演讲主办方供图 其中，姚期智分享的内容为《人工智能安全治理的研究走向》。他首先介绍了前沿大模型带来的信息、物理、生物智能风险与生存风险，引申出AI系统安全与如何确保人的利益等问题，提出从技术和路径的维度进行分类治理。以大模型时代的数据安全研究举例，他指出大模型会记住隐私数据，而保护用户隐私的研究尚处在较原始阶段，重要方向是为大模型数据安全开发出一组核心技术。 在谈及前沿大模型带来的风险时，姚期智表示，“大家关心AI安全治理的很大一部分原因是ChatGPT带来的大模型的问题。信息安全有风险，大模型幻觉产生的错误信息可以误导人类。同时，AI控制更多基础设施已成为一个不可改变的趋势，不安全的AI所带来的危险，会真正变成生存的危机。那么我们该如何管控它？” 姚期智表示，从长远看，AI安全治理不是缝缝补补，他分享了两个研究思路：一是让AI和人类利益对齐的有益的通用人工智能（BeneficialAGI），在设计时要有数学规律，让机器人的一切决定都以人为本，并且机器人要和人保持交流、能够和人对话，了解人的需求到底是什么。另一个思路是设计数学上绝对安全的通用人工智能（ProvablySafeAGI），即人类不直接和大模型接触，只和可证明安全的白盒子交流。 此外，姚期智也谈及中国在AI安全治理方面具有的优势：“我们有完善的实名制身份验证系统，减少了计算机网络分布式系统的问题。中国有很多管控新科技风险的成功经验，同时，数字化转型、数据要素化、数据资产入表等都做得很好。” 结合中国的优势，姚期智表示可以建立符合中国国情的AI治理框架、简化中国AI治理。包括建立AI大模型的分级体系；建立ID的实体映射，所有智能机器都有可以实名找到的ID；实现全产业链监控AI。 “AI智能作为新的潮流，除了带来益处，它的安全治理也变得越来越重要，超大型大模型的治理需要尽快研发出规范。其次，从学术角度来讲，安全治理正成为学术交叉的新领域，涉及AI、密码学、政治、法律、企业、经济等，多领域需要合作。第三，构建AI安全系统的基础研究是AI安全治理非常重要的前沿方向。”姚期智说道。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:林君
TOP1热点：买杯咖啡能否街边停会儿车？承办部门答复代表：合适路段新增...
这个词，是发展。。
公开简历显示，涂碧波，男，汉族，1966年10月出生，湖南省汉寿县人，1987年7月参加工作，1986年6月加入中国共产党，函授本科。
TOP2热点：“加法”“减法”并行，上海发布28条措施助力中小微企业
“这一个多月以来就没有几次晴天”，多名学生向中国新闻周刊提到，当天，当地也正在下雨。
TOP3热点：时政微观察丨从文化瑰宝看中国―中亚文明交流互鉴四川少妇BBw搡BBBB槡BBBB
毕力夫曾任赤峰市委书记，省司法厅党委书记、厅长，自治区监狱管理局党委书记等职务。
TOP4热点：交流促提升 互鉴助发展――安徽省六安市人社局到本区考察交...xaxwaswaswasxilxiserikkino
他们一来二往，就产生了男女之情。
TOP5热点：中国星辰｜揭秘北斗“母港”如何保障北斗卫星发射任务jalap waswas.haya kunxak yalax
现在真相大白了，娇娇因为涉嫌诈骗，将会被法律制裁的。不过，考虑到她还在哺乳期，民警对她实施了取保候审。
TOP6热点：安徽省蚌埠市“四个强化”部署开展农村地区食品突出问题专项...jalapxaxwaswaswasxilxilx403
2008年3月，毕力夫离开高校，先后担任内蒙古自治区党委宣传部副部长（正厅级），自治区赤峰市委副书记，
TOP7热点：今年前4个月巴西亚马孙地区森林砍伐面积同比下降36%四川XXXXXLmedjyf
老郭的妻子叫张女士，张女士得知丈夫被杀死了，她有点不敢相信。
TOP8热点：上海最早报道红军长征的刊物是哪本？这个展览中有答案Gary强㢨app84
澳大利亚国防军联合作战参谋长格雷格·比尔顿21日在新闻发布会上称，“护身军刀2023”军演开幕之前，一艘中国海军舰艇出现在澳大利亚东海岸。比尔顿称，他并不担心中国舰只的活动，因为这些舰只从前就曾在澳大利亚海岸附近航行过。“我估计它会向南边移动，并进入演习（区域）。他们已经这样做了很多年，我们也做好了充分准备。”
TOP9热点：2026年美加墨世界杯会徽公布，中国网友调侃：史上最丑世...欧美❌❌❌❌❌❌JAPPT
到头来，从阿富汗的仓皇撤军、在乌克兰危机上的骑虎难下，到在中东地区的影响力衰减，长期去看，美国破坏世界秩序所收割的利益，真的会大于最后将付出的代价吗？
TOP10热点：时政微观察丨从文化瑰宝看中国―中亚文明交流互鉴欧美❌❌❌❌❌❌JAPPT
据大河报报道，2022年8月30日，该项目代理机构发布项目流标公告，称因中标结果存在异议，现对项目重新招标。10月18日，该项目再次发布招标公告。11月11日，项目定标结果公示，最终确定黑龙江嘉美建设有限公司为预中标单位。