(高危监狱2)_政策焦点_大模型落地，跑得快更要跑得(高危监狱2)稳

大模型落地，跑得快更要跑得(高危监狱2)稳

8.我们重申支持以世贸组织为核心、以规则为基础，开放、透明、公平、可预测、包容、平等、非歧视的多边贸易体制，为包括最不发达国家在内的发展中国家提供特殊与差别待遇。我们强调支持世贸组织第十三届部长级会议（MC13）取得积极、有意义的成果。我们承诺建设性参与推进世贸组织必要改革，向MC13提交具体成果。我们呼吁在2024年前恢复所有成员均可使用、完整、运转良好、两级审理和具有约束力的世贸组织争端解决机制，并立即遴选新的上诉机构成员。

　　【AI世(高危监狱2)界】　　◎本报记者崔爽　　比盛夏的上海更火热的是2024世界人工智能大会暨人工智能全球治理高级别会议（以下简称“WAIC2024”）。大会线下参观人数突破30万人次，创历史新高。　　值得注意的是，WAIC2024的首发首秀不仅涉及模型更新换代，还涵盖应用、平台、系统等。行业和观众的目光更多投向与模型落地紧密相关的交互体验、商业模式等领域。　　一个引发广泛关注的问题是，随着大模型能力不断增强，其安全性、可靠性、可控性也日益受到挑战。尤其是面对行业用户合法合规、精准可控等要求，大模型可能存在的数据安全、幻觉等成为绕不过的问题。　　中国信息通信研究院华东分院人工智能事业部主任常永波说，应用价值与应用安全是大模型发展的两翼，当前大模型已进入快速迭代期，在积极探索落地应用的同时，大模型厂商也要高度重视应用场景需求下对安全的行业要求。　　技术自身缺陷不容忽视　　依托庞大参数规模、海量训练数据、强大算力资源，大模型作为人工智能领域最热门的技术分支，已在多个领域表现出超越人类的能力。　　“金融、医疗、教育、政务、制造等众多领域都在积极探索大模型安全应用范式，以应对大模型安全风险。”常永波介绍，伴随大模型的深度应用，产学研用各方都在加强大模型安全威胁和防御技术体系研究。在原有可信人工智能治理体系框架基础上，提升大模型的鲁棒性、可解释性、公平性、真实性等能力成为行业研究热点。安全评测技术和安全防御技术的不断成熟，有效护航大模型发展。　　WAIC2024上，清华大学、中关村实验室、蚂蚁集团等机构联合撰写的《大模型安全实践（2024）》白皮书（以下简称“白皮书”）正式发布。白皮书显示，大模型技术存在自身缺陷，包括生成内容不可信、能力不可控以及外部安全隐患等问题。　　“幻觉是大模型目前比较难解决的问题。”常永波说，模型在遵循语法规则的同时，可能产生虚假或无意义的信息。这一现象源于大模型基于概率推理的输出方式。它可能导致对模糊预测的过度自信，从而编造错误或不存在的事实，影响生成内容的可信度。“智能涌现”是大模型的另一种效应，它可以让模型展现出色性能，也具有突发性、不可预测性和不可控性等特征。　　另外，大模型的脆弱性和易受攻击性使外部安全隐患难以消除。相关数据显示，随着大模型技术快速发展，相关网络攻击也在增多。　　聚焦安全可靠可控性建设　　大模型带来的种种风险，对监管方、学术界、产业界是全新且不可回避的问题。　　近年来，《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》等政策法规相继发布，搭建起我国人工智能治理的基本框架。一系列政策法规坚持发展与安全并重原则，强化科技伦理风险防控，从技术发展与治理、服务规范、监督检查与法律责任等层面对大模型安全发展提出要求。　　白皮书提出，构建大模型安全政府监管、生态培育、企业自律、人才培养、测试验证“五维一体”的治理框架。　　在监管方面，常永波介绍，敏捷治理正成为一种新型治理模式。该模式以柔韧、流动、灵活及自适应为特点，倡导多元利益相关者共同参与，能快速响应环境变化。在实施治理策略时，结合柔性伦理规范和硬性法律法规，构建完善的治理机制，在规制大模型风险的同时平衡创新与安全。　　“为确保大模型在实际应用中发挥最大效能，防止潜在风险和滥用，大模型建设通常会聚焦三个重要维度：安全性、可靠性和可控性。”蚂蚁集团安全实验室首席科学家王维强解释，安全性意味着确保模型在所有阶段都受到保护，防止任何未经授权的访问、修改或感染，保障人工智能系统无漏洞、免诱导；可靠性要求大模型在各种情境下都能持续提供准确、一致、真实的结果，这对于决策支持系统尤为重要；可控性关乎模型在提供结果和决策时能否让人类了解和介入，以便人类根据需要进行调适和操作。　　王维强特别提到时下备受关注的Agent（智能体）。他说，Agent是目前大模型落地的关键路径，但复杂的Agent体系进一步扩大了大模型风险敞口。目前RAG（检索增强生成）、指令遵循、知识图谱嵌入等方法可有针对性地提升模型输出的可控性和准确性。　　合力推动人工智能健康发展　　“目前来看，让大模型完全不犯错几乎不可能，但减小犯错几率，减弱错误危害性，是可以做到的。”常永波说，安全治理需产学研共同发力，中国信息通信研究院已开展一系列标准和测评研究，头部厂商也在加速构建自身的安全和治理体系。　　蚂蚁集团安全内容智能负责人赵智源介绍了相关经验。一方面，在大模型产品投入应用前，企业需做好全面评测，对暴露出的安全问题展开针对性防御，把好入口关；相关产品进入市场后，也要时刻监控可能出现的风险隐患，进行技术补救和改进。另一方面，模型技术通常跑在安全技术前，行业研究要保持一定前瞻性。　　“我们很早就开始探索基于安全知识构建视觉领域生成内容风险抑制的技术。在多模态大模型发布后，我们又将这一技术集成到多模态基座中，降低风险内容生成比例。”赵智源介绍，蚂蚁集团已构建起面向产业级应用的大模型安全一体化解决方案“蚁天鉴”2.0版本，形成包括大模型基础设施测评、大模型X光测评等在内的测评和防御技术链条，并已运用于金融、政务、医疗等专业场景下的AI应用全流程。　　常永波说，大模型落地门槛正在大幅降低，大量中小企业在模型安全治理方面的能力较弱，有些甚至不符合基本的合规要求。解决这些问题，需要监管的进一步引导和头部厂商的能力释放。　　“我们现在已把‘蚁天鉴’的测评能力框架开源，将来也会把检测能力以及对风险的认知更多分享到平台上，它可以适配较多模型。希望我们提供的开放能力能帮助大模型行业持续健康发展。”王维强说，模型厂商离用户最近，可第一时间发现安全隐患，并通过和监管保持良性沟通互动，助力大模型安全落地。　　清华大学长聘副教授李琦认为，大模型安全应用是一个新兴领域，研究和应用尚处于起步阶段。随着新的实践不断深入发展，相关技术也会持续升级，为建构大模型安全实践范式打造高价值参考体系。　　人工智能治理是全球性问题。WAIC2024开幕式上发布的《人工智能全球治理上海宣言》提出，高度重视人工智能的安全问题。宣言强调，以发展的眼光看问题，在人类决策与监管下，以人工智能技术防范人工智能风险，提高人工智能治理的技术能力。宣言呼吁，推动制定和采纳具有广泛国际共识的人工智能的伦理指南与规范，引导人工智能技术的健康发展，防止其被误用、滥用或恶用。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:李宗仁

TOP1热点：玻利维亚总统表示玻希望成为金砖国家的战略伙伴

埃塞俄比亚联邦民主共和国是非洲东北部内陆国，首都为亚的斯亚贝巴，面积为110.36万平方公里，人口为1.23亿。阿姆哈拉语为联邦工作语言，通用英语。。

37.我们认识到中小微企业对充分释放金砖国家经济潜力的关键作用，重申其参与生产网络和价值链的重要性。我们将继续共同致力于消除各种制约因素，例如缺乏便捷的信息和融资渠道、技能短缺、网络影响、过度监管负担及采购相关的限制因素，确保企业更便捷地获取信息和融资、技术升级和市场连接。我们核可《金砖国家中小微企业合作框架》，该框架将促进金砖国家在展会展览信息交流等方面的合作，鼓励中小微企业参与选定的活动，以促进中小微企业间开展可能达成交易的互动和合作。金砖国家成员将促进商务代表团交流，推动中小微企业举办具体行业的企业对企业（B2B）会议，以加强金砖国家中小微企业间合作和商业联盟，并特别关注妇女和青年所有的中小微企业。各成员将提供中小微企业、商业发展机遇以及合作可能性等相关信息，以促进金砖国家中小微企业发展。此外，我们将促进贸易政策、市场情报等信息共享，以提升中小微企业国际贸易参与度。我们将推动企业获取资源和能力，包括有助于改善中小微企业参与经济活动和全球价值链的技能、知识网络和技术。我们将就推动金砖国家中小微企业融入全球贸易和价值链的举措和方式交换意见，包括分享如何通过区域一体化支持中小微企业发展的经验。

TOP2热点：在全社会树立科学的成才观（人民论坛）

56.我们再次强调落实《联合国气候变化框架公约》（UNFCCC）及其《巴黎协定》以及恪守共同但有区别的责任和各自能力原则的重要性，加强低成本气候技术转让能力建设，并为环境可持续项目动员可负担、充足且及时拨付的新的额外资金。我们同意，有必要捍卫、推动和加强气候变化的多边应对，共同推动《联合国气候变化框架公约》第28次缔约方大会（UNFCCCCOP28）取得积极成果。我们认识到，发达国家应增强支持气候行动的执行手段，包括提供充足、及时、可负担的气候融资、技术合作、能力建设和技术转移。此外，有必要建立全面的资金安排处理气候变化的损失和损害，包括将《联合国气候变化框架公约》第27次缔约方大会上同意建立的损失和损害基金投入运作，以使发展中国家受益。

全力支持俄罗斯担任2024年金砖国家主席国并在喀山举办金砖国家领导人第十六次会晤。

TOP3热点：稳中求进每月看|信心和动力不断增强——8月全国各地经济社会发展观察申鹤乳液狂飙流口水图片

期待新开发银行为可持续发展提供并维持最有效的融资方案，稳步扩员、改善治理、提高运营效率，以实现新开发银行2022－2026年总体战略。

71.我们继续致力于加强金砖国家人口问题合作，因为人口年龄结构变化同时带来挑战和机遇，特别是在妇女权利、青年发展、残疾人权利、就业和劳动世界的未来、城镇化、移民和老龄化等方面。

TOP4热点：引领青年讲好“中国故事”，构建中华文明“大传播”体系hlw葫芦里面不买药千万影片你需要

新华社北京8月24日电

30.我们重申由发达国家、新兴市场和发展中国家共同组成的二十国集团在国际经济和金融合作领域继续发挥首要多边论坛作用的重要性。通过该机制，主要经济体共同寻求全球挑战的应对方案。我们期待印度担任主席国的二十国集团领导人第十八次峰会在新德里成功举办。我们注意到印度、巴西和南非分别于2023年至2025年担任二十国集团主席国，将为积聚持续变革势头提供机遇。我们支持他们在担任二十国集团主席国期间保持连续性和协作，祝愿他们的努力取得圆满成功。因此，我们致力于采取平衡方式，在2023年印度、2024年巴西和2025年南非担任主席国期间，继续放大并将全球南方的声音进一步纳入二十国集团议程。

TOP5热点：外卖包装怎样收费更合理？防屏蔽映画邮箱ady

17.我们欢迎中东局势的积极发展，欢迎金砖国家为支持中东地区发展、安全与稳定所作努力。我们核可2023年4月26日金砖国家中东事务副外长/特使会议联合声明。我们欢迎沙特阿拉伯王国和伊朗伊斯兰共和国恢复外交关系，强调通过对话和外交缓和紧张局势、管控分歧是在这一具有重要战略意义的地区实现和平共处的关键。我们重申支持也门主权、独立和领土完整，赞赏有关各方在实现停火和寻求政治解决方案以结束冲突方面发挥的积极作用。我们呼吁各方开展包容性直接谈判，支持向也门人民提供人道主义、救济和发展援助。我们支持一切尊重叙利亚主权和领土完整的、通过谈判达成的政治解决方案，支持推动叙利亚危机持久解决。我们欢迎阿拉伯叙利亚共和国重新加入阿拉伯国家联盟。我们对巴勒斯坦被占领土上因以色列持续占领和扩大非法定居点引起的暴力升级导致的严峻人道主义局势深表关切。我们呼吁国际社会支持以包括联合国安理会和大会的相关决议以及《阿拉伯和平倡议》在内的国际法为基础的直接谈判，推动实现“两国方案”，从而建立一个完全主权的、独立的、可实现的巴勒斯坦国。我们赞赏联合国近东巴勒斯坦难民救济和工程处（近东救济工程处）广泛开展的工作，呼吁国际社会加大对近东救济工程处行动的支持，缓解巴勒斯坦人民人道主义局势。