八重神子被丘丘人抓去繁殖后代AI让全球GD八重神子被丘丘人抓去繁殖后代P翻10倍!但风险比核问题还严峻,三大图灵奖大佬对话,WAIC干货看尽
AI让全球GD八重神子被丘丘人抓去繁殖后代P翻10倍!但风险比核问题还严峻,三大图灵奖大佬对话,WAIC干货看尽
“历史和现实反复证明,搞乱一个社会、颠覆一个政权,往往先从意识形态领域打开缺口,先从搞乱人们的思想入手。思想防线一旦被攻破,其他防线就很难守住,政权安全和制度安全也会随之垮塌。”
来源:八重神子被丘丘人抓去繁殖后代智东西 作者|李水青香草 编辑|云鹏 智东西7月4日报道,今天上午,2024世界人工智能大会(WAIC)在上海开幕!作为国内最高规格的AI领域行业大会之一,WAIC2024开幕主论坛不仅有高层参与,同时汇聚了众多产学研领域大佬。 开幕式请到了 更有 开幕式上, 同样谈及AI治理的重要议题, 此外, 此次WAIC2024展览面积超5.2万平方米,共有500余家企业参展,展品数量超1500项,覆盖核心技术、智能终端、应用赋能等三大板块。 大会还公布了“镇馆之宝”名单,商汤科技首个面向C端用户的可控人物视频生成大模型Vimi、阿里云A编程助手通义灵码、支付宝智能助理、智谱A基座大模型、特斯拉赛博越野旅行车等入选。 在开幕式上,三位图灵奖得主罗杰·瑞迪、曼纽尔·布卢姆和姚期智进行了精彩的圆桌对话,原微软执行副总裁、美国国家工程院外籍院士沈向洋担任主持人。 沈向洋向三位图灵奖得主提出了多个问题,包括:如何看待AI发展及担忧?为什么我们紧迫关注AI治理问题?如何看待有意识的AI等等。 罗杰在当年获得图灵奖时就提到要建立大型AI系统,他在圆桌中谈道,很开心看到会场大家对AI治理和风险的探讨,没有只是去探讨怎么去用AI。大家没有花太多时间,探讨我们如何来用AI,需要做哪些研究和投资?我们现在还没做到这一点。 在能力建设方面,罗杰认为,目前我们的教育体系没办法培养未来了解AI的一代人,他们需要用AI做好自己的工作,我们怎么让每个人把自己的工作做好?这个问题很关键。 谈及接下来推进的研究,罗杰谈道,每个领域都会出现新机会,也会出现新问题,比如汽车刚出现时,为人们出行带来便利,但交通事故也带来很多伤亡。因此对于AI我们也不能因噎废食。 每个工程师都能做更好的事,如何让他们效率更高?这意味着要做很多投资和研究工作,我希望不要只想着负面,要想着未来的机会很多。他觉得最大的机会,以后每个人的工作效率会 曼纽尔在现场解读了有意识的AI。他谈道,年少时他的父亲曾告诉他:“如果你知道你的这个大脑里在发生什么,那么你就会变得更加聪明一些。”很幸运,他的工作是跟意识有关的。意识可以给我们想法,让我们去建立AGI。 曼纽尔的团队已经创立了一个意识模型—— CTM意识模型特别有意思,1000万个处理器都是类似于意识模型,没有一个中央决策者,而是让每一个处理器参与决策。 曼纽尔的学生众多学生也拿到了图灵奖,当沈向洋问及他有什么为师之道?曼纽尔谦虚地称:“我的学生都比我聪明,我从他们身上学到了很多。有时候我不懂什么,我就直接说我不懂。” 姚期智谈及的自己对AI治理的关注,从风险方面讲解到自己作为计算机科学家对AI治理的见解。 他认为,AI风险主要来自 从计算机科学教角度,姚期智更关注 面对第一类风险,AI有时无法解释一些问题,使得研究新的密码学比较困难,我们对网络风险的应对还处在很早的阶段。 而面向第三类风险,这个和计算性有关,更大的算力可以带来更多的知识和智慧,解决很多以前解决不了的问题,这也是让人很恐惧的。现在,我们就是突然发现了一个方式,能创造比我们强大很多倍的新物种,我们需要确定能不能与它共存。 所以作为计算机科学家,姚期智看到最有深度的问题,就是我们怎么把AI控制好,避免它带来重大破坏,这是很难预测的。 清华大学苏世民书院院长、清华大学人工智能国际治理硏究院院长薛澜探讨了AI治理的重要议题。 AI能为我们做什么?薛澜谈道,大家对AI给予了很高的期望,根据SDG(可持续发展目标)最新分析,AI总体来看会对可持续发展的134个(79%)具体目标产生促进作用,对59个(35%)目标产生阻碍作用。 AI对这些目标的阻碍作用,代表AI可能带来风险。这些风险包括基于技术本身的风险、基于技术开发的风险和基于技术应用/滥用的风险等多个方面,都是不可忽视的。 如何推动AI收益最大化、风险降到最低? 薛澜谈道,首先在底层,我国在产业应用安全方面推出了一系列法律法规,推动AI的合理发展。我们针对算法、算力、数据推出了一系列的治理规则,针对风险推出了一系列准则。针对一些专项问题,包括具体场景的应用,我们也出台了相应的一些治理规则。此外,我国也在采取措施推动全民数字素养的提升。 从全球角度来讲,AI发展也还面临很多挑战。一方面,巨量的基础设施已经使得25亿人受益,但AI发展仍面临技术鸿沟、治理鸿沟,阻碍全球AI的发展。当今社会,一个国家带来的风险就是全球风险。国际对安全问题日益重视,同时对AI数智鸿沟关注仍不够,需要全球社会一起努力攻克。 以大模型为代表的深层次AI快速发展,也带来数据泄露、虚假信息、伦理问题等一系列风险、社会挑战,如何建立一个全面的AI安全治理体系,成为全球范围内的优先议题。 为此,上海人工智能实验室主任、首席科学家、清华大学慧妍讲席教授周伯文提出了一个新的技术主张—— 这一定律指的是,从长期视角来看,AI安全与性能要大体沿着45度的路线平衡发展。 现在AI发展的路线整体是低于45度的,也就是性能发展快于安全治理,也就带来了各种风险;而如果长期高于45度,则会阻碍技术和产业应用的发展。如何找到两者之间的平衡,是亟待解决的难题。 为了实现这一定律,上海人工智能实验室提出了一条以因果为核心的路径,即 “泛对齐”包含当前最前沿的人类偏好技术,如机器反学习、监管式对齐、基于人类反馈对齐等。这些对齐技术目前仅依赖统一的相关性而非真正的因果关系,因此可能导致错误的推理和潜在危险。 “可干预”是第二层AI对齐技术,包含AI系统的对抗训练、机械可解释性等,其通过高可解释性和泛化性来提高安全性能,同时也提升AI能力。 “能反思”则要求AI系统不仅要追求高效的执行任务,还要审视自身行为的外在影响和潜在风险,从而保证在高性能的前提下安全和道德边界不被突破。这个阶段的技术包括基于价值的训练、因果可解释性、反事实推理等。 周伯文谈道,目前全球AI安全和性能技术发展主要停留在第一阶段,一部分开发者在尝试第二阶段。但要真正实现AI的安全与性能平衡,必须完善第二阶段,并勇于攀登第三阶段。 最后,他呼吁全球开发者加强国际合作,这对于推动AI技术健康发展至关重要,我们的共同目标是构建一个开放安全的AI创新生态系统和人才培养环境。 新思科技总裁兼首席执行官盖思新认为,从商业和企业的角度来看,我们要了解AI产业链是从半导体开始的,同时也离不开上层软件。 回顾半导体行业历史,行业花了60年才实现5000亿美元的销售额,2020年翻了1倍到1万亿美元,几乎所有的这些增量都是由AI的增长所驱动的。 AI是一个非常大的转折点。盖思新谈道,新思公司为此提供软件,帮工程师使用复杂的半导体芯片,尽可能用软件实现自动化。AI能帮我们改进芯片开发的过程,从而实现更快的速度,在各方面实现优化。 “我们在AI上面有很多共同的原则。”包括政府合规问题,芯片中每个部分的材料都要保证安全,确保芯片没有不合规成分且监管高效。同时,如何使得半导体能耗消耗更高效,也是我们在半导体设计中需要考虑的问题。 新思科技有2万多名工程师,如何用AI来助力业务? 新思科技创办了一个AI卓越中心,以此教育自己的工作人员,让他们知道AI的价值、伦理及风险等,并帮他们教育客户来使用AI来开发芯片。 同时,新思科技也对AI进行商业化,2017年开始就在投资AI,在提供客户的方案里涉及AI,目前也已经包含很多生成式AI内容,比如用用生成式AI作为知识基础,提升工程师的效率,缓解工程师人才紧缺问题,从而提高整个行业的工作效率。 在耗能方面,基于AI技术服务,能耗减少30%,涉及更复杂的问题时效率还能增长15倍。 AI的快速发展,对企业运营模式、价值评估以及投资决策过程也产生了深远影响,深刻改变了投资格局。 黑石集团董事长、首席执行官兼联合创始人苏世民与索奈顾问及投资公司董事长、首席执行官乔舒亚·雷默就这一系列问题,展开了全球治理高端对话。 从商业的角度来看,AI是怎么改变一家企业现有的价值认定的? 苏世民谈道,自己在刚入行的时候并不擅长做模型,而现在出现了新的AI应用,可以帮助自己起草会议备忘录等,带来了很多惊喜。 在他看来,虽然对新的技术仍需保持一定警惕性,但不能“像鸵鸟一样把头埋在沙子里”充耳不闻,也不能完全不关注技术风险。 在AI领域中,苏世民是在学术研究方面慈善捐赠规模最大的人之一。当雷默问及为什么突然选择AI这个领域时,苏世民有些感慨地回答:“我想并不是我选择了AI,而是AI选择了我。” 早些时候,他曾作为投资新人资助了牛津大学的一个AI伦理运营项目。之所以这么做,是因为当时每个人都涌向纯理科投资的时候,他觉得需要将理科研究和人类情感上的一些事情相结合,去进行思考和研究,因为“这将会影响和改变人类未来10-20年之后的一些行为”。 同时他也十分关注监管方面的项目,在他看来,从事硬核技术、理科技术的人,在有可能出错的地方应心存敬畏。 相比于商业界,高校等学术机构现在在AI竞争方面处于劣势,一些突破性的进展大多出现在商业领域。这是算力等开发成本所导致的结构性变化。苏世民谈道,随着AI的持续发展,必须对学术界建立一种更有价值的扶持方式,要做一些比仅仅资助一位教授的研究项目来说,更有意义的事情。 在去年的WAIC上,产学研大佬们畅谈大模型浪潮,对下一阶段发展方向、应用爆发领域展开深入探讨和积极展望。 而到了今年,AI风险与安全已成为最受关注的话题之一,无论是性能与安全的平衡,还是教育体系的落后,都是全球范围内共同探讨的重要议题。 总的来看,AGI仍是科技行业共同期待的目标。我们期待看到各行各业能在安全可信的指导下,为AGI的发展注入新的生命力。 责任编辑:何俊熹koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:马建国
TOP1热点:用经得起历史考验的艺术语言表现党史,中共四大百年美术创作...
分离前,神舟十六号航天员乘组与神舟十七号航天员乘组开展了工作交接,完成了在轨工作经验交流、上行物资及下行样品转移安装等工作。分离后,神舟十六号航天员手持高清相机,通过飞船绕飞完成了以地球为背景的空间站组合体全景图像拍摄。。
TOP2热点:[浦东]福山外国语小学:福山馨芽沃土厚 种子无声共成林
在总结党的十八大以来金融工作时,会议提到了“八个坚持”:必须坚持党中央对金融工作的集中统一领导,坚持以人民为中心的价值取向,坚持把金融服务实体经济作为根本宗旨,坚持把防控风险作为金融工作的永恒主题,坚持在市场化法治化轨道上推进金融创新发展,坚持深化金融供给侧结构性改革,坚持统筹金融开放和安全,坚持稳中求进工作总基调。
海叔在此前的文章《王毅今起访美,中美如何重回健康稳定发展轨道?》中曾经提过,“王毅得以赴美访问,可以看出,美国方面必然有一些事情与王毅沟通。大抵这样的沟通也有利于中美下一轮的交往”。
TOP3热点:江西抚州东临新区开展食品安全“两个责任”包保工作督导兄妹之间是一种什么关系
“发病大增,即将进入流行期。”截至10月29日,吉林长春、河北邯郸、福建厦门等多地疾控发布流感流行提示。今冬明春,我国呼吸道传染病存在交互或共同流行的风险。
TOP4热点:交流促提升 互鉴助发展――安徽省六安市人社局到本区考察交...母亲育子失败退休奶奶
杨宇光表示,航天员返回地面后,恢复通常分为3个阶段。首先进行医学隔离,适应地面重力、提高心血管系统和支持运动器官的能力,同时进行平衡、步行等训练。在此期间,航天员与外界基本隔绝。隔离期结束后进行医学疗养,继续恢复健康的同时,要适当增加运动量,进一步增强体质,加强生理机能储备,可逐渐增加活动量。此后进行恢复疗养,逐步展开各项日常训练,航天员各项生理参数恢复到飞行前的状态。
TOP5热点:安徽蚌埠经开区综合执法局“五个一”持续开展制止餐饮浪费专...巜商务旅行戴绿色帽子hd
据中国载人航天工程办公室消息,圆满完成神舟十六号载人飞行任务的航天员乘组,于2023年10月31日乘坐任务飞机平安抵达北京。
TOP6热点:暑运热度超疫情前,国内机票价格即将上涨,“捡漏”还有机会...自由 性别 冲孔
今天(10月31日),记者从长安航空提供的独家视音频了解到,今年8月26日,长安航空机组执飞梧州至三亚航班过程中,在关键时刻用时12秒,成功处置飞机在起飞关键阶段遭遇鸟击特情,确保了173名旅客和10名机组人员的生命安全,为此,机组受到中国民用航空局通报嘉奖。
TOP7热点:重庆市市场监督管理局抽检食品2391批次 不合格12批次k8经典版最新款2023
“2018年10月1日至2023年10月20日期间商业银行发放的住房商业贷款,贷款房屋取得不动产权证书后,可以申请办理住房商业贷款转公积金贷款业务。”10月20日,山西省省级机关住房资金管理中心发布的《关于调整住房公积金贷款政策的通知》中,同样提到“商转公”等住房公积金贷款政策的调整。
TOP8热点:卡比尔出任阿富汗临时政府代理总理灵魂转移动漫
今天(10月31日),记者从长安航空提供的独家视音频了解到,今年8月26日,长安航空机组执飞梧州至三亚航班过程中,在关键时刻用时12秒,成功处置飞机在起飞关键阶段遭遇鸟击特情,确保了173名旅客和10名机组人员的生命安全,为此,机组受到中国民用航空局通报嘉奖。
TOP9热点:世卫组织建议→疯狂的婚姻台配
赵卫医生提醒,要尽量保持在新冠流行期间养成的良好的卫生习惯。第一,去公共场所戴好口罩;第二,尽量减少在密闭空间内的逗留时间;第三,回到房间要及时洗手,避免用没有经过清洁的手触摸眼、口、鼻。“平时坚持锻炼身体,提高身体素质,这是对抗所有传染性疾病的有力武器。”⑥
在优化融资结构方面,会议要求,更好发挥资本市场枢纽功能,推动股票发行注册制走深走实,发展多元化股权融资,大力提高上市公司质量,培育一流投资银行和投资机构。促进债券市场高质量发展。
TOP10热点:杨浦这个小区,新能源汽车充电桩“承诺共享”满天星系列女子亲卫队瑞士
据中国载人航天工程办公室消息,圆满完成神舟十六号载人飞行任务的航天员乘组,于2023年10月31日乘坐任务飞机平安抵达北京。