你 AI教父 发展AI 杀 让它不 消灭AI不现实；要把AI训练好 辛顿 养虎为患
出品｜搜狐科技
作者｜张莹
编辑｜杨锦
7月26日，2025世界人工智能大会在上海开幕，图灵奖、诺贝尔物理学奖得主杰弗里·辛顿在主论坛上发表《数字智能是否会取代生物智能》的主题演讲。
辛顿认为，大语言模型理解语言的方式与人类非常相似，人类也会和大语言模型一样去产生幻觉。同时，辛顿强调，数字化的大语言模型远远优于我们类比信号驱动的大脑。
“数字计算虽然耗能巨大，但多个智能体要拥有相同的模型就能轻松交换各自学到的知识。生物计算所需能量要少得多，但在智能体之间共享知识方面差得多。如果能源廉价，数字计算整体上更占优势。”
辛顿提到，智能体已有能力进行拷贝，他们会给自己的子目标评级。两个显而易见的子目标，第一是生存，第二是获取更多权力，因为这有助于人工智能实现其他目标。
对于AI会掌控世界的担忧，辛顿认为，不能“一关了事”。辛顿把AI形容为成年人，人类像三岁小孩。成年人操控三岁小孩是很容易的，AI会劝说操控机器的人不要把他们关掉。
辛顿认为，我们现在的情况就像一个养了只非常可爱的小虎崽的人。我们只有两个选择：第一，把它训练好，让它不来杀你；第二，把它干掉。
在辛顿看来，消除AI并不能成为一个选项，“AI 已经在医疗、教育、气候变化、新材料等方面做得非常好，几乎能帮助所有行业变得更有效率。也就是说，人类想要生存，就必须训练AI，让他们不要消灭人类。”
辛顿表示，各国不会在防御人工智能的危险用途上进行合作，例如:网络攻击、致命自主武器、用于操纵公众意见的虚假视频。但是在防止 AI 操纵世界方面是会进行合作的，没有一个国家希望 AI 统治世界。
辛顿建议，建立一个由各国人工智能安全研究所与国内研究网络组成的国际社群，培养出不会想要从人类手中夺取控制权的向善的人工智能所需的技术。“但从长期来说，这可以说是人类面临的最重要的问题。”
以下为演讲全文，经编辑：
过去六十多年里，AI 研究一直存在两种智能范式：
一种是逻辑启发范式。大家都认为“智能的本质在于推理”。我们通过一些符号规则，对符号的表达式进行操作来实现推理。首先要理解知识如何以符号表达的形式进行表示。
另一种是以生物为基础去理解 AI。那就是图灵和冯·诺伊曼所相信的：智能的基础就是更好地去了解学习网络中的一些连接权重。这个过程中，“理解”是第一位的。
1985 年，我做了一个非常小的模型，想把这两个理论结合在一起，更好地去理解人们是如何理解一个词。每一个词我都放了好几个不同的特征，把前一个词的特征记录下来，我们就可以预测下一个词是什么。在这个过程中，我们没有存储任何的句子；我们生成句子，然后预测下一个词。
那接下来的 30 年发生了什么？十年后，Yoshua Bengio 展示了这种方式可以来建模真实的自然语言。二十年后，计算语言学家终于开始接受“特征向量（嵌入）”。三十年后，谷歌发明了Transformer，OpenAl向世界展示了它的强大能力。
所以我们今天的大语言模型，我把它视为“微型语言模型的后代”。他们使用了更多的词作为输入，使用了更多层的神经元结构，因为需要有大量模糊不清的数字的使用，同时特征之间也建立了更加复杂的交互模式。
但是就像我做的那些小模型一样，大语言模型也与人类理解语言的方式是一样的，也就是把语言转化为一些特征，然后把这些特征以一种非常完美的方式整合在一起，这就是 LLM里面各个层次里面所做的事情。因此，我的理解是，LLM理解语言的方式与人类非常模型。
我们可以用乐高来类比词语是如何运作的。我们可以用乐高积木非常好地建构出各种大型三维结构，词语就像是高维的乐高积木，可以用来建构几乎任何事物，这些建构可以被传达给其他人。虽然有成干上万个形状各异的词语，但每个“形状”都有一定的灵活性，能够根据上下文进行变形，与其他词语契合。每个词都有许多形状奇特的“手”，需要与其他词语“握手”才能组合在一起。理解一句话更像是折叠一个蛋白质分子，而不是将其翻译成一种明确无歧义的逻辑表达式。
所以我的观点就是， 人们理解语言的方式和大语言模型理解语言的方式几乎是一样的。所以人类也会和大语言模型一样去产生幻觉，因为我们也会创造出来很多有幻觉的一些语言。
但有一点，数字化的大语言模型远远优于我们类比信号驱动的大脑。
计算机科学的一个原则就是，要把软件和硬件分开看。我们可以在不同的物理硬件上运行相同的程序或相同的神经网络。这意味着程序中的知识或神经网络的权重是永生的:它不依赖于任何特定的硬件。
为了实现这种“永生性”，我们让晶体管在高功率下运行，使其表现出可靠的二进制行为。我们无法利用硬件中丰富的类比特性，因为这些特性不够稳定可靠。
人脑是模拟的，不是数字的。每一次激发神经元激发的过程都是模拟型的，每一次都不一样。我不可能把我脑子里的神经元结构转到你脑子里，这是做不到的。知识的传播在硬件里和在人脑里是完全不同的东西。
数字智能的这些知识，是永生的，带来两大好处：第一，我们可以用很小的功率就够了，但我们的大脑却有几万亿个神经连接。第二，我们不需要花非常多的钱去做一模一样的硬件。
但我们还有一个比较大的问题， 从一个模拟模型把知识转到另一个模型是非常低效、非常难的。 我没有办法把我脑袋里的东西直接展示给你。我们能做的，就是用其他方式来解释给你听，我已经学到的是哪些东西。
要解决这个问题的最佳方法叫“蒸馏” （distillation），deepseek就是这样做的。从一个大的神经网络把知识转到一个小神经网络，这就像“教师—学生”的关系。教师向学生展示各种输入对应的正确响应，学生通过调整自身的权重，使其更有可能给出与教师相同的响应。
蒸馏多有效呢？一句普通的话大约包含一百比特的信息量。因此学生在尝试预测下一个词时，最多也只能从每句话中学习大约一百比特的信息。
如果独立智能体完全共享同一组权重，并以完全相同的方式使用这些权重，它们就能通过交换权重或梯度，将学到的知识彼此传递。这种共享一次即可实现数十亿乃至数万亿比特的带宽。不过，这要求所有智能体的运作方式必须完全一致，因此它们必须是数字化的。
我们的看法是： 数字计算虽然耗能巨大，但多个智能体要拥有相同的模型就能轻松交换各自学到的知识。生物计算所需能量要少得多，但在智能体之间共享知识方面差得多。如果能源廉价，数字计算整体上更占优势。
这也让我很担忧，因为几乎所有的专家都认为我们会生产出比人类更智能的 AI。我们习惯成为最聪明的生物，所以很多人难以想象：如果 AI 比人更聪明会怎么样？
我们创造的 AI 智能体，他们能够帮我们完成任务。这些智能体已有能力进行拷贝，他们会给自己的子目标评级。他们想做两件事：第一，他们想要生存；第二，他们想要完成我们给他们的目标，因此也希望获得更多控制。
我觉得我们不能只是“把他们一关了事”。 他们会很方便地操纵使用他们的人——我们就会像三岁小孩，而他们就像成年人，操控三岁小孩是很容易的。
有人觉得“等他们变聪明，我们就把他们关掉”，这是不现实的。他们会操纵我们，会劝说操控机器的人不要把他们关掉。
所以我们现在的情况就像一个养了只非常可爱的小虎崽的人。 但如果一直养下去，你要确保它长大的时候不会把你给杀了。一般来说，养老虎当宠物不是一个好主意。
我们只有两个选择：第一，把它训练好，让它不来杀你；第二，把它干掉。
我们没有办法把AI消灭掉。AI 已经在医疗、教育、气候变化、新材料等方面做得非常好，几乎能帮助所有行业变得更有效率。我们没有办法消除 AI，即使一个国家消除了 AI，其他国家也不会这么做。所以这不是一个选项。
这意味着，如果我们想要人类生存，就必须找到一个办法来训练AI，让他们不要消灭人类。
我的个人观点是， 各国不会在防御人工智能的危险用途上进行合作，例如:网络攻击、致命自主武器、用于操纵公众意见的虚假视频。因为他们的利益不一致。
但是在有一个方面，我们是会进行合作的。我们看 50 年代冷战巅峰时期，美国和苏联一起合作预防全球核战争。尽管他们在很多方面对抗，但在这一点上可以合作。
我们现在的局面是， 没有一个国家希望 AI 统治世界，每个国家都希望人类能够掌控世界。如果有一个国家找到办法防止 AI 操纵世界，那么这个国家肯定会很乐意告诉其他国家。
所以我们希望有一个由各国人工智能安全研究所与国内研究网络组成的国际社群，培养出不会想要从人类手中夺取控制权的向善的人工智能所需的技术，可能与使人工智能更智能所需的技术是相对独立的。 这就好比，教导孩子成为一个好人的方法，与让他们变得聪明的方法是相对独立的。
如果这个观点是正确的，各国就可以设立资金充足的人工智能安全研究所与国内研究网络，专注于研究如何让人工智能不想夺取控制权。尽管 AI 比人类聪明很多。
我们现在还不知道怎么做，但从长期来说，这可以说是人类面临的最重要的问题。好消息是，在这个问题上，所有国家都是可以一起合作的。
寂寞在唱歌 歌词
寂寞在唱歌歌曲原唱：Michael Cretu填词：施人诚谱曲：Dylan W Cross，Michael Cretu天黑了，孤独又慢慢割着有人的心又开始疼了，爱很远了 很久没再见了，就这样竟然也能活着你听寂寞在唱歌，轻轻的狠狠的歌声是这麽残忍，让人忍不住泪流成河谁说的，人非要快乐不可好像快乐，由得人选择找不到的，那个人来不来呢我会是谁的谁是我的，你听寂寞在唱歌 轻轻的狠狠的，歌声是这麽残忍 让人忍不住泪流成河，你听寂寞在唱歌温柔的疯狂的悲伤越来越深刻，怎样才能够让它停呢你听寂寞在唱歌，轻轻的狠狠的歌声是这麽残忍，让人忍不住泪流成河你听寂寞在唱歌，温柔的疯狂的悲伤越来越深刻，怎样才能够让它停呢你听寂寞在唱歌，轻轻的狠狠的歌声是这麽残忍，让人忍不住泪流成河你听寂寞在唱歌，温柔的疯狂的悲伤越来越深刻，谁能帮个忙让它停呢天黑得，像不会再天亮了明不明天，也无所谓了就静静的，看青春难依难舍泪还是热的，泪痕冷了扩展资料：《寂寞在唱歌》是台湾女歌手阿桑第二张个人专辑《寂寞在唱歌》的同名主打歌，发行于2005年2月25日。 歌曲翻唱自德国New age音乐教父也是ENIGMA里的灵魂人物Michael Cretu70年代脍炙人口的名曲《Moonlight Flower》，由施人诚填词。 阿桑第二张专辑的首波主打《寂寞在唱歌》的MV导演黄中平为了从歌曲的氛围大胆点出男女情欲中纠葛的情欲与空虚、不安与猜忌，因为决定在MV内容加入许多大胆激情的戏份，考量到阿桑的歌手身份，最后还是决定找演员完成情欲戏份，让阿桑松了一口气 。
经典好莱坞大片有哪些？
我看过的觉得非常好的电影《朗读者》《决战犹马镇》《朱诺》《教父》《飞越疯人院》《洛奇》《猎鹿人》《走出非洲》《雨人》《沉默的羔羊》《杀无赦》《辛德勒的名单》《阿甘正传》《勇敢的心》《泰坦尼克号》《无间道风云》《梦幻女郎》《百万宝贝》《费城故事》《假如爱有天意》《七宗罪》《加勒比海盗》《这个杀手不太冷》《肖申克的救赎》《现代启示录》《断背山》《特洛伊》《廊桥遗梦》《冷山》《理发师陶德》《太阳泪》《绿色奇迹》《木乃伊》《燃情岁月》《卡萨诺瓦》《玛歌皇后》《红与黑》《末路狂花》《珍珠港》《风语者》《碟海计中计》《极限特工》《X战警》《神奇四侠》《猫女》《王者之心》《征服者》《斯巴达三百勇士》《拜见岳父大人》《十一罗汉》《搏击俱乐部》《拳坛暗影》《世贸中心》《海啸之后》《完美风暴》《雾都孤儿》《赎罪》
《盗梦空间》谁看懂了的，可以给我解释一下吗？
很简单。 就是一个人（莱昂纳多）有到别人梦里窃取信息的能力，被另一个有钱有权的人（斋藤）利用去使他的竞争对手放弃一项计划。 然后就制造了三层梦境，一步步使那个人在自己的意识深处改变自己的计划，但在计划执行的时候发生了一些改变，但最终完成了任务，使莱昂纳多回复了自由身。 （因为他的妻子的死亡。 他的妻子和他曾经在梦中过得很快乐，但他的妻子分不清真实和梦境，所以他就深入他妻子的梦中深处改变她的意识，结果她的妻子在现实中分不清，跳楼自杀。 ）高潮部分就是一层一层的梦中冒险。
本文地址： http://www.xiaojiuz.com/zuixinwz/628a34e6c2e65f051b8e.html
专注画面分割器,HDMI矩阵切换器,网络控制键盘,拼接处理器，网络解码矩阵的开发、生产、销售的专业公司-广州邮科网络设备有限公司，咨询热线：400-883-1366、020-85554003
吉林驾校提供的吉林科目一模拟考试2025科目一是2025最新科目一模拟考试，吉林驾驶员考试2025科目一和吉林科目四模拟考试2025提供吉林科目一模拟考试2025，让你快速通过科目一科目四理论考试！
【厂家直销】PVC快速门生产厂家,快速门定制,工业堆积门防火门价格【厂家直销】提供感应门平移门,防火门,车库门,堆积门,提升门,冷库门【批发报价】请致电15555112009。
该站点未添加描述description...
久立特材
青岛海特尔环保科技有限公司是一家专注于水质监测领域的企业，致力于为客户提供全面的水质监测解决方案。公司集研发、生产、销售、维修及技术服务于一体，拥有强大的技术实力和丰富的行业经验。我们以“守护水资源，共创绿色未来”为企业使命，通过创新技术和优质服务，助力环境保护与可持续发展。联系电话：400-106-2686。
安徽晨翔瑞达机械有限公司是集产品研发,工业设计,加工制造,项目安装,自动化控制,调试培训于一体的新型科技企业,主要产品如:不锈钢搅拌罐,电加热反应罐,不锈钢搅拌桶,冷热缸,老化缸,沉淀罐,配液罐,配制罐,调配罐,酶解罐,配料罐,乳化罐,提取罐,蒸发浓缩设备,换热设备,层析树脂设备等及成套工程设备的设计,制造与安装.
白小白，洗瓶机，清洗机，实验室清洗机，清洗消毒机，全自动清洗机，白小白未来科技，白小白智能制造，实验室玻璃器皿清洗机，实验室器皿清洗机
开远律师提供法律解答，以图片文字为载体，专业律师解读，为广大老百姓提供实用的法律知识。
速安物流（13418788924）深圳货运公司，国内与港澳台物流供应商！致力于为客户提供优质高效的物流、运输、仓储、配送等一站式供应链物流运输服务。
威星科技是云南威星系统技术有限公司旗下的大型综合互联网平台！
二维码注册认证平台是在中国二维码注册认证中心的指导下，由中国电子商会和中国质量认证中心联合发起成立中国第三方二维码注册认证平台。面向国际国内企业、机构及商户提供二维码注册、认证、制作和统一编码、发放、验证等二维码应用服务。可实现各行业企业的信息展示二维码、产品二维码、溯源二维码、防伪二维码、网站二维码、支付二维码等展示营销服务，并提供各行业企业示范试点认证通道，打通企业品牌与产品品质的双飞跃。
情谊跨山海，同舟向未来，7月26日，2025中国—东盟教育交流周在贵州省贵阳市贵安新区中国—东盟教育交流周永久会址开幕，中国和东盟国家宾朋好友，再赴夏日里的盛会，共绘教育合作交流新画卷，2025中国—东盟教育交流周开幕式现场，18年来，交流周从最初的教育理念碰撞，逐步发展为覆盖教育、青年、人文等多领域合作的综合性平台，形成一系列影响...。
作者，龙敏飞7月26日，以，数智新时代电商新价值，为主题的第五届中国新电商大会在吉林省延边朝鲜族自治州延吉市启幕，大会设置了，1，6，3，的十项活动，全面展现新电商领域的最新成果与发展趋势，中国电商大会成绩斐然，从对社交电商模式的探索，到直播带货规范发展的讨论，再到如今对，数智新时代电商新价值，的探讨，每次大会都精准把握行业热点，提出...。
当中国汽车高举电动化、智能化的旗帜开始对市场进行大规模洗牌，一向骄傲的韩系代表——现代汽车终于愿意正视问题，并试图从大获成功的国产品牌身上，找到自己不再被中国用户青睐的真实原因，近日，韩国媒体的一则报道证实了现代汽车，问诊，的迫切性，在中国销售火爆的小米SU7漂洋过海出现在了首尔街头，并被拍到正在运往现代汽车位于首尔瑞草区的总部大楼，...。
新华社北京7月23日电题，着力建设安全可靠的韧性城市——深入贯彻落实中央城市工作会议精神述评之七新华社记者叶昊鸣城市要实现高质量、可持续发展，需要形成安全高效的发展模式，日前召开的中央城市工作会议部署城市工作七个方面的重点任务，其中之一是，着力建设安全可靠的韧性城市，随着我国城镇化进程持续推进，在全球气候变化加剧和城市风险复杂化叠加...。
文，ZT编辑，青橘罐头前言19岁男孩因一次手滑多付910元车费，司机却置若罔闻，多次索要未果，加上初来大城市的无助感，年轻的生命最终走向绝望，选择结束了自己的生命，而家属选择将司机给告上法庭，但在开庭审理的时候，司机是拒绝到场，并且多收取的910元的打车费也没有退还，这件事情也在网上引起了轩然大波，不少的网友纷纷的开始指责司机，甚至疑...。
22日举行的，高质量完成‘十四五，规划，系列主题新闻发布会上，中国残联主席程凯表示，，十四五，残疾人保障和发展规划，主要目标、主要指标进展符合预期，经初步评估，11项主要指标将如期实现，...。
随着labubu的火热，原本小众的，潮玩，破圈，进入大众的视野，与此同时，更多热爱潮玩的，年轻人，，他们的想法与行为也被置于聚光灯下，小妮，化名，是一位互联网从业者，她入圈9年，买下很多，潮玩，，并斥资买下一套房专门安放她的玩具，这些花费高达600万元，她的行为让不少人瞠目，九派长谈近期找到她，和她聊了聊追逐潮玩的感受，她这九年来的入...。
CDN是计算机行业的专业术语，通俗的讲是让多个服务器节点处理不同用户的请求，对于站长来说，是解决大流量数据访问的方案之一，今天详细讲下CDN是什么意思，CDN加速技术是什么，一、CDN是什么意思CDN的全称是ContentDeliveryNetwork，即内容分发网络，通俗讲就是让在各个不同地点的网络用户，都能够快速访问到网站提供的内...。
关于我们奇闻网是一个致力于收集和分享世界各地奇异奇闻的网站，我们的使命是让您大开眼界，了解这个星球上最不寻常、最不可思议的现象，从科学谜团到神秘生物，再到历史逸闻，我们涵盖了各种各样的奇闻异事，以满足您对未知事物的好奇心，我们的团队约翰·史密斯，创始人兼总编辑玛丽·琼斯，高级编辑彼得·李，特约撰稿人我们的宗旨我们相信，世界充满了神奇和...。
背景西安美术学院是一所历史悠久的艺术类高等院校，位于陕西省西安市，近年来，关于该校的灵异事件传闻不断，引发了广泛关注，主要传闻女生宿舍闹鬼，相传，女生宿舍经常出现不明声音、物品移动等现象，甚至还有目击者声称看到过女鬼，图书馆藏书楼闹鬼，据说，图书馆藏书楼中有一本古书，经常发出诡异的声音，曾有学生在夜间进入藏书楼，结果被吓得魂不附体，美...。
北京灵异车祸事件是一个备受争议的事件，引发了真相与迷信之间的交织，该事件发生在2023年1月1日，一辆黑色轿车在北京市中心发生车祸，导致车上三人死亡，事件经过根据警方调查，黑色轿车在凌晨3点左右失控撞上了一根电线杆，车上三人当场死亡，分别是司机张某，男，28岁，、乘客李某，女，25岁，和赵某，男，26岁，警方初步判断，车祸可能是由于...。
罗布泊，生命的禁区罗布泊，位于中国西北部的新疆维吾尔自治区，是一片广袤而荒凉的沙漠地区，它以其神秘和恐怖而闻名，流传着许多关于恐怖生物的传说，恐怖生物的照片近年来，一些声称拍到罗布泊恐怖生物的照片在网上流传，这些照片中，有长着巨大眼睛和牙齿的怪物，有浑身长着刺的怪兽，还有体型巨大的不明生物，这些照片引发了人们的广泛关注和猜测，照片的真...。
在北京时间4月12日晚结束的中超第6轮一场焦点战中，浙江队在客场2，3惜败给上海申花，而比赛尾声，浙江队球员连续有人抽筋拖时间，引发了申花球员的强烈不满，本场比赛进程可谓跌宕起伏，申花依靠特谢拉的世界波取得领先，但易边再战，浙江队却在第69和第71分钟的3分钟内连进2球完成反超，尽管申花随后依靠于汉超替补破门再次追平，但2，2的比分对...。
俄乌战争的最新一轮冲突将世界的目光再次聚焦在了红军城这一战略要地，正如，华尔街日报，及国际权威媒体所报道的，红军城的战斗不仅是乌克兰东部防线的，生命线，，更是证明现代战争信息化与电子战的深刻教训，这场战争的背后，不仅是武器与兵力的较量，还有信息技术、民众情绪以及国际关切等多重因素交织，形成一幅复杂的战争画卷，2025年7月中旬开始，俄...。
佛山累计确诊超3600例疫情已外溢至省外7月24日，佛山五区卫生健康局发布情况通报，根据通报内容，佛山全市已累计报告基孔肯雅热确诊病例3645例，均为轻症病例，单日新增450例，疫情仍处在高位平台期，另外，基孔肯雅热疫情不仅扩散至佛山市其他区，而且还外溢至省外，中国澳门特别行政区政府卫生局通报称，澳门卫生局7月18日接获１例输入性基孔...。
你有没有注意到，这几年骗子的演技越来越好，甚至比我追的剧还敬业，前几天柬埔寨电诈园区被军警突袭的新闻，我看到画面的一瞬间，脑子直接断片了两秒，这哪是诈骗窝点，分明是个影视基地，银行、律所、保险公司，还有个假公安局，最离谱的是墙上还放着反诈宣传片，诈骗犯边骗钱边做反诈教育，这种操作，要是视频通话接得晚两秒，我估计三岁时尿床的事都得主动交...。
2025年高考录取季，上海兴伟学院遭遇零投档尴尬局面，即便分数线一降再降仍无人问津，这所曾被视为高攀目标的民办本科院校，如今却成了家长和考生避之不及的烫手山芋，背后折射出的，是教育投资理性化浪潮下的深刻变革，百万成本与性价比失衡上海兴伟学院2024学年学费高达14.9985万元，年，四年学费近60万元，加上生活成本，总支出轻松突破百万...。