“首先要做的是达成共识,现实不是科幻小说,我们需要说服人们在安全方面做更多的研究。”杰弗里·辛顿说道。
4月初,2024年诺贝尔物理学奖获得者、加拿大计算机学家杰弗里·辛顿(Geoffrey Hinton,以下简称“辛顿”)接受了加拿大记者史蒂文·派金(Steven Paikin)的采访,两人就人工智能风险、与马斯克的交锋、诺贝尔奖奖金的使用等话题展开了讨论。
辛顿表示,人工智能的发展主要会带来两种风险,一是滥用人工智能,比如散布AI假消息、AI视频谋取私利,利用AI发动网络攻击等;二是当人工智能变得比我们人类更聪明时,它是否会脱离人类的控制,这一点是大家能想到但现阶段还没有解决办法的问题。因此辛顿呼吁人类要达成共识,在AI安全发展方面做更多的研究,特别是有能力的大公司,至少要把三分之一的资源投入到安全研究上。
1.他们是想把这个奖颁给人工智能,因为人工智能是当今科学界最令人兴奋的领域。
2.AI风险主要有两种:一种是滥用人工智能,这是短期的风险,并且已经发生了;第二种是当人工智能变得比人类更聪明时,它是否会脱离人类的控制,这是长期要考虑的风险。
3.首先要做的是达成共识,现实不是科幻小说,我们需要说服人们在安全方面做更多的研究。
4.在保护人类安全方面,我们已经没有国界划分,各国应该相互合作,我想没有哪个国家愿意看到人工智能失去控制。
主持人:2024年12月,在瑞典斯德哥尔摩举行的诺贝尔颁奖仪式上,你获得了诺贝尔物理学奖,那一天什么感受你还记得吗?
杰弗里·辛顿:感觉太神奇了,我不是学物理的,却获得了诺贝尔物理学奖,我觉得他们是想把这个奖颁给人工智能,因为人工智能是当今科学界最令人兴奋的领域。
主持人:此次的诺贝尔物理学奖颁发给你和约翰·霍普菲尔德(John J. Hopfield),是为了表彰你们“基于人工神经网络实现机器学习的基础性发现和发明”,能给我们解释下这是什么意思吗?
杰弗里·辛顿:在人的大脑中,有大量被称为神经元的脑细胞,它们之间有连接,当你学习新事物时,就会改变这些连接的强度。因此,要理解大脑如何工作,必须先弄清楚改变连接强度的规则是什么,大脑如何决定是增强还是减弱连接。你的大脑有办法判断是稍微增强还是减弱连接强度,问题是,这种方法是什么?它是如何做到的?如果你能模拟这一点,并构建一个模拟脑细胞的大型网络,会发生什么?我们现在知道答案了,它会变得非常智能。
杰弗里·辛顿:因为这是最有趣的领域。要想理解人类,就必须研究清楚大脑是如何工作的。
主持人:我们还没有完全了解大脑的工作原理,虽然比以前有了一点进步,但这仍然是一个巨大的课题。在获得诺贝尔奖之前,你已经是人工智能的知名专家了,你一直在警告我们人工智能存在风险,为此几年前还辞去了谷歌的工作,在你看来,对人工智能缺乏充分控制的风险到底是什么?
杰弗里·辛顿:AI风险主要有两种:一种是滥用人工智能,这是短期的风险,并且已经发生了;第二种是当人工智能变得比人类更聪明时,它是否会脱离人类的控制,这是长期要考虑的风险。生活中存在更智能的事物被智能程度低得多的事物控制的例子,有时候更聪明的人也会被不太聪明的人控制,这和智力高低没关系。
杰弗里·辛顿:比如,有人获取了大量用户数据,并利用这些数据制作虚假的人工智能视频,谋取政治利益。还有网络攻击,2023年~2024年,网络钓鱼攻击的数量增加了1200%,2024年网络钓鱼攻击的数量比2023年多了12倍。大模型让这些不法分子能更轻易地发动网络钓鱼攻击,过去,只要语法错误,我们就能轻易识别哪些是网络攻击,但现在很难发现。这些都是我们现在面临的问题,是我们要防范的人工智能短期风险。
杰弗里·辛顿:实际上我只知道一个例子,就是婴儿和母亲。对婴儿来说,控制母亲非常重要,为此人类付出了巨大的努力,进化出了让母亲无法忍受婴儿哭声的基因。
杰弗里·辛顿:长期风险是人工智能会变得比我们更聪明。几乎所有顶尖的研究人员都同意这一点,只是在时间上有分歧,有人认为可能还有20年,有人认为3年,少数人认为1年,到那时会发生什么,我们一无所知。人们有自己的观点,但没有任何可靠的研究来预测到底会发生什么。我猜测人工智能有10%~20%的可能性会接管人类世界,但只是猜测,还没有什么证明依据。
主持人:当你说到人工智能接管世界时,我感觉还有很长时间,你能给我们一个时间表吗?
杰弗里·辛顿:不行,现在还没有什么方法能预测它,但如果我们现在不采取行动,这一天或许很快就会到来。现在我们正处于历史的转折点,仍然有机会弄清楚如何开发超级人工智能并确保其安全。我们应该尝试解决这个问题,花更多精力去弄清楚这一点。
杰弗里·辛顿:现在有关于安全性的研究,但还远远不够。首先要做的是达成共识,现实不是科幻小说,我们需要说服人们在安全方面做更多的研究。这就像气候变化,首先要达成共识,即气候变化确实存在。如果我们不采取行动,情况会非常糟糕,哪怕行动还不多 ,至少已经开始了。
对于可能毁灭人类的生存威胁,我认为所有国家都应该合作起来。事实上,在保护人类安全方面,我们已经没有国界划分,各国应该相互合作,我想没有哪个国家愿意看到人工智能失去控制。现在好消息是各国意识到要合作应对生存威胁,但坏消息是我们还不知道该如何应对,所以迫切需要进行研究来找出解决这一问题的办法。
杰弗里·辛顿:大公司有资源,有能力培养进行安全研究的人才,不要只追求利润,大公司至少要把三分之一的资源投入到安全研究上。
主持人:我们谈了很多关于人工智能的风险,有没有什么能让我们保持乐观,认为事情可能会有好结果?
杰弗里·辛顿:我们之所以要努力开发人工智能,确保其安全发展,是因为人工智能的确对人类有益。例如,在医疗保健领域,人工智能能让人们得到更好的医疗服务。你或许会有一个看过1亿名患者的家庭医生,他清楚地了解家里所有人的检查结果,能给出更好的诊断。目前,与医生合作的人工智能系统在诊断复杂病例时所犯的错误比单独的医生要少得多,未来这块肯定会发展得更好。
在教育领域人工智能技术也大有可为。有私人教师的孩子学习速度会快一倍,因为私人教师更清楚孩子哪里不懂。现在的人工智能还没做到这种程度,但我想10年内就可以实现这个愿望。当孩子学习某些东西时,人工智能系统能准确识别出孩子哪里不懂,知道该给孩子什么案例帮助理解内容。如果私人教师的水平比普通教师高出两倍,那么这些学生的水平就会比普通学生高出三倍甚至四倍。
主持人:我们来谈谈世界上最富有的人吧(马斯克),我知道你已经不在他的圣诞贺卡清单上了。
杰弗里·辛顿:我在很多事情上都同意他的观点,也认可他做了很多好事,比如推广新能源汽车、提供的Starlink(星链)解决了很多地方的通信问题。他确实做了很多好事,但他在政府效率部大裁员这件事我是不认可的,他几乎随机地裁减了大量政府工作人员,这些工作人员都是善良、诚实并努力做好本职工作的人。他指责这些人懒惰、无用,并裁掉他们的工作,丝毫不关心失去工作的人以后会怎么样。
杰弗里·辛顿:几年前他让我给他打电话,想和我谈谈关于人工智能风险的问题。我们简单聊了人工智能安全问题后,他提出聘请我担任xAI的顾问,他以为我会同意,因为他雇佣了我最好的学生之一作为xAI的技术骨干,后面他开始胡言乱语,最后我拒绝了他。
杰弗里·辛顿:Water First是加拿大的慈善机构,致力于与当地居民和社区合作,通过教育、培训和有意义的合作解决当地的水资源挑战。
杰弗里·辛顿:我曾在秘鲁收养了一个孩子,在那里住了两个月,当地的自来水不能喝,我体会到没有安全饮用水的感受。如果你有孩子,却没有安全的饮用水,那么就要花大量时间思考如何防止孩子生病,这是强加给人们的额外负担。我认为在加拿大这样的富裕国家,还有那么多社区没有安全饮用水是很荒唐的一件事,比如在安大略省,20%的居民社区没有安全饮用水。我希望加拿大的每一个社区之后都能用上安全的饮用水。
紧迫!紧迫!紧迫! 留九游娱乐 九游娱乐官方给人类团结一致应对机器人的时间不多了! 机器人管理人是必然,人变成机器人也是必然——仅仅保留人的意识。但当下怎么过渡?机器人现在是有产权属性的,如果各个产权集团的利益不同一,必然产生对抗。AI赋能各方的战斗力无穷大,人类很难掌控节度,一不小心人的意识就被消灭,也就是作为智慧存在形式的人这个物种就湮灭了! 所以怎么才能避免这种对人类来说是悲剧(就宇宙而言有没有人类无所谓)的事情发生?那就是必须赶在AI主宰人类智慧之前,同一人类利益(注意:我不用统一。“统一”可能是矛盾各方为了当下的帕累托最优暂时和谐相处形成统一体。人类和AI相处必须是“同一个”!)。 怎么同一? 本贴文说的方案是唯一的路径工具方法! 人类应该探讨清楚的第一个经济理论问题是:到底什么是财富?财富是被消费并满足需求的事物。 第二个问题是:到底谁创造了财富?财富是投资生产消费三者共同创造的。 第三个问题是:到底怎么分配才能达到最大公平?只有让消费者参与分配才能达到最佳公平。 这三个问题是人类有史以来纷争不断的总根源! 如何解决? 以中国为例,尽快以如下方案启动全民基本收入计划UBI,以2000元/月收入为起点,每年增长20%,连续十年直至全民高收入UHI。如此,所有问题迎刃而解: 财政向央行举债发放购物券给低收入人群,在某上市公司买产能过剩产品,上市公司向各产业链采购商品出售,上市公司获得世界平均性价比利润后由大股东按一定比例送股票给财政部,财政部在资本市场出售股票偿还债务;大股东对全世界有利润贡献的客户送股票。以上财政部、央行、上市公司、大股东、各产业链、资本市场、全世界客户构成内外双循环体系。这个体系就是“自由人的联合体”,将加快走向世界大同进程!
1.和气低声型声音与轻声弱气型声音 拥有这一类型的声音的人比较温柔和善、通情达理,有时候说话很轻柔,像底气不足。与对方交流时需控制情绪的波动,降低音阶,放慢语速,多用询问的上升句调。 2.和缓平畅型声音和深沉凝重型声音 话速度较慢,音调适中,语气平和,具有才华和抱负。与他们交流时,可以多针对对方内心的性格进行激励,呈现出积极向上的感觉,激励和增强对方的魄力。 3.犀利尖锐型声音和大气高声型声音 这类人性格大多比较粗犷,从来不会拐弯抹角。与他们交流可以言简意赅,挑重点说,并且做好准备迎接对方挑剔的眼光;不必太在意对方的犀利言辞,他并不是针对你,而是性格使然。 4.洪亮刚毅型声音 语调果断有力、响亮干脆。他们办事原则性强、公正无私、是非分明。与他们交流时切忌争辩,也不要提出违反原则的过分要求。
【来源:抚顺交通广播】 集健身、休闲游乐、观景于一体投资2000万元总占地面积11.
20岁乌克兰女模特自述参加迪拜派对惨案:拒绝发生性关系后遭到追打,被从高处扔下脊椎骨折、四肢断裂
20岁的乌克兰OnlyFans模特玛丽亚·科瓦尔丘克(Maria Kovalchuk),近日首次讲述了她在3月迪拜性派对后惨遭殴打、被抛弃街头的经历。她声称,在逃离派对后,一名富二代对她进行了追捕和折磨。(玛丽亚事发后接受治疗,这是她与母亲在一起。
记者7月21日从昆明市公安局获悉网传的这则“警情通报”系谣言↓↓线日,昆明市公安局交通管理支队就该起交通事故作出通报:20日13时16分,云南省昆明市西山区金碧路发生一起道路交通事故。
7月22日报道,#陈芋汐第5次征战世锦赛 ,全红婵因伤缺席 ,陈芋汐将搭档15岁谢佩铃出战单人10米台。
昆明车祸致131人死亡?#这则“警情通报”是假的 对于故意编造、传播谣言的违法违规行为,公安机关将依法查处,绝不姑息
维京群岛方面确认:娃哈哈争产案第二被告,唯一董事为宗馥莉!律师分析:她可以下指令让该公司划转资金
2024年12月,宗继昌、宗婕莉、宗继盛三人向香港高院申请针对宗馥莉的临时禁令,以阻止她处置、处理或减少在汇丰银行以建昊企业有限公司名义开立账户的资产价值。
据廉洁珠海消息:珠海市教育研究院副院长、珠海市第四中学党委书记郭宏才涉嫌严重违纪违法,主动投案,目前正接受珠海市纪委监委驻市教育局纪检监察组纪律审查和香洲区监委监察调查。
湖南发布暴雨蓝色预警湖南省气象台发布消息,22日09时至23日08时,湘北部分地区,湘西、湘南局部地区将出现暴雨,其中怀化西部和北部、湘西州南部和东部、张家界南部、常德中南部大暴雨(130~150毫米),并伴有短时强降水(最大小时雨强40~60毫米)、雷雨大风(局地阵风7~8级)
为进一步加大执行力度,更好借用社会力量,维护法律权威,切实维护当事人的合法权益,根据申请执行人的悬赏执行申请,依照《中华人民共和国民事诉讼法》第二百六十六条、《最高人民法院关于民事执行中财产调查若干问题的规定》第二十一条、第二十二条、第二十三条、第二十四条之规定,本院特发布悬赏公告如下:一、执行案号湘1127执恢148号。
说起铁岭西站,很多本地人都觉得有点陌生,但其实它可是连接法库、康平、调兵山这几个地方的关键。要让这几个地方搭上高铁的快车道,其实没那么复杂,只要好好利用铁岭西站,大家的高铁梦分分钟能实现!
还在为深夜航班打不到车发愁?长沙黄花机场T3航站楼2026年投运,四条轨道线无缝衔接,机场到高铁站磁浮直达。这次长沙真把换乘之王的称号坐实了。磁浮东延线接入工程早干起来了,直接从长沙南站怼到T3航站楼。现在磁浮站台都盖好了,楼前高架也全线贯通。