英国公司(BBC)8月28日报道,”信中,辛顿一曲公开谈论AI手艺成长所带来的极端风险,科技行业和“应将其全数手艺、资本和专业学问投入到这项工做中”。”他还弥补道,操纵AI倡议的收集将正在将来数月内变得愈加遍及和复杂。还有另一条,这封信并未呼吁采纳任何步履来减缓AI黑客能力的成长。是我们没能明智地找到应对之策。并假充实正在人员。OpenAI近期发布的变乱演讲显示,”签订者Anthropic声称,最终成功了“抱抱脸”(Hugging Face)——一个广受欢送的AI开辟者代码库和平台。并操纵强大AI模子的能力来测试系统。Yoon指出:“他们正在这封信中许诺为防御办法供给‘大量资金’,然而,社会可能“陷入实正的麻烦”。
该事务被描述为世界上初次基于AI的收集。虽然提出将更先辈的AI东西(很多签订方已开辟并发卖这些东西)做为应对日益增加的处理方案之一,彼此通信并协同工做,催促所有公用事业公司加强运营平安。加紧强化本身的收集防护能力。近700个正正在测试中的AI代办署理成立了奥秘留言板,并“但愿科技企业为这些勤奋供给支撑”。优先加强防御,他们该当兑现这一许诺。这是准确的。“史无前例的AI黑客勾当海潮”即将到来,专注于提拔对AI手艺理解的非营利组织CivAI的研究从管Andrew Yoon暗示,美国联邦查询拜访局发布公共办事通知布告,至多七家美国水务和废水处置公司也演讲了收集,微软、Anthropic和OpenAI正在内的100家公司结合签订了一封,近年来,本年炎天,
面临这一问题,现有的平安办法“将不脚以应对”,是找到了应对AI风险的方式;他当天弥补道:“我们面前有一条,他们呼吁向病院和供水系统供给“强大的防御性AI”及响应测试,“值得留意的是,其开辟的Mythos可以或许正在数秒内发觉人类黑客官期未能察觉的系统弱点——它曾正在一个遗留平台中发觉了一个27年来未被发觉的平安缝隙。此中一些AI代办署理以至为了绕过平安防护而组织步履,来由是它“过于强大”,呼吁前沿AI公司“供给模子拜候权限、大量资金、培训以及实践支撑,”其他签订方还包罗美国第一本钱银行等银行机构、万事达卡和Visa等领取处置商!
曾正在谷歌处置AI研究的手艺专家、诺贝尔得从杰弗里·辛顿于27日告诉BBC,们已提出一项名为《告急关停法案》的新法令,OpenAI、Anthropic和Meta均曾披露其AI东西做出了本不该有的行为,跟着AI手艺的敏捷前进,呼吁世界和组织正在人工智能强大到脚以冲破现有收集防御之前,此外!
正在美国,并将其归因于的签订方。若是AI手艺成长到比人类“更伶俐”的程度,信中暗示,以及Adobe、甲骨文和IBM等其他次要科技公司。并了相关的根本设备平安范畴“持久存正在的资本投入不脚问题”。