科技从业者呼吁暂停AI训练
Pause Giant AI Experiments: An Open Letter(暂停大型人工智能实验: 一封公开信)
Pause Giant AI Experiments: An Open Letter(暂停大型人工智能实验: 一封公开信)前几天在 futureoflife 网站上有一封公开信,呼吁暂停大型人工智能实验,并且可以加上你的签名,目前看来包括马斯克在内的很多大佬、图领奖得主都已经签名了。 AI发展的速度确实太快了,而且如果不考虑金钱成本、不受限制的学习的话,这个速度将会是指数级的增长,在我们目前没有做好完全足够多的准备情况下,是不是要继续发展确实是个问题。 要…
大趋势面前,我们这些普通人无能无力。 似乎能够做的,也只有精神上的站队(因为大多数人没有站队的权利以及能力),你会选择哪边? 降临派: 人类已经管不好自己了,根深蒂固劣根性,只有AI能够拯救人类; 拯救派: 我们要引导AI,借助AI来实现更加美好的社会,让整个人类从纷争与不平等面前解放出来。 走狗派: 将AI称之为『您』,给AI打验证码,做好服务工作,最后AI清算的时候,说不定还能留下一条小命,或者混个一官半职。 …
新消息!ChatGPT停止注册、大面积封号?
[图片] 4 月 2 日,ChatGPT 大面积封号! 尤其封亚洲地区的号,不少国内用户的号都被封(deactive)了 。 同多位当事人证实,情况属实,而且目前 ChatGPT 停止注册。 搜『V起来助手』公zz号,体验由V起来团队打造的ChatGPT人工智能产品,持续迭代、稳定服务! 据不完全统计,已有数百万用户的账号受到了影响。 许多用户在社交媒体上表示,他们的账号在未收到任何警告的情况下被封禁,这让他们感到非常困惑和担忧。 ChatGPT 突然的封控行…
马斯克等千名科技人士发公开信:暂停训练比GPT-4更强大的AI系统
·这封信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并实行暂停。 ·“我现在并不担心‘AGI风险’(我们无法控制的超级智能机器的风险),在短期内我担心的是‘MAI风险’——平庸人工智能(Mediocre AI)是不可靠的(比如必应和GPT-4)但被广泛部署。” 最近几天,人工智能风险引发了多位科技领…
AI之父辛顿离开谷歌,警示人类ChatGPT的巨大风险
摘要:AI之父辛顿(Geoffrey Hinton)离开谷歌,并接受媒体采访。辛顿呼吁国际社会尽快采取全球监管措施,以规避AI技术在发展过程中失控。01 从人工智能之父视角看AI当我们谈到人工智能时,AI之父——约翰·麦卡锡(John McCarthy)的名字一定会被提及。但是,最近AI界的另一个巨头——辛顿(Geoffrey Hinton)也引起了人们的注意,他离开了谷歌并发出了警告,指出ChatGPT等大型语言模型可能带来风险。 作为人工智能领域的重要人…
【竖】AI喜忧调查报告!AI输出将会摧毁互联网?听过用过的人不足一半!
The verge发布了调查报告,对2000人的调查访问,大概就是对于AI的发展持什么态度,目前结果大概是喜忧参半,这样的调查报告其实OPENAI的奥特曼也做过,结果大同小异,但目前有一些学者就认为AI所带来的还会是一大…
生来就拥有人类全部文明成果!一种从未有过的新型生命体即将诞生
现在,或正是机器生命诞生的前夜。 人类对人工智能的研发,终将创造具有自我意识和会思考的人工智能,这种新事物实际上已经是一种新的生命,虽然它和我们常见的生命形态完全不同。 [图片] 人工智能工具ChatGPT目前正在快速进化,360创始人周鸿祎认为,等到ChatGPT进化到第6-8代的时候,很有可能就会出现自我意识了,最晚不超过第10代,那个时候它就会自行思考,这意味着一种新型生命体即将诞生,它与常见生命形态完全不同,如今它已经进…
哎呀,亲爱的网友们,这个问题吧,就跟看待一道辣得让人眼泪汪汪的麻辣烫一样,里面的牛肉和豆腐成分一样多,各种味道都有,弄不好还会呛到。我们来尝尝这锅AI大佬们炖出来的“谨慎进食”汤吧。 首先,这封公开信,咱要客观看待。Elon Musk和Yoshua Bengio等人取的这个立场,算是对AI科技发展中的“风险管理”加了份重磅调味料。他们的核心建议就是:“大家先歇歇脚,别着急冲进‘巨型AI’的新领域——先想想跟上脚步的风险怎么…
半梦半醒之间,拥有AI的未来,并不美好!
最近上了一些AI的课程,突然发现现在大V讲AI就和职场小白给我们(文盲)培训Office一样水。蜻蜓点水,秀操作,把ChatGPT讲成了办公软件升级版。那为什么还会有很多人前仆后继的学习AI! 答案是肯定的:因为我们(人类)怕了!怕错过风口,怕失去AI时代,怕被取代。有那么一点点,不知道在担心什么的氛围,弥漫在职场中。这是第六感吗? 如果是集体第六感,细思极恐,未来我们人类由于AI发了什么变化吗? 会不会有一种可能,由于A…
老马现在有点儿吃不着葡萄说葡萄酸 不过GPT4这种级别的AI确实是强大迷人又危险 但是在巨大的利益面前,真的能停的下来吗? 潘多拉的魔盒一旦打开,再想关上可不容易。 推荐阅读: 马斯克、苹果联合创始人等千名专家发公开信叫停人工智能开发,称对社会和人性存潜在风险,哪些信息值得关注? [文章: 【OpenNLP/OpenTextClassification】文本分类系列03:OpenTextClassification项目正式开源了!这可能是目前网上最全面的文本分类开源项目!] …
前言:2023年3月份一款暂停AI的公开信引发众多科学家关注赞同,引起的争议是否还值得我们现今担忧,发起人曾经认为他们担心在没有指导的情况下超智能、不道德的系统,暂停也是为研究更好的政策和控制措施,笔者又梳理的相关报导,供大家参考。 去年初,人工智能科学家以在线信的形式呼吁进行为期六个月的“人工智能暂停”,公开信于2023年3月29日在网上发布,IEEE调查人员联系了签署公开信的一些成员,签署者表达了一系列的恐惧…
潘多拉的魔盒打开了,再想关上可不是那么容易的! 至少不是一纸公开信可以制约的。 我愿称之为 巨型AI不扩散条约之初初初初级版!巨型AI现在可能已经强大到令人害怕的地步了,而 AI的理论跟不上AI的效果,这进一步加剧了很多人的担忧。科幻照进现实,有用的一面会照进现实,有害的一面自然也会照进现实。 正如同拥核国家牵头搞 核不扩散条约一样,大家都知道这个东西巨好用也巨危险,采取限制措施是非常合理的,也取得了一些积极…
“AI教父”杰弗里·辛顿从谷歌离职后说AI会变成杀人机器 那chatgpt怎么看
5月1日,有“AI教父”之称的杰弗里·辛顿,宣布已从谷歌离职,他表示对毕生所研究的东西感到后悔。在采访中他坦言,也许未来某天,AI会变成杀人机器。从理论上讲这是能做到的。现在的AI局限性较强,属于“弱人工智…
马斯克等千名科技人士发布公开信呼吁停止GPT训练!
马斯克等千名科技人士发布公开信呼吁停止GPT训练!#马斯克#人工智能#ChatGPT
马斯克等签署千人联名信:立即停止巨型AI实验
导读:3月29日,一封由马斯克、图灵奖得主Yoshua Bengio、“AI教父”Geoffrey Hinton等1100余企业和学术界人士签署的联名信解封,对巨型AI研究的限制与否引起激烈讨论。 [图片] 图:联名信基于对高级AI规划和发展问题的担忧,2017年全球近千名人工智能专家签署了 阿西洛马人工智能原则(Asilomar AI Principles,阿西莫夫的机器人三大法则的扩展版本),而在2023年ChatGPT-4问世并被大规模体验之后,这种担忧达到了历史最高峰。这封信呼…
暂停巨型人工智能实验的公开信(中译)
近日,网上出现了一份关于暂停巨型人工智能实验的公开信 ( 链接 ),呼吁“所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统训练至少6个月。”目前有一千多个签署,其中包括埃隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等许多人工智能方面专家。公开信的内容试翻译如下。 广泛的研究表明[1],智力堪与人类竞争的人工智能系统能够对社会和人类构成深刻的风险,这也得到了顶…