最大的警告AI设计它的人

作为《纽约时报》报道杰弗里·辛顿最近辞职谷歌作为一个研究员,他在那里已经工作了十多年,所以他可以自由谈论人工智能的危险,而不必考虑它如何可能会影响他的前雇主。

辛顿和他的两个学生成为了首席科学家OpenAI-built神经网络,分析成千上万的照片和教本身确定共同的对象。启动了谷歌以4400万美元收购,据《纽约时报》,并帮助铺平道路的创建聊天机器人ChatGPT和谷歌的吟游诗人。

辛顿的当务之急是互联网将充斥着假照片,视频,文字,所以一般人不会“能够知道什么是真的了。”他还说,人工智能技术将威胁到日本的就业机会,未来的版本会学到意想不到的行为,可能会威胁到人类。

麝香表示,艾未未有两个伟大的而且伟大的危险。像其他一些技术领导人,他支持政府bwinchina监管的AI之前就太迟了。

“艾比,更危险说,管理不善的飞机设计或生产维护或坏的汽车生产,在这个意义上,它有potential-however将概率小,但它是non-trivial-it有潜力的文明毁灭,“麝香在接受采访时表示与塔克上个月卡尔森。

与此同时,他建立一个人工智能的亿万富翁已经宣布提供微软和谷歌的竞争对手,叫TruthGPT。

的首席执行官OpenAI对ChatGPT发出的警告。“我们必须小心,”Sam Altman说在接受美国广播公司采访时。“我认为人们应该高兴,我们有点害怕。”

和其他人一样,奥特曼表示担心生成人工智能被用作工具大规模造谣,鉴于它在编写代码变得更好;和糟糕的演员,因为不是每个人都建筑将包括安全过滤器来减少风险。

监管机构和社会需要涉及他们的反馈技术可以帮助人类避免负面影响,奥特曼说。bwinchina总的来说,他认为,人工智能将大于其风险的好处。

Sundar Pichai,谷歌的首席执行官说,人工智能将“规模”虚假信息的传播,创造更大的问题与假新闻和图片。“在社会范围内,你知道,它可以造成很大的伤害,”他在一次采访中解释道与60分钟。

但Pichai还指出,与其他技术相比,他看到更多的人担心它在它的生命周期,从而导致更严重的对话。“所以我觉得乐观,”他说。

这一组的网上的信,其中包括从苹果联合创始人史蒂夫•沃兹尼亚克和Elon Musk签名,警告说,人工智能工具目前“深刻的风险社会和人性。“非营利组织举办它生命学院的未来,也发表字母核和自动武器。

这封信呼吁暂停开发人工智能系统更强大的比OpenAI GPT-4。在那个时候,人工智能实验室和独立专家共同制定和实施共享安全协议,独立审计。