图灵三巨头之一 Bengio 在接受 BBC 的访谈时，表达了自己对 AI 发展前景的极大忧虑。 最近，图灵三巨头之一的 Yoshua Bengio 接受了 BBC 的采访。 Bengio 在访谈中透出了一股浓浓的「忧郁风」，表示他对自己一生所追求的事业感到某种程度上的迷失。 往具体了说，他觉得如果自己能早点认识到 AI 可能的发展速度，那他可能就会倾向于 AI 的安全性优先，而非实用性优先。 要知道，Bengio 刚刚签署了前几天公布的「AI 可能灭绝人类」的公开信。 迷失的 Bengio 公开信的签

6 月 14 日，美国心理学会近日发布研究，认为「经常接触 AI 的员工更容易孤独，增加疾病风险」。据称，该研究的首席专家 Pok Man Tang 博士曾在一家投资银行工作，他此前的主要工作内容是参与「人工智能系统的搭建及互动」，这段工作经历令他对「参与接触 AI 的员工心理问题」产生了兴趣。 　　研究人员进入一家生物医学公司，对其中 166 名使用人工智能系统的工程师，进行了为期三周的调查，了解他们的孤独感、依恋焦虑感和归属感。他们还在其他地方进行了共计四次实验，以保证研究结果的可靠性。在后续针对一

OpenAI（开放人工智能[6]）是美国一个人工智能研究实验室，由非营利组织OpenAI Inc，和其营利组织子公司OpenAI LP所组成。OpenAI 进行 AI 研究的目的是促进和发展友好的人工智能，使人类整体受益。 OpenAI 系统运行在微软基于 Azure 的超级计算平台上[7][8][9]。该组织于2015年由萨姆·阿尔特曼、里德·霍夫曼、Jessica Livingston、伊隆·马斯克、伊尔亚·苏茨克维、沃伊切赫·扎伦巴 (Wojciech Zaremba)、彼得·泰尔 等人[10][

一群行业领袖周二警告，他们正在开发的人工智能技术有朝一日可能对人类的生存构成威胁，应被视为与大流行病及核战争同等的社会风险。非营利组织人工智能安全中心发表的一份只有一句话的声明写道：“减轻人工智能带来的灭绝风险应该成为全球的优先事项，就像应对其他社会规模的风险——如大流行病和核战争一样。”这封公开信由逾 350 名从事人工智能工作的高管、研究人员和工程师签署。签署者包括三家领先人工智能公司的高管：OpenAI 首席执行官 Sam Altman，Google DeepMind 首席执行官 Demis Ha

莫拉维克悖论（Moravec's paradox）由汉斯·莫拉维克（Hans Moravec）, 罗德尼·布鲁克斯（Rodney Brooks）,马文·闵斯基（Marvin Minsky）等人于20世纪80年代提出。莫拉维克悖论指出：和传统假设不同，对计算机而言，实现逻辑推理等人类高级智慧只需要相对很少的计算能力，而实现感知、运动等低等级智慧却需要巨大的计算资源。 语言学家和认知科学家史迪芬·平克（Steven Pinker）认为这是人工智能研究者的最重要发现，在“The Language Instin

训练 ChatGPT 使用监督学习和强化学习在 GPT-3.5 之上进行了微调。[8] ChatGPT使用基于人类反馈的强化学习进行训练，这种方法通过人类干预以增强机器学习的效果，从而获得更为逼真的结果。[9]其使用基于GPT-3.5架构的语言模型。 [10]在训练过程中，人类训练师扮演着用户与人工智能助手的角色。模型在Microsoft Azure的超级计算机上训练，并通过近端策略优化算法（proximal policy optimization）进行微调。[11]这种策略优化算法比信任域策略优化（t

OpenAI（开放人工智能[4]）是美国一个人工智能研究实验室，由营利组织 OpenAI LP 与母公司非营利组织 OpenAI Inc 所组成，目的是促进和发展友好的人工智能，使人类整体受益。OpenAI成立于2015年底，总部位于加利福尼亚州旧金山，组织目标是通过与其他机构和研究者的“自由合作”，向公众开放专利和研究成果。[5][6] 创始人伊隆·马斯克以及山姆·柯曼的动机是出于对强人工智能潜在风险的担忧。[7][8]至2018年，OpenAI 的总部坐落于旧金山的米慎区，与伊隆·马斯克的另一座公司

ChatGPT 一出，很多人害怕自己的工作会被 AI 取代。最近，有外媒盘点了最可能被 ChatGPT 取代的 10 大高危职位。 自从去年 11 月发布以来，OpenAI 的 ChatGPT 已经被用来写求职信，创作儿童读物，甚至帮助学生作弊。 聊天机器人可能比我们想象的还要强大。谷歌发现，从理论上讲，如果该机器人在公司面试，搜索引擎会雇用它作为入门级的编码员。 测试 ChatGPT 的亚马逊员工说，它在回答客户支持问题方面做得「非常好」，在制作培训文件方面「很棒」，在回答围绕企业战略的询问方面「非常

好莱坞刻画的人工智能（AI）噩梦就像一部科幻大片描绘的那样：机器人获得了类人的智能，获得了知觉，不可避免地成为企图毁灭人类的邪恶霸主。这种叙述利用了我们对技术与生俱来的恐惧，反映了通常伴随新技术发展的深刻变化。然而正如机器学习工程师、2019 年出版的小说《The Quantum Price》的作者 Malcolm Murdock 所说，“人工智能不必有知觉就能杀死我们所有人。在有知觉的 AI 成为问题之前，还有很多其他场景会消灭我们。”在对 AI 专家的采访中，IEEE Spectrum 列举了 AI

还记得 IBM Watson，“危机边缘（Jeopardy）”节目的 AI 冠军？ 2010 年的一项宣传活动称：“Watson 理解具有各种歧义和复杂性的自然语言。”然而正如我们在 Watson 随后在试图“用人工智能彻底改变医学”惨败时看到的，浮于表面的语言能力实际上并不同于真正理解人类语言。 自然语言理解一直是人工智能研究的主要目标。起初研究人员试图手工编程机器理解新闻故事、小说或人类可能写出的任何其他内容所需的一切。正如 Watson 所展示的，这种做法是徒劳的——不可能写下理解文本需要的所有不