【编者按：ChatGPT发布这些天来，以及其升级版本和微软 Bing 搜索引擎集成上线后，随着使用的人越来越多，ChatGPT产生的各种奇怪的回复开始层出不穷，给使用者带来了各种负面的体验。人工智能遇到了前所未有的挑战。近期，OpenAI 的首席执行官 Sam Altman 一直忙于在推特上回应这些问题，并分享了他对人工智能及其对人类影响的看法。Sam Altman 表示：世界可能不会离“潜在可怕的”人工智能太远，并认为“监管是至关重要的”。我们特整理编译相关新闻和各位客户、合作伙伴朋友分享。我们特编译出来和各位客户、合作伙伴朋友分享。如需转载，请联系我们（ID：15937102830）】
很少有人比Sam Altman 更关心人工智能及其对人类的最终影响，Sam Altman 是 ChatGPT开发商 OpenAI 的首席执行官，因此，当Altman担心“未来的人将如何看待我们”时，是值得关注。
在本周末的一系列推文中，Altman 分享了他对当前 AI 技术以及未来几年将出现的工具所带来的危险的看法。他表示：向 AI 赋能的未来过渡“基本上是好的”，而且可能会很快发生——就像从“前智能手机世界到后智能手机世界”的过渡一样。
他警告说，社会需要时间来适应像人工智能这样“如此重要的东西”。
“我们还需要足够的时间让我们的机构弄清楚该怎么做，监管将是至关重要的，需要时间来弄清楚；虽然当前一代的人工智能工具不是很可怕，但我认为我们可能离可怕的人工智能并不远，”他发推文说。
同时，他指出，AI 聊天机器人面临的一个挑战是“人们在与聊天机器人交谈时感到不安，即使他们知道真正发生了什么。”
最近在Microsoft的 ChatGPT 驱动的Bing 搜索引擎中发现了这种现象。上周，Bing 开始对查询做出令人震惊的回应，从尖酸刻薄、争论不休到明显情绪化，这让一些人感到不安。
微软在上周三的一篇博客文章中解释说，长时间的聊天会“混淆模型”，模型有时可能会试图回应或“反映被要求提供可能导致我们不想要的风格的回应的语气。“该公司还试图控制该平台——它现在限制用户可以与该机器人进行的交流次数。用户现在每次会话最多可以向 Bing 询问五个问题，每天最多可以进行 50 次会话。
这也不是Altman第一次谈到监管人工智能，早在 2015 年 ，他就在他的博客上写到了这一点。Altman 周日关于监管的推文也呼应了 OpenAI 首席技术官 Mira Murati 的评论，后者在 2 月 5 日接受《时代》杂志采访时表示， ChatGPT 应该受到监管，因为它可能被滥用。Murati告诉媒体，现在对它进行监管“还不算太早”。
Elon Musk也说过类似的话， 他曾是OpenAI的联合创始人，上周在迪拜举行的世界政府峰会上Musk表示：人工智能有“很大、很大的希望”和能力——积极和消极的都有，但需要监管。
“坦率地说，我认为我们需要监管人工智能的安全性，”Musk在接受CNBC采访时说。“我认为，这实际上是一个比汽车、飞机或药物更大的社会风险。”
Altman 似乎也并不关心今天的 ChatGPT，而是关心接下来会发生什么。他在推特上写道，“虽然当前的人工智能工具不是很可怕，但我认为我们离潜在的可怕工具可能并不遥远。”
他似乎很在意时间，预测人工智能工具将很快融入社会——而世界需要时间来调整。
他写道，“适应一个与人工智能工具深度融合的世界可能会很快发生；好处(和乐趣！）有太多的好处。我们还需要足够的时间，让我们的机构弄清楚该怎么做。监管将是至关重要的，需要时间来弄清楚……有时间了解正在发生的事情、人们希望如何使用这些工具以及社会如何共同发展，这是至关重要的。”
他的思想也转向了后代将如何回顾这段历史和现在所做的决定——他似乎希望得到一些理解和宽恕。
他写道：“我希望所有人都能够宽容地对待前几代人。” “人性是非常不完美的。我们的祖父母做了可怕的事情；我们的子孙后代会明白，我们做了我们还不明白的可怕事情。”
“我们的前辈是一个完整的组合，他们有好人也有坏人，”他继续说，“他们共同推动了世界的前进；重要的是将社会的道德进步视为一个可持续的共同项目，我们都有责任。现在轮到我们了。我希望未来的人们能以同样的方式看待我们。”
本周，特斯拉首席执行官Elon Musk 与 OpenAI 拉开了距离。2015年，他帮助OpenAI建立了一家非营利组织.微软近年来对 OpenAI 进行了大量投资，上个月表示将向该合资企业投入更多资金。
周五，Musk 在推特上写道，“OpenAI 最初是作为一个开源（这就是为什么我将其命名为“Open”AI）得非营利性公司，以抗衡谷歌，但现在它已经成为一个由微软有效控制的闭源、最大化利润的公司。这根本不是我想要的。”
这个故事最初刊登在《财富》网站上。
注：本文整合以下两篇新闻内容而成。
OpenAI首席执行官 Sam Altman 担心“潜在的可怕的”人工智能工具以及“未来的人们如何看待我们”
链接：https://finance.yahoo.com/news/openai-ceo-sam-altman-frets-165250285.html
ChatGPT创始人 Sam Altman 表示，世界可能离潜在的可怕的人工智能并不遥远，他认为监管将是关键
链接：https://www.businessinsider.com/openai-chatgpt-sam-altman-world-not-far-potentially-scary-ai-2023-2
权益福利：
1、AI 行业、生态和政策等前沿资讯解析；
2、最新 AI 技术包括大模型的技术前沿、工程实践和应用落地交流（社群邀请人数已达上限，可先加小编微信：15937102830）
源于硅谷、扎根中国，上海殷泊信息科技有限公司(MoPaaS)是中国领先的人工智能（AI）平台和服务提供商，为用户的数字转型、智能升级和融合创新直接赋能。针对中国AI应用和工程市场的需求，基于自主的智能 PaaS 云平台专利技术，MoPaaS 在业界率先推出开放的AI平台为加速客户AI应用项目落地提供高效的GPU算力优化和模型开发运维 (ModelOps) 能力和服务。MoPaaS AI平台已经服务在教学科研、工业制造、能源交通、互联网、医疗卫生、政府和金融等行业超过300家国内外满意的客户的AI技术研发、人才培养和应用落地工程需求。MoPaaS 致力打造全方位开放的AI技术和应用生态圈。MoPaaS 被Forrester评为中国企业级云平台市场的卓越表现者（Strong Performer)。
END
▼ 往期精选 ▼
3、Microsoft与OpenAI 不寻常的合作：对话 Kevin Scott 和 Sam Altman
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢