OpenAI首席执行官Sam Altman在国会听证会的分享,人工智能监管对策

资讯
白羽中 2023-05-17 10:48 分享
以下文章来源于www.washingtonpost.com

美国OpenAI实验室首席执行官山姆·奥特曼(Sam Altman)在国会接受听证,这场听证会的与会者包括国会两党成员、科技公司领袖、学者等若干人,涉及人工智能监管对策。

 

「你赚了很多钱吧?」议员问。

「我,不,我没有 OpenAI 的股权,我的薪水只够保险。」

「真的吗?有意思,那你需要一个律师。」

「我做这件事只是因为我热爱它。」

 

 

监管的三点计划

OpenAI首席执行官Sam Altman在这次听证会上获得了充足的机会,他自己关于美国政府应该如何监管像他这样的公司的建议。他制定了一个三点计划:

  • 成立一个新的政府机构,负责许可大型人工智能模型,并授权其撤销其模型不符合政府标准的公司的许可证。

  • 为人工智能模型创建一套安全标准,包括评估其危险能力。例如,模型必须通过某些安全测试,例如它们是否可以“自我复制”和“渗透到野外”——也就是说,成为流氓并开始自己行动。

  • 要求独立专家对模型在各种指标上的表现进行独立审计。

 

竞争少点对你们是好事

议员 Cory Booker说,他对人工智能的“最大担忧”之一是“这种大规模的企业集中”。他以OpenAI与科技巨头微软的合作为例,很少有公司能够控制和影响我们这么多人的生活,而且这些公司正在变得越来越强大,这真的很可怕”

Sam Altman表示,他认为“只有较少的供应商能够制造大规模生成式 AI 这样的模型”,但他也表示,只有少数参与者担任该角色可能会带来监管利益,并表示认为需要有足够的竞争。

 

Sam Altman表示不排除在ChatGPT里插播广告的可能性

Cory Booker询问OpenAI是否会进入广告业务,首席执行官Sam Altman留下了这种可能性。

“我不会说永远不会,”Altman说,并补充说,可能有潜在的客户,对他们来说,其他方式是行不通的。

现在ChatGPT可供消费者免费使用,其基础是OpenAI上一代GPT-3.5语言模型,并且不保证它将始终可用。要访问新的GPT-4型号并保证可用性,用户必须订阅ChatGPT Plus,每月费用为20美元。OpenAI还将其模型许可给企业。

但ChatGPT不是免费让OpenAI运行的。用户的查询需要大量的处理,并由昂贵的计算机芯片处理。微软的Bing和谷歌的Bard等竞争对手AI聊天机器人也是如此,目前也是免费的。

Altman对Booker的回答表明,OpenAI至少考虑了将广告放入ChatGPT免费版本的可能性,以便从其免费用户那里赚钱。一些立法者担心,人工智能公司最终可能会采用这种广告支持的商业模式,在社交媒体行业,这种模式可以说激励了操纵性产品设计和令人上瘾的算法。

Sam Altman表示ChatGPT工具迭代擅长多种语言

Alex Padilla表示人工智能公司可能没有充分投资以英语以外的语言提供其产品,立法者长期以来一直反对Facebook和Twitter等社交媒体平台。Padilla说,对人工智能对不同人群影响的研究“一直集中在英语上,而非英语语言受到的关注或投资相对较少。”“我们以前见过这个问题,”他继续说道,并补充说,他“深切关注社交媒体在人工智能工具和应用程序中重演的失败。”

IBM的Christina Montgomery表示,该公司多年来一直在推动“测试偏见,并在人工智能的整个生命周期中应用治理”,包括审查潜在的语言差异。

Open AI首席执行官Sam Altman表示,该公司对ChatGPT工具的最新迭代“现在非常擅长多种语言。...对于这些非常小的语言,我们对定制伙伴关系将该语言纳入我们的模式感到兴奋。”

科技公司最近在将语言模式扩展到英语之外方面取得了进展,特别是谷歌和Meta。但错误仍然存在,例如模型错误地识别了语言。

部分问题是缺乏非常常用语言的数字化数据,特别是如果这些语言主要由互联网上代表性较低的低收入人群使用。公司可以通过与母语人士合作,并雇用翻译和语言学家来创建数据集来评估已经受过培训的语言模型的性能,从而解决这个问题。

然而,美国科技公司的一些努力是剥削性的,他们被指责通过无偿接受研究人员的工作来延续数字殖民主义。OpenAI等公司庆祝其语言模型“说”或理解其他语言的能力,但研究表明,它在非洲语言中效果不佳。

相关资讯:

https://arstechnica.com/tech-policy/2023/05/ai-technology-can-go-quite-wrong-openai-ceo-tells-senate/ 

https://www.theverge.com/2023/5/16/23726119/congress-ai-hearing-sam-altman-openai 
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论