OpenAI表示，它正在启动一项计划，授予10笔10万美元的赠款，以资助建立民主进程的实验，以决定人工智能系统应该遵循哪些规则——“在法律规定的范围内”。
在启动赠款计划之前，OpenAI呼吁成立一个类似于管理核能的人工智能国际监管机构。在关于这样一个机构的提案中，OpenAI联合创始人Sam Altman、Greg Brockman和Ilya Sutskever认为，人工智能的创新速度如此之快，以至于我们不能指望现有当局充分控制技术——今天的公告也抓住了这种情绪。
具体而言，OpenAI表示，它正在寻求资助个人、团队和组织为“民主进程”制定概念验证，该流程可以回答有关人工智能护栏的问题。它表示，该公司希望从这些实验中学习，并将它们作为未来更全球化、更雄心勃勃的进程的基础。
该公司在今天发表的一篇博客文章中写道：“虽然这些初步实验（至少目前）不打算对决策具有约束力，但我们希望它们能探索与决策相关的问题，并建立新的民主工具，为未来的决策提供更直接的信息。”“这笔赠款代表了建立监督......超级情报的民主进程的一步。”
通过OpenAI的非营利组织提供的赠款，OpenAI希望建立一个反映柏拉图式民主理想的过程：一群“具有广泛代表性”的人交换意见，参与“蓄意”讨论，并最终通过透明的决策过程决定结果。OpenAI表示，理想情况下，这个过程将有助于回答诸如“鉴于各团体对这些人物的不同意见，人工智能系统应该在什么条件下谴责或批评公众人物？”等问题。和“有争议的观点应该如何在人工智能输出中表示？”
OpenAI写道：“这笔赠款的主要目标是促进流程创新——我们需要改进的民主方法来管理人工智能行为。”“我们认为，关于人工智能行为的决定应该由反映公共利益的不同观点来塑造。”
在公告帖子中，OpenAI暗示赠款计划完全脱离了其商业利益。但鉴于Altman最近对欧盟拟议的人工智能监管的批评，这有点难以接受。在sam出现在美国面前后，时机似乎也很显眼。参议院国会委员会上周，他倡导一种非常具体的人工智能监管，这种监管对OpenAI今天存在的技术影响最小。
尽管如此，即使该计划最终是自私自利的，但采取人工智能决策是一个有趣的方向（尽管以一些明显的方式重复了欧盟的努力）。就我而言，我很好奇，想看看“民主进程”出现了什么样的想法——以及OpenAI最终选择了哪些申请人。
人们可以从今天开始申请OpenAI赠款计划——截止日期是6月24日晚上9点。PDT。一旦申请期结束，OpenAI将选择十个成功的收件人。获奖者必须展示一个至少500名参与者的概念，在10月20日之前发布关于其发现的公开报告，并公开编写其工作背后的代码。
https://techcrunch.com/2023/05/25/when-new-grant-program-openai-aims-to-crowdsources-ai-regulation/
评论
沙发等你来抢