AI治理必修8月(上)第36刊发布！

AAIG的专家们用多学科的专业视角，每月从全球收集和筛选关于算法治理和可持续发展的全球态势。重点关注算力时代的新技术、新风险、新实践、以及对它们新解释。

8月(上)共14篇文章3035字,分【本月洞察、行业动态、前沿技术、产业实践】四个板块展开。

大模型安全问题越来越受到政产学研的重视，浙江网信部门在优化网络营商环境方面重拳出击，促进企业健康发展。哈工大教授强调大语言模型的人类价值观对齐，为人工智能技术更有益于人类社会提供理论支持。腾讯云金融风控大模型解决金融机构面临的痛点，提升了反欺诈效果。浙江大学提出联邦大语言模型解决大模型的数据隐私问题。阿里巴巴AAIG荣获第四届中国人工智能大赛双赛道A级证书；微软亚研院关注模型隐私保护和消除社会偏见等问题。

1. 浙江网信部门优化网络营商环境让更多企业放心谋发展

浙江某公司人事调整遭抹黑，浙江网信部门积极处置不实信息，保护企业合法权益和市场环境。浙江省互联网违法信息举报中心打击涉企网络侵权，营造清朗网络营商环境。国家网信办推进专项行动，清理虚假信息，维护企业权益。浙江网信部门将继续优化网络环境，促进企业健康发展。

2. 哈工大秦兵教授 | 大语言模型之人类价值观对齐

本文梳理了现有工作，不仅总结现有任务和方法，更重要的是找到未来有价值的研究方向以及可能的发展趋势。我们坚信人工智能目标是为增进人类福祉和万物和谐共存提供理论支持！因此通过该报告希望能帮助更多的研究者致力于提高大语言模型模型的生成内容的忠实性和价值观对齐，从而让人工智能技术更有益于人类社会。

1. 大模型掌握16000+真实世界API了，清华等机构ToolLLM的工具使用能力不输ChatGPT

该框架包括数据构建、模型训练和评估多项功能，用于让开源大型语言模型更好地使用外部工具。研究团队收集了16464个真实世界的RESTful API，生成了涵盖单工具和多工具场景的指令调优数据集，并在此基础上使用了DFSDT决策树，得到了具有出色执行复杂指令和泛化到未知API能力的ToolLLaMA。

2. 风控大模型登场！主打一个快

腾讯云金融风控大模型利用多模态风控知识，通过技术手段加持迁移学习，形成一个类似“知识库”的Foundation model，帮助金融机构快速构建定制化的反欺诈风控模型，解决缺人、缺样本、慢、片面等痛点，全流程自动化，解决“小样本”风控难题，可360度模型评估，相比传统方案反欺诈效果提升了20%。

3. 哈工大开源“活字”对话大模型

哈工大自然语言处理研究所和哈工大社会计算与信息检索研究中心研发了通用对话大模型活字1.0和2.0，支持中英文、代码和表格生成。模型安全性较高，但仍需注意误导性回复和有害内容。

4. MetaGPT爆火出圈！2美元就能当老板，GitHub狂揽11.2k星，AI智能体「多面手」诞生

MetaGPT是一个多智能体框架，可以扮演不同角色，输出整个软件公司流程和SOP。它能够提高效率、精确性和一致性，被称为未来的AI智能体。GitHub上已获得11.2k星。

5. 蒙牛发布大模型：MENGNIU.GPT

蒙牛发布以AI驱动的数智化双飞轮战略，推出全球首个营养健康领域模型MENGNIU.GPT，构建未来健康生态新图谱。AI营养师“蒙蒙”服务上线，腾讯云和钉钉表示支持。蒙牛全面开放MENGNIU.GPT能力，推动科技创新与产业链结合。

6. 探索大语言模型在图学习上的潜力

本文介绍了一种将LLM应用到图学习相关任务的框架，分为LLMs-as-Enhancers和LLMs-as-Predictors两种模式。通过实验发现，这种方法对节点分类任务有显著的提升。

7. 大模型的数据隐私问题有解了，浙江大学提出联邦大语言模型

这篇论文对联邦学习与大模型的结合做了提纲挈领的叙述，通过将联邦学习与大模型训练结合的基础框架划分为三个关键组件，在阐明了联邦 LLMs 的优势的同时，抛出了联邦学习与大模型两个领域“跨界”将会面临的新的问题。伴随着大模型技术的成熟，联邦 LLMs 也必然会逐步登上人们关注的日程表，期待这一领域未来更加细致与深入的工作。

1. 双第一！AAIG荣获第四届中国人工智能大赛双赛道A级证书！

8月3日-8月4日，由国家互联网信息办公室、工业和信息化部、公安部、国家广电总局和厦门市人民政府联合主办的第四届中国人工智能大赛在厦门举办。阿里巴巴人工智能治理与可持续发展研究中心(AAIG)一举斩获「特定样本变体识别」和「复杂场景图片文字识别」双赛道的A级证书！

2. 微软亚研院谢幸：建设社会责任人工智能，让AI发展为人类安全的工具和助手

他们通过设计有效的隐私保护方法，来保护用于大模型训练或微调的隐私数据，以及通俗易懂的模型解释方法，来帮助用户理解大模型的工作原理。并且，着力消除或减轻用于训练大模型的数据中固有的社会偏见和仇恨，从而让大模型在不断变化的环境中更加安全和鲁棒。

3. 英伟达GPU短缺风暴：GPT-5出世，或需5万张H100

1. GPT-5可能需要5万张H100，全球H100总需求约为43万张。2. GPU短缺主要是由于供应链问题，而不是GPU本身短缺。3. H100比A100更受欢迎，因为性能更高且成本相对较低4. GPU需求主要来自生成式AI的爆发，对算力提出了更高要求。5. 大型云提供商和初创公司都在使用H100来训练模型，需求持续增加...

4. 元象开源百亿参数通用大模型 XVERSE-13B

深圳的元象公司宣布开源百亿参数的高性能通用大模型XVERSE-13B，可免费商用。该模型在多项权威测评中性能超越了其他国内外开源大模型代表，具有广阔的应用前景，可为用户带来巨大价值。XVERSE-13B通过多项权威中文和英文测评表现优异，领先于同参数规模的主流模型。代码采用Apache-2.0协议，免费商用，哈工大已率先使用助力研究。

5. 对话杨植麟：Moonshot AI即将完成超10亿元融资，公司最终目标并非超越OpenAI

杨植麟创立大模型公司Moonshot AI，已完成首轮融资，即将完成第二轮，目前拥有超过40人的团队，重点研发下一代跨模态大模型。团队成员包括拥有世界级影响力的大模型专家，有丰富的工程和算法经验。杨植麟认为，今年以前亚洲没有做大模型公司的机会，但去年GPT在美国市场引起关注后，亚洲市场也开始爆发。

📺直播预告

8月24日19:00《追AI的人》第28期直播将与大家分享《图像取证探秘：P图假证无处遁形，揭开“美女荷官”骗局》敬请期待💗