在5月11日凌晨,谷歌 I/O 大会上,谷歌首次亮相PaLM 2预览版本,改进了数学、代码、推理、多语言翻译和自然语言生成能力,有四种尺寸规模的版本可供选择,为25种谷歌产品以及Bard聊天功能提供动力。

图片

PaLM 2 是在具有 100 + 语言的语料库上进行训练的,擅长多语言任务,能够理解、生成和翻译比以往模型更细致多样化的文本(包括习语、诗歌和谜语等)。PaLM 2 通过了「精通」(mastery)级别的高级语言能力考试。

 

图片

从小到大依次为 壁虎Gecko、水獭Otter、野牛Bison 和 独角兽Unicorn

 

PaLM 2构建在谷歌最新 JAX 和 TPU v4 之上,并通过其PaLM API、Firebase和Colab提供给开发人员。由于它的构建方式是将计算、优化扩展、改进的数据集混合以及模型架构改进结合在一起,因此服务效率更高,同时整体表现更好。

PaLM 一个版本的模型于 2022 年 4 月发布,使用了5400 亿参数进行训练,约是GPT-3的三倍。此次PaLM 2又在PaLM上进一步进行了提升和改进,具有多语言、推理和编码功能。

 

论文地址

https://event-cdn.baai.ac.cn/file/file-browser/KDtjMkep6E6n5XjRNJjknjewCF7Pcebx.pdf 

博客地址

https://ai.google/discover/palm2 

API申请地址:

https://makersuite.google.com/waitlist 

 

 

更多资讯

谷歌发布Duet AI,将Docs和Gmail的人工智能工具相结合

https://hub.baai.ac.cn/view/26808

谷歌上线 Workspace Labs页面,为搜索、Project Tailwind和MusicLM提供实验后补名单

https://hub.baai.ac.cn/view/26788

谷歌推出新型A3 GPU超级计算机虚拟机,支持大模型最高性能的训练

https://hub.baai.ac.cn/view/26800 

Google官网:Google I/O 2023,让 AI 更好地助力每个人

https://hub.baai.ac.cn/view/26784 

内容中包含的图片若涉及版权问题,请及时与我们联系删除