2023北京智源大会-基于认知神经科学的大模型论坛
智源大会
钱曙光
2023-05-24 09:56 发布
1 收藏 131
Swin Transformer、ViT作者等共话:好的基础模型是CV研究者的朴素追求
基于视觉 Transformer 的骨干模型设计、自监督学习、模型扩展、下游应用等研究井喷式爆发。BERT 的出现将自然语言处理领域的自监督预训练推向了顶峰;但如何有效地使用自监督学习进行视觉预训练仍有待探索;在报告中曹越主要介绍了其研究组在近一年时间中在视觉自监督预训练方向的探索;简单的随机掩码匹配较大的掩码块大小、一层线性预测头、直接对像素进行回归作为预测目标即可在广泛的主干网络(ViT。
资讯智源大会
社区精选
2022-06-27 11:25 分享
1 1 0
从小小线虫谈起——溯源神经系统进化,开启生命模拟
神经元的协同改变路径就会变得越来越窄;这些因素的叠加使神经元预知改变路径几乎变成了无法实现的挑战,上述两种常见策略都无法解决神经系统面临扰动的功能鲁棒性问题,他强调了神经元形态结构对抵御噪声干扰的作用,为了研究拥有个体差异性的神经元对不同离子电流电导改变的敏感度。臧蕴亮博士建立了1292个含有形态结构特征的神经元模型;通过给这1292个模型反复施加噪声扰动(每一个模型100次随机噪声测试)发现;
资讯智源大会
社区精选
2022-06-28 13:41 分享
1 1 0
2023北京智源大会-AI安全与对齐论坛
智源大会
钱曙光
2023-05-24 09:57 发布
1 收藏 120
对话问题有奖征集:青年学者职业之路(Michael Jordan、张宏江与青年学者)
在2022北京智源大会(免费注册参会)青源学术年会上,加州大学伯克利分校教授Michael Jordan与智源研究院理事长张宏江,将与两位青年学者宾夕法尼亚大学副教授苏炜杰和斯坦福大学助理教授雷理骅,青年学者职业之路”如果你有对于研究、职业、事业的疑问与困惑,欢迎在评论区留言,入选问题将获赠礼品。问题提交方式:评论区留言提交问题,最终中奖名单在活动结束后于本页面公布,工作人员会主动与您取得联系。
问答智源大会
钱曙光
2022-05-25 15:18 发布
1 2 12
2021北京智源大会|青源学术年会(6月2日上午)
//hub.baai.ac.cn/view/8651:Recent Progress and Trends for Self-Supervised Visual Representation Learning(胡瀚|微软亚洲研究院研究员):圆桌论坛:https:图神经网络的两面性:特性与问题(王啸|北京邮电大学助理教授)考虑拓扑结构的图神经网络学习(林衍凯|腾讯微信模式识别中心高级研究员)
智源大会
maokexin
2021-05-28 17:07 发布
点赞 3 55
直播
查看更多
热门榜单
  • 活动合作
  • 微信社群
社区指南 电话:(010) 6893 3383 © 2022 北京智源人工智能研究院 ICP备案号:京ICP备19012194号