龚克：人工智能是先进生产力，不发展是最大的不安全

在本次大会上，龚克作了题为《对AI发展与安全的几点思考》的主旨演讲。他认为，ChatGPT的横空出世，标志着数字化进入新阶段，智能化加速发展。

龚克表示，以大模型为代表的人工智能表现出的强大功能，带来了网络安全、法律、伦理等方面的风险，使很多人产生焦虑。GPT4面世后，全球一大批知名人士发表公开信，要求暂停开发优于GPT4的大模型。

龚克表示，这种做法无法阻止人工智能的发展。人工智能是引领科技革命和产业变革的战略科技力量，正在快速发展，并且表现出跨模态特点，量变正在带来质变。

“发展人工智能，是代表先进生产力的发展方向。”龚克认为，人工智能会带来很多风险，但不发展是最大的不安全，将丧失新的生产力革命的机遇。

针对人工智能的风险龚克强调了两点：第一，要承认和正视人工智能风险的存在。第二，要具体分析人工智能风险来自于什么地方，既不要神话AI，也没有必要妖魔化AI。“从现在的实践来看，人工智能风险并不是来自于技术太强，而是来源技术不够强，存在各方面的技术瓶颈，特别是管控技术和堵点亟待突破，从而引发很多社会焦虑。”

在龚克看来，人工智能正在推动信息网络走向智能化的新阶段。人工智能离不开网络，云、边、端都是在网络上部署；因此，人工智能与网络安全是相互依赖、相互促进的关系，人工智能的发展推动了网络安全技术的创新。

龚克表示，人工智能可以加强网络安全，同时也带来数据的安全问题。这就要求网络安全和人工智能要深度融合创新，这是我们的发展方向。

当日下午，由中国电子信息产业集团有限公司主办，奇安信科技集团股份有限公司承办，信创海河实验室、中国新一代人工智能发展战略研究院等单位共同协办的第五届金融业网络安全分论坛举行。齐向东、龚克出席活动并致辞。分论坛上，龚克教授指出要认清智能大势，智能化成功的关键在于通用技术和专业行业应用能否实现深度创新融合。他表示要做到深度融合创新，必须把握好深度理解、深度破墙和深度学习创新。最后，他提到信创要用自主可控的芯片和操作系统为国家信息产业发展提供安全底座，而金融行业以及各行业应当联合起来实现深度融合创新。会上，来自清华大学五道口金融学院、中国电子信息产业集团、中国银行、中国工商银行等单位的嘉宾作主旨报告。