暂不必担忧模型的失控，更迫切的问题就在眼前 对话科大讯飞刘庆峰：这是一场凝心聚力的长跑

每经记者｜李少婷    每经编辑｜杜宇    

人工智能的突破一再超出预期：8月，AI辅助筛选新抗原的个性化mRNA黑色素瘤治疗疫苗三期临床公布结果，联合用药方案可将患者复发或死亡风险降低49%。10月，OpenAI公开722份由内部前沿模型生成的数学研究，触及多项数十年悬而未决的数学难题……

在这样的背景下，近段时间，科学家、硅谷科技巨头、一线研究人员密集发布AI治理预警。比尔・盖茨8月发布长文称，即便在最理想的情况下，迈向人工智能新时代的转型也将是人类历史上最为动荡的时期之一。

10月22日，科大讯飞董事长刘庆峰接受《每日经济新闻》记者（以下简称每经记者）采访时表示，目前来看，AI还没有真正的自我意识，大家所担心的“彻底失控”尚无现实支撑，但不好说将来会不会出现。

就当下而言，刘庆峰认为，最需要关注的是社会治理：人工智能快速落地、多岗位提效之后，整个社会的保障体系如何适配。未来5年—10年内，全社会所需的生产和生活资料，或许只需要10%～20%的人参与生产即可，客观上将迎来一轮劳动力分流和新价值创造的重塑。“这是一场凝心聚力的长跑。”

刘庆峰在接受采访（图片来源： 每经记者 李少婷 摄）

AI现在还不具备“自我意识”

AI迭代速度飞快，毫无疑问，它正在成为人类有史以来最具颠覆性的技术革命与产业革命。“大家看到的最近数百个数学研究问题被AI攻克，之前大家应该没有预判会进展这么快。”刘庆峰向每经记者表示。

刘庆峰提到，客观来看，过去一年，大模型训练底层方法并没有出现大的突破，只是模型规模变大、训练数据体量增加，高质量数据的积累越来越多。“在哪个领域高质量数据多，它在哪个领域表现就好”，可以归结为行业常说的“大力出奇迹”。

当前模型在查找、修复代码漏洞，尝试攻破各类系统方面的能力持续增强。近日全球广泛使用的服务器端编程语言PHP曝出两项高危安全漏洞，安全研究人员正是借助AI手段完成了漏洞可利用性验证。（详情可查看每经报道《PHP高危漏洞席卷全球，AI发挥关键作用网络安全攻防进入“加速赛”》）

刘庆峰认为，一个超强的模型，没有应用场景的限制，可能会被拿来进行黑客攻击、窃取银行商业机密，为了防止模型应用的失控，社会治理必须跟上。

“大家现在担心AI是不是具备自我意识、会不会彻底失控、自主改代码。从现在来看，其实还不具备。那些看上去能够自主修改代码的AI，本质上是人下发指令、在限定环境中运行，能力边界是人为定义出来的。”刘庆峰认为，目前AI可以实现情感计算，让机器人模拟人类情绪表达，但还没有支撑真正自我意识的算法基础。不过，未来AI是否会演化出自我意识，或是持续沿用“大力出奇迹”的迭代路径后，是否催生所谓自我意识，目前还不好判断。

现在最需要关注的是社会保障体系

在接受每经记者采访时，刘庆峰表示，当下最值得重视的社会治理议题，是人工智能在多岗位快速提效之后，社会保障体系该如何适配调整。

“整个社会，首先要有社会兜底保障体系，这其实是我今年在两会的‘一号建议’。没有兜底保障线，社会就会出问题。”刘庆峰说。

其次，他认为需要重新定义社会管理逻辑。比如，除社保制度之外，工作日是否可以从5天调整为3天、每日工时从8小时缩短至4小时，让更多人保有工作机会、拥有价值成就感。

再者，需要快速定义出工作的社会价值和新的工作类型，或许以后，工作不再是现在的范围，每个人每天健身就可以拿工资，唱歌唱得好也可以拿钱。

“从人工智能的进展，尤其软硬件化的发展来看，未来几年之内，我估计也许5年，最多10年，现在我们所需要的所有的生产和生活资料，可能真的只需要10%到20%的人干就行了，剩下的不需要干了，这客观上就面临着一次劳动力的分流和新价值创造的重塑，这件事情比模型具备自我意识、未来会不会出现失控更迫切。”刘庆峰表示。

“这是一场凝心聚力的长跑。”刘庆峰认为，凝心聚力，一定是基于人工智能建设美好世界，今天面对的是未来5到10年整个社会在这一场工业革命中的重塑，整个社会伦理和人文牵引是非常关键的，而中国可能是全世界最有机会解决这个问题的，因为我们的社会治理有机会把这事做得比别人更好。

值得一提的是，10月23日，国务院办公厅发布《关于适应人工智能技术发展助力构建就业友好型发展方式的意见》，其中指出，减缓人工智能应用就业替代影响，并指出，稳慎把握人工智能在劳动密集型行业应用的范围、力度、节奏，尽可能减少对从业人员的冲击。

在国产算力上训练模型，推动全栈自主可控

刘庆峰从中国AI产业发展视角，阐释了“凝心聚力”的另一重内涵：实现全栈自主可控。

刘庆峰在“2026科大讯飞全球1024开发者节”上演讲 （图片来源：公司供图）

在他看来，全栈自主可控包含四层能力：首先，算力底座要实现国产化，不只是基于国产算力开展推理，更要依托国产算力完成模型原生训练；其次是算法的全栈掌握，并具备持续迭代创新的能力；第三，数据层面能够自主完成数据获取、清洗治理，构建自主的数据工程能力，而非单纯依靠外部数据做蒸馏；第四，具备面向行业场景的软硬一体化创新能力，形成从底层硬件、模型算法，到数据治理、场景落地的完整闭环。

“只有在国产算力上训练出模型，才是真正的自主可控，才真的可以对全球输出，可以模型协同、共同发展，使我们将来摆脱‘卡脖子’的风险。”刘庆峰特别强调了“真正的训练”的重要性。

刘庆峰坦言，现阶段国产算力芯片在显存带宽等指标上，和海外主流芯片仍存在差距。另外，国产大模型训练生态尚不完善，行业多数厂商仅在国产硬件上跑推理，没有更多的在训练中可共享的生态资源辅助，例如完成一个复杂的数学任务，N卡上一个月就可以验证完成，但是到国产算力上，可能花费半年才能到80%。

但是刘庆峰认为，未来两年，国产算力会与顶尖水平拉平，而人工智能的创新还远没有结束，如果三五年之内量子计算和现在的经典的人工智能的预训练方法结合，将有可能实现成千上万倍的算力的提升，从根本上解决现在的算力焦虑问题。

封面图片来源：每经记者 李少婷 摄