AI发展之快远超预期 科技革命“奇点”很快到来

新民晚报

图说：AIGC改变世界分论坛 采访对象提供（下同）

“现在的国际会议上，每个人都在讲两个‘A’，即ASIA（亚洲）和AI（人工智能），这是目前世界关注的两大重点。”正如日本银行执行理事清水季子在博鳌亚洲论坛上所说的，人工智能，是博鳌亚洲论坛永恒的“热词”。

4天会期，有3场分论坛与人工智能相关，分别是科技革命“奇点”离我们有多远、AIGC改变世界和人工智能全球治理。人工智能未来还会出现哪些突破性的进展？人类生产生活方式由此发生了哪些变革，又可能面临哪些风险？这些话题，引起了嘉宾的广泛关注。

奇点5年后或将出现

去年论坛，大家还在热议ChatGPT，今年已经换成了Sora，AI发展之快远超预期是嘉宾们的共识。这也带来了共同的疑问——“奇点”（即颠覆点）究竟何时到来？

对此，韩国首尔大学电子与计算机工程系教授Kyoung Mu Lee提到，2017年曾面向人工智能科学家进行过一项问卷调查，大多数受访者预测奇点的到来将在2045年到2090年之间，2060年最有可能出现。“但现在如果再问大家相同的问题，答案可能有所不同，我觉得5年后就会出现。”他表示，如今，资金、人才、政策等几乎所有资源都在向人工智能倾斜，这是前所未见的。

小i集团董事长兼CEO袁辉也认为，奇点正加速到来：“弱人工智能辅助一点人类的基本工作，强人工智能可以生成视频、生成音乐甚至生成代码。在最近这三年，我所面对的场景是超出我的想象的，大家普遍感觉这个时间来得越来越快了。”

AI赋能各行各业

在技术快速迭代的同时，人工智能也开始赋能各行各业。高通公司中国区董事长孟檏说：“比如在移动通信网络部署中，很多生成式人工智能的应用能够改善网络的部署，减少耗电等。”

教育行业也是人工智能应用的重要领域之一。猿辅导集团副总裁、人工智能研究院院长程群分享了一个案例，在一所四川的偏远学校，学生可以直接通过和大模型产品的大屏互动获得通俗易懂的讲解，不仅缓解了师资力量问题，更激发了学习兴趣，减少了辍学率。

芬兰前总理阿霍看好人工智能对于老龄化问题的帮助。他指出，未来几十年，数千万的中国人会退休，现有的养老、商业和政府治理模式无法应对如此庞大的老龄人口，但人工智能可以最终解决这些问题。

中国工程院院士、清华大学智能产业研究院院长张亚勤认为，未来两到五年中，人工智能将在图像、视频、影音方面通过图灵测试，五年后人工智能或将通过生物界图灵测试。他表示，现在人工智能“还处于42公里马拉松的第5公里”，所以大家都有“上车”的机会。

图说：美国加州大学伯克利分校计算机科学系教授斯图尔特·罗素

谨防AI拿走控制权

在一些科幻电影中，人工智能最终会萌发出自我意识，并试图掌控并取代人类。这样的情景会否发生？又该如何应对？

对此，美国加州大学伯克利分校计算机科学系教授、《人工智能：现代方法》作者斯图尔特·罗素认为，人类要重新思考AI，并证明AI的行为是能够使人类受益的。“在医学领域，比如你要在市场卖一种药，你要表明这种药在市场上是有效的。但当前我们所扩展的大语言模型好像黑匣子，它们能够满足的目标并不清楚，这是错误的方向，我们不该朝这个方向走。”罗素还表示，自己十年前就曾预言通过“图灵测试”的机器会拿走人类控制权，然而这一警告在当时并未引起重视。

而在中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅看来，真正意义的人工智能还没有到来。他认为，人类与人工智能应该“共同进化”。未来人类需要作出的改变不仅仅是把人工智能做得安全，更应该从历史、自然中学习、反思。否则，给人类带来灾难性风险的不是人工智能，而是人类自己。“但我对未来仍然是乐观的，因为一个超级智能的人工智能也应该是超级利他的，所以我相信那个时候我们也许还有机会。”他说。

监管确保“科技向善”

技术快速发展的同时，也会带来安全伦理问题。最近，利用AI复活逝者的话题在引发热议，利用AI换脸、拟声技术实施诈骗案例也频频曝光，先进技术的“双刃剑”效应逐步显现。

对此，Kyoung Mu Lee认为规则与监管必不可少。对于大科技公司，从培训AI开始到测试到销售，整个流程都要有监管标准。特别是对那些商业应用的AI产品，必须控制研发节奏，为研发人员设置一些法律法规，使研发流程能够被监测。而针对AI产品本身，他建议必须要有类似水印标记，表明是由AI生成。

针对人工智能失控或被恶意滥用所导致的风险，大会旗舰报告指出，应围绕AI发展可能遇到的法律法规问题建制度、立规矩，研究制定与人工智能相关的服务、标准、安全等规制，为人工智能技术的快速发展奠定法律基础。2023年8月15日，我国首个针对生成式人工智能产业的法律文件《生成式人工智能服务管理暂行办法》开始施行，从技术发展与治理、服务规范、监督检查和法律责任等方面，规范生成式人工智能的发展。

特派记者 金旻矣 （新民晚报博鳌今日电）