图灵奖得主杨立昆:建立世界模型,让AI获得物理直觉 |2023世界人工智能大会

时间:2023-07-06 13:21:26       来源:新民晚报


(资料图)

完美的大模型存在吗?机器智能会超越人类智能走向不可控吗?技术的发展如何建立伦理和治理机制?在今天举行的2023世界人工智能大会开幕式上,图灵奖得主、Meta AI基础人工智能团队首席AI科学家杨立昆亮明观点:目前的大模型都存在“缺陷”还不能通向人类智能,未来需要建立世界模型,帮助机器像人类理解世界的方式一样学习,这样的学习也会对约束行为、构建伦理形成天然基础。

在杨立昆看来,目前似乎各种好用、好评的模型其实并非万能。“实际上现在广泛应用的许多系统或许展现了非凡的应用实力,但‘有用’并非完美,实际上各有缺陷,都不是通向人类智能的模型,”他解释,一些语言模型或图像模型实际上仍然是基于“上一句”“上一帧”来实现预测的,本质还是一种模仿。他认为,应该建立不同的非生成式架构,构建表征空间的训练来实现预测。也就是说,为机器建立世界模型,帮助它获得类似人类物理直觉,来理解世界,形成预测,“这将是未来十年的巨大挑战。”

至于安全与伦理问题,杨立昆认为,一旦建立世界模型,当设定了向善的目标,机器就会在学习中自限行为。“这是艰巨挑战,但我们可以从培养一只‘好的小老鼠’开始,再慢慢到‘好的狗’‘好的猴子’,再放入仿真环境测试。”他同时强调,基于AI向善的目标,相比严格监管,开源是更好的方式。

新民晚报记者 易蓉

关键词: