您的位置:首页>要闻 >

如何应对大模型的安全问题,中国科学院院士何积丰:人工智能是“孙悟空”,对齐技术就是“紧箍咒”

2023-09-07 17:11:50    来源:东方网·纵相新闻


(资料图片仅供参考)

模型的通用能力让其能够应用到人类生产生活的各个场景中,可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题,如何解决这一隐患,在今天开幕的2023 INCLUSION·外滩大会上,中国科学院院士何积丰开出了他的“药方”:利用对齐技术为大模型戴上紧箍咒。“为了应对这些问题,我们需要大模型对齐技术。”何积丰说,“对齐(alignment)”是指系统的目标和人类价值观一致,使其符合设计者的利益和预期,不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空,‘对齐’就是唐僧的紧箍咒。有了紧箍咒,就可以保证技术不会任意使用能力胡作非为。”(东方网·纵相视频 程琦 丁一涵)


关键词:

相关阅读