如何应对大模型的安全问题,中国科学院院士何积丰:人工智能是“孙悟空”,对齐技术就是“紧箍咒”
2023-09-07 17:11:50 来源:东方网·纵相新闻
(资料图片仅供参考)
模型的通用能力让其能够应用到人类生产生活的各个场景中,可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题,如何解决这一隐患,在今天开幕的2023 INCLUSION·外滩大会上,中国科学院院士何积丰开出了他的“药方”:利用对齐技术为大模型戴上紧箍咒。“为了应对这些问题,我们需要大模型对齐技术。”何积丰说,“对齐(alignment)”是指系统的目标和人类价值观一致,使其符合设计者的利益和预期,不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空,‘对齐’就是唐僧的紧箍咒。有了紧箍咒,就可以保证技术不会任意使用能力胡作非为。”(东方网·纵相视频 程琦 丁一涵)
关键词:
相关阅读
-
如何应对大模型的安全问题,中国科学院...
模型的通用能力让其能够应用到人类生产生活的各个场景中,可谓“无... -
我国建立农作物种子认证制度 为好种子...
人民网北京9月7日电(记者李栋)近日,市场监管总局联合农业农村部印发 -
浙江:一杯咖啡折射乡村能级跃升新思路
“走,去村里喝杯咖啡!”——于自然野趣中品味咖啡芳香,在“诗和... -
政策密集出台后多地楼市一线见闻
从明确首套房“认房不认贷”标准,到延续实施居民换房个税优惠政策... -
江西丰城:荒山变花海,催生“美丽经济”
眼下,走进江西省丰城市“中国爱情花卉小镇”,随处可见花枝摇曳,... -
黑龙江在经济新蓝海中再起航
【高质量发展调研行】 ◎本报记者张佳星刘莉李丽云孙明源 苍原莽 -
撬动数字化转型潜能 新紫光集团加速布...
人民网北京9月7日电(记者栗翘楚)9月5日至7日,由印尼轮值主办的“第4 -
国际清洁空气蓝天日 | 数读我国大气污...
空气,包围着地球,滋养着生命。2023年9月7日是第四个国际清洁空气蓝天 -
中国第13次北冰洋科学考察队抵达北极点
人民网北京9月7日电(王绍绍)据自然资源部消息,北京时间2023年9月5日 -
工信部:面向5G通信、元宇宙等领域需求...
人民网成都9月7日电(记者申佳平)“新型显示产品是信息社会的主要... -
海关总署:前8个月民营企业进出口14.33...
人民网北京9月7日电(记者王震)海关总署今日发布数据显示,前8个月, -
国有大型商业银行公布存量首套个人住房...
人民网北京9月7日电(黄盛)工商银行、农业银行、中国银行、建设银行在 -
业内聚焦算力服务高质量发展:需优化布...
人民网北京9月7日电(记者栗翘楚)当前,加快推进算力基础设施建设,已 -
多家银行宣布降低存量首套住房贷款利率
人民网北京9月7日电(记者罗知之)9月7日,工商银行、农业银行、中国银 -
数读中国 | 系列举措密集出台 激发民...
(责编:王震、高雷) tjewm{width:100%;text-align:center;margin:30 -
国家邮政局:8月中国快递发展指数为361....
人民网北京9月7日电(记者杨虞波罗)据国家邮政局消息,经测算,2023年 -
仁化县石塘镇积极探索生态种养新模式
今年来,仁化县石塘镇依托良好的生态资源优势,积极探索实施“稻虾... -
五里亭大桥、百旺大桥维修加固工程即将启动
我市五里亭大桥、百旺大桥均于2004年建成通车,运营至今将近20年,由于 -
破解安“桩”难题,韶关有“新”模式—...
小区物业不同意出具安装充电桩的同意书、公共充电桩抢位难、公共充电桩 -
聚力打造“峡谷山宝”生态农业特色品牌...
近年来,乳源瑶族自治县大布镇围绕“峡谷山宝”乡村振兴先行示范带...