2023WAIC观察:大模型勿成“脱缰野马” 人工智能何以“上善若水”?
时间:2023-07-08 00:44:10来源:中国新闻网

中新网上海7月7日电 题:大模型勿成“脱缰野马” 人工智能何以“上善若水”?

中新网记者 郑莹莹

勿以恶小而为之,勿以善小而不为。对于正在飞速发展的人工智能,人类期待它为善去恶。


(资料图片)

正在上海举办的2023世界人工智能大会(WAIC)上,大模型发展之热、人工智能发展之安全,备受业界关注。

2023世界人工智能大会于7月6日至7月8日在上海举办,伴随人工智能发展,机器人越来越“聪明”,通用人工智能的发展备受期待。中新网记者 汤彦俊 摄

不能让大模型成为“脱缰野马”

“大模型要监管和发展兼顾,我们不能盲目发展,让大模型变成脱缰的野马。”复旦大学教授、上海市数据科学重点实验室主任肖仰华7日在2023世界人工智能大会“数据要素与隐私计算高峰论坛”上说。

他指出,大模型的负面影响已经显现,比如对隐私的侵犯,“我们还是要建立大模型发展的安全底线、伦理标准和一些规范。”

另一方面,他也指出,我们不能因为有隐私方面的顾虑而放弃对大模型的应用,“从某种程度上说,大模型是一种先进生产力,是个人和企业都要积极拥抱的。我们要正视隐私问题,但也要积极应用大模型。”

如何在应用的同时保护用户隐私?他表示,需要建立系统性的防范体系。

一方面,我们要建立起用户对大模型隐私的安全意识,用户要意识到:在使用大模型过程当中,数据有可能被服务方收集。

另一方面,提供大模型服务的厂商要提升服务的规范性,给用户充分的知情权,要在用户完全授权的情况下,在合理范围内收集用户数据。

肖仰华说,大模型,尤其是生成式大模型发展起来后,对隐私带来了前所未有的挑战,“生成式大模型往往是一种概率化的生成,是从海量的语料中拼接式生成的,所以传统意义上的一些隐私侵犯认定在大模型时代就会失效,识别上困难,保护上更加困难。”

但在大模型领域,可以“用魔法打败魔法”。

肖仰华表示,在大模型隐私保护方面,除了技术、法规方法,我们还有一条很重要的路径——利用大模型自身的能力来保护我们的隐私,“其实大模型能力很强,可以识别出语料当中哪些内容是可能侵犯隐私的,我们已经有那么多大模型,我们可以把它用在保护隐私的场景。”

2023世界人工智能大会于7月6日至7月8日在上海举办,今年的主题是“ 智联世界 生成未来”。 中新网记者 郑莹莹 摄

人工智能何以“上善若水”?

“即使通用人工智能真正‘上善若水’,人与人工智能是否可以和谐共生,最终取决于人如何行为,而不是人工智能。”中国科学院自动化研究所研究员、人工智能伦理与治理研究中心主任曾毅7日在2023世界人工智能大会“聚焦·大模型时代AIGC新浪潮可信Al论坛”上说。

他将“人工智能与人类”“人类与蚂蚁”作了类比,指出:当我们的人工智能是人类,就像人类是现在的蚂蚁时,如果人类还在破坏环境、破坏其他生命,超级智能为什么要给人类生存的权利?人类没有给超级智能更多的理由。

他说这是一个开放性的问题,是一个科学问题,是一个社会问题,更是一个历史问题。

在曾毅看来,最开始的人工智能,当它没有接受任何人类数据的时候,它是一个无善无恶的算法。当它接触到了社会和人类的数据的时候,它变得有善有恶,这个时候它还不能明辨善恶。当与人类价值观校准、与环境价值观校准的时候,它变得知善知恶。

“我们最终希望的是人工智能可以为善去恶。”他说。

他还指出,人工智能的伦理道德既不应该仅由研究人工智能的工程师来定义,更不应该在实验室里主观臆想,而是需要群体智慧,需要更多公众参与定义。(完)

标签:

生活指南
  • 国产品牌为何喜欢找“顶流”

    燕京啤酒也没想到自己如此倒霉,连续两次踩进明星代言的坑。2021年5月

  • 一次性还本付息什么意思? 一次性还本付息怎么算? 视讯

    一次性还本付息什么意思?一次还本付息法是指借款人在贷款期内不是按

  • 四川启动第四届律师“十佳代理词”“十佳辩护词”征集评选活动

    川观新闻记者兰楠7月6日,四川省律师协会举行2023年第2次新闻发布会,

  • 网上贷款综合评分不足怎么办?网上贷款记录多久消除?

    网上贷款综合评分不足怎么办?1、很多用户在用贷之后,只会关注是否

  • 环球今亮点!零钱包与余额宝哪个好?零钱包与余额宝的联系与区别?

    零钱包与余额宝的联系与区别?联系:零钱包和余额宝均属于支付宝的金

  • 台媒:台防务部门称解放军24架次军机、4艘次军舰今日现身台海周边-天天要闻

    【环球网报道】据台湾中时新闻网4日报道,台防务部门宣称,自今日(4日

  • 苏州电博会相关内容简介介绍 天天热消息

    2002年创办,国内规模最大、层次最高的IT专业展会之一。2002年创办,国

  • 每日快讯!缉毒第一线纪录片全集 缉毒涉案剧善始善终首播

    hello大家好,我是大学网网小航来为大家解答以上问题,缉毒第一线纪录

  • ​泌阳县双庙街乡:多措并举筑守防汛“安全堤”|前沿热点

    针对持续强降雨天气,泌阳县双庙街乡党委、政府第一时间启动防汛应急响

  • 崩坏星穹铁道预抽卡怎么选?崩坏星穹铁道游戏攻略

    新手开荒角色推荐:快枪手(手套)>怪盗(手套)>4星光锥【别让世界静下

  • 天府迎大运 国宝闹艺都

    天府迎大运国宝闹艺都,

  • 南瓜焖饭做法?

    南瓜(300克)新鲜香菇(4朵)鸽子肉(150克)鸡蛋(1个)虾皮1把葱2根蒜2瓣米

  • 电话购票怎么购?电话购票可以买到下铺吗?

    电话购票怎么购?电话订票系统订票、取票流程第一步:准备好系统允许

  • 天天视讯!传奇手游《义战龙城》免费VIP怎么领取啊

    义战龙城传奇手游一大特色,就是15级会员全免费送,只要你完成简单的任

  • 汝南县委党的群团工作联席会议青年工作专题会议暨县域共青团基层组织改革中期推进会召开

    6月28日下午,汝南县委党的群团工作联席会议青年工作专题会议暨县域共

  • 环球关注:海南黎安国际教育园区规模初具

    在海南南部的陵水黎安半岛,中国教育改革创新的试验田——海南陵水黎安

  • 民生
    • 机构评非农:非农数据令美联储失望!为加息押注当头一棒

    • 成都青羊:智慧足球公园焕新亮相 市民可以体验智慧体育的魅力

    • 山水比德:7月6日融资买入36.54万元,融资融券余额2173.97万元

    • 2262年有两个春节是真的吗?2062年有两个春节吗?-全球信息