ChatGPT打开了人工智能的新大门,也打开了潘多拉的魔盒,一段时间以来,关于人工智能生成内容以假乱真、数据泄露以及侵权的风险被进一步放大。5月9日,作为内容平台方的抖音开出了自己的药方——贴“水印”,明确发布者应对人工智能生成内容进行显著标识。而这份倡议也成为一个月前国家互联网信息办公室发布的《生成式人工智能服务管理办法(征求意见稿)》(以下简称《管理办法》)更为落地的版本。
显著标识
(资料图片)
人工智能是一把双刃剑,ChatGPT的出现与爆火,更强化了AIGC的这一属性。对此,面向创作者、主播、用户、商家、广告主等平台生态参与者,抖音发出了一份关于人工智能生成内容的平台规范暨行业倡议。
抖音要求,在抖音应用生成式人工智能技术时,发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景。同时,发布者需对人工智能生成内容产生的相应后果负责,无论内容是如何生成的。
虚拟人也被囊括在内。抖音提到,虚拟人需在平台进行注册,虚拟人技术使用者需实名认证。抖音表示,禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等。同时,禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。
“各生成式人工智能技术的提供者,均应对生成内容进行显著标识,以便公众判断。同时使用统一的人工智能生成内容数据标准或元数据标准,便于其他内容平台进行识别。”倡议提到。
为配合倡议,当天,抖音还发布了人工智能生成内容标识的水印与元数据规范。据悉,标识元数据规范即通过规范人工智能生成内容的元数据格式,在相关图片和视频元数据中写入信息,达到行业通用识别的效果。
大约一个月以前,国家互联网信息办公室起草了《管理办法》,明确表示,利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。
值得一提的是,5月10日及为意见反馈的截止时间。如果《管理办法》获得通过,这也意味着中国将正式开启对AIGC的专门监管。
北京社科院研究员王鹏分析称,比起此前的《管理办法》,抖音的这份倡议更为落地,让更多相关人员参与其中,尤其是针对平台上的大量创作者和使用者,督促大家能够遵守相关的规定,提前防范化解可能存在的风险。
真假难辨
AIGC伴随着风险,几乎已经成了全球共识。5月的第一天,全球人工智能的“高光”聚焦在了号称“人工智能教父”的杰弗里·辛顿身上。当天,《纽约时报》率先曝出辛顿从谷歌离职。辛顿坦言,他之所以离开谷歌,就是为了完全自由地说出人工智能所带来的危险。
苹果公司联合创始人史蒂夫·沃兹尼亚克也曾表达过他对人工智能散布虚假信息的关切,“如果有人想骗你,利用人工智能技术,欺骗就会变得简单得多”。
闹剧早有预演。此前,乔治华盛顿大学一名法学院教授就莫名成了“性骚扰者”,原因在于ChatGPT生成的一份“有性骚扰历史的法学学者”名单中,这位教授就在其中。而在今年2月,一则关于“杭州市政府将于3月1日取消机动车尾号限行政策”的消息也在网络疯传。但随后杭州警方证实,该消息为ChatGPT写的假新闻。
王鹏表示,生成式人工智能依托于大模型训练,在某些应用领域中发挥了重要的作用,甚至在一些情况下能够达到相对专业人员的水平,足以以假乱真。因此从传播、社交及娱乐等角度出发,尤其是在内容平台上,就容易产生一定的问题。
瑞莱智慧深耕于AI安全领域,针对生成式人工智能内容的虚实难辨,瑞莱智慧联合创始人萧子豪以ChatGPT举例称,技术方面,有一些方法被提出,比如针对合成文本的鉴别、数字水印等,但还存在难点。
机器与人类撰写的文本差异性特征较少,机器合成文本的结果无论从结构和语义角度都能较好地遵循人类书写的规则,同时一个真人说话的方式也可能是多变的、结构有误的,因此很难单纯从文本本身就鉴别出是否由ChatGPT生成。另外,数字水印需要ChatGPT在生成内容时即添加水印,需要考虑到技术实现问题。
“从这一点来说,生成式人工智能,无论是音频、视频还是与虚拟人、数字人技术的结合,都可能带来一定的风险,需要有关部门、平台方加强监管,让生成式人工智能更好地服务人类社会的相关产业,提质降本增效。”王鹏称。
监管在追
眼下,监管对生成式人工智能的关注已经在全球范围蔓延。几天前,美国白宫刚刚重磅宣布首个AI监管计划,美国国家科学基金会计划拨款1.4亿美元,用于启动7所新的国家人工智能研究院。
紧接着,美国总统拜登就出席了在白宫举行的一个人工智能会议,会见包括谷歌、微软和OpenAI在内的顶级AI公司的首席执行官。
会后,美国副总统哈里斯在一份声明中表示,AI技术有可能改善生活,但也可能会带来安全、隐私和公民权利方面的担忧。她告诉这些科技公司的高管,他们有责任确保其AI产品的安全,政府对AI方面的立法持开放态度。
英国竞争与市场管理局也确认,该部门正在对人工智能市场展开评审,其中也包括大语言模型、生成式人工智能在内的基础模型。而在上个月,欧洲议会成员也就《人工智能法案》达成提案,对AI模型提出更严格监管要求。
天使投资人、知名互联网专家郭涛认为,当前,AIGC产业监管方面存在相关法律法规与标准体系不健全、缺乏多部门协同的自上而下的监管体系、监管技术手段落后等突出问题,政府有关部门需要尽快建立健全AIGC研发与应用相关法律法规和标准体系,建立或完善伦理审查制度和监管体系,加强对科技企业、应用场景、使用者的监管,搭建多方参与协同治理平台,推动AIGC产业健康可持续发展。
“生成式人工智能的监管也存在一些难点问题,比如平台方如何进行责任界定,内容如何确定到底出自真实的人类还是人工智能,以及取证难等。”不过王鹏补充称,监管和创新技术、创新模式之间永远都是一个跟和被跟的关系,一定是先有技术,然后产生风险,再去规范。有了监管,有了倡议,也就能更有利于行业的发展。
关键词:
(责任编辑:黄俊飞)推荐内容
- 视点!AIGC“堵漏洞”
- 2022年度秋粮收购总量达近三年最高水平
- 降维打击!JDG中野欧服化身通天代,战绩
- 5月5日以来南方地区22条河流发生超警以上
- 焦点精选!首批自动驾驶车辆在上海嘉定高
- 广湛铁路全线第一座长大隧道顺利贯通
- 【天天新要闻】老里:马祖拉G4最后时刻不
- 什么是微课程设计与制作_什么是微课程
- you are my sunshine音频下载(you a
- 我武生物(300357):5月9日北向资金增持
- 布罗格登:很尊重76人 但在费城的2场比
- 环球短讯!一粒硬三天效果特别棒_一粒硬
- 南京房价罕见上涨,南京楼市要崛起了吗?
- 研究揭示局域激子发光动力学特性
- 全球视点!人享其行、物畅其流 流动中国
- 用友网络(600588.SH):友车科技股票将于5
- 快满60岁,王雪峰被查|环球百事通
- 雅居乐:前4个月销售额204.8亿元 同比下
- 2023临床助理医师技能考试什么时间打印准
- 长盛安悦一年持有混合基金5月12日起公开
- 【天天播资讯】商务部:一季度我国服务贸
- 传统工业从“零”开始转型创新创业 上海
- 潍坊车时光汽车城项目组织开展消防应急救
- db数据库文件编辑器_db数据库
- CXO赛道2022年业绩出现分化股价持续下跌-
- “一夜醒来欠了地铁600多万”冲上热搜,
- 全球今日报丨Varmilo阿米洛勇士翱翔机械
- 每日消息!如何去除砖上的焦油_姐弟之间送
- 2023年三伏天是公伏还是母伏
- 天天即时看!一连摔了三跤住进医院,竟是
- 当前讯息:【暖心警事】警民暖心接力寻回
- 【世界报资讯】远安:创新“联村共建”模
- 肖复兴新作《三月烟花千里梦》:温馨隽永
- 刚刚公布,全国首批!福建30所!
- 热讯:暌违三年,费德勒回上海兑现承诺了
- 环球视点!株洲市四中:“清”风满校园
- 当前头条:湖北9至10日小雨串场气温波动
- 世界球精选!多地种植牙迎来“降价潮”
- 世界快讯:综合评分都优秀,从细节看差距
- 进口日本矿泉水代理报关_进口代理报关【
- 诗性教育推动基础教育学校育人方式转变工
- 全球微速讯:梦幻西游盛世嘉年华活动内容
- 视讯!女子车位被邻居霸停数月_一怒之下
- secure boot control找不到_secure boot control
- 花游记电视剧全集_花游记 电视剧
- 商城:“三话”访民情 警民心贴心-
- 【速看料】国足神逻辑和梅西领衔的阿根廷
- 全球今亮点!质量方针和质量目标培训(质
- 周至县:“六个抓”推进干部作风能力提升
- 世界视点!智通港股空仓持单统计|5月8日
- 当前资讯!四更天明(四更天)
- 黄花城水长城为什么叫水长城_黄花城水长
- 环球短讯!越西县气象台发布大风蓝色预警
- 怎么剪窗花_剪窗花方法 焦点快播
- 丰田要打价格战?新款卡罗拉配置曝光:独
- 全球速读:IPO参考:华勤技术回复沪市主
- 乐心医疗:目前公司暂未推出与VR眼镜相关
- 【全球速看料】大批神秘新品将至!华为夏
- 给孩子发“信任糖” 请让孩子犯个错——
- 钓鱼如何调漂视频讲座_钓鱼如何调漂视频
- 【天天播资讯】商务部:一季度我国服务贸
- 传统工业从“零”开始转型创新创业 上海
- 潍坊车时光汽车城项目组织开展消防应急救
- db数据库文件编辑器_db数据库
- CXO赛道2022年业绩出现分化股价持续下跌-
- “一夜醒来欠了地铁600多万”冲上热搜,
- 全球今日报丨Varmilo阿米洛勇士翱翔机械
- 每日消息!如何去除砖上的焦油_姐弟之间送
- 2023年三伏天是公伏还是母伏
- 天天即时看!一连摔了三跤住进医院,竟是
- 当前讯息:【暖心警事】警民暖心接力寻回
- 【世界报资讯】远安:创新“联村共建”模
- 肖复兴新作《三月烟花千里梦》:温馨隽永
- 刚刚公布,全国首批!福建30所!
- 热讯:暌违三年,费德勒回上海兑现承诺了
- 环球视点!株洲市四中:“清”风满校园
- 当前头条:湖北9至10日小雨串场气温波动
- 世界球精选!多地种植牙迎来“降价潮”
- 世界快讯:综合评分都优秀,从细节看差距
- 进口日本矿泉水代理报关_进口代理报关【
- 诗性教育推动基础教育学校育人方式转变工
- 全球微速讯:梦幻西游盛世嘉年华活动内容
- 视讯!女子车位被邻居霸停数月_一怒之下
- secure boot control找不到_secure boot control
- 花游记电视剧全集_花游记 电视剧
- 商城:“三话”访民情 警民心贴心-
- 【速看料】国足神逻辑和梅西领衔的阿根廷
- 全球今亮点!质量方针和质量目标培训(质
- 周至县:“六个抓”推进干部作风能力提升
- 世界视点!智通港股空仓持单统计|5月8日
- 当前资讯!四更天明(四更天)
- 黄花城水长城为什么叫水长城_黄花城水长
- 环球短讯!越西县气象台发布大风蓝色预警
- 怎么剪窗花_剪窗花方法 焦点快播
- 丰田要打价格战?新款卡罗拉配置曝光:独
- 全球速读:IPO参考:华勤技术回复沪市主
- 乐心医疗:目前公司暂未推出与VR眼镜相关
- 【全球速看料】大批神秘新品将至!华为夏
- 给孩子发“信任糖” 请让孩子犯个错——
- 钓鱼如何调漂视频讲座_钓鱼如何调漂视频
- 精选!美女的诞生第10集 美女的诞生免费
- 【天天播资讯】山东省公安厅坚持“五抓五
- 吵闹遭人嫌!美航班乘客投票赶吵闹女子下
- 环球简讯:【新闻资讯】蚂蚁集团数字科技
- 四川资阳2023年4月自考成绩查询入口已开通
- 微动态丨2023年第一季度全球智能手机市场
- 天天热消息:从降污减碳到价值创造 利用
- 3家股份行“接力”城商行农商行下调存款
- 独家述评|“淮海红”和百年淮海路|报资讯
- 在国内已无存在感的现代起亚,今年第一季
- 快消息!火速出击!东部战区海军导弹快艇
- 新冠大流行迎来转折点,卫健委、中疾控权
- 全体职员英文 职员英文
- 刘先志是高密哪里人_刘先志
- 全球即时:眼睛红血丝多怎么缓解 眼睛红
- 每日视点!萌娃街头与家人走散急得哭,民
- “血栓通注射液上市后临床安全性医院集中
- “华夏东极”莽吉塔深水港迎来2023年首航
- “职”面7千余岗位,2023年全国大中城市
- 武汉恒锦思创科技有限公司_关于武汉恒锦