天天速递!“AI换脸”软件公开网售 几百至上千元不等!
舜网社会频道发布各类社会新闻,社会万象第一时间呈现。
央视新闻客户端 2023-06-02 22:31:59
近日,因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展,“换脸技术”的应用范围越来越广,技术的突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能带来严重危害。
总台记者经调查发现,网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里?如何做好事前监管?
01
(资料图片仅供参考)
网上出现“AI换脸”付费软件
套餐价格从499元至2888元不等
在网上,演示换脸软件使用方法及效果的教程比比皆是,其中不少“AI换脸”软件需要高价付费使用。
记者根据搜索结果联系到一名开发者,他向记者提供一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频,右侧则是换脸之后的视频,肉眼来看,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
△卖家展示的素人换脸效果(S为原视频,D为更换之后)
在其销售的网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴“拼接”到一起,生成全新“数字人”的视频。
△卖家展示的局部五官更换
这一付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,499元提供软件界面、视频指导、换脸模型等,如果花2888元,则可得到全套(LV5)等级的视频换脸模型。
△网络上提供多种不同等级的换脸软件产品
02
“想换什么脸都可以”
AI大模型可集成多种功能打造“数字人”
记者发现,该网站底部没有任何文字显示其已经过备案。卖家也十分谨慎,全程仅用文字交流。他表示,与初级(LV1)至超级(LV4)套餐相比,全套(LV5)版本迭代更多,能力更强,也可以理解为换脸效果更为逼真,同时,不仅可以实现视频换脸,还支持直播换脸。
记者进一步询问能否根据自己的需求换脸时,软件开发者表示:“想换什么样的脸拿素材训练就可以。”
△软件开发者与记者的聊天截图
一位从事AI开发的技术人员表示,这意味着可能会有更多难以控制的风险。“集成文生图、文生文,文生音频、文生视频、换脸,这样的功能结合起来,就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’,监管成本和难度高了好几个数量级。”
△卖家展示的用户反馈
03
专家:有效的标识监管体系
能提前厘清“AI换脸”带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示,从事后打击的角度讲,刑法中有关于诈骗罪的规定;民法典明确,公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说,如发生使用他人肖像进行诈骗的相关案例,不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下,还应探讨如何能够做到有效的事前防范。
例如,在《互联网信息服务深度合成管理规定》中要求,深度合成服务可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法(征求意见稿)》要求,利用生成式人工智能产品向公众提供服务前,应当按照有关规定向国家网信部门申报安全评估;要尊重他人合法利益;产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为,从目前来说,如果能够有效落实标识的要求,形成有效的监管体系,可以在很大程度上提前厘清“AI换脸”所带来的模糊边界。
盘和林:当前“AI换脸”的标识监管体系还没有形成,要针对不标注的内容,通过技术的手段来辨别,并且对不标注的个人或者是单位组织要有具体的处罚措施、标准以及制度。
北京嘉维律师事务所律师、IT法律专家赵占领认为,从长远来看,监管与处罚措施还需要随着技术发展不断“迭代”,才能形成立体有效的治理方案。
原标题:“AI换脸”软件公开网售 几百至上千元不等!
值班主任:李欢
责任编辑:李欢舜网社会频道发布各类社会新闻,社会万象第一时间呈现。
关于amy苏有朋经纪人简历,amy苏有朋这个很多人还不知道,现在让我们一起来看看吧!1、拜托!根本是谣
来为大家解答以上的问题。三个一心得体会,三个一这个很多人还不知道,现在让我们一起来看看吧!1、 "三个一
5月30日,中国银行发行的全球首单人民币“玉兰债”在上海清算所成功登记。本次“玉兰债”发行规模20亿元,
天津北方网讯:记者从市交通运输委获悉,《天津市65岁以上老年人免费乘坐公共汽车实施办法》(以下简称《办
1、这种豆酱含有大量不饱和脂肪酸,以及维生素B、纤维素、钙离子、钾离子等成分。2、适量吃一些豆沙包子,
为教育引导少先队员弘扬雷锋精神,用实际行动奉献爱心,增强少先队员的社会责任感。崇州市第二实验小学二年
《天空之山》有很多的成就需要解锁?那么需要哪些条件?下面为大家分享《天空之山》全成就解锁方法详解攻略,
同花顺金融研究中心6月2日讯,有投资者向上海建科提问,董秘您好!公司是否参与了中国移动IDC研发与产业化
本文内容是由小编为大家搜集关于600507股票,以及600507股票股吧的资料,整理后发布的内容,让我们赶快一起
肖战和李沁主演的年代剧《梦中的那片海》开播了,类似的年代剧其实很多,比如前久播出的《情满九道弯》。后
为保障全县高考期间供电安全可靠,6月1日,国网浚县供电公司员工化身高考“护考人”,对考点供电设备进行全
天津北方网讯:天空中,无人机群进行喷洒作业、紧急水上营救;陆地上,无人微巴往返穿梭接驳游客,点单后送
5月,多个热点城市优质地块供应带动房企拿地热情回升。前5月,百强房企拿地规模同比降幅继续收窄,不过,投
小伙伴们,你们好,今天小夏来聊聊一篇关于鱼子汤,关于鱼子汤简述的文章,网友们对这件事情都比较关注,那