知名医生张文宏带货蛋白棒?不久前,某视频博主发布的视频中,张文宏医生强烈推销一款蛋白棒,让不少网友信以为线件。
张文宏随后作出回应称,视频是AI合成的,“我在发现这事后立即投诉过那个AI合成的视频,但是它的账号一直在换,自己最后也没精力了。这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人”。
AI换脸技术的应用边界何在?如何打击和治理网络中滥用AI换脸技术的不法行为?对此,记者做了调查采访。
“爸妈,我现在在医院,着急用钱,麻烦再给我转两万吧……”视频中,女生神态焦急地倾诉着最近遇到的难事,向父母要钱,语气恳切,看上去几乎毫无破绽。
随后,该视频发布者发布了原视频,视频中,女生只是在和掌镜的朋友正常交流对话,所说的内容和神态与上一条视频中的完全不一样。
随着AI技术发展,AI换脸图片和视频成为热门现象,娱乐之余,让人真假莫辨,风险与困扰也不少。
《法治日报》记者近日调查发现,网络上,不仅有人随意兜售AI合成软件,“手把手教学”,使得制作生成AI“克隆人”视频的技术成了一门生意。还有人利用知名人士视频和声音AI合成新的视频,发在短视频平台上用来卖货。更有甚者,滥用AI换脸技术走上了违法犯罪的道路。
AI合成技术亟待加强监管。多位受访专业的人建议,完善立法,明确定义深度合成技术的应用场景范围和法律边界,细化平台、技术提供商、内容制作者及用户的法律责任。同时,构建多元主体协同治理的体系架构,全方位、全环节整治和打击涉AI犯罪活动和网络黑灰产业链。
在上述利用AI合成技术生成的视频介绍中,作者打出了“AI克隆人”“AI数字人”等标签。据作者介绍,只需提供一段有清晰人脸和声音的视频,就可以在极短的时间内生成一个和原视频相似的新视频,说话的内容能自行编辑文本。
生成的视频中人物形态之自然,语言之流畅,让评论区一些网友直呼“恐怖”“真假难辨”。
记者查看视频评论区发现,该视频作者打起了“暗号”——在一些感慨技术逼真的网友评论下面进行留言“+薇4聊……教学,懂得来”(汉字与数字交替出现,用来代替聊天账号,暗示添加好友私聊)。
记者按照提示,添加其好友询问相关视频及制作的过程。昵称“AI小米××”立刻回复道:“想自用还是直接代理赚钱?”
据其介绍,如果是自用,能充值199元成为“AI幻影××”(某AI“克隆人”生成平台)的2年会员,能马上生成AI合成视频共计38分钟,不限使用次数。而交纳499元则能成为代理,号称“享受60%的首次分佣,躺赚20%的复购充值分佣,享受80%的招代理分佣”。
几天后,当记者再次试图打开上述视频时,显示“视频因违规无法播放”,违规原因“疑似为高风险的项目/引流行为”。
“视频里在海边游玩的不是我,而是我的数字人分身。你跟着作,就能定制自己的数字人,轻轻松松实现视频流量起号……”在社交平台、短视频平台上,类似以AI数字人、“克隆人”视频引流的帖子有很多。
记者就制作AI数字人的流程咨询一博主。该博主在之前发帖中明确表明“不收费”“不用花钱”,但提出要加入群聊成为会员,他会在群内发布相关操作指南和课程。
此外,在多个网购平台、二手交易买卖平台,AI“克隆人”商品也可以随意买到。记者在某网购平台检索“AI换脸”,显示搜索出来的结果不存在,但更换关键词为“AI换人脸视频软件”后,立刻出现多款此类商品,价格从几元到上百元不等。
记者点进一款名为“AI数字人生成软件短视频制作对口型形象声音克隆定制AI分身”的商品,咨询店主后对方回复称:“使用软件时,您可以上传30秒以上的自己形象视频,然后输入文字,我们××数字人系统就可以给您生成对应口型和克隆您声音的视频了,2分钟左右就可以生成好。您下单后客服会一对一服务到您学会使用为止。”
随即,对方发来一个标价为98元的下单链接,称这是购买该软件的月卡,能制作约30秒以内的视频32个,“短视频养号一个月足以快速起号”。
前不久,天津红桥警方在一起AI诈骗案中,成功追回市民被骗的83万元。天津市民李先生此前收到了一条短信,对方自称是李先生单位的领导,要求加其社交软件详聊。
加上好友后,对方便以有急事需要为由,要求李先生向其转账,还保证事后钱款一定返还。对方还主动打来视频电话。看到视频那头出现的确实是“领导”,李先生瞬间放下戒备,分3笔向对方汇款95万元。当天下午,李先生与朋友聊天时提起这件事,越想越觉得不对劲,于是报警。
接到报警后,天津警方迅速与银行开启联动机制,及时对3张银行卡进行紧急止付操作。银行成功冻结了涉案资金83万元。
据办案民警介绍,一些不法分子利用AI技术,将他人的脸换成熟人或亲人的脸,冒充诈骗对象的重要关系人,通过合成视频或照片来“以假乱真”,扰乱被诈骗对象的视线进而实施诈骗。
据公开资料,此前,有人在社交平台用AI换脸成富商马云,视频连线获取网友信任,目标受众多为对AI缺乏认知的中老年人,之后再以“做扶贫项目”等为由骗取钱财。还有人在短视频平台上冒充演员靳东与中老年人接触,以需要钱拍戏为由诱使他人转账。
对此,北京航空航天大学法学院副教授赵精武分析说,利用AI换脸技术进行带货等行为,如果仿冒他人,除了构成民法上对肖像权等人格权的侵害之外,根据情节轻重,还可能构成刑法上的虚假宣传、网络诈骗等犯罪行为。
“而随意售卖AI合成软件的行为,倘若存在主动为犯罪行为人提供相关软件服务等情形,则可能与犯罪行为人构成共同犯罪。”赵精武说。
“如果通过AI换脸技术编造险情、灾情等,还有可能构成编造、故意传播虚假信息罪。”北京盈科(上海)律师事务所数智化建设委员会副主任李悦举例说,前一阵子的“西藏小男孩被埋图”,虽然使用的AIGC技术不是深度合成AI换脸,但也是使用AI技术。据了解,该行为人已被追究行政责任。如果其情节更严重的话,或构成编造、故意传播虚假信息罪。
李悦强调,首先必须明确,技术本身是中立的。AI换脸作为深度合成技术的一种具体应用,虽然存在被滥用的风险,但其本身并无“原罪”。目前,一些平台上的个人“售卖技术”行为,教他人使用开源项目或某些应用,本质上是在利用信息差。然而,如果课程内容专门教授如何突破深度合成应用的内容审核机制,则应当被否定。平台能够最终靠限流、警告、冻结账号等方式对这些视频内容做规制。
“虽然AI技术在慢慢的提升,但目前而言,仔细看的话还是能识别AI合成的视频。”李悦说,AI合成视频往往在面部细节上存在较为明显缺陷:微表情缺失(如眼角细纹、嘴角抽动难以捕捉)、光影不匹配(轮廓和阴影过渡不符合光线反射规律)以及皮肤过于光滑(缺乏毛孔、纹理和瑕疵)。在眼神与表情方面,眼球运动机械化(转动不连贯、眨眼频率异常),面部表情僵硬(转换生硬、笑容缺乏真实感)。
“在运动过程中也会出现非常明显的问题,比如脸部变形等。观看手部动作也是一个比较快速识别的技巧,曾经很长一段时间,AI在处理人手的时候会出现非常多的问题,比如关节畸形等。”李悦说。
“据我观察,AI生成的语音通常更加流畅,语速更快,且较少出现‘额’‘嗯’‘也就是说’等语气词或停顿。”李悦说,虽然声音克隆技术近年来取得了显著进步,几乎能达到以假乱真的程度。但如果仔细辨别,仍旧能识别出AI生成的声音。毕竟截至目前,尚无任何一款AI可以通过图灵测试。
据赵精武介绍,我国目前对于AI合成技术已作出了较为充分的规定,例如《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》等,明确要求深度合成服务提供者落实信息安全主体责任,使用者不得滥用深度合成服务。
李悦介绍说,我国于2023年颁布《互联网信息服务深度合成管理规定》,针对该技术的规范管理迈出了重要一步。在人工智能整体领域,我国也持续推出了一系列相关规定,包括目前正在研讨的人工智能法。
“当前全世界内AI技术竞赛异常激烈,我国在这一领域仍处于‘追逐者’的位置。因此,我们应更深入地思考:究竟需要构建怎样的人工智能法律体系。这一体系既要能适应技术加快速度进行发展的需求,保障社会公共利益,促进AI产业的健康可持续发展,又要助力我国在AI竞赛中提升竞争力,实现从‘追逐者’向‘引领者’的转变,从而在全球AI发展格局中占据更有利的位置。”李悦说。
李悦说,技术难题大多数表现在匿名性,犯罪分子使用匿名身份和虚拟货币;取证困难,需证明视频真实性、来源及目的,以及跨境性,一些犯罪工具或行为涉及境外。法律难题则包括责任链条长,涉及AI工具提供者、制作者和传播者;主观性认定困难,需证明行为人明知违法,且证据标准高。
“滥用AI技术实施犯罪行为往往与传统犯罪行为(如电信诈骗、传播网络谣言等)相结合,需要公安机关联合各大网络站点平台采取更为直接、有效的治理措施。”赵精武说。
为此,他建议构建多元主体协同治理的体系架构:公安机关与网信、工信等部门联动执法,全方位、全环节整治和打击涉AI犯罪活动和网络黑灰产业链;执法部门同步更新监管技术,推动人工智能技术在刑事侦查等领域的应用,进而更高效、更精准地打击滥用AI犯罪活动;网络站点平台积极落实平台主体责任,积极努力配合执法活动,严格落实网络实名制和黑名单制度,严防各类犯罪行为人通过更换账号登录方式躲避平台监管。
李悦建议,立法方面,需明确定义深度合成技术的应用场景范围和法律边界,细化平台、技术提供商、内容制作者及用户的法律责任。同时,加大对利用AI技术实施犯罪行为的刑事处罚力度,并完善针对AI合成视频的证据规则,明确其法律效力。
“技术方面,推广AI合成视频的检测工具和溯源技术,研发高效、低成本的检测服务,并向公众开放。利用水印技术对AI生成内容做标识,便于追踪和识别。”李悦说,此外,可以建立AI企业备案制度,加强对企业资质、数据安全和算法透明度的监管。
李悦提出,进一步强化平台责任,要求平台对用户发布的内容做审核,立即处理违法信息。制定AI行业行为准则和道德规范,推动行业自律和技术应用的伦理合规性。建立跨国执法合作机制,共同打击跨境AI犯罪,并共享AI犯罪案例和犯罪手法信息,提升全世界内的防范和治理能力。
“AI技术的宣传教育也很重要。”李悦说,对执法人员、司法人员进行AI技术知识培训,提升其专业能力和执法效率。同时,通过媒体宣传提高公众对AI犯罪的防范意识,普及AI技术的基本知识和风险。(法治日报记者 孙天骄)
基于对生成型AI与史学研究关系的充分实践和思考,作者觉得,这项革命性的技术既非“潘多拉的盒子”,也不是万能宝箱。AI在史学研究中的应用存在不可避免的局限性,需要靠学者克服并化剑为犁。
图为2月8日,影迷在成都天府长岛数字文创园哪吒形象雕塑前合影。当哪吒脚踏粒子幻化的风火轮掠过水墨渲染的蜀中山水,观众看到的不仅是一部电影的进化史,更是一个文明古国以科技赋能民间传统文化展现出的魅力。
同新能源汽车一样,未来低空经济主力场景——电动垂直起降航空器(eVTOL)与无人机等的规模化推广应用,离不开高性能动力电池。燕绍九表示,下一步,研究中心将持续推动石墨烯锂电池材料的开发和工程化应用,为低空经济蒸蒸日上贡献力量。
近日,深度求索(DeepSeek)旗下DeepSeek-R1、V3、Coder等全系列大模型正式接入国家超算网络站点平台。为促进超算算力一体化运营、打造国家算力底座,国家超算网络站点平台去年4月正式上线,覆盖科学计算、工业仿真、人工智能(AI)模型训练等各个领域。
当前AI(人工智能)正在逐渐改变世界,成为政府决策、医疗干预、金融交易、司法审议、环境保护、科学研究等领域的重要“参与者”。
张学勇介绍,科研人员挑选了17个有代表性的小麦品种,对它们染色体水平的基因组进行从头“组装”,最终得到了高质量的基因组数据。中国工程院院士刘旭认为,这项研究成果将推动我们国家小麦种质资源研究迈入大数据时代,加快重要基因的挖掘与利用。
很多人说睡前吃宵夜不好,最常说的理由就是会长胖。其实,长胖跟吃夜宵本身并没有很大关系。
冬日暖阳下,搭乘摇橹船泛舟浙江杭州西溪国家湿地公园,水道如巷,河汊如网,如入画境。
该研究团队就如何度量全球尺度土壤水分站点空间代表性、如何表述地面的复杂性、这种复杂性又怎么样影响站点的代表性三个方面展开了研究。他们提出了新指标“站点相似面积比”,该新指标的优点是不仅考虑了卫星像素内外因的空间异质性,还考虑了站点的下垫面情况。
在山东省邹城市,有着百年传承历史的非遗——火虎表演,也以全新面貌迎接申遗成功后的首个春节。”春节期间,天津游客孙先生来到河南省开封府景区,沉浸式体验开封市首个全息侦探剧目《闸口盘车案》表演。
托卡马克最初是由苏联库尔恰托夫研究所的阿齐莫维齐等人在20世纪50年代发明的,是一种利用磁场约束带电粒子来实现可控核聚变的环形容器。
踩着“咯吱、咯吱”作响的积雪深一脚浅一脚地前行,时不时俯下身子仔细查看。大年初三中午,塔里木油田油气运销部管道工程师胡毅正和同事沿着线
云南省丽江市玉龙纳西族自治县太安乡,海拔2827米,中国科学院空天信息创新研究院西南丽江卫星数据接收站(以下简称丽江站)就坐落于此。唐梦月之前一直在北京密云卫星数据接收站工作,2023年7月,他主动请缨支援建设,从北京来到了丽江。
记者从全国林业和草原工作视频会议上获悉:2024年我国完成国土绿化任务超1亿亩,包括造林6669万亩、种草改良4836万亩,其中,治理沙化石漠化土地3683万亩。
此地坐落着我国单体容量最大的“沙戈荒”光伏项目——中国绿发集团所属新疆中绿电技术有限公司(以下简称“新疆中绿电”)若羌400万千瓦光伏项目。春节假期,担任新疆中绿电若羌区域运检中心副经理的郭晓阳,选择坚守在项目现场。
6日,记者从中国科学技术大学了解到,该校陈维教授课题组首次提出一种基于电化学原理的绿色可持续废弃物回收管理策略,能够同时实现废旧锂离子电池正极材料中的锂资源回收和工业尾气中氮氧化物污染物的捕获和转化。
构建“教育-认证-就业-成长”的全链条生态,让每个飞手都能找到属于自己的“升空航道”。
松下的重组绝非简单的业务收缩,而是日本制造业在数字化的经济时代的一次战略校准。
该奖项是国际卒中领域临床医学的最高奖,设立34年以来,这是亚洲科学家第一次获奖。
西湖大学未来产业研究中心、工学院王睿团队在钙钛矿/铜铟镓硒叠层太阳电池领域取得重要成果。
