《人人网免费小视频》

“AI换脸"乱象调查：明星换脸淫秽视频打包卖，还教换脸技术

前不(♉)久，一名网络博主在地铁拍的日常生活照，遭不怀好意之人使用AI技术“一键脱衣(💝)”，再次引起社会(📘)对“AI换脸(🎀)”等深度合成技术的关注和担忧。

早在2019年，一(🐕)款名为“ZAO”的AI换脸软件曾风靡(👭)网络，只要(🔰)提供一(🍩)张照片就能成为影视剧的男女主角，让众多网友趋之若鹜。然而，因侵犯版权、侵害隐私、危害数据安全等问题，“ZAO”很快被下架处理。

然而(🧚)，随着技术发展和使用门槛降低，“AI换脸”的应用场景越来越多，背后的黑灰产业链也逐渐浮出水面。记者调查发现，目前在网络平台上，售卖明星(🤷)换脸的淫(🚵)秽视频、提供视频定制换脸服务、教授换脸技术等已经成(🈺)为一门生意。

技术(🚠)本无善恶，但技术应用需要规制。4月11日，国家网信办发布的《生成(🎹)式人工智能服务管理办法（征求意见稿）》，在产品安全评估、数据合法性等方面(🐬)作出具体规定。业内人士认为，这一规定实施后，将对包括“AI换脸”在内的生成式(🍓)人工智能技术发展起到很好的规范和指导作用。

“AI换脸”的法律边界何在？“AI换脸”服务的提供者和使用者存在哪些法律风险？如何规制和防范“AI换脸”对个人和社会造成的严重后果？

明星换脸视频打包出售，定制只需两三小时

近年来，“AI换脸”等深度合成技术快速发展，在服务用户需求、改进用户体验的同时，也被一些不法人员利用，生成恶搞(😙)视频、色情视频在网上传播、出售。记者注意到，在有关部门和网络(🍊)平台不断加强监管的(🐩)背景下，一些“换脸软件(📳)”和“定制换脸服务”转向(🐖)更隐秘的角落，形成地(🎑)下黑灰产业链(🤪)。

换脸应用“FacePlay"采取会员制的方式，为用户提供视频和照片换脸服务(🤘)（应用(🌫)页面截图）

记者在百度搜索关(🔵)键词“AI换脸”，查(✋)询到一些标注为“广告”的网站，仍在出售(➰)“明星换脸视(🤣)频”。根据网页留下的QQ号，记者联系到一个名为“深蓝”的卖家，其随后发来“百位明星合成视频合集”的列表截图，文件名上(🍺)标注出多位(😜)大众熟知的女明星。

“100部，打包价108元。”深蓝表示，视频文件将通过QQ文件发送，支持(🎲)微信、支付宝、QQ红包等支付方式。为了证明视频的质量，深蓝随后发来几张动图，内容是几位女明星被换脸后的淫秽视频截图。

另一个卖家则向记者发送了网盘链接。对方称，视频时长有几分钟到十几分(🎰)钟不等，可以保证视频质量。“如果你有特别喜欢的明星，我们可以为(🥝)你提供定制(💬)服(🛂)务，收费比(🥀)较贵。”对方表示，一(🥢)段时长约5分钟的定制视频要价188元，“两三个小(🚐)时就能给你”。

上述两位卖家都声(📏)称，出售的明星换脸(👼)视频是团队自己制作的，深蓝更是夸口称(🗼)“独家发(🍶)售，绝无仅有，质量有保证”。两名卖家提供的明星换脸合成视频流畅度极高，几乎达到(👳)了真假难辨(🛥)的程度(🥣)。

实际上，演艺明星、社会(👳)名人更(🌗)容易成为“AI换脸视频”的受害者。近期，一名男性特效师将(🥥)自己的脸替换到影视片段(🏙)中，生成(🔞)跟女星迪丽热巴亲(🏄)吻视频，引发粉丝抗议。

因不堪其扰，一些明星选择维权。2021年(😴)8月，刘昊然工作室发布声明称，有人利用“AI换脸”技术传播对刘昊然带有侮辱性的视频、截图，同时含有诽谤言论的聊天记录。该工作室表示已向警方报案。2021年9月(🚻)，林俊杰因个人肖像被短视(🍪)频博主用(🗃)“AI换脸”技术制作了大量的鬼畜视频，起诉了平台及该博主，要求其赔礼道歉并索赔27．5万元。

相关应用仍可下载，卖家教授“AI换脸”技术

不仅有出售明星换脸成品视频的卖家，各类提供“AI换脸”服务的(🤽)App和小程序，仍在网络中存在。更甚者，一些卖家要提供换脸技术教学(🧛)服务，进一步降(🥏)低(😫)这类技术的应用门槛，易造成对他人权益和社会(❗)公共安全的危害。

在手(🐃)机应用商城，记者搜索“AI换脸”等关键词，就有不少相关App推荐，如“AI换脸”“FacePlay”等。在某社交平台上搜(📊)索“换脸”，也能看到不少“AI换脸”的小程序，如“AI换脸变装”等。

记者下载了热度最高的“FacePlay”App。该App有多款换脸模板可供选择，包括AI绘画、影视剧、气质美女、男士专属等，一键上传照片便可生(🎪)成换脸视频。

要想在这些App和小程序上(🍯)使用(🤲)“AI换脸”功能，有些需要付费，以“FacePlay”为例，周会员17元、年会员398元。也有免费适用的App，一般用户每日可享受一次免(👚)费“AI换脸”的机会，用完(🚥)免费次数后可通过浏览视频广告获取权限。

而在电商平台，“AI换脸”“换脸(⚡)”等关键词(🍜)已被屏蔽，但通(🏿)过“明星视频”“定制视频”等更(🌔)隐蔽的关键词，仍能找到出售换脸软件、定制明星换(⛲)脸视频及教授(🎊)换脸技术的卖家(📧)。

记者搜索某电商平台发现，一名卖家通过视频教授“AI换脸”技术，还提供代码脚本网(🧥)页，收费只要39.9元。

记者联系了其中一名卖家，对方不仅售卖明星换脸视频和定制换(🈸)脸服务，还提供教学服务(⛩)，“只要39.8元，包学会”。完成付款后，记者收(🐯)到卖家记者发来的一条网盘链接，里面是一段教学(📉)视频。“视频被封了(🙌)，只能压缩上传，先保存到网盘后再下载。”该卖家告诉记者，根据视频的步骤，就能学会AI换脸操作。

随后，卖家又给记者(😗)发了一组账号和密码，还有一个网页链接。“这是我们的代码脚本网页版，比那些换脸软件的功能更加强大。”卖家提供的教学内容显示，用户根据指引，完成登录、提取脸部数据、训练模型、换脸输出视频等步骤，就(🔌)能实现“AI换脸”视频的制作。

记(🔲)者跟(🚬)教授换脸技术卖家(♏)的聊天记录截图

记者注意到，这个店铺的月(🤝)销量超过50，但没有评论。卖(🚜)家在私信(🐬)中强调，不要公(👇)开发表评论，“有问题直接联系我就好了”。

相对现成的 “AI换脸”软件多适用于拍照场景、影视剧片段的替换合成(🌞)，上述卖(🧐)家教授的换脸技术更能为所欲为：用于换脸的照片不受限制，可合(❌)成的视频片段也不局限于影视作品，包括新闻、私人影片(🕎)等都可被“AI换脸”。

滥用“AI换脸”存法律风险

“00后”小陈告诉记者，出(➰)于(😄)猎奇和娱乐心态，自己以前也喜(🥔)欢看视频网站的“AI换脸”视频，“把唱跳偶像(🌸)的脸(🌽)换在古装人物身上，很(🈷)新奇。”但之前有朋友用她的照片生成恶搞视频，让她感到“很不舒服”，引发她对“AI换脸”的警(🐜)惕。

越来越多人意识到，“AI换脸”是一把(🖤)双刃剑(🔍)，亟须法律对技术进行更系统的规制与引导。

“深度合成技术在给大(🏺)众提供娱乐的同时，也因为滥用和缺少监管，造成了信息安全隐患和传播侵权(💢)的乱象，甚至成为刑事犯罪的‘帮凶’。”一名长期从事打击电信网络诈骗的民警对记者表示(🐊)，已经有不法分子将“AI换脸”用于制作虚假视频，从事电信网络诈骗等违法犯罪活动。

近年来，“AI换脸技术(😧)”频频被一(🔢)些犯罪分子盯上，随(🛥)之而来的犯罪手段也是花样百出、层出不穷。除了演艺明星外，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所(👏)谓的(📎)遭泄露“私密照片”，对当事人实施敲诈勒索。

实际(🤗)上，即便只是用“AI换脸技术(⛺)”制作娱乐性的(🕦)恶搞照片，也有可能(🆓)涉及侵犯肖像权(🥩)、名誉权，造成严重后果的(🌱)，还可能构成侮(🐱)辱罪或者诽谤罪。

按照民法(🎱)典规定(🚦)，任何组(😿)织或者个人不得以丑化、污损，或者利用信息技术手段(🕚)伪造等方式侵害他人的肖像权。这就意味着，无论个人还是平(👱)台、软件开发商，未经肖像权人同意，通过技术手段提取肖像，并擅自使用或上传至换脸应用中供用(🚑)户选择使用的行为都侵害了他人肖像(🐌)权。

去年年底，杭州互联网法院审理了一起(🔑)因“AI换脸”App利用深度合成算法侵害他人肖像权的(🕋)案件，判定App开发者构成对原告肖(🎞)像权的侵害。在这起案件(🗽)中，原告楼(🏢)某某是一名古风汉服模特，经常在社交平台发(🥛)布(🐮)古风汉服照片和视频。楼某某发现被告公司运营的“AI换脸”App中(🎩)使用的是其拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模(🔋)板中的人脸替换成用户上传的人脸，除五官发生实质性变化之外，其余内容都与原视频保持一致。软件生成换脸后的古风造型(😰)视频，用户可以将其保存并其他平台(⛵)。

法院审理认(🕊)为，被告公司(📁)未经楼某某同意，利用深度合成技术使用其(🙏)肖像制作了伪造视频，依法应认定为构成(🍻)对楼某某肖像权的侵害。法院判决被告向楼某某赔礼道歉并赔偿损失(🏿)5000元。

民法典还规定民事主体享有名誉权。例如前(🛡)文提到的各类换脸视频的网络卖家，将(👳)他人的脸换到不雅视频中，或者利用换脸软件对他人进行恶意丑化，就涉嫌侵犯他人的名誉(🦍)权。另外，这些卖家出售深度合成的明星换(💅)脸色(🦉)情视频，还涉嫌(😏)制作、传播淫秽物品，可能构成刑事犯罪。

法律界人士指出，若有视频创造者发现自己的视频被“AI换脸”App运营(🛅)商盗用，视(🛰)频所(🌾)有人可以通过提起民事诉讼方式要求运营商承担停止(👜)侵权、赔礼道歉并赔偿损失等民事责任；如公民发现自己的视频被人用于违法犯罪，可向公安机关报案追究相关人的法律责任。

技术规制(🍥)需多管齐下

“技术发展是不可阻挡的趋势，技术应用也往往超前于风(⛩)险应对(☝)手段的产生。”北京市盈科（海淀(🐀)区）律师事务所网络犯罪辩护与刑(👻)事合规部主任刘洋(🤘)认为，深度合成技术对影视、娱乐、教育、科研、医疗等领域的发展有相当促进作用，让“AI换脸”等应用屡陷争议的原因，既有开发者的利益需求，也有技术规制的天然滞后性。

技术对人类(🚑)生活、工作影响深远，但“技术中立”并不能成为规避责任和义务的理(💗)由。今年1月，国家互联(👄)网信息办公室、工业和信息化部、公安部联(🖌)合发布的《互联网信息服务深度合成管理规定(💨)》正式实施，为深度合成服务划定了“底线”和“红线”，强调不得利用深度合成服务从事法律、行政法规禁止的(🥪)活动，要求深度合成服务提供者落实信息安全主体责任。

随着技术迭代不断加速，与之对应的，对人工智能技(❄)术的法律规制(🍷)和政策引导也在不(🎀)断完善。4月11日，国家网信(🤼)办发布了《生成式人工智能服务管理办法（征求意见稿）》，共21条，对生成式人工智能产业给出较为详尽的规定，其(🏃)中包括定义、准入资格、责任义务和处罚措(🚖)施等。

刘洋分析认为，《征求意见稿》在产(🏴)品申(🛩)报安全评估、数(😆)据来源合法性要求、对用户输入信息和(🏀)记录承担(🎻)保护义务等方面的规定，具有更强的现实意义。“尤其在个人(🤼)数据和信息的(😌)保(🛍)护方面特别重视，要求提供者在提供服务过程中，对用户(🏈)的输入信息和(🤗)使用记录承担保护义务(🙍)，不得非法留存能够推断出用户身份的(🌖)输入信息，不得根据(🦕)用户输入信息和使用情况进行画像，不(🌞)得向他(🙏)人提供用户输入信息。”

要遏制“AI换脸”等人工智能领域的深度合成技术应用乱象，还得政府监管部门、平台、网民多方形成合力，多管齐下。

网民需要自律、守法。“个人使用换脸工具，需要用在合理合法的用途和目的上，需要对法律常识和公序良俗有底线意识。”刘洋说。企业则需要在技术研究和应用中规范伦理要求，履行主体责任。刘洋举例说，网络平台如果明知视频违法违(🐮)规而不采取(🌳)措施，继续对他人和社会造成损害，平台也应承担相应的连带责(🆕)任。

此外，针对技术研究与应用的(👔)法律规制和执行(🚎)效能还需进一步完善。“在(🔶)制度设计层面，我国(💁)未形成统一的对人工智能技术的系统性立法，现有的法律规范在落(⛅)地执行层面也存在挑战。”刘洋说，立法要及时关注技术发展过(🤝)程中出现的新现象、新(🍲)问题，监管部门则要重点关注和监测对可能(⛵)造成恶劣社(📿)会影(🈺)响、危(📹)害(⏰)国家安全和社(⛷)会公共利益的“AI换脸”视频，严格监管，对各类违法侵权行为重拳出击。

来源：上观新闻

流程编辑：TF016

【人人网免费小视频的相关新闻】