首页  /  普法教育动态  /  正文

普法教育动态

广电总局对“AI魔改”视频传播乱象开展专项治理——“AI魔改”红线不能踩

发布时间 : 2026-01-12 09:37:09        来源 : 党建在线     浏览次数 :

广电总局开展专项治理——“AI魔改”红线不能踩

2026-01-12 07:27:53 来源:人民日报海外版

你刷到过这种视频吗?《甄嬛传》里的华妃向皇后请安后,跨上摩托绝尘而去;黛玉前一秒蹙眉垂泪,下一秒化身拳击手与宝玉对打;诸葛亮阵前怒斥王朗,一张嘴说的却是流利英文……

视频里,这些角色的面容形象、音色口型都完美贴合大众熟悉的样貌,行为却“跑偏”得像脱缰的野马——随着人工智能技术发展应用逐渐成熟,对经典影视的“魔改”也越来越常见。

自2026年1月1日起,国家广播电视总局在全国范围内开展对“AI魔改”视频传播乱象的专项治理,为期一个月,重点清理对四大名著、历史题材、革命题材、英模人物等电视剧作品的颠覆性篡改、“魔性”解构与低俗化改编。

为何整治“AI魔改”?它与合法改编“二创”有哪些区别?相关行为有哪些侵权风险?如何在鼓励创新与传承经典间保持平衡?记者进行了采访调研。

AI能力跃升

家住陕西的韩先生最近很苦恼。他是个历史迷,10岁的儿子耳濡目染,常抱着平板电脑了解历史人物的生平事迹。可在网上一搜索,总会跳出不少AI生成内容,其中就包括对经典影视剧片段的各种“AI魔改”。

“拿《三国演义》说,我看过原著和94版电视剧,自然清楚哪些桥段是假的、恶搞的。”韩先生说,“但我儿子有时候真的会信。比如上次说起曹操,他说在网上看过曹操用加特林打刘备。我听完就懵了。”

韩先生回忆:“这种恶搞以前也有,但拼接、换脸痕迹很明显,很容易被识破。现在做出来的效果越来越自然,难怪会有人分不清。”

“AI魔改”能以假乱真,关键在于AI能力的跃升。

记者在视频平台上搜索“AI二创”“AI配音”等关键词,大量教程映入眼帘。“三分钟学会”“手把手教你”“小白友好”等,是标题中的常见话术。点开教程,从用什么软件,到每步怎么操作,全有详细说明。

一位业内人士分享:“经常看到有人夸一段AI视频惊艳,说‘提示词肯定十几万字’。这一看就是外行。前几年可能确实如此,那时人们还需要使用专门的软件定制工作流,但现在大模型对自然语言的理解能力越来越强,借助文生视频工具,即便没有任何相关专业背景,只需一段简短的自然语言把需求描述出来,就足够让AI制作高质量视频了。”

技术门槛降低,让网络上的经典影视“二创”内容空前丰富。

一方面,AI的辅助,让许多忠实原作又别出心裁的优秀作品加速涌现。有博主使用AI工具,让美猴王、红孩儿、黑熊精等《西游记》角色走进录音棚,用摇滚风格倾情演绎自己的主打歌,吸引千万网友解读、共情。

另一方面,也有人把“怎么崩坏怎么来”当成了流量密码。让家喻户晓的角色做出各种匪夷所思的行为,拿反差博眼球,不顾原作精神内核和角色形象,甚至渲染血腥暴力、猎奇低俗,违背公序良俗。

这类“崩坏”作品的评论区里,有网友说:“头一次看挺新奇,看多了发现内容空洞无物,没意思,甚至让人生理不适。”

中国社会科学院大学互联网法治研究中心主任刘晓春表示,心智尚未成熟的未成年人接触涉及传统文化的“魔改”,极易产生文化认知混乱和价值观错位。其中恐怖、血腥或不合常理的内容,还会影响未成年人的身心健康。

本次专项治理并非对经典影视的AI改编“二创”一概否定,而是瞄准其中的“毒瘤”精准打击,为优质作品创造更多空间。

“AI魔改”有法律风险

很多观众甚至创作者并不清楚一个问题:“AI魔改”有没有法律风险?

一则视频中,博主对某电视剧的“名场面”下手,借助AI重配了男主角的台词,大量网友点赞玩梗。评论区有人发问:“这样难道不侵权吗?”大家七嘴八舌:“法不责众”“不拿来谋利就可以吧”“二创反而给原作增加了热度”……

北京互联网法院综合审判一庭庭长、竞争专业法官会议主任、四级高级法官朱阁表示:对经典影视片段进行“AI魔改”,很有可能涉及侵权。

“因为影视作品有权利人,而‘二创’发布后可以获得流量收益。”她说,“根据《中华人民共和国著作权法》,未经许可用到作品中具有独创性表达的画面,无论片段长短,都涉及侵权。权利人有没有经济损失,并不是判断的关键。”

有人提出,著作权法中规定了“合理使用”的条款,只要符合其中情形,就算未经授权,也可以直接使用作品,不算侵权。

但朱阁指出:“‘合理使用’适用的条件很严格,需要根据个案具体判断,比如适当引用已发表作品撰写制作影评。其他情况,尤其是具有商业性质的使用行为,很难被纳入这一范畴。”

即便获得改编授权,二次创作也并非“为所欲为”。

专项治理中提到的“严重违背原作精神内核和角色形象”,可能侵犯原著作者的“保护作品完整权”,即保护作品不受歪曲、篡改的权利,属于著作人身权。

“AI魔改”如果利用演员的社会知名度进行引流,或丑化角色形象,可能侵犯演员肖像权。若涉及渲染血腥暴力、违背公序良俗,以及挪用、篡改中华文化等,则可能违反法律法规中关于禁止破坏社会公德、亵渎民族优秀文化传统的规定。

“特别要注意的是,著作财产权的保护有期限,但著作人身权的保护是没有期限的。也就是说,即便一部作品年代久远,也不意味着它可以随意被歪曲篡改,相关行为仍可能构成侵权。”朱阁表示,“同时,有些内容承载着公共或集体的价值、利益,有时可能需要具有公共职能或代表集体的机构或部门,作为主张权利的主体。相关规则有待进一步探索。”

有效治理“AI魔改”乱象

此次专项治理明确要求:网络视听平台应落实主体责任,强化内容审核把关,坚决清理违规内容,处置乱象突出的账号,扭转“AI魔改”视频蔓延的不良态势。

在“AI魔改”乱象的治理中,平台究竟应该扮演何种角色?

泰和泰律师事务所高级合伙人廖怀学认为,在AI内容治理中,平台不应仅被看作内容的传播渠道,更是内容生态的直接管理者与责任主体。

2024年12月,“全国首例AI文生视频侵权纠纷案”在湖南长沙宣判。某平台未经授权,利用影视作品《庆余年》原片片段提供AI剪辑服务,且未提供相应防范措施,被法院认定侵犯了信息网络传播权,判令其赔偿经济损失及合理支出80万元,并立刻停止侵权行为。

“平台若未能建立有效的风险防范机制,就无法仅凭‘技术中立’免责,而需承担相应法律责任。”廖怀学说。

在AI相关司法案件裁判领域拥有丰富经验的朱阁指出:“平台责任一直是这个领域的热点和难点问题。”平台是否要为“AI魔改”侵权内容担责,与其服务的性质与规模、对被诉内容的干预程度、是否从中直接获取经济利益、权利作品的知名度、被诉内容的热度以及是否采取相应的预防制止侵权措施都有关系,需要综合考虑。

那么,AI工具的使用,是否影响侵权行为的法律判定?

朱阁认为,所谓“AI魔改”,某种程度上与过去的影视改编、翻拍并没有本质不同。“使用哪种技术并不是问题的关键,重要的是技术背后的人,要看人的行为是否侵害权益、违反秩序。”

不可忽视的是,AI工具确实降低了“二创”门槛,也增加了监管的难度。当前,中国已通过《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规为AI创作划定了明确红线,对生成内容合规、训练数据的来源合法、AI服务提供者的标识及处置义务提出了具体要求。

国家广播电视总局2024年12月发布的《管理提示(AI魔改)》明确要求:平台必须建立具体可操作的审核机制,优化推荐算法,从流量分发源头减少侵权内容曝光。

在审核防范之外,平台也在探索主动参与版权治理。目前有两条可行路径。

一是版权前置过滤,即平台在作品上传或登记初期,就提取视频指纹、音频特征等数据,并纳入版权保护库;当用户使用AI工具进行“二创”或发布内容时,系统会主动识别并拦截未授权版权素材。如抖音对1.1万余部微短剧作品开启保护机制,通过前置化的特征提取与比对,提升对侵权内容的拦截效能。

二是版权授权与工具赋能。平台利用自身版权资源或整合外部IP,提供AI创作合规素材。如芒果TV启动“AIGC微短剧创作者生态计划”,向创作者开放正版IP资源,并同步配套官方AI创作工具与流量支持,将AI“二创”行为纳入授权许可范围,规避因素材来源不明导致的著作权侵权风险。

“只有平台主动作为,才能有效治理‘AI魔改’乱象,找到创新与合规的‘最大公约数’。”廖怀学说。(记者 霍旻含)


通报:多平台公布涉“AI魔改”违规视频处置情况

详情:据国家广播电视总局消息,自2026年1月1日起,在全国范围内开展为期一个月的“AI魔改”视频专项治理行动。此次专项行动重点整治基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的内容。部分网络视听平台公布了各自平台的第一周处理结果。

微信

平台对相关短视频内容和账号进行处置,专项启动以来,共处置违规短视频内容1078条。

抖音

截至2026年1月8日,抖音平台累计处置涉“AI魔改”违规视频1075条。

快手

快手针对“AI魔改”类违规视频开展专项治理,截至目前,平台已处置违规内容1057条。

哔哩哔哩

哔哩哔哩平台拦截处置涉“AI魔改”问题的违规稿件700余条。

小红书

小红书平台累计清理处置“AI魔改”视频违规内容487条,处置违规账号21个。

百度

百度平台围绕AI“魔改”经典IP及涉政涉军等重点风险场景,累计巡查清理违规视频284条,关闭账号2个。

微博

微博平台共拦截并清理违规视频190余条,并对7个违规账号视程度予以阶段性禁言直至永久禁言处置。(来源:央视新闻客户端)



新华网科技观察丨给“AI魔改”戴上“紧箍咒”

2026-01-16 16:32:00 来源:新华网

新华网北京1月16日电题:给“AI魔改”戴上“紧箍咒”

新华网记者 王岩 周靖杰

弱不禁风的林黛玉化身“力拔山兮”的猛士,将大观园的垂杨柳连根拔起;深宫之中的甄嬛娘娘穿越火线,手持现代武器成为特种兵王;经典革命剧集的片段被篡改得面目全非,严肃历史沦为荒诞戏说的背景板。这些以“创意”为名、借助AI工具批量生产的“魔改”视频,凭借颠覆性的冲击力吸引网友的眼球,迅速被视作“流量密码”。

为整治“AI魔改”视频传播乱象,国家广播电视总局自2026年1月1日起,在全国范围内开展为期一个月的专项治理。

国家广播电视总局部署开展“AI魔改”视频专项治理(图片来源:国家广播电视总局网站)

截至1月16日,第二期“AI魔改”视频专项治理成果已公布,各平台共累计清理超1.1万条违规视频,如通过AI生成方式对《西游记》中相关经典人物形象进行不当改编、魔改《红楼梦》中剧情和人物,渲染暴力殴打情节、编造低俗情节,违背公序良俗等内容,并同步处置乱象突出账号,助力营造良好网络视听空间。

  “魔改”或触法律“高压线”

所谓“AI魔改”视频,绝非简单的技术炫技或无害的娱乐调侃。部分创作者利用AI技术,对经典文艺作品、历史人物、英雄模范形象进行颠覆性、低俗化乃至暴力血腥的篡改与重构。这些视频借助生成式人工智能(AIGC)技术,打着二次创作、创意表达的旗号,以低门槛、高产量、强猎奇的特点迅速传播。

  图片来源:央视新闻《法治在线》

除了对经典作品的解构,一种在网络上被称为“AI拼接怪兽”或“外国山海经”的邪典视频,此前曾在未成年群体中隐秘流行。据央视新闻、《法治日报》等媒体报道,这类视频利用AI工具将动物、物品与人类特征随机拼接,批量制造出荒诞离奇的怪异形象,并配以魔性音效,其中部分图片和视频中不乏暴力词汇,以及危险动作。这些视频的传播不仅严重挤占儿童接触优质内容的空间,导致其模仿怪异行为、专注力下降,从更深层角度来看,视频以扭曲、猎奇的视觉垃圾,将“低俗猎奇”潜移默化为“流行趣味”,持续冲击着未成年人尚未成熟的审美体系与价值认知。

北京社科院副研究员王鹏认为,“AI魔改”视频泛滥至少带来三重危害。第一,篡改经典与历史人物的核心精神,消解文化的严肃性与连续性;第二,低俗化、娱乐化内容严重冲击社会公序良俗,尤其对青少年价值观形成误导;第三,扰乱内容行业生态,挤压原创空间,形成“劣币驱逐良币”的恶性循环。

浙江大学城市学院副教授、中国城市专家智库委员会常务副秘书长林先平认为,部分创作者对经典作品及英雄模范、历史人物的“AI魔改”视频,可能对公众尤其是青少年的历史认知和价值观造成误导,削弱经典文艺作品的教育意义,损害英雄模范人物的严肃形象,不利于社会主义核心价值观的传播。

“AI魔改”视频不仅挑战文化底线,也可能触碰到法律的“高压线”。

北京炜衡(天津)律师事务所执委会主任、高级合伙人裴跃提示了“AI魔改”视频背后的法律风险。因经典作品受《中华人民共和国著作权法》(以下简称著作权法)保护,未经原权利人同意对作品的文字、人物形象、台词、剧情等进行实质性改动,可能涉嫌侵犯改编权、保护作品完整权、复制权;若截取影视演员表演片段并篡改其形象、动作、台词,还可能侵犯表演者权以及演员的肖像权、名誉权等人格权。而针对英雄模范、历史人物的“AI魔改”,若存在歪曲、丑化行为,还会侵犯其名誉权和荣誉权,依据《中华人民共和国英雄烈士保护法》,侵害英雄烈士相关权益情节严重的还可能涉嫌刑事犯罪。

当前,生成式AI的普及极大地降低了视频修改的技术门槛和成本,违规内容正在以规模化、隐蔽化的方式进行生产传播,AI技术的“双刃剑”效应凸显。王鹏认为,传统的内容审核机制面对海量、快速迭代的AI生成内容时显得“力不从心”,存在一定的监管滞后与空白。

  厘清边界引领技术向善

此次专项治理,剑指技术滥用之弊。抖音、快手、微信、B站、小红书等平台纷纷公布治理数据与典型案例。其中,抖音下架了AI魔改《红楼梦》《西游记》《水浒传》等经典作品,编造低俗情节、渲染暴力殴打情节的视频;百度清理了对军人形象进行低俗化AI演绎的内容;小红书处置了高频发布魔改海绵宝宝、皮卡丘等动画形象、传递不良价值观的账号。

林先平认为:“治理行动绝非意在抑制创作活力,核心目的是‘划清边界’,厘清‘二次创作’与‘恶意魔改’的界限,恰恰是为了让创新能够在尊重历史、弘扬正能量的轨道上更有生命力。”

裴跃指出,根据著作权法规定,为个人学习、评论、新闻报道、教学研究等目的使用作品属于合理使用范畴,无需经权利人同意,而商业性使用或具有侵权故意的使用,未经权利人许可则涉嫌违法;“改编”行为因必然关联原作品及权利人,通常需获得权利人同意。

对于广大创作者而言,应当如何避免从“合理使用”滑向“侵权魔改”?

裴跃给出几条建议。首先,创作前务必查清版权归属,通过版权登记平台、出品方署名、官网等渠道确认电视剧、改编作品等受保护内容的著作权人,使用相关片段需获取书面许可,即便是四大名著这类公有领域经典作品,也需规避他人已受保护的改编版本。其次,二次创作必须体现自身的“独创性”,不能仅仅是原作的搬运或简单拼接。第三,非商业用途、基于少量片段进行评论、科普,且未歪曲原意的,法律风险相对较低。一旦涉及商业传播,或对严肃题材进行娱乐化歪曲,即使非营利也极易触碰红线。最后,务必保留创作过程的证据链。

国家广播电视总局在《通知》中明确,专项治理后,广电总局将认真总结,进一步研究制定综合治理举措,健全工作机制,保持治理的常态化、长效化。这意味着,此次为期一个月的集中治理,只是一个开始。

AI的普及让每个人都能成为“导演”,但一个合格的导演应该明白,规范AI创作的最终目标,是让AI技术赋能文化传播,让文化与科技相向而行、彼此成就。



【延伸阅读】

新华网科技观察丨当AI遇到漫剧

新华网北京1月9日电题:当AI遇到漫剧

  新华网 王岩

2025年以来,漫剧赛道迎来爆发式增长,成为文娱市场亮眼的新风口。

巨量引擎数据显示,2025年上半年漫剧供给量以83%的复合增长率扩容,播放量、点赞量分别实现92%、105%的复合增长。阅文、快手、知乎等平台和一些中小制作公司,纷纷布局漫剧,AI技术与海量IP的结合重构了行业生态,但剧本短缺、同质化与侵权风险等问题也随之凸显,行业正站在“量增”向“质优”转型的关键节点。

  轻量化新形态圈粉年轻群体

漫剧是在短视频逻辑下对传统动漫的“再造”,以静态漫画、小说IP等为蓝本,通过动态化技术、配音和简单特效,将图文内容转化为时长1-5分钟的视频短章。这种形态既保留了漫画的视觉表现力,又融合了音频叙事的沉浸感,极大降低了制作成本与周期,同时适配移动端碎片化观看习惯。其快节奏、强情节、高密度信息输出的特点,精准契合了当代年轻人通勤、午休等场景下的娱乐需求。

多家平台数据显示,目前,阅文已有80部漫剧作品播放量破千万,十多部作品播放量破亿,多次登顶各大平台榜单;由知乎盐言故事改编漫剧累计播放量突破10亿。这些成绩的背后,是用户对漫剧形式的认可与市场潜力的直观体现。

漫剧的崛起,首先源于其在形态和成本上与传统内容形成鲜明差异。

与传统动漫往往需数年打磨,资金投入动辄上千万元的“重工业”式制作相比,漫剧“短视频化”的轻量产品制作周期短至数周,大幅降低了创作门槛。而与同为短内容的真人短剧相比,漫剧以动态漫画、AI动画等虚拟形式呈现,摆脱了真人拍摄中片酬、场地、服化道等高昂成本。漫剧形态本身也更为多元,涵盖动态漫、小说剧、表情包漫等多种题材。

值得注意的是,漫剧与短剧虽同属短视频赛道,但并非短剧的替代品。快手平台数据显示,漫剧的付费用户与短剧的付费用户重合占比仅为38%,漫剧能够为客户带来62%的增量付费用户。这意味着,每100个为漫剧付费的用户中,有62个是短剧未能触达的增量用户。

科方得智库研究负责人张新原认为漫剧的付费模式精准契合了碎片化时代的消费心理,“用户付费主要基于内容吸引力、情感共鸣和社交需求。优质IP改编、强剧情冲突和沉浸式体验,如配音、画面等提升了用户粘性;而社区互动,如弹幕、粉丝社群则增强用户的归属感;此外,低单价、快节奏的付费模式降低了用户的决策门槛。”

阅文集团内容运营总经理杨沾说:“漫剧是一种年轻语言,很多漫剧的表达,按传统叙事的标准来说太过跳跃,而年轻人却能够自动补全这种跳跃式叙事。因此,年轻用户以及受到过二次元文化影响的群体,都是漫剧天然的受众。”

  AI+IP双轮驱动,行业进入规模化爆发期

漫剧的爆发并非偶然,AI技术的降本增效与头部平台的IP开放形成了强大合力,推动行业快速迈入规模化发展阶段。

技术层面,多家平台持续投入AI创作和生产工具,助力从业者提升漫剧制作效率。阅文推出漫剧一站式创作平台“漫剧助手”,提升漫剧改编效率,快手也推出“造梦专家2.0”平台,为创作者提供多链路AI支持。

AI工具的迭代升级彻底改变了漫剧的生产逻辑。东吴证券分析指出,传统漫剧单分钟制作成本在2000-5000元,而AI技术介入后,成本可降至1000-2500元,降幅达50%。AI已深度参与剧本创作、分镜设计、动效生成、配音等全流程,部分环节效率提升50%-80%。奇想创始人李渊说:“AI技术本身的迭代也在加速,模型对风格化表达的适配能力越来越强,以前需要通过训练角色一致性模型进行关键帧约束,到如今只需3-9张图即可生成类似逐帧效果。”

漫剧一站式AI创作平台“漫剧助手”

在AI技术赋能之下,内容创作的底层逻辑正悄然改变。北京社科院副研究员王鹏认为,AI技术的进步替代了部分重复性高、标准化强的制作环节,创作者转向剧情与审美的把控,释放了更多创意空间。

平台的扶持计划和IP供给进一步放大市场热度的同时也为漫剧提供了丰富素材库。去年10月,阅文集团发布“创作合伙人计划”,宣布开放10万部精品IP并设立亿元创作基金;知乎盐言故事推出漫剧创作者激励计划第一期,开放180多种内容品类、10w+内容版权,同时启动故事大赛、超新星计划、追光盐计划等各类创作扶持计划。番茄小说、掌阅科技、七猫等平台也纷纷解锁版权资源,形成其海量IP资源池,为创作者提供多元化题材选择,涵盖都市、玄幻、言情、悬疑等多个领域,极大丰富了漫剧的内容生态。

技术与资源的双重加持下,漫剧产业正迎来爆发式增长期,漫剧的变现路径逐渐清晰,内容创作者通过多元化分账模式实现价值回报。作为行业内头部的制作公司,酱油动漫每个月出品60-70部漫剧,月营收在5000万元。谈及当前漫剧商业模式,酱油文化创始人黄浩南指出,首先投流是漫剧最直观的收入来源,通过广告模式创造价值;其次为原生流量模式,包括全渠道自然流量,通过平台算法推荐、用户自发传播等方式获取流量的分发路径,吸引用户付费;第三是与长视频平台合作并进行分账。

杨沾表示,好内容才能让用户买单,但目前回报率与优质内容的对比仍不匹配,优质内容的市场回报尚未完全体现。需要通过技术解决质量问题,并挖掘更多题材满足不同用户需求。

  剧本短缺与侵权风险并存,行业亟待规范发展

在爆发式增长的背后,漫剧行业正面临成长的烦恼。王鹏表示,内容同质化(AI生成套路化)、版权纠纷(训练数据侵权风险)、内容安全(低俗暴力内容扰乱生态)成为制约行业持续发展的三大核心问题

值得注意的是,能在画面制作环节大放异彩的AI,却在剧本创作方面被从业者视为尚显稚嫩的辅助工具,难以承担起构建复杂叙事结构的重任。李渊认为,剧本尚未实现完全工业化流程,AI只能提供辅助归纳总结功能,其生产的文本内容仍然存在“瞎写”“逻辑硬伤”等问题。“AI帮你做的是从‘0-1’的过程,而从‘1到好’的过程需要人。”

版权侵权风险更是行业不可忽视的隐患。截至目前,知乎盐言故事跟进的短剧、漫剧侵权案件达到68起,其中超过40起已完成取证,13起提交立案,8起案件待开庭审理,3起案件等待判决。

随着AI漫剧制作中角色借鉴、场景复用等情况增多,版权纠纷风险持续上升。张新原认为,应从多方入手构建全链条版权治理体系,推动行业从技术应用向责任意识升级。“应当建立AI训练数据溯源机制,明确版权授权链条;平台方与创作者应当签订权责协议,规范IP使用范围;同时推动行业制定AI生成内容标注标准,并加强监管,设立侵权投诉快速处理通道。”

技术降低了制作门槛,却抬高了创新突围的门槛。漫剧在AI的助力下迎来了前所未有的创作活力,但同时也让内容的独特性与艺术深度面临考验。当“逆袭”“战神”等所谓“爆款公式”的爽点成为流水线上的标准零件,漫剧面临的关键挑战便不仅仅是“如何生产”,同时还有“如何生产出不一样的东西”。孵化出真正有生命力的新故事模板与美学风格,需要创作者和平台在追逐流量之外,保留一份创作的初心,找到效率与内容之间的平衡。