专家：细化技（jì）术标（biāo）准让“AI数字人”透明化合规化（huà）

　　□ 本（běn）报（bào）记者 　赵（zhào） 丽

　　□ 本（běn）报实习（xí）生（shēng） 宋昕怡

　　“生西红柿和生黄瓜不能（néng）一起吃了！黄瓜中的分解酶会破坏维生素C，一起吃轻则影响西红柿（shì）中维生素（sù）C的吸收，重（chóng）则可能导致腹泻、肠胃不（bú）适甚至食物中毒。”电话那头，母亲说得头头是道，电话这头的赵（zhào）女士（shì）却听得一头雾水（shuǐ）。

　　随（suí）即，母亲发来一则视（shì）频。赵女士回忆说：“一位满头花白头发（fā）、身着白大褂的‘医生’在视频里侃侃而（ér）谈‘养（yǎng）生秘籍’，甚至宣称‘清（qīng）淡饮食就是只吃素食，完全不吃肉’。我妈把这个‘医生’的话奉为圭（guī）臬。”但赵女士仔细查看后，在视频右下角发现一串几乎透明的标注（zhù）——“此（cǐ）视频由AI辅助生（shēng）成”。

　　“后（hòu）来，我（wǒ）妈戴着老花镜（jìng），在我的指点（diǎn）下找了一（yī）会（huì）儿才看见那行字。”赵女士无奈地说，“这也不能怪老人，现在AI生成的‘数字（zì）人（rén）’泛滥，还难辨真假，实在让人防不胜防。”

　　有此困扰的（de）并（bìng）非只有赵（zhào）女士一家。《法治日报（bào）》记者近（jìn）日随机采访了数十名路人，至少有（yǒu）七成受（shòu）访者称曾刷到过“AI数字人”视频，并且“难（nán）以分清到底是真人还是（shì）‘数字人’”，而原因主要在于（yú）“找不到有效提示”。

　　很多人担忧：真人（rén）“数字人”傻傻分不（bú）清（qīng）楚，背后是肖像权侵权乃至敲诈、诈骗等违法犯罪的风险隐患。

　　是否数（shù）字（zì）人难辨别

　　在重庆读大学（xué）的郑媛浏（liú）览某社交平台时，刷到一（yī）则帖子——照（zhào）片里的女生外（wài）形温婉（wǎn）可人，穿搭清（qīng）爽时尚，很夺人眼球。郑媛（yuán）点赞并关注了（le）该账号。

　　但不多时，郑媛却（què）刷到另一名博主揭露用“AI生（shēng）成人（rén）”起号的内容，被打假的恰（qià）恰是她先前所关注的（de）这个账号。“我（wǒ）仔细翻阅了那个（gè）女生的账号主页（yè），她并未标明使用AI技术，还（hái）在评（píng）论（lùn）区（qū）亲切地与其他用户互动。”面对这样的局（jú）面，郑媛（yuán）说自己（jǐ）也“糊涂了”。她后（hòu）来观察了一个多星期，找到了该账号图片（piàn）确为（wéi）AI生成（chéng）的证据——有（yǒu）网友在其他（tā）账号上发（fā）现了妆容和衣（yī）着几乎一样的“数字人”，而人物（wù）介（jiè）绍却完全不同。

　　习惯在直播（bō）间购物的北京市（shì）民李菲说，自己经常误入（rù）“数字人”直播间，“数字人”主播侃（kǎn）侃而（ér）谈（tán）介绍商品，手部（bù）动作还（hái）能随着她说（shuō）话的节奏不断变动，声音流畅（chàng）而（ér）自然（rán）。

　　“要（yào）仔细看才能看到直播间左侧一行‘现（xiàn）直播内（nèi）容为数字人直播（bō），非真人（rén）直播’的小字提（tí）醒。”李菲说，自（zì）己现在习惯了进直播间“先（xiān）找（zhǎo）小字（zì）”，确认（rèn）主播是否为真（zhēn）人，“但真（zhēn）的‘费眼睛’，不是在犄角旮旯，就是字体（tǐ）几（jǐ）乎透（tòu）明，不（bú）注意根本看不到”。

　　袁伟(化名（míng）)是某985高校（xiào）计算机（jī）系研究生。他告诉（sù）记者：“现在（zài）一些AI大模型生成的图，别说中老年人会误以为真，很（hěn）多（duō）没（méi）怎么接（jiē）触过（guò）AI技术的（de）年轻（qīng）人都（dōu）不见得能分辨真假。”

　　他随即（jí）为记（jì）者（zhě）演（yǎn）示，向某AI软件输入（rù）指令（lìng）“帮我生成（chéng）图片：一个（gè）容貌姣好（hǎo）的女性，精细的皮肤纹理，室（shì）外自然（rán）光”，随即生成（chéng）的图（tú）片与真人照片相（xiàng）差无几，如果不是右下（xià）角（jiǎo）自带的（de）水印，只让人觉得是一张普通的美女照片。“如果说早期的AI软件大多不能生成自然（rán）的手指（zhǐ）和人体比例，现在技术进步得很快（kuài），生成的手指和人体（tǐ）比例已经比（bǐ）较像样了，更加（jiā）大了分（fèn）辨的难度（dù）。”

　　“这样的AI生（shēng）成图片或视频，如果不（bú）作标识提示，会让（ràng）很多人信以为（wéi）真。”袁伟说。

　　大量账号未作标识

　　记者在某社交平台上注意到一名为（wéi）“××AI打假人（rén）”的账（zhàng）户，其发帖称（chēng）自（zì）己将致力（lì）于“揪出纯（chún）AI生（shēng）成的内容博主，帮小白识别（bié）真伪（wěi）”，还（hái）表示“关注了很多（duō）AI生成非真（zhēn）实的帅哥美女”。

　　在其（qí）关注列表里有（yǒu）300多个（gè）账号，记（jì）者（zhě）随机选取了其中20个账号浏览发现，若没有看到评论区“这是AI吧，手指的细节很（hěn）诡异”“背景里的文字都（dōu）是乱（luàn）码”等留言（yán），记者第一反应只以为他（tā）们是（shì）普通的颜值时尚类博主。

　　这20个粉丝（sī）量（liàng）几百到几万不等（děng）的账号（hào），仅有3个账（zhàng）号（hào）在简介中（zhōng）写明“虚拟男友”“AI”“友（yǒu）情提（tí）示视频由虚拟现（xiàn）实技术制（zhì）作”，两个账号（hào）主页的内容（róng）经平台审核后被打上了“疑似包含AI创（chuàng）作信息，请谨慎甄（zhēn）别”的标签（qiān）。其（qí）余账号（hào）在简介、内容中（zhōng）并未（wèi）提及“AI”字（zì）眼，平台（tái）的监测机制也并未识别到（dào），这些账号甚至还在评论区熟（shú）稔地与其他用户互动（dòng），让（ràng）自己看（kàn）上去更有（yǒu）“真人感”。

　　在调查过程中，有超过（guò）一半的受访者向记者表示AI生成的“数字人”和真（zhēn）人难以分辨，相关的提示也（yě）并不（bú）显眼。

　　此外，记者发现，有人还会特意教人如何绕过（guò）平（píng）台的“AI打（dǎ）标”。据了解，目前，各（gè）平台已普遍升（shēng）级AI内容识别系（xì）统，要求对AI生成（chéng）作品进行（háng）显著标注。但在调（diào）查（chá）中，有分享经验的博主表示（shì）花（huā）费不到千元就可以购买（mǎi）所谓的AI工具中预配置（zhì）的镜像（xiàng）文件，称用这些（xiē）镜像参数一键生成的虚拟（nǐ）人（rén）形象可以以假乱真（zhēn），最（zuì）大（dà）限度规（guī）避平（píng）台的AI内容（róng）强制标注（zhù）机制。

　　细化标准加大惩处

　　记者梳理（lǐ）公开信息发（fā）现，实践中（zhōng），一些（xiē）有心人士（shì）利用“数字人”形象行不法（fǎ）之事。

　　据报道，张文（wén）宏、雷军（jun1）等公众人物（wù）形象（xiàng）曾被利用生成“AI数字人（rén）”，用来带（dài）货（huò）、恶（è）搞。一些直播间内，“AI数字人”向中老年（nián）人（rén）群体虚假宣传保健（jiàn）品，诱（yòu）导（dǎo）购买。更有甚者，一些不法（fǎ）分子利（lì）用（yòng）“AI数（shù）字人”进行敲诈、诈骗（piàn）等犯罪。例如，山（shān）西（xī）忻州（zhōu）公安机关工作发现，犯（fàn）罪嫌疑（yí）人王某某利用AI技术，制作（zuò）合成“数字人”新闻（wén）视频引流，进而进行有偿（cháng）发帖、有偿（cháng）删帖等敲诈勒索活动。2024年，江西一名65岁老（lǎo）人到（dào）银行办理业（yè）务，声称要（yào）贷款200万元给男朋友“靳东（dōng）”拍戏，后经（jīng）调查，老（lǎo）人手机里的“靳东”视（shì）频是AI合成的。

　　重庆大学（xué）网络（luò）与大数据研究（jiū）院副（fù）院长罗勇（yǒng）认（rèn）为（wéi），就价值取向而（ér）言（yán），AI产业发展不（bú）能凌驾于网络（luò）安全之上。对于利用AI技术生成（chéng）的短视频，网络用户特别是未成年（nián）人（rén）和老年人（rén）由于缺乏（fá）必要的鉴别能力，往往（wǎng）会信以（yǐ）为真，由此可能产生（shēng）负面网络舆（yú）情，甚至对网络安全造（zào）成负面影响。

　　据受访专家介（jiè）绍，当前我国已经出台了（le）《生成式人工智能服（fú）务管理暂行办法（fǎ）》《互联网信息服务（wù）深度（dù）合成管理规定》等法规，对“AI数字人”和AI生成内容的标识、数据来（lái）源等提出了具（jù）体要求（qiú）。

　　今年3月（yuè），国家（jiā）网（wǎng）信办等四部门联合（hé）发布《人工智能生（shēng）成合成内容标识办法》(以（yǐ）下简称标识办法)，通过标识提醒用户辨别虚假信息，规范内容制作（zuò）、传播各环节标识行为（wéi），为规范AI生成内容划定红线。该办法将于9月1日起施行。

　　中国（guó）政法大学教授郑飞指出，相关规定一定（dìng）程度存在落地难的问（wèn）题。一（yī）是监管和技术手（shǒu）段有限，难以（yǐ）彻底（dǐ）发现并纠正违规行为。例（lì）如，一些“AI起号”从业者通过预置“镜像参数”生成极为逼真的虚拟人像，从而逃（táo）避平台的强制标（biāo）注要（yào）求。而监管部门特（tè）别是基层（céng）执法部门，通常（cháng）面临职责不清（qīng）、执法手段和执（zhí）法力量不足的问题（tí）；二是部分（fèn）平台在一定程度上“管不了”也（yě）“不想管”。“管不了”在（zài）于平（píng）台管理能（néng）力与技术手段欠缺，尤其是一些小型平台，缺乏足够的审核人力和技术（shù）支（zhī）持。“不（bú）想管（guǎn）”则是（shì）背后利益驱动（dòng）。未明显（xiǎn）标识“AI数字人”或（huò）合成（chéng）内容，会让受众误以（yǐ）为是真人或真实（shí）事（shì）件，从而（ér）更容（róng）易引起（qǐ）人们的（de）兴趣（qù）和好奇心，吸引更（gèng）多的流量和（hé）关注，进而带来更多（duō）的商业利益。

　　“以网络社交（jiāo）平台为代表的网络服务提供者在AI生成内容的应用场景（jǐng）中，应当进一步完善用户使（shǐ）用AI协议规定，并强化对AI生成内容的审核。”罗（luó）勇说。

　　郑飞建议，应（yīng）从明确标识（shí）要求和加大（dà）责任追究（jiū）两方面发力。标识办法明确要（yào）求，一旦检测到AI生成（chéng）内容，传播平台应（yīng）在发布内容周边添（tiān）加显著提（tí）示标（biāo）识，并在文（wén）件元数（shù）据中加（jiā）隐式标识（shí），确保全流程可（kě）溯源。在未来落实过程中，可进一（yī）步细化（huà）技术标准，比（bǐ）如（rú）规定标识文字的最小（xiǎo）高度、对比度（dù）、展示（shì）时（shí）长等，让标识一目了然。另（lìng）外，对于不按（àn）规（guī）定标（biāo）注的行为，需要严（yán）厉处罚：除加大（dà）行政罚款、暂停业务或（huò）纳入（rù）不良信用记录等行政措施外，还（hái）要利用（yòng）法律手段加大威慑。通过明（míng）确、显著的标识标准和（hé）更严厉（lì）的责（zé）任（rèn）追究（jiū），才（cái）能从根（gēn）本上震（zhèn）慑违规（guī）不标注行为，实现“AI数字人”应用（yòng）的透明化、合规化（huà）。