商务新闻网8月12日综合报道 近期，中央网信办等部门及各大平台针对 “AI 起号” 现象开展专项治理，清理违规内容并封禁相关账号。新华社 “新华视点” 调查显示，部分社交账号利用生成式 AI 技术制造虚假内容 “吸粉”，形成从账号运营到流量变现的完整灰色产业链，其乱象已引发对网络空间秩序的担忧，亟待多方协同治理。
AI 造假成起号新套路 虚假内容误导公众
随着生成式人工智能技术普及，社交媒体上涌现大量 AI 生成的 “仿真内容”：外国人熟练演唱中文歌曲、银发老人传授养生秘诀、“氛围感” 女性分享生活美学…… 这些视频因细节逼真常让网友信以为真，实则是账号运营者博眼球的工具。
调查发现，此类账号多精准锁定特定群体。例如，部分账号针对中老年女性，用 AI 打造 “40 + 完美熟龄形象”，搭配 “年龄焦虑” 话术推广内容，其发布的穿搭、养生视频多数未标注 “AI 生成”，导致网友误以为真人分享，在评论区咨询互动。背后运营者则借机推送 “三无” 保健品广告，甚至雇佣 “水军” 造势。即便部分视频存在技术破绽（如动作僵硬、表情不自然），仍能收获可观的浏览量与互动量。
重庆理工大学计算机科学与工程学院教授李彦指出，尽管主流平台已升级 AI 内容识别系统，要求标注生成内容，但违规者通过 “微信压缩改代码”“弱化技术特征” 等手段绕过审核，增加了监管难度。
产业链成熟化 流量变现路径清晰
调查显示，AI 造假起号已形成标准化操作模式，相关教程在社交平台泛滥。有商家公开宣称，缴纳 1680 元即可在 3 至 15 天内 “养出” 万粉 AI 账号，后续通过电商带货、账号转卖等方式变现。一名博主透露，其用 AI 生成的 “氛围感美女” 视频在多平台吸粉过万，每月承接推广商单收入可达万元。
账号交易市场同样活跃。有商家兜售未标注 AI 生成的 “美女账号”，粉丝量均超 1 万，且为 “三无账号”（无实名、无违规记录），宣称 “平台风控趋严，账号将升值”。交易截图显示，9 个账号成交价在 700 元至 4000 元不等，百万粉丝账号叫价高达十几万元，且存在 “一周加急定制几十个万粉号” 的批量需求。
多方协同阻断利益链 专项整治强化监管
重庆公孝律师事务所执行主任徐斌表示，AI 造假起号是技术异化的产物，可能导致低俗信息泛滥、虚假新闻传播，严重扰乱网络秩序。今年 4 月起，中央网信办启动 “清朗・整治 AI 技术滥用” 专项行动，重点打击 AI 换脸拟声侵权、内容标识缺失误导等乱象，为治理工作提供政策依据。
专家指出，治理需突破 “技术 – 平台 – 发布者” 的信息壁垒，强化协同：
- 平台责任：建立违规账号 “黑名单”，对高频违规主体加大处罚，禁止其参与带货、卖课等商业活动；
- 技术升级：研发更精准的 AI 内容识别技术，堵住 “绕过审核” 的漏洞；
- 全链条打击：监管部门需追溯技术提供者、账号运营者等参与方责任，切断流量变现渠道。
业内人士强调，唯有通过 “技术防控 + 规则约束 + 信用惩戒” 多管齐下，才能遏制 AI 技术滥用，维护健康的网络生态。（李彬彬）
