多管齐下防止AI技术滥用（民生第一线）

人工智能、深度合成等新技术快速发展，对加快新生产力发展、实现经济社会高质量发展发挥着重大作用，也给人民生活带来便利。但一些不法分子利用人工智能技术传播虚假信息，破坏网络生态，造成不良影响。多管齐下防止人工智能技术滥用，促进人工智能健康发展，有助于维护社会共同利益。 《人工智能生成合成内容标注办法》通过标签提醒用户识别虚假信息，明确相关服务主体的标注责任和义务，规范生产、流通各环节的标注行为。灰色产业链连续爆破一天后，林某躺在床上刷着短视频，屏幕上出现了一个名为“AI理财助手”的账号。林浏览了自己的主页，发现该账号的粉丝数显示“8.7万”，但最新视频的点赞数还不到三位数。 “公式化的命名、同质化的内容和非标准化的交互数据是人工智能的标志。”某短视频平台内容安全部负责人刘山表示。 AI建号已经成为一些自媒体的创收手段，利用AI生成并发布吸引眼球的内容，在短时间内吸引大量粉丝，然后通过带货或直接转号变现。 “利用AI选择区域来增加关注者，打造能够吸引关注者的个性。账户内容也可以通过AI生成。”销售“开课AI账号”的“培训师”杨说。一方面，没有受到所需要的专业知识和技能的阻碍。红色为自媒体；另一方面，有助于精准吸引粉丝，保持“一致的个性”。另外，多个账户可以同时运行，形成矩阵，相互吸引流量，促进合作。 《情绪急救：人生低潮时如何避免情绪崩溃》《深度治愈：潜意识里看到自己》……杨向记者展示了一位刚刚开通账户的“心理博主”的账户页面。每个标题看起来都很专业，而且直接针对特定群体的心理需求。 “事实上，文案是由人工智能生成的。”杨说。错误文字、无效内容、夸大图像，都对网络空间环境造成危害。如何抵制用AI打电话给别人？ “AI创建账户的主要伤害是宽恕，管理的关键也在这里。”谢永江 北京大学互联网治理与法律研究中心执行主任邮电部认为，平台除了加强执法打击外，还应提高深度造假内容检测的准确性，明确人工智能造假账号等违法行为的定义和处罚标准。 “造号-转化-转售”的灰色产业链是AI造号相对于其他AI造假现象的独特之处。 “根据反电信网络诈骗法，任何单位和个人不得非法买卖、出租、出借网络账户。”某电商平台安全运营负责人表示，目前各电商平台均已禁止账号倒卖。但部分账户交易仍通过社交媒体公开，并借助“淫秽暗语”私下进行。 “出售账户不仅仅是创建账户货币化的一种方式，而且通常还伴随着违法犯罪行为。北京师范大学法学院教授梁映秀建议，监管部门应监督平台履行管理职责，建立违法账户“黑名单”，加大对经常、屡次违反平台规则的账户所有者的处罚力度，禁止非法账户进行带货、销售课程等商业活动，持续对不法分子进行反抗和纠正，有效打击虚假营销内容。“我现在有事要请，请帮我……我给你奖励300颗土鸡蛋！”某短视频平台上，一位人气运动员“宣传自己国家的农产品”，弹幕和评论里充斥着“支持”、“为偶像增加销量”等字眼。事实上，这些产品视频都是人工智能造假的，其中一个产品链接显示已售出4.7万个。据该人士透露，某短视频平台负责人，冒充明星的情况主要有很多种：利用AI技术生成明星照片，作为账号头像介绍他人；利用AI技术生成名人视频，无需标注；利用AI技术生成名人视频，无需标注；利用虚假名人账号和内容，通过开设销售窗口等方式获取盘新和不正当收入。如何应对这种混乱局面？ “AI造假明星，归根结底是利用AI进行诈骗。民法典关于肖像权、话语权的规定等相关法律法规都提供了相关保护。《人工智能生成的合成内容标注办法》对人工智能生成的合成内容标注提出了要求。”梁映秀认为，关键是要严格执法，提供公平正义。ce. “从平台角度来说，除了纳入自身职责外，还应该与用户挂钩，加强共治。”腾讯海角相关负责人表示，用户发现短视频未标注人工智能生成标识，可提交相关材料进行投诉。经平台认可的附加说明将以浮动注释的形式显示在原始视频页面上。抖音相关负责人表示，平台已建立社交名人照片保护数据库，同时正在努力有效扰乱虚假营销内容。多方共同建立辟谣机制。 “突然发生爆炸！火光冲天！死伤不明！”网上流传一则“视频新闻”，画面显示大火冲天，引起当地民众恐慌。后来公安机关调查发现是假的账户机构利用AI批量生成ews。该组织每天可以生成多达4000至7000条假新闻，每天的收入超过1万元。为什么人工智能假新闻经常在互联网上被禁止？某新闻聚合平台内容安全负责人认为，部分平台的反虚假信息机制效率有待提高。多个账号发布平台生成的照片和视频后，数小时后出现“疑似AI技术生成”的提示，未能及时预警危险。中南大学法学院副院长杨庆旺认为，平台应立即根据权威信息采取清理、标注相关谣言等措施，并对违规账号进行处理。近年来，相关法律法规不断完善和完善，明确了人工智能使用者与平台之间的法律界限。表单管理者。北京师范大学新闻与传播学院教授徐晓科建议，对于虚假信息产生和传播的高风险领域，可以通过司法解释等形式明确各方义务边界，进一步规范人工智能侵权责任认定的科学标准和合理指导。各领域监管机构不断探索利用技术打击假新闻。 “我们与科研机构和企业密切合作，进一步提高对恶意‘深度宽恕’信息的监测、预警和快速识别能力。”辽宁省沉阳市公安网安部门负责人表示。如果因为虚假消息而遭受损失，谁来负责？浙江师范大学著名教授乔巴生认为，如果内容产生涉嫌诈骗的，应当承担侵权责任；平台未履行审核义务的，须承担连带法律赔偿责任。此外，用户还必须提高识别虚假信息的能力。某短视频平台负责人建议，首先要注意内容的特点。例如，人工智能生成的文本是逻辑空白、情感表达单一或事实细节模糊的乏味文本；视频可能存在不自然的面部表情、异常的光线和阴影或声音失真。二是核实信息来源，优先选择权威媒体或官方渠道。腾讯相关负责人建议，当一些人工智能生成的内容明显没有凭证、含有误导性信息时，用户可以通过联系评论区等形式互相提醒，并通过平台及时反馈。呃投诉和其他形式。主管部门、平台和用户共同协调管理，通过技术检测、机制索赔和法律责任，共同筑起诚信的坚强防线。 《人民日报》（2025年11月28日第16页）