人工智能产业规范化发展再进一步

    伴随人工智能技术的不断发展，AI合成文本、图片、音频、视频在网络上层出不穷。这些AI合成作品一方面提供了便利，丰富了公众生活，但也造成虚假信息传播、破坏网络生态等问题。
    近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（简称《标识办法》），对人工智能生成合成内容标识的形式和适用范围做具体规定，同时强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识。
    国家互联网信息办公室有关负责人表示，《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。
生成技术是把双刃剑
    伴随生成式人工智能、深度合成等新技术快速发展，技术的双面性日益凸显。
    从积极方面来看，作为创新技术的实践尝试，AI合成作品在丰富网络内容、便利公众生活、促进经济发展方面起到重要作用。
    以今年年初爆火的《哪吒2》为例，AI合成视频在电影推广及IP传播等方面都起到不容忽视的作用。大量借用AI技术，让哪吒、敖丙等电影形象变身的二创视频，以及利用AI技术cos哪吒、敖丙的特效写真，受到网友欢迎。这种网友自发的二创传播，在网络上形成“自来水”传播效应，帮助电影锁定国漫爱好者等核心观影群体。
    此外，不少角色手办也因AI合成内容热度飙升，如某博主用AI生成的“花矶娘娘”视频获超19万点赞，带动石矶娘娘等IP手办销售。
    与此同时，也应看到，AI合成技术让假照片、假图像，甚至视频换脸都更加容易，致使网络上不少信息真假难辨。一些不法分子甚至利用AI合成视频冒充名医、名人，进行虚假宣传。
    今年2月，有媒体曝光显示，不少明星、企业家的人脸被一些AI换脸公司公开售卖。换脸公司称，中外明星、名人、企业家都能做，定做一张千余元，几个小时就能做好，做好后就可以拿着这张脸去平台直播。
    有法律人士指出，采用AI技术模仿明星或者名人的声音或者肖像，用于通话和直播带货，使得他人产生误认的效果，或涉嫌违法，并构成不正当竞争行为，需要承担相关法律责任。
    打造可信赖AI技术
    此次推出的《标识办法》则为解决上述问题提供依据。
    国家互联网信息办公室有关负责人表示，《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务。从内容上看，《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。
    大消费分析师杨怀玉告诉中华工商时报记者，《标识办法》通过明确标识要求提高生成合成内容的透明度，使用户更容易辨别出哪些内容是由AI生成或合成的，从而减少虚假信息传播。《标识办法》同时明确服务提供者在生成合成内容标识方面的责任义务，有助于建立一个更加负责任的内容生产环境，并为监管提供依据。虽然对标识有具体要求，但同时也考虑到了企业的实际情况和技术实现难度，预留一定的空间以促进标识技术和应用的发展。
    随着标识办法的实施，公众将提高AI生成内容的识别能力，企业或将更加注重内部管理和自我审查，确保其提供的内容符合法规要求。为满足新标识要求，相关企业和研究机构可能会加大对标识技术的研发投入，推动技术进步。
    杨怀玉还表示，从整个人工智能产业来看，《标识办法》发布后，人们可以更清楚地知道他们所接触到的信息的真实来源，而清晰的标识规则有助于增加公众对AI技术的信任。同时，规范化的管理有利于防止滥用AI技术造成的社会问题，比如虚假新闻、诈骗等，从而促进整个行业的健康有序发展。此外，《标识办法》尽管有一定的限制，但这种限制有助于引导行业内的正向竞争，激发更多的创新解决方案出现。