PP电子·「中国」官方网站

　　【CNMO科技】自古以来人们都喜欢说“眼见为实，耳听为虚”，但是在AI时代真真假✅✅假假假㊣真真，或许眼见□□、耳听皆为虚妄。

　　前段时间，在抖音等短视频平台上，各种猫狗会说话□□□、人在㊣空中飞□□、动物突然变身为人开始跳舞等视频非常火爆，吸引了很多网友的关注。甚至一些不明所以的网友，还以为这就㊣是真的开始思考到底是怎么做到的。但是深层次去探究，其实这类视频都是AI所创造出来的，凭借着新鲜感和猎奇心理等吸引着一大批受众。

　　在去年国庆假期期间，短视频平台上出现了大量以小米㊣公司董事长雷军名义发表的犀利言论视频，流量颇高，其领域更是✅覆盖了堵㊣车□□、假期□□□、调休□□□、游戏等热门话题，让不少网友一时分不清到底是不是雷军本人说的。在今年两会期间，雷军针对当前人工智能深度合成技术中“AI换脸拟声”的滥用现象，表示AI换脸拟声不当滥用成为了✅违法侵权行为的重灾区，易引㊣发侵犯肖像权□□、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建“以人为本□□□□、智能向善”的人工智能发㊣展生态。

　　尤其是在近两年时间里，大语言模型□□□、文生图大模型等蓬勃发展，AI所生成的内容已经充斥了我们生活的方方面面，其利弊也很难被精细化衡量人工智能语音识别论文。哪怕是现在的学生和老师，也都在借助AI来完成教学，便利性不言而喻。而隐忧就是大学生的论文AI味道可能会越来越浓，以前在拼命降低查重率，而未来可能就要拼命去降低AI率了。而在视频方面，AI制作视频一定程度上降低了视频制作的门槛，但引来的问题就是滥用，随着AI的进步已经有了可以以假乱真的能力。

　　面㊣对此现状，国家层面也开始出手了。3月19日，央视新闻报道，人工智能生成合成内容标识办法㊣来了，国家互联网信息办公室□□、工业和信息化部□□、公安部□□□□、国家广播电视总局四部门联合发布《人工智能生成合成内容标识办法》，将于今年9月1日起正式㊣施行。据介绍，《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，为促进人工智能技术创新发展，对具体实施✅操作不做要求。

　　AI生成内容要亮明身份。“标识办法”提出强制添加显式和隐式标识㊣等规范要求，所有AI生成的文字□□□、图片□□□□、视频等内容，都要“亮明身份”。专家介绍，借助AI生成✅的文字内容涉及模仿某人的话语表达□□□□、模仿媒体进行新闻发布，或者模仿政府部门发布相关公告等，都必须进行显式标识。我们也期待后续政策出台后AI行业的乱象得到整治。

　　而在此之前，其实手机厂商们也都在积极努力发展AI的同时去帮助用户去辨别真伪。以荣耀为例，在MagicOS 9.0上推出了AI换脸检测功能，通过端侧AI能力，该技术可自主识别用户视频通话中的画面要素，如果检测到视频内容存在AI㊣换脸，将向用户发出风险提醒。其一是能够实现视频通话时的AI风险，保障视频通话安全，其二是在直播和短视频场景，YOYO也能够直接进行检测是否存在AI换脸情况，可以很好地帮助用户识别风险。在去年的互联网大会上，荣耀终端AI换脸检测系统，入选网安协会精评的“人工智能创新应用典型案例（2024）”，受到了行业的广泛认可。

　　在OPPO ColorOS 15的最新升级当中，加入了合成语音识别功能，该功能能够在用户日常手机通话□□、办公会议的App当中自动检测对方是否使用了AI合成的语音。如果✅检测到对方声音疑似合成，手机通话界面就会提示“疑似合成语音”，向用户实时提示风险预警。目前合成语音识别功能支持中文普通话□□、粤语□□□□、四川话主㊣㊣要方言的识别。所以在日后㊣通话过程中，如果不确定对方是不是AI合成的声音，那么ColorOS就可以帮助到的大家进行识别，能够更好㊣地保护财产和隐私安全。

　　华为手机这边为了防诈骗则是推出智能诈骗拦截，自动识别拦截诈骗电话和短信，帮助用户率先过滤掉诈骗信息；针对仿冒App的诈骗，华为打造纯净应用市场，严格审查每款应用软件，从源头上杜㊣绝㊣假冒伪劣；针对应用过度索取权限问题，华为推出安全访问机制，无需授权所有，应用仅可访问用户选定的数据，无法访问其他内容，帮助用户筑牢信心安全关门禁系统。

　　在小米HyperOS 2中，同样加入了AI反诈功㊣能，能够智能识别欺诈㊣电话或换脸视频。通话过程中会弹出“风险提醒，本次通话可能存在欺诈风险，为避免资金损失，请谨慎判断是否挂断”，同样可以提高用户的心理防备。

　　在这个一切皆有㊣可能的AI时代，AI赋予了千行百业新的增长活力，但是也不断衍生出新的问题，尤其是AI诈骗让很多人猝不及㊣防。而此次国家层面的出手从法规层面将约束AI的肆意妄为，而手机厂商们的行动则是从端侧帮助用户更好地鉴别AI诈骗等，来了一次AI与AI之间的对抗战。我们作为普通人，应该在各种内容或者社交当中擦亮双眼□□、双耳，提升自我鉴别能力，莫成✅为AI诈骗的受害者，也不去做施害者。正向利用各类AI工具，提升工作和生活幸福感，才是正确的事儿。