编辑网讯 www.bianji.com 在数字化时代，人工智能（AI）技术的飞速发展不仅带来了前所未有的便利，也催生了一系列新的社会挑战。近期，美国流行歌手被AI恶意生成虚假照片、香港公司遭遇“AI变脸”诈骗等事件频发，再次引发了公众对AI技术滥用的担忧。
图片来源：
AI技术的深度伪造能力，使得图像、声音、视频等内容可以被轻易篡改和伪造，达到以假乱真的效果。这种技术如果被不法分子利用，将对社会造成极大的危害。从冒充熟人实施电信诈骗，到制造虚假信息干扰舆论，AI造假行为已经屡见不鲜。
为了应对这一挑战，业界正在积极探索“用技术治理技术”的方案。瑞莱智慧等企业研发出生成式人工智能内容检测平台，能够识别多种合成类型的图片、视频、音频、文本的真伪。这种技术不仅能够帮助打击网络诈骗和声誉侵害行为，还能检测网络内容的合规性和音视频物证的真实性。
图片来源：
此外，国际测试委员会创始人、中国科学院计算所研究员詹剑锋建议，应将AI深度伪造纳入监测机制，建立群众举报机制，提高公众的判断力和鉴别力。这些措施的实施，将有助于及时发现和制止AI造假行为，维护网络安全和社会稳定。
然而，仅仅依靠技术手段是远远不够的。在法律层面，加快人工智能方面的法律供给，推动国家层面生成式人工智能规范的确立，是防范信息安全风险的关键。对外经济贸易大学数字经济与法律创新研究中心主任张欣表示，通过立法为AI开发划定基本底线，明确合规义务，可以从源头防范风险，避免“先污染后治理”的被动局面。
图片来源：
同时，在伦理层面，也需要对AI技术的使用进行规范和引导。科技部等10部门印发的《科技伦理审查办法（试行）》中，列出了需要开展伦理审查复核的科技活动清单，其中就包括具有社会动员能力和社会意识引导能力的算法模型、应用程序及系统。这意味着，在未来，AI技术的研发和应用将受到更加严格的伦理审查和监管。
面对AI技术带来的挑战和机遇，我们需要采取综合措施，加强监管和自律。一方面，要加快技术研发和应用，推动AI技术在各领域发挥积极作用；另一方面，也要加强法律建设和伦理引导，确保AI技术的健康发展和社会稳定。只有这样，我们才能充分利用AI技术的优势，为人类社会创造更加美好的未来。
