首页 > 科技 > 正文

AI造假频发 业界呼吁加强监管与自律 提高公众的判断力和鉴别力

2024-06-18 08:11:41 来源: 编辑网
在数字化时代,人工智能(AI)技术的飞速发展不仅带来了前所未有的便利,也催生了一系列新的社会挑战。近期,美国流行歌手被AI恶意生成虚假照片、香港公司遭遇“AI变脸”诈骗等事件频发,再次引发了公众对AI技术滥用的担忧。

  编辑网讯 www.bianji.com  在数字化时代,人工智能(AI)技术的飞速发展不仅带来了前所未有的便利,也催生了一系列新的社会挑战。近期,美国流行歌手被AI恶意生成虚假照片、香港公司遭遇“AI变脸”诈骗等事件频发,再次引发了公众对AI技术滥用的担忧。

  AI技术的深度伪造能力,使得图像、声音、视频等内容可以被轻易篡改和伪造,达到以假乱真的效果。这种技术如果被不法分子利用,将对社会造成极大的危害。从冒充熟人实施电信诈骗,到制造虚假信息干扰舆论,AI造假行为已经屡见不鲜。

  为了应对这一挑战,业界正在积极探索“用技术治理技术”的方案。瑞莱智慧等企业研发出生成式人工智能内容检测平台,能够识别多种合成类型的图片、视频、音频、文本的真伪。这种技术不仅能够帮助打击网络诈骗和声誉侵害行为,还能检测网络内容的合规性和音视频物证的真实性。


图片来源:编辑网图片分享系统

  此外,国际测试委员会创始人、中国科学院计算所研究员詹剑锋建议,应将AI深度伪造纳入监测机制,建立群众举报机制,提高公众的判断力和鉴别力。这些措施的实施,将有助于及时发现和制止AI造假行为,维护网络安全和社会稳定。

  然而,仅仅依靠技术手段是远远不够的。在法律层面,加快人工智能方面的法律供给,推动国家层面生成式人工智能规范的确立,是防范信息安全风险的关键。对外经济贸易大学数字经济与法律创新研究中心主任张欣表示,通过立法为AI开发划定基本底线,明确合规义务,可以从源头防范风险,避免“先污染后治理”的被动局面。


图片来源:编辑网图片分享系统

  同时,在伦理层面,也需要对AI技术的使用进行规范和引导。科技部等10部门印发的《科技伦理审查办法(试行)》中,列出了需要开展伦理审查复核的科技活动清单,其中就包括具有社会动员能力和社会意识引导能力的算法模型、应用程序及系统。这意味着,在未来,AI技术的研发和应用将受到更加严格的伦理审查和监管。

  面对AI技术带来的挑战和机遇,我们需要采取综合措施,加强监管和自律。一方面,要加快技术研发和应用,推动AI技术在各领域发挥积极作用;另一方面,也要加强法律建设和伦理引导,确保AI技术的健康发展和社会稳定。只有这样,我们才能充分利用AI技术的优势,为人类社会创造更加美好的未来。

编辑网只对格式、排版等进行编辑,文章内容不代表编辑网观点。
转载注明来源:编辑网;作者:编辑网;链接: http://www.bianji.com/a/43705.html
关于我们 | 联系我们 | 版权声明 | 淘宝店铺 | 编辑器下载 | 编辑发稿平台 | 媒体信息 | | 欢迎投稿
辽ICP备19018729号-3 Copyright © 2002-2024 bianji.com All Rights Reserved 编辑网 版权所有