当前位置: 首页 > 文章中心 > 资讯中心 > 时事财经

新华网视评:让AI成“帮手”而不是“帮凶”

2024-09-21 08:47:45  来源: 新华网   作者:马若虎
点击:    评论: (查看) 字体: / /

  近日,杭州警方披露AI大模型换脸窃取个人隐私全国首案,令人细思极恐。

  犯罪分子将受害人静态照片,输入到模型中,再通过文字、语音提出需求,生成一段活体视频。这段活体视频可以模仿人脸进行点头、眨眼、侧脸,突破平台人脸认证,强制登录他人账号,获取大量受害人隐私数据出售获利。

  这只是AI技术应用乱象的冰山一角。近年来,人工智能技术迅猛发展,带来更多新机遇和更便捷服务,但新技术也往往被一些不法分子利用,成为违法犯罪的“帮凶”。

  AI“换脸”实施诈骗、AI伪造图片传播谣言、AI推销电话让人不堪其扰……种种乱象,不仅侵犯消费者合法权益,威胁人身财产安全,也阻碍了AI行业的健康有序发展。

  毋庸置疑,AI是科技发展的重要方向,是各国竞争的科技高地。但发展AI的同时,绝不能忽视其风险隐患。为狂飙的AI系好“安全带”,让其成“帮手”而不是“帮凶”,重在加强治理和规范。

  在近期举行的2024年国家网络安全宣传周上,AI的安全应用问题,成为热门话题。期间,相关部门发布《人工智能安全治理框架》1.0版,提出人工智能安全治理原则等方向性的破解思路。一些应对AI安全风险的黑科技也亮相网络安全博览会,比如AI实时鉴伪系统,针对AI换脸、AI拟声等诈骗套路进行有效识别、反制。

  科技从来都是“双刃剑”,是好是坏,是益是害,关键看握剑的人准备怎么用。在大力发展AI的时候,务必增强安全意识,加强相关安全技术推广应用,推动社会各方形成治理共识,让AI更好造福人类。(文案:马若虎)

「 支持红色网站!」

红歌会网 SZHGH.COM

感谢您的支持与鼓励!
您的打赏将用于红歌会网日常运行与维护。
帮助我们办好网站,宣传红色文化。
传播正能量,促进公平正义!

相关文章