IT天空

 找回密码
 加入我们

手机号码,快捷登录

搜索

[新资讯] 好玩的AI换脸 也可能威胁国家安全?

[复制链接]
Lacy 发表于 2019-9-3 09:31:11 | 显示全部楼层 |阅读模式

IT天空 定制版高速U盘 64G/128G/256G | 固态U盘 256G Pro
本帖最后由 Lacy 于 2019-9-3 09:33 编辑



  ZAO可能产生的潜在危险和不安全性,也是人工智能为社会提供产品的同时人们必然面临的挑战。名为ZAO的AI换脸软件红遍网络,然而好景不长,一夜爆红"ZAO"的微信分享链接目前已经被停止访问了。关于"ZAO"刷屏后所带来的隐私焦虑与风险担忧,仍在蔓延。

1 (1).jpg


  实际上,ZAO软件就是一款经改造的换脸APP,2017年发源于美国,称Deepfakes,是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称),最生动的称呼是深度(照片)造假。

  既然是造假,当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全,如果涉及犯罪,轻而易举的换脸操作也会让真假罪犯难辨,同时加大司法成本。当然,在一些国家,如美国,换脸还可能成为反恐的梦魇,既可以让恐怖分子很容易通过换脸作案和逃脱,也加大了安全部门反恐的难度。

  所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性,这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此,如何监管才是最现实和最严峻的问题。

  现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸,美国欧盟等认为,即便是潜在的威胁,也极其严重,必须先出手防范。

  今年1月28日,美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes?》,指出,以Deepfakes为代表的换脸技术具有一系列潜在的危害,包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等,希望各国明确定义Deepfakes的不正当使用,亟须社会定义什么可以接受,什么不可以接受,这既有利于社会和法律的管理,也有利于社交媒体规范其平台,管理网上内容。


1 (2).jpg


  今年6月13日,美国众议院情报委员会对Deepfakes举行了听证会,会上该委员会主席、众议员亚当·希夫称,篡改视频的传播为2020年总统大选带来了一种"噩梦般的"场景,让议员、新闻媒体和公众"难以分辨什么是真实的,什么是虚假的".因此,他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条(互联网服务不必为其用户的行为负责)进行修改,以打击Deepfakes,保护用户免受假新闻的误导。

  针对Deepfakes换脸技术产生的具有破坏性的危险性内容,欧盟也在2019年初出台了应对指南,以帮助公众分辨某条信息的来源,信息是如何产生的以及信息是否值得信赖。

  可以看到,对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止,只是在进行论证。但迫于压力,美国的Reddit上关于换脸技术的讨论版被删除,换脸技术也在美国被全网封禁,其GitHub开源代码也被清除。

  尽管目前看来,ZAO软件还没有造成实际上的危害,但是,正如网友所指出,一个潜在危害非常实在:"有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你家人通话了。"因此,公众的担心并非杞人忧天,有必要及早以明确的法律条款予以规范。

  张田勘(专栏作者)












原文链接:https://www.cnbeta.com/articles/tech/885051.htm
最近访问 头像模式 列表模式
fudashuai 发表于 2019-9-3 12:00:43 | 显示全部楼层

活跃 6991| 技术 0| 互助 0| 钻石 0

有些国家禁止换脸了~~~
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Lacy

43580

活跃

2

技术

9

互助
签到任务
最火的业界新闻
  • [图]华为MatePad Pro现身GeekBench:麒麟99
  • [图]外媒:明年华为P40旗舰系列要在全球范
  • 华为Sound X高端音箱官宣:与帝瓦雷合作 售
  • 华为折叠屏手机Mate X官方维修价格公布:屏
  • 英伟达或于2020年3月为笔记本电脑带来Super
  • [图]华为正打造15英寸的MateBook 15 有望明
  • 世界上最强大的晶圆级芯片 已在全球最快的A
  • 华硕推出面向台式机用户的PCE-AX3000 Wi-Fi
  • 携号转网套路仍在风险犹存 运营商将迎新变
  • 华硕开售17英寸ProArt Studio Book Pro X工
炫酷的硬件Show
  • 振华SUPER FLOWER 铜皇450W 铜牌电源
  • 比小更小,Mini-STX装机
  • 华擎X99E-ITX + 银欣ML06 装机记
  • 最强双路泰坦硬管水冷 制作流程
  • 银欣FT02,双路E5工作站
  • 迟到的定制机箱小钢炮清理灰尘
  • 乔思伯UMX1 Plus,小巧的家用综合主机
  • 分体水冷第二弹-Inwin 805 infinity
  • 第一次DIY硬管水冷~~
  • 樱桃MX6.0 青轴 机械键盘 开箱
有趣的美图分享
  • 东北女性与四川女性地位高的区别
  • 乌克兰的秋天
  • 秃鹫:-想不到吧-我还穿了秋裤
  • 广告文案直击人心
  • 运气还能怎样?
  • 别说,这身材还真不错的感觉
  • 每天晚上打完游戏后
  • 这样的厕所你敢用吗?
  • 挤豆一时爽,一直挤一直爽!
  • 告诉你19个鲜为人知的事情
关注官方微信
快速回复 返回顶部 返回列表