2022 8月 22 By 轻松上网高手 0 comment

根据《纽约时报》报导,去年 2 月一位父亲 Mark 注意到儿子私密处发炎,但由於疫情下诊所仍休诊,因此在护士的建议下, Mark 使用安卓(Android)手机拍下儿子腹股沟的照片,将照片传给医生後再进行视讯诊断。在 Mark 拍下照片的两天後,即收到 Google 的通知,告诉他由於帐号出现疑似非法的有害内容,因此帐号已遭 Google 锁定。

Mark 无法使用 email、通讯录、照片,且因为他使用的是 Google 电信服务 Google Fi,因此连手机号码都遭停用,他也曾试图申诉 Google 的决定,但都被 Google 拒绝。2021 年 12 月警察针对 Mark 的事件展开调查,证实这次事件与犯罪无关。 

像其他网路平台 Facebook、Twitter 等,Google 对於照片的审查是透过微软的 PhotoDNA 图片辨识比对技术,而这样的机制曾在 2012 年成功逮捕一位藉 Gmail 传送儿童色情照片的性犯罪者。

2018 年 Google 推出图片审查的 AI 工具,透过 AI 来辨识从没见过的儿童性虐资料(CSAM),并以最快的速度下架照片并通报。Google 发言人指出,藉由机器学习,并建立杂凑值(hash value,又称数位指纹),来与已知的 CSAM 内容相比对。AI 发现不适当的内容後,Google 将通报相关组织。另外发言人也说 Google 只会在用户对照片采取动作时,加以审查,包括将照片复制到 Google 相簿中等行为。

而对於误举报的事件,Google 给出的回应则是,公司遵照美国法律并运用杂凑值和 AI 来判定哪些内容是 CSAM,另外 Google 也设有团队来检视遭举报的内容是否准确,且也有谘询小儿科医生来辨识那些照片是用於医疗需求。

尽管藉由照片审查来保护儿童的权益固然重要,但审查机制背後的隐私问题也受到质疑。Apple在去年推出了保护儿童的计画(Child Safety Plan),Apple 会在用户上传照片至 iCloud 前进行审查,方式与 Google 相似,如果杂凑值与已知的 CSAM 照片相符,则会转由人工审查,来判定是否有需要锁定该帐号。

计画推出後提倡数位权益的非营利组织 The Electronic Frontier Foundation(EFF)指出,这危害到了 iCloud 使用者的权益。Apple 也因此暂缓了计画,但随着 iOS 15.2 的推出,Apple 让父母得以选择,是否在家庭共享计画的儿童帐号中加入照片审查机制,若父母同意则小孩帐号的「讯息」App 将审查里面的照片是否有裸露元素,若有审查到 Apple 则会将照片模糊化,并提出警讯以及提供可以协助网路安全的资源。

而对於 Google 此次事件,EFF 的 Jon callas 认为这样审查功能是侵犯权益的,他表示用户担心的就是帐号中的家庭相簿被审查後惹上麻烦。

在台湾的一位用户也发生类似於 Mark 的情况,他怀疑因自己的云端硬碟存放卫教文章所需的儿童生殖器照片,而受到 Google 审查,进而造成帐号被无预警的停用。他也警告帐号遭停用後不仅 email 和存在 Chrome 里的密码不能使用,而造成後续麻烦外,任何一次性付费的 Google App 也需重新购买,甚至他的 Youtube Premium 帐号在被停用後仍持续被扣款。

Google 的照片审查的确曾有效阻止了犯罪事件,但对於要将私密照片用於正当医疗用途上的使用者,只要出现了审查错误,即会让用户的使用权益收到侵害,也容易让用户难以再次信任公司所提供的服务。

INSIDE 未来日完整一天丰富论坛,完全掌握数位转型最新脉动

  • 活动报名:Taketla拿票趣购票(现场票及直播票同步贩售中)、Accupass购票(仅贩售现场票)
  • 更多 INSIDE 趋势论坛最新消息,请前往活动网页
  • 更多数位转型相关文章

活动资讯:

  • 活动名称:【2022 INSIDE未来日】台湾的蜕变|用数位转型打造产业护城河
  • 活动时间:2022 / 09 / 23 (五)  09:00 – 16:40(08:30 开放入场报到)
  • 活动地点:微风南山 3F 艺文中心(110 台北市信义区松仁路 100 号 3 楼)
  • 活动形式:可选择线下论坛见面互动、亦可购买线上直播票。
  • 更安排 Q&A 及自由交流时间,藉此创造与会嘉宾间更多合作和深度参与的机会。

核稿编辑:Mia

轻松上网高手

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论