根据《纽约时报》报导，去年 2 月一位父亲 Mark 注意到儿子私密处发炎，但由於疫情下诊所仍休诊，因此在护士的建议下， Mark 使用安卓（Android）手机拍下儿子腹股沟的照片，将照片传给医生後再进行视讯诊断。在 Mark 拍下照片的两天後，即收到 Google 的通知，告诉他由於帐号出现疑似非法的有害内容，因此帐号已遭 Google 锁定。
Mark 无法使用 email、通讯录、照片，且因为他使用的是 Google 电信服务 Google Fi，因此连手机号码都遭停用，他也曾试图申诉 Google 的决定，但都被 Google 拒绝。2021 年 12 月警察针对 Mark 的事件展开调查，证实这次事件与犯罪无关。
像其他网路平台 Facebook、Twitter 等，Google 对於照片的审查是透过微软的 PhotoDNA 图片辨识比对技术，而这样的机制曾在 2012 年成功逮捕一位藉 Gmail 传送儿童色情照片的性犯罪者。
2018 年 Google 推出图片审查的 AI 工具，透过 AI 来辨识从没见过的儿童性虐资料（CSAM），并以最快的速度下架照片并通报。Google 发言人指出，藉由机器学习，并建立杂凑值（hash value，又称数位指纹），来与已知的 CSAM 内容相比对。AI 发现不适当的内容後，Google 将通报相关组织。另外发言人也说 Google 只会在用户对照片采取动作时，加以审查，包括将照片复制到 Google 相簿中等行为。
而对於误举报的事件，Google 给出的回应则是，公司遵照美国法律并运用杂凑值和 AI 来判定哪些内容是 CSAM，另外 Google 也设有团队来检视遭举报的内容是否准确，且也有谘询小儿科医生来辨识那些照片是用於医疗需求。
尽管藉由照片审查来保护儿童的权益固然重要，但审查机制背後的隐私问题也受到质疑。Apple在去年推出了保护儿童的计画（Child Safety Plan），Apple 会在用户上传照片至 iCloud 前进行审查，方式与 Google 相似，如果杂凑值与已知的 CSAM 照片相符，则会转由人工审查，来判定是否有需要锁定该帐号。
计画推出後提倡数位权益的非营利组织 The Electronic Frontier Foundation（EFF）指出，这危害到了 iCloud 使用者的权益。Apple 也因此暂缓了计画，但随着 iOS 15.2 的推出，Apple 让父母得以选择，是否在家庭共享计画的儿童帐号中加入照片审查机制，若父母同意则小孩帐号的「讯息」App 将审查里面的照片是否有裸露元素，若有审查到 Apple 则会将照片模糊化，并提出警讯以及提供可以协助网路安全的资源。
而对於 Google 此次事件，EFF 的 Jon callas 认为这样审查功能是侵犯权益的，他表示用户担心的就是帐号中的家庭相簿被审查後惹上麻烦。
在台湾的一位用户也发生类似於 Mark 的情况，他怀疑因自己的云端硬碟存放卫教文章所需的儿童生殖器照片，而受到 Google 审查，进而造成帐号被无预警的停用。他也警告帐号遭停用後不仅 email 和存在 Chrome 里的密码不能使用，而造成後续麻烦外，任何一次性付费的 Google App 也需重新购买，甚至他的 Youtube Premium 帐号在被停用後仍持续被扣款。
Google 的照片审查的确曾有效阻止了犯罪事件，但对於要将私密照片用於正当医疗用途上的使用者，只要出现了审查错误，即会让用户的使用权益收到侵害，也容易让用户难以再次信任公司所提供的服务。
INSIDE 未来日完整一天丰富论坛，完全掌握数位转型最新脉动
- 活动报名：Taketla拿票趣购票（现场票及直播票同步贩售中）、Accupass购票(仅贩售现场票)
- 更多 INSIDE 趋势论坛最新消息，请前往活动网页
- 更多数位转型相关文章
活动资讯：
- 活动名称：【2022 INSIDE未来日】台湾的蜕变｜用数位转型打造产业护城河
- 活动时间：2022 / 09 / 23 (五) 09:00 – 16:40（08:30 开放入场报到）
- 活动地点：微风南山 3F 艺文中心（110 台北市信义区松仁路 100 号 3 楼）
- 活动形式：可选择线下论坛见面互动、亦可购买线上直播票。
- 更安排 Q&A 及自由交流时间，藉此创造与会嘉宾间更多合作和深度参与的机会。
核稿编辑：Mia