在疫情期间，线上问诊的推出可真是方便了不少人的生活。

通过向医生远程描述病情，再配上患处图片或短片，医生问诊的效率也高了不少。

只要不是大病疑难杂症，一般线上确诊后，隔空开药方也确实便捷。

不仅对医生，对患者来讲，效率都着实提高不少。

这不，美国家住旧金山的一位全职奶爸此前因为儿子身体不适，也用上了线上看病。

没想到，因为向医生上传的儿子私处的照片，也同时上传到这位奶爸的谷歌账户云端，结果，他被谷歌的人工智能检测系统坚定地判定为恋童癖，将他的谷歌账号资料删了个干干净净。

在随后的上诉过程中，谷歌的人工智能系统非常犟，它驳回了一切这位用户提交的证据，维持自己的判定。

事情是怎么发展成这样的呢？

最早，是在2021年2月的一个星期五晚上，住在旧金山的马克发现他刚学会走路的儿子的阴茎肿了起来。

他和妻子给急诊室打电话，但由于当时正值新冠大流行期间，他们要等到星期六才能预约到医生了。

幼儿的病情拖不得，于是急诊中心要求这对父母将儿子的患处照片发给他们，以便医生事先咨询。

于是，马克就用自己的手机记录下了儿子的病情部位。

马克曾是个坚定的谷歌粉丝，当然是在后来的事情还没有发生的时候。

自从他申请了一个gmail账号后，就依赖上了谷歌提供的各项服务：日历，云端……甚至电话卡都用的是Google Fi哦！

总之，马克的生活被谷歌安排记录得明明白白。

但这也为后来发生的离谱事件埋下了伏笔。

儿子的照片发给医院那边后，医生倒是真的很快接诊了，对肿痛的病情迅速给开出了对应的抗生素药单。

但是，两天后，马克收到了手机上的提示，告知他：他的谷歌账户已经被停用，因为账户里的“有害内容”“严重违反了谷歌的政策，可能违法”。

《纽约时报》报道，顺着解释的链接，马克发现，他的账户被关闭的可能原因之一是“儿童性虐待和剥削”。

一开始，这个理由让他百思不解，满头问号。但他突然想到了两天前给儿子拍的生殖器问诊照片，反应过来谷歌很可能将它们当成了儿童色情制品……

由于账户被关，马克的电子邮件、联系人、照片等都无法访问，连儿子刚出生时的一些文件也消失了。

而且因为他的电话供应商也是Google Fi，马克就连电话号码都没有了。

如果没有这些，要在另一个运营商那里申请一个新的号码和新的互联网账户，真的很麻烦。

但这事儿无独有偶，一位住在德州的爸爸卡西欧也因为上传儿子的私处病患部位照片给儿科医生，而遭遇了同样的事情！据说这位爸爸当时正在买房，由于突然更改邮箱，导致房产中介怀疑他有信用问题，差点连房子都没买成！

马克这边，谷歌的人工智能并没有就此罢休，它甚至标记了在马克手机上的另一个视频——一个裸体儿童和成人躺在床上，并要求旧金山的警察局对此进行调查。

但这个视频应该就是马克的儿子和妻子躺在床上玩耍吧。

马克和卡西欧两位父亲，被谷歌系统作为涉嫌恋童癖者报告给一个虐待儿童的机构，该机构将这些案件报告给警方。卡西欧在秋天接到警察的电话，要他到警察局去。在出示了与儿科医生的通信记录后，他被免除了所有指控。

马克不得不等到12月才收到警方的一封信，说他的所有账户和文件都已被彻底调查。当他打电话给侦探时，他被告知没有发现任何可疑之处，案件已经结束。该官员曾试图与他联系，但由于他的号码和电子邮件都已经变更，所以没有成功。

尽管旧金山的警察局澄清了整件事，但是谷歌表示，它对其人工智能系统非常有信心，并表示要继续封锁马克这个家伙的账户。

谷歌发言人克里斯塔·穆尔顿（Christa Muldoon）说，公司遵循美国法律定义什么是CSAM图像检查功能，并使用哈希演算法（Hash）和人工智能的组合来识别图像。

穆尔顿补充说，审查此类案件的谷歌工作人员接受了医学专家的培训，但他们自己本身并不是医学专家，在审查每个案例时也没有咨询医学专家。

公平地说，谷歌基于人工智能的搜索已经比像Facebook这些平台的人工智能审查员要好很多。因为脸书的政策是先封锁内容，然后当用户上诉时告知，由于新冠疫情，平台没有足够的人手来处理。

不过无论如何，通过这两起事件，人们都不禁要问，这两家公司怎么能冒着失去客户和声誉的风险（更不用说偶尔的诽谤案了），对显然还未成熟的技术如此信任。

{:3_41:}