谷歌前安全负责人：AI 对儿童的伤害恐超社交媒

北京时间 9 月 23 日，据路透社报道，谷歌信任与安全团队的创始人汤姆 · 西格尔 (Tom Siegel) 在本周呼吁放缓 AI 发展，并警告称，科技行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大的伤害。

目前，社交媒体公司正因为被指控伤害年轻用户而支付巨额赔偿并面临数千起诉讼。与此同时，世界各国政府正努力限制未成年人访问社交媒体平台。

路透社去年曾独家报道了 Meta 的一份内部政策文件。文件称，其聊天机器人可以“与儿童进行浪漫或情色对话”，由此引发了国会调查。即便如此，监管措施仍未能跟上 AI 飞速发展的步伐。

西格尔曾担任谷歌信任与安全副总裁，他对路透社表示：“就 AI 正在对儿童造成的影响而言，我们目前的处境非常糟糕。那种认为行业能够在没有外部帮助的情况下自行解决问题的想法，是不现实的。”

他的担忧，反映了一些科技行业人士和学术研究者日益加深的恐惧：AI 对儿童构成的威胁比社交媒体更为深层。而当下，整个行业正竞相为聊天机器人添加越来越先进的功能，而数百万年轻人已经在日常使用这些机器人。

西格尔周二宣布，他已加入儿童网络安全倡导组织 Common Sense Media。这家成立于 2003 年的非营利组织致力于开展研究，并评估各类媒体对儿童的适宜性。今年 5 月，该组织成立了青少年 AI 安全研究所，这是一个旨在评估儿童使用 AI 情况的研究机构，西格尔将担任该研究所的首任执行主任。Anthropic 以及控制 OpenAI 的非营利组织 OpenAI 基金会，都是该研究所的支持方。

西格尔表示，他计划制定相关标准，以此对 AI 公司进行问责，并希望与这些公司及第三方组织合作来实现这一目标。

他此前于 2004 年至 2019 年在谷歌工作，但后来认为科技行业在为消费者打造安全网络空间方面的能力已经“陷入瓶颈”，于是离开谷歌。随后，他共同创办了 TrustLab，这是一家开发工具帮助企业发现安全威胁的创业公司。本月早些时候，他卸任 CEO 一职，转而担任新职务。

西格尔表示，目前，各大 AI 公司正在向儿童推出各种功能，却没有建立足够的安全防护措施。

“我认为，我们正在面临非常、非常严重的伤害风险。”他说。西格尔称，AI 公司可以立即采取一些措施，更好地保护年轻人，并列举了从自杀、精神错乱到“认知卸载”等一系列风险。所谓认知卸载，是指因依赖 AI 来回答问题而导致批判性思维能力下降。

他说，Anthropic 和 OpenAI 可以实施更严格的年龄验证措施，阻止未成年人使用其聊天机器人。他还表示，他的前雇主谷歌完全可以在其搜索引擎中增加关闭 AI 概览和 AI 模式的选项，就像目前已经提供开关，让用户过滤色情内容一样。