人上网悲剧

　　去年 1 月 20 日，10 岁的意大利西西里岛女童安东内拉・斯科梅罗（Antonella Sicomero）拿着手机打开 TikTok，在自家浴室用皮带勒住脖子，模仿网上热门的“窒息挑战”（Blackout Challenge）。她很快失去了意识。等到家人发现时，悲剧已经无可挽回。

　　这一令人震惊的事件很快引发了意大利乃至欧洲监管部门的跟进。悲剧发生之后第三天，意大利互联网监管机构 DPA 对 TikTok 下达为期三个星期的整改通牒：如果 TikTok 不能核实用户年龄，就禁止提供服务运营。

　　从去年 2 月开始，TikTok 对当时意大利 1200 万用户的年龄进行全面核查，删除 50 万个年龄不符合规定的用户，查出 14 万谎报年龄的用户。TikTok 还承诺，未来会引入更多技术手段进行年龄核查，一旦发现 13 岁以下人开设账户，则在 48 小时内销号。

　　然而，即便是专为人开发的应用，也存在着诸多漏洞与问题。YouTube Kids 是美国最为成功的儿童视频应用。这是一个 YouTube 精选的儿童相关内容的视频平台，里面包括了大量的益智类动画、儿歌以及学习内容，每周活跃用户超过 3500 万人。

　　尽管 YouTube 对儿童内容设置了严格的审核要求，但依然有诸多不适合的内容出现。举例来说，过去几年美国家长的 YouTube Kids 内容包括汽车撞车起火燃烧，人物在悬崖边做出危险动作，阴森恐怖的坟墓场景，儿童在浴室玩刮胡刀等等。这些对成年人来说很正常的内容，却可能给学龄前儿童带来心理阴影，甚至诱使他们模仿危险动作。

　　诱使儿童观看视频成瘾也是 YouTube Kids 遭受指责的一大原因。这款应用的默认设置是自动播放视频，意味着当前视频播放结束之后，YouTube Kids 会继续播放算法推荐的内容。如果家长不能实时干预的话，儿童就会一直看算法推荐的内容。尽管从 2017 年媒体就开始报道这一问题，但没有监管部门的介入，谷歌就一直没有调整默认设置。

　　全票通过监管立法

　　社交网站是否应当对这样的悲剧负责，他们应当采取怎样的技术手段，如何有效避免类似的悲剧发生，阻止人在社交网络接触到不适当的内容？这已经是全球互联网监管立法的一大迫切问题。

　　这一次，加州又一次走在了美国前列。或许，加州在互联网监管方面责无旁贷，因为全球主要社交网站和互联网公司的总部都位于加州，Youtube、Facebook、Instagram、Twitter、Snapchat 以及 TikTok 的美国总部，而加州的互联网立法也一直走在美国各州的前列。

　　本周加州参议院以 33 票全票通过了《加州年龄相符设计法》（CaliforniaAge-AppropriateDesignCodeAct，AB2273），对社交网站和互联网平台应当如何保护人做出了明确规定。而此前加州众议院已经以 60 票全票批准了这一法案，该法案随后将送至加州州长纽森签字生效，但将会在 2024 年付诸于实施。

　　需要强调的是，尽管在加州占据压倒性优势，但全票通过的法案也并不多见。因为加州同样有深红选区，议会有诸多共和党保守派议员，美国联邦众议院共和党领袖就来自加州中部农业地区。虽然两党在诸多议程上争锋相对，但却在互联网监管方面有着难得共识，都对保护人上网有着紧迫感。

　　值得一提的是，这也是美国首部针对社交网站应当如何保护人个人信息和网络活动的相关法律。在联邦立法层面，参议院立法小组在今年 7 月已经推进了两项法律草案，在人上网方面对社交网络做出了明确规定：禁止互联网公司收集 13-16 岁用户的数据，除非得到他们的用户；要求互联网公司为人用户以及他们监护人提供一个消除平台活动数据的喧嚣。

　　此外，联邦参议院的《儿童网络安全法》的草案更是具体提出，社交媒体平台必须给人选择权，允许他们退出算法推荐功能，屏蔽诸多不适合人用户的内容。不过这些法案目前还没有确切的时间表。加州此次率先通过相关立法，也有助于联邦层面加快立法步伐。

　　安装数字围栏

　　加州这一法律明确规定，社交网络在面对用户时，必须将他们的隐私、安全和福祉置于自己的商业利益至上。如果有社交网络违反这一规定，那么将面临每名所涉及用户至多 7500 美元的。

　　具体而言，这一法律要求应用和网站开发者必须为 18 岁以下的用户安装“数字围栏”，分析自己服务可能对用户带来的危害，采取主动措施保护他们的个人信息以及网络浏览数据。法律明确提到了目前社交网站所常用的推荐算法以及寻找好友功能，这些手段意在提高用户粘性和增加使用时间，但对于用户，这些功能会带来遭受骚扰的风险，也会影响他们的身心健康。

　　加州的这项法律得到了美国诸多儿童权益保护机构的欢迎。在法案通过之后，美国儿童安全保护组织 Fairplay 立即发表称，“加州通过年龄相符设计法案是朝着为儿童和家庭打造他们的互联网方向的巨大飞跃。”

　　Facebook、Twitter 等社交媒体巨头以及代表他们利益的贸易群体此前在私下游说阻止这一法案通过。他们提出，这一法案会阻碍互联网的创新，违反美国宪法规定的权利，也无助于有效保护家庭与孩子。

　　代表互联网平台利益的 NetChoice 发表坚决反对这些监管法律。“这些法律会让 Peloton 无法给孩子推荐新的锻炼内容，让 Barnes&；Noble（美国连锁书店）无法给中学生推荐继续阅读。加州一直是科技开发的领先者，但这些法律只会让创新者避免承受过度监管而离开加州。

　　年满 13 岁才能注册

　　和其他国家一样，美国用户同样广泛存在于 Instagram、TikTok、Facebook、Snapchat 和 Youtube 等社交媒体平台。但理论上说，并不是每个青少年都可以注册使用这些服务。美国绝大部分社交网站接受的用户注册最低年龄要求都是 13 岁。

　　以 TikTok 举例，用户注册的时候可以使用 Facebook、Twitter、谷歌或者苹果账号，单独注册时需要输入出生日期和手机号码（或邮箱），确认年满 13 岁才能注册。Instagram 和 Facebook 注册新用户的时候，最后一步也需要输入生日。如果未满 13 岁，平台会直接拒绝注册。

　　但是虽然各大社交媒体平台设置了明确的注册年龄要求，拒绝 13 岁以下人独立注册使用；但他们只要求用户主动提交年龄，就意味着有着诸多空子可钻。Instagram 等平台都承认，人完全可能虚报年龄注册使用社交网络，核查用户实际年龄是一个技术难题。

　　美国关于用户年龄限制的法律依据还是 1998 年颁布的《儿童网络隐私保护法》（COPPA）。根据这一法律，互联网公司为 13 岁以下用户提供服务需要面临更为严格的监管要求和法律责任。他们需要事先得到父母的同意，设置设置“明确与完整的”的隐私政策，确保收集的儿童数据安全保密。

　　正因为这一原因，美国绝大多数社交网站都将注册最低年龄设在了 13 岁。人只能在父母陪伴下观看一些社交媒体过滤后的适合人的健康板块内容。13-16 岁这个年龄段的青少年，社交网站使用也面临着限制。不管是 Instagram 还是 TikTok，这个年龄的用户账号是默认私密的，意味着只有他们批准的用户才能看到自己以及私信。

　　一些互联网公司也会开发 13 岁以下儿童的单独产品，例如儿童版的 YouTube Kids，只能由父母帮助注册，在父母监护下使用，不能评论（等于没有了社交互动功能）。TikTok 在 2019 年与美国联邦贸易委员会达成和解之后，推出了只面向美国市场 13 岁以下的健康内容版块，但禁止搜索其他视频，也不可以评论，更不能自己发布视频。

　　监管立法严重滞后

　　但这一机制却存在着严重漏洞。2020 年，致力于保护儿童的非盈利机构 Thorn 对美国 2002 名 9-17 岁的人进行了社交网站使用情况；其中 9-12 岁儿童 742 名，12-17 岁少年 1260 名。

　　发现，尽管各家社交媒体公司都设置了明确的年龄限制，但是大多数儿童依然在使用这些社交应用（或是在父母监护下，或是虚报年龄）。在 9-12 岁儿童这个群体中，每天使用社交网站的比例分别为，Facebook（45%）、Instagram（40%）、Snapchat（40%）、TikTok（41%）、YouTube（78%）。而且，发现 27% 的人用户居然在使用约会应用，后者的最低注册年龄是 18 岁。

　　此外，Thorn 还对 1000 名 9-17 岁人进行了网络骚扰情况；其中 9-12 岁儿童 391 名，13-17 岁少年 609 人。这一的结果更令人触目惊心：16% 的 9-12 岁女孩都被成年人以性企图骚扰过，13-17 岁的少女更是高达 34% 有过类似经历。

　　那么青少年是怎么应对这些网络骚扰的呢？83% 的人表示自己会屏蔽和，只有 37% 的人会告诉父母或者亲友。而且很多受访的儿童表示，即便他们拉黑和了骚扰行为，他们还是会再次遭到对方更换账号的再次骚扰。

　　而在这些性企图骚扰行为中，Instagram 和 Snapchat 的问题最为严重，26% 的类似骚扰都发生在这两大平台，其次则是 TikTok 和 Facebook Messenger（均为 18%）。显然图片和视频社交平台是青少年最容易遭到网络性骚扰的平台。

　　监管还是事后

　　即便是在注重人和隐私保护的美国，在人使用社交网络方面的立法工作依然严重滞后，监管手段依然以事后为主，系统性保护机制存在着诸多漏洞。

　　从 Facebook 到 TikTok 到 YouTube，各大平台都在青少年用户方面有过诸多行为，并因此支付了高额的或是和解。但相对于他们的营收而言，这些无疑是不值一提。这些互联网公司明知道自己平台存在人用户，但依然在收集这些用户的资料，用于定向广告和内容推荐。

　　其他社交网站在这方面也同样问题不断。2019 年 TikTok 与美国联邦贸易委员会达成和解，支付 570 万美元，就此前在用户隐私问题上的行为达成和解（用户的头像和信息没有默认设置为私密）。2021 年 2 月，TikTok 再次同意支付 9200 万美元，就收集人用户信息的集体达成和解。

　　2018 年美国 23 个消费者和儿童保护机构联合向美国联邦贸易委员会指控 YouTube，认为该网站的年龄限制措施并不完善，而且在未告知父母以及征求授权的情况下，就收集儿童用户的使用数据，用于推送 YouTube 的个性化广告。

　　在是否关闭儿童应用 YouTubeKids 的默认推送和自动播放方面，谷歌也是在采取拖延战术，因为关闭之后就会直接影响儿童使用应用的时间。2021 年年初，谷歌 CEO 皮查伊参加国会听证会时，马萨诸塞州联邦众议员特拉罕（LoriTrahan）就此事诘问皮查伊。因为她自己孩子就沉迷于看 YouTubeKids 视频。

　　除了当面施压皮查伊之外，美国众议院监管委员负责消费者和经济政策的小组也向 YouTube CEO 沃茨基（Susan Wojcicki）致函，认为自动播放功能会让儿童沉迷于观看视频。美国反垄断监管机构联邦贸易委员会（FTC）的专家小组也对 YouTube Kids 的自我播放功能提出了监管意见。然而，谷歌直到去年 8 月才悄然推出了允许关闭自动播放的功能

　　Meta 已成全民公敌

　　而在这一方面，Meta 社交矩阵已经成为了全美公敌。去年 Meta 前网络道德部门（CivicIntegritydepartment）产品经理霍根（FrancesHaugen）了 Meta 内部的数万页文件，并在美国国会公开作证，引发了轩然大波。霍根指证这家社交网络巨头将自己的经济利益置于用户权益之上，在明知道可能带来危害与不良后果的情况下，为了追求网络流量和用户粘性，依然坚持不改变推荐算法，甚至向人推送本不该看到的内容。按照霍根的指证，Meta 的兴趣算法甚至会向人推送自残图片，向身材焦虑的少女推送厌食症内容。

　　正是因为 Facebook 有着太多的黑历史，去年 5 月，Facebook 宣布计划开发 13 岁以下儿童版 Instagram 的时候，遭到了美国监管部门和社会各界的一致反对。从联邦贸易委员会到联邦参议两院议员到各个网络权益保护机构，都先后发布了公开信，督促 Facebook 立刻停止开发儿童版 Instagram。此外值得一提的是，美国 44 个州的司法部长也联名施压扎克伯格，要求 Facebook 放弃这一项目。几个月之后，去年 9 月 Meta 不得不宣布暂停开发儿童版 Instagram。

　　在收集以及泄露用户数据方面，Facebook 绝对是劣迹斑斑。2019 年他们因此被美国联邦贸易委员会 50 亿美元，创下了美国监管和解金额的纪录。去年 Facebook 又因为未经用户授权扫描用户网络相册进行面部识别，遭到 160 万用户的集体，最终同意支付 6。5 亿美元达成和解。

　　更令人震惊的是，从 2016 年到 2019 年，Facebook 通过多个测试项目，每月支付 20 美元让 13-25 岁的年轻人安装自己的数据收集应用，从而获得他们手机网络使用的完整大数据。以非常低廉的获得了大量用户的完整数据。Facebook 明知道这其中涉及到人，却依然收集了三年时间。

　　Facebook 先是通过 VPN 应用收集用户数据，在被苹果强行下架之后，Facebook 又借助企业版根证书绕过苹果应用商店，通过付费收集青少年的网络数据。这一丑闻彻底激怒了苹果，一度吊销了 Facebook 的企业版开发权限，也是后来两家公司关系不断恶劣的导火索。去年苹果干脆在 iOS 系统更新中加入了允许用户拒绝数据跟踪的选择，给 Meta 的社交广告带来了显著冲击。据 Meta CFO 维纳（David Wehner）预计，苹果此举可能会给 Meta2022 年的营收带来高达 100 亿美元的损失。