司法案例课题 | 肖芄：大年夜型互联网平台伤害儿童小我信息权益的认定兼评某短视频平台伤害未成年人小我信息平易近事公益诉讼案,儿童身高参照表。

某短视频APP是由某短视频平台公司开拓、运营的一款互联网移动端运用程序。
某短视频APP具有帮助用户在移动设备上制作、上传、不雅观看短视频及进行直播等功能，平台能够通过大数据的剖析和人工智能的算法等技能手段实现为用户推送精装的短视频内容等做事，是海内有名的短视频社交平台、直播平台及直播电商平台。
据该短视频后台数据显示，截止2020年底平台14周岁以下实名注册用户8万余，14周岁至18周岁实名注册用户数量60余万。
以头像、简介、背景、用户名、过往作品、地理位置等根本维度模型叠加“内容”“语音”“体态”“帐号”模型测算，18周岁以下未实名未成年人注册数量约为300余万；仅以头像、简介、背景、用户名、过往作品、地理位置等根本维度模型测算，18周岁以下未实名未成年人注册数量约为1000余万。
某市公民审查院在审查办理被告人徐某某猥亵儿童（未满14周岁）刑事案件时创造，该短视频平台在网络、存储、利用儿童个人信息过程中，未遵照正当必要、知情赞许、目的明确、安全保障、依法利用原则，遂对该短视频平台涉嫌侵害浩瀚不特定儿童个人信息权柄和隐私权的行为展开调查，在履行法定诉出路序后，向杭州互联网法院提起民事公益诉讼。

杭州互联网法院经审理认定，某短视频APP历史版本在网络、存储、利用、共享、表露儿童个人信息等多个环节中，未切实贯彻儿童利益最大化原则，存在危及社会浩瀚不特定儿童个人信息权柄和隐私权的行为，不利于儿童网络保护，已对儿童人身安全以及生活安宁造成隐患，详细包括：

第一，在儿童用户注册环节：某短视频App缺少单独的《儿童个人信息/隐私保护政策》《儿童个人用户协议》；对平台内实名注册的儿童用户，缺少关照监护人、采纳合理方法搜聚监护人是否赞许的流程；对平台内未实名注册的高疑似度儿童用户缺少技能识别手段，未采纳分外的儿童网络安全保护机制。

第二，在儿童个人信息网络环节：在未采纳合理方法以显著、清晰的办法奉告并征得儿童监护人昭示赞许情形下，存在违规网络、管理儿童网络帐号、位置、联系人以及儿童面部、肢体、声音等儿童信息的行为。

第三，在儿童个人信息存储环节：某短视频App缺少专门的儿童信息保护池，在“内容”“用户”两个维度对平台中涉及儿童的个人信息未能采纳加密等方法予以存储。

第四，在儿童个人信息利用、共享、表露环节：某短视频App在未采纳合理方法征得儿童监护人有效昭示赞许的情形下，利用大数据算法，向具有浏览儿童视频喜好的用户大量推送含有儿童信息的内容，并供应下载共享功能；推送涉及未成年人内容的算法机制不足完善，仅依照用户兴趣喜好等算法办法，随意、无序地推送儿童用户个人信息，未建立一套有别于成年人的算法推送规则；缺少向儿童用户推送内容的独立算法，向儿童用户推送内容的安全性、合规性和针对性存在欠缺，未表示对儿童群体的分外保护。

第五，在涉儿童网络安全主动保护领域：某短视频App对用户发布的涉未成年人内容的审核标准不足严格，缺少分级管控，存在进一步改进的空间；某短视频App缺少对儿童用户的隐私保护机制，对儿童用户未逼迫开启陌生人关注限定功能，未逼迫隐蔽儿童用户位置，未逼迫开启儿童用户私信限定，未逼迫关闭儿童用户通讯录推举，未逼迫关闭通过手机号搜索儿童用户功能，未逼迫关闭儿童“熟人圈”功能，未逼迫关闭儿童动态展示功能，未逼迫关闭推举儿童给可能感兴趣的人的功能，未逼迫开启儿童作品在同城不显示功能等。

案件双方当事人经法院组织调度，达成了调度协议。
法院对调解协议是否有损社会公共利益等进行了审查并依法登报予以公示。
法院经审查调度协议内容不危害社会公共利益且符合法律规定后，出具了民事调度书。
民事调度书紧张内容为：（一）被告停滞对儿童个人信息的侵权行为，按照干系法律法规对儿童个人信息保护的哀求，对某短视频平台进行整改。
针对案涉问题，被告承诺，按调度协议确定的合规整改方案、韶光推进表进行落实整改。
（二）被告完成整改后，应对整改完成情形及效果进行评估，并向公益诉讼起诉人、公民法院出具详细的整改完成情形报告书。
（三）被告应根据干系监管法规哀求，将整改方法方案及整改完成情形报告书报送网信部门，自觉接管合规审查。
若网信部门认为短视频平台未落实整改方案方法，或存在其他涉儿童网络保护的违规行为，被告应立即停滞干系违规行为并按哀求进行整改。
不能准期有效整改的，被告应立即停滞某短视频平台统统涉儿童经营业务的开展。
（四）被告就涉案侵权行为，在《法治日报》及某短视频APP官方帐号首页显著位置公开赔罪道歉。
（五）被告承诺在今后的运营过程中严格遵守儿童个人信息保护的法律、法规，并自觉接管网信等行政监管部门的监督检讨。
（六）被告赔偿因侵权行为造成的社会公共利益丢失公民币150万元，款项交干系儿童公益保护组织，专门用于儿童个人信息安全保护等公益事变。

在移动互联网高速发展的时期背景下，未成年人已经成为互联网利用的主要群体，手机、电脑等智能终端设备已成为他们主要的学习、沟通和娱乐的工具。
根据《第46次中国互联网络发展状况统计报告》显示，截至2020年6月份，我国网民规模达9.4亿，个中19周岁以下的网民群体占比18.3%。
可以说，这一代未成年人已成为移动互联网部落的原住民，但真正适宜未成年人网络需求、保障他们上网安全的网络生态环境仍面临诸多风险、寻衅。
在制度层面，自1989年联合国公布《儿童权利公约》以来，欧盟与美国不断探索与完善儿童个人信息的法律保护制度。
目前欧美已经形成了以欧盟的《一样平常数据保护条例》（General Data Protection Regulation，以下简称GDPR）和美国的《儿童在线隐私保护法》（Children’s Online Privacy Protection Act，以下简称COPPA）为根本的比较完善的制度框架。
我国关于儿童个人信息等网络保护的制度培植尚处于起步阶段，体系化研究成果与保护制度的搭建还不成熟，法律实践中对付此类案件的审理履历较为匮乏。
须要通过实践总结一些履历、沉淀一些理论思考，以供后来者在审理同类案件时参考、借鉴。

随着犹如“电子器官”的移动智能终端和“如影随行”的社交网络的大规模遍及，如今的未成年人一出生便是网络原住民，首次触网年事越来越小，对网络的接管和领悟意愿越来越强。
在法律理念上，我们该当深刻地认识到，为了促进网络技能对未成年人的发展，我们须要一个安全和可靠的网络环境，干系方须要保护他们免受不当内容和危险行为影响，同时也须要尊重儿童的数字权利，包括获取信息和自由表达的权利。
互联网和技能的利用确实增加了未成年人的风险，然而，只关注风险的做法会抑制互联网增强他们能力的潜质，法律须要在未成年人的数字权利和他们的保护需求之间进行更谨慎的平衡，既要为未成年人供应最大的拥抱数字天下的机会，同时也要为他们供应最全面的保护使得他们免受风险。
在审理未成年人网络保护类案件时，法律机关应秉持的基本态度是，充分认识未成年人对网络信息技能的发展需求，充分保障未成年人享受信息科技发展福利的数字权利，同时要加强对未成年人利用网络信息技能可能遭受风险的预防、保障。
法律对未成年人进行网络保护，并不是为了抑制其正当的发展需求，毋宁是为了更好地保障其拥抱数字天下的权利。

基于此，我们认为，对未成年人的网络保护应基于年事分层采纳有侧重的差异方法，以平衡未成年人信息本色养成与个人信息网络保护：针对8周岁以下儿童，重点强调保障监护人权利；针对8至14周岁的儿童，勾引其树立精确的代价不雅观，遍及网络安全知识，提高未成年人的信息甄别、搜集与运用的能力；针对14至18周岁未成年人，保障其在认识能力范围内利用互联网，鼓励其参与网络空间管理，为构建豁亮清明网络空间作贡献。
案件便是依据《儿童个人信息网络保护规定》的干系规定，对14周岁以下的儿童网络权柄所进行的分外保护，也是对网络平台合法、合规处理儿童个人信息提出的特殊哀求。
须要明确的是，儿童个人信息保护中的年事标准与民事行为能力年事具有干系性但规范属性不同，前者紧张规范的是儿童、家长及网络运营者的处理信息的行为，即达到某一年事时儿童 (信息权人) 得以拥有独立处理其信息的能力， 家长则无权限定其行使处理信息的权利，网络运营者对儿童的特殊把稳责任也相应免除。

在儿童个人信息保护中，以获取监护人的昭示赞许作为处理儿童信息的出发点已成为理论和实践的共识。
之以是将获取监护人赞许作为个人信息处理的出发点紧张是由于儿童民事行为能力不敷，导致儿童处理自我信息的能力受到限定。
因此，监护人代替子女行使知情权和赞许权成为儿童个人信息保护的关键所在。
《儿童个人信息网络保护规定》第8条、第9条规定，网络运营者应该设置专门的儿童个人信息保护规则和用户协议；网络、利用、转移、表露儿童个人信息的，应该以显著、清晰的办法奉告儿童监护人，并应该征得儿童监护人的赞许。
前述规定在阐明和实行过程中至少面临以下三个方面的难题：第一，如何在秉承最小化网络个人信息基本原则的情形下，有效识别儿童用户；第二，是否所有网络做事供应平台均需制订单独的儿童用户协议、隐私保护政策，采纳分外的儿童保护方法；第三，如何得到监护人的昭示赞许。
前两个问题涉及到的核心是，个人信息网络“最小化”原则与对儿童用户进行有效识别的冲突，有效甄别用户年事势必获取更多信息，过度网络信息又可能将用户置于风险田地。
借鉴美国COPPA对此提出的办理方案，我们认为，应考虑针对网络做事平台供应产品的类型，采纳隐私友好化办法，对信息处理者差异提出不同的识别责任和分外的儿童保护政策：对直接面向儿童供应做事的信息处理者，宜默认用户为儿童，哀求采纳分外的儿童保护政策；对面向大众的综合类产品，但知道或应该知道平台内有大量儿童用户的，可基于用户注册时自主填写的年事信息及其他行为信息等进行筛选，分层有针对性地采纳分外的儿童保护政策；对网络直播、网络游戏等强监管类产品，则应根据监管哀求逼迫采纳用户身份实名制，通过实名信息进行识别后分类采纳保护方法。
对付前述第三个问题，关键在于信息处理者是否在现有技能可行、本钱可控的条件下，采纳了合理、可靠方法获取监护人的赞许。
美国COPPA提到了几种详细的获取监护人赞许的办法可以加以借鉴：一是由监护人签署赞许书并通过邮寄或电子传真办法传回给运营商；二是哀求监护人供应支付渠道的证明，比如信用卡或者借记卡等身份验证信息；三是供应官方身份证件，比如身份证或者驾照等；四是发送电子邮件或者录制视频验证等办法。

基于以上考量，案件中某短视频平台公司供应的短视频产品虽然为面向大众的综合类做事，但其知道平台内有数量浩瀚的儿童用户，为切实落实儿童用户监护人的知情、赞许并对识别出的儿童用户采纳分外保护方法，法律机关提出了以下可行的整改方法方案：以易于儿童及其监护人理解的图文等措辞制订单独的“儿童个人信息保护规则”“儿童用户协议”，在用户注册及14周岁以下实名认证流程中以独立、显著设置办法，向儿童及监护人昭示，保障监护人知情、赞许和谢绝的权利。
开拓14周岁以下用户实名认证流程并增加关照监护人功能，在实名认证环节对用户年事进行判断，如实名用户小于14周岁，则哀求其填入监护人信息，平台将采纳站内信或者短信的办法联系监护人，搜聚监护人是否赞许厥后代进行实名认证操作。
对平台内未实名认证，但经由以头像、注册填写的年事、用户名、过往作品、地理位置等根本维度模型叠加“内容”“语音”“体态”“账号”模型测算出的高疑似度儿童用户，在未获监护人昭示赞许前，纳入青少年模式履行主动保护。
在流程设计当中，严格遵照儿童信息处理的“合法、正当和必要”原则，比如放弃网络儿童人脸信息、监护人谢绝授权则将删除已网络的儿童认证信息等。

自动化决策是指建立在算法根本上的决策，详细指通过数据算法自动化处理手段所做出的决策行为。
它建立在网络、整理大量人们的个人数据根本之上，同时研究人的决策行为，能够适应不同阶层、不同行为办法的决策者须要。
在日常生活中，自动化决策大多数不会对个人产生过多不利影响，更多时候是给个人供应了定制化做事，让生活变得方便快捷，但算法决策常常涌现的偏差，导致歧视或不公正等征象时有发生，有必要对自动化决策予以规制。
欧盟GDPR第22条授予个人反自动化决策的权利。
该条例规定：“数据主体有权不受仅基于自动化决定得出的决定制约，以避免对个人产生法律影响或与之相类似的显著影响”。
我国《个人信息保护法》第24条第3款规定，通过自动化决策办法作出对个人权柄有重大影响的决定，个人有权要求个人信息处理者予以解释，并有权谢绝个人信息处理者仅通过自动化决策的办法作出决定。
该条款实际授予了信息主体在特定场景下反对自动化决策的权利。
我国《互联网信息做事算法推举管理规定》第8条、第9条对此也做出了更为细致的规定，算法推举行事供应者应该定期审核、评估、验证算法机制机理、模型、数据和运用结果等，不得设置勾引用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
同时，该规定进一步明确，网络平台要强化任务意识，对算法运用产生的结果承担起算法安全的主体任务。
我们认为，鉴于当古人工智能算法的“黑箱”机制，对信息主体权柄可能造成重大的影响以及部分敏感场景下的算法决策，在利用前应考虑分外场景进行充分的风险评估、测试，并授予信息主体知情和反对的权利。
儿童属于应受到特殊保护的群体。
自动化决策的算法若未充分考虑儿童的分外属性，极易对儿童造成算法歧视或算法侵害，故对儿童进行自动化决策应纳入《个人信息保护法》第24条第3款规定的对个人权柄有重大影响的自动化决定范畴。
因此，基于儿童个人信息进行的算法决策，应进行充分风险评估，建立独立算法机制，充分落实监护人的单独知情赞许权，并授予信息处理者解释责任和信息主体随时谢绝的权利。

在该案中，法院哀求某短视频平台公司对儿童用户的个人信息的算法推举予以严格掌握，在儿童信息推送的算法决策方面提出了以下可行的整改方法方案：平台对含有儿童用户个人信息的短视频，利用算法在平台内进行推送，需在处理前采取显著办法奉告监护人并得到单独授权赞许，监护人有权随时撤回赞许，谢绝自动化决策推送。
平台创建并逐步完善针对涉未成年人内容信息推送的专门算法，通过算法自动化决策推送含儿童用户个人信息的短视频时，包括但不限于减少对未成年人喜好用户群体的推送频次，合理掌握在同城、标签、频道等各个场景推送涉未成年人内容的曝光次数和范围，强化对未成年人喜好用户行为的诊断策略等，逐步形成一套有别于一样平常用户的独立推送算法和分发逻辑。

个性化推举是指信息处理者通过网络个人的浏览记录等信息，依据这些信息剖析用户行为，对用户进行画像、精准营销或信息推送。
互联网带来了海量数据，用户难以全面浏览所有信息，算法推举根据用户的喜好、阅读习气等，向用户推举其可能感兴趣的内容，提高了信息检索的效率，但也带来了“信息茧房”等现实问题。
欧盟GDPR第21条规定，信息处理者网络个人信息进行直接营销干系的用户画像，信息主体有反对的权利。
对个性化推举的规制，我国国家网信办在《App违法违规网络利用个人信息行为认定方法》中做出了规定，“利用用户个人信息和算法定向推送信息，未供应非定向推送信息的选项”，应认定为“未经用户赞许网络利用个人信息”。
同时，《互联网信息做事算法推举管理规定》第18条更是明确规定，算法推举行事供应者向未成年人供应做事的，应该依法履行未成年人网络保护责任，并通过开拓适宜未成年人利用的模式、供应适宜未成年人特点的做事等办法，便利未成年人获取有益身心康健的信息。
算法推举行事供应者不得向未成年人推送可能引发未成年人模拟不屈安行为和违反社会公德行为、勾引未成年人不良嗜好等可能影响未成年人身心康健的信息，不得利用算法推举行事勾引未成年人沉迷网络。
儿童在互联网上的每一次点击，在社交媒体中的每次点赞、每个表情包、每次“拉黑”或“解封”都毫无保留地暴露了他们的真实偏好。
这些访问轨迹数据被网络运营者存储并经数据剖析之后所形成的多元数据关联，无法通过“事前奉告”的办法让监护人知情。
基于大数据剖析的算法推举、用户画像和精准营销，已经远远超越了监护人知情赞许的极限。
监护人赞许在某种程度上转让了双方（包括可能参与利益分享的第三方）均不可预知的儿童隐私。
儿童在消费网络做事的过程中，其偏好和信息已经成为其“相信”的互联网平台的要素投入，浑然不知个中所隐蔽的潜在风险。
此外，相较于成年人较强的鉴别能力，未成年人正处在身心发育阶段，须要社会为其树立康健向上的代价不雅观念。
显然，未成年人对网络游戏、娱乐明星等内容充满兴趣。
如果算法推举按照阅读习气和喜好，对未成年人大量推送游戏广告、明星绯闻或性感照片，则会让未成年人在游戏、八卦等内容中“沉沦”。
我们认为，个性化推举的算法设计代价导向必须以人为本，并与核心主流社会代价不雅观相契合。
儿童属于分外群体，其权利应受到分外的保护，特殊是儿童心智并不成熟，对天下的认知和自身的发展均处于待定的转态，对儿童而言未来统统皆有可能，而个性化推举具有锁定、固化的功能，不利于儿童得到更多可能的发展。
更为关键的是，不做区分的算法推举大略“投其所好”，对儿童的康健发展将产生极大负面影响。
因此，在儿童个人信息保护领域应有一套独立的个性化算法推举机制，以及有别于成年人的反个性化推举行法，即互联网企业对儿童用户应默认开启自动化推举关闭功能，在得到监护人昭示赞许的情形下方可开启个性化推举功能，但其个性化推举所采取的算法必须保障儿童用户的权柄，有别于成年人的推举算法。

在该案中，法院哀求某短视频平台公司对儿童用户的自动化决策和个性化推举予以严格掌握，在儿童用户的算法推举方面提出了以下可行的整改方法方案：平台默认关闭面向儿童用户的个性化推举，确有须要开启的须经监护人赞许。
同时，平台创建向儿童用户个性化推举的独立算法，为进一步强化向儿童用户推送内容的安全性、合规性和针对性，建立平台内容分级分类管理制度，创建向儿童用户推送内容的独立算法，对已有儿童用户群体和基本判断确认的儿童用户群体，适用独立推送算法并不断完善，既担保用户的基本体验，更关注儿童用户分外群体的全面保护。

随着经济发展和互联网的遍及，网络对付儿童来说变得非常易于触及。
然而同时，网络也成为了陵犯儿童隐私、危害儿童身心康健发展的一大潜在危险聚拢地。
因此，针对儿童的网络隐擅自动保护是一个不可忽略的问题。
在美国COPPA的“儿童信息网络六步合规规则”中明确规定，网络儿童的姓名、地址、电子邮箱地址、社会安全号码、电话、兴趣爱好等等，除得到儿童监护人的有效授权外，还应履行主动、合理的程序来保护儿童个人信息的安全。
在我国，对儿童个人信息及隐擅自动保护，干系法规和国标均做出了相应的哀求。
《儿童个人信息网络保护规定》第8条、第13条明确规定，网络运营者应该设置专门的儿童个人信息保护规则和用户协议，并指定专人卖力儿童个人信息保护；网络运营者应该采纳加密等方法存储儿童个人信息，确保信息安全。
此外，《信息安全技能个人信息安全规范》（GB/T 35273-2020）将14周岁以下儿童个人信息界定为个人敏感信息，并规定传输和存储个人敏感信息时，应采取加密等安全方法；共享、转让个人敏感信息前，除常日的奉告内容外，还应向个人信息主体奉告涉及的个人敏感信息类型、数据吸收方的身份和数据安全能力，并事先征得个人信息主体的昭示赞许。
基于儿童自身保护能力薄弱的特点，我们认为，专注于儿童内容和产品的互联网平台，须要依照法律规定落实相较成年人用户更为积极、主动的个人信息隐私保护方法，干系方法应表示出以下基本哀求：第一，干系方法应该在隐私风险发生之前预先设计，而不是在隐私侵权行为发生之后进行事后补救；第二，互联网平台应在产品设计、开拓、交付、运营的每一个环节都嵌入儿童信息隐擅自动保护功能；第三，平台应从完全的数据生命周期对儿童信息进行隐擅自动保护，即从数据天生到销毁的全体生命周期贯彻强有力的隐擅自动保护安全方法。

在该案中，法院哀求某短视频平台公司对儿童个人信息采纳更为积极、主动、有效的隐私保护方法，提出了以下可行的整改方法方案：第一，制订未成年人数据分级分类管理机制，建立涉及未成年人数据全周期保护和管理方法。
第二，建立专门的儿童信息保护池。
对平台内存储的涉儿童的个人信息建立专门的信息保护池，采纳加密等方法存储儿童个人信息，确保信息安全。
第三，强化对儿童用户隐私保护模式。
采纳的方法应包括：逼迫开启陌生人关注限定功能、逼迫隐蔽未成年人位置、逼迫开启未成年人私信限定等七大功能的未成年人隐私保护模式。

随着社会经济与打算机技能的发展，儿童信息的安全问题日益凸显，已成为当代社会无法回避的管理难点，天下各国纷纭从立法、行政及法律等各个制度层面探索建立行之有效的儿童个人信息网络保护体系。
我国法律机关参与对儿童信息安全问题的管理起步较晚，但我国互联网家当发展形势迅猛，这为法律实践的探索供应了巨大的空间。
该案只是我国法律参与儿童信息安全管理的开始，希望通过个案的有益探索，未来我国法律可以为全天下供应儿童网络信息保护的中国样本。