摘 要

在大数据时代下，算法技术也与之相伴随着急速发展，在如今的风险社会中，算法给社会带来了新的风险。这些风险不仅对社会中的伦理问题、技术问题产生影响，在民事法律层面也同时存在。

国内外的各界学者都对算法的社会风险、法律风险进行了研究与讨论。其讨论不仅仅停留在自然科学的角度，同时也伴随着算法进入人们生活的脚步进入了人文社会科学的研究领域。无疑，算法的发展不可能就此止步，而与之相伴随产生的风险也不能置之不理。因此，对算法导致的民事法律风险的分析，以及对其风险的防范便极为重要。

本文通过对算法法律风险进行分析，并参考域外相关防范措施综合进行思考、讨论，具体到我国的实际情况，得出了三大类防范措施。

第一，事前立法。在立法阶段对算法导致的法律风险进行调控，以达到规避的效果。

第二，事中监管，在算法从研发到进入市场、存在的影响完全消失这一过程中，积极鼓励多方主体对算法进行监督管理。

第三，事后执法，面对算法已经造成的负面影响，通过民事、行政、刑事等各方面减少不利后果，填平相关损失，对相应责任主体进行追责。

关键词：算法；法律风险；法律规制；风险防范

Abstract

In the era of big data, algorithm technology is also accompanied by rapid development. In today's risk society, algorithm brings new risks to the society. These risks not only affect the ethical and technical issues in the society, but also exist in the civil law.

Scholars from all walks of life at home and abroad have studied and discussed the social and legal risks of algorithms. Its discussion not only stays in the perspective of natural science, but also enters into the research field of humanities and social sciences with the footsteps of algorithm entering people's life. There is no doubt that the development of algorithms cannot stop there, and the risks associated with them cannot be ignored. Therefore, it is very important to analyze the civil legal risks caused by the algorithm and to prevent the risks.

Based on the analysis of algorithm legal risks, and the reference of overseas relevant preventive measures for comprehensive thinking and discussion, specific to the actual situation in China, three categories of preventive measures are obtained.

First, legislation in advance. In the legislative stage, the law risk caused by algorithm is regulated to achieve the effect of avoiding.

Secondly, in the process of supervision, in the process from the research and development of the algorithm to the entry into the market, the existing influence completely disappears, and multiple parties are actively encouraged to supervise and manage the algorithm.

Thirdly, in case of law enforcement after the event, in the face of the negative impact caused by the algorithm, we should reduce the adverse consequences in civil, administrative and criminal aspects, fill in the relevant losses, and take responsibility for the corresponding subject..

Key Words：Algorithm; Legal risk; Legal regulation; Risk prevention

目录

第1章 绪论 1

1.1 研究背景及意义 1

1.1.1 研究背景 1

1.1.2 研究意义 1

1.2 国内外研究现状 1

1.3 研究的内容与方法 2

1.3.1 研究内容 2

1.3.2 研究方法 2

第2章 算法的概述 3

2.1 算法的原理 3

2.2 算法的历史沿革 3

2.3 算法发展的必然性 4

第3章 算法的民事法律风险 6

3.1 个人信息层面 6

3.2 合法财产层面 7

第4章 域外经验及思考 10

4.1 以美国为例 10

4.2 以欧盟为例 10

4.3 以韩国为例 10

第5章 算法的民事法律风险防范 11

5.1事前防控 11

5.1.1以技术发展为视角 11

5.1.2以人类保护为视角 12

5.1.2以广泛权利为视角 12

5.2 事中监管 13

5.3 事后执法 13

第6章 结语 15

参考文献 16

致谢 167

第1章 绪论

1.1 研究背景及意义

1.1.1 研究背景

本文旨在于算法的发展大背景之下，通过对算法本身技术的讨论，针对算法不同的原理、应用方向，厘清算法自身必然存在的法律风险以及可能被滥用、恶意使用而带来的法律风险，并提出相应的法律规制建议，以求达到以法律防范算法带来的风险的目的，并以此保障算法的持续发展。此外，在理论上，对算法的法律风险及其防范作出深入讨论分析，希望以此对其他研究者提供参考。

1.1.2 研究意义

本文旨在于算法的发展大背景之下，通过对算法本身技术的讨论，针对算法不同的原理、应用方向，厘清算法自身必然存在的法律风险以及可能被滥用、恶意使用而带来的法律风险，并提出相应的法律规制建议，以求达到以法律防范算法带来的风险的目的，并以此保障算法的持续发展。此外，在理论上，对算法的法律风险及其防范作出深入讨论分析，希望以此对其他研究者提供参考。

1.2 国内外研究现状

何哲在《通向人工智能时代——兼论美国人工智能战略方向及对中国人工智能战略的借鉴》一文中提到，“人工智能将从根本地创造新的行为主体的角度来动摇和改变传统人类社会的根基，因此，更要在发展技术的同时注重社会维度的平衡。^[1][1]”杜严勇认为，“不加控制的片面的人工智能也可能给人类带来危害。^[2][2]”不仅是人工智能，其他的算法程序也与人工智能一样，得到了各界学者的重视，认为其将给社会带来风险。因此，对算法的风险规制显得极有必要。

这些风险的防控方法众多。杜严勇在《人工智能安全问题及其解决进路》中提出了设计人工智能伦理；对人工智能算法的应用范围进行限制；限制人工智能的自主能力和智能水平，建立人工智能安全标准与规范，这上述三种内部控制方法。同时，许斗斗在《技术知识与风险社会》一文中对如何防范技术知识所带来的风险的方法进行了回应，他认为“需要对技术知识发挥在那过程的深刻反思，需要在技术知识创新发展过程中内在价值观念的渗透和规范。^[3][3]”