张天任代表：建议启动立法研究，制定“人工智能管理法”

张天任代表

“人工智能在带来巨大机遇和利益的同时，也可能引发一系列社会经济、道德伦理等问题，启动立法研究、制定专门的综合性法律势在必行。”全国人大代表、天能控股集团董事长张天任向十四届全国人大三次会议提交议案，建议制定“人工智能管理法”，在鼓励突破关键技术，引导社会资源向人工智能前沿领域倾斜，提升我国技术自主可控能力的同时，注意防范和应对可能出现的负面效应。

AI技术正呈现爆发式增长态势，应用场景不断拓展，也出现错综复杂的问题。张天任表示，如部分企业利用AI技术虚假宣传、夸大宣传；AI系统高度依赖海量数据，在数据收集、存储、使用过程中，隐私泄露的风险很高。算法歧视则可能损害社会公平，在招聘、贷款审批、司法量刑等决策环节，基于有偏差数据训练的算法可能对特定群体造成不公平。此外，当人工智能系统引发事故、造成损害时，责任界定的模糊性可能使受害者难以寻求有效救济。

“我国已出台一些法律法规和政策文件，如《生成式人工智能服务管理暂行办法》等，但较为零散，无法涵盖AI领域各类问题和应用场景。”他建议，“人工智能管理法”以提高新质生产力、建设数字中国为目标，统筹规范与促进、保护与创新、发展与安全、当下与长远、国际合作与竞争，内容包括总则、研发管理、产品与服务管理、应用管理、责任划分与保险制度、保障和监督、国际合作与资源共享、法律责任等。

关于立法重点，他认为要建立科技伦理规范体系，为研发设计人员制定道德规范和行为守则，构建人机协作的伦理框架，推动人工智能朝通用、可信、负责任的方向发展。

其次，建立公开透明的监管体系。设立专门的监管机构，或明确现有监管机构的职责，加强对人工智能行业的监督检查。提升模型技术、数据源的透明度，让用户能深入了解模型的运行机制，提升信任度。制订、落实人工智能备案制度，强化审查，定期评估，一旦利益相关者的合法权益因人工智能决策遭受损害，完善的可解释性机制能迅速介入，及时解答用户疑问并提供相应的法律救济渠道。

鉴于人工智能技术的全球化发展趋势，张天任表示，应将在我国境内运营，或对我国用户产生影响的外国主体纳入备案管理范畴，确保其遵守我国关于人工智能发展的法律法规和监管要求。

第三，明确责任主体与责任承担程度。在责任判定中，应综合考虑行为人、人工智能服务提供商在侵权行为及损害后果中的实际作用，参考相关条款，明确人工智能提供者的高度注意义务，赋予相应的责任义务。根据不同违法行为或损害后果，制定相应的责任承担方式和程度。

此外，建立健全数据保护与安全机制。规范人工智能收集数据的使用范围，仅限授权范围内用于特定的研发、优化和应用场景。建立数据共享审批机制，明确条件和流程，确保接收方具备相应的数据保护能力，并签订数据保护协议。对跨境数据传输进行更严格的审查监管，保障国家数据主权和公民隐私安全。建立审计制度，对数据的收集、使用、共享等全过程进行审计记录，出现问题可以追溯，确保安全管理的可问责性。