AI领域首部省级地方法规出炉，助力建设人工智能“上海高地”
华夏时报（www.chinatimes.net.cn）记者 赵奕 胡金华 上海报道
9月22日，上海市十五届人大常委会第四十四次会议表决通过了《上海市促进人工智能产业发展条例》（下称《条例》）。《条例》整体共包括六章七十二条内容，将于10月1日起实施，这是人工智能领域的首部省级地方法规，也是上海继《上海市数据条例》后的第二部数字经济领域地方法规。
“此次立法立足于促进法的基本定位，注重创新性和引领性，充分发挥有效市场和有为政府的作用，采取各种激励措施推动人工智能产业高质量发展。”上海市人大常委会法工委主任阎锐表示。
无锡数字经济研究院执行院长吴琦向《华夏时报》记者表示，人工智能是引领新一轮科技革命和产业变革的战略性技术，加快发展新一代人工智能产业对我国抓住新一轮科技革命和产业变革机遇、推动产业转型升级和经济高质量发展至关重要。当前，我国人工智能产业蓬勃发展，产业规模和技术创新能力持续增强，但也带来了安全、隐私、公平等诸多新问题。
“通过立法，完善顶层设计，能给予我国人工智能产业治理更明确和有力的法律支撑，在安全、隐私、公平等方面提供更正向的引导和明确的规范。因此从立法角度推动和规范人工智能产业发展十分重要。”吴琦如是说。
建设人工智能“上海高地”
记者了解到，当前我国人工智能领域技术规模已全球领先。根据智慧芽全球专利数据库，我国人工智能领域企业和机构的专利申请件数和授权发明专利族数分别为57.81万件和15.44万族，占全球比重达到57%和52%。2022年8月中国人工智能研发指数录得123.6，比中国研发指数CIRD高1.5个基点，且过去五年多以来，人工智能研发指数整体以高于全行业研发指数的表现高位运行，研发活动规模持续高速增长。
而近年来，上海人工智能产业规模也在持续壮大，数据显示，2021年上海人工智能规上产值3056.8亿元，同比增长17.2%，是2018年的2.28倍，人工智能赋能百业的价值红利正加速显现。根据《上海市人工智能产业发展“十四五”规划》，十四五期间，上海力争基本建成具有国际影响力的人工智能产业创新发展高地。到2025年，上海人工智能规上产业规模年均增长12%以上，达到4000亿元。
记者了解到，为推动上海人工智能产业发展，《条例》聚焦算力、算法、数据三大基本要素，提出要加强算力基础设施规划，推进公共算力资源平台建设。其中明确，上海市经济信息化部门应当会同上海市发展改革、科技等部门制定公共算力资源供给办法，推动公共算力资源平台建设与利用，加强算力科学调度，通过算力奖励等方式，为人工智能技术与产业发展提供公共算力支持，保障中小企业获得普惠的公共算力。
对此，易观分析企业数字化中心分析师陈一墨向《华夏时报》记者表示，人工智能产业发展需要保障要素供应与要素供应的市场化机制。目前普遍认为，数据、算力、算法是人工智能产业发展的基石。《条例》第二章第一节针对数据、算力、算法的供应、流通、交易、产业构型等方面，提及相关参与方并划定参与方功能与责任范围，并明确相关资源应具有公平性与普惠性，为产业高质量发展打好技术生产资源基础。
陈一墨表示，总的来说，《条例》从多个方面多个维度支持人工智能产业的长久、稳定发展，也谨慎并坚定地探索人工智能产业发展之路。从任何意义上讲，《条例》都十分有利于人工智能产业的发展，并且《条例》对于人工智能产业的发展是具有跨时代意义的。
允许试错，明确行为底线
安全问题和伦理问题始终是人工智能技术发展过程中的焦点问题。《上海市人工智能产业发展“十四五”规划》中提出，上海要形成敏捷治理的制度供给体系。其中包括，统筹发展与安全，健全人工智能发展法规体系、标准体系、监管体系，强化制度供给，推动人工智能地方立法，深化人工智能技术伦理、安全风险、社会规则等方面。
这一点在《条例》中得到了充分体现，《条例》的一大亮点便在于明确设立人工智能伦理专家委员会，发挥其在人工智能领域伦理规范方面的作用。据了解，该专委会履行的职责包括制定伦理规范指南、推动参与国内外人工智能领域伦理重大问题研讨和规范制定; 对涉及生命健康、公共安全等重点领域人工智能应用的潜在风险开展评估等。
同时，《条例》还立法确立了人工智能产品和服务的行为底线，明确相关主体开展人工智能研发和应用，应当遵守法律、法规规定，增强伦理意识，并不得从事相关禁止行为。比如禁止提供危害用户人身或者财产安全、侵害个人隐私或者个人信息权益的产品和服务；禁止利用算法技术实施价格歧视或者消费欺诈等侵害消费者权益的行为，实施垄断或者不正当竞争的行为等。
上海市经信委副主任张英表示，《条例》提出“以人为本、科技向善”发展原则，注重促进创新与防范风险相统一。一方面探索分级治理和沙盒监管，研究出台高风险人工智能产品和服务清单等。另一方面成立人工智能伦理专家委员会，促进人工智能产业在规范中发展，在发展中规范。
此外，《条例》还规定了市有关部门可以就人工智能产业发展过程中的轻微违法行为等制定依法不予行政处罚清单。允许试错，也将使科学家在该领域的探索更加大胆，激发创新活力。
上海瀛泰律师事务所律师翁冠星向《华夏时报》记者表示，立法“允许试错”是指对于一些前沿科研领域，为了鼓励大胆探索，激发创新潜力，从而在立法中规定了对于不具有主观恶意的或者客观社会危害性的轻微违法行为等，不予行政处罚。
在翁冠星看来，科研从本质上来说就是不断的试错和证伪，AI也不例外。对于正常科研过程中的正常实验和试错行为，法律应当保持适度的谦抑。这在国际上已经属于常识。欧美等发达国家，通常由法官通过行使自由裁量权的方式，豁免或者不予追究科研团队的责任。
翁冠星表示，除了科研本身，由于中国独特的财务制度，科研团队在经费使用上也非常容易“踩线”。科研团队本该专注于科研本身，而现在却要求他们花大量精力去“贴发票”报销，去研究出行的住宿和舱位级别，这既不利于创新，更不利于吸引并留住人才。
“事实上，国内已经有诸如浙江、河北等多地呼吁建立科技创新过程中的‘容错免责机制’。上海这次率先将允许试错以地方立法的形式固定下来，为AI科研试错免责提供了坚实的法律基础，也有利于吸引世界各地的人才前来上海从事AI研究，鼓励他们大胆探索，积极创新。”翁冠星表示。
