本文目录一览：

• 1、2021人工智能十大关键词
• 2、京港论坛有没有回放啊
• 3、人工智能的道德，谁来塑造？｜对话

2021人工智能十大关键词

2021年，人工智能在政策、技术、应用、产业等方面呈现哪些特点，未来产业发展的趋势和研判？中国信通院云计算与大数据研究所牵头梳理《2021人工智能十大关键词》，为政产学研用各方提供参考。

01可信AI

可信AI是解决人工智能信任问题的关键。可信人工智能是落实人工智能治理的重要实践，深入到企业内部管理、研发、运营等环节，将相关抽象要求转化为实践所需的具体能力要求，从而提升 社会 对人工智能的信任程度。

02工程化

AI工程化成为从学术向行业应用的核心环节。工程化让AI应用从小作坊的手工模式走向大工厂的流水线模式的核心支撑。对企业来说，AI工程化成为超越算法研发的更大瓶颈，人工智能工程化主要包括以下环节：完备易用的工具产品体系、高效协作的运维管理实践、全面可控的安全治理、凝聚共识的产业链支撑。

03大模型

超大规模预训练模型在海量通用数据上进行预先学习和训练，能有效缓解AI领域通用数据的激增与专用数据匮乏的矛盾，具备通用智能的雏形。

预训练大模型普适性强，可满足垂直行业的共性需求。预训练大模型迁移性好，可满足典型产品的技术要求。大模型承上启下，深刻影响底层技术和上层应用的发展；向下驱动数据技术和计算架构能力的提升，支撑模型训练、部署和优化，向上支撑上层应用的服务转型。

此外，大模型多方向问题亟待解决，生态建设不容小觑。未来预训练大模型将重点解决应用、可信、跨学科合作、资源不平衡和开放共享等问题。

04人脸安全

人脸识别需要合理应用以增进 社会 信任。 社会 各界对人脸识别的相关风险广泛关注，需要正确、合理的使用人脸识别，并找到安全、泄露隐私等风险，增强 社会 对人脸识别技术的应用和信任。

05治理

人工智能治理正在从伦理原则走向法律规制。人工智能治理的过程是各主体对人工智能研究、开发、生产和应用中出现的安全、发展、公平和争议等问题，通过运营法律、伦理、技术手段进行协调、处理、监管和规范的过程。目前，人工智能治理已逐步从伦理原则等软性约束，迈向全面具有可操作性的法律规制的新阶段。全球人工智能治理路径包括系统化规制和场景化立法规制同步 探索 。未来，人工智能规制和数据治理紧密结合将是重要趋势。

06超级自动化

超级自动化加速企业、政务数字化转型。人工智能、云计算、大数据等技术与机器人流程自动化（RPA）技术的深度融合，是企业、政务等各类工作场景实现数字化转型的重点 探索 方向。人力成本上升，数字化升级需求增高，信息化、数字化、智能化形成联动态势，RPA技术充当起新兴技术落地应用的重要载体，超级自动化未来将成为工作常态

07MLOps

MLOps开始在大型企业部署实践。机器学习模型管理实践和标准流程，衔接模型的开发、部署和运维，涉及算法、业务及运维团队，旨在提升模型生命流程的开发、部署、运维效率，促进模型规模化落地应用。产业对开发、运维、权限管控、数据隐私、安全性和审计等企业级需求关注度极度提高。据统计，56%的企业在管理、安全和审计等方面存在困难。自2019年起，MLOps连续两年进入Gartner数据科学与机器学习技术成熟度曲线，并被视为AI工程化的重要内容。MLOps将与DevOps、DataOps协调联通、互相赋能。

08知识计算

知识计算解决产业对知识获取和应用需求问题。采用知识驱动+数据驱动的人工智能算法，为新一代人工智能提供解决方案，努力解决人工智能与行业知识结合、从感知智能到认知智能的产业需求。

09多模态融合

多场景下的多模态交互成为提升应用性能的重点。以多模态融合技术为核心的感知、交互和智慧协同能力，不断支撑各类终端和应用的智能化水平提升。

10行业融合

人工智能与金融、医疗等行业深度融合走向深水区。金融和医疗等行业从政策保障、技术储备、生产应用、能力输出、安全合规等方面，全面布局人工智能应用。金融行业：智能化成为金融 科技 布局的重点方向，2020年银行信息 科技 投入达到2017亿元，同比增强超过25%。金融机构通过扩大 科技 团队、建设基础能力、提供基础应用、赋能已有场景、建立促进和保障机制，全方面进行AI体系建设。医疗行业：人工智能在疫情防控与复工复产中发挥重大作用，在新药研发、蛋白质结构预测等生物化学领域应用成果明显。

乐天智谷

国际智能 科技 创新谷

乐天智谷是广州市攻城拔寨重点项目、2019年广州市提质增效试点园区、广州市中小企业服务站。项目位于广州市海珠区科韵南路与新滘东路交界处，区域所在是广州人工智能与数字经济试验区琶洲核心片区、琶洲高新区，是粤港澳大湾区 科技 创新走廊重要的支点。

园区以人工智能、5G技术、数字经济、物联网为主导产业，为入园企业提供全生命周期创新孵化服务和资源协同对接服务，并促进相关产业的资源共享、共融、互生。

“粤港澳青创湾”创新创业基地（以下简称：青创湾基地）于2018年9月开始在海珠区委统战部、区科工商信局的指导下筹建，由澳门青年领袖周王安先生发起，整合广州、深圳及港澳台地区30多个社团与港澳地区高校和科研院所、专家团队建立战略合作及密切协作关系，汇聚了包含宏观经济政策、 科技 创新服务、智能 科技 产业、新商业社群运营的各领域的核心优势资源。

京港论坛有没有回放啊

12月15日，第二十五届京港洽谈会“2022京港信息产业合作专题活动”成功举办。本次专题活动由北京市经济和信息化局、香港政府资讯科技总监办公室和香港贸易发展局主办，由北京软件和信息服务业协会、香港软件行业协会共同承办。活动分为香港和北京两个会场，采用线上线下相结合的形式举办，线上通过联通云、小鹅通同步直播，累计吸引约7000人次观看。



香港政府资讯科技总监林伟乔、北京市经济和信息化局二级巡视员王佐、香港贸易发展局华北东北首席代表陈嘉贤、北京市经济和信息化局总工程师仝海威出席本次活动并发言。京港两地专家围绕数字经济的创新发展进行了精彩的分享。此外，五项京港两地合作协议的签署，以及两个数字经济相关案例集的发布，也成为本次活动亮点。



战略引领深化两地合作

林伟乔在致辞中表示，为加快香港的数字经济发展，香港特区政府成立了由财政司司长领导的“数字化经济发展委员会”。委员会下设四个工作小组，分别聚焦跨境数据流动、数码基建、数码转型和人才发展四大课题进行深入研究，旨在为特区政府提出具建设性和前瞻性的建议和措施。此外，香港特区政府还从以下几方面促进数字经济的发展：一是在人才方面，香港行政长官在今年的《施政报告》中，就吸纳和培育科创人才提出了具体的措施；在应用场景方面，积极建设智慧政府，构建多种重要数字基础设施，全方位推动政府采用人工智能和大数据等先进数字技术；在促进数据共享方面，香港金融局于今年10月推出“商业数据通”，以便利金融机构在企业的同意下提取他们的商业数据。他最后鼓励京港两地继续保持紧密合作关系，互相交流和分享科技新知，共同促进两地数字经济的蓬勃发展。



香港政府资讯科技总监林伟乔致辞

王佐在致辞中表示，近年来北京市经信局以首都高质量发展为统领，坚持“五子”联动，主动融入新发展格局，统筹推进疫情防控和经济社会发展，以新一代信息技术这个万亿级产业为引领，落地实施一批强基础、利长远的重大政策、重大项目，各项工作均取得明显成效：一是高精尖产业发展能级实现巨大跃升，二是数字经济标杆城市建设初见成效，三是智慧城市建设体系更加完善，四是中小企业发展服务更上台阶，五是京津冀产业协同进一步深化。他希望未来京港两地通过互访交流、展会论坛、场景应用、项目合作等形式深化在高精尖产业、数字经济、智慧城市等重点领域的务实合作；同时希望借助香港国际金融中心的专业服务优势，培育我市更多企业赴港上市发展；我市也将围绕“两区”建设出台一系列跨境投资促进政策，为来京发展的港资企业做好服务。



北京市经济和信息化局二级巡视员王佐致辞

陈嘉贤在致辞中表示，北京信息科技企业在进行国际化发展时，可以利用香港平台，对接全球市场。京港两地数字经济领域的合作潜力巨大、前景广阔。香港贸易发展局将于明年4月举办首届“香港国际创科展InnoEx”、“香港创科峰会”，以及其他不同类型的交流对接会、圆桌会议、商贸配对等活动，助力香港打造成为亚太区域领先的科技贸易中心，构建完善的上中下游科创产业链。



香港贸易发展局华北东北首席代表陈嘉贤致辞

仝海威以“北京建设全球数字经济标杆城市的探索与实践”为题的政策宣贯中，重点介绍了北京建设全球数字经济标杆城市的最新进展并解读了《北京市数字经济促进条例》。他指出，北京数字经济进入快车道，数字经济占GDP比重位列全国第一，北京市数字经济增加值由2015年8719.4亿元提高至2021年1.6万亿元，数字经济核心产业实现增加值8918.1亿元，数字经济增加值占GDP比重由35.2%提高至40.4%。今年前三季度，数字经济实现增加值1.28万亿元，GDP占比42.7%。《北京市数字经济促进条例》主要规定了以下8个方面内容：明确数字经济管理责任体系、优化升级数字基础设施、促进数据资源开发利用、加快推动数字产业化、推进产业数字化转型、全面推进智慧城市建设、强化数字经济安全体系，以及加强保障与监管。他最后提出，未来希望大家共同参与、共同推进全球数字经济标杆城市建设。



北京市经济和信息化局总工程师仝海威宣贯政策



五项签约+两本案例集 成果斐然

本次活动成果卓越，一方面是五个重要合作备忘录的签署，另一方面是两本数字经济相关的案例集的发布。

五个合作备忘录涉及数字身份认证、电子支付、数据跨境等热点领域：一是由香港贸易发展局和北京市经济和信息化局签署的“深化京港经济和信息产业合作发展备忘录”，二是由香港公匙基建论坛、翘晋电子商务有限公司和中金金融认证中心有限公司签署的“研究‘LEI + 数字证书’可信生态建设合作备忘录”，三是由翘晋电子商务有限公司和中金支付有限公司签署的“构建法人机构识别编码新生态 融入金融新发展合作备忘录”，四是由香港公匙基建论坛和北京数字认证股份有限公司签署的“推进可信数字身份领域科技创新应用合作备忘录”，五是由诺华诚信有限公司和北京国际大数据交易所签署的“征信数据跨境业务合作备忘录”。

《金融区块链与支付创新案例集》《前沿数字技术创新应用案例集》两本案例集由北京软件和信息服务业协会首席研究员仓剑发布。



北京软件和信息服务业协会首席研究员仓剑发布案例集

其中，《金融区块链与支付创新案例集》是针对香港政府提出的“NFT、绿色债券代币化、数码港元”三项即将落地的“试验计划”，面向北京金融企业和科技企业征集的2020年以来在区块链、支付、数字货币、虚拟资产等方面的金融科技创新案例。该案例集共收录来自17家金融机构和IT企业的24个创新案例，全面展示了北京在区块链和支付领域的创新应用场景和未来发展趋势。

《前沿数字技术创新应用案例集》是北京软件和信息服务业协会为了加快建设全球数字经济标杆城市，进一步推动京港等地的数字经济发展，精选的一批以数字技术创新应用为主要驱动力的优秀案例。该案例集汇编了84个案例，按照行业分类进行编排，每个案例均围绕概述、案例背景、方案提供商、方案描述、客户收益五个方面内容进行介绍。



行业大咖引领发展方向

香港大学经济及工商管理学院教授周昭泷分享了主题为《人工智能的偏见》的演讲。他表示，人工智能算法通常从人工标签的数据中进行学习，所有包含“偏见”的标签会令算法学到偏见，比如性别歧视、种族歧视等，因此如何使用模板增强语言模型十分关键，这可以有效减轻人工标签中偏见的存在，使人工智能算法更加精准可靠。对于如何设计一个比大众标注者更好的AI标注，他提出一个基于提示学习和大型语言模型的新方法。



香港大学经济及工商管理学院教授周昭泷发表演讲

清华大学互联网产业研究院院长、经济管理学院教授朱岩的演讲主题为《数据要素的市场化配置理论与实践》。他指出，目前全球数据市场需求旺盛，国外数据交易机构采取完全市场化模式，数据交易产品主要集中在消费者行为趋势、位置动态、商业财务信息、人口健康信息、医保理赔记录等领域。相比之下，我国数据政策既重视数据治理，也重视数据市场建设，在数据开放与共享、数据权利与保护、数据跨境流动和数据要素市场化四个方向都发布了相应政策。他从创新方向，从数据到数据要素，数据价值化，数据要素化，要素数据化，数据确权、定价、交易，数据资产封装技术，数据要素市场机制创新等方面介绍了数据要素市场化配置理论，并通过贵阳大数据交易所优化提升方案进行例证。



清华大学互联网产业研究院院长、经济管理学院教授朱岩发表演讲



两地企业分享最新实践

有光集团有限公司首席技术官及首席科学家林润生的演讲主题为《语言人工智能的企业应用》，主要分享了多语言人工智能在金融业的合规科技应用，通过语音转文本的形式提高监管审查能力，识别不当行为，规避市场风险。尤其是在香港这种独特的多语言环境下，多语言人工智能就显得尤为重要。



有光集团有限公司首席技术官及首席科学家林润生发表演讲

驭势科技（北京）有限公司创始人兼CEO吴甘沙在主题为《京港联手，助力自动驾驶科创成果服务全球》的演讲中指出，驭势科技作为自动驾驶的领先企业，旨在创造最普适、安全和高效的AI驾驶技术。驭势科技与香港机场协同创新5年，从2018年带安全员进场，到部分线路的全线无人化运营，再到现在香港机场已成为全球唯一多场景、多车型无人车运营的领跑者。吴甘沙指出，香港是走向世界的一个窗口，驭势科技将从香港出发，依托一带一路走向世界。



驭势科技（北京）有限公司创始人兼CEO吴甘沙发表演讲

Databricks大中华区高级商务经理刘汶杰的演讲主题为《用湖舱一体架构加速您的数据和人工智能之旅》，主要分享了如何以推动实时决策和增强客户体验的方式实现数据和 AI 功能的现代化。他指出，传统的数据平台（例如数据仓库）并不是为实时运行而设计的，如果公司在信息之前做出决策，就会陷入困境，而Databricks的湖仓一体架构将会帮助企业应对这些挑战。



Databricks大中华区高级商务经理刘汶杰发表演讲

北京瑞莱智慧科技有限公司AI治理研究院副院长张伟强在主题为《构建智能世界安全因子——人工智能安全的思考与实践》的演讲中指出，人工智能已成为新一轮技术革命和产业变革的重要驱动力量，正在与其他新兴科技一起催生大量新产业、新业态和新模式。但以数据为驱动的第二代人工智能存在可解释性不强，鲁棒性弱等天然缺陷，以及业界普遍关心的人工智能伦理规则问题。在此背景下，瑞莱智慧设立AI治理研究院，持续深耕AI伦理规则研究、探索有效治理路径；同时依托清华大学人工智能研究院，持续发力人工智能安全攻防、隐私计算、深伪检测等领域，在算法可靠、数据安全和应用可控领域攻坚研发出一系列产品，赋能整个行业安全健康发展，助力数字经济高质量发展。



北京瑞莱智慧科技有限公司AI治理研究院副院长张伟强发表演讲

蓝点子（香港）有限公司CTO卢俊伟主题为《客服机器人》的演讲中介绍了自助式酒店入住/退房服务系统GSR，客人只需轻按 GSR屏幕，即能完成办理入住过程，一方面避免客人在酒店大堂长时间排队，另一方面减少服务人员的工作压力。其功能主要包括：抵达前登记手续，办理入住，等候房闲/领取房卡，办理退房，酒店信息/营销推广等。他表示，这种智能化、数字化的系统将服务于人的日常生活，带来更多便捷。



蓝点子（香港）有限公司CTO卢俊伟发表演讲

中金金融认证中心有限公司助理总经理林峰的分享主题为《数字经济的并行线—数字安全》，他认为，数字经济是继农业经济、工业经济之后的主要经济形态，是以数据资源为关键要素，以现代信息网络为主要载体，以信息通信技术融合应用、全要素数字化转型为重要推动力，促进公平与效率更加统一的新经济形态。围绕数字经济的发展，突显出安全支撑能力更加重要，以网络安全为基座的防护能力，主要体现在了人、物、环境、策略等几大方面，安全支撑基座的互相推进系统，相互促进，形成了围绕数据为核心的主要安全护甲，确保数字经济应用计算、传输、存储等环节中准确性、一致性、完整性、隐私性。



中金金融认证中心有限公司助理总经理林峰发表演讲

在去年的第二十四届京港洽谈会的“2021数字经济赋能产业发展专题”活动上，京港两地已经就进一步拓展和深化双方在数字经济领域的合作进行了深入的探讨。“2022京港信息产业合作专题活动”再一次强调数字经济将作为双方的合作重点，足见京港两地对于数字经济建设信息和决心。相信在两地的共同努力下，京港两地一定能够更好地实现在数字经济领域的资源共享、优势互补，供需匹配，促进产业高质量，进一步促进京港两地的共同繁荣。

12月15日，第二十五届京港洽谈会“2022京港信息产业合作专题活动”成功举办。本次专题活动由北京市经济和信息化局、香港政府资讯科技总监办公室和香港贸易发展局主办，由北京软件和信息服务业协会、香港软件行业协会共同承办。活动分为香港和北京两个会场，采用线上线下相结合的形式举办，线上通过联通云、小鹅通同步直播，累计吸引约7000人次观看。



香港政府资讯科技总监林伟乔、北京市经济和信息化局二级巡视员王佐、香港贸易发展局华北东北首席代表陈嘉贤、北京市经济和信息化局总工程师仝海威出席本次活动并发言。京港两地专家围绕数字经济的创新发展进行了精彩的分享。此外，五项京港两地合作协议的签署，以及两个数字经济相关案例集的发布，也成为本次活动亮点。



战略引领深化两地合作

林伟乔在致辞中表示，为加快香港的数字经济发展，香港特区政府成立了由财政司司长领导的“数字化经济发展委员会”。委员会下设四个工作小组，分别聚焦跨境数据流动、数码基建、数码转型和人才发展四大课题进行深入研究，旨在为特区政府提出具建设性和前瞻性的建议和措施。此外，香港特区政府还从以下几方面促进数字经济的发展：一是在人才方面，香港行政长官在今年的《施政报告》中，就吸纳和培育科创人才提出了具体的措施；在应用场景方面，积极建设智慧政府，构建多种重要数字基础设施，全方位推动政府采用人工智能和大数据等先进数字技术；在促进数据共享方面，香港金融局于今年10月推出“商业数据通”，以便利金融机构在企业的同意下提取他们的商业数据。他最后鼓励京港两地继续保持紧密合作关系，互相交流和分享科技新知，共同促进两地数字经济的蓬勃发展。



香港政府资讯科技总监林伟乔致辞

王佐在致辞中表示，近年来北京市经信局以首都高质量发展为统领，坚持“五子”联动，主动融入新发展格局，统筹推进疫情防控和经济社会发展，以新一代信息技术这个万亿级产业为引领，落地实施一批强基础、利长远的重大政策、重大项目，各项工作均取得明显成效：一是高精尖产业发展能级实现巨大跃升，二是数字经济标杆城市建设初见成效，三是智慧城市建设体系更加完善，四是中小企业发展服务更上台阶，五是京津冀产业协同进一步深化。他希望未来京港两地通过互访交流、展会论坛、场景应用、项目合作等形式深化在高精尖产业、数字经济、智慧城市等重点领域的务实合作；同时希望借助香港国际金融中心的专业服务优势，培育我市更多企业赴港上市发展；我市也将围绕“两区”建设出台一系列跨境投资促进政策，为来京发展的港资企业做好服务。



北京市经济和信息化局二级巡视员王佐致辞

陈嘉贤在致辞中表示，北京信息科技企业在进行国际化发展时，可以利用香港平台，对接全球市场。京港两地数字经济领域的合作潜力巨大、前景广阔。香港贸易发展局将于明年4月举办首届“香港国际创科展InnoEx”、“香港创科峰会”，以及其他不同类型的交流对接会、圆桌会议、商贸配对等活动，助力香港打造成为亚太区域领先的科技贸易中心，构建完善的上中下游科创产业链。



香港贸易发展局华北东北首席代表陈嘉贤致辞

仝海威以“北京建设全球数字经济标杆城市的探索与实践”为题的政策宣贯中，重点介绍了北京建设全球数字经济标杆城市的最新进展并解读了《北京市数字经济促进条例》。他指出，北京数字经济进入快车道，数字经济占GDP比重位列全国第一，北京市数字经济增加值由2015年8719.4亿元提高至2021年1.6万亿元，数字经济核心产业实现增加值8918.1亿元，数字经济增加值占GDP比重由35.2%提高至40.4%。今年前三季度，数字经济实现增加值1.28万亿元，GDP占比42.7%。《北京市数字经济促进条例》主要规定了以下8个方面内容：明确数字经济管理责任体系、优化升级数字基础设施、促进数据资源开发利用、加快推动数字产业化、推进产业数字化转型、全面推进智慧城市建设、强化数字经济安全体系，以及加强保障与监管。他最后提出，未来希望大家共同参与、共同推进全球数字经济标杆城市建设。



北京市经济和信息化局总工程师仝海威宣贯政策



五项签约+两本案例集 成果斐然

本次活动成果卓越，一方面是五个重要合作备忘录的签署，另一方面是两本数字经济相关的案例集的发布。

五个合作备忘录涉及数字身份认证、电子支付、数据跨境等热点领域：一是由香港贸易发展局和北京市经济和信息化局签署的“深化京港经济和信息产业合作发展备忘录”，二是由香港公匙基建论坛、翘晋电子商务有限公司和中金金融认证中心有限公司签署的“研究‘LEI + 数字证书’可信生态建设合作备忘录”，三是由翘晋电子商务有限公司和中金支付有限公司签署的“构建法人机构识别编码新生态 融入金融新发展合作备忘录”，四是由香港公匙基建论坛和北京数字认证股份有限公司签署的“推进可信数字身份领域科技创新应用合作备忘录”，五是由诺华诚信有限公司和北京国际大数据交易所签署的“征信数据跨境业务合作备忘录”。

《金融区块链与支付创新案例集》《前沿数字技术创新应用案例集》两本案例集由北京软件和信息服务业协会首席研究员仓剑发布。



北京软件和信息服务业协会首席研究员仓剑发布案例集

其中，《金融区块链与支付创新案例集》是针对香港政府提出的“NFT、绿色债券代币化、数码港元”三项即将落地的“试验计划”，面向北京金融企业和科技企业征集的2020年以来在区块链、支付、数字货币、虚拟资产等方面的金融科技创新案例。该案例集共收录来自17家金融机构和IT企业的24个创新案例，全面展示了北京在区块链和支付领域的创新应用场景和未来发展趋势。

《前沿数字技术创新应用案例集》是北京软件和信息服务业协会为了加快建设全球数字经济标杆城市，进一步推动京港等地的数字经济发展，精选的一批以数字技术创新应用为主要驱动力的优秀案例。该案例集汇编了84个案例，按照行业分类进行编排，每个案例均围绕概述、案例背景、方案提供商、方案描述、客户收益五个方面内容进行介绍。



行业大咖引领发展方向

香港大学经济及工商管理学院教授周昭泷分享了主题为《人工智能的偏见》的演讲。他表示，人工智能算法通常从人工标签的数据中进行学习，所有包含“偏见”的标签会令算法学到偏见，比如性别歧视、种族歧视等，因此如何使用模板增强语言模型十分关键，这可以有效减轻人工标签中偏见的存在，使人工智能算法更加精准可靠。对于如何设计一个比大众标注者更好的AI标注，他提出一个基于提示学习和大型语言模型的新方法。



香港大学经济及工商管理学院教授周昭泷发表演讲

清华大学互联网产业研究院院长、经济管理学院教授朱岩的演讲主题为《数据要素的市场化配置理论与实践》。他指出，目前全球数据市场需求旺盛，国外数据交易机构采取完全市场化模式，数据交易产品主要集中在消费者行为趋势、位置动态、商业财务信息、人口健康信息、医保理赔记录等领域。相比之下，我国数据政策既重视数据治理，也重视数据市场建设，在数据开放与共享、数据权利与保护、数据跨境流动和数据要素市场化四个方向都发布了相应政策。他从创新方向，从数据到数据要素，数据价值化，数据要素化，要素数据化，数据确权、定价、交易，数据资产封装技术，数据要素市场机制创新等方面介绍了数据要素市场化配置理论，并通过贵阳大数据交易所优化提升方案进行例证。



清华大学互联网产业研究院院长、经济管理学院教授朱岩发表演讲



两地企业分享最新实践

有光集团有限公司首席技术官及首席科学家林润生的演讲主题为《语言人工智能的企业应用》，主要分享了多语言人工智能在金融业的合规科技应用，通过语音转文本的形式提高监管审查能力，识别不当行为，规避市场风险。尤其是在香港这种独特的多语言环境下，多语言人工智能就显得尤为重要。



有光集团有限公司首席技术官及首席科学家林润生发表演讲

驭势科技（北京）有限公司创始人兼CEO吴甘沙在主题为《京港联手，助力自动驾驶科创成果服务全球》的演讲中指出，驭势科技作为自动驾驶的领先企业，旨在创造最普适、安全和高效的AI驾驶技术。驭势科技与香港机场协同创新5年，从2018年带安全员进场，到部分线路的全线无人化运营，再到现在香港机场已成为全球唯一多场景、多车型无人车运营的领跑者。吴甘沙指出，香港是走向世界的一个窗口，驭势科技将从香港出发，依托一带一路走向世界。



驭势科技（北京）有限公司创始人兼CEO吴甘沙发表演讲

Databricks大中华区高级商务经理刘汶杰的演讲主题为《用湖舱一体架构加速您的数据和人工智能之旅》，主要分享了如何以推动实时决策和增强客户体验的方式实现数据和 AI 功能的现代化。他指出，传统的数据平台（例如数据仓库）并不是为实时运行而设计的，如果公司在信息之前做出决策，就会陷入困境，而Databricks的湖仓一体架构将会帮助企业应对这些挑战。



Databricks大中华区高级商务经理刘汶杰发表演讲

北京瑞莱智慧科技有限公司AI治理研究院副院长张伟强在主题为《构建智能世界安全因子——人工智能安全的思考与实践》的演讲中指出，人工智能已成为新一轮技术革命和产业变革的重要驱动力量，正在与其他新兴科技一起催生大量新产业、新业态和新模式。但以数据为驱动的第二代人工智能存在可解释性不强，鲁棒性弱等天然缺陷，以及业界普遍关心的人工智能伦理规则问题。在此背景下，瑞莱智慧设立AI治理研究院，持续深耕AI伦理规则研究、探索有效治理路径；同时依托清华大学人工智能研究院，持续发力人工智能安全攻防、隐私计算、深伪检测等领域，在算法可靠、数据安全和应用可控领域攻坚研发出一系列产品，赋能整个行业安全健康发展，助力数字经济高质量发展。



北京瑞莱智慧科技有限公司AI治理研究院副院长张伟强发表演讲

蓝点子（香港）有限公司CTO卢俊伟主题为《客服机器人》的演讲中介绍了自助式酒店入住/退房服务系统GSR，客人只需轻按 GSR屏幕，即能完成办理入住过程，一方面避免客人在酒店大堂长时间排队，另一方面减少服务人员的工作压力。其功能主要包括：抵达前登记手续，办理入住，等候房闲/领取房卡，办理退房，酒店信息/营销推广等。他表示，这种智能化、数字化的系统将服务于人的日常生活，带来更多便捷。



蓝点子（香港）有限公司CTO卢俊伟发表演讲

中金金融认证中心有限公司助理总经理林峰的分享主题为《数字经济的并行线—数字安全》，他认为，数字经济是继农业经济、工业经济之后的主要经济形态，是以数据资源为关键要素，以现代信息网络为主要载体，以信息通信技术融合应用、全要素数字化转型为重要推动力，促进公平与效率更加统一的新经济形态。围绕数字经济的发展，突显出安全支撑能力更加重要，以网络安全为基座的防护能力，主要体现在了人、物、环境、策略等几大方面，安全支撑基座的互相推进系统，相互促进，形成了围绕数据为核心的主要安全护甲，确保数字经济应用计算、传输、存储等环节中准确性、一致性、完整性、隐私性。



中金金融认证中心有限公司助理总经理林峰发表演讲

在去年的第二十四届京港洽谈会的“2021数字经济赋能产业发展专题”活动上，京港两地已经就进一步拓展和深化双方在数字经济领域的合作进行了深入的探讨。“2022京港信息产业合作专题活动”再一次强调数字经济将作为双方的合作重点，足见京港两地对于数字经济建设信息和决心。相信在两地的共同努力下，京港两地一定能够更好地实现在数字经济领域的资源共享、优势互补，供需匹配，促进产业高质量，进一步促进京港两地的共同繁荣。

人工智能的道德，谁来塑造？｜对话

人工智能伦理的下一步是什么？| 图源：pixabay.com

导 读

2021年11月，经过两年时间的准备，联合国教科文组织（UNESCO）发布关于人工智能伦理的建议书，这是首个全球性的人工智能伦理标准，参与国家多达193个。

建议书呼吁各国采取数据保护行动，提出人工智能系统不得用于 社会 评分或大规模监控目的。

《知识分子》就该建议书的内容对话UNESCO专家组成员 曾毅 ，他认为：

人工智能曾经是一个科学畅想，但在当下是一个“伞概念”，包括各种涉及算法的技术；

“相称性”应当是人工智能应用时的重要原则；

人工智能原则上不应应用于大规模监控和 社会 评分，但也应有例外情况；

伦理规则不应只在人工智能产品的设计阶段起作用，只有在全生命周期真正做技术落地，才有可能真正实现治理；

人工智能在研究过程中不需要太多限制的说法是误区，学界应当在人工智能技术发展和伦理治理中发挥引领作用；

只有人工智能的发展和治理的深度协同，才能最终实现人工智能的可持续稳健发展；

未来人工智能特别应当在推进生物多样性与生态发展、气候治理、文化交互等领域发挥赋能作用，助力全球可持续发展目标的实现。

撰文 | 王一苇

责编 | 陈晓雪

“欧盟在制定相关标准时，不会考虑亚洲的关切…… 不同国家的文化背景使得他们对于技术阵痛的观察视角不同。” 中国科学院自动化研究所人工智能伦理与治理中心主任、国家新一代人工智能治理专委会委员曾毅说，“而UNESCO包含了几乎所有的主权国家和相关地区，应当说是最广泛的共识。”

他指出，没有任何一个国家能预知到所有可能的潜在风险，各个国家根据自己国家的价值观、 社会 伦理和技术发展阶段来考量。这就需要大家同步互补的观点，互相学习和交流。

UNESCO的建议书以尊重、保护和促进人的尊严、人权和基本自由，环境和生态系统的蓬勃发展，确保多样性和包容性和和谐与和平共处为价值观，提倡公平非歧视、可持续、隐私等原则。

建议书认为，“人工智能” 这一概念随发展而变化，因此不给出唯一定义，只将其视为 “有能力以类似于智能行为的方式处理信息的技术系统”，其中，包含模型和算法是其主要特征。

曾毅在中国科学院大学和清华大学任职，既是类脑智能模型的研究者，也 “跨界” 钻研人工智能伦理与治理。他是起草教科文组织建议书的24位全球专家之一，同时也是中国参与协商该建议书的代表。多个国家讨论出一个共同的伦理标准并非易事，他坦陈 “这是一个求最大公约数的过程”。

第一版草稿形成后，联合国自2020年开始组织区域性的对话，同时教科文组织也把第一版草稿发到各个会员国，正式征求国家建议。2021年6月份左右，193个会员国派出代表，进行政府间磋商，对文本当中的每一个段落做逐字逐句的修改。

针对这份建议书，《知识分子》与曾毅聊了聊他参与起草的过程和对人工智能伦理现状的观察。

为了表述的简洁和清晰，访谈稿略有编辑。

知识分子 ：建议书称 “无意对人工智能作出唯一的定义”，只探讨 “人工智能系统中具有核心伦理意义并且在国际上已形成广泛共识的特征”，为什么？我们现在说的 “人工智能” 到底指的是什么？

曾毅： 每个机构、国家，在人工智能战略里对人工智能的定义都不一样，在这上面达成一个全球共识并不必要。它本身就是一个与时俱进的概念，是快速迭代的。人工智能的定义本身也需要适应时代发展。

一开始，人工智能是一个科学畅想。1956年的达特茅斯会议 （作者注：普遍认为是人工智能领域的发起会议） 上，发起人 John McCarthy 说，这个会议的目的是 “从一个猜想出发，即原则上，智能每个方面的学习方式和特征都能被精确描述，使得机器能够模拟它们”。 [1] 即在计算机系统上重现人类的心智。这种重现不仅仅是行为上的，更是机制上的。

人工智能最开始的目标是推进科学进展，使人们生活得更好，从很多领域内，尤其是体力劳动中，把人解脱出来。现在人工智能的应用在替代劳力的方面确实比较相关。

但几十年后，人工智能变成了一个 umbrella term （伞概念，指概括性的术语） ，特别是面向产业的时候，不管是自然语言处理、数据挖掘、机器视觉等，都叫人工智能。

现在的人工智能已经不仅仅是一个科学 探索 的领域。现在一个学生做了一个新算法，比如用户上传图片，人工智能就画一个类似的铅笔画出来，谁都可以用。这个图像可能就存在一个大学实验室的机器上，机器获取了你的数据，却不一定有人仔细思考如何去保护你的数据。但个人信息一次的丢失就意味着终身的风险，你甚至都不知道这样的信息丢失在10年20年后对你来说意味着什么。你没有想过，做应用的人也没有想过。别有用心的人就有可能通过各种途径收集数据，对我们产生负面影响。

尽管我非常不喜欢，但现在大家把这些东西叫做人工智能，它的服务出现在我们生活中。而创造程序的人几乎没有经过任何伦理学培训。

2018年开始，我在中国科学院大学开设了一门人工智能哲学与伦理的课。当时开课很困难，大家说你又不是伦理学者，凭什么讲这样的课？诺贝尔奖和图灵奖获得者、卡耐基梅隆大学的司马贺 （Herbert Simon） 写文章 [2] 讨论过一个观点，好的交叉学科研究，一定是领域A的专家变成半个领域B的专家。人工智能伦理也是这样的。

80%来上我的课的学生都是工学相关专业，20%来自人文学院。对于技术研究者，人工智能创新几乎每走一步，都可能涉及 社会 关怀、 社会 伦理，他们需要知道注意哪些 社会 伦理问题，需要了解未来二三十年人工智能作为一个道德主体可能对 社会 造成的挑战；而从事科学技术哲学研究的学生，未来将会是中国人工智能 社会 相关领域重要的意见领袖，他们需要知道人工智能真正的进展。

知识分子 ：怎么看待建议书中 “人工智能不能用于大规模监控和 社会 信用评分” 的表述？

曾毅： 人工智能不能用于大规模 社会 监控和 社会 信用评分，是政府间磋商时德国的学者提出、列进去的。

说到这个，就要提及我们讨论的一个概念叫proportionality （相称原则） ，意思是，不是什么时候人工智能都好，不需要的时候就不要用。现在很多技术创新者会提出 making AI everywhere （让人工智能无处不在） ，我看到的时候就觉得，有必要吗？

以城市治理为例。舒可文先生的著作《城里：关于城市梦想的叙述》指出，城市的规划，一半是野蛮生长，一半是规划，这才叫做城市。因为城市中除了技术还有人际关系，它的形成方式是多样的。人工智能也不是什么地方都要去介入，应当适度使用。

不过我有一点保留意见，即使在欧盟的人工智能法中，大规模 社会 监控这件事也是有例外的。比如抓逃犯、寻找丢失的小孩、威胁国家和 社会 安全的特殊情况，是可以去应用相关的技术的。中国也在这些领域应用了这些技术，如寻亲打拐，效果也很好。但在教科文组织的规范中，并没有明确给出例外情况，我觉得不是特别合适。

社会 评分当中是否要使用人工智能，我觉得确实需要慎重思考。

社会 信用系统现在是一个精确匹配的自动控制系统，不是人工智能，没有学习能力。很多规则都是清晰的、人类定义的规则，比如违反交规的扣分和罚款你不交，但有钱去买机票，这个就说不过去。但如果基于大规模的数据去学，学到规则后应用到 社会 信用评分中，我作为普通公民也会比较担忧，因为学到的这个规则里，很可能有人类的偏见，如果没有人类来辨别，直接应用很可能有潜在风险。

例如，推荐工作的人工智能系统，给40多岁的男性推荐高管职位，给28岁的女性推荐服务员职位，这就是系统学到了 社会 的偏见。谁说28岁的女性不能当高管呢？人工智能现在没有真正理解的能力，它甚至不知道什么是男女，不知道什么是不公平，也不知道什么是身体和心理的伤害，那么怎么可能对这种偏见去做处理？

曾毅在看一本讲全球公平的图书，他说，“未来使机器人真正理解公平”是AI伦理的核心 | 图片由曾毅提供

有些人说，技术是中立的，我不同意这个说法。我觉得说技术中立是一个借口。技术学到了偏见，但没有去处理，它还是中立的吗？推荐算法没有加入干预的过程，而推说这些都是 社会 的问题，这都是在找借口， 社会 的问题不代表你没有解决的办法。

正是因为有这样潜在的问题，在没有人为筛选和有意监督的情况下，把人工智能应用到 社会 评分领域，可能会造成巨大的负面效应。目前我还没有看到这样的例子，希望在哪里都不要发生。

知识分子： 由于新冠疫情，各个国家都开展了不同规模的 社会 监控和信用评分，这和上述原则不是背道而驰吗？

曾毅： 2020年3月份， MIT Technology Review 做了一个工作，分析了各个国家 contact tracing （密接追踪） 的软件 [3] ，评价上，如果强制收集信息就很糟糕，不强制就好一点；国家运营的话也很糟糕，私营的就好一点。可以看到，中国的评分很糟糕。我认为它的评分很不客观，它只考虑了伦理方面。

选择性地向用户要求信息，实际上降低了这个系统的有效性。如果系统使用过程中采取并非强制而是完全自愿的原则，有可能导致密切接触网络的关键数据缺失，使得系统的数据分析无效，或者效果很差，那么我们为什么要用它？去用一个伦理设计上更道德、但应用层面效果很差的系统，还不如不用。Wired杂志后来有个报道 [4] ，说西方国家的 contact tracing 似乎没有亚洲国家那么有效。有效性到很后期的时候才被西方国家提上日程讨论。

在这个过程中，我们要学到的是如何平衡。这种平衡不是妥协。接受为了疫情而采集温度和人脸信息的数据，不意味着让渡隐私。2020年底，在 健康 码上输入身份证就可以获取到明星的素颜照，这就是开发 健康 码系统的机构没有很好地保护个人数据。 （作者注：2020年12月29日，对于北京 健康 宝“代查他人 健康 状态功能，有时不需要进行人脸识别”的情况，开发北京 健康 宝的单位北京市经济和信息化局大数据建设处（智慧城市建设处）回复称：“此问题已解决。” 事件中未见问责。）

如果相关的机构不能有效保护这些数据，是应当负责任的。2021年11月1日起施行的《中华人民共和国个人信息保护法》，规定个人信息处理者应制定内部管理制度和操作规程，加密，安全培训，制定安全事件预案等方式确保其收集的个人信息的安全，而如果违规违法，则将面临从警告、罚款、停业到刑事处罚的惩罚。此外，2019年起施行的《儿童个人信息网络保护规定》专门针对不满14岁的未成年人信息保护作出规定，违反者由网信部门和其他有关部门依据职责，根据《中华人民共和国网络安全法》《互联网信息服务管理办法》等相关法律法规规定处理；构成犯罪的，依法追究刑事责任。此外，国家互联网信息办公室近期刚结束征求意见的《移动互联网应用程序信息服务管理规定》修订版规定，应用程序的发行者和发布平台应接受 社会 监督、设立举报机制，对于存在数据安全风险隐患、违法违规收集使用个人信息行为的，或者损害个人、组织合法权益的应用程序，应当停止提供服务。

即使这样的系统是必要的，这不代表用户以任何形式让渡了隐私。它其实提出了更严格的要求，在满足隐私保护约束的前提下，才可以采集信息。

政府对于技术发展的管理和治理有一个学习的过程，而基础设施研发团队如果伦理意识淡薄、安全意识缺位，就会使得购买了服务的政府要为可能出现的纰漏背书。政府一定开展了质量评估，但是由于AI伦理专家的缺位或者设计的缺陷，并不是所有的伦理问题能够在评估阶段发现。政府应该为此负责，但是由于部分信息不透明，有时候我们可能无法了解后续处理情况。在这种情况下，在 社会 舆论监督的影响和政府的督促下及时调整系统设计与实现，是底线。

知识分子： 纸面上的伦理规则，如何落到现实中？

曾毅： 伦理原则即使在设计阶段发挥了一些作用，但在算法实现、产品服务和产品部署的过程中如果不注意，都可能带来各种各样的问题。只有在人工智能产品的全生命周期 （包括它的上下游客户） 真正做技术落地，才有可能真正实现治理。

举个例子，2019年杭州野生动物世界的案子 （作者注：杭州市民郭兵于2019年购买杭州野生动物世界双人年卡，并确定指纹识别入园方式，但野生动物世界此后强制要求激活人脸识别，否则无法入园，郭兵因此提起诉讼，该案以郭兵胜诉告终，被称为 “全国人脸识别第一案”） ，其实就包括使用和部署环节的问题，知情同意没有做好。此外，采集的数据到底是保存在动物园还是相关企业，企业的保密和数据加密资质是什么样的？这一切都不清晰。

而在伦理原则还未落地、还不是法律的时候，如何实施？换脸软件ZAO和教室表情识别看学生是否认真听讲，是两个具体的例子。ZAO在上线后三四天下线，被工信部约谈；而教室表情识别的事发生后，教育 科技 司表态，在不必要的场合就不需要引入人工智能，建议不要使用，那时就基本上叫停了相关服务的发展。当时绝大多数人脸识别企业都有做类似尝试，有些可能已经形成应用，甚至规模化应用。据我所知，很多企业的这条产品线基本也都停掉了。

法律讲的是底线，红线。 科技 发展过程中法律的守护底线红线作用永远不可替代。而 科技 伦理问题是法律之上的 科技 发展与 社会 之间的软性约束和契约。不触犯法律并不代表没有道德伦理问题。伦理道德对 科技 发展的考量和反思是确保 科技 健康 发展不可或缺的要素。 科技 发展与 科技 伦理形成双螺旋结构， 科技 才能稳健地助力人类文明的繁荣。

企业创新者要做全生命周期的伦理落地，要自律自治。有些企业有专门的伦理委员会和伦理研究组，但有一些小企业或者初创企业没有这个能力，学术界和政府应该给他们提供伦理相关的服务，以公共服务的方式，避免这个问题，后面的监管会省很大力气。

我们现在也在和政府相关部门合作推进人工智能治理的公共服务平台。 [5]

知识分子： 人工智能是不是安全和人工智能是不是道德，有关系吗？

曾毅： 人工智能安全和人工智能伦理是两回事，但它们不是不相关的事。安全是AI伦理的一个必要属性。

技术风险会引起 社会 问题。举例来说，现在的深度神经网络做看似智能的信息处理，但经常会犯人不会犯的错误。去年11月，世界公众科学素质促进大会在北京举办的时候，一个做新冠病毒感染肺炎筛查的企业说他们的准确率已经超过了医生，完全可以替代医生。那时候还没轮到我发言，但我当时不得不打断，我说毕竟这是一个科学素养大会，做的是公众科普 （传达的信息要准确） 。人工智能永远不应该代替人类决策，说完全替代医生，这是完全错误的。因为现在的人工智能系统很容易造成误诊。比如一个皮肤癌筛查的系统，一个角度照手上的小包就是99.99%的可能性，换一个角度就检测不到。这种错误医生是不会犯的。人工智能说是99.99%的准确率，但一张图像加一点噪声，就可能被识别为其他东西。

有人说，识别错了又怎么样呢？我举一个例子，谷歌的3D物体识别系统，有80%的概率将一个3D打印的乌龟识别为一把来福枪，20%的概率识别为其他东西，但没有一次识别为乌龟。设想这样一个场景，10岁的小孩拿着一个3D打印的乌龟站在马路边上，但监控系统把它识别为10岁的小孩拿着一把来福枪站在马路边。如果有人刻意制造这样的事件，对于 社会 的治安将是很大的挑战。

又例如未来的自动驾驶无人车，如果被黑客操控了，如果 （被威胁方） 不交钱就直接开到悬崖下，甚至用于攻击 社会 ，这种风险都是技术本身的风险。

人工智能的风险要分等级，应当对应用紧迫、高风险的领域做合理的分级管理。例如自动驾驶的风险不仅仅在全自动驾驶的时候有，辅助驾驶时，如果视觉系统被攻击，检测不到图像，前面一片白，它就冲过去了。

最麻烦的事情不是技术解决不了这些问题，而是伦理意识的缺失。本来容易解决、可以防患于未然的事情没有人重视，在产品研发过程中没有解决，这才是现阶段我们最大的风险。所以为什么说号召大家把伦理原则嵌入整个产品的生命周期，就是这个意思。

知识分子： 企业对于这份建议书有什么样的反馈？

曾毅： 有一些企业会说，它似乎符合其中70-80%的原则，非常自豪。我就说，其实后面的20-30%才是最关键的。如果其中70-80%都不符合，可想而知你做的是一个什么样的产品。

如何去解决后20-30%的问题，我觉得是一个共同挑战。企业与学术界有距离，很可能不知道如何落地，或者有些问题现在大家考虑都比较少，就需要学界和业界共同努力。比如，大家都谈用户隐私，用户授权后，不满意了要撤销，不想用这个服务了，那么你得把我的数据删掉。在数据库里删掉用户数据很容易做到，但人工智能模型中，把用户的特征数据删掉，对于每个模型都很难。除非你重新训练人工智能模型。但对很多企业，重新训练要两个礼拜、一个月甚至半年才做一次，很难做到真正意义上的实时用户授权撤销。

真正可持续的发展，责任不光在政府，很多时候是一个生态共同体。按联合国规划，我们总共有不到十年时间实现这些可持续 （发展） 目标。如果仅仅是政府在推动，这个目标很难在十年内实现。

知识分子： 学界在开展人工智能研发活动时，需要注意什么？

曾毅： 一方面，我想纠正一个错误观念，认为在研究阶段不需要太多的限制。我觉得这是不对的。

例如做人脸识别算法，就算没有提供服务，收集了人脸来提升性能，是不是就不会有伦理问题？如果在研究阶段没有伦理考量，很容易因为利益引诱，成果或者副产品作用到 社会 ，产生负面影响。

另一方面，伦理的前瞻性研究，学术界一定要发挥引领作用。一方面是在人工智能服务中加入道德约束，使得它更符合伦理道德规范；另一方面，未来是否能开发真正能自主学习、理解人类伦理道德的人工智能，是非常重要的学术挑战。

仅有产业界的努力是完全不够的，甚至几乎没有产业在做这样的事情。

可持续发展和治理是深度协同的关系，既不是竞争，也不是平衡，就像DNA的双链结构，互为支撑，使结构相对稳定。实现发展和治理的深度协同，最终才能实现稳健的发展。学术界应当前瞻性地作出引领工作。中国和阿联酋的人工智能规范中比较强调可持续，其他国家的可能没有那么明显。

人工智能在实现过程中也会带来碳排放。现在人工智能在向大模型方向发展，能耗是非常高的。而产业在推进大模型研发的过程中，基本没有考虑碳排放的问题。人工智能本身的目的是去替代一些体力劳动，但如果替代过程中碳排放的成本还高于人力，负面作用很大，是否值得就是个问题。我们自己做了一个研究，叫做AI Carbon Efficiency Observatory [6] ，人工智能碳能效的观测站。把所有人工智能大模型的碳排放情况列出来，让大家去看一看。

此外，指南中提到的另一个要点是人工智能应该促进文化传承。当时其他的代表提出人工智能促进文化传承，我说，传承是保护，没有交互，它可以更进一步，不仅保护文化，还可以找到文化之间的联系，通过人工智能赋能文化交互。比如你对法隆寺这个传统的佛教寺庙比较熟悉，但不熟悉故宫，它们之间的关联实际上非常多。你喜欢敦煌，而敦煌的文化其实和来自世界其他国家的文化是非常相关的。文化交互引擎(Cultural Interactions Engine) [7]就是通过人工智能技术自动发现不同文化的景点和自然资源间存在着的关联。

参考资料：

[1]

[2]

[3]

[4]

[5]

[6]

[7]

制版编辑 | 卢卡斯