本文为国家市场监管总局主管、中国市场监管学会主办的国家A类核心期刊《中国市场监管研究》2024年6月人工智能特别策划专刊的“综述篇”，作者为中国市场监管学会副秘书长马吉军，原文标题为“拥抱新时代迎接新挑战——谈人工智能在市场监管领域的应用前景与风险挑战”，对人工智能在市场监管领域的应用前景和机遇以及带来的风险与挑战，进行了系统化、全方位的深度诠释与阐述，并就人工智能在市场监管行业发展从四个方面给出策略建议。
其业务分析之全面、场景探讨之深入，对前沿科技在行业的发展落地给出极具前瞻性阐述。可为观察作为在雄安召开的“人工智能在市场监管领域的应用与挑战研讨会”专题系列，分上下两篇分布，本篇为下篇。
人工智能给市场监管工作带来的风险和挑战
人工智能给市场监管工作带来的风险和挑战
AI换脸技术给登记注册工作带来风险
比较典型的是重庆市祁某在重庆市人民政府“渝快办”政务服务平台上通过换脸技术以他人的身份信息进行公司登记注册，违规办理了165家公司的营业执照。此类事件在2019年3月企业登记实行“实名制”、要求企业在设立时通过企业登记APP进行“人脸识别”认证后在全国多地时有发生。
AI换脸技术一方面会让人莫名其妙“被股东”“被法定代表人”，并产生负债、偷税、失信等严重法律风险；另一方面则可以被用于诈骗、洗钱等犯罪中，将对国家经济安全、市场环境安全造成威胁。
数字人直播给广告和网络交易监管带来挑战
在如今火热的网络直播中，一些直播营销机构为了降低用工成本而采用数字人直播的形式，而且已经出现了不少“网红”数字人、卡通形象数字人等，其中既涉及广告宣传问题，也涉及产品质量等网络交易问题；既涉及直播营销平台和直播间运营者，又涉及数字人背后的实际操控者、数字人服务机构和直播内容的提供者。
如果数字人在直播中进行虚假宣传或者售卖假货，责任由谁承担？如果明星、网红等知名人士授权直播营销机构使用其肖像、形象进行人格型数字人直播带货，是否需要承担责任？一系列新问题都在考验着市场监管人的智慧。
工智能迅猛发展给反垄断、反不正当竞争工作带来挑战
人工智能技术密集、投资大、创新性强，在数据、算力、基础模型、基础设施等方面都有较高门槛，这一行业特点决定了其本身就容易产生垄断或不正当竞争问题。美国的Magnificent 7（拥有垄断/寡头地位、定价能力、长期盈利能力的七大科技巨头：微软、谷歌、Meta、亚马逊、英伟达、苹果和特斯拉，总市值远超排名第二的我国A股市场）随着ChatGPT等一众生成式人工智能的出现，也都将AI视为研发重点，将大量资金押注于相关产业，从而出现了过于夸张的“霸市”级别集中度。
在我国，这一趋势也初现苗头，一些大型科技公司为扩大竞争优势、巩固其市场地位，难免通过投资和并购活动，以经营者集中的方式来弥补自身研发上的不足，从而实现快速扩张。这既可能导致市场垄断和技术垄断的产生，也可能因为扼杀式的收购阻碍人工智能在我国的创新发展。
但人工智能领域具有不同的技术特征，问题也非常复杂，特别是在国际激烈竞争的大背景下，如何确保我国人工智能产业的安全、快速发展，又能避免投资并购活动对创新的潜在遏制，确保初创企业公平参与市场竞争、推动产业技术创新，这对市场监管部门也是一种严峻的考验。
人工智能给消费者权益保护工作带来挑战
在电子商务领域，一些商家可能利用生成式人工智能技术通过伪造图片或视频的形式进行虚假宣传或误导消费者。如通过人工智能生成虚假评论或评分来提升商品的信誉度，从而诱导消费者购买，进而侵犯消费者知情权；还有一些企业为了降低成本和提高效率，过度依赖AI客服，但AI客服往往难以解答消费者复杂化、个性化的问题，甚至无法及时处理消费者的退货、退款等问题，从而导致消费者的服务体验下降。
此外，人工智能技术开始在自动驾驶、智能家装等具体场景中得到应用，关键的智能控制或决策系统如果出现问题，将会影响到消费者的人身财产安全。
由于人工智能自身原因，同样会引发一些风险
大模型是基于海量数据的无监督预训练而来，如果其预训练的数据库更新延迟，或者其学习的法律法规是已被废止的法律法规，那么，在利用其进行公文撰写或提供政务咨询服务时，它提供的信息或回答势必是过时或错误的；此外，其部分预训练是基于从互联网上搜集的数据，它输出的结果经常会受到偏见和不准确信息的影响。
因此，有的时候尽管大模型生成的内容逻辑清晰、语言流畅，但其合成内容在真实性、准确性等方面会存在问题，甚至会产生事实性错误、虚假性信息和常识性偏差等，要谨防“一本正经地胡说八道”。
同理，如果大模型预训练的医学影像资料不够多、数据质量不够高，则会导致误判、误诊情况的出现。因此，现阶段的人工智能只是起到辅助决策或参考的作用。
如何用好人工智能这把“双刃剑”
人工智能是一把“双刃剑”，既可保护，亦可伤害。如何用好人工智能这把“双刃剑”，是社会各界都在思考的一个话题。笔者认为，科技双刃，利弊共存；智慧抉择，方能前行。
在监管策略上，应对人工智能坚持包容审慎的监管政策
在目前新一轮科技革命和产业变革中，人工智能是引领未来的战略性技术，也是中美两国竞争的制高点。党中央、国务院高度重视人工智能发展，习近平总书记指出，把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量，努力实现高质量发展。中央经济工作会议也再次强调，要大力推进新型工业化，发展数字经济，加快推动人工智能发展。
作为科技兴国的关键基础设施和新质生产力的典型代表，人工智能具有很强的溢出带动效应，对经济、社会等各个领域的智能化升级形成关键支撑。但目前，我国的人工智能无论是在基础研究上，还是在技术应用上，距离美国还存在一定的差距。因此，在监管政策上，我国总体上还应坚持包容审慎的监管政策，鼓励生成式人工智能和大模型技术的创新发展。
在应用策略上，应在市场监管领域鼓励创新应用
目前，人工智能技术虽然在市场监管的少数应用场景中进行了探索和尝试，但应用推广十分有限，极大制约了智慧监管的实现和工作效率的提升。
一是要加强人工智能在市场监管领域的研究，积极探索人工智能在市场监管中的应用场景和实现方式，推动人工智能与市场监管的深度融合，为人工智能在市场监管中的应用提供理论支持和技术指导。
二是结合市场监管的具体工作场景或特定工作任务，创新合作机制，积极推动市场监管行业大模型或垂直大模型的研发，并通过强化大模型的预训练，使之更能适合市场监管工作的特殊需求。
三是积极拓展人工智能大模型的应用场景，将大模型应用于市场监管更多的领域，如将公平竞争审查大模型拓展到文件审查和合同审查中，将监测大模型拓展到价格监管、广告监管和网络监管中，以此推动大模型在实际应用中的不断优化和迭代。
在规制策略上，应加强前瞻性研究，以柔性指引为主
针对人工智能领域可能出现的安全、歧视和伦理等问题，欧美各国纷纷出台各项规定，加强立法规制，2024年3月，欧洲议会通过了《人工智能法案》。对此，国内纷纷呼吁加强人工智能的立法工作。笔者认为，当前的重点应该放在规制策略的前瞻性研究方面，而不应该马上出台专项法律。原因有三个：
一是近几年我国已陆续发布《新一代人工智能伦理规范》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法》等规章制度，已对相关紧迫性问题在不同规章中进行了规范；
二是人工智能目前还处在发展阶段，需要一个相对宽松的法制环境，对于规制人工智能的立法工作还为时过早，要慎之又慎；
三是人工智能从本质上说只是一种工具，在使用过程中出现的问题，大多还没有超出现有法律规范的范畴。
三是人工智能从本质上说只是一种工具，在使用过程中出现的问题，大多还没有超出现有法律规范的范畴。
在人才策略上，应加强人工智能专业人才和复合型人才的储备
目前，我国市场监管领域中具有人工智能专业知识的人才比较匮乏，极大限制了人工智能技术在市场监管领域的应用和推广，同时也不利于监管风险的技术防范和“以人工智能治理人工智能”治理策略的落实。
因此，一是要创新机制，积极引进人工智能专业人才；二是要加强人才培养，通过推动业务和技术人才的交流及培训，培养具有人工智能技术和市场监管知识的跨学科复合型人才，为人工智能在市场监管中的应用提供人才支撑。
参考文献：
1.中国人工智能学会：《中国人工智能系列白皮书——大模型技术(2023 版)》
2.孙凝晖：《人工智能与智能计算的发展》，中国人大网， http://www.npc.gov.cn/npc/c2/c30834/202404/t20240430_436915. html
