从“ChatGPT大火”到“AI诈骗”，思考人工智能对社会经济的影响

2022年11月30日，美国OpenAI发布聊天机器人程序ChatGPT（Chat Generative Pre-trained Transformer），在全球引起了巨大轰动，众多知名人士盛赞其带来的历史性革命，更令人惊叹的是，ChatGPT不单是聊天机器人，还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。人工智能作为新兴数字技术重要的发展方向之一，持续推动全球供应链产业链智能化、数字化、智慧化升级，在全球数字贸易中有着广泛的应用场景和巨大的潜力，但ChatGPT就像是打开了新的“潘多拉盒”，社会中对人工智能的负面声音也绝不能忽视，同时基于人工智能技术的“新型犯罪”模式悄然而生，2023年5月22日，“AI诈骗正在爆发”冲上微博热搜，一时间引起人们对“高端”骗局的巨大担忧。

一、ChatGPT“诞生”，潮水涌来

（一）社交媒体走红，用户规模迅速扩大

ChatGPT刚刚推出5天时间，注册用户数就超过100万，截止2023年1月底，ChatGPT的月活用户已突破1亿，成为史上增长最快的消费者应用。其强大的聊天互动、语言场景解析、情感表达等能力给用户带来了巨大的震撼，面对日常对话和复杂场景的提问，ChatGPT似乎都能给出近乎完美的答案，连马斯克都认为“我们离强大到危险的AI不远了”。基于大模型、大算力、大数据的ChatGPT，正不断进步并做出更多不可思议的事情，吸引越来越多的人参与其中，海量用户在网络聚集，就形成了流量市场，同时也会吸引资本蜂拥而至，伴随着资本的加持，未来人工智能走向何方仍未可知。

（二）融入更多行业领域，拓展全新产品

随着人们对ChatGPT认识的逐渐深入，在其他行业领域拓展出新的应用场景。2023年2月8日，微软宣布推出由ChatGPT支持的最新版本人工智能搜索引擎Bing（必应）和Edge浏览器，将人工智能的优势与信息检索的功能结合起来，推动搜索引擎便利化、精准化和智能化，给人们带来了全新的搜索引擎体验。跨境大卖吉宏股份将ChatGPT与人工智能选品、广告素材/广告语智能输出、广告智能投放、客服智能回复等方面融合应用，有效提升企业运营效率，有望进一步扩大产品市场占有规模。人工智能的持续进化将进一步提升企业智能化水平和拓展应用场景，适应数字贸易集约化、个性化的发展特征，将渗透至数字贸易更多领域。

（三）触发教育“双刃剑”，引发风险担忧

ChatGPT能够撰写邮件、视频脚本、文案、代码和论文等文本，代替学生完成作业、论文等，对ChatGPT的随意使用，可能会加剧引发教育领域的普遍抄袭、欺骗、作弊和依赖性等问题。美国纽约和西雅图的公立学校已经全面禁止学生使用这款AI。国内也已有多所公立学校宣布禁用ChatGPT，多家国内外期刊机构声明，暂不接受任何大型语言模型工具，也禁止将ChatGPT列为论文“合著者”。同时传统的抄袭检测软件无法识别作者是否使用ChatGPT，难以预防部分作者投机取巧，越来越多的程序员着手开发“检测本文是否由人工智能生成”的应用程序。

（四）引发“蝴蝶效应”，推动人工智能市场规模迅速扩大

ChatGPT的问世极大提振了全球人工智能行业的信心，人工智能行业迎来新一轮发展浪潮，IDC（国际数据公司，International Data Corporation）预测2022年全球人工智能市场将达到1017亿美元，同比增长约20%，并在短期内于2025年突破2000亿美元，全球市场规模实现翻倍增长。全球人工智能的突破性发展也为中国的人工智能行业点燃了引线，百度的“文心一言”、360集团的“360智脑”及AI生图工具“360鸿图”、科大讯飞的“讯飞星火认知大模型”等等，中国企业对人工智能技术的探索在不断进步，人工智能市场规模保持高速增长，德勤数据显示，预计2022年国内人工智能市场规模达到2678亿元，同比增长30%，未来2023-2025年仍将维持25%以上的增长速度，人工智能将为中国的经济社会发展带来深刻的影响。

图1 全球人工智能市场规模

数据来源：IDC，上海数字大脑研究院，中信建投。

图2 中国人工智能行业市场规模

数据来源：德勤，中信建投。

二、AI技术负面评价不断，市场迎来更多挑战

（一）ChatGPT访问受到限制，催生各种行业乱象

ChatGPT需要在OpenAI官网注册才能使用，而注册又需要国外手机号码和翻墙工具，大大提高了中国用户的使用门槛，但不少人好奇与ChatGPT智能的交互效果，随之而来的灰色“生意经”引发诸多安全风险。部分商家开始充当“二道贩子”为国内网民提供镜像服务，一旦涉及个人、企业等敏感信息，存在用户隐私泄露的风险。其次，“个人用现货秒发”“ChatGPT账号出租”等电商平台商品，“chat4.0-国内入口”“Gpt国内入口”等网页入口，“AI聊天写作机器人”“智能AI聊天机器人”等App，形形色色与ChatGPT相关的产品或内容在国内迅速铺开（PS：ChatGPT目前还没有国内版本，没有在中国大陆地区提供相关服务），但账号有可能完全无法使用或极度不稳定，网页、APP通过钓鱼链接盗窃个人信息，引诱消费者付费充值，用户往往出于好奇极易陷入骗局陷阱。同时，大量内容注水的ChatGPT相关课程在网上流传，部分商家围绕“破局”“变现”“掘金”等卖点，制造爆款话题，利用焦虑赚钱，成为商家“割韭菜”的工具。

（二）非法利用AI技术，“AI诈骗”频发

智能AI换脸和拟声技术广泛应用于短视频、广告、电影等领域，带来了不少的创意效果，但近段时间来，不法分子利用AI技术进行诈骗活动，严重侵犯了受害者的个人隐私和合法权益。包头市、温州市等多地警方发布AI诈骗案例，犯罪分子利用AI换脸、声音合成，通过视频、电话等方式进行信息确认实施诈骗活动，令受害者防不胜防，2023年5月24日，中国互联网协会公众号发文提示“AI换脸”新骗局，提醒广大公众提高警惕，加强防范。此外，部分电商卖家利用AI换脸冒充明星直播带货，达到了以假乱真的直播效果，但是此类AI换脸技术应用于直播带货，可能涉嫌双重侵权，同时消费者也受到误导和欺骗，维护直播行业的良性发展，相关监管部门和平台负有不可推卸的责任。

（三）信息获取途径产生依赖，可能陷入“信息茧房”

ChatGPT的成功推动生成式人工智能成为全球热点，生成式人工智能不仅存在知识产权与信息泄露问题，或也将塑造真正的信息茧房。当今社会，越来越多的人依赖网络，把自己局限在狭小的虚拟空间，人工智能通过对海量数据的验算和挖掘，依据个人偏好推出合适的信息，过滤掉个人不喜欢的、不认同的信息数据，长期以往下去，让个人失去了客观的判断和独立思考的能力，用户被算法圈住，受困于狭窄的信息视野，犹如存在于编织的“信息茧房”中。但随着技术的不断更新迭代和时间的推移，监管和法规体制建设不断完善，“信息茧房”也可能不攻自破。

三、AI技术受到各方关注，发展前景广阔

伴随着ChatGPT给全球社会带来的强烈震撼，AI技术发展按下加速键，不断突破的AI新技术带来更多应用场景的遐想，为数字经济数字贸易发展创造更多增长空间。

（一）政府持续出台政策，支持人工智能发展

我国政府高度重视人工智能行业发展，《2022年国务院政府工作报告》中提出，“加快发展工业互联网，培育壮大集成电路、人工智能等数字产业，提升关键软硬件技术创新和供给能力”，推动人工智能等数字技术研发突破和迭代应用，强化场景创新和应用，增强人工智能等数字产业的竞争力。此外，2017-2022年每年国家政府均会出台有关人工智能的政策，对人工智能的行业发展提出了明确的战略目标，分别从技术突破、人才培养、创新平台、伦理要求、场景应用等方面，形成了一套综合、系统的人工智能建设和发展的顶层设计，打造具有国际竞争力的数字产业集群。

表1 2017-2022年部分有关人工智能的国家政策

数据来源：网上整理得到。

（二）AI技术深度嵌入供应链体系，持续优化供应链环节

在人工智能的持续渗透下，传统的生产方式、流通体系与消费模式都在发生深刻变化，供应链体系正加速走向智能化。利用人工智能技术对历史数据进行分析和预测，对供应链各环节进行调度和协调，优化供应链运作，提高运作效率和响应速度。同时人工智能的应用加速供应链的数字化平台重构，推动企业信息同步、智能挖掘与应用场景创新，加速实现全链条的透明可视化与协同响应。未来，人工智能将会参与很多业务和环节，大部分应用程序将包含嵌入式人工智能功能，实现供应链的智能化管理，提高供应链的效率和准确性。

（三）加速与其他数字技术协同发展，AI应用场景不断拓展

随着AI技术的不断迭代演进，其应用深度和广度在不断扩大，与其他数字技术的融合应用也在逐步拓展。一是与物联网的融合应用，提升场景智能化水平，在AI技术加持下的物联网，能有效分析和挖掘设备数据，实现更智能化的控制和决策，如智能家居系统、智能交通系统等都是AI+物联网技术的成功应用案例。二是与大数据的融合应用，ChatGPT的成功问世便离不开大数据技术，大规模模型训练、海量数据共同成就了ChatGPT，通过人工智能的算法和模型，可以更好地处理和分析海量数据，挖掘价值信息和提供有效的决策依据。三是与AR/VR的融合应用，AI和AR/VR的场景应用能提供更加沉浸式和个性化的用户体验，为用户带来全方位的信息展示和更合适的产品推荐，提供具有真实感、科技感的虚拟环境和交互体验，如虚拟数字人借助AI和AR/VR技术，朝着多元化且广泛的应用方向发展，快速扩展到不同行业、不同场景。此外，人工智能与区块链、元宇宙等数字技术均有较好的融合应用前景，将可能实现在更广泛的领域实现更高级别的智能和创新。

（四）强化标准规范体系建设，约束人工智能发展方向

随着人工智能技术的持续创新发展，将前所未有的改变人们的生产生活方式，但同时也进一步放大和凸显了隐私泄露、 技术滥用、 价值渗透等科技伦理问题，未来需要强化人工智能行业的标准规范体系建设。当前数字时代背景下，个人信息泄露成为普遍现象，人工智能等新兴数字技术的广泛应用，在为用户提供便利化的情况下，降低了用户信息数据的搜集门槛，相关监管和立法应该紧跟新时代下的新情况，进一步明确数字技术应用的边界，提高对个人信息的保护力度，同时针对语音、视频等合成技术的研发和使用，企业也应该进守住技术伦理底线，相关行业和监管部门有必要进一步细化人工智能技术的行业规范。此外，国家出台了针对人工智能行业的有关管理规定，如《互联网信息服务深度合成管理规定》《互联网直播服务管理规定》《关于规范和加强人工智能司法应用的意见》等文件，持续完善互联网信息服务管理制度和人工智能司法应用规定，但仍需要有关部门加强执法力度，及时追究其法律责任，深挖背后的黑色产业链，从源头打击AI诈骗。

四、思考AI技术在跨境电商领域的应用

以ChatGPT为代表新一代的人工智能技术在逐渐崛起，自然语言生成模型的强大功能在许多行业均有较好的应用，跨境电商作为数字时代的产物，其未来发展方向与新兴数字技术密不可分，跨境电商企业正尝试接入ChatGPT技术，利用ChatGPT工具优化业务流程，拓展人工智能在跨境电商领域内的更多应用场景。

AI技术嵌入数据挖掘，提升数据分析效率。AI技术与数据挖掘的融合应用极大提高了海量数据的输入和输出效率，电子商务是一种与互联网紧密集成的商业模式，跨境电商更是涉及到国内外市场主体，其数据规模庞大，数据挖掘工作量较大，通过AI技术加持，将主动收集信息平台数据，快速分析消费者购买动机、产品优缺点、客户期望、使用场景以及构建用户画像等内容，有效提升企业产品“亮点”，准确把握国际市场突破点，开拓“蓝海”市场。未来，基于AI技术的高效率的市场、产品、用户分析，将加快产品迭代升级速率，提升消费者线上购物体验，但同时也可能加剧跨境电商行业竞争。

生成式AI功能强大，衍生更多智能交互场景。以ChatGPT为代表的生成式AI能比较准确的回答消费者的问题，并听取意见和优化答案，在与消费者多轮对话的过程中，理解上下文关联，全天24小时为消费者提供咨询服务保障，同时也可以为境外不同语言文化下的消费者提供无语言障碍的客服咨询服务。其次，基于AI+VR/AR技术的融合应用，塑造符合消费者个性化需求的智能虚拟场景，创造具有独特个性的虚拟数字人，赋予品牌更具吸引力、更具新鲜感的热门元素，为消费者带来全新的智能化交互体验。

融入更多业务流程，降低跨境电商准入门槛。通过人工智能不断学习的属性，AI能够赋能选品、素材制作、广告投放、翻译等业务环节，帮助卖家完成产品分析、撰写标题关键词和产品描述、协助处理生成图画视频、草拟邮件邀请函、低代码编程等活动，在法律法规咨询、客户群体综合开发营销、客户权益保障和服务、产品设计和文化融合、订单处理，甚至在细小的语言翻译和客户交流方面都有着非常直接的推动作用，极大降低了跨境电商技术门槛和运营成本。

技术本身并没有善恶，只是人性的放大器，正确看待和认识新技术，把握机遇和应对挑战的双向思考，才能促进数字经济的良性发展。同时伴随着人工智能技术的迭代升级，人工智能的内涵已经大大扩展，正成为新一轮科技革命的重要驱动力量，并加速与各行各业深度融合，成为经济结构转型升级的新支点，也将为跨境电商行业带来富有深刻且革命性的影响。

编校：毛瑞娟

审核：王小艳