9块9使用ChatGPT？揭开人工智能“圈套”背后的真相

目前AI服务非常火爆，给我们的工作和生活带来了很多方便。但也要小心陷阱。有些商家声称能够提供ChatGPT服务，但实际上是假AI;在视频通话中，熟悉的“亲友”其实是通过AI换脸模拟而成的;为了获取流量，一些人使用AI技术编造虚假谣言，导致流量变得“有毒”。

随着人工智能技术的不断发展和迭代，生成式AI正在以惊人的速度重新塑造着我们的日常生活。然而，这种技术的进步也带来了新的骗局和套路，让人们的风险防范意识受到了挑战。这些骗局和套路背后不仅仅关系到消费者的财产安全，还涉及到人身安全风险和隐患。例如，管理部门近期查处的AI相关案件，暴露了一些人工智能应用中存在的安全漏洞和风险。为了保护广大消费者的利益，管理部门正在加强对人工智能技术的监管和研究，加强技术应用的安全性和透明度，同时也提醒消费者保持警惕，避免被不良商家和应用欺骗。

近年来，随着人工智能产品ChatGPT的爆火，一些企业为了追求所谓的“无限钱景”，开始强行将其与自己的业务进行关联，从而在市场上涌现出了不少与ChatGPT“沾亲带故”的服务产品。这些产品通常是通过将ChatGPT作为自己的对话机器人或语音助手，来实现类似于客服或智能助手的功能。然而，这些企业并不一定真正理解ChatGPT的底层技术以及其局限性。ChatGPT虽然具备强大的自然语言处理和生成能力，但它的主要应用场景还是在文本生成和自然语言理解方面，因此在某些场景下，其表现并不如人意。而且，一些企业为了追求所谓的“效果”，忽略了ChatGPT的不足之处，甚至出现了夸大其功能的情况。上海市徐汇区市场监管部门在2023年2月对一家企业进行了调查，发现该企业在其网站和宣传材料中，夸大了其与ChatGPT的关系，并暗示其产品具有ChatGPT的全部功能。这种行为涉嫌违反了《中华人民共和国广告法》的规定，即广告应当真实、准确、合法，不得含有虚假或引人误解的内容。

这个头像与ChatGPT原开发公司官方标识高度相似的公众号，在用户短暂免费体验后即需注册会员付费使用，支付9.9元可以对话20次，随着对话次数增加，其收费也逐步提高。该公众号仅用两个月就吸纳超36万人的粉丝量，累计注册付费用户4231人，经营额共计125385.44元。

执法人员调查发现，该公众号的运营公司与实际ChatGPT开发公司并无关联。所谓“ChatGPT在线”也并非“ChatGPT”产品本身。“当事人为实现销售目的，使用类似图像、名称及服务简介等多种手段实施复合性混淆行为，利用‘ChatGPT’热点进行攀附，混淆真实情况，谋取交易机会，获取不当利益。”上海市徐汇区市场监督管理局执法稽查科副科长张琦说，当事人行为违反了《中华人民共和国反不正当竞争法》第六条第(四)项的规定，市场监管部门已责令其停止违法行为，处以罚款，并要求其妥善处置相关消费纠纷。

记者发现，“冒牌AI”的现象并不少见。2023年，百度“文心一言”上市前夕，网上出现大量打着“文心一言”旗号的社交媒体账号。随后百度官方发文辟谣称“文心一言”尚未注册社交账号。

“人工智能大模型开源生态的建立，让AI发展加速的同时也让生成式AI更容易被滥用。”中国行政法学研究会常务理事、华东政法大学教授沈福俊认为，考虑到立法的滞后性，监管部门还需更加关注新技术发展对市场端的影响，加大事前监管力度，充分运用现有的法律法规资源实施有效监管，切莫使新问题隐匿在“监管盲区”。

张琦先生也表示，消费者出于对新兴技术的的好奇，往往不自觉地陷入“圈套”。这种情况下，商家可能会利用AI技术来进行误导，甚至套取消费者的个人信息，给消费者带来潜在的安全风险。因此，张琦先生建议消费者在选择AI产品时一定要仔细甄别，避免被商家误导。如果购买了仿冒产品，应该保留好相应的产品购买凭证，并及时主动联系监管部门，维护自身的合法权益。