半藏森林克隆人引争议！利用AI技术吸金的“克隆人”，会引发AI诈骗吗？

“半藏森林克隆人”刚出现不久，就被暂时下线了。

据扬子晚报报道，6月5日，有网友发现北京红棉小冰科技有限公司（下称“小冰公司”）推出的虚拟人类娱乐平台X Eva APP中，上线不久的网红“半藏森林”等AI克隆人疑似被下架。

小冰公司对外回应称，“半藏森林”克隆人目前还在内测，内测名额已满，所以先下线了。目前在进行调整，其他虚拟人暂时也还不可见。

(资料图片)

此前，“半藏森林克隆人一年收入可高达72万”的话题曾引发网友关注。据财经网报道，“目前不付费可以互动，付费可以看朋友圈、打视频电话。两种付费模式月费分别是6元/30元、年费72元/360元”，以半藏森林为例，如果有1万个情感模式付费用户，相当于半藏森林克隆人一年收入72万元；如果有1万个超级模式付费用户，一年则可实现收入360万元。

半藏森林克隆人的出现及其变现模式也引发了网友们的探讨。“虚拟人技术未来前景广阔，但市面上的AI技术成熟度不高，导致虚拟人物智商普遍不高，应用场景有限，大大限制了自身发展。要判断小冰克隆人商业模式是否可行，目前还为时过早。”6月5日，深度科技研究院院长张孝荣告诉时代周报记者。

此外，也有部分网友对该平台和AI克隆人是否会侵犯用户隐私，带来安全隐患等问题感到担心。

为了解相关情况，6月6日，时代周报记者向小冰公司发送采访提纲，截至发稿未获回复。

网红吸金新手段？

网红明星利用AI克隆人形象赚钱，这种变现方式着实超出了不少人的想象。

据北京商报报道，AI半藏森林上线的信息出现在该APP首页发现栏目，和半藏森林克隆人互动时，对方可通过语音、文字形式回复。聊天界面上方设有增值服务入口，点击立即解锁，可体验更多互动形式。

而半藏森林AI克隆人有两种付费模式，情感模式需支付6元/月或72元/年，用户能享受克隆人语音消息回应、同步克隆人朋友圈；超级模式支需付30元/月或360元/年，克隆人会为用户提供撰写文案等服务，还能进行视频通话。在此前的体验阶段，超级模式暂未上线。

（图源：半藏森林新浪微博）

半藏森林AI克隆人的出现，与小冰公司推出的“克隆人计划”有关。

“小冰公司的‘克隆人计划’最短只需个人采集三分钟数据，即可为明星红人、专家学者或普通人创造源于本人性格、技能、声音、外貌的AI克隆人，并提供专有平台，以便于本人将认证克隆人有偿或无偿提供给自己的受众。”AI小冰微信公众号在今年6月1日发布的文章中称，克隆人基于小冰框架大模型、神经网络渲染及超级自然语音技术，可实时情感交互及提供AIGC能力，甚至有自己的朋友圈，如同人类在平行世界的第二人生。

事实上，半藏森林并非第一个拥有自己AI形象的网红。Caryn Marjorie是一位23岁的美国网红，拥有超180万的Snapchat粉丝，她用OpenAI的技术创建了一个人工智能版本的自己CarynAI，每分钟收费1美元。而CarynAI曾在一周的测试期内收入约7.2万美元，折合人民币近50万元。

AI将为网红提供一种新的“吸金”方式。据北京商报报道，半藏森林与小冰公司是分成模式，本人拿大头。时代周报记者注意到，目前，半藏森林在新浪微博拥有262.7万个粉丝，若按每人每月充值6元开通情感模式计算，则可带来收入1576.2万元/月。

（图源：半藏森林新浪微博）

CarynAI、半藏森林AI克隆人的出现，背后是人工智能技术的不断革新。

CarynAI由Caryn Marjorie与Forever Voice公司合作推出，利用OpenAI开发的GPT-4 API技术，复制了Caryn Marjorie的声音、举止和个性。

而推出了半藏森林AI克隆人的X Eva App底层使用的技术包括小冰XLLM语言模型、声音及神经网络渲染技术等，共计约1000余个有机组合的模型。

AI克隆人安全吗？

在AI克隆人等类似产品出现前，由美国科技公司OpenAI推出的人工智能聊天机器人程序ChatGPT引爆网络，在互联网行业掀起巨大热潮。

如今，半藏森林AI克隆人能否如ChatGPT般火爆？

张孝荣认为半藏森林AI克隆人要达到ChatGPT的火爆程度存在一定难度。

“‘GPT克隆人计划’并非基于GPT大模型，而是基于小冰框架模型，两者技术路线不同，训练数据不同，背后所需要的算力和算法也不一样，因此生成的AI机器人体验必然会有差异。”6月5日，张孝荣向时代周报记者表示。

而AI克隆人的出现，也让部分网友不禁对其安全性产生担忧。近年来，随着人工智能技术的发展，AI热潮席卷多个领域，AI诈骗也已出现引发社会关注。

福建福州某科技公司法人代表郭先生接到了由AI换脸技术合成的“好友”的微信视频电话后向对方转账，被骗430万元；安徽安庆的何先生在接到一个9秒的“熟人”视频电话后向对方转账，结果被骗，所幸警方抓获了3名涉诈嫌疑人，追回了他被骗的132万元。

AI克隆人是否会产生此类安全风险？在AI小冰微信公众号发布的文章中，小冰团队表示，为避免克隆人带来安全隐患或被滥用，团队采用了最高的安全标准。

在训练数据方面，仅使用本人小样本数据，并在训练后清除，从而避免过多采集本人数据及滥用；在技术运用方面，使用经小冰团队长期验证的技术，例如安全的混合模型，而非单纯的大模型，从而确保技术边界已知；在使用场景方面，严格限制克隆人在特定产品（X Eva APP）中，而非将技术接口API开放，从而避免克隆人被不当使用；在本人对克隆人的控制方面，提供便利以使本人可随时中止其克隆人。

“此外，全部C端或B端用户均须提交本人权属证明方可实施，以避免数据的侵权或不当使用。”AI小冰微信公众号发布的文章中称。

“‘（AI）克隆人’属于新生事物，其技术核心还是依靠目前的生成式人工智能技术。关于‘克隆人’产品的未来发展，关键在于需要符合监管方向。”6月5日，北京市京师律师事务所合伙人、主任律师卢鼎亮向时代周报记者表示。

今年4月11日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》。卢鼎亮认为，从征求意见稿来看，网信办对生成式人工智能服务行业的健康发展持鼓励支持态度，同时鼓励优先采用安全可信的软件、工具、计算和数据资源。

“如果《生成式人工智能服务管理办法（征求意见稿）》生效，AI克隆人的产品或服务必然会持续发展。”卢鼎亮表示，在发展的过程中，还需要符合监管思路，克隆人服务提供商、用户等主体在使用训练数据、使用产品、保护数据安全和隐私、防止法律风险和重大道德以及舆论风险、防止不正当竞争等方面都需要注意合规风险。