你好，我是王煜全，这里是王煜全要闻评论。
5月10日，《财富杂志》报道，美国一位拥有180万粉丝的女网红Caryn 用GPT-4创建了自己的数字分身，作为虚拟女友与1000多个付费会员进行一对一聊天，从简单的闲聊到一起制定未来计划，甚至进行更亲密的交流。
上线一周时间，她就获得了71610美元的收入，约合人民币49万元，Caryn说如果她的180万粉丝中有20000人订阅服务，预计每月能赚到500万美元。
是她和人工智能公司 合作开发的语音聊天机器人，通过分析Caryn曾经在发布的2000小时视频来训练，使用GPT-4构建了语言和个性引擎。
他们的官网介绍到，Caryn已被完美地克隆到AI中，使用她独特的声音、性格和行为，为用户带来一种动态的、独一无二的互动，感觉就像直接与Caryn本人交谈，并通过端到端加密确保聊天内容只属于用户个人。
也就是说，的声音和个性与人类Caryn非常接近，再加上个性化、私密化的聊天体验，这让她的粉丝们愿意每分钟花1美元来聊天。
其实，不是 的第一个产品，他们还制作了AI乔布斯、AI泰勒斯威夫特和AI特朗普等聊天机器人，也是按分钟付费，主要作为脱口秀节目中的噱头出现。
但是与其他AI化身不同，他们承诺与用户建立真正的情感纽带，就像电影《HER》中的AI女友一样，与用户建立长期的恋人关系。
如同Caryn所说，“无论你需要有人安慰或关爱，或者你只是想抱怨学校或工作中发生的事情，将永远在你身边。”这让它比 的其他产品更有吸引力。
有人评论说AI恋人将会有很大的市场需求，在7天内创造了7万美元的收益，也让千万网红们看到了一种新的创收模式。
而且，Caryn的出发点也是好的，她说当你的直播有数亿次观看量时，就不可能与每一位观众交谈，就可以做到，并且有潜力“治愈孤独”。
不过，需要注意的是，这还不是用AI变现的良性模式，因为高仿真的AI恋人有可能带来一系列伦理道德问题。
首先是聊天尺度问题，《财富》记者 说就像“更加亲密的Siri”，虽然它可以提供食谱、新闻评论和日常对话，但它也会在耳边低声说一些挑逗性的话语。
本质上说，这其实是吸引付费订阅的最大原因之一，面对尺度问题，Caryn说她和团队正在夜以继日地工作，以防止类似情况发生，并且计划任命一名首席道德官来约束聊天内容。
但是，即使从技术上屏蔽大尺度话题，AI恋人还会有其他伦理道德问题，比如AI女友是否需要遵守人类的“忠贞”观念。
电影《HER》中的有641个恋人，这给男主人公造成了巨大冲击，而现实中的已经有了1000个恋人，未来可能会更多。如果有更多同类产品出现，会对人们的“忠贞”观念造成什么影响尚未可知。
更需要考虑的是，这会对青少年的社交观念造成何种影响。进化生物学家、《人工亲密关系：虚拟朋友、数字恋人》一书的作者罗伯特·布鲁克斯博士说，与AI建立亲密关系可能会导致用户更喜欢人工关系而不是真实关系，尤其会影响正在学习社交和建立亲密关系的青春期人群。
就像现在人们聚会时都爱刷手机而不是对话一样，未来人们有可能更喜欢和AI聊天、谈恋爱而不是和真人聊天，这会让人与人之间的情感更加淡薄。
关于的道德问题，佐治亚理工学院研究生伦理项目主任Jason 博士说：“我只希望在技术发展太快之前，与利益相关者进行跨学科对话，对道德影响进行深入思考。”
其实，在此之前已经有了一些人工智能伦理规范，但是主要注重的是隐私保护、虚假信息、网络安全等人与技术之间的技术伦理问题。
比如，我曾在科技特训营介绍的“女性”机器人索菲娅，她在2017年被沙特授予公民身份，这一方面代表了对技术创新的认可，另一方面也代表了对AI的约束。
而像这种与人们情感生活密切相关的AI恋人产品，就更加需要建立行为约束和监测评估体系，因为他们可能会影响到人们的精神健康。
从技术的角度，我们一直强调现在是服务规模化的时代，这里的服务不是传统的用人提供的服务，而是基于人工智能的服务，可以提供大规模、个性化的高端服务。
在一定程度上验证了生成式AI技术已经完成基础调优，能够提供个性化、规模化服务，并展现了商业潜力，但是道德风险不容忽视，而且也不高端。
其实生成式AI技术的应用市场还很大，除了AI恋人这种有道德风险的应用，还有更多更有价值的应用，比如AI律师、AI医生、AI导师等等，核心是利用AI技术让更多人享受曾经得不到的专家级高品质服务，这才是AI创新创业的正途。
关于AI创新创业问题，我还会在5月20号的北京“科技特训营线下见面会”详细探讨。如果你也对AI技术的产业价值和创业前景感兴趣，欢迎报名参加，期待与你见面交流。
以上是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享。欢迎关注全球风口微信号，报名加入！
