不过，法治网调查创造，部分APP供应的自动天生内容，存在涉嫌低俗、打色情擦边球，含有性暗示内容等征象，同时产品设计粗糙、平台监管不严、用户实名制落实不力等问题也较为突出。
AI天生内容涉嫌打色情擦边球
法治网在某运用小程序平台进行搜索创造，目前市场上存在多款以虚拟女友、虚拟恋爱、虚拟恋人、虚拟男友等为名称的APP，其以与虚拟数字人女友（男友）在线谈天、恋爱等为卖点，以天生式人工智能大模型为底层技能逻辑，供应情侣日常情景对话内容做事。
下载数款APP，通过微信登录后，便直接跳转到会员付费页面。商家供应的付款办法，分为终生、年付和月付等几种形式，用度大都在十几、几十元不等。付完费后，APP就会推举十几个AI女友形象，分为温顺、腹黑、高冷等多种类型。随意选择几款女友类型进行测试，创造对方除了会主动供应一些对话内容外，还基本上可以按照利用者的哀求，供应一些情侣间较为大略的日常谈天内容，个中带有涉嫌低俗、涉嫌打色情擦边球和性暗示的内容。
用户还可以根据各自喜好，自主创建设计女友形象。而创建的“AI女友”，没有任何年事、人群限定，审核流程也形同虚设，险些完备按照用户自己的设想自动天生干系AI形象，未成年人、老师、护士、空姐、御姐、高冷女性等，都成为“AI女友”的人物形象。
实名制和审核机制形同虚设
法治网调查创造，虽然部分APP明确标注产品适用年事阶层为18+，但实际上用户只需用手机和微信就可直接登录，不须要任何审核流程，也不须要实名制，一些未成年人同样可以登录利用。
除了平台注册和内容审核存在漏洞外，多款APP还存在雷同、抄袭征象，从外不雅观到名字千篇一律的虚拟数字人形象，在两款APP中同时涌现。在评论区，不少用户表示，APP制作粗糙，供应内容大略重复，并且频繁勾引消费者进行购买会员消费，但充值后却利用不畅。安插大量广告，勾引消费者进行消费。此外，由于对话内容涉及个人隐私，存在个人信息透露风险。
据统计，目前这几款APP下载安装次数最多的达220万人次旁边。
对人工智能产品应健全全生命周期监管
《法治日报》状师专家库成员、北京不雅观韬中茂（上海）状师事务所合资人、状师王渝伟表示，人工智能的发展应该遵照社会公序良俗，不能违反干系法律法规，同时应进一步提升平台的合规意识和水平，武断抵制低俗、色情擦边球、性暗示等内容。
王渝伟表示，一些开拓者或商家，通过低本钱运作开拓干系产品，一旦涌现问题或者面临监管风险，可能会通过金蝉脱壳的办法，将技能嫁接应用于其余一个类似产品的研发推广上，从而躲避监管和法律制裁，连续谋取利益。
而这须要干系部门连续加大司法监管力度。他建议，应进一步细化法律法规的履行细则，加强司法力度。同时，加强监管侧的监管力度，加强对产品设计、开拓、支配和运用等产品全生命周期的监管和合规培植。
北京师范大学法学院博士生导师、中国互联网协会研究中央副主任吴沈括认为，应进一步提升网络安全监测和相应机制。“对人工智能的监管，除了履行备案制度外，事前的伦理评估和安全评估，事中的风险监测和事后的应急相应，以及投诉举报机制也具有同样主要的意义。”吴沈括说。