Character.AI 因违规被意大利罚15.8万欧

意大利数据保护局于当地时间7月9日宣布，对运营生成式人工智能服务的美国公司Character Technologies处以15.8万欧元（约合人民币122.8万元）的罚款。此次处罚针对的是Character.AI平台在数据保护和未成年人保护方面的多项违规行为。

Character.AI是一个允许用户通过聊天创建虚拟角色并与之互动的平台。然而，在去年末之前，该平台并未有效阻止未成年人使用其开放式聊天功能。意大利数据保护局指出，Character Technologies存在以下主要问题：提供的信息存在缺陷、数据保护影响评估出现延误、未能及时指定欧盟代表；此外，企业在未成年人保护措施和年龄核实程序方面也存在关键漏洞。

根据意大利监管机构的要求，Character Technologies必须采取一系列整改措施，包括确保年龄验证系统的正确运行、建立防止被封禁未成年人再次尝试注册的机制，以及默认将未成年人的个人资料设置为私密模式。

这一事件引发了业界对生成式AI平台数据安全和未成年人保护的关注。专家指出，随着AI技术的快速发展，如何平衡技术创新与合规性成为行业亟待解决的问题。特别是对于涉及未成年人使用的AI服务，平台需要建立更严格的身份验证和内容过滤机制，以防止不当内容的传播和未成年人的潜在风险。

目前，Character.AI尚未就此次处罚发表公开声明。但业内普遍认为，此次罚款不仅会对该公司造成直接的经济损失，还可能对其品牌形象和市场信任度产生长期影响。

"这起事件凸显了AI平台在数据保护和未成年人保护方面的责任。"一位科技政策专家表示，"随着AI技术的普及，各国监管机构可能会出台更严格的法规，要求企业在开发和运营AI服务时充分考虑隐私保护和未成年人权益。"

图片展示了Character.AI平台的最新界面，显示了三个不同的虚拟角色形象。这些角色设计精美，具有鲜明的个性特征，反映了该平台在虚拟角色创建方面的技术能力。然而，正是这种强大的交互功能，使得平台在未成年人保护方面面临更大的挑战。

业内人士建议，AI平台应主动加强合规建设，包括但不限于：建立完善的数据保护机制、实施有效的未成年人身份验证流程、设置内容过滤系统，以及定期进行数据保护影响评估。同时，企业还应积极与监管机构沟通，确保产品和服务符合当地法律法规要求。