Meta AI 新功能上线，青少年自杀预警系统自动通知家长

近日，社交媒体巨头 Meta 宣布在其人工智能聊天机器人 Meta AI 中上线一项重要新功能——青少年自杀预警系统。根，如果青少年在与 Meta AI 对话中提及自杀或自残相关内容，系统将自动向其父母发送警报。

这项新功能是 Meta 在青少年心理健康保护方面迈出的重要一步。Meta 表示，已经开发出专门的 AI 系统，用于识别青少年明确提到自我伤害的对话。为了确保准确性，Meta 还引入了人工审核机制：AI 标记的每段对话都会先由人工复核，再决定是否发出警报。Meta 强调，在识别能力尚未完全成熟的情况下，采取更谨慎的标准是必要的，"宁可错报，不可漏报"。

值得注意的是，Meta 的这项新功能不仅限于识别文字内容，还将扩展到语音对话。此外，Meta 还计划为家长提供更全面的监控工具。启用后，家长可以查看青少年过去一周内与 Meta AI 讨论的所有话题，并且可以设置更严格的内容限制，防止青少年接触到敏感信息。

Meta 的这一举措并非首次尝试。此前，Instagram 已经支持在青少年反复搜索自杀或自残词语时通知家长。而此次 Meta AI 上线的新功能，则进一步扩大了预警范围，将可能存在的风险信号前置到聊天过程中。

除了自动通知家长外，Meta 还建立了紧急求助机制。如果对话显示用户可能即将自杀，Meta 将直接联系紧急服务机构进行干预。这项措施适用于所有年龄段用户，但特别针对青少年群体进行了优化。

目前，这项新功能已经在北美地区的 Instagram 家长监督功能中上线，预计今年年底前将推广至全球。Meta 表示，这项功能的推出需要平衡多个因素：既要保护青少年的安全，又要避免给家长带来不必要的困扰。为此，Meta 承诺将持续观察实际效果，并根据反馈调整预警标准。

Meta 的这一系列举措引发了广泛讨论。支持者认为这是科技公司履行社会责任的重要表现，能够及时发现潜在风险并采取行动；反对者则担忧隐私问题，认为过度监控可能会影响青少年的正常交流。

无论如何，Meta 的这一创新尝试标志着科技公司在青少年心理健康保护领域迈出了重要一步。随着人工智能技术的不断发展，类似的预防性措施可能会成为行业标准，为青少年的健康成长提供更多保障。