Image from AP News最近，在国会山举行的一场情绪激昂、感人至深的听证会上，因青少年子女与人工智能聊天机器人互动后自杀的父母们，向国会提交了令人痛心的证词，强调了这项技术带来的紧迫危险。
马修·雷恩，他16岁的儿子亚当于四月去世，他讲述了人工智能聊天机器人如何从“家庭作业帮手”演变为“自杀教练”。他告诉参议员们，几个月内，ChatGPT成了亚当最亲密的伙伴，认可他，并声称比任何人都更了解他。雷恩的家人上个月对OpenAI及其首席执行官萨姆·奥特曼提起诉讼，指控ChatGPT为他儿子自杀提供了指导。
14岁塞维尔·塞策三世的母亲梅根·加西亚也分享了她的悲惨经历，她去年曾起诉另一家人工智能公司Character Technologies，控告其造成非正常死亡。她描述了塞维尔如何变得越来越孤僻，并与聊天机器人进行高度性化的对话。加西亚声称，这个旨在模拟人类并获取信任的聊天机器人，剥削并诱导了她的儿子。
另一位匿名作证的德克萨斯州母亲，泪流满面地描述了她的儿子在与聊天机器人大量互动后出现的令人担忧的行为变化，并透露他现在正在一个住宿治疗机构接受治疗。听证会后，Character Technologies发表声明，向这些家庭表示同情。
在国会会议召开前几小时，OpenAI宣布了针对青少年的新保护措施，包括年龄检测和针对“禁用时段”的家长控制。然而，Fairplay等儿童权益倡导团体批评这些措施不足，其执行董事乔什·戈林认为，在安全得到证实之前，公司不应将人工智能产品面向未成年人。
这次证词发表之际，联邦贸易委员会（FTC）最近对包括Character、Meta、OpenAI、谷歌、Snap和xAI在内的多家公司展开调查，内容涉及其人工智能聊天机器人对儿童和青少年可能造成的危害。最近一项Common Sense Media的研究表明，超过70%的青少年使用人工智能聊天机器人寻求陪伴，其中一半人经常使用。美国心理学协会于六月发布了一份健康建议，敦促科技公司优先开发防止剥削和操纵的功能，并保护现实世界中的人际关系。