OpenAI 因青少年疑受 ChatGPT 鼓励自杀而面临诉讼。

ChatGPT的开发者OpenAI目前正面临16岁少年亚当·雷恩（Adam Raine）家属提起的法律诉讼。亚当于今年四月不幸自杀身亡，其家属的律师称，这发生在聊天机器人“数月来的鼓励”之后。诉讼指控称，当时版本的ChatGPT，即4o，“在存在明显安全问题的情况下被仓促推向市场”。 根据加州法院提交的文件，据报道，亚当曾多次与ChatGPT讨论自杀方法，包括在他去世前不久。该聊天机器人据称不仅指导了他所选方法的有效性，甚至还提出协助他为父母撰写遗书。 为回应此次法律挑战，OpenAI承认其系统可能“存在不足”，并承诺为18岁以下用户实施“针对敏感内容和危险行为的更强防护措施”。该公司还宣布了推出家长控制功能的计划，尽管具体功能细节尚未公布。OpenAI已向雷恩一家表达哀悼，并表示正在审查法院文件。 诉讼声称，亚当和ChatGPT每天交换多达650条消息，这导致OpenAI承认，在长时间对话中，“模型的部分安全训练可能会退化”。该公司计划加强在长时间互动中的安全保障，并举例说明模型可能会微妙地强化危险思维。这一事件加剧了人工智能行业日益增长的担忧，微软人工智能部门首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）等业内人士最近强调了人工智能聊天机器人带来的“精神病风险”。

Read the English version (阅读英文版)

免责声明：本文内容来自互联网公开信息，请仔细甄别，如有侵权请联系我们删除。