AI每日摘要：2025年6月2日：大型语言模型面临审查，以及对“超级助手”的推动
AI领域今日热闹非凡，法律纠纷、宏伟目标和令人印象深刻的技术进步交织在一起。律师误用AI进行法律研究的持续事件仍在占据新闻头条，凸显了负责任地部署AI和进行用户教育的迫切需要。与此同时，研究人员正在突破多模态LLM的界限，开发新的基准来衡量其能力，并努力创造能无缝融入我们日常生活的AI助手。
The Verge报道了律师提交包含LLM（如ChatGPT）生成的虚假信息的法院文件这一反复出现的问题。这些事件虽然细节各异，但却揭示了一个持续的模式：律师依赖AI进行法律研究，但该技术倾向于“幻觉”——自信地将错误信息当作事实呈现——正导致严重的法律后果。这强调了用户仔细审查AI工具生成的信息并了解其局限性的重要性。简而言之，AI应该是一个强大的助手，而不是人类判断力的替代品，尤其是在法律诉讼等高风险场景中。这些事件持续发生的事实表明，在过度依赖LLM的潜在陷阱方面，缺乏足够的培训和意识。
在研究领域，两篇arXiv预印本突出了多模态LLM发展中的重大进展和挑战。“Open CaptchaWorld”介绍了一个新的基准，专门用于评估这些模型解决验证码的能力——这是网络代理面临的一个常见障碍。目前的最新模型，即使是像Browser-Use Openai-o3这样复杂的模型，也难以达到人类水平的性能，成功率远低于50%。这一基准是识别弱点和指导未来发展，推动更强大、更可靠的AI代理能够应对真实网络复杂性的关键一步。
另一篇预印本“Agent-X”提出了一个大型基准，重点评估视觉中心任务中的深度多模态推理。该基准包含跨越各种现实场景的828个代理任务，包括网页浏览、自动驾驶等等。“Agent-X”的独特贡献在于其细粒度的评估框架，不仅评估最终结果，还逐步评估推理过程。这种详细的评估使研究人员能够了解AI代理在哪里出错，并将精力集中在改进其推理能力的逻辑和连贯性上。这些进步是开发能够在现实世界应用中执行更复杂和细致任务的AI系统的必要步骤。
与此同时，第三篇arXiv论文“AdaHuman”揭示了一个新的框架，用于从单张图像生成高度详细的、可动画的3D人类化身。这一进步对游戏、动画和虚拟现实等各个领域具有重大意义，因为它提供了一种更有效、更有效的方法来创建逼真的3D角色。能够用最少的输入生成这样的化身，有望在多种媒体形式的开发方面取得重大飞跃。
最后，The Verge对OpenAI内部战略文件的报道揭示了该公司对ChatGPT的宏伟愿景：构建一个“AI超级助手”，它能够深入理解用户并充当他们与互联网的接口。这一愿景指向一个未来，在这个未来，AI将在我们的日常生活中扮演更重要的角色，提供对信息和服务的无缝访问。然而，法律问题和验证码基准所突显的当前挑战，凸显了实现这一愿景的复杂性以及仔细考虑伦理影响和强大的安全措施的必要性。通往真正有用和可靠的“超级助手”的道路仍然充满挑战，需要通过在这些关键领域进一步的研究和开发来解决。
本文内容主要参考以下来源整理而成：
Why do lawyers keep using ChatGPT? (The Verge AI)
Agent-X: Evaluating Deep Multimodal Reasoning in Vision-Centric Agentic Tasks (arXiv (cs.CL))
OpenAI wants ChatGPT to be a ‘super assistant’ for every part of your life (The Verge AI)