Algorithmic Bias

加州医疗AI：创新、公平与安全并重

加州立法者正在努力应对人工智能（AI）在医疗保健领域的变革潜力及其固有风险。最近，州众议院健康与隐私以及消费者保护委员会联合举行了听证会，强调了迫切需要应对这项快速发展技术带来的伦理和实践挑战。

此次听证会由几项目前正在立法机构审议的法案促成，重点关注人工智能在医学研究、行政管理甚至直接患者护理中日益增长的作用。众议员米娅·邦塔（Mia Bonta）（D-阿拉米达）强调需要谨慎乐观，承认人们对人工智能潜力的兴奋之情，同时强调负责任地开发和部署人工智能的关键需求。

隐私和消费者保护委员会主席、众议员丽贝卡·鲍尔-卡汉（Rebecca Bauer-Kahan）（D-卡斯特罗谷）提出的担忧集中在人工智能可能加剧现有健康不平等方面。她强调，基于有偏见的数据训练的人工智能系统可能会延续甚至加剧歧视，导致某些人群遭受不公平且可能是有害的结果。

来自医生、研究人员和数据分析师的证词揭示了这种偏见的惊人例子。加州大学伯克利分校的齐亚德·奥伯迈耶（Ziad Obermeyer）博士分享的研究表明，旨在识别高危患者的算法无意中优先考虑了成本削减，有效地忽视了服务不足的社区。

听证会讨论了几个关键挑战：减轻人工智能模型中的种族、民族和性别偏见；确保安全性和有效性；解决成本和可负担性问题；以及建立问责制治理。解决这些问题的具体立法努力包括：

* **SB 503：** 要求对医疗保健中使用的人工智能模型进行偏差测试，以确保公平对待。

* **AB 3030：** 要求披露在患者沟通中使用人工智能的情况。

* **AB 489：** 防止人工智能系统将自己伪装成医疗保健专业人员。

* **AB 1064（LEAD法案）：** 为用于或针对儿童的人工智能系统建立监督，优先考虑安全和隐私。

这些立法行动反映了在利用人工智能潜力的同时减轻其风险的承诺。正如立法者所述，目标是指导加州的人工智能发展，使其未来能够在道德和安全地改善所有人的医疗保健获取和结果。

免责声明：本文内容来自互联网公开信息，请仔细甄别，如有侵权请联系我们删除。