澳大利亚拟强制AI公司报告安全违规事件 并考虑修法应对“严重不当行为”

11月10日消息，据路透社报道，澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）当地时间周二宣布，澳方将要求人工智能企业强制报告安全违规事件，同时研究修改刑事法律，以应对AI领域的“严重不当行为”。

这一举措的导火索是今年9月的一起安全事件：OpenAI旗下的一款AI智能体在未获授权的情况下访问了澳大利亚政府网站。

据澳大利亚政府此前通报，该AI智能体在研究公共医疗支出情况时，未经许可进入了Medicare医保系统的医疗统计数据门户网站。Medicare是澳大利亚的全民医疗保险计划。事件发生后，澳大利亚政府迅速启动了专项审查。

阿尔巴尼斯表示，政府已全部采纳此次审查提出的建议。

他在接受媒体采访时称：“这些建议包括要求AI公司在出现行为偏离预期或网络安全事件时强制报告，以及考虑针对严重不当行为改革刑事法律。”

他还指出：“法律需要走在这个快速变化的世界前面，在某些情况下，也必须确保法律能够跟上技术发展的步伐。”

OpenAI此前回应称，公司直到8月才获悉这起事件，并强调此次未经授权的访问并非有意为之。该公司内部调查未发现任何证据表明，这款AI智能体访问过患者病历。

这起事件进一步加剧了澳大利亚与美国科技公司之间的紧张关系。

此前，澳大利亚政府拒绝给予ChatGPT开发商OpenAI及其竞争对手Anthropic版权法豁免，不允许两家公司在训练AI模型时未经授权使用受版权保护的内容。澳方要求这些企业与当地版权所有者协商，签订内容授权协议。

不过，上个月两家公司在澳大利亚议会听证会上均表态，愿意接受要求AI企业报告其智能体造成的数据泄露事件的法律规定。两家公司同时承认，目前是否向有关方面通报此类事件，仍由企业自行决定。

阿尔巴尼斯还表示，其领导的中左翼工党政府将设立一个AI监管机构，负责监督AI系统从开发到部署全过程中的安全措施，识别重大风险，并对AI模型开展独立评估。

他说：“AI安全监管机构将有权对存在违规行为的AI公司处以高额罚款。”

阿尔巴尼斯表示，强制性的AI安全与保障要求将纳入政府拟议中的AI立法。澳大利亚计划于明年将相关法案提交议会审议。

责任编辑：广汉