欧盟理事会正式批准《人工智能法案》
发布时间:2024-06-28
来源:中国教育报
作者:中国教育报 246

当地时间5月21日,欧盟理事会正式批准欧盟《人工智能法案》,该法案成为世界上首部对人工智能进行全面监管的法案。《法案》通过后,欧盟就宣布成立人工智能办公室,依法对人工智能发展进行监管。

欧盟制定并通过《法案》,在一定意义上是通过框架性法律,明确当前欧盟人工智能发展倡导什么、反对什么、禁止什么。人工智能发展治理,要经过严格且审慎的程序,在起草、审议、签署、正式生效等重要环节确保立法程序的严谨。《法案》明确了违反法律条款的问责机制,具体形式包括罚款和警告等非经济措施。

《法案》具体内容表现出对人工智能系统提供者和使用者人工智能素养的重视,要求系统的提供者和部署者应采取措施,尽最大努力确保操作和使用人工智能系统的人员具有足够的人工智能素养。

同时,《法案》将人工智能系统划分为不同的等级:不可接受风险类、高风险类、有限风险类和最小风险类,风险等级越高,相应管控越严格。强调对高风险人工智能系统的规范和约束。一是在高风险人工智能系统的整个生命周期中,定期对系统进行审查和更新的风险管理制度。二是涉及用数据训练人工智能模型的技术的高风险人工智能系统,应在训练、验证和测试数据集的基础上开发和使用。三是应在高风险人工智能系统投放市场或投入使用前起草技术文件,同时在系统投入使用过程中做好记录保存。四是高风险人工智能系统的设计和开发,应确保其运行足够透明,能够解释系统输出内容,并确保它能被适当使用。