负责任地利用人工智能需要广泛的监管框架

浙江梅农
作者: 浙江梅农, CISA, CISM, CDPSE
发表日期: 2024年2月21日

机器学习和人工智能技术塑造了我们当前的时代, 重要的是要注意,在该领域迫切需要监管干预. 这并不奇怪,尽管人工智能领域应该为人类问题的进步“做好事”, 所有的技术创新都有缺点. 虽然目前有几个人工智能系统的风险很小,但需要对它们进行评估. 世界各地已经起草和发布了几项法规/法案,以针对该技术的潜在风险.

而欧盟人工智能法案是最早起草的法规之一, 世界其他地方, 包括中国和美国, 是不是落后太多了. 欧盟人工智能法案的目标是管理与执法相关的系统风险, 教育和移民方面的规定,旨在对它们进行评估,然后再投入市场使用. 如果看看监管方面的影响, 不遵守规定的公司将被处以年营业额6%的罚款. 近20-25%的全球人工智能市场来自欧盟地区, 因此欧盟人工智能法案不容忽视.

监管干预有助于人工智能系统及其对公众的影响,原因有很多. 首先,需要监管来保护用户及其数据的隐私. 对于数据量大的算法来说尤其如此,有可能消除偏见和歧视. 监管框架需要强制执行不故意注入偏见的机制,并确保消除自然发生的偏见. 还有人权和安全问题, 在哪里可以避免深度造假或不传播错误信息. 最后, 人工智能主导的发展不能垄断和偏袒某些澳门赌场官方下载,而忽视了大多数人的数据不用于训练算法.

随着监管干预的传奇开始, 世界各国政府需要合作,建立广泛的监管框架. 在开发机器学习技术和算法方面,也迫切需要教育和知识共享. 在当前环境下, 关于欧盟人工智能法案, 没有基础LLM(大型语言模型)符合其条款. 中国的监管侧重于内容控制,而不是过于关注风险. 这些框架需要具有包容性和适应性,并需要不时更新.

此外,我们知道法规、法案和法律往往不能适应不断变化的技术. 机器学习和人工智能是一个快速发展的领域, 新技术和新应用的出现速度比你想象的要快. 新的挑战, 风险和机遇不断涌现, 我们需要保持足够的敏捷/灵活来处理它们. 对于管理机构来说,跟上发展和管理尖端技术可能是一项挑战. 随着人工智能监管框架的不断发展,这一点需要考虑在内.

编者按: 想要进一步了解这个话题,请阅读浙江梅农最近在《澳门赌场官方软件》上发表的文章, 新人工智能法规的潜在影响, ISACA杂志,第1卷,2024.

ISACA杂志

额外的资源