首页 云计算

AI热潮下,董事会和CEO必须能够全面洞悉AI

AI已经成为我们日常生活的一部分,这一点你无法否认。几乎来自所有不同行业的财富1000强企业领导者,都在积极开展AI计划。大中型全球企业都在加速创新,利用AI的诱人前景提高收入、增加利润、并在产品和服务产品中发现新的价值。

尽管AI的发展迅速,但董事会和CEO们在AI语言素养和风险管理实践方面仍然远远落后。AI的崛起就像是一场暴风雨,一场完美的风暴可能正在酝酿之中,但很少有董事会和CEO能回答这个问题:你的AI算法和AI模型位于何处,AI算法或者模型是否存在风险?

AI的发展是迅猛的:2020年7月初发布的最新全球研究报告指出,AI市场的复合年增长率超过42%,在美国AI市场规模超过7337亿美元。根据麻省理工学院斯隆研究中心(MIT Sloan Research)的说法,超过90%的大型企业正在利用AI改善他们的客户交互旅程。AI创业投资的增长让人想起了互联网时代的牛市,但你可能还记得,2002年3月牛市下跌了76%,这唤醒了人们对价值实现和盈利能力重要性的觉醒。

根据CBI Insights的数据,2019年AI初创公司总共募集了266亿美金,涉及全球2200多笔交易,尽管遭遇了疫情,但医疗应急和智能机器、医疗机器人等变革性技术,正在迅速兴起成为帮助应对疫情的AI解决方案。

平均而言,到2022年,高级分析方面的投资将超过整体市场预算的11%。随着企业组织将AI和机器学习工具纳入他们的业务流程,到2025年,AI软件相关支出将达到1250亿美元。

你可能会认为,董事会和CEO们可以轻松地了解他们所有的AI算法和AI模型位于何处,非常清楚各种风险状况,并且能够通过清晰的KPI和ROI来证明价值的实现。

遗憾的是,很多企业被采用黑盒AI实践的AI计划吸引,这就意味着没有清晰的问责制,是不透明的,更不用说审计风险了。董事会董事和CEO们知道他们的员工身处何方(无论是远程办公还是在办公室),知道应该联系谁来解决客户服务或个人问题。

但是,恐怕没有一家跨国企业的董事会或者CEO可以在不到五分钟的时间内,拿出一份该企业所有AI算法或者AI模型资产的完整列表,也不知道上一次修订模型是在什么时候,给不出可靠的、经过第三方验证的风险分类证据。

随着数据的民主化逐渐成为实现AI的基础,我们必须提高AI和机器学习的相关KPI,让AI KPI比财务KPI更加重要,从而提高透明度,就像审计师受到损益表信托责任制的约束一样。世界正在发生巨变,数据已经成为我们最具战略意义的资产,但是鲜有企业成为数据管理实践的标杆,他们不知道数据是在哪里设计、收集和存储的以实现和跟踪AI转型所能带来的价值。

尽管有不少企业已经投资了机器学习运营(MLOps),但很少有企业拥有成熟的AI卓越中心,其中,MLOps是一项核心能力。New Relic最近一项研究发现,受访的750位全球高级IT决策者中,有89%的人认为,AI和机器学习对于企业组织的IT运营至关重要。有近84%的受访者认为,AI和机器学习将让他们的职责变得更易于管理。这一乐观的预测,将加速数据管理实践的不断完善,而这正是AI建模和风险管理实践的关键。

笔者在过去18个月中对超过500位全球大型B2B企业C级高管的交流中发现,没有一家企业可以在5分钟时间内回答大多数以下问题。

要保持领先地位,就要恰当地提出各种AI相关的问题,每一个使用AI算法构建定制化AI模型以解决特定问题或业务挑战的项目,都应能够回答以下这些问题:

使用场景历史

AI模型/算法用于什么用途? AI模型/算法解决了哪些业务问题或者挑战? 在设计、构建和实施各种用例之前,企业最初估算的AI模型和AI方法ROI是多少?

AI模型所有权历史

谁编写了算法或者开发了AI模型? 流程负责人目前还在该企业吗? 考虑到AI模型和算法方法的风险,AI模型是否有二级流程负责人? 算法和模型结构是否经过了创建者之外其他人的审核?审核者是谁?

创建和修订历史

AI模型或者AI算法是何时构建的? 自第一次用于生产环境中以来,对AI模型或AI算法进行了多少次修订? 正在使用哪种类型的AI算法? 该算法是开源的吗?还是有人编写了独特的AI算法来解决独有的业务挑战?

AI算法或模型方法历史

AI算法的数学结构或数学公式是什么? 这些是否经过了第三方专家对准确性的验证? 负责监督正在使用中的AI算法模型的负责人? AI模型开发的数据类型(结构化/非结构化数据)和数据源(内部、外部、两者兼有)是什么? 数据集有多大? 在被分析之前,数据集是否经过了清洗?如果是的话,是谁清洗的,使用了什么方法? AI模型中使用的数据源,质量和准确性怎么样? 与所有版本的历史记录相比,预测准确性的基准得分是多少? AI模型和AI算法是否有风险分类,是否制定了风险缓解计划? 开发的AI模型是否经过了数据偏差测试? 使用了哪些数据偏差方法? 进行了几种数据偏差风险评估? 上一次审查和优化/重新训练AI模型是在什么时候?

AI算法或模型的价值实现

就投资回报率而言,AI模型能给企业组织带来什么价值? 是否有效率或者效果值能够清晰定义ROI? 第一个用例的ROI/价值结果预测,与实际AI产生的ROI结果相差多少? AI价值结果是否已经经过了财务或者第三方专家的验证、审核或签署?如果是的话,是否已经提交了报告? 这种AI模型方法与其他行业最佳实践相比如何? 是否有针对AI模型或文件的有效流程改进计划?

尽管还有很多其他问题,但要监督AI卓越中心来跟踪AI模型的演进发展,董事会和CEO们可以从年度审计风险评估和治理运营流程开始着手。

遗憾的是,多数情况下AI模型都是由数据科学家、计算机程序员或者专业服务公司(第三方供厂商)开发的,他们都致力于构建一个特定的AI模型,不管是预测美国热点区域第二波疫情情况,还是使用AI无人机预测害虫给收获季带来的影响,还是预测收入,以及确保AI方法的潜在风险管理实践,在大多数情况下,设计和构建AI模型的参与者都是用心良苦的。

董事会和CEO们必须意识到,AI素养是他们发展和培养人才所需的一种新能力。AI模型需要不断优化才能成功用于生产环境,而对数据管理基础设施进行现代化投资,是确保数据和机器学习与时俱进的关键。如果管理层不监控AI模型的生产环境,对模型进行再训练,并且随着时间的推移增加其他数据源以加强模型洞察的话,他们就会犯错。

AI就像是建造一座花园,施肥和除草是收获美丽的一项长期投资。AI不是雕塑,你不能构建一个模型然后未来几年一直保持它的原始状态不变。有人说AI是一种新型石油,而我更愿意说AI是一种新型氧气,因为AI越来越普及,像气候变化一样,潮起潮落无处不在。你想要能够洞悉花园中的一切生长状态,就需要卓越的远见才能做出明智的规划。

对于董事会和CEO们来说,遗憾的是很多技术负责人或者CIO并不擅长AI和数据科学实践,这进一步提高了实施AI的企业所面临的风险。首席数据官(CDO)和首席数据科学家官(CDSO)的兴起,推动了AI进化、模型构建、风险管理实践的发展,尽管大多数公司在数据支持系统方面的投资,不得不和保护算法和AI模型安全性方面的投资节奏保持一致。

董事会和CEO们有责任确保AI审核和风险管理框架得到合理实施,推进AI治理的向前迈进。

 

官方微博/微信

每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

↑扫描二维码

想在手机上看科技资讯和科技八卦吗?

想第一时间看独家爆料和深度报道吗?

请关注TechWeb官方微信公众帐号:

1.用手机扫左侧二维码;

2.在添加朋友里,搜索关注TechWeb。

手机游戏更多