IBM 谢东:AI 进入生活,我们该怎么信任它?

IBM 谢东:AI 进入生活,我们该怎么信任它?

当 AI 医生诊断我们得了某种重病,或是提供治疗方案时,我们会担心它预测是否准确。

当 AI 分析师做出投资建议时,我们会担心是否可以把血汗钱押在这上面。

当 AI 老师制订了一套符合你能力的教学方案时,我们也会担心这是否真的就适合自己。

当 AI 算法综合大数据对我们做分析和信息流推荐时,我们更会警惕它是不是“真的懂我”,自己有没有被公正对待。

当行人违反交通规则,没有走人行横道的时候,有的无人驾驶汽车会判断为不用刹车,全球首例无人驾驶车辆事故由此产生;

当医疗 AI 试图给病人开药的时候,如果此前忘记录入并发症信息,开出的药方可能对某些患者是致命的;

若是没有专门介入,人脸识别等算法无法准确地识别数据较少的少数族裔面孔,形成严重的偏见;

而训练 AI 算法的模型需要大量数据,这些数据也可能未经授权,让普通人的隐私在不知不觉中被“偷走”。

AI 不是代替人类的,而是人类的辅助;

AI 的数据和洞察(即结论)均属于其创造者,也就是客户;

AI 必须被人们所信任。

公平性(Fairness):AI系统应该采用不带偏见的数据集和模型,从而避免对于特定群体的不公平;

可解释性(Explainability):AI系统所提供的决策或建议不是一个不可解释的黑箱,应该能够被用户和开发者所分析、理解;

健壮性(Robustness):AI系统应该安全和可靠,不会被篡改,也不会受被“污染”的训练数据集影响;

透明性(Transparency):AI系统可以被透明化管理,其开发、部署、维护等可被追踪,能够在生命周期范围内被审核。

“人工智能正在全方位地影响和改变整个社会。IBM 致力于 AI 的研究和应用,为企业提供先进和完整的 AI 技术和方案,并致力于打造可信任的 AI,而社会也会选择它所信任的公司。”

分享到微信
打开微信「扫一扫」
扫描下方二维码阅读本文