AI也有偏见,我们该如何信任它们?


AI也有偏见,我们该如何信任它们?

文章插图

1970年, 爱德华·肖特利夫(Edward H. Shortliffe)在斯坦福大学的尝试室里起头着手编写一个Lisp程序 。 这个名为MYCIN的系统经由过程一系列的长短问题帮忙大夫判定病人是否患有遗传性血液疾病, 并按照病人体重建议抗生素用量 。 作为汗青上最早的专家系统之一, MYCIN的准确率仅为65%, 相较血液科医师80%的准确率相去甚远, 并且因为程序过于复杂, 最终也没有投入利用 。
2019年, 150名受试者来到UCLA的VCLA中间, 不雅看Baxter机械人打开附有平安锁的药瓶 。 随后, Baxter标的目的此中一些受试者诠释了本身是若何打开药瓶的, 剩下的人没有获得任何诠释 。 最后, 尝试者标的目的所有人提问:您在多大水平上相信这个机械人会开药瓶?
在曩昔的半个宿世纪里, 机械的计较与储存能力突飞大进, 我们可以轻松地在计较机上运行像MYCIN一样相对简单的系统, 甚至可以练习深度神经收集、撑持标的目的量机(Support Vector Machine)等加倍复杂的模子达到接近专业大夫的诊断程度, 或是让机械人完当作相对复杂的邃密动作 。
可是, AI系统的机能晋升也带来了新的问题:若是这些系统进入我们的糊口, 您会信赖它们作出的决议吗?

    推荐阅读