叶云官网

首页 > YY专栏 > YY日记

【YY日记】第448期 人工智能也会出错 2018-09-15

2018-09-15 07:25:08 叶云官网 阅读

【YY日记】第448期 人工智能也会出错 2018-09-15

昨天的领导力课程,叶云已经全部听完第一遍了,今天再结合吴军老师的观点,分享一个人工智能的负面影响。叶云想说,我们平时经常都是在说“人工智能”的好处,毕竟那是很值得憧憬的未来,但人工智能也可能会出大错,哪怕就算概率再小。叶云认为,人出一次错有可能只是做了一个决定,但“机器”如果出一次错,就可能会演变为一个重大决策,主要举以下两个例子说说。第一,比如此前IBM的智能机器人“沃森”,就给患者开错药了,给有出血症的癌症患者开出了易出血的药。全世界现在有200多家医疗机构都在使用沃森,一旦机器程序出错,那结果就可能会导致出现成批错误,最终造成大错。第二,再比如人们在设计计算机操作股票时,为保证委托人能够立即止损,会瞬间抛售掉手中的股票,这种操作就可能会触发另一台计算机的止损条件,导致更多的抛售,于是雪崩式股灾就这样出现了。叶云还想说,一个决定只能影响到一件或几件事情,影响范围较小,而一个决策则就会影响到一批事情了。虽然,第一台机器在做决定的时候,还可能只是一个决定,但一旦发生“联动反应”,那就可能造成“灾难性”的后果了。

【YY日记】第448期 人工智能也会出错 2018-09-15--叶云官网


标签:  YY日记 叶云官网 YY官网