AI设计方案初心原是改善生活，可是却因技术性或人为因素缘故而常常“车翻”，有一些“车翻”很有可能仅仅闹个嘲笑气雾剂的防狼，有一些“车翻”却很有可能抢走可怜人的生命。

文章内容转载：互联网大数据刊物

ID：BigDataDigest

编写：jane27

原题目：智能机器人触屏防熊喷雾24人住院治疗？这一网址搜集AI‘车翻’实例，全部‘罪行’都绝不放过

你是否还记得特斯拉汽车无人驾驶安全事故吗？

你是否还记得面部识别种族问题吗？

不仅AI，很多技术性刚出現时全是这般，而大家解决这类难题的方法也非常简单——搜集尽量多的“车翻”数据信息，创建“车翻”数据，以警告后代的科学研究。

现如今，AI “车翻”数据网址也被创建起來，名叫 AIID（AI 安全事故数据库查询气雾剂的防狼，AI Incident Database），网站地址以下：

https://incidentdatabase.ai/

美国亚马逊智能机器人触屏“防熊喷雾”太傻了吧？

现阶段AIID数据库查询早已搜集了78份AI安全事故纪录，并有超出1000份有关这种纪录的报导，在其中，比较多的是无人驾驶、面部识别、智能机器人等相关内容。

从现阶段的目录看来，Google、美国亚马逊、Facebook等知名企业在目录中不断出現，例如美国亚马逊zhu名的智能机器人触屏防熊喷雾罐弄伤24名职工的恶性事件。

从有关报导的总数能看出去，这一智能机器人与驱熊喷雾恶性事件那时候挺火。

刊物菌想着，产生什么事了？

哦，原来是在2018年12月6日，美国亚马逊在美国俄亥俄州的一个库房中，一个机器人一不小心将一瓶驱熊喷雾戳破，导致24名美国亚马逊职工负伤，现场就被送到医院门诊。

据统计，安全事故的缘故是“一台自动化技术设备出现意外捅穿了一个9蛊司重的驱熊喷雾罐，释放出来浓缩的喷雾”，驱熊喷雾的主要成分是辣椒素。

过后，24名职工并无影晌，迅速出了院。

可是Incident 3的受害人就沒有那麼好运了，2018年10月29日，Lion Air的一架波音737max在起飞后，乘飞机的防颤振航行自动控制系统把发动机往下推了26次，虽然航空员对每一次发动机朝下的姿势都是会再度拉起发动机，但最终系统软件還是把飞机场以每钟头500多英里的速率带向海洋。

在这次飞机事故中，189人失去性命。

全新实例：优化算法阻拦学员进到高校

Incident 78是现阶段AIID的全新实例。

由于肺炎疫情的危害，英国IB（International Baccalaureate）新项目取消了考試气雾剂的防狼，改成优化算法预测分析学员的最后考试成绩，优化算法依据的是学员过去的考试成绩和主要表现。

这一考试成绩将决策很多英国学员是不是能被高考录取和取得成功获得学业奖学金，许多学员、父母与老师都觉得这种预测分析是不正确的。有人说，很多学员获得了难以坚信的分低。

超出15000名父母、学员和老师在网上签名抗议，规定 IB“选用不一样的得分方式，使得分更为公平公正。”

可是IB回绝回应相关其系统软件的难题，但表明早已比照了以往五年的結果，心寒的学员能够应用目前的上诉程序，这必须付钱。该慈善基金会公布的统计分析引言表明，2020年的均值成绩稍高于上年，并且考试成绩遍布也与上年相近。

所院校的老师说，IB 应当向外部表露其实体模型的所有运行状况，以供核查。他与一个有着数学课博士研究生的朋友一直对这一设计方案觉得疑惑，由于几个学员由于获得的考试成绩远远地小于她们教师的预估而失去学业奖学金。

已开发设计APP，必须大量实例

在搜集完第一阶段的78个实例后，Sean McGregor 开发设计了一个 Discover APP，既能够适用对第一环节搜集的超出1k的汇报开展数据库索引和清除，也可以开展检索。

例如一个作面部识别的企业想要知道之前面部识别有过什么问题，就可以检索“facial report”来数据库查询百度收录的过去在面部识别行业AI“翻越的车”。

很显而易见，现阶段的“车翻”合辑毫无疑问不可以包含全世界全部的AI安全事故，因而，网址也呼吁全部从业者递交别的事故调查报告。

汇报的安全事故必须考虑2个标准：

• 在其中涉及到一个可鉴别的智能控制系统
• 真实的损害的确或很有可能有效地来自于已明确的个人行为、决策或恶性事件

从总体上，你能根据APP单独加上或是大批量加上你掌握的AI安全事故，包含“题型”、“报导”、“时间”等信息内容。

现阶段，AIID 由人工智能技术合作方机构(PAI)管理方法，其维护保养资产来自XPRIZE 慈善基金会（PAI 合作方）。