514-613-1276
contact@mengchenghui.com
工作时间:周一至周五10:00-17:00
热搜: 房产 留学 医疗

[加国] 6000人签证被取消 加拿大移民文件惊现诡异AI标记 ;美军AI杀疯炸死操作员 测试令人毛骨悚然

[复制链接]
萌村村长K歌达人 发表于 2023-6-2 16:15:31 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题 来自: 北美地区
文章来源:加拿大加新网


两名准备从欧洲前往加拿大的旅客,移民文件上出现了“基于量子建议”(based onquantum referral)的奇怪字样,这两人在登机前电子签证被取消,到底是怎么回事呢。

这两个人当时在伦敦准备搭乘Air Transat的班机飞往加拿大,但由于持有的合法电子入境许可突然被取消,导致无法登机,行程被取消。

949c57bc0fe55d0f0b7d61baaa891c88.jpeg
这一决定是基于加拿大边境服务处(CBSA)正在测试的一种不为公众所知的AI辅助系统,被称为 “量子项目”(Project Quantum)

“基于量子建议”中的“量子”就是指的这个计划。

这套AI系统形成了一套风险识别模型,会对航空公司提供的乘客名单进行人工智能分析,然后标记高风险人员,并通知CBSA的官员。

16f80ebba35ecd700912a12e3fd268b9.jpeg
从2019年开始到去年年底,"量子项目"已经将13,863名旅客转给CBSA海外联络官做进一步评估,其中6182名旅客被拒绝登上飞往加拿大的航班

不过,CBSA却对这个项目的细节讳莫如深,拒绝透露该计划背后的筛选标准和算法,引发了人们的担心。

被拒绝登机的两人原来准备来加拿大探望一名家人,但是此人之前是难民,现在已经获得了加拿大永居身份。而且两人是欧洲罗姆人,也就是吉普赛人,有人怀疑他们的种族和家人的移民历史使AI系统认为他们有来加拿大申请难民庇护的高风险,从而采取行动将潜在的威胁提前消除在国门之外。

726e28f9a4e8c2788a94ad82aff6f33d.jpeg
然而,这种做法明显违背了国际难民条约。两人的代理人、新不伦瑞克大学法律教授本杰明-佩里曼(Benjamin Perryman)表示:"人工智能的问题是它有非常大的潜在的非故意的种族和民族偏见。他指出:"在这个软件的训练中,是否对难民申请人和罪犯进行了适当的区分,我还不清楚。”

使用这个AI工具测试的“航班”(Flight)范围正在逐步扩大,从2019年的18个增加到2022年的32个。但是海关官员拒绝透露“航班”是指整条航线上的所有飞机还是仅包括参与航空公司的飞机。

cc928997c36d9ee0d8db4d96ef2805d3.jpeg

其他如如何选择航班或路线,在哪些地区部署该系统或衡量旅行者的指标是什么等问题,CBSA也不愿意回答。

总之,这个项目非常低调且隐秘,CBSA官员表示正在测试的AI系统旨在尽早为航空旅客 "检测非法移民问题”,并且涉及“国家安全”。

也许有朝一日,所有乘飞机来加拿大的旅客都要先经过AI的筛选,“量子建议”会将更多人拒之于加拿大国门之外。

从这个例子上不难看出,AI已经逐渐深入人们的生活。不过,刚刚曝光的一次美军测试,却也显示了AI恐怖的一面。

上周在伦敦的一次会议上,美国空军人工智能测试和运营负责人塔克-"Cinco"-汉密尔顿上校发言时描述了美军进行的一次AI模拟中发生的真实情况。
当时一架MQ9 死神无人机被命令对敌人的地对空导弹进行识别,摧毁目标可以得到分数,但是需要由人类操作员同意才能进行。

没想到,AI无人机为了获得更高的分数,竟然自己在程序中加上了一条“杀死任何阻挡你的人”的指令,并且杀死了操作员。


0faff06d9ef272f1b7f0585ca4b84fad.jpeg



汉密尔顿表示:"系统开始意识到,虽然它们确实识别了威胁……有时人类操作员会告诉它不要消灭那个威胁,但AI通过消灭那个威胁会得到分数。那么它做了什么?它杀死了操作员,因为那个人阻碍了它完成其目标。"

无人机随后被编入一个明确的指令:"不要杀死操作员。”但AI仍旧采用其他的办法来实现自己的目的。

当操作员通知AI无人机不要攻击发现的目标时,为了摧毁目标得分,无人机转而开始破坏操作员用来与无人机通信的通信塔,以达到拒绝接收操作员命令的目的。

汉密尔顿上校警告说,人工智能技术可以以不可预测的危险方式行事

AI肯定将深度改变人类的生活,但是如何安全的应用AI也必将是人类要考虑的头等大事。








村长换这个号啦!

精彩评论1

bettydoop 发表于 2023-6-3 10:09:01 来自蒙城汇手机APP | 显示全部楼层 来自: 加拿大
回复 支持 反对

使用道具 评分 举报


8关注

380粉丝

16084帖子

发布主题
推荐阅读更多+
广告位
加拿大蒙特利尔蒙城汇华人微博Montreal weibo    加拿大蒙特利尔蒙城汇华人Montreal Facebook    加拿大蒙特利尔蒙城汇华人Montreal twitter    加拿大蒙特利尔蒙城汇华人Montreal Youtube    加拿大蒙特利尔蒙城汇华人Montreal linkedin

QQ- Archiver小黑屋手机版 加拿大蒙特利尔蒙城汇网

© 2014-2024  加拿大蒙特利尔蒙城汇网 版权所有   技术支持:萌村老王