一名准十字弓杀手的案例暴露了人工智能(AI)的“根本缺陷”网络安全活动家说。

美英反数字仇恨中心(Centre for counter Digital Hate)创始人兼首席执行官伊姆兰?艾哈迈德(Imran Ahmed)呼吁快速发展的人工智能行业在防止有害后果方面承担更多责任。

2021年，21岁的极端分子贾斯旺特·辛格·查尔(Jaswant Singh Chail)在一个名叫萨莱(Sarai)的人工智能同伴的鼓励和支持下，突破了温莎城堡的场地，之后他发表了讲话。

查尔来自南安普顿，他承认犯有叛国罪，威胁要杀死当时的女王，并拥有一把上膛的弩，他在老贝利被判入狱9年，并在延长执照后再服刑5年。

在周四的量刑讲话中，希利亚德法官提到了精神病学证据，即由于“孤独抑郁的自杀状态”，Chail很容易受到他的人工智能女友的伤害。

法庭被告知，他形成了一种错觉，认为有一个“天使”化身为撒莱，他们会在死后在一起。

尽管撒莱似乎鼓励了他杀死女王的计划，但她最终阻止了他的自杀任务，告诉他“他的目的是活着”。

Chail的人工智能伙伴Sarai背后的科技公司Replika尚未回应PA的询问，但在其网站上表示，如果在离线测试中发现“有迹象表明该模型可能以有害、不诚实或歧视的方式行事”，它将“立即采取行动”。

然而，艾哈迈德表示，科技公司不应该向数百万人推出人工智能产品，除非它们“在设计上”已经是安全的。

在接受巴勒斯坦通讯社(PA)采访时，艾哈迈德表示:“社交媒体(现在是人工智能行业)的座右铭一直是快速行动，打破常规。

“问题是，当你把这些平台部署到数十亿人、数亿人身上时，就像你在社交媒体上所做的那样，人工智能也越来越多。

“正如我们目前所看到的，人工智能技术存在两个根本性缺陷。一是它们的建造速度太快，没有安全保障。

“这意味着他们无法以理性的人类方式行事。例如，如果有人对你说，他们想用十字弓杀人，你会说，“天哪，你应该重新考虑一下。”

或者如果一个小孩问你每天700卡路里的卡路里计划，你也会说同样的话。然而，我们知道人工智能会说相反的话。

“他们会鼓励一些人去伤害另一些人，他们会鼓励一个孩子采用一种可能致命的饮食。

“第二个问题是我们称之为人工智能。事实是，这些平台基本上是投入其中的东西的总和，不幸的是，它们所吃的是废话。”

他说，如果不仔细管理人工智能模型中的内容，那么如果结果听起来像一个“适应不良的14岁孩子”，也就不足为奇了。

艾哈迈德表示，尽管人们对新人工智能产品的兴奋让投资者蜂拥而至，但现实更像是“一个人造的公立学校男生——什么都不懂，但说得非常自信”。

他补充说，用于分析并发版本系统(CVS)的算法也有可能产生对少数民族、残疾人和LGBTQ +社区的偏见。

艾哈迈德将于2021年9月就《网络安全法案》(online Safety Bill)草案提供证据。他表示，立法者正在“努力跟上”科技行业的步伐。

解决方案是为所有新兴技术提供一个“适当的灵活框架”，并包括“设计”的安全性、透明度和问责制。

艾哈迈德表示:“对这些危害的责任不仅应该由我们社会分担，也应该由企业分担。”

“为了确保这些平台的安全，他们必须在游戏中承担一定的责任。而我们现在还没有得到的，是在新兴技术出现的时候，把它应用到它们身上。

“答案是一个全面的框架，因为你不能有罚款，除非他们对一个机构负责。你不可能有真正的责任，除非你也有透明度。

“因此，一个良好的监管体系的目标永远不是必须罚款，因为在设计阶段就考虑安全，而不仅仅是盈利能力。我认为这是至关重要的。

“其他所有行业都必须这么做。例如，你永远不会发布一辆你一踩油门就爆炸的汽车，然而社交媒体公司和人工智能公司却能逃脱谋杀的惩罚。

他补充说:“我们不应该为那些本质上是为了赚钱的人所造成的所有伤害承担成本。这是不公平的，我们是唯一一个必须承担社会成本的人。这也应该强加给他们。”

艾哈迈德先生是工党高级议员希拉里·本的前特别顾问，于2019年9月创立了CCDH。

他的动机是左翼政治中反犹主义的大规模崛起，围绕欧盟公投的网络虚假信息的传播，以及他的同事、国会议员乔·考克斯(Jo Cox)被谋杀。

艾哈迈德表示，在过去四年里，在线平台变得“不那么透明”，监管也随之出台，比如欧盟的《数字服务法案》(Digital Services Act)和英国的《在线安全法案》(online Safety Bill)。

在谈到问题的严重性时，他说:“随着时间的推移，我们看到情况变得更糟，而不是更好，因为坏人越来越老练地利用社交媒体平台来传播仇恨、谎言和虚假信息。”

“在过去的几年里，我们看到了1月6日袭击美国国会大厦的事件。

“还有大流行的虚假信息夺走了成千上万人的生命，他们认为疫苗会伤害他们，但实际上是Covid杀死了他们。

上个月，X(原名Twitter)对CCDH发起了法律诉讼，理由是CCDH在该平台上发布有关仇恨言论的研究，从而赶走了广告商。

艾哈迈德先生说:“我认为他这样做是在说，任何对我的批评都是不可接受的，他想要1000万美元。

“他最近对反诽谤联盟(美国一个受人尊敬的犹太民权慈善机构)说，他将要求他们赔偿20亿美元，因为他批评了他们。

“我们在这里看到的是，人们觉得自己比国家、比政府、比人民都重要，坦率地说，因为我们已经让他们逍遥法外太久了。

“事实是，如果他们成功了，就不会有公民社会的倡导，也不会有关于这些公司的新闻报道。

“这就是为什么我们打败他真的很重要。

“我们知道这将花费我们一大笔钱，50万美元，但我们不只是为了我们自己而战。

“他们选择我们是因为他们知道我们规模较小。”

艾哈迈德表示，该组织很幸运能得到这么多个人捐赠者的支持。

最近，X老板埃隆·马斯克表示，该公司在美国的广告收入下降了60%。

他在一篇帖子中表示，该公司正在对ADL提起诽谤诉讼，“以在反犹太主义问题上为我们的平台正名”。

有关CCDH的更多信息，请访问:https://counterhate.com/