昨天，一则消息引发了高度关注，同时也引起了广泛的争议。
据报道，以色列军方使用人工智能识别加沙的轰炸目标，导致数千名平民死亡。Lavender系统将37,000名巴勒斯坦人标记为“哈马斯武装分子”。
而联合国发言人以及美国国务院发言人均对上述消息进行了否认。
联合国发言人称：“无法核实以色列使用人工智能程序来帮助识别加沙地带的轰炸目标”。白宫发言人柯比就以色列在加沙使用人工智能轰炸的报道发表评论：“美国正在调查该报告，但尚未核实其内容”。我找到了这篇报道，并且全文翻译整理，分享给大家。
报告：以色列使用名为Lavender的人工智能工具来确定加沙的目标
以色列军队被指控在加沙地带使用人工智能帮助选择轰炸目标，为了速度牺牲了准确性，导致数千平民死亡。
这一指控来自于以色列出版物+972 Magazine和Local Call的调查报告。据报道，这个名为薰衣草（Lavender）的系统是在哈马斯于10月7日发动袭击后开发的。在其高峰期，薰衣草系统将加沙地带的37,000名巴勒斯坦人标记为疑似“哈马斯武装分子”，并授权对他们进行暗杀。以色列军方在对+972和Local Call的声明中否认了这样一个暗杀名单的存在。一位发言人告诉CNN，人工智能并未被用来识别疑似恐怖分子，但没有否认薰衣草系统的存在，他将该系统描述为“仅仅是分析师在目标识别过程中使用的工具”。分析师“必须进行独立审查，以验证所识别的目标符合国际法和以色列国防军指令中规定的相关定义”，发言人对CNN说。以色列国防军没有立即回应The Verge的评论请求。
然而，在接受+972和Local Call采访的以色列情报官员表示，他们在轰炸目标之前并不需要对薰衣草系统的目标进行独立审查，而是实际上充当了“机器决策的‘橡皮图章’”。在某些情况下，官员们在这个过程中的唯一角色是确定目标是男性。
选择目标为了构建薰衣草系统，已知的哈马斯和巴勒斯坦伊斯兰圣战组织成员的信息被输入到一个数据集中——但据一位与薰衣草的数据科学团队合作的消息人士称，与哈马斯有松散关联的人，例如加沙内部安全部的雇员，也被包括在内。
“我被薰衣草训练时使用‘哈马斯行动人员’这一术语的宽泛性所困扰，并且将民间防御工作者包括在训练数据集中，”该消息人士告诉+972。薰衣草被训练用来识别与哈马斯行动人员相关的“特征”，包括与已知武装分子在WhatsApp群组中，每隔几个月更换一次手机，或者频繁更换地址。然后，这些数据被用来根据其他巴勒斯坦人在加沙与已知哈马斯行动人员的相似程度，给他们打1到100的分数。达到一定阈值的人随后被标记为打击目标。
这个阈值总是在变化，“因为这取决于你设定哈马斯行动人员标准的位置，”一位军方消息人士告诉+972。消息人士称，该系统的准确率为90%，这意味着大约10%被识别为哈马斯行动人员的人根本不是哈马斯军事翼的成员。
薰衣草标记为目标的一些人只是恰好与已知哈马斯行动人员的姓名或昵称相同；其他人是哈马斯行动人员的亲属，或者使用过哈马斯武装分子曾经使用过的手机。“错误被统计学对待，”一位使用过薰衣草的消息人士告诉+972。“因为范围和规模，协议是即使你不确定机器是否正确，你知道从统计学上讲这是可以的。所以你就去做。”
附带损害消息人士告诉+972，在平民伤亡方面，情报官员被赋予了很大的自由度。在战争的前几周，官员们被允许在针对薰衣草标记的低级别哈马斯行动人员时，杀死多达15或20名平民；对于哈马斯高级官员，军方授权“数百”的附带平民伤亡。涉嫌哈马斯行动人员还在家中被以一个名为“爸爸在哪里？”的系统为目标。
官员们告诉+972，该系统对薰衣草生成的目标进行持续监视，跟踪他们直到他们回到家中——在这一点上，他们会遭到轰炸，通常连同他们的整个家庭一起，官员们说。然而，有时官员们会在没有验证目标是否在家中的情况下轰炸房屋，从而在过程中消灭了大量平民。“我多次遇到这样的情况，我们攻击了一个房子，但那个人甚至不在家，”一位消息人士告诉+972。“结果是你无缘无故杀死了一个家庭。”
AI驱动的战争塔希尔研究所中东政策非居民研究员莫娜·什塔亚（Mona Shtaya）告诉The Verge，薰衣草系统是以色列在加沙地带和西岸对巴勒斯坦人使用监视技术的延伸。什塔亚在西岸的基地告诉The Verge，鉴于有报道称以色列国防初创公司希望将其经过实战测试的技术出口到国外，这些工具尤其令人不安。
自以色列在加沙地带发动地面进攻以来，以色列军方依赖并开发了一系列技术来识别和针对疑似哈马斯行动人员。今年3月，《纽约时报》报道称，以色列在加沙地带部署了一个大规模面部识别程序——在巴勒斯坦人不知情或未经同意的情况下创建了一个巴勒斯坦人数据库——军方随后使用这个数据库来识别疑似哈马斯行动人员。
在一个例子中，面部识别工具将巴勒斯坦诗人莫萨布·阿布·托哈（Mosab Abu Toha）识别为疑似哈马斯行动人员。阿布·托哈在以色列监狱中被拘留了两天，在被送回加沙之前遭到了殴打和审讯。
另一个名为“福音”（The Gospel）的AI系统被用来标记据信哈马斯从中运作的建筑物或结构。根据+972和Local Call在11月的一篇报告，“福音”也导致了大量平民伤亡。
“当一个3岁的女孩在加沙的家中被害时，是因为军队中的某人决定让她被害不是一件大事——这是为了打击“另一个”目标而值得付出的代价，”一位军方消息人士当时告诉这些新闻机构。
他说：“我们需要将此视为对巴勒斯坦人数十年来武器化的集体惩罚政策的延续”。
当真相呈现在光天化日之下时，也就是罪行即将得到清算之时。
