最新的埃隆马斯克的经典语录是承诺不发展人工智能武器；特斯拉创始人埃隆·马斯克领衔的美国科技圈大佬们签署了一份协议，承诺不会发展致命的人工智能武器系统。

7月18日，科技网站The Verge报道称，这是全球研究者和企业家非官方联盟的最新举措，反对人工智能技术的不当扩张。

协议警告，使用人工智能的武器系统“无需人工干预就能选定目标”，这造成了道德上和实操上的威胁。协议的签署方认为，从道德上来说，取走一条人命的决定，“绝不应该委托给机器”，从实操方面来看，这种武器的扩散将“危害每个国家和个体的稳定”。

该协议于当天在瑞典斯德哥尔摩举行的2018国际人工智能联合会议（International Joint Conference on Artificial Intelligence）上发布，由生命未来研究所（Future of Life Institute，FLI）起草。

生命未来研究所是一个研究与推广机构，致力于降低人类面临的风险，尤其是人工智能技术开发过程中的可能出现的风险。该研究所此前已经发布了一些文件，号召联合国对致命自主武器（lethal autonomous weapons，LAWS）设立新规。此次协议的签署，也是相关人员首次承诺不会参与开发此类技术。

除了SpaceX和特斯拉CEO埃隆·马斯克，签署协议的知名科技界人士还包括，创造了阿尔法狗的谷歌系人工智能公司Deepmind的三位联合创始人Shane Legg，Mustafa Suleyman和Demis Hassabis；通讯软件Skype创始人Jaan Tallinn，以及其他世界最权威和前沿的人工智能研究者。

据科技网站Engadget报道，少数公司的技术，以及如何向政府机构和执法团体提供这些技术，面临强烈争议，于是这项协议应运而生。谷歌就曾向美国军方提供人工智能科技，帮助他们在无人机影像中标记需要额外人工检查的内容。类似地，亚马逊由于向执法机关分享其面部识别技术而招致批评，微软也因向美国移民和海关执法局（Immigration and Customs Enforcement，ICE）提供相关服务而遭到抗议。

在遭受猛烈抨击之后，谷歌推出了新准则，作为公司研发人工智能技术的道德指导。准则中称，不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。微软也发布声明称，其与美国移民和海关执法局的合作仅限于电子邮件、日历、消息和文档管理，不包括任何面部识别技术。微软也在号召美国国会对面部识别技术进行监管。

2015年，马斯克为生命未来研究所的一个研究项目捐助了1000万美元，该项目专注于确保人工智能会有益于人类。2017年，马斯克，Deepmind的Hassabis和Suleyman也在生命未来研究所递交给联合国的信件上签名，寻求对自主武器系统的立法。

       马斯克在自动驾驶技术方向错了？

国外媒体USA Today发布文章称，在本月的一个行业大会上，Velodyne、Ouster、Innoviz等初创公司展示了为什么它们认为激光雷达对于开发安全的自动驾驶汽车至关重要。所以说，没有采用该技术的特斯拉CEO伊隆·马斯克（Elon Musk）做错了？

特斯拉首席执行官相信，他可以在不依靠一项技术的情况下打造出自动驾驶汽车和半自动驾驶汽车。该技术就是激光雷达（lidar），即使用激光来帮助汽车绘图和穿梭于周围的环境。

相反，特斯拉依靠摄像头和雷达——在不使用激光雷达的情况下——来完成自动驾驶系统所需的大部分工作。

但其他在争相开发自动驾驶汽车的汽车制造商和科技公司，比如Waymo、福特和通用汽车，都在押注激光雷达。

去年，通用汽车旗下自动驾驶技术公司Cruise Automation的首席执行官凯尔·沃格特(Kyle Vogt)在一篇文章中写道，“激光雷达传感器可带来冗余和重叠的功能，这是打造无人驾驶汽车所需要的东西，让车辆即便面对最具挑战性的环境，也能够应对。”

许多行业观察家认为，激光雷达是开发安全的自动驾驶系统的一个重要部分。激光雷达，也被称为光探测和测距，通常就是在自动驾驶汽车顶部旋转的那个设备。

市场研究公司Navigant Research的分析师萨姆·阿布萨米德(Sam Abuelsamid)指出：“我认为你绝对需要所有的三种设备(摄像头、激光雷达和雷达)，因为每一种设备都有它的优缺点。”例如，阿布萨米德提到摄像头能够识别物体，但在某些黑暗和低光照的条件下很难看清物体。而激光雷达则能够从一个物体上反射激光，进而形成一个图像，即使雨雪可能限制其有效性，也可能会避免照明问题。

由于这些优点和缺点，每种技术都提供一定程度的冗余，但阿布萨米德和其他人认为这是必需的。

“特斯拉正试图以最低的成本来开发自动驾驶汽车，”阿布萨米德说，“他们试图采用低成本的方法，并专注于软件。而软件的问题在于，它的好坏取决于你能提供给它的数据的好坏。”

鉴于最近发生了几起涉及特斯拉汽车的Autopilot自动驾驶模式的碰撞事故，该公司在激光雷达上的做法引发了人们的质疑，尽管目前尚不清楚激光雷达是否会产生影响。

特斯拉拒绝就此事置评。

Cox Automotive公司负责新增长和开发的副总裁大卫·里尼多(David Liniado)拥有使用特斯拉Autopilot模式的经验，因为他驾驶的是Model X。“我认为，他们的Autopilot是最安全的巡航控制系统，它是一个变革者。”里尼多说道。

他说，成本可能是驱使马斯克谈论激光雷达的原因。最近几年，每辆车的激光雷达成本据估计高达7.5万美元。但业内人士表示，该组件的价格未来将会大幅下跌。

激光雷达初创公司Cepton的业务发展总监米奇·胡蒂安(Mitch Hourtienne)本月在伊普西兰蒂举行的激光雷达大会上预测，公司最终可能会将产品价格降低到200美元以下。

作为激光雷达领域的领先公司，Velodyne此前宣布，其部分传感器的成本将削减至4000美元左右。Angus Pacala的首席执行官兼联合创始人安格斯·帕卡拉(Angus Pacala)也在大会上表示，其公司有一款激光雷达设备售价3500美元。

胡蒂安表示，激光雷达价格下降非常重要，因为消费者不一定愿意为该技术支付额外的费用。他还指出，汽车制造商必须向消费者推销这项技术在安全性方面的好处。通用汽车的沃格特在Medium上发文称，公司对激光雷达初创公司Strobe的收购，将使得其自动驾驶汽车的激光雷达成本降低99%。

在大会上，Velodyne、Ouster以及Blackmore、Innoviz和TetraVue等其它公司的代表与胡蒂安一起讨论了他们的技术方案，以及他们如何将激光雷达设备做得足够小而不引人注目，成本如何降低。

在他的演讲中，胡蒂安展示了一辆白色车辆在街道上行驶的画面，说明激光雷达是如何绘制区域图像的。他可以指向骑自行车者、走动的行人以及汽车周围的黑色气泡的图像，显示出激光雷达没有聚焦的地方。

那次展示是记者在大会举行期间看到的几次展示之一，另外的展示活动包括在举办大会的酒店周围的公共道路上进行驾驶演示。胡蒂安的演示显示出计算机生成的各种颜色的物体图像，因此它们很容易辨认。