我的机器人害我输了钱，我能告他吗？

xiaoxiao2024-12-20 3

大数据文摘出品

作者：李雷、宋欣仪

机器人害你输了钱，找谁说理？一位香港大亨选择起诉给他推销机器的销售人员，这位销售说服他花了一大笔钱用超级计算机来做股票交易，涉及金额超过2000万美元。

这位香港大亨是Samathur Li（李建勤），他的父亲是Shaftesbury Plc（一家英国房地产投资信托基金）的主要投资者，Shaftesbury Plc拥有伦敦唐人街、考文特花园和卡纳比街的大部分物业。

被控告的销售人员是Raffaele Costa，他主要为投资管理公司英仕曼集团（Man Group Plc）和旗下全资子公司GLG Partners Inc销售投资基金工作。

这是第一个人类因机器人造成的投资损失而诉诸法庭的案例，引发了人们对“黑匣子”问题的关注：如果人们不知道计算机是如何做出决策的话，那么出现失误时，谁来负责？

把钱交给机器人就能高枕无忧了吗？

魔法队长的魔术

一切始于2017年3月19日，在迪拜一家餐馆的那一次午餐。45岁的李建勤在席间第一次遇到了49岁的意大利人Costa——业内同行称他为“魔法队长”。Costa向李讲述了他的公司Tyndaris（总部位于伦敦的一家金融资产投资公司）即将推出的对冲基金机器人，他们打算完全使用人工智能来管理投资。

Raffaele Costa 来源：Getty Images

这是一个由奥地利人工智能公司42.cx开发的名为K1的对冲基金机器人，它通过整合实时新闻和社交媒体等在线资源，评估投资者情绪并预测美国股票期货。然后它会向经纪人发送指令执行交易，并根据信息实时调整策略。

自动化资金管理的想法让李眼前一亮。三天后，他邀Costa共进晚餐，他在邀约的电子邮件中写到，“对冲基金机器人正是我想要的。”

这之后Costa向李展示了K1的模拟操作过程，操作显示通过使用它可以获得双倍的投资回报。李很愉快地同意了这一投资计划，并让K1管理自己约2.5到25亿美元的现金以及在花旗集团公司的剩余杠杆融资，期待自己的资产可以翻倍。

机器人不是摇钱树，甚至不是保险箱

但在实际使用的过程中，李却发现K1的魔力消失了。2017年底到2018年2月期间，K1在决策方面屡屡失误，不但没有带来预想的收益，还一直在亏本。其中2月14日由于止损单的错误操作，单日损失就超过2000万美元。李的律师坚持，如果K1真的像Costa展示的那样精明老练，那么就不会产生这种情况。

李正在以涉嫌夸大机器人的能力而导致约2300万美元损失为由起诉Costa和其所在公司Tyndaris。而Tyndaris一方也正控诉李没有支付300万美元的服务费用，并否认Costa夸大了K1的能力，称其从未保证过使用机器人一定会赚钱。

机器人战胜了人类，却输给了大盘

AI横扫对冲基金领域

在2018年9月的BarclayHedge的对冲基金情绪调查发现，超过一半的对冲基金受访者（56％）正在使用人工智能来做出投资决策，几乎是一年前报告（20％）的三倍。大约三分之二使用人工智能产生交易想法和优化投资组合。超过四分之一的人使用它来自动执行交易。

一方面是因为在对冲基金领域，由于基金经理的决策一直不够稳定有效，金融人才的极度稀缺，追求人工智能势在必行。

另一方面，技术的进步推动了AI的使用。现在可以从卫星图像，物联网，全球资本流动，销售点系统和社交媒体各种途径获得庞大的数据集，一天内就可以生成比整个20世纪90年代能收集到的还要多的数据。随着原始计算能力不断提高，图形处理单元（GPU）和定制硬件现在可以在数小时而不是数周内解决问题。而随着云计算的普及和成本的下降，机器学习正蒸蒸日上。

对冲基金如何使用人工智能

许多对冲基金公司正在使用人工智能分析大量数据，修正可能的供需失衡，或者预测战术资产配置可能导致的市场变动。

借助计算机识别和执行交易的定量投资程序已经非常流行。更好的是纯人工智能，即一个可以根据过往经验自动学习和改进策略，而无需人类再参与的机器人。。

事实上，近年来出现了一类基于机器学习和人工智能算法的对冲基金机器人。例如Aidiyia Holdings，Cerebellum Capital，Taaffeite Capital Management和Numerai。Numerai是一家人工智能投资公司。Numerai的交易由人工智能决定，人工智能由数千名匿名数据科学家组成的网络推动。该公司通过在外部AI专家，数学家和数据科学家之间举办竞赛来决定投资策略。最近，Numerai还推出其产品Erasure提供给金融界其他公司，从而扩展了其业务。Erasure主要使用区块链技术的预测市场。这家公司正在推动对冲基金业务模式的界限。

失误、问题与担忧

2014年每100美元投入至2019年3月的收益；标准普尔500指数的回报包含股息滚存投资；HFRI基金加权综合指数。来源：Eurekahedge对冲基金研究公司，彭博社

Tyndaris公司使用的对冲基金机器人K1，根据研发公司42.cx创始人Daniel Mattes介绍，是受到2015年欧洲央行衡量推特上投资者情绪的研究的启发，由此开发了可以研究投资者情绪信号的软件。

“这是一个很棒的软件，”Mattes说。“我们提供的情绪信号有强大的科学基础。我认为我们做的相当不错。我们可以发现市场上的各种情绪，但我不是交易员。”在实际大盘操作中似乎仅仅收集和分析情绪数据是不够的。

2018年情人节的那天上午，K1向其经纪公司 - 商高盛集团（Goldman Sachs Group Inc.）发出交易订单，以15亿美元收购标准普尔500期货，预计指数将上涨。然而经济数据显示美国通胀上升速度超过预期，标普指数下跌，K1触发下跌1.4％的止损操作，导致基金损失2050万美元。但随后标普指数在数小时内又发生反弹，李的律师称，K1当天的止损位操作是“粗暴且不恰当的”。

黑匣子问题：如果机器学会说谎？

总部位于伦敦的投资公司Aspect Capital也正在尝试使用人工智能来制定客户资金投资策略。公司联合创始人Anthony Todd说，“我们对机器学习技术应用的一个担忧是，一旦使用了这些技术就无法再获得关于每一步市场行为的明确假设。”

目前拥有高水平教育和人工智能技能的人数只有几千。所以现在金融公司不得不从谷歌和Facebook这样的科技公司招募人才。

人才稀缺现在与人们认识到理解人工智能对对冲基金至关重要，如何同时与传统竞争对手和精通技术的新进入者保持同步？对此的考虑已经导致了对人工智能学术课程和培训的新一轮重大投资。

但还有一个对于人工智能的担忧是，如果有一天机器人产生了自己的想法怎么办？恐怕即使是它的创造者也无法完全理解它做出的一些决策。而要知道，虚假因为陈述是指人对人所作的，但当机器而非人作虚假陈述时怎么办？我们可以控告他吗，仅仅他长得像人我们就可以把他当作人来控告吗？

错的是机器还是机器背后的人？

关键是使用机器的方式

黑匣子问题离我们目前仿佛还很遥远，而在这次的案件中，双方争执的焦点主要在于Costa是否夸大来K1的能力。

比如李的律师指出Costa为了赢取李的信任，夸大了构建K1算法的技术人员的资格，宣称他们曾参与深蓝的研发。深蓝是由IBM公司设计的超级国际象棋电脑，它在1997年击败了世界冠军，标志着人工智能时代的到来。

42.cx创始人Daniel Mattes表示，所有给过他建议的技术人员都没有参与过深蓝项目，只有一名技术人员Vladimir Arlazarov在上世纪60年代前苏联时期开发过一个名为Kaissa的国际象棋程序。他承认技术人员的可能没有投资相关的经验。因为有明确的规则可以模拟，所以算法在游戏中已经可以轻易击败人类，但是股票市场显然缺乏这类规则。Arlazarov告诉彭博社他确实给过Mattes建议，但没有特别针对K1。

Tyndaris公司对此没有回应。

关于李在K1的能力方面是否受到误导，控辩双方则各执一词。

李声称他被告知K1会每天进行“深度学习”，根据波动等市场因素确定适当的止损位。Costa否认他曾经这样说，并声称他告诉李止损位是由人设定的。

在对Mattes的采访中，他表示，K1的设计并不是为了产生止损位，而只是为了产生两种情绪信号：一种普通信号是为了让Tyndaris进入某种交易状态，另一个动态信号可以用作退出或改变交易状态。虽然Tyndaris还向其他投资者推销了K1机器人对冲基金，但其发言人拒绝评论该基金是否曾经管理过资本。上个月，Tyndaris已经从其网站上删除所有关于机器人对冲基金的相关信息。

根据Eurekahedge的AI对冲基金指数数据，像Marcus Storr这样的投资者表示，在营销人员向他们推销人工智能基金时他们都会很谨慎，特别是对那些将人工智能作为其核心策略，并且在2018年之前的三年内回报不到标准普尔500指数回报一半的基金。

我们总希望找到一个人来承担责任

Storr，这位德国私人投资管理公司Feri Trust GmbH（位于Bad Homburg小镇）的对冲基金主管表示，“我们不能说这些AI代码是好是坏，对我们来说，归根结底还是要看其交易设置和研究分析能力。”

那么当公司使用自动聊天机器人向客户销售产品时发生问题怎么办呢？肯尼迪全球律师事务所的伦敦律师Karishma Paroha是专门负责产品责任案件的，她补充说，在这种情况下即便起诉销售人员也是不可能的。

“人们往往都认为算法可以比人类交易员做出更快、更好的决策，”斯坦福大学法学教授Mark Lemley说，“通常情况下是这样，但也有例外。而当机器出现失误时，投资者希望有人来承担责任。”

从自动驾驶汽车到虚拟助手，随着人工智能融入人类生活的方方面面，类似的法律纠纷不可避免。当技术出现失误时，就需要确定责任方。

今年，在亚利桑那州坦佩市，优步公司的一辆自动驾驶汽车撞击并导致了一名49岁的路人的死亡。3月，美国刑事检察官宣布优步公司无罪。