从2份专利文件,一窥Amazon Go到底藏了什么黑科技?

    xiaoxiao2021-09-08  222

    今天的Amazon Go刷爆了国内外的社交媒体。

    Amazon Go令人惊艳的地方,就是你可以径直走进超市,选好货品之后立马离开,不用在收银台前排长长的队伍,等待结账。

    甚至还莫名有一种从商店“抢劫”的快感。

    我们说,移动支付颠覆了既有商品交易方式,那么这种“抢劫式”的Amazon Go甚至连“交易感”都消灭了。

    总之,人们被这种新奇的似乎隐含了某种黑科技的新型购物方式所吸引。不仅是普通人,就连斯坦福教授李飞飞、著名科技出版公司O'reilly创始人Tim O'Reilly都特地发推点赞。

    李飞飞:计算机视觉十分显著和绝妙的应用!

    Tim O'Reilly:零售业的未来,我对此已经期待很多年了。

    Amazon Go的亮点

    用户进入商店,穿过闸机的时候打开手机让其识别,这时手机里的系统启动,并随时准备更新物品清单。令人惊艳的部分就是,在用户拿走或放回物品的一瞬间,手机里的系统会自动更新清单。最后,用户拿着物品满意地离开,手机自动扣款。

    这里面到底有什么黑科技呢?就官方发布的视频来看,技术亮点有三个:机器视觉、深度学习算法和传感器融合

    但仅有这几个关键词还是不够的,雷锋网遂向亚马逊在职员工进行采访,但是对方表示Amazon Go还属于保密项目,公司要求不能对外透露任何细节。

    不过在Quora上,有一位名为Brian Roemmele的网友挖出了几年前亚马逊提交的两份专利文件,里面描绘的系统跟如今的 Amazon Go非常相似。这两份文件名称为:“侦测物体互动和移动”(Detecting item interaction and movement)和“物品从置物设备上的转移”(Transitioning items from the materials handling facility),两文件分别于2013年和2014年申请(感兴趣的朋友可以在公众号回复关键词“专利”,下载2份专利文件)。

    这两份专利文件都描绘了十分庞杂的应用场景,包括:货仓、船运、零售市场等,所以很多人当初在看到这份文件时,都以为这是亚马逊为自己的仓储系统量身定制的,不过今天一切真相大白。

    这两份专利分别讲了什么?

    “侦测物体互动和移动”(Detecting item interaction and movement)这份专利的摘要是:

    用户从一个货架上拿起或放下一个物品,货物管理系统可以侦测到这个动作,并且更新用户移动设备里的清单。

    “物品从置物设备上的转移”(Transitioning items from the materials handling facility)这份专利的摘要是:

    物品被识别,并且当用户正在拿起物品时,物品自动与用户发生关联。 当用户进入或穿过一个“转移区”(Transition Area),被拿起的物品将自动转移到用户,而不需要用户有任何的输入。

    总的来说就是,被识别的物体与用户发生关联,能自动更新清单,并在“转移区”进行自动交易(“转移区”在Amazon Go里指的就是商店的出口)。

    我们可以从下面一张图里,一窥 Amazon Go 的基本原型。

    图中代号为208的物体都是摄像头,大约有10多个(有一些被人体挡住)。208摄像头分别置于天花板(如图左右两边各有一个比较大的摄像头)、货架两侧和货架内部。文件里描述到,天花板上的208用来采集用户和货品的位置、货架两侧的208用来捕捉用户的图像和周围的环境,货架内的208用来确定货品的位置或用户手的移动(进入和离开货架)。

    而从视频里,我们隐约能够看到安置在货架内部的摄像头。

    另外,专利文件里还补充道:这里的摄像头可以是多种类型的,可以是RGB摄像头,或深度感知摄像头。除了摄像头之外,也可以有其他输入设备,比如压力传感器、红外传感器、体积位移传感器、光幕等等。压力传感器可以侦测物品移出和进入的时间,红外传感器可以用来区分用户和的手和物品。

    我们具体并不清楚Amazon Go到底在多大程度上使用了计算机视觉技术。比如说,当用户进出商店时,都需要对用户进行识别,文件里反复提到可以用人脸识别技术实现,但是又会继续补充说明可以通过手机等移动设备来侦测。

    Quora网友Anurag Ranjan是一位机器视觉和深度学习领域的准PhD,他分析称:

    Amazon Go使用商店里的摄像头识别出了用户,可能针对用户拍了几张照片,依靠一些标准的深度学习网络形成了一幅特征图,比如Resnet,、GoogLeNet 或者 VGG 这样的。总之,当用户踏进店里的那一刻起,Amazon Go就知道用户长什么样了。

    但是根据专利和既有经验来看,在整个过程中用计算机视觉来追踪用户,代价太高了。我们大致可以确定的是,货架上的一排排摄像头应该就是对用户进行“动作识别”,并且识别出物体是否被拿走(这里也或许是传感器实现的)。

    不过整个过程中的难点是,如何将物品与用户进行唯一绑定

    云从科技高级算法工程师周翔告诉雷锋网(公众号:雷锋网),Amazon Go具体用到哪些技术,目前我们只能够猜测,他提到可能的实现机制是:

    通过手机做到了精准定位人,然后物体的具体位置可以大概确定,一旦人附近的物品离开,同时最近的人的ID就会关联这个物品ID。

    置物架肯定用到了压力传感器,一旦物品离开,就会明确知道什么物品在什么地点离开,一旦物品回来,压力传感器同样会感应到。

    深度学习可能是学习了人的购物习惯,可能用到计算机视觉做了人的动作识别,然后根据物品与人的ID进行关联,也就是二次确认。同时分析一个人的购物喜好,推测他会买的东西,提前做一些预判。

    周翔提出,可能Amazon Go根本没有用到人脸识别的技术,“国外对人脸的隐私权是比较高的,未经允许采集他人的人脸会被起诉的”。雷锋网也关注到,在李飞飞的那篇推文下,有网友对此持抵触态度,认为如果是人脸采集,侵犯了自己的隐私。

    Amazon Go的出现惊艳了很多人,不过并不是所有人对此表示欢迎,除了上文提到的隐私问题外,有不少人担忧,如果这种技术大范围普及(我们知道亚马逊是多喜欢2B业务),大量超市收银员将会失去工作,毕竟亚马逊在视频里承诺要在 2017年初,于西雅图上线第一家Amazon Go。

    不过这种技术究竟有多少“实操性”,还是存在很多的疑惑的,例如:

    如果好几个人挤到一起买同一类东西(比如商场打折抢货,这是经常发生的),那么物品与人的ID关联还能保持精准吗?

    如果用户把商品放回的位置是错的呢,这样也会被收费吗?

    如果有人搞怪,将自己家空果汁瓶取代商店里的新鲜果汁,那么Amazon Go识别的出来吗?

    “所以,这里要求购物的人得非常有素质才行”,周翔对雷锋网说道。我们对Amazon Go的诸多疑惑,或许过几个月就能在西雅图见分晓。

    相关文章:

    深度丨 Yoshua Bengio 得意门生详解机器学习生成对抗网络(含86页PPT)

    本文作者:亚萌

    本文转自雷锋网禁止二次转载,原文链接

    相关资源:七夕情人节表白HTML源码(两款)

    最新回复(0)