AI周报|“光子是深度学习的未来”;刷手机被 AI 公开点名,再也不能摸鱼了;OpenAI 雄心勃勃的机器人计划失败了

2021
07/20

+
分享
评论
学术头条
A-
A+

Science:媲美 AlphaFold2 的蛋白质结构预测新工具问世,一台游戏计算机十分钟出结果,完全免费

导读:西雅图华盛顿大学医学院蛋白质设计研究所的研究人员,研发出一款新的深度学习工具 RoseTTAFold,不仅拥有媲美 AlphaFold2 的蛋白质结构预测超高准确度,而且更快、所需计算机处理能力更低,更重要的是,RoseTTAFold 完全免费!   

一、技术理论前沿

1. Science:媲美 AlphaFold2 的蛋白质结构预测新工具问世,一台游戏计算机十分钟出结果,完全免费


蛋白质作为构成人体组织器官的支架和主要物质,在人体生命活动中起着重要作用。2020 年,DeepMind 在第 14 届 “蛋白质结构预测关键评估”(CASP14)大赛中展示了轰动一时的相关成果 ——AlphaFold2,当时,该技术预测蛋白质结构的准确度排名第一。现在,西雅图华盛顿大学医学院蛋白质设计研究所的研究人员,研发出一款新的深度学习工具 RoseTTAFold,不仅拥有媲美 AlphaFold2 的蛋白质结构预测超高准确度,而且更快、所需计算机处理能力更低,更重要的是,RoseTTAFold 完全免费!


在此次的新研究中,华盛顿大学医学院生物化学系教授、蛋白质设计研究所所长 David Baker 领导一支计算生物学家团队,成功开发一款名为 RoseTTAFold 的工具,基于深度学习,能够根据有限的信息快速准确地预测出目标蛋白质的结构,达到与 AlphaFold2 不相上下的准确度。


不仅如此,RoseTTAFold 所需的计算耗能与计算时间均比 AlphaFold2 还要低:仅用一台游戏计算机,在短短十分钟内就可以可靠地计算出蛋白质结构。更值得注意的是,RoseTTAFold 的代码和服务器完全免费提供给科学界!自 7 月以来,相关程序已被 140 多个独立科研团队从 GitHub 免费下载,来自世界各地的科学家现在正在使用 RoseTTAFold 来构建蛋白质模型,以加速相关领域的研究。因此可以说,RoseTTAFold 不仅仅是 “免费版” 的 AlphaFold2,更是该技术领域推翻 “前浪” 的那一股 “后浪”。


内容来源:

https://mp.weixin.qq.com/s/OWTFRcf0Y6EDb0PTUhrnSg

https://science.sciencemag.org/content/early/2021/07/14/science.abj8754


2. 谷歌量子计算团队再发 Nature!逻辑错误抑制实现 100 倍增长,或为容错量子计算机研发铺平道路


量子计算机最突出的优势是可以对数据进行同时处理计算,但其发展瓶颈也很明显,例如目前量子比特数不够多,纠错容错技术也有待完善,这些因素都大大限制了量子计算的普及实用。因此,包括各国工业界、学术界和国家实验室的科研人员都在寻求减少量子计算机错误的方法。


近日,谷歌量子人工智能(Google AI Quantum)团队的一篇论文再次刊登在 Nature 杂志上,研究人员基于谷歌量子处理器 “悬铃木”(Sycamore)实现了量子计算错误抑制的指数级增长。


研究数据表明,研究人员将重复码基于的量子比特数量从 5 个提高到 21 个,对逻辑错误的抑制实现了最多 100 倍的指数级增长,这种错误抑制能力在 50 次纠错实验中均表现稳定,或为可推进容错量子计算机的研发铺平道路。尽管实验中提及的错误率还没达到实现量子计算机潜力的阈值,但这一研究成果已经证明了量子纠错(quantum error-correction,QEC)可以成功将错误率控制在一定范围内。研究人员认为 “悬铃木” 架构或已逼近这一阈值,结果令人振奋。


内容来源:

https://mp.weixin.qq.com/s/vWdsA9_oTt-3xcaEWcKuVQ

https://www.nature.com/articles/s41586-021-03588-y


3. NTT 高级科学家:光子是深度学习的未来!光子有望替代电子计算机加速神经网络计算


近日,来自日本 NTT 研究所的高级科学家 Ryan Hamerly 在 IEEE Spectrum 上发表了一篇文章(“The Future of Deep Learning Is Photonic”),谈论了光学计算在未来的强大潜力。他解释了为何光学计算会降低神经网络计算的能耗,以及光子设备取代电子设备的可能。


可以肯定的是,数字电子计算机的进步促进了深度学习的蓬勃发展,但这并不意味电子计算机是执行神经网络计算的唯一机器。但现在也许是再次使用模拟计算机的好时机,尤其是当模拟计算可以通过光学的方式来完成时。光数据通信速度更快,能耗也更低。光学计算也有同样的优势。


传统的计算机是基于晶体管,而晶体管是高度非线性的电路元件 —— 这意味着它们的输出不仅与输入成正比,至少在用于计算时是这样。非线性决定了晶体管的开关,使得它们可以被塑造成逻辑门电路。这种切换很容易用电子设备来完成,所以电子设备的非线性十分重要。但光子遵循的是麦克斯韦方程,是线性的,这就意味着光学设备的输出通常与其输入成正比。


在计算机的架构方面,光学研究人员还有许多其他问题要解决。但可以肯定的是,至少在理论上,光学有希望将深度学习的发展加速几个数量级。基于当前可用于各种组件(光调制器、检测器、放大器、模数转换器)的技术,我们有理由相信,神经网络计算的能源效率可以比当今的电子处理器提高 1,000 倍。如果用新兴的光学技术作出更激进的假设,神经网络计算的能源效率甚至可能提高一百万倍。而且,由于电子处理器的功率有限,这些能源效率的进步很可能会转化为相应的速度改进。


内容来源:

https://mp.weixin.qq.com/s/6v4PbnGu-sk-0hQf3k_vaQ

https://spectrum.ieee.org/computing/hardware/the-future-of-deep-learning-is-photonic?utm_source=dlvr.it&utm_medium=twitter


4. 快手八卦!突破 TensorFlow、PyTorch 并行瓶颈的开源分布式训练框架来了!


随着摩尔定律的失效,单个计算单元的能力已经远远无法满足数据的指数级增长。比如,快手每天上传的新视频超过千万条,即便训练简单的分类模型(比如 ResNet),使用单机单卡的算力,训练快手日内新增视频都需要超过一百天的时间。因此,在数据爆炸性增长的互联网行业,多机多卡的并行训练成为了大数据时代的必然。随着深度学习模型功能的日益强大,分布式训练任务的通信成本和所需算力也随之急剧增长。


然而,由于多机多卡并行带来的额外通讯成本,加速比(speedup)经常让大家失望,从而形成了大厂 “堆资源”,没资源的 “干瞪眼” 的局面。比如,Google 的 Downpour 框架使用 80 个 GPU 训练 ImageNet,加速比却只有 12/80=15%。因此如何提升多机多卡中训练的通讯效率成为了并行训练乃至解决数据爆炸性增长的核心问题之一。


现有的深度学习开源框架(PyTorch,TensorFlow)主要针对系统层面优化,把已有的单机单卡优化算法扩展到多机多卡的场景。虽然系统层面的优化使得并行效率不断提升,但是边际效益却越来越明显。针对这个问题,快手和苏黎世理工(ETH Zürich)联合开发了一款名为 “Bagua” 的分布式训练框架,突破单纯的系统层面优化,专门针对分布式的场景设计特定的优化算法,实现算法和系统层面的联合优化,极致化分布式训练的效率。用户只需要添加几行代码,便能把单机单卡训练扩展到多机多卡训练并得到非常可观的加速比。


内容来源:

https://mp.weixin.qq.com/s/ENmJKHHYAuJTNTtnzcbmAw

https://arxiv.org/abs/2107.01499


5. MobiSys 2021 Best Paper | 可高效、准确地预测模型推理时间的系统 nn-Meter


深度神经网络(DNN)模型在实际部署中的延迟(推理时间)是决定模型是否可用的一个重要指标。然而,模型设计过程中对数以亿计的设计选项进行实际的部署和延迟评估会造成巨大的开销。因此,如何进行高效、准确的模型运行延迟预测对模型的设计至关重要。但现有技术缺乏对部署平台优化策略的理解以及对灵活多变模型架构的泛化性,所以无法做到准确的模型推理时间预测。


针对上述问题,微软亚洲研究院异构计算组的研究员们提出并开发了 nn-Meter 模型推理时间预测系统。该系统可高效、准确地预测 DNN 模型在不同边缘设备上的推理延迟,其关键思想是将整个模型划分为内核(kernel),即设备上的执行单元,然后执行内核级预测。


相关论文 “nn-Meter: Towards Accurate Latency Prediction of Deep-Learning Model Inference on Diverse Edge Devices” 荣获了 MobiSys 2021 大会的最佳论文奖(Best Paper),并且是本届大会唯一一篇获得了 Artifact Evaluation 全部三个最高级别徽章(即代码可评估、代码可获取和实验结果可复制)的论文。


内容来源:

https://mp.weixin.qq.com/s/_axPjHPLCh1rgTqfCbDBUg

二、观点评论解读

1. 11 位科学家眼中的 WAIC:当科学家开始关注市场


“阳春白雪的东西变少了,烟火气变重了。” 这是今年与会者参加世界人工智能大会(WAIC)最直观的感受。而从科学家的角度,这种 “阳春白雪” 和 “烟火气” 的碰撞则有着更深的含义。在 AI 从理论研究、应用技术到产业化推广的产业链条中,科学家居于最上游的位置。但近年来,越来越多的科学家从从学术界转向产业界。如何从产业界的角度思考问题,则是他们需要做出的最大改变。而作为产业大会的 WAIC,正是检验这种改变的试金石。


在人工智能领域在大数据、大算力、大模型等领域的研究进展依然令人印象深刻,但在 WAIC 上,这种 “科技” 正在转化为 “技术”,科技公司们也俯下身段,以更接地气的方式,来讲解其技术对日常生活潜移默化的改变。


当大数据、大算力、大模型为代表的 AI 发展到了一定程度,反而使得人们难以察觉这当中的变化;而科技公司在 AI 基础设施建设上的下沉、AI 与产业的进一步结合,这也正是在这届 WAIC 上,观众感觉炫的技术和应用少了的原因。这也是 AI 发展的一个新阶段:如果说几届 WAIC 上,AI 更多的是一种 “自上而下” 的驱动范式,通过酷炫的研究成果,拉动普通用户对 AI 的关注;而这届 WAIC 更多的是从应用出发的、“自下而上” 的推动方式。


这也给科学家们提出了新的问题:他们所关注的,不仅仅是人工智能从感知走向决策在研究方法上的改变,更要关注这种驱动范式的转换对他们研究价值评判所造成的影响。当科学家开始关注市场,他们或许也因此能看到更多的东西 —— 这正是人工智能又一次飞跃的机会。


内容来源:

https://mp.weixin.qq.com/s/Xzjf1xDutczxHTaVuDS6UQ


2. 刷手机被 AI 公开点名,比利时议员在议会上不能再 “摸鱼” 了


近日,Reddit 上一个帖子可谓热度爆表,不到一天时间,引发大量网友讨论。该帖子内容为 “AI 揭示了政客们在开会时,看手机的时间。”



数字艺术家 Dries Depoorter 将他的最新装置 “The Flemish Scrollers” 链接到了比利时佛兰德省议会的会议直播间。


他的软件使用面部识别技术,可以自动点名那些开会时分心玩手机的政客。该项目是在佛兰德部长兼总统扬・詹邦(Jan Jambon)在政策讨论期间玩愤怒的小鸟后引起公众愤怒近两年后推出的。


细细看来,这图很有意思,开会时认真听会的政客们不会被标记,而低头看手机的政客们被准确无误的标记出来,不但如此,还把他们看手机的时间占比给标记出来。


对此,有网友提出疑问,“这款软件试图找出分心的政客,但调查范围仅限于手机,而不包括盯着笔记本电脑和平板电脑的政客,这是有其他原因吗?撇开我对政客们的 (负面) 偏见不谈,说实话,这并不能说明他们是否在用手机、或者平板电脑、笔记本在做其他的事,又或者是他们真的在做会议相关的事。”


而这款软件是用 Python 编写的,用到了物体检测和人脸识别技术,这两种技术都是基于 Keras:物体检测用来检测手机,人脸识别来识别会议中的政客。


还有网友认为:“这有点可怕。监视的如果是政客,你可能会觉得好笑,但如果公司把这种技术用在员工身上,会发生什么呢?”


内容来源:

https://mp.weixin.qq.com/s/wVeyR1iw6sq3vFmoiT3Ejw

https://www.reddit.com/r/MachineLearning/comments/ohxnts/d_this_ai_reveals_how_much_time_politicians_stare/https://twitter.com/FlemishScroller/status/1411998415031091202


3. 这届 AI 预测欧洲杯冠军,通通被打脸


持续了一个月的欧洲杯,终于落下帷幕。早在比赛前几个月里,就有不少研究机构公布了他们对本次大赛的预测结果,各个 AI 综合了近年各个球队的数据、比赛结果和球员表现,对欧洲杯的夺冠热门球队、单场比赛结果,都进行了预测。现在看来大部分 AI 预测结果,几乎都被打脸。


通常这类赛事预测 AI,会收集近年内全世界千余支球队的数万场比赛的百亿条数据,并将所有能够影响比赛的因素(如球员伤病情况、转会情况、天气情况等)都数据结构化。


再结合博彩公司的盘口和赔率情况,运用机器学习、深度学习等人工智能算法,进行建模,通过分析和匹配得出比赛预测结果。


目前人工智能都是依靠可量化的数据进行观察。但如果数据不真实,结果必然是不准确的。此外,模型无法结合难以量化的因素,例如球队即时状态、球员情绪、现场球迷情绪等等。 


数据分析公司美库尔 的总监 Debs Balme 认为,与其他比赛相比,足球比赛的预测本质上更为复杂。足球赛事因为其赛事特性,比赛数量远比篮球、棒球等运动少得多,可利用的数据也更少。比如,棒球运动员一个赛季要打 162 场比赛,而足球联赛一个赛季只有 38 场比赛,再加上杯赛等其他比赛,即使是豪门球队一个赛季也最多比赛 50 多场。所以足球赛事本身的预测难度,就要比其他体育赛事高上很多。


内容来源:

https://mp.weixin.qq.com/s/uyohWWCcJQACgwHV3ktwMQ

三、产业动态聚焦

1. 搭载 AI 的真・物理自瞄外挂,宣称不会被发现,动视:已连锅端


都说主机游戏难以开挂,最近却有人称他们实现了 “全平台制霸”,无论是在 PC 里,还是 PS、Xbox 上,都可以成为 “神枪手”。究其原理,这似乎是一个真・物理的自瞄外挂,只要你有另一台电脑,再加上视频采集卡、模拟输入控制器(模拟鼠标或手柄),当然还少不了核心软件 AI。


具体来说,这个外挂先是用一个视频采集卡记录游戏的实时输出并立即将其发送到另一台计算机。然后在这台计算机上,用已经训练好的的对象检测算法(比如 YOLO)进行快速人形目标检测。一旦机器在屏幕上识别出敌人,系统就可以迅速计算出鼠标需要移动的方位和距离。其中可以选择任意人体部位,比如直接瞄准头部。



最后再将这些数据发送到鼠标输入控制设备,比如 Titan Two 或 Cronus Zen。让它们进行自动瞄准并以超人的速度完成射击。除了快速瞄准和射击,这个作弊器还具有后坐力自动调整等功能。在中程距离下效果最好,远程下使用狙击镜的话效果也不错。


不知道这边反作弊团队有没有抓到用这个作弊器的玩家,但是最新消息却显示:它的老窝已被连锅端了。游戏世界也是需要公平和正义的。


内容来源:

https://mp.weixin.qq.com/s/O2zcsuGWrKKlHY909vyA8g

https://arstechnica.com/gaming/2021/07/cheat-maker-brags-of-computer-vision-auto-aim-that-works-on-any-game/


2. OpenAI 雄心勃勃的机器人计划失败了:强化学习没法用?


曾经训练出单手解魔方机器人的 OpenAI,眼下已经解散了机器人团队。这家执着于实现通用人工智能(AGI)的公司现在放弃了机器人研究,理由是 “数据不够丰富”。近期,OpenAI 公司联合创始人 Wojciech Zaremba 在一档播客节目中透露了这个消息。当主持人问到 “你们为什么选择了机器人领域” 的时候,Wojciech Zaremba 却表示,OpenAI 已将重点转移到其他领域,因为在那些领域中数据更容易获得。


深入思考,OpenAI 放弃机器人技术可能反映了该公司面临的经济现实。随着研发成本的增加, DeepMind 近年来也经历了类似的转变 ,从有声望的项目转向商业应用 —— 例如蛋白质结构预测。众所周知,机器人技术是一个成本高昂的领域。由于经济原因进行大规模变动的机器人公司并不是个例。


一年前,微软宣布向 OpenAI 投资 10 亿美元共同开发微软 Azure 云平台的新技术。作为交换,OpenAI 同意将其部分知识产权许可给微软,并且在开发下一代计算硬件时用 Azure 训练和运行 AI 模型。


之后的几个月里,OpenAI 发布了一个 Microsoft Azure 驱动的 API,允许开发人员探索 GPT-3 的功能。GPT-3 现在已被众多业内开发者在 300 多个不同的应用程序中使用,平均每天产生 45 亿个单词。2020 年底,微软宣布将独家许可 GPT-3 为客户开发和交付 AI 解决方案,以及创建利用自然语言生成能力的新产品。


在这些商业动向的背后,是机器人商业化场景落地难的实际现状。在 AI 产业落地面临复杂场景挑战的今天,对于 OpenAI 来说,放弃成本高昂且研发成果匮乏的机器人研究团队,也许是一个长远的明智选择。


内容来源:

https://mp.weixin.qq.com/s/bNGE3WGXjlyqlPPfASk-IQ

https://venturebeat.com/2021/07/16/openai-disbands-its-robotics-research-team/


本文由作者自行上传,并且作者对本文图文涉及知识产权负全部责任。如有侵权请及时联系(邮箱:nanxingjun@hmkx.cn
关键词:
人工智能,机器人,计算机,蛋白质,光子,数据,光学

人点赞

收藏

人收藏

打赏

打赏

我有话说

0条评论

0/500

评论字数超出限制

表情
评论

为你推荐

推荐课程


社群

精彩视频

您的申请提交成功

确定 取消
剩余5
×

打赏金额

认可我就打赏我~

1元 5元 10元 20元 50元 其它

打赏

打赏作者

认可我就打赏我~

×

扫描二维码

立即打赏给Ta吧!

温馨提示:仅支持微信支付!