青年创业帮是一个专业为创业者提供学习交流的创业网站,主要为网民提供创业项目、创业信息、创业商学院、创业辅导等商机资讯、助您时刻掌握最热行业动态。

当前位置:主页 > 科技创业 > 清华开源深度学习框架计图,开源超级玩家再进阶

清华开源深度学习框架计图,开源超级玩家再进阶

来源:青年创业帮作者:简万贵更新时间:2020-10-05 18:53:20阅读:

本篇文章2090字,读完约5分钟

雷锋。(公开号码:雷锋。据官方消息,清华大学计算机系图形实验室宣布,将开放一个新的深度学习框架:jittor,中文名称计划。

Jittor是一个基于即时的深度学习框架,它使用元操作符来表示神经网络计算单元。[1]

根据介绍,jittor 内部使用创新的元运算符和统一计算图的深度学习框架。与numpy 相比,meta-operator可以在确保易用性的同时实现更复杂、更高效的操作。统一计算图结合了静态计算图和动态计算图的许多优点,易于使用并提供高性能优化。基于元运算符开发的深度学习模型可以通过实时映射自动优化,并在指定的硬件上运行,如 cpu和gpu。

清华开源深度学习框架计图,开源超级玩家再进阶

Jittor特性

Jittor的设计基于易用性、定制化、实现与优化和即时性相分离的概念。用户只需要几行代码就可以定义新的操作符和模型,所有的代码都可以立即编译和运行。

在jittor上,多个元算子可以相互合并成为更复杂的算子,从而进一步构成神经网络和深度学习应用。

支持任意高阶导数的计算。在jittor上反向传播后,元运算符仍然是元运算符。因此,在深度学习开发过程中,不需要反向传播操作符和重复开发。同时,也可以使用统一的优化策略。

使用jittor内置的元运算符编译器,用户可以直接将元运算符编写的python代码编译成更高效的c++代码。

Jittor可以自动优化动态编译的代码。其内置编译器通道与llvm兼容,llvm可以根据设备自动优化,生成的底层操作符对计算设备非常友好。

Jittor以统一的方式管理gpu和cpu的内存。当深度学习耗尽gpu内存资源时,它将被cpu内存补偿。

Jittor提供了同步接口和异步接口,因此用户可以同时享受同步接口的易用性和异步接口的高效性。

有了辅助转换脚本,pytorch代码可以直接转换成jittor模型。在参数保存和数据传输方面,jittor使用与pytorch相同的numpy+pickle协议,它们的模型可以相互加载和调用。

超越pytorch的性能

虽然这是清华大学首次发布开源机器学习框架,但jittor 并不比国际主流平台差。目前,resnet、vgg、ssd、deeplab和lsgan等多种网络模型已经在jittor 平台上实现,可供用户使用。与同类框架相比,jittor在收敛精度一致的情况下,推理速度提高了10%-50%。

清华开源深度学习框架计图,开源超级玩家再进阶

目前,jittor得到了国家自然科学基金、北京国家信息科学技术研究中心团队项目和清华-腾讯联合实验室项目的资助和支持。

[雷锋网注:图片来源:皮克斯贝所有者:格德奥尔特曼]

开源超级玩家

开源,尤其是在人工智能领域,已经逐渐成为综合实力的象征。清华在这方面有独特的优势。

首先,它是人工智能领域的学术遗产。2019年,清华人工智能研究所频频出手。在张忠院士的领导下,听觉智能研究中心于4月成立,由方正教授担任主任;基础理论研究中心于5月成立,由朱军担任主任。基础算法、人工智能框架、人工智能应用和数据资源已经奠定了基础。

清华开源深度学习框架计图,开源超级玩家再进阶

第一代院士奠定了坚实的基础,而第二代教师形成了骨干。这次推出的jittor的带头人是清华大学计算机科学系的胡世民教授,生于1969年 ,属于骨干,开发团队的主体是他领导的图形实验室的一批博士生。今天的项目更让人想起清华大学毕业生贾,他在加州大学伯克利分校攻读博士学位时创建了这个项目。

清华开源深度学习框架计图,开源超级玩家再进阶

清华大学自然语言处理实验室(thunlp)也有一个著名的开源项目叫做opennre。[2]这是自然语言处理中关系抽取的开源框架,可用于扩展知识地图,是推荐系统、搜索引擎和问题解决的基础和关键技术。

实验室由孙茂松教授带领,培养出一批本硕博骨干教师和尖子生。Thunlp在github上的明星几乎和世界上最强的斯坦福nlp团队一样。

由此带来的第三代学生梯队也是人才济济。清华大学姚班分校,不用说,去年以培养本科生人才而闻名的姚期智教授,开设了一个智力班,重点培养人工智能领域的后备人才。

毕业于姚班、目前就读于麻省理工学院的博士生胡远明设计并实现了太极编程语言及其优化编译器。[3]

此外,清华大学与企业以实验室形式开展的合作也取得了丰硕成果,吸引了张亚勤、沈向洋等著名科学家的加盟。

例如,清华大学和微软研究院与convlab合作开发了开源的端到端对话系统[4],与美团合作开发了用于视频运动分析的开源数据集Coin[5]。

去年,清华-伯克利深圳学院建立了“risc-v 国际开源实验室”,直接引进了图灵奖获得者、第一个提出“risc”系统的戴维 帕特森,抓住了开源和创新的源头,可能在芯片领域形成一个新的开源cpu生态系统

引自:

[1] jittor

官方网站:cg.cs.tsinghua.edu/jittor/

github:github/jittor/jittor

[2] opennre,github/thunlp/opennre

[3]太极,吉之岛/圆明湖/迪夫太极

[4] convlab,convlab.github.io/

[5] coin,coin-dataset.github.io/

雷锋。com


标题:清华开源深度学习框架计图,开源超级玩家再进阶

地址:http://www.qdgzw.com/kjcy/33079.html

免责声明:京青年创业网是一个专业为创业者提供学习交流的创业资讯媒体,更新的资讯来自于网络,不为其真实性负责,只为传播网络信息为目的,非商业用途,如有异议请及时联系btr2031@163.com,京青年创业网编辑将予以删除。

返回顶部