在全球迈向数字经济和智能世界的今天,所有的企业和组织正依托数字化平台,以期通过各种使能技术为自身业务进行智能加持,把握市场先机,提升业务绩效。自2012年以来,大数据在全球创造了1400万个就业机会。根据今年5月中国人社部发布的一份报告显示,预计2020年年末,中国大数据行业人才需求规模将达210万。越来越多的公司增加了在大数据方面的投资,有报告称去年全球在大数据分析方面的支出超过了1800亿美元。
但与此同时,如何挖掘数据背后蕴藏的巨大价值,并将其与日新月异的ai、云、物联网等新技术完美融合?选择正确的工具,才能帮助企业和众多数据领域的专业人员达到事半功倍的效果。
jetbrains为目前各种主流编程语言提供相应的集成开发环境(ide),作为一家专注于开发者的公司,在近期举办的华为全联接2020大会上,其技术布道师和团队工具市场经理以专题演讲的形式与参会者们分享了jetbrains给开发者们的一站式凯发在线的解决方案。在为开发者打造的众多高效智能工具当中,jetbrains的big data tools大数据开发工具因其专业、高效、可扩展等特性受到了业内的广泛关注。
早在去年11月,jetbrains首次推出了结合java集成开发环境(ide)intellij idea的big data tools 大数据开发工具,同时开启早期体验计划,旨在帮助java开发者更高效地处理大数据。今年5月,jetbrains针对早期体验计划的big data tools大数据工具插件做出进一步更新,新版本的插件在此前仅适用于intellij idea用户的基础上,现在同样可用于datagrip和pycharm professional。如此,这款工具首次让基于intellij平台的多种开发工具之间能够相互协同工作。这表明jetbrains在成功进军大数据开发工具领域后,正有条不紊的为数据行业的专业人员创建能涵盖更多工作场景的工具。
新版本的big data tools 大数据开发工具插件允许数据领域的专业人员将其所使用的工具集中到datagrip(一站式提供数据库管理的ide)和pycharm(python语言专属ide),这意味着即使是那些不熟悉java的用户,也能通过ide轻松地使用apache spark、hadoop的hdfs和aws s3等工具。
对于使用scala和spark sql编写zeppelin notebook的情况,big data tools 大数据开发工具插件可提供智能导航、代码补全、检查和快速修复以及在notebook内重构,无需离开ide即可浏览、创建和运行zeppelin notebook。该插件还允许用户在ide工具窗口中检查spark作业执行、查看集群环境和存储信息,以及浏览和管理hdfs、s3和其他受支持的存储文件。此外,它还支持parquet类的分栏式存储格式。此前市场上没有便于使用分栏式文件格式的工具,这使其更显独特。
多数使用scala开发apache zeppelin的数据工程师都在用intellij idea编写scala和java代码,这是因其优秀的体验和智能编码辅助功能使然。因此,apache zeppelin与intellij idea之间的集成很自然,现在它允许数据工程师在无需离开ide的情况下,即可使用zeppelin notebook、spark应用程序和s3文件。这对于数据领域的专业人员来说变得越来越重要,因为在许多情况下,通过本机ide使用数据工具更加舒适且高效。
jetbrains大中华区负责人李玥萱表示: “各大行业对大数据的应用不断深入,与此同时企业对合适工具的需求也与日俱增。jetbrains 正在利用深厚的行业知识为开发人员、数据科学家和工程师提供最专业、高效和可扩展的工具,并将覆盖大数据开发应用的各个场景。我们相信,这将帮助中国的数据行业专业人员更快地构建大数据凯发在线的解决方案,并持续获得舒适的应用体验。”