Alink

Project Url: alibaba/Alink
Introduction: Alink is the Machine Learning algorithm platform based on Flink, developed by the PAI team of Alibaba computing platform.
More: Author   ReportBugs   
Tags:
English| 简体中文

Alink 是基于 Flink 的通用算法平台,由阿里巴巴计算平台 PAI 团队研发,欢迎大家加入 Alink 开源用户钉钉群进行交流。

开源算法列表

快速开始 - PyAlink 使用介绍

使用前准备:

  1. 确保使用环境中有 Python3,版本>=3.5。
  2. 确保使用环境中安装有 Java 8。
  3. 根据 Python 版本下载对应的 pyalink 包:
  4. 使用 easy_install 进行安装 easy_install [存放的路径]/pyalink-***.egg。需要注意的是:
    • 如果之前安装过 pyalink,请先使用 pip uninstall pyalink 卸载之前的版本。
    • 如果有多个版本的 Python,可能需要使用特定版本的 easy_install,比如 easy_install-3.7
    • 如果使用 Anaconda,则需要在 Anaconda 命令行中进行安装。

开始使用:

我们推荐通过 Jupyter Notebook 来使用 PyAlink,能获得更好的使用体验。

使用步骤:

  1. 在命令行中启动 Jupyter:jupyter notebook,并新建 Python 3 的 Notebook 。
  2. 导入 pyalink 包:from pyalink.alink import *
  3. 使用方法创建本地运行环境: useLocalEnv(parallism, flinkHome=None, config=None)。 其中,参数 parallism 表示执行所使用的并行度;flinkHome 为 flink 的完整路径,默认使用 PyAlink 自带的 flink-1.9.0 路径;config为 Flink 所接受的配置参数。运行后出现如下所示的输出,表示初始化运行环境成功:
    JVM listening on ***
    Python listening on ***
    
  4. 开始编写 PyAlink 代码,例如:
    source = CsvSourceBatchOp()\
     .setSchemaStr("sepal_length double, sepal_width double, petal_length double, petal_width double, category string")\
     .setFilePath("https://alink-release.oss-cn-beijing.aliyuncs.com/data-files/iris.csv")
    res = source.select("sepal_length", "sepal_width")
    df = res.collectToDataframe()
    print(df)
    

编写代码:

在 PyAlink 中,算法组件提供的接口基本与 Java API 一致,即通过默认构造方法创建一个算法组件,然后通过 setXXX 设置参数,通过 link/linkTo/linkFrom 与其他组件相连。 这里利用 Jupyter 的自动补全机制可以提供书写便利。

对于批式作业,可以通过批式组件的 print/collectToDataframe/collectToDataframes 等方法或者 BatchOperator.execute() 来触发执行;对于流式作业,则通过 StreamOperator.execute() 来启动作业。

更多用法:

Q&A:

Q:安装 PyAlink 后,使用时报错:AttributeError: 'NoneType' object has no attribute 'jvm,如何解决?

A:这个报错信息是因为 PyAlink 的 Java 部分没有成功启动导致的:

  • 请先检查是否正确安装 Java 8,可以在 Jupyter 中直接运行 !java --version,如果正确显示版本号(比如 1.8.*)则正常,否则请安装 Java 8,并检查环境变量是否正确。
  • 在 Jupyter 中运行import pyalink; print(pyalink.__path__),应该输出一个路径。 请使用系统的文件管理工具定位到这个目录,如果这个目录包含有名为 alinklib 目录则正常,否则 pyalink 安装有问题,请卸载重装。

Q:能否连接远程 Flink 集群进行计算?

A:通过方法可以连接一个已经启动的 Flink 集群:useRemoteEnv(host, port, parallelism, flinkHome=None, localIp="localhost", shipAlinkAlgoJar=True, config=None)。其中,参数

  • hostport 表示集群的地址;
  • parallelism 表示执行作业的并行度;
  • flinkHome 为 flink 的完整路径,默认使用 PyAlink 自带的 flink-1.9.0 路径;
  • localIp 指定实现 Flink DataStream 的打印预览功能时所需的本机 IP 地址,需要 Flink 集群能访问。默认为localhost
  • shipAlinkAlgoJar 是否将 PyAlink 提供的 Alink 算法包传输给远程集群,如果远程集群已经放置了 Alink 算法包,那么这里可以设为 False,减少数据传输。

Q:如何停止长时间运行的 Flink 作业?

A:使用本地执行环境时,使用 Notebook 提供的“停止”按钮即可。 使用远程集群时,需要使用集群提供的停止作业功能。


Q:能否直接使用 Python 脚本而不是 Notebook 运行?

A:可以。但需要在代码最后调用 resetEnv(),否则脚本不会退出。


  1. 准备 Flink 集群

    wget https://archive.apache.org/dist/flink/flink-1.9.0/flink-1.9.0-bin-scala_2.11.tgz
    tar -xf flink-1.9.0-bin-scala_2.11.tgz && cd flink-1.9.0
    ./bin/start-cluster.sh
    
  2. 准备 Alink 算法包

    git clone https://github.com/alibaba/Alink.git
    cd Alink && mvn -Dmaven.test.skip=true clean package shade:shade
    
  3. 运行 Java 示例

    ./bin/flink run -p 1 -c com.alibaba.alink.ALSExample [path_to_Alink]/examples/target/alink_examples-0.1-SNAPSHOT.jar
    # ./bin/flink run -p 2 -c com.alibaba.alink.GBDTExample [path_to_Alink]/examples/target/alink_examples-0.1-SNAPSHOT.jar
    # ./bin/flink run -p 2 -c com.alibaba.alink.KMeansExample [path_to_Alink]/examples/target/alink_examples-0.1-SNAPSHOT.jar
    
Apps
About Me
Google+: Trinea trinea
GitHub: Trinea