本文为你带来基于CentOS 7操作系统安装mesos和相关示例运行的教程。
Mesos介绍 英文: Mesos is built using the same principles as the Linux kernel, only at a different level of abstraction. The Mesos kernel runs on every machine and provides applications (e.g., Hadoop, Spark, Kafka, Elasticsearch) with API’s for resource management and scheduling across entire datacenter and cloud environments. 中文: Mesos是根据Linux内核相同原则而创建的,而不同点仅是在于抽象的层面。Mesos内核运行在每一个机器上,同时通过 API 为各种应用提供跨数据中心和云的资源管理调度能力(如:Hadoop、Spark、Kafka、Elastic Search)。 架构图:
通俗来讲,它提供了资源调度,让我们可以像使用单台机器一样使用整个数据中心。Mesos是Apache下的开源分布式资源管理框架,记住这点就行了,反正本文是负责介绍安装的。
环境说明 1、centOS 7虚拟机一台(配置最好高一些) 2、mesos-1.6.1 3、xshell 这边用的是win10作为宿主机,安装了VMware作为虚拟机平台,然后安装了一台centos7虚拟机,建议给虚拟机至少分配2核CPU和4G内存以上,不然安装效率比较低,毕竟还是有些吃资源的。 虚拟机安装完毕启动后,用xsell连接(毕竟界面字体看着舒服多了)进行操作。
具体步骤 1、下载 官网下载地址,请选择自己需要的一个版本进行下载。 这里你有几种方式可以选择 1].在Windows平台下载后通过xftp上传到虚拟机 适合虚拟机无法联网的同学。 2].直接在虚拟机上下载 比如1.6.1版本的下载。 wget http://mirrors.hust.edu.cn/apache/mesos/1.6.1/mesos-1.6.1.tar.gz 适合虚拟机可以联网的同学,简单便捷。 2、系统要求 Mesos的安装队系统是有要求的,下面说明摘抄自官网。 大致意思如下: Mesos在64位的Linux/MacOS上运行,从源码构建Mesos,需要有gcc 4.8.1 +/Clang 3.5 +环境。 在Linux上,在构建/运行时都要对内核版本的要求是必须高于(含)2.628,为了完全支持进程隔离,要求内核版本高于(含)3.10。 Mesos代理也可以在Windows上运行,有另外的说明。 为允许完全支持Docker的主机联网功能,请确主机名可以通过DNS//etc/hosts解析,这是Mesos测试所需要的。当有问题时,请验证/etc/host是否包含主机名。 Mesos runs on Linux (64 Bit) and Mac OS X (64 Bit). To build Mesos from source, GCC 4.8.1+ or Clang 3.5+ is required. On Linux, a kernel version >= 2.6.28 is required at both build time and run time. For full support of process isolation under Linux a recent kernel >= 3.10 is required. The Mesos agent also runs on Windows. To build Mesos from source, follow the instructions in the Windows section. Make sure your hostname is resolvable via DNS or via /etc/hosts to allow full support of Docker’s host-networking capabilities, needed for some of the Mesos tests. When in doubt, please validate that /etc/hosts contains your hostname. 对于不同的系统,会有不同的组件要求要求,mesos官网列举了诸如: 1].Ubuntu 2].Mac OS 3].centos 下面具体看一下centos的环境要求。 不知道自己系统版本的可以 cat /etc/redhat-release # 会有类似输出 CentOS Linux release 7.5.1804 (Core) 另外,如果是非root用户登录,请记得采用sudo命令,本文是基于root用户操作的,所以略去sudo命令。 安装部分实用工具: yum install -y tar wget git 获取 Apache Maven repo文件。 wget http://repos.fedorapeople.org/repos/dchen/apache-maven/epel-apache-maven.repo -O /etc/yum.repos.d/epel-apache-maven.repo 安装REPL repo: yum install -y epel-release 高于0.21.0版本的Mesos要求subversion > 1.8的开发包,这在默认库中是不可用的,所以在文件'/etc/yum.repos.d/wandisco-svn.repo'中添加如下内容件来安装正确的版本。 bash -c 'cat > /etc/yum.repos.d/wandisco-svn.repo <<EOF [WANdiscoSVN] name=WANdisco SVN Repo 1.9 enabled=1 baseurl=http://opensource.wandisco.com/centos/7/svn-1.9/RPMS/\$basearch/ gpgcheck=1 gpgkey=http://opensource.wandisco.com/RPM-GPG-KEY-WANdisco EOF' Mesos有一部分需要Systemd来操作,但是Mesos只支持包含Delegata标志的systemd版本。 这个标志在systemd 218版本初次被引入,它低于centos下默认安装的版本。 幸运的是,centos7.1有一个补丁systemd<218包含Delegate标志,下面操作升级systemd。 yum update systemd 安装必要的开发工具: yum groupinstall -y "Development Tools" 安装其他Mesos依赖: yum install -y apache-maven python-devel python-six python-virtualenv java-1.8.0-openjdk-devel zlib-devel libcurl-devel openssl-devel cyrus-sasl-devel cyrus-sasl-md5 apr-devel subversion-devel apr-util-devel 到这一步,系统依赖的事项基本处理完毕。 3、编译安装 还记得刚刚下载的mesos-version-no.tar.gz(version-no就是你下载的版本号)。 提供查找命令,用法find [path] -options [regx],可以在指定目录下用指定选项查找匹配表达式的文件。 find /usr/local/ -iname mesos* 记得在哪儿的话,进入压缩包所在目录,进行解压: # 切换目录 cd /usr/local/setup # 解压 tar zxvf mesos-1.6.1.tar.gz 如果是从git仓库下载的话,先执行下面命令(不是则跳过): ./bootstrap 配置并构建安装: mkdir build cd build # 上面两条命令也可以合并成 mkdir build & cd $_ # 配置 ../configure --prefix=/usr/local/mesos-1.6.1 # 有类似输出 configure: Build option summary: CXX: g++ CXXFLAGS: -g1 -O0 -Wno-unused-local-typedefs -std=c++11 CPPFLAGS: -I/usr/include/subversion-1 -I/usr/include/apr-1 -I/usr/include/apr-1.0 LDFLAGS: LIBS: -lz -lsvn_delta-1 -lsvn_subr-1 -lsasl2 -lcurl -lapr-1 -lrt # 编译(根据机器配置不一样,时间有所不同) make # 不说了。 ... ... ... # 有类似以下输出: running install_scripts creating build/bdist.linux-x86_64/wheel/mesos.scheduler-1.6.1.dist-info/WHEEL make[2]: Leaving directory `/usr/local/setup/mesos-1.6.1/build/src' make[1]: Leaving directory `/usr/local/setup/mesos-1.6.1/build/src' # 运行测试案例(可选,如果要跑后面的示例的话,该步骤不可省略) make check #安装 make install # 安装完会有类似以下输出 for name in libfixed_resource_estimator \ libload_qos_controller \ liblogrotate_container_logger; do \ for lib in `cd //usr/local/mesos-1.6.1/lib/mesos/modules && ls ${name}*`; do \ rm -f $lib; \ ln -s mesos/modules/$lib $lib; \ done; \ done make[4]: Leaving directory `/usr/local/setup/mesos-1.6.1/build/src' make[3]: Leaving directory `/usr/local/setup/mesos-1.6.1/build/src' make[2]: Leaving directory `/usr/local/setup/mesos-1.6.1/build/src' make[1]: Leaving directory `/usr/local/setup/mesos-1.6.1/build/src'
一些示例 Mesos捆绑了Java/Python/C++框架示例,框架二进制文件只有在运行mmake check之后才可用(运行这个命令才会编译示例框架),如上面的部分所描述的。 下面描述下例子使用。 # 进入编译目录 $ cd build # 开启 Mesos master (需要确保工作目录/var/lib/mesos存在,且有相关权限). # 如果不在本机访问,允许内网访问,可以先不指定--ip选项 $ ./bin/mesos-master.sh --ip=127.0.0.1 --work_dir=/var/lib/mesos # 开启 Mesos agent (需要确保工作目录/var/lib/mesos存在,且有相关权限). $ ./bin/mesos-agent.sh --master=127.0.0.1:5050 --work_dir=/var/lib/mesos
下面运行框架示例 # 访问web页面. $ http://127.0.0.1:5050 控制台大概界面如下图:
# 运行 C++ 框架 (任务运行成功后会退出). $ ./src/test-framework --master=127.0.0.1:5050 # 运行 Java 框架 (任务运行成功后会退出). $ ./src/examples/java/test-framework 127.0.0.1:5050 # 运行 Python 框架 (任务运行成功后会退出). $ ./src/examples/python/test-framework 127.0.0.1:5050 这边只跑了Java框架示例,会有如下输出: WARNING: Logging before InitGoogleLogging() is written to STDERR W0825 12:55:18.954269 39142 sched.cpp:1719] ******************************************* Scheduler driver bound to loopback interface! Cannot communicate with remote master(s). You might want to set 'LIBPROCESS_IP' environment variable to use a routable IP address. ******************************************* I0825 12:55:18.956892 39142 sched.cpp:232] Version: 1.6.1 I0825 12:55:18.966061 39163 sched.cpp:336] New master detected at master@127.0.0.1:5050 I0825 12:55:18.969393 39163 sched.cpp:351] No credentials provided. Attempting to register without authentication I0825 12:55:18.991411 39159 sched.cpp:749] Framework registered with 0d317686-be4b-42b8-9e3f-ff3e0068991f-0000 Registered! ID = 0d317686-be4b-42b8-9e3f-ff3e0068991f-0000 Received offer 0d317686-be4b-42b8-9e3f-ff3e0068991f-O0 with cpus: 4.0 and mem: 2750.0 Launching task 0 using offer 0d317686-be4b-42b8-9e3f-ff3e0068991f-O0 Launching task 1 using offer 0d317686-be4b-42b8-9e3f-ff3e0068991f-O0 Launching task 2 using offer 0d317686-be4b-42b8-9e3f-ff3e0068991f-O0 Launching task 3 using offer 0d317686-be4b-42b8-9e3f-ff3e0068991f-O0 Status update: task 2 is in state TASK_RUNNING Status update: task 1 is in state TASK_RUNNING Status update: task 0 is in state TASK_RUNNING Status update: task 3 is in state TASK_RUNNING Status update: task 2 is in state TASK_FINISHED Finished tasks: 1 Status update: task 1 is in state TASK_FINISHED Finished tasks: 2 Status update: task 0 is in state TASK_FINISHED Finished tasks: 3 Status update: task 3 is in state TASK_FINISHED Finished tasks: 4 Received offer 0d317686-be4b-42b8-9e3f-ff3e0068991f-O1 with cpus: 4.0 and mem: 2750.0 Launching task 4 using offer 0d317686-be4b-42b8-9e3f-ff3e0068991f-O1 Status update: task 4 is in state TASK_RUNNING Status update: task 4 is in state TASK_FINISHED Finished tasks: 5 I0825 12:55:20.585199 39160 sched.cpp:2013] Asked to stop the driver I0825 12:55:20.585676 39160 sched.cpp:1189] Stopping framework 0d317686-be4b-42b8-9e3f-ff3e0068991f-0000 I0825 12:55:20.589548 39142 sched.cpp:2013] Asked to stop the driver 另外,控制台可以看到Java示例框架:
相关主题 |