![Hadoop大数据技术开发实战](https://wfqqreader-1252317822.image.myqcloud.com/cover/392/27563392/b_27563392.jpg)
2.1 系统环境配置
本节讲解在安装软件及搭建集群之前对CentOS 7系统环境的一些配置操作。
2.1.1 新建用户
本书中使用1.3节安装操作系统时新建的hadoop用户进行后续的操作,读者若想使用其他用户,可按照下面的步骤新建用户。
例如,新建用户tom:
(1)使用“su -”命令切换为root用户,然后执行以下命令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4265.jpg?sign=1739365209-Ti8aqOTltGkry4NPgOE5QaOsumou5MbL-0-7d3257093db024cd31783014a9a5560d)
(2)执行以下命令,设置用户tom的密码:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4272.jpg?sign=1739365209-lUr6r86gQgEHI2JLTmecX1ds2MSUQDM9-0-92502d39b725322ac5fd89a38f10c7b9)
到此,用户tom新建成功。
2.1.2 修改用户权限
为了使普通用户可以使用root权限执行相关命令(例如,系统文件的修改等),而不需要切换到root用户,可以在命令前面加入指令sudo。文件/etc/sudoers中设置了可执行sudo指令的用户,因此需要修改该文件,添加相关用户。
例如,使hadoop用户可以执行sudo指令,操作步骤如下:
使用“su -”命令切换为root用户,然后执行以下命令,修改文件sudoers:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4281.jpg?sign=1739365209-6ShQD1WbNUdE0r6MgYWC1uiy6MwKugOP-0-ebdec2e68236ad42778d72101e4d7a32)
在文本root ALL=(ALL) ALL的下方加入以下代码,使hadoop用户可以使用sudo指令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4288.jpg?sign=1739365209-DBmiPdnhPauy6t2dSgAd7SXnsIgxrjTS-0-3942606c5ed7fb83b42cfd437f16717b)
执行sudo指令对系统文件进行修改时需要验证当前用户的密码,默认5分钟后密码过期,下次使用sudo需要重新输入密码。如果不想输入密码,则把上方的代码换成以下内容即可:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4295.jpg?sign=1739365209-7NiMNGCvbWASay0N06ZQUmZOXIi4X7jb-0-b2a0af407ef4344be773f427fbb71ed7)
执行exit命令回到hadoop用户,此时使用root权限的命令只需要在命令前面加入sudo即可,无须输入密码。例如,以下命令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4302.jpg?sign=1739365209-Uib8cHhSIClt3Yk9qmnZlp8tIhphggdB-0-aa7b3482bb46e59fb0a417fb71f5a72c)
注意
安装操作系统时创建的管理员用户hadoop,默认可以执行sudo指令,但需要验证hadoop用户的密码。可对其按照上面的步骤配置无须密码使用sudo指令。
2.1.3 关闭防火墙
集群通常都是内网搭建的,如果内网开启防火墙,内网集群通信则会受到防火墙的干扰,因此需要关闭集群中所有节点的防火墙。
执行以下命令关闭防火墙:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4355.jpg?sign=1739365209-Szkad43uHPe39FfaqplF01lMrZFh3FV8-0-294f6d04509b465c96e9726cd808df96)
然后执行以下命令,禁止防火墙开机启动:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4362.jpg?sign=1739365209-GoUXsc7M1rOVw5briA7gdWgXhEODGuG6-0-83dc5bfef9a25592171ca323c17abdcb)
若需要查看防火墙是否已经关闭,可以执行以下命令,查看防火墙的状态:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4369.jpg?sign=1739365209-JfRmW2z6Id0glYKhZnhX8Ky6q1iUonpg-0-134c9d668ed0261c425f197c56a57d29)
此外,开启防火墙的命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4376.jpg?sign=1739365209-ym7x7evggcBzYCGbJJR9w6i8C21VCOtX-0-d1d650b0704ed6df279e79be05de6327)
2.1.4 设置固定IP
为了避免后续启动操作系统后,IP地址改变了,导致集群间通信失败,节点间无法正常访问,需要将操作系统的IP状态设置为固定IP,具体操作步骤如下。
1. 查看VMware网关IP
单击VMware菜单栏中的【编辑】/【虚拟网络编辑器】,在弹出的【虚拟网络编辑器】窗口的上方表格中选择最后一行,即外部连接为【NAT模式】,然后单击下方的【NAT设置】按钮,如图2-1所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4381.jpg?sign=1739365209-YYnItNNUUHTUeXMBmfi8V1hfnncuZTt0-0-36c4400f07b9c72ef2d6fc944d84a7ea)
图2-1 选择外部NAT模式
在弹出的【NAT设置】窗口中,查看VMware分配的【网关IP】。可以看到,本例中的网关IP为192.168.170.2(网段为170),如图2-2所示。
需要注意的是,后续给VMware中的操作系统设置IP时,网关IP应与图2-2中的网关IP保持一致。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P32_4397.jpg?sign=1739365209-5lAVeYwaqjm7cpL6H3eNHJUwersx2L9T-0-8001b9519a0da0a1d7838e5027d04169)
图2-2 查看VMware网关IP
2. 配置系统IP
CentOS 7系统IP的配置方法有两种:桌面配置方式和命令行配置方式,下面分别进行讲解。
(1)桌面配置方式。
单击系统桌面右上角的倒三角按钮,在弹出的窗口中单击【有线设置】,如图2-3所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P32_4401.jpg?sign=1739365209-zVJqnjWuzqk131VKKXntTAZQDvux8SWo-0-24ae201bd0031314372f924dc140a349)
图2-3 系统有线网络设置
在弹出的窗口中单击下方的【添加配置】按钮,如图2-4所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P33_4417.jpg?sign=1739365209-tWJmC1EZVJzMkyRJUyWgQDmk02Sq1gH6-0-d2a7dd8b977ab1d6356e81120ee47744)
图2-4 添加网络配置
在弹出的【网络配置】窗口中,左侧选择【IPv4】,右侧的【地址】选择【手动】,如图2-5所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P33_4428.jpg?sign=1739365209-Lnoil6XtZT8Ik5E82vaOHyNP9i7xIyMh-0-c008fdff698ff0bec3a6248bd5fe5aba)
图2-5 网络连接信息配置界面
接着输入IP地址、网络掩码、网关和DNS服务器信息。IP地址可以自定义,范围在1~254之间,IP地址的网段应与网关一致,此处将IP地址设置为192.168.170.133。输入完毕后单击【添加】按钮,如图2-6所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4442.jpg?sign=1739365209-FylI8DBtU5IKqp9aulAQBbcIFv2S2utA-0-9bcb7e9cd6e3725e56a7799dcbc10c27)
图2-6 填写网络配置信息
(2)命令行配置方式。
在系统终端命令行窗口执行以下命令,修改文件ifcfg-ens33:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4457.jpg?sign=1739365209-Oj9LzcWqWDCeQMng5UIBUbhbXu0bJ3NB-0-7d9fa6db38ac303d2290c40859ccc15a)
完整修改后的内容如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4464.jpg?sign=1739365209-KYA7im4JsTTTuTFTitwe0TsTzqp7LFPi-0-70a97cd4d2bc2625d19abb8a0643c07c)
上述内容中,实线框标注的是修改的内容,虚线框标注的是添加的内容。
需要修改的属性及解析如下:
- BOOTPROTO:值static表示静态IP(固定IP),默认值是dhcp,表示动态IP。
- ONBOOT:yes表示开机启用本配置。
需要添加的属性及解析如下:
- IPADDR:IP地址。
- NETMASK:子网掩码。
- GATEWAY:默认网关。虚拟机安装的话,通常是2,即VMnet8的网关设置。
- DNS1:DNS 配置。虚拟机安装的话,与网关一致。若需要连接外网,需要配置DNS。
- DNS2:网络运营商公众DNS,此处也可省略。
修改完成后执行以下命令,重启网络服务,使修改生效:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4619.jpg?sign=1739365209-qXwniDwKWPIquEojb6g3S5KmMXC76fMI-0-ceeda212c1fcc11b48bc2e8188b30e6a)
重启完成后,可以通过ifconfig命令或者以下命令,查看改动后的IP:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4626.jpg?sign=1739365209-WLj9FzVlvVfT80mwVVaFpbvGIP3y5vzw-0-b15ec70e405ff08e6496a5c3a6b9be65)
在输出的信息中,若网卡ens33对应的IP地址已显示为设置的地址,说明IP修改成功,如图2-7所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4629.jpg?sign=1739365209-HTurd4IoFreO0xReedclznvLDQqK1vAp-0-f3e987cad6e6b9d384c2962550753544)
图2-7 查看系统IP地址
3. 测试本地访问
在本地Windows系统打开cmd命令行窗口,使用ping命令访问虚拟机中操作系统的IP地址,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4643.jpg?sign=1739365209-IohjAZoWZCNLkuOiaOqfee75lc1ATfr0-0-f956d27668fc0fe95eb4afe78cbce321)
若能成功返回数据,说明从本地Windows可以成功访问虚拟机中的操作系统,便于后续从本地系统进行远程操作。
2.1.5 修改主机名
在分布式集群中,主机名用于区分不同的节点,方便节点之间相互访问,因此需要修改主机的主机名。
具体操作步骤如下:
(1)使用hadoop用户登录系统,进入系统的终端命令行,输入以下命令,查看主机名:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4667.jpg?sign=1739365209-SEIVyQEfdV8q0BOkL7s4iHaFyq4BLbLj-0-93dfc15e36fffd5d0a617e85665d3912)
从输出信息中可以看到,当前主机的默认主机名为localhost.localdomain。
(2)执行以下命令,设置主机名为centos01:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4680.jpg?sign=1739365209-Rh30tIgEv0CXHAeb4zNqDfwe6FGjuaCx-0-28a45931ed9fcb331c641fd13438255f)
此时系统的主机名已修改为centos01,但是重启系统后修改将失效,要想永久改变主机名,需要修改/etc/hostname文件。
执行以下命令,修改hostname文件,将其中的默认主机名改为centos01:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4687.jpg?sign=1739365209-8GswWDKcY7uteWRiEtLarMNxlpjjA2hA-0-6f387480961eb2b8aec63bf4a7e3e7eb)
(3)执行reboot命令,重启系统使修改生效。
需要注意的是,修改主机名后需要重启操作系统才能生效。
2.1.6 新建资源目录
在目录/opt下创建两个文件夹softwares和modules,分别用于存放软件安装包和软件安装后的程序文件,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4696.jpg?sign=1739365209-8yi8W2e7ggD0quaU1hTW2iB9gRULwbSR-0-99ddf202ae43118d25f6faf47d13753a)
将目录/opt及其子目录中所有文件的所有者和组更改为用户hadoop和组hadoop,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4709.jpg?sign=1739365209-FDwffvMHUOSGCdMmUNu6cF7X2CkxykwP-0-5f9d56303f4f4716a32157be982a130c)
查看目录权限是否修改成功,命令及输出信息如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4716.jpg?sign=1739365209-CaJ7brQkXBHZUyY7HcCjBWjVgXLn4JuH-0-5e5b558557bbf4ae78c33db4f3003214)