加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
Mynotebook.txt 19.39 KB
一键复制 编辑 原始数据 按行查看 历史
toshizozo 提交于 2021-05-10 21:10 . master
说明:
要使用 selenium 首先导入 webdriver
生成浏览器对象 driver = webdriver.PhantomJS()
driver.get(url)方法:加载指定页面,阻塞方式直到加载完成
driver.find_element_by_id(elemid)方法:获取页面指定 id 的标签
driver.title:页面标题
driver.page_source:页面源码
driver.get_cookies():获取页面 coolies
driver.save_screenshot(filename): 保存当前页面快照
driver.find_element_by_id("kw").send_keys("奇酷信息"):指定元素设置 value, 通常用于 input field
driver.find_element_by_id("su").click()模拟点击,通常用于按钮
driver.find_element_by_id("kw").clear():清除输入框内容
driver.quit():关闭浏览器
定位 UI 元素 (WebElements) 单个元素查找
find_element_by_name
find_element_by_id
find_element_by_xpath
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name
find_element_by_class_name
find_element_by_css_selector
# 多个元素查找
find_elements_by_name
find_elements_by_id
find_elements_by_xpath
find_elements_by_link_text
find_elements_by_partial_link_text
find_elements_by_tag_name
find_elements_by_class_name
find_elements_by_css_selector
# 按 id,name,xpath,link_text,partial_link_text,tag_name,class_name,css_selector 定位 UI 元素
# By ID
<div id="coolestWidgetEvah">...</div>
# 实现
element = driver.find_element_by_id("coolestWidgetEvah")
# ----------------------------- or ---------------------------------
from selenium.webdriver.common.by import By
element = driver.find_element(by=By.ID, value="coolestWidgetEvah")
# By Class Name
<div class="cheese">
<span>Cheddar</span>
</div>
<div>class="cheese">
<span> Gouda </span>
</div>
# 实现
cheeses = driver.find_elements_by_class_name("cheese")
# By Tag Name
<iframe src="..."></iframe>
By Name
<input name="cheese" type="text"/>
# 实现
cheese = driver.find_element_by_name("cheese")
# By Link Text
# &lt;a href="http://www.google.com/search?q=cheese"&gt;cheese&lt;/a&gt;
# 实现
cheese = driver.find_element_by_link_text("cheese")
# By Partial Link Text(部分链接文本)
# &lt;a href="http://www.google.com/search?q=cheese"&gt;search for cheese&lt;/a&gt;
# 实现
cheese = driver.find_element_by_partial_link_text("cheese")
# By CSS
<div id="food">
<span class="dairy">milk</span>
<span class="dairyaged">cheese</span>
</div>
# 实现
cheese = driver.find_element_by_css_selector("#food span.dairy.aged")
# By XPath
<input type="text" name="example" />
<input type="text" name="other" />
# 实现
inputs = driver.find_elements_by_xpath("//input")
鼠标动作链
在页面上模拟一些鼠标操 作 , 比如双击、右击、拖拽甚至按住不动等,可以通过导入ActionChains类实现
ActionChains 执行原理
当调用 ActionChains 的方法时,不会立即执行,而是会将所有的操作按顺序存放在一个队列里, 当你调用 perform()方法时,队列中的时间会依次执行。 有两种写法本质是一样的,ActionChains 都会按照顺序执行所有的操作。
# 链式写法
menu = driver.find_element_by_css_selector(".nav")
hidden_submenu = driver.find_element_by_css_selector(".nav #submenu1") ActionChains(driver).move_to_element(menu).click(hidden_submenu).perform()
# 分步写法
menu = driver.find_element_by_css_selector(".nav")
hidden_submenu = driver.find_element_by_css_selector(".nav #submenu1")
actions = ActionChains(driver)
actions.move_to_element(menu)
actions.click(hidden_submenu)
actions.perform()
# ActionChains 方法列表
click(on_element=None) # 单击鼠标左键
click_and_hold(on_element=None) # 点击鼠标左键,不松开
context_click(on_element=None) # 点击鼠标右键
double_click(on_element=None) # 双击鼠标左键
drag_and_drop(source, target) # 拖拽到某个元素然后松开
drag_and_drop_by_offset(source, xoffset, yoffset) # 拖拽到某个坐标然后松开
key_down(value, element=None) # 按下某个键盘上的键
key_up(value, element=None) # 松开某个键
move_by_offset(xoffset, yoffset) # 鼠标从当前位置移动到某个坐标
move_to_element(to_element) # 鼠标移动到某个元素
move_to_element_with_offset(to_element, xoffset, yoffset) # 移动到距某个元素(左 上角坐标)多少距离的位置
perform() # 执行链中的所有动作
release(on_element=None) # 在某个元素位置松开鼠标左键
send_keys(*keys_to_send) # 发送某个键到当前焦点的元素
send_keys_to_element(element, *keys_to_send) # 发送某个键到指定元素
# 代码示例
# 1.模拟点击
from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
from time import sleep
driver = webdriver.Chrome()
driver.implicitly_wait(10)
driver.maximize_window()
driver.get('http://sahitest.com/demo/clicks.htm')
# 单击按钮
click_btn = driver.find_element_by_xpath('//input[@value="click me"]')
# 双击按钮
doubleclick_btn = driver.find_element_by_xpath('//input[@value="dbl click me"]')
# 右键单击按钮
rightclick_btn = driver.find_element_by_xpath('//input[@value="right click me"]')
# 链式用法
ActionChains(driver).click(click_btn).double_click(doubleclick_btn).context_click(rightclick_btn).perform()
print(driver.find_element_by_name('t2').get_attribute('value'))
sleep(2)
driver.quit()
# 结果:
[CLICK][DOUBLE_CLICK][RIGHT_CLICK]
# 2.鼠标移
from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
from time import sleep
driver = webdriver.Chrome()
driver.implicitly_wait(10)
driver.maximize_window()
driver.get('http://sahitest.com/demo/mouseover.htm')
# 鼠标移动到此元素, 在下面的 input 框中会显示“Mouse moved”
write = driver.find_element_by_xpath('//input[@value="Write on hover"]')
# 鼠标移动到此元素, 会清空下面 input 框中的内容
blank = driver.find_element_by_xpath('//input[@value="Blank on hover"]')
result = driver.find_element_by_name('t1')
action = ActionChains(driver)
# 移动到 write,显示“Mouse moved”
action.move_to_element(write).perform()
print(result.get_attribute('value'))
action.move_to_element(blank).perform()
# 移动到距离当前位置(10,50)的点,与上句效果相同, 移动到 blank 上,清空
action.move_by_offset(10, 50).perform()
print(result.get_attribute('value'))
# 移动到距离 blank 元素(10,-40)的 点,可移动到 write 上
action.move_to_element_with_offset(blank, 10, -40).perform()
print(result.get_attribute('value'))
sleep(2)
driver.quit()
结果
Mouse moved
Mouse moved
# 3.拖拽
from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
from time import sleep
driver = webdriver.Chrome()
driver.implicitly_wait(10)
driver.maximize_window()
driver.get('http://sahitest.com/demo/dragDropMooTools.htm')
dragger = driver.find_element_by_id('dragger') # 被拖拽元素
item1 = driver.find_element_by_xpath('//div[text()="Item 1"]') # 目标元素 1
item2 = driver.find_element_by_xpath('//div[text()="Item 2"]') # 目标 2
item3 = driver.find_element_by_xpath('//div[text()="Item 3"]') # 目标 3
item4 = driver.find_element_by_xpath('//div[text()="Item 4"]') # 目标 4
action = ActionChains(driver)
action.drag_and_drop(dragger, item1).perform() # 1.移动 dragger 到目标 1
sleep(2)
action.click_and_hold(dragger).release(item2).perform() # 2.效果与上句相同,也能起到移动效果
sleep(2)
action.click_and_hold(dragger).move_to_element(item3).release().perform() # 3.效果与上两句相 同,也能起到移动的效果
sleep(2)
action.drag_and_drop_by_offset(dragger, 400, 150).perform() # 4.移动到指定坐标
action.click_and_hold(dragger).move_by_offset(400, 150).release().perform() # 5.与上一句相同,移 动到指定坐标
sleep(2) driver.quit()
# 一般用坐标定位很少,用上例中的方法 1 足够了,如果看源码,会发现方法 2 其实就是方法 1 中的 drag_and_drop()的实现。注意:拖拽使用时注意加等待时间,有时会因为速度太快而失 败。
# 4.按键
# 模拟按键有多种方法,能用 win32api 来实现,能用 SendKeys 来实现,也可以用 selenium 的WebElement 对象的 send_keys()方法来实现,这里 ActionChains 类也提供了几个模拟按键的方法。
from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
# 要想调用键盘按键操作需要引入 keys 包
from selenium.webdriver.common.keys import Keys
from time import sleep
driver = webdriver.Chrome()
driver.implicitly_wait(10)
driver.maximize_window()
driver.get('http://sahitest.com/demo/keypress.htm')
key_up_radio = driver.find_element_by_id('r1') # 监测按键升起
key_down_radio = driver.find_element_by_id('r2') # 监测按键按下
key_press_radio = driver.find_element_by_id('r3') # 监测按键按下升起
enter = driver.find_elements_by_xpath('//form[@name="f1"]/input')[1] # 输入框
result = driver.find_elements_by_xpath('//form[@name="f1"]/input')[0] # 监测结果
# 监测 key_down
key_down_radio.click()
ActionChains(driver).key_down(Keys.CONTROL, enter).key_up(Keys.CONTROL).perform() print(result.get_attribute('value'))
# 监测 key_up
key_up_radio.click()
enter.click()
ActionChains(driver).key_down(Keys.SHIFT).key_up(Keys.SHIFT).perform()
print(result.get_attribute('value'))
# 监测 key_press
key_press_radio.click()
enter.click()
ActionChains(driver).send_keys('a').perform()
print(result.get_attribute('value'))
driver.quit()
# 结果:
key downed charCode=[0] keyCode=[17] CTRL key upped charCode=[0] keyCode=[16] NONE key pressed charCode=[97] keyCode=[0] NONE
# 5.下拉框的处理
# 有时候我们会碰到 &lt;select&gt; &lt;/select&gt; 标签的下拉框。直接点击下拉框中的选项不一定可行。
Selenium 专门提供了 Select 类来处理下拉框完成这些事情
Select 提供了三种选择方法:
# 全部取消选择:
select.deselect_all()
# Select 提供了相应属性,选择了选项之后,查看所选项
options ——提供所有的选项的列表,其中都是选项的 WebElement 元素
all_selected_options ——提供所有被选中的选项的列表,其中也均为选项的 WebElement 元素 first_selected_option ——提供第一个被选中的选项,也是下拉框的默认值
# 范例
from selenium import webdriver
from selenium.webdriver.support.ui import Select
driver = webdriver.Chrome()
driver.get('http://sahitest.com/demo/selectTest.htm')
s1 = Select(driver.find_element_by_id('s1Id')) # 实例化 Select
s1.select_by_index(1) # 选择第二项选项:o1
print(s1.first_selected_option.text) s1.select_by_value("o2") # 选择 value="o2"的项 print(s1.first_selected_option.text)
s1.select_by_visible_text("o3") # 选择 text="o3"的值,即在下拉时我们可以看到的文本
print(s1.first_selected_option.text) driver.quit()
# 弹窗处理
# 当你触发了某个事件之后,页面出现了弹窗提示,处理这个提示或者获取提示信息方法如下:
alert = driver.switch_to_alert()
# 用 switch_to_alert 先定位到弹窗,然后使用一系列方法来操作: accept - 点击【确认】按钮
# dismiss - 点击【取消】按钮(如有按钮) send_keys - 输入内容(如有输入框)
from selenium import webdriver
import time
driver = webdriver.Chrome()
driver.get("http://sahitest.com/demo/alertTest.htm")
driver.find_element_by_name("b1").click()
time.sleep(1)
al = driver.switch_to_alert() time.sleep(1)
al.accept()
# switch_to_alert()是旧写法,新写法应该是 switch_to.alert(),但是会报错,猜测是版本问题。
# 页面切换
# 一个浏览器肯定会有很多窗口,切换窗口的方法如下:
driver.switch_to.window("this is window name")
# 也可以使用 window_handles 方法来获取每个窗口的操作对象。例如:
for handle in driver.window_handles:
driver.switch_to_window(handle)
# 页面前进和后退
操作页面的前进和后退功能:
from selenium import webdriver
import time
driver = webdriver.Chrome()
driver.implicitly_wait(3)
# seconds
first_url = 'http://www.baidu.com/'
driver.get(first_url)
print(driver.title) # 第一个页面
driver.find_element_by_link_text("新闻").click()
driver.switch_to_window(driver.window_handles[0])
print(driver.title) # 第一个页面
browser.switch_to_window(browser.window_handles[1])
browser.title # 最后一个页面
time.sleep(2)
driver.back() # 从百度新闻后退到百度首页
print(driver.title) # 第一个页面
time.sleep(2)
driver.forward() # 百度首页前进到百度新闻
print(driver.title) # 第一个页面
time.sleep(2)
driver.quit()
# 窗口最大化
driver.maximize_window()
# Cookies
get_cookies()
delete_all_cookes()
add_cookie()
# 获取页面每个 Cookies 值,用法如下
for cookie in driver.get_cookies():
print("%s -> %s" % (cookie['name'], cookie['value']))
# 删除 Cookies:
# By name
driver.delete_cookie("CookieName")
# all
driver.delete_all_cookies()
# 范例-获取 cookie
from selenium import webdriver
driver = webdriver.Chrome()
driver.get("http://member.rltxtest.xyz/login/login.html")
driver.get("http://www.youdao.com")
# 获取 cookie 信息
cookies = driver.get_cookies()
# 打印获取的 cookies 信息
print(cookies)
driver.quit()
# 范例-添加 cookie
from selenium import webdriver
driver = webdriver.Chrome()
driver.get("http://member.rltxtest.xyz/login/login.html")
driver.get ("http://www.youdao.com")
# 向 cookie 中 name 和 value 中添加回话信息,
driver.add_cookie({'name': 'key-aaaaaaa','value': 'value-bbbbb'})
# 遍历 cookie 中 name 和 value 信息并打印对应的信息,并包括添加对应的信息
for cookie in driver.get_cookies():
print("%s->%s" % (cookie['name'], cookie['value']))
driver.quit ()
# 选项卡管理
# 通过执行 js 命令实现新开选项卡 window.open() 不同的选项卡是存在列表里 browser.window_handles 通过 browser.window_handles[0]就可以操作第一个选项卡
import time
from selenium import webdriver
browser = webdriver.Chrome()
browser.get('https://www.baidu.com')
browser.execute_script('window.open()')
print(browser.window_handles)
browser.switch_to_window(browser.window_handles[1])
browser.get('https://www.taobao.com')
time.sleep(1)
browser.switch_to_window(browser.window_handles[0])
browser.get('https://python.org')
# 执行 JavaScript
# 这是一个非常有用的方法,这里就可以直接调用 js 方法来实现一些操作, 下面的例子是通过登录知乎然后通过 js 翻到页面底部,并弹框提示
from selenium import webdriver
browser = webdriver.Chrome()
browser.get("http://www.zhihu.com/explore")
print(browser.page_source)
browser.execute_script('window.scrollTo(0, document.body.scrollHeight)')
browser.execute_script('alert("To Bottom")')
# 获取元素属性
get_attribute('class')
from selenium import webdriver
browser = webdriver.Chrome()
url = 'https://www.zhihu.com/explore' browser.get(url)
logo = browser.find_element_by_id('zh-top-link-logo')
print(logo)
print(logo.get_attribute('class'))
# 获取文本值 text
from selenium import webdriver
browser = webdriver.Chrome()
url = 'https://www.zhihu.com/explore' browser.get(url)
input = browser.find_element_by_class_name('zu-top-add-question')
print(input.text)
# 获取 ID,位置,标签名 id location tag_name size
from selenium import webdriver
browser = webdriver.Chrome()
url = 'https://www.zhihu.com/explore'
browser.get(url)
input = browser.find_element_by_class_name('zu-top-add-question')
print(input.id)
print(input.location)
print(input.tag_name)
print(input.size)
# 页面等待
# 注意:这是非常重要的一部分!!
# 现在的网页越来越多采用了 Ajax 技术,这样程序便不能确定何时某个元素完全加载出来了。如 果实际页面等待时间过长导致某个 dom 元素还没出来, 但是你的代码直接使用了这个 WebElement,那么就会抛出 NullPointer 的异常。
# 为了避免这种元素定位困难而且会提高产生 ElementNotVisibleException 的概率。所以 Selenium 提供了两种等待方式,一种是隐式等待,一种是显式等待。 隐式等待是等待特定的时间,显式等待是指定某一条件直到这个条件成立时继续执行。
# 显式等待
# 显式等待指定某个条件,然后设置最长等待时间。如果在这个时间还没有找到元素,那么便会抛 出异常了。
from selenium import webdriver
from selenium.webdriver.common.by import By
# WebDriverWait 库,负责循环等待
from selenium.webdriver.support.ui import WebDriverWait
# expected_conditions 类,负责条件触发
from selenium.webdriver.support import expected_conditions as EC
driver = webdriver.Chrome()
driver.get("http://www.xxxxx.com/loading")
try:
# 页面一直循环,直到 id="myDynamicElement" 出现
element = WebDriverWait(driver, 10).until( EC.presence_of_element_located((By.ID,"myDynamicElement")))
finally:
driver.quit()
# 如果不写参数,程序默认会 0.5s 调用一次来查看元素是否已经生成,如果本来元素就是存在的, 那么会立即返回。 下面是一些内置的等待条件,你可以直接调用这些条件,而不用自己写某些等待条件了。
title_is 标题是某内容
title_contains 标题包含某内容
presence_of_element_located 元素加载出,传入定位元组,如(By.ID, 'p')
visibility_of_element_located 元素可见,传入定位元组
visibility_of 可见,传入元素对象
presence_of_all_elements_located 所有元素加载出
text_to_be_present_in_element 某个元素文本包含某文字
text_to_be_present_in_element_value 某个元素值包含某文字
frame_to_be_available_and_switch_to_it frame 加载并切换
invisibility_of_element_located 元素不可见
element_to_be_clickable 元素可点击
staleness_of 判断一个元素是否仍在 DOM,可判断页面是否已经刷新
element_to_be_selected 元素可选择,传元素对象
element_located_to_be_selected 元素可选择,传入定位元组
element_selection_state_to_be 传入元素对象以及状态,相等返回 True,否则返回 False element_located_selection_state_to_be 传入定位元组以及状态,相等返回 True,否则返回 False
alert_is_present 是否出现 Alert
# 隐式等待
# 隐式等待比较简单,就是简单地设置一个等待时间,单位为秒。
from selenium import webdriver
driver = webdriver.Chrome()
driver.implicitly_wait(10) # seconds
driver.get("http://www.xxxxx.com/loading")
myDynamicElement = driver.find_element_by_id("myDynamicElement")
# 当然如果不设置,默认等待时间为 0。
# 无界面浏览器
opt = webdriver.ChromeOptions() # 创建 chrome 参数对象
opt.set_headless() # 把 chrome 设置成无头模式,不论 windows 还是 linux 都可以,自动适配对 应参数
driver = webdriver.Chrome(options=opt) # 不制定 options 选项则是普通有头浏览器
代理 ip 的使用
ip = '123.157.67.30:34942'
chome_options = webdriver.ChromeOptions()
chome_options.add_argument(('--proxy-server=http://' + ip))
url = 'http://www.gsxt.gov.cn/index.html'
driver = webdriver.Chrome(chrome_options=chome_options)
driver.get(url)
time.sleep(2)
print(driver.page_source)
driver.close()
作者:5onghua
链接:https://www.jianshu.com/p/f68ae64a3bae
来源:简书
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化