我正在尝试在 Mac OSX 上用 Python 制作网络抓取工具,我正在测试的一个示例是从 MyFonts 页面(例如 here)加载标签和图像。最初我使用的是 BeautifulSoup,但我注意到该网站最初加载的是“blank.png”,而不是我试图抓取的字体图像,然后用 js 将其替换为“真实”图像。 我正在尝试使用 Selenium,是否可以使用 webdriverwait 来监听 img src 中的变化,类似于下面的示例,但不是通过 ID 或类?
ff = webdriver.Firefox()
ff.get("http://www.myfonts.com/fonts/fort-foundry/gin/")
try:
element = WebDriverWait(ff, 10).until(EC.presence_of_element_located((By.ID, "myDynamicElement")))
finally:
ff.quit()
理想情况下,这应该等待 not img src="*/blank.png"因为该元素不会更改类或获得一致的名称。还是我应该等到页面完全加载完毕?刮刀必须经过很多这样的过程,所以我尽量让它保持相当快。
我是 Python 的新手,所以非常感谢任何帮助。
请您参考如下方法:
首先,确保你所做的是合法的:Legal page .
等待至少加载一个字体样本,然后继续提取:
# wait for at least one font sample to be loaded
wait = WebDriverWait(ff, 10)
wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, "#overview_samples .search-result-item")))
# get font sample urls
for sample in ff.find_elements_by_css_selector("#overview_samples .search-result-item .sample .fontsample[title]"):
print(sample.get_attribute("src"))
打印:
http://samples.myfonts.net/e_91/u/e7/19061adcc0c9ac025d0414e5ff11a1.gif
http://samples.myfonts.net/a_91/u/e5/4d795cdae0cb99d1424b13020d0f6e.gif
...
http://samples.myfonts.net/b_92/u/2c/4c21ddeb53f19f109306746dac6b24.gif
