以文本方式查看主题

-  课外天地 李树青  (http://www.njcie.com/bbs/index.asp)
--  信息检索原理课件  (http://www.njcie.com/bbs/list.asp?boardid=16)
----  [转帖]雅虎宣布将 Web 爬虫工具 Anthelion 开源  (http://www.njcie.com/bbs/dispbbs.asp?boardid=16&id=1617)

--  作者:admin
--  发布时间:2015/12/22 6:01:10
--  [转帖]雅虎宣布将 Web 爬虫工具 Anthelion 开源

雅虎宣布开源了自家的网页爬虫工具 —— Anthelion。Anthelion 是雅虎用来爬取 HTML 中的语法结构数据的网络爬虫。然而对于雅虎来说,网络爬虫其实一直是处于非常核心的位置。其地位甚至高于雅虎的许多其他的核心应用,比如 Yahoo Mail, Yahoo Finance, Yahoo Messenger, Flickr, 和 Tumblr 等。 毫无疑问,Anthelion 的开源对雅虎在 web 搜索领域的竞争力提升意义重大。

去年在上海的一次会议中,雅虎就公布了 Anthelion 的很多细节,会议中提到,Anthelion最初致力于爬取嵌入HTML网页中的语义数据。例如:microdata 、microformats 和 RDFa 等。在这次会议上同时还提到了很多关于 Anthelion 爬虫实现的技术。

Anthelion 的代码现在以 Apache 开源授权协议托管到 GitHub:https://github.com/yahoo/anthelion,感兴趣的朋友可以直接下载。