发源地云采集引擎是由发源地团队研发的一套开源分布式/去中心化云采集机器人节点引擎,致力于让用户快捷挖掘大数据矿山背后的价值! 发源地云采集引擎集数据采集、清洗、去重、加工于一体的互联网WEB/APP数据采集引擎,支持本地化私有部署,可以打破数据孤岛,快速搭建属于自己的大数据云采集/爬虫系统。用户可以低成本、高效率完成网页中文本,图片等资源信息的采集,并进行过滤加工,挖掘出精准所需的数据,让数据以结构化的文件包、采集规则算法或API接口方式输出,同时可以选择发布到发源地大数据交易平台进行交易,或导出为Excel、CSV、SQL等格式的文件保存在本地。
- 国内首款开源云采集引擎:无需安装任何软件程序或浏览器插件
- 海量免费规则:机器学习并覆盖90%网站及APP内数据采集规则
- 数据/规则交易:支持源规则及数据的交易,让数据更有价值
- 开放API接口:云端标准化服务API输出,助您大数据轻松落地
- 工具化平台:数据采集、数据存储及数据应用的完整闭环
- 脚本化引擎:支持自定义PHP脚本配置,实现更智能的机器人
- 多扩展字段:支持50个信息字段采集,多维度获取数据
- 数据安全:内置多重数据过滤模块,同时支持SQL/XSS过滤方案
- 分布式采集:开源分布式采集系统,有效提升云采集效率
- 秒级同步:即时高效的自动化分布式平台,数据即刻获取
- 私有化部署:支持多服务器私有/本地部署,数据本地化存储
- 全球高匿名节点:5000+高匿名节点,采集不再受到IP访问限制
- 文章内容发布/编辑/管理;
- 文章分类添加/编辑/管理;
- 文章标签添加/编辑/管理;
- 支持文件(图片,视频,文档等)云存储上传/显示;
- 支持采集数据本地化存存储;
- 用户角色/权限/菜单管理设置;
- 控制台数据统计。
- 数据源的发布和管理:创建,复制,导入,导出,运行,调试等;
- 采集数据的预览,导出,API调用;
- 网站设置:基本信息,云帐号设置,SEO信息;
- 会员管理:新增,编辑等。
nginx下配置www主机域名主目录设置为[根目录]或[public目录](推荐配置后者)。
以下目录须设置为可写操作权限
- runtime/
- data/
- app/
发源地隶属于上海连源信息科技有限公司旗下品牌。核心团队由来自BAT的互联网高管与专家组成。 发源地大数据交易平台作为国内首个基于人工智能AI技术驱动的大数据交易平台,支持海量数据的分布式采集、计算及处理,从而以机器学习推动数据交易发展,让数据价值最大化。互联网开放数据、企业内部数据通过众包UGC模式采集/接入,进行清洗、过滤、脱敏处理后再交易,以数据和算法规则等形态沉淀在数据交易市场,满足企业对数据分析、数据运营及精准营销等方面的需求。
本系统遵循Apache2开源协议发布,并提供免费使用。
本项目包含的第三方源码或二进制文件遵循原版权标注。
发源地® 商标和著作权所有者为上海连源信息科技有限公司。
版权所有Copyright © 2015-2018 by 发源地 (http://www.finndy.com) All rights reserved。