栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

StoneDT开源舆情系统大数据技术栈介绍

StoneDT开源舆情系统大数据技术栈介绍

我们目前开源的 舆情系统 分为3个部分,整个系统使用了多种开源技术组件和开源框架,涵盖涉及技术领域广泛,例如:分布式计算、大数据、人工智能、数据中台、数据挖掘、深度学习、java和python的大量实际开发场景案例。

所谓,取之于开源,用之于开源,我们把整套系统开源出去,回馈给技术社区。同时,我们也会逐步的讲解,在这个开源 舆情系统 中我们是如何使用这些技术的,以及在使用中遇到的各种问题和工程师们的解决方案。

数据采集

开发平台:Java EE & SpringBoot爬虫框架:Spider-flow & WebMagic & HttpClientAPP爬虫:Xposed框架URL仓库:Redis网页渲染解析:Jvppeteer & Playwright(微软开源)web应用服务器:Nginx & Tomcat储存任务发送:Kafka & Zookeeper抓取任务发送:RabbitMQ配置管理:MySQL前端展示:Bootstrap & VUE 数据处理

开发框架:SpringBoot开发语言:Java JEE数据暂存:MySQL数据索引:Redis深度学习:PaddlePaddle自然语言处理:HaNLP & THUCTC数据处理和储存任务发送:Kafka & Zookeeper数据中台:自研 & DataEase 数据初始化:集成FlyWay,自动初始化MySQL数据总线:RockAPI (进行了二次开发) 数据分析

数据库:MySQL数据检索:Elasticsearch中文分词器:IK分词相似度计算:Clickhouse数据同步:DataX文章储存:Mongodb数据缓存:Redis消息队列:kafak & rabbitMQ开发框架:SpringBoot开发语言:Java JEE图表展示:Apache  Echarts & anyCharts

项目地址

   开源项目地址:https://gitee.com/stonedtx/yuqing


在线体验

   环境地址:http://open-yuqing.stonedt.com
   用户名:13900000000
   密码:stonedt

原文地址:StoneDT开源舆情系统大数据技术栈介绍

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/775777.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号