python 小说数据挖掘_python 数据挖掘篇四 小说数据挖掘实例_weixin_39701834的博客-程序员宅基地

技术标签: python 小说数据挖掘  

python 数据挖掘篇四 小说数据挖掘实例

Python 安装 python 学习 一 python 语法,及变量类型 python 学习 二 爬一个图片网站上 python 学习 二 02 爬一个图片网站,获得主链接网址,并保存 python 学习 二 03 爬一个图片网站 - 获得所有分页网址 python 学习 二 04 爬一个图片网站 - 解析文件,获得所有图片链接 python 学习 二 05 爬一个图片网站 - 下载图片链接 python 学习 二 06 爬一个图片网站 - 多线程方式下载 python 学习 三 01 再爬一个网站,几行代码,搞定分类类别 python 学习 三 02 再爬一个网站,获得所有分页 python 学习 三 03 再爬一个网站,根据分页,下载图片 python 学习 三 04 图片爬虫工程 - 组织框架 Python 爬虫 上篇 Python 爬虫 下篇 python 数据挖掘篇 一 结巴分词 python 数据挖掘篇 二 词云统计 python 数据挖掘篇 三 gensim 使用 python 数据挖掘篇四 小说数据挖掘实例 第四章 小说数据挖掘实例 搜索引擎 --- 给定文字,搜索书中与之相近的文字

示例,做一个书本的搜索引擎,输入以句话,输出与这句话最相近的段落

ab7653affab982b574eb7acc55df2e04.gif

ab7653affab982b574eb7acc55df2e04.gif

分三个阶段

1, 预处理阶段

2, 加载预处理好的字典,语料,模型,索引阶段

3, 查询阶段

预处理阶段:

ab7653affab982b574eb7acc55df2e04.gif

ab7653affab982b574eb7acc55df2e04.gif

加载阶段

ab7653affab982b574eb7acc55df2e04.gif

查询阶段

ab7653affab982b574eb7acc55df2e04.gif

Word2Vec 模型

这个模型也很有意思,可以查找与某个词相近,相反,推理关系.

ab7653affab982b574eb7acc55df2e04.gif

ab7653affab982b574eb7acc55df2e04.gif

总结:

之所以研究 gensim,是想做一个古典小说搜索引擎,和小说数据分析工具.打算将网站 www.gudianxiaoshuo.com 打造成古典小说搜索,知识挖掘的网站.

使用红楼梦做为分析对象,实现了搜索分析功能,但是也发现将预处理的信息保存到本地后,占用空间还是很大的,尤其是 lsi 语料竟然 100M,不知道还有没有更好的方法.

ab7653affab982b574eb7acc55df2e04.gif

项目地址:

https://github.com/gudianxiaoshuo

来源: http://www.jianshu.com/p/32477930b006

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/weixin_39701834/article/details/114913907

智能推荐

accp8.0转换教材第2章初识Mysql_weixin_30439131的博客-程序员宅基地

首先安装MySQL:一.单词部分:①networking网络②option选择③port端口④firewall防火墙⑤engine引擎⑥standard标准⑦character字符⑧collation校对⑨stirage存储create 创建 drop 删除 comment 评论 variables变量二.预习部分1.请写出创建和删除数据库的sql语句CR...

Arcgis:坐标系统极其转换_weixin_30610755的博客-程序员宅基地

1. ArcGIS中的坐标系统  ArcGIS中预定义了两套坐标系统,地理坐标系(Geographic coordinate system)和投影坐标系(Projectedcoordinate system)。  1.1 地理坐标系  地理坐标系 (GCS) 使用三维球面来定义地球上的位置。GCS中的重要参数包括角度测量单位、本初子午线和基准面(基于旋转椭球体)。地理坐标系统...

强化学习_weixin_30735745的博客-程序员宅基地

强化学习笔记(一)1 强化学习概述随着Alpha Go 的成功,强化学习(Reinforcement Learning,RL)成为了当下机器学习中最热门的研究领域之一。与常见的监督学习和非监督学习不同,强化学习强调智能体(agent)与环境(environment)的交互,交互过程中智能体需要根据自身所处的状态(state)选择接下来采取的动作(action),执...

winform小程序---猜拳小游戏_weixin_30621711的博客-程序员宅基地

因为学的时间不长,所以借鉴了一些资料做了这个小程序,大家共同学习,共同进步。感觉很有自信,世上无难事,只怕有心人。 1 using System; 2 using System.Collections.Generic; 3 using System.ComponentModel; 4 using System.Data; 5 using System.Drawin...

common.js_weixin_30852419的博客-程序员宅基地

/** 变量*/var G = { baseUrl: "", debug: "debug", //调试logger组件 browser: {}, //浏览器 platform: {}, //操作系统 errors: { //错误提醒 "-...

XPM转换与查看工具_weixin_30293135的博客-程序员宅基地

X PixMap (XPM)是一种基于ASCII编码的图像格式,在X Window系统中的应用十分广泛。她最初由位于法国Sophia Antipolis的Bull研究中心的Daniel Dardailler和Colas Nahaboo发明,后来Arnaud Le Hors对其进行了改进。XPM文件经常用于创建图标位图文件,支持“transparent color”功能。特点是文件格式简单,可以被任...

随便推点

php 操作word模板,phpword替换模板内容和解决中文乱码_李傲天的博客-程序员宅基地

本篇文章给大家分享的内容是phpword替换模板内容和解决中文乱码的问题,有需要的朋友可以看一下。好吧 先下载吧:下载地址:https://pan.baidu.com/s/1upup2rpLTVXIdJpGi9kK6A密码:qxsd手册 http://phpword.readthedocs.io/en/latest/search.html?q=setValue&check_keywords...

The 10 Best Neighborhoods in Seattle_weixin_34132768的博客-程序员宅基地

https://www.seattlemet.com/articles/2015/4/24/the-10-best-neighborhoods-in-seattle-may-2015ByDarren Davis4/24/2015 at 3:00pmPublished in theMay 2015issue ofSeattle Met2413...

8个动作帮你腰部快速塑形_weixin_30735745的博客-程序员宅基地

肥胖形成的原因多种多样,消灭肥胖的途径却往往殊途同归:积极的运动+合理饮食,这才是最健康的瘦身原则。男士的肥胖大多集中在腰部以上,因而腰部塑形就显得尤为重要。  第一组:仰卧起坐(一)  平躺于地,双手交叉置于胸前,双腿微弓,如一般仰卧起坐,起身然后躺下,重复数次。至于次数则可视个人体能来决定。体力较差或久未运动者,可借助于其他帮助,如借助衣柜抽屉勾住双脚,或请人帮忙按住脚背,以便起身...

arcgis api for javascript 学习(二) 发布并调用地图切片_weixin_30394333的博客-程序员宅基地

文章将从发布切片地图到调用切片地图整个过程都展示出来。(一)、切片地图的发布1、还是前面的arcgis展示的地图2、与发布动态地图前面的步骤是一样的 打开分享后,如图3、一切就绪后,到达缓存的页面4、注意红圈的部分,选择我们需要的类型,就是切片类型,以及切片的层数5、同时我们可以根据根目录继续缓存加载的跟踪,参看它缓存的情况6、完成切...

php内置函数分析之array_change_key_case()_weixin_30507269的博客-程序员宅基地

1 PHP_FUNCTION(array_change_key_case) 2 { 3 zval *array, *entry; 4 zend_string *string_key; 5 zend_string *new_key; 6 zend_ulong num_key; 7 zend_long change_to_upper...

用友网络董事长王文京为何出现在乌镇大会中?_weixin_33890499的博客-程序员宅基地

用友网络董事长兼CEO王文京站在了乌镇的舞台上。连续三届的世界互联网大会已成为全球科技的风向标。在第三届的大会中,国家领导人提出未来网络发展的建议;企业家针对热门技术如云计算、大数据、人工智能和虚拟现实的融合分享见解。在这一场国际性的盛会和舆论重地,互联网巨头腾讯、百度、阿里、小米等公司以及新贵今日头条、滴滴等都来了。用友网络也来了,第一次亮相乌镇。...

推荐文章

热门文章

相关标签