java处理中文字符串_Java实现读取文章中重复出现的中文字符串

在上个星期阿里巴巴一面的时候&＃xff0c;最后面试官问我如何把一篇文章中重复出现的词或者句子找出来&＃xff0c;当时太紧张&＃xff0c;答的不是很好。今天有时间再来亲手实现一遍。其实说白了也就是字符串的处理&＃xff0c;所以难度并不是很大。

以下是代码和运行效果&＃xff1a;

实现方法&＃xff1a;

import java.io.*;

import java.util.*;

/**

* Created by chunmiao on 17-3-20.

*/

public class ReadArticle {

//读取文件名称

private String filename;

//读取段落

private ArrayList result &＃61; new ArrayList<>();

//最小字长(两个字以上进行匹配)

private final int MINSIZE &＃61; 2;

//重复词储存

HashSet set;

public ReadArticle(String filename, HashSet set) {

this.filename &＃61; filename;

this.set &＃61; set;

}

public void createData() throws IOException {

String r;

//读取文章内容

BufferedReader in &＃61; new BufferedReader(new FileReader(new File(filename).getAbsoluteFile()));

try {

while ((r &＃61; in.readLine()) !&＃61; null) {

//消除不必要的标点符号

r &＃61; r.replaceAll("\\s&＃43; |“|\\[|‘|《|　*|", "").trim();

//留下” &＃xff0c; 。 。” ”。 ”&＃xff0c; &＃xff1f; 》 -等作为划分句子的分割符标示

Collections.addAll(result, r.split("&＃xff0c;|(。”|”(。|&＃xff0c;)|。)|(\\])|”|&＃39;|&＃xff1f;|:|》|-"));

}

}finally {

in.close();

}

//对文章内容进行遍历找出重读出现的句子或者是词语

for (int i &＃61; 0 ; i

for (int j &＃61; 0 ; j

//将重复出现的词语保存到set集合里面

set.addAll(getSameCharacter(result.get(i), result.get(j &＃43; i &＃43; 1)));

}

}

}

private ArrayList getSameCharacter(String a1, String a2){

String maxS;

String minS;

//短句遍历开始处

int start &＃61; 0;

//词的长度最短为两个字长

int range &＃61;2;

//设定短句和长句s,使得遍历更加快捷

if (a1.length() <&＃61; a2.length()){

maxS &＃61; a2;

minS &＃61; a1;

}else {

maxS &＃61; a1;

minS &＃61; a2;

}

String result &＃61; "";

ArrayList list &＃61; new ArrayList();

//防止substring时超出范围

while (start &＃43; range <&＃61; minS.length()) {

//如果句子或词在对象里面&＃xff0c;则找出相应的句子或词保存在list里面

if (maxS.indexOf(minS.substring(start, start &＃43; range)) !&＃61; -1) {

//获取最长句子,删除短句子

list.remove(result);

list.add(minS.substring(start, start &＃43; range));

result &＃61; minS.substring(start, start &＃43; range);

range&＃43;&＃43;;

continue;

}

range &＃61; MINSIZE;

start&＃43;&＃43;;

}

return list;

}

}

测试代码&＃xff1a;

import java.io.IOException;

import java.util.HashSet;

public class Main {

public static void main(String[] args) throws IOException {

String filename &＃61; "test.txt";

HashSet result &＃61; new HashSet();

ReadArticle read &＃61; new ReadArticle(filename,result);

read.createData();

System.out.println("这篇文章中的重复出现的词或句子有以下几个词或句子:\n");

for (String s : result){

System.out.println(s);

}

}

}

读取的文章内容&＃xff1a;

正则匹配结果(去掉多余字符)&＃xff1a;

字符串转换成ArrayList:

最终处理结果&＃xff1a;

其实从上面的结果可以看出。单纯的操控字符串并不能判断它是否是一个完整的词和句&＃xff0c;应该还要配合数据库字典来匹配上面的结果&＃xff0c;从而找出真正的词和句

以上就是本文的全部内容&＃xff0c;希望本文的内容对大家的学习或者工作能带来一定的帮助&＃xff0c;同时也希望多多支持脚本之家&＃xff01;