1、将句子按照某种特性的词,分开,比如将字符串按照“ ”,“;”“#”“tab”等断开成小句子,代码如下:
int Sentence_Split(const char* str, std::vector<std::string>* vectWords) { char seps[]=" ;# ";//空格,分号,#,tab键
char *token;
char * strTemp=new char[strlen(str)+1];//这里要复制,因为要动实参 strcpy(strTemp,str); token = std::strtok( strTemp, seps ); while(token!=NULL) { vectWords->push_back(token); token=std::strtok(NULL,seps); } delete []strTemp; return vectWords->size(); }
2、文档中读取一段文字,并将句首和句尾某种元素去掉,比如:“空格”或者“#”
char* strFileName="****.txt"; ifstream streamIn; string strLine; char strTemp[100];//用来暂时保存切词的词,不会太长 streamIn.open(strFileName); if (!streamIn)//判断是否打开成功 return; vector<string>* vectWords; char*token,*token2; while(getline(streamIn,strLine)) { if(strLine.empty()) continue; strLine.erase(0,strLine.find_first_not_of(" ")); //把前面Tab键去掉去掉
strLine.erase(0,strLine.find_first_not_of("#")); //把字符串前面的#去掉 strLine.erase(strLine.find_last_not_of("#") + 1);//把字符串后面的#去掉
......... }