/** * 一元分詞算法 * UTF8編碼下一個字符如果首字符ASCII碼不大于192則只占1個字節(jié) * 如果首字符ASCII碼大于192小于224則占用2個字節(jié),否則占用3個字節(jié) * 一元分詞需要在mysql的my.ini文件中增加 " /> 亚洲人成网站在线,精品国内亚洲2022精品成人,精品一区二区三区av

色尼玛亚洲综合影院,亚洲3atv精品一区二区三区,麻豆freexxxx性91精品,欧美在线91

php 一元分詞算法

復(fù)制代碼 代碼如下:

/**
* 一元分詞算法
* UTF8編碼下一個字符如果首字符ASCII碼不大于192則只占1個字節(jié)
* 如果首字符ASCII碼大于192小于224則占用2個字節(jié),否則占用3個字節(jié)
* 一元分詞需要在mysql的my.ini文件中增加 ft_min_word_len=1
* 可以使用mysql查詢語句 show variables like '%ft%' 查看mysql全文搜索相關(guān)設(shè)置
*
* @access global
* @param string $str
* @param boolean $unique 是否去除重復(fù)值
* @param boolean $merge 是否合并附加值
* @return array
*/
function seg_word($str,$unique=false,$merge=true)
{
$str = trim(strip_tags($str));
$strlen = strlen($str);
if($strlen == 0) return array();
$spc = ' ';
//按需增加需要過濾的字符
$search = array(',', '/', '//', '.', ';', ':', '/'', '!', '~','"', '`', '^', '(', ')', '?', '-', "/t", "/n", '/'', '<', '>', "/r", "/r/n", '/$', '&', '%', '#', '@', '+', '=', '{', '}', '[', ']', ')', '(', '.', '。', ',', '!', ';', '“', '”', '‘', ''', '[', ']', '、', '―', ' ', '《', '》', '-', '…', '【', '】',':');
$numpairs = array('1'=>'一','2'=>'二','3'=>'三','4'=>'四','5'=>'五','6'=>'六','7'=>'七','8'=>'八','9'=>'九','0'=>'零');
$str = alab_num($str);
$str = str_replace($search,' ',$str);
$ord = $i = $k = 0;
$prechar = 0;// 0-空白 1-英文和符號 2-中文
$result = array();
$annex = array();

while($ord = ord($str[$i]))
{
//1字節(jié)字符
if ($ord <= 0xC0 )
{
//去除空字符串
if($ord < 33) {
$prechar=0;
$i++;
$k++;
continue;
}
//附加中文大寫數(shù)字轉(zhuǎn)換
if(isset($numpairs[$str[$i]])) {
$annex[]=$numpairs[$str[$i]];
}
//如果前面是中文
if( $prechar == 2 ){
$result[++$k] = $str[$i];
}
else {
$result[$k] .= $str[$i];
}
$prechar = 1;
$i++;
}
else //2-3字節(jié)字符(中文)
{
if($ord < 0xE0)
$step = 2;
else
$step = 3;
$c = substr($str,$i,$step);
if(false !== $key = array_search($c,$numpairs)){
$annex[] = $key;
}
if ($prechar != 0) {
$result[++$k] = $c;
}
else {
$result[$k] .= $c;
}

$prechar = 2;
$i+=$step;
}
}
$result = $merge ? array_merge($result,$annex) : $result ;
return $unique ? array_unique($result) : $result ;
}

php技術(shù)php 一元分詞算法,轉(zhuǎn)載需保留來源!

鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標(biāo)記有誤,請第一時間聯(lián)系我們修改或刪除,多謝。

主站蜘蛛池模板: 万载县| 罗山县| 鸡西市| 宁远县| 潼南县| 阜宁县| 潼南县| 老河口市| 策勒县| 浪卡子县| 白水县| 林周县| 无为县| 曲麻莱县| 仁怀市| 龙口市| 宜宾市| 扎兰屯市| 乐业县| 黄龙县| 崇州市| 保山市| 楚雄市| 和硕县| 应城市| 荆州市| 阿拉善盟| 维西| 余庆县| 长泰县| 贡嘎县| 寿阳县| 海口市| 阳城县| 张家港市| 安塞县| 乌鲁木齐县| 黔江区| 卓尼县| 富蕴县| 唐海县|