手把手教你做关键词匹配项目(搜索引擎)---- 第二十天

8/31/2015来源:PHP技巧人气:1971

手把手教你做关键词匹配项目(搜索引擎)---- 第二十天

客串:屌丝的坑人表单神器、数据库那点事儿

面向对象升华:面向对象的认识----新生的初识、面向对象的番外----思想的梦游篇(1)、面向对象的认识---如何找出类

负载均衡:负载均衡----概念认识篇、负载均衡----实现配置篇(Nginx)

吐槽:有人反馈了这样的一个信息,说该文章越到最后越难看懂,跟不上节奏,也有的人说小帅帅的能力怎么飙的那么快,是不是我比较蠢。也有的直接看文字,不看代码,代码太难懂了。

其实我这几天也一直在思考这个问题,所以没办法就去开展了一些面向对象的课程,希望对那些跟不上的有些帮助。其实说真的,读者不反馈的话,我只好按照我认为的小帅帅去开展课程了。

第二十天

起点:手把手教你做关键词匹配项目(搜索引擎)---- 第一天

回顾:手把手教你做关键词匹配项目(搜索引擎)---- 第十九天

话说小帅帅为了解决那个分词算法写出了初版,他拿给于老大看的时候,被要求重写了。

原因有以下几点:

1. 如何测试,测试数据呢?

2.Splitter是不是做了太多事情?

3.连衣裙xxl裙连衣裙这种 有重复词组怎么办?

小帅帅拿着这些问题,开始重构。

首先他发现了这点,中文、英文和中英文的判断,以及长度的计算,他把这个写成了类:

<?phpclass UTF8 {    /**     * 检测是否utf8     * @param $char     * @return bool     */    public static function is($char){        return (PReg_match("/^([".chr(228)."-".chr(233)."]{1}[".chr(128)."-".chr(191)."]{1}[".chr(128)."-".chr(191)."]{1}){1}/",$char) ||            preg_match("/([".chr(228)."-".chr(233)."]{1}[".chr(128)."-".chr(191)."]{1}[".chr(128)."-".chr(191)."]{1}){1}$/",$char) ||            preg_match("/([".chr(228)."-".chr(233)."]{1}[".chr(128)."-".chr(191)."]{1}[".chr(128)."-".chr(191)."]{1}){2,}/",$char));    }    /**     * 计算utf8字的个数     * @param $char     * @return float|int     */    public static function length($char) {        if(self::is($char))            return ceil(strlen($char)/3);        return strlen($char);    }    /**     * 检测是否为词组     * @param $Word     * @return bool     */    public static function isPhrase($word){        if(self::length($word)<=1)            return false;        return true;    }}

小帅帅又考虑到词典的来源有可能来自多个地方,比如我给的测试数据,这样不就是可以解决于老大说到无法测试的问题了,小帅帅把词典的来源抽成了个类,类如下:

<?phpclass DBSegmentation {    public $cid;    /**     * 获取类目下分词的词组数据     * @return array     */    public function transferDictionary(){        $ret = array();        $sql = "select word from category_linklist where cid='$this->cid'";        $words = DB::makeArray($sql);        foreach($words as $strWords){            $words = explode(",",$strWords);            foreach($words as $word){                if(UTF8::isPhrase($word)){                    $ret[] = $word;                }            }        }        return $ret;    }} class TestSegmentation {        public function transferDictionary(){        $words = array(            "连衣裙,连衣",            "XXL,xxl,加大,加大码",            "X码,中码",            "外套,衣,衣服,外衣,上衣",            "女款,女士,女生,女性"        );        $ret = array();        foreach($words as $strWords){            $words = explode(",",$strWords);            foreach($words as $word){                if(UTF8::isPhrase($word)){                    $ret[] = $word;                }            }        }        return $ret;    }}

那么Splitter就专心分词把,代码如下:

class Splitter {    public $keyword;    private $dictionary = array();    public function setDictionary($dictionary = array()){        usort($dictionary,function($a,$b){            return (UTF8::length($a)>UTF8::length($b))?1:-1;        });        $this->dictionary = $dictionary;    }    public function getDictionary(){        return $this->dictionary;    }    /**     * 把关键词拆分成词组或者单词     * @return KeywordEntity $keywordEntity     */    public function split(){        $remainKeyword = $this->keyword;        $keywordEntity = new KeywordEntity($this->keyword);        foreach($this->dictionary as $phrase){            $matchTimes = preg_match_all("/$phrase/",$remainKeyword,$matches);            if($matchTimes>0){                $keywordEntity->addElement($phrase,$matchTimes);                $remainKeyword = str_replace($phrase,"::",$remainKeyword);            }        }        $remainKeywords = explode("::",$remainKeyword);        foreach($remainKeywords as $splitWord){            if(!empty($splitWord)){                $keywordEntity->addElement($splitWord);            }        }        return $keywordEntity;    }}class KeywordEntity {    public $keyword;    public $elements = array();    public function __construct($keyword){        $this->keyword = $keyword;    }    public function addElement($word,$times=1){        if(isset($this->elements[$word])){            $this->elements[$word]->times += $times;        }else            $this->elements[] = new KeywordElement($word,$times);    }    /**     * @desc 计算UTF8字符串权重     * @param string $word     * @return float     */    public function calculateWeight($word)    {        $element = $this->elements[$word];        return ROUND(strlen($element->word)*$element->times / strlen($this->keyword), 3);    }}class KeywordElement {    public $word;    public $times;    public function __construct($word,$times){        $this->word = $word;        $this->times = $times;    }}

他把算权重的也丢给了一个类专门去处理。

小帅帅写完之后,也顺手写了测试实例:

<?php$segmentation = new TestSegmentation();$splitter = new Splitter();$splitter->setDictionary($segmentation->transferDictionary());$splitter->keyword = "连衣裙xxl裙连衣裙";$keywordEntity = $splitter->split();var_dump($keywordEntity);

这样就算你的算法怎么改,它也能从容面对了。

小帅帅理解了这个,当你觉得类做的事情太多的时候,可以考虑下单一职责原则。

单一职责原则:一个类,只有一个引起它变化的原因。应该只有一个职责。每一个职责都是变化的一个轴线,如果一个类有一个以上的职责,这些职责就耦合在了一起。这会导致脆弱的设计。当一个职责发生变化时,可能会影响其它的职责。另外,多个职责耦合在一起,会影响复用性。例如:要实现逻辑和界面的分离。【来自百度百科】

当于老大提到是不是有其他分词算法的时候,我们能不能拿来用,小帅帅很高兴,因为现在它的代码是多么美好。

小帅帅如何玩转第三方分词扩展,请继续关注下回分解:手把手教你做关键词匹配项目(搜索引擎)---- 第二十一天