Grishman(1986;4)將計(jì)算語(yǔ)言學(xué)(computational linguistics)定義為一門(mén)研究如何利用計(jì)算機(jī)來(lái)理解和生成自然語(yǔ)言的科學(xué)。這指明了計(jì)算語(yǔ)言學(xué)的研究目標(biāo)和研究手段。理解和生成自然語(yǔ)言，是計(jì)算語(yǔ)言學(xué)的研究目標(biāo)；利用計(jì)算機(jī)，是計(jì)算語(yǔ)言學(xué)的研究手段。更確切地說(shuō)，是利用計(jì)算機(jī)建立傳輸說(shuō)話者所表述和聽(tīng)話者所理解的信息的計(jì)算模型(Hausser,2014:xix)。Allen(1995:3)則認(rèn)為計(jì)算語(yǔ)言學(xué)的目標(biāo)應(yīng)該表述為：利用計(jì)算機(jī)科學(xué)的算法和數(shù)據(jù)結(jié)構(gòu)來(lái)建立語(yǔ)言的計(jì)算理論。
要實(shí)現(xiàn)語(yǔ)言的生成，首先得要實(shí)現(xiàn)計(jì)算機(jī)對(duì)自然語(yǔ)言的理解。有人認(rèn)為，現(xiàn)階段提出理解目標(biāo)不切實(shí)際，因?yàn)槟壳罢贾髁鞯匚坏慕y(tǒng)計(jì)方法和深度學(xué)習(xí)的方法所達(dá)到的目標(biāo)只是處理，還談不上理解。更進(jìn)一步說(shuō)。并非經(jīng)過(guò)理解才能處理。但是，統(tǒng)計(jì)方法只是解決問(wèn)題的方法之一，它不能處理所有的語(yǔ)言問(wèn)題；深度學(xué)習(xí)也不能真正理解語(yǔ)言，計(jì)算機(jī)所理解的人類語(yǔ)言不過(guò)是一種模仿或者復(fù)述。只有真正理解了人類語(yǔ)言，才能實(shí)現(xiàn)語(yǔ)言的生成。
要使計(jì)算機(jī)理解自然語(yǔ)言，必須使之具備以下自然語(yǔ)言知識(shí)(Allen,1995):
·語(yǔ)音和音系學(xué)知識(shí)：主要關(guān)注語(yǔ)音怎樣轉(zhuǎn)化為詞；
·形態(tài)學(xué)知識(shí)：主要關(guān)注詞素怎樣構(gòu)成詞；
·句法知識(shí)：主要關(guān)注詞怎樣構(gòu)成句子；
·語(yǔ)義知識(shí)：主要關(guān)注詞義怎樣構(gòu)成句義；
·語(yǔ)用知識(shí)：主要關(guān)注句子在不同語(yǔ)境中的使用；
·語(yǔ)篇知識(shí)：主要關(guān)注上下句之間的關(guān)系；
·世界知識(shí)：主要指說(shuō)話者和聽(tīng)話者所具備的對(duì)外部世界的認(rèn)知。
通常來(lái)說(shuō)，計(jì)算機(jī)要具備的自然語(yǔ)言知識(shí)似乎和傳統(tǒng)語(yǔ)言學(xué)和現(xiàn)代語(yǔ)言學(xué)的內(nèi)容大致相當(dāng)。傳統(tǒng)語(yǔ)言學(xué)著重語(yǔ)言事實(shí)的描寫(xiě)，經(jīng)驗(yàn)性質(zhì)比較突出�，F(xiàn)代語(yǔ)言學(xué)，例如喬姆斯基語(yǔ)言學(xué)(Chomskyan linguistics ).
理論性非常強(qiáng)，已經(jīng)脫離了經(jīng)驗(yàn)科學(xué)的范疇，我們稱之為理論語(yǔ)言學(xué)。但計(jì)算語(yǔ)言學(xué)和這兩者是有本質(zhì)區(qū)別的。
理論語(yǔ)言學(xué)和計(jì)算語(yǔ)言學(xué)都是研究自然語(yǔ)言的，但服務(wù)對(duì)象有所不同：前者是面向人的，后者是面向計(jì)算機(jī)的。計(jì)算語(yǔ)言學(xué)是一門(mén)實(shí)驗(yàn)科學(xué)，所以它提出的問(wèn)題既要符合自然語(yǔ)言處理的實(shí)際需要，又要用現(xiàn)有的計(jì)算機(jī)技術(shù)解決。超出計(jì)算機(jī)的能力，就不具有可行性。此外，計(jì)算語(yǔ)言學(xué)中研究對(duì)象的定義必須明確，不能含期。例如漢語(yǔ)詞的定義，理論語(yǔ)言學(xué)上的定義是：詞是最小的、能獨(dú)立運(yùn)用的語(yǔ)言單位，但這一定義并不清晰。語(yǔ)言學(xué)家也分析了詞的一些特征，例如結(jié)合緊密、使用穩(wěn)定等，但沒(méi)有定量標(biāo)準(zhǔn)，這樣的定義對(duì)計(jì)算機(jī)來(lái)說(shuō)是無(wú)益的。計(jì)算語(yǔ)言學(xué)中詞的定義，簡(jiǎn)言之，能在分詞詞表中找到的就是詞，否則就不是詞，或者是未登錄詞。這樣，計(jì)算機(jī)就在詞表中查找，能找到的就是詞，找不到的就劃歸到未登錄詞里做下一步處理。
理論語(yǔ)言學(xué)研究主要不是考慮計(jì)算機(jī)的應(yīng)用，因此無(wú)法提出自然語(yǔ)言處理的問(wèn)題和理論。例如，漢語(yǔ)自動(dòng)分詞(Chinese word segmentqtion)問(wèn)題就是從中文信息處理角度提出來(lái)的，漢語(yǔ)理論語(yǔ)言學(xué)研究從來(lái)沒(méi)有、也不可能提出這樣的問(wèn)題。此外，理論語(yǔ)言學(xué)不一定要形式化，也沒(méi)有為形式化提供任何手段。形式化是數(shù)學(xué)表示的問(wèn)題，包括兩個(gè)方面：一是問(wèn)題本身的形式化描述；二是解決問(wèn)題的方法的形式化描述，后者通常用數(shù)學(xué)模型來(lái)體現(xiàn)。要讓計(jì)算機(jī)掌握和具備以上的語(yǔ)言知識(shí)，計(jì)算語(yǔ)言學(xué)研究者首先得將這些知識(shí)形式化，并將其用算法的形式在計(jì)算機(jī)上加以實(shí)現(xiàn)。
從宏觀上看，計(jì)算語(yǔ)言學(xué)的基本方法有兩種：基于規(guī)則的方法和基于經(jīng)驗(yàn)的方法。前者的理論基礎(chǔ)是語(yǔ)言學(xué)上的理性主義(rationalism).以喬姆斯基理論為代表。喬姆斯基(Chomsky,1986;5)認(rèn)為人的語(yǔ)言知識(shí)通過(guò)某種方式表現(xiàn)在我們的心智之中，最終表現(xiàn)在我們的大腦之中，這種知識(shí)的結(jié)構(gòu)我們希望能夠抽象地描寫(xiě)出來(lái)，用具體的原則、根據(jù)物質(zhì)機(jī)制描寫(xiě)出來(lái)。語(yǔ)言學(xué)研究的目標(biāo)是人類的這種語(yǔ)言能力。
言語(yǔ)是語(yǔ)言能力的具體表現(xiàn)，不是語(yǔ)言學(xué)應(yīng)該關(guān)注的重點(diǎn)。理性主義方法的特點(diǎn)是演繹法。從原則和參數(shù)演繹出規(guī)則。從規(guī)則推導(dǎo)出具體的句子。喬姆斯基語(yǔ)言學(xué)雖然不屬于計(jì)算語(yǔ)言學(xué)，但對(duì)于計(jì)算語(yǔ)言學(xué)的形成和發(fā)展有重大影響。基于規(guī)則的計(jì)算語(yǔ)言學(xué)研究方法中的理性主義體現(xiàn)在兩個(gè)方面：第一，目標(biāo)定位于自然語(yǔ)言理解,希望在理解的基礎(chǔ)上來(lái)處理自然語(yǔ)言；第二，方法的核心是基于規(guī)則,希望根據(jù)通過(guò)內(nèi)省和滴繹得到的一整套規(guī)則來(lái)處理自然語(yǔ)言。
而基于經(jīng)驗(yàn)的方法的理論基礎(chǔ)是經(jīng)驗(yàn)主義(empiricism)，來(lái)源于香農(nóng)的信息論。信息論認(rèn)為語(yǔ)言事件(語(yǔ)言表現(xiàn))是有概率的，可以通過(guò)統(tǒng)計(jì)得到這些概率，從而對(duì)自然語(yǔ)言處理(natural language processing.NLP)的各種具體問(wèn)題進(jìn)行決策。經(jīng)驗(yàn)主義方法的特點(diǎn)是歸納法，集中體現(xiàn)為語(yǔ)料庫(kù)語(yǔ)言學(xué)。與理性主義相對(duì)立，經(jīng)驗(yàn)主義認(rèn)為，完成自然語(yǔ)言處理任務(wù)不一定要經(jīng)過(guò)理解的階段。通過(guò)內(nèi)省和演繹得到的規(guī)則往往是顆粒度較大的語(yǔ)言知識(shí)，只有通過(guò)運(yùn)用統(tǒng)計(jì)方法。才能自動(dòng)獲得大量的、帶概率的小顆粒度語(yǔ)言知識(shí)，從而處理大規(guī)模真實(shí)文本。
馮志偉(2005)將計(jì)算機(jī)對(duì)語(yǔ)言的研究和處理劃分為以下四個(gè)階段：
(1)把需要研究的問(wèn)題在語(yǔ)言學(xué)上加以形式化，建立語(yǔ)言的形式化模型，使之能以一定的數(shù)學(xué)形式，嚴(yán)密面規(guī)整地表示出來(lái)；
(2)把這種嚴(yán)密而規(guī)整的數(shù)學(xué)形式表示為算法，使之在計(jì)算上形式化；
(3)根據(jù)算法編寫(xiě)計(jì)算機(jī)程序，使之在計(jì)算機(jī)上加以實(shí)現(xiàn)，建立各種實(shí)用的自然語(yǔ)言處理系統(tǒng)；
(4)對(duì)于建立的自然語(yǔ)言處理系統(tǒng)進(jìn)行評(píng)測(cè)，使之不斷地改進(jìn)質(zhì)量和性能，以滿足用戶的要求。
自然語(yǔ)言處理的這四個(gè)階段可以簡(jiǎn)單概括為：數(shù)學(xué)模型算法表示程序?qū)崿F(xiàn)質(zhì)量評(píng)測(cè)。計(jì)算語(yǔ)言學(xué)會(huì)涉及上述四個(gè)階段的哪個(gè)階段或者哪些階段，目前學(xué)界和業(yè)界對(duì)此認(rèn)識(shí)并不明晰。計(jì)算語(yǔ)言學(xué)和自然語(yǔ)言處理的學(xué)科分界尚不明確。
一般情況下，學(xué)界對(duì)于計(jì)算語(yǔ)言學(xué)和自然語(yǔ)言處理這兩個(gè)術(shù)語(yǔ)是不加區(qū)分的。因?yàn)閮烧叩谋举|(zhì)是基本相同的，區(qū)別可能僅僅在于自然語(yǔ)言處理更注重實(shí)踐，而計(jì)算語(yǔ)言學(xué)較重視理論。在《牛津計(jì)算語(yǔ)言學(xué)手冊(cè)》(The Oxford Handbook of Computational Linguistics)第一版(2003)中尚能看到兩者的明顯區(qū)別；全書(shū)分為三部分第一部分基礎(chǔ)篇、第二部分方法與資源篇、第三部分應(yīng)用篇，自然語(yǔ)言處理的內(nèi)容大都被放在第三部分應(yīng)用篇;然而在其第二版(2014)中已然很難發(fā)現(xiàn)兩者的界限了：全書(shū)分為四部分第一部分語(yǔ)言學(xué)基礎(chǔ)篇、第二部分計(jì)算基礎(chǔ)篇、第三部分語(yǔ)言處理任務(wù)和第四部分自然語(yǔ)言處理應(yīng)用,其中第三部分和第四部分占據(jù)全書(shū)的大部分體量，但對(duì)計(jì)算語(yǔ)言學(xué)和自然語(yǔ)言處理并未做區(qū)分。然而，Roland Hausser在其全三版《計(jì)算語(yǔ)言學(xué)基礎(chǔ)》(Foundations of Computational Linguistics)教材中堅(jiān)持語(yǔ)言的可計(jì)算性和形式語(yǔ)言學(xué)，從未涉及任何具體的語(yǔ)言處理任務(wù)，以示計(jì)算語(yǔ)言學(xué)堅(jiān)壁清野，不與自然語(yǔ)言處理發(fā)生任何學(xué)科交叉。
我們相信，在學(xué)科交叉和學(xué)科融合的大背景下，堅(jiān)持一個(gè)學(xué)科的純潔性既無(wú)必要也不現(xiàn)實(shí)。但一個(gè)學(xué)科有一個(gè)學(xué)科本身的發(fā)展規(guī)律和學(xué)科特點(diǎn)，丟掉特點(diǎn)去迎合熱點(diǎn)是一件極其危險(xiǎn)的事情。盡管兩者的本質(zhì)是基本相同的，但總體而言自然語(yǔ)言處理更注重實(shí)踐，而計(jì)算語(yǔ)言學(xué)較重視理論。也可以說(shuō)，計(jì)算語(yǔ)言學(xué)是建構(gòu)自然語(yǔ)言處理系統(tǒng)的理論基礎(chǔ)(劉海濤，2001),兩者還是應(yīng)該各自有所側(cè)重的。Manaris (1998:1)認(rèn)為自然語(yǔ)言處理可以定義為研究在人與人交際中以及在人與計(jì)算機(jī)交際中的語(yǔ)言問(wèn)題的一門(mén)學(xué)科，即研究表示語(yǔ)言能力和語(yǔ)言應(yīng)用的模型，建立計(jì)算框架來(lái)實(shí)現(xiàn)這樣的語(yǔ)言模型，提出相應(yīng)的方法不斷地加以完善，根據(jù)模型設(shè)計(jì)各種實(shí)用系統(tǒng)，并探討這些實(shí)用系統(tǒng)的評(píng)測(cè)技術(shù)。
也有學(xué)者認(rèn)為，自然語(yǔ)言處理就是計(jì)算語(yǔ)言學(xué)的應(yīng)用領(lǐng)域。隨著計(jì)算機(jī)速度的加快和存儲(chǔ)量的增加，計(jì)算語(yǔ)言學(xué)在語(yǔ)音合成、語(yǔ)音識(shí)別、文字識(shí)別、拼寫(xiě)檢查、語(yǔ)法檢查應(yīng)用領(lǐng)域進(jìn)行了商品化開(kāi)發(fā)。除了早期開(kāi)始的機(jī)器翻譯和信息檢索等應(yīng)用研究進(jìn)一步得到發(fā)展之外，計(jì)算語(yǔ)言學(xué)在信息抽取、間答系統(tǒng)、自動(dòng)文摘、術(shù)語(yǔ)的自動(dòng)抽取和標(biāo)引、文本數(shù)據(jù)挖掘、自然語(yǔ)言接口，計(jì)算機(jī)輔助語(yǔ)言教學(xué)(computer-assisted language learning)等新興的應(yīng)用研究中，都有了長(zhǎng)足的進(jìn)展。此外，計(jì)算語(yǔ)言學(xué)的技術(shù)在多媒體系統(tǒng)(multimedia system)和多模態(tài)系統(tǒng)(multimodal system)中也得到了應(yīng)用。
漢字識(shí)別的核心技術(shù)是字形特征的抽取和模式識(shí)別，識(shí)別緒果是否能組織為有意義的文本，取決于自然語(yǔ)言理解。語(yǔ)音識(shí)別和語(yǔ)音合成則需要用到文語(yǔ)轉(zhuǎn)換技術(shù)，即從文本到標(biāo)音符號(hào)的相互轉(zhuǎn)換，其中多音字的處理是關(guān)鍵。自動(dòng)校對(duì)可大大減輕人工校對(duì)工作量，使這一環(huán)節(jié)跟出版業(yè)的其他環(huán)節(jié)的自動(dòng)化相適應(yīng)。計(jì)算機(jī)輔助語(yǔ)言教學(xué)屬于現(xiàn)代教育技術(shù)，如果沒(méi)有自然語(yǔ)言處理技術(shù)的支持，電子教案可以說(shuō)是紙質(zhì)教案的翻版。好的教學(xué)軟件應(yīng)該包括更多的人機(jī)交互活動(dòng)，例如習(xí)題的自動(dòng)生成、作業(yè)的自動(dòng)批改。機(jī)器翻譯的意義毋庸贅言，這是一種綜合性最強(qiáng)的應(yīng)用。僅就文本形式的翻譯而言，就需要用到知識(shí)表示方法、機(jī)譯詞典構(gòu)造、源語(yǔ)言的分析、目標(biāo)語(yǔ)言的生成等技術(shù)。如果是口語(yǔ)現(xiàn)場(chǎng)翻譯，還需要有語(yǔ)音識(shí)別、語(yǔ)音合成以及人機(jī)接口技術(shù)的配合。智能檢索，包括信息檢索、信息抽取、文本挖掘、話題跟蹤、文本分類、文本過(guò)濾，間答系統(tǒng)等，是當(dāng)前最熱門(mén)的應(yīng)用。文本分類是智能檢索的一個(gè)重要方面，對(duì)于網(wǎng)站新聞?lì)l道的自動(dòng)更新具有特殊意義。例如。中國(guó)搜索在線報(bào)告，他們的新聞?lì)l道就是使用文本分類技術(shù)而自動(dòng)更新的，其他網(wǎng)站的最新消息可在兩分鐘內(nèi)在他們的頻道得到反映。自動(dòng)文摘可幫助人們快速、準(zhǔn)確、全面地獲取信息，特別是因特網(wǎng)上的信息。簡(jiǎn)單的原文濃縮，就能起到一定的作用。哪些句子最能代表原文內(nèi)容，需要根據(jù)其出現(xiàn)位置、所含詞語(yǔ)進(jìn)行計(jì)算。如果要用不同于原文的句子來(lái)表示，還需要用到語(yǔ)句分析和語(yǔ)句生成技術(shù)。
但計(jì)算語(yǔ)言學(xué)的研究?jī)?nèi)容和其主要應(yīng)用不是一一對(duì)應(yīng)的，后者應(yīng)符合市場(chǎng)需要。有些基礎(chǔ)研究本來(lái)就不是瞄準(zhǔn)直接應(yīng)用的，例如句法分析技術(shù)可在多種應(yīng)用系統(tǒng)中起作用，但不可能獨(dú)立成為一種社會(huì)大眾需要的應(yīng)用。也很難講在上述應(yīng)用場(chǎng)景中，計(jì)算語(yǔ)言學(xué)到底在自然語(yǔ)言處理任務(wù)的哪個(gè)(哪些)環(huán)節(jié)作出了貢獻(xiàn)。
一般認(rèn)為計(jì)算語(yǔ)言學(xué)是語(yǔ)言學(xué)的分支，自然語(yǔ)言處理是計(jì)算機(jī)科學(xué)的子學(xué)科。但是現(xiàn)在由于計(jì)算語(yǔ)言學(xué)和自然語(yǔ)言處理之間的界限越來(lái)越模糊，甚至兩個(gè)領(lǐng)域的學(xué)者常常去參加同樣的會(huì)議，交流各自的研究工作也完全沒(méi)有障礙，于是就有了一個(gè)說(shuō)法；計(jì)算語(yǔ)言學(xué)和自然語(yǔ)言處理都是跨語(yǔ)言學(xué)和計(jì)算機(jī)科學(xué)的交叉學(xué)科。然而，Ryan Cotterell博士和Emily M.Bender教授幾年前在推特上發(fā)起的一場(chǎng)有關(guān)自然語(yǔ)言處理是不是交叉學(xué)科的爭(zhēng)論「卻將此引入縱深，同時(shí)也引發(fā)了對(duì)計(jì)算語(yǔ)言學(xué)學(xué)科屬性的深層次討論。
Ryan Cottercll認(rèn)為自然語(yǔ)言處理的研究成果并沒(méi)有吸收語(yǔ)言學(xué)方面最新的進(jìn)展，因此不被公認(rèn)為是跨學(xué)科的。他更加坦率地認(rèn)為語(yǔ)言學(xué)和自然語(yǔ)言處理已經(jīng)分離開(kāi)了，甚至表示自然語(yǔ)言處理在過(guò)去10到20年的發(fā)展與近期語(yǔ)言學(xué)的研究無(wú)關(guān)，理由是他認(rèn)為交叉學(xué)科必須建立在兩個(gè)學(xué)科共同的工作基礎(chǔ)上，而目前自然語(yǔ)言處理的工作大部分不符合這個(gè)定義。Emily Bender則認(rèn)為如果問(wèn)題要求多個(gè)領(lǐng)域的專業(yè)知識(shí)有效地接近，一個(gè)研究領(lǐng)域原則上就是跨學(xué)科的。據(jù)此定義，自然語(yǔ)言處理原則上就是跨學(xué)科的。但她同時(shí)又同意Ryan的觀點(diǎn)，說(shuō)自然語(yǔ)言處理在實(shí)踐中大多不是學(xué)科交叉的，同樣也不認(rèn)為語(yǔ)言學(xué)的所有子領(lǐng)域都和自然語(yǔ)言處理相關(guān)。因此她的觀點(diǎn)是；學(xué)習(xí)語(yǔ)言如何工作以及(或者)與有相關(guān)經(jīng)驗(yàn)的人合作，會(huì)讓自然語(yǔ)言處理發(fā)展得更好。無(wú)獨(dú)有偶，現(xiàn)代語(yǔ)音識(shí)別和自然語(yǔ)言處理研究的先驅(qū)Frederick Jelinek曾經(jīng)說(shuō)過(guò)：每當(dāng)我開(kāi)除一個(gè)語(yǔ)言學(xué)家，語(yǔ)音識(shí)別系統(tǒng)就更準(zhǔn)確了。后來(lái)他又改口說(shuō)我的一些最好的朋友是語(yǔ)言學(xué)家(曾江，2020)。由此看來(lái)，為了從事計(jì)算語(yǔ)言學(xué)和自然語(yǔ)言處理的研究，語(yǔ)言學(xué)家很有必要更新知識(shí)，很有必要學(xué)習(xí)數(shù)學(xué)和計(jì)算機(jī)科學(xué)的知識(shí)。
如果把計(jì)算語(yǔ)言學(xué)或自然語(yǔ)言處理領(lǐng)域分為兩大派別，即計(jì)算機(jī)主義者和語(yǔ)言學(xué)主義者，隨著人工智能、機(jī)器學(xué)習(xí)在自然語(yǔ)言處理領(lǐng)城影響力不斷增大，計(jì)算機(jī)主義者逐漸演化成人工智能/機(jī)器學(xué)習(xí)主義者，而B(niǎo)ender教授則是堅(jiān)定的語(yǔ)言學(xué)主義者。她認(rèn)為自然語(yǔ)言處理領(lǐng)域越來(lái)越看重神經(jīng)模型、人工智能算法而忽視傳統(tǒng)、忽視語(yǔ)言本體，而且對(duì)模型和算法的過(guò)分贊譽(yù)和夸大宣傳主要是由于對(duì)語(yǔ)言形式和語(yǔ)言意義的誤解造成的，一個(gè)直接的理由就是語(yǔ)言模型無(wú)法學(xué)習(xí)語(yǔ)義，因?yàn)檎Z(yǔ)言模型僅僅使用語(yǔ)言形式作為訓(xùn)練數(shù)據(jù)，并沒(méi)有碰觸到語(yǔ)言意義本身(Bender & Koller, 2020:5185)。
相對(duì)于自然語(yǔ)言處理工程問(wèn)題，計(jì)算語(yǔ)言學(xué)主要致力于用計(jì)算的方法來(lái)回答語(yǔ)言學(xué)的科學(xué)問(wèn)題。語(yǔ)言學(xué)的核心問(wèn)題包括語(yǔ)言表征和語(yǔ)言知識(shí)的性質(zhì)，如何在語(yǔ)言的產(chǎn)生、理解中獲得和運(yùn)用語(yǔ)言學(xué)知識(shí)。對(duì)這類問(wèn)題的回答，有助于描述人類的語(yǔ)言能力，也有助于解釋實(shí)際記錄的語(yǔ)言數(shù)據(jù)和行為的分布。在計(jì)算語(yǔ)言學(xué)中，我們用更形式化的答案來(lái)回答這些問(wèn)題。語(yǔ)言學(xué)家關(guān)心人類計(jì)算了什么以及是如何計(jì)算的，所以我們將語(yǔ)言表征和語(yǔ)法通過(guò)數(shù)學(xué)的形式來(lái)定義，研究它們的數(shù)學(xué)屬性，并設(shè)計(jì)有效的算法來(lái)學(xué)習(xí)、生成和理解。只要這些算法可以實(shí)際運(yùn)行，就可以測(cè)試我們的模型，看它們是否能作出合理的預(yù)測(cè)。
語(yǔ)言學(xué)也考慮一些非核心的語(yǔ)言問(wèn)題，例如社會(huì)語(yǔ)言學(xué)、歷史語(yǔ)言學(xué)、生理語(yǔ)言學(xué)或者神經(jīng)語(yǔ)言學(xué)等。這些學(xué)科問(wèn)題本質(zhì)上和計(jì)算語(yǔ)言學(xué)是平等的，都是在用一套模型和算法讓語(yǔ)言數(shù)據(jù)看起來(lái)合理。從這個(gè)角度來(lái)說(shuō)，計(jì)算語(yǔ)言學(xué)并不試圖去對(duì)日常用語(yǔ)進(jìn)行建模，而是將語(yǔ)言學(xué)家所作的抽論自動(dòng)化。這潛在地就使我們能夠處理更大的數(shù)據(jù)集(甚至新的數(shù)據(jù))并得出更準(zhǔn)確的結(jié)論。同樣的，計(jì)算語(yǔ)言學(xué)家可能會(huì)設(shè)計(jì)軟件工具來(lái)幫助記錄瀕危語(yǔ)言。那么,很明顯計(jì)算語(yǔ)言學(xué)具有跨學(xué)科的性質(zhì)。
以機(jī)器翻譯為例，計(jì)算語(yǔ)言學(xué)致力于機(jī)器翻譯的主要目標(biāo)是解釋和探究翻譯的本質(zhì)以及翻譯活動(dòng)的過(guò)程，但自然語(yǔ)言處理工程師則不會(huì)考慮機(jī)器翻譯有沒(méi)有解釋翻譯的本質(zhì)是什么或者翻譯人員是如何工作的，他們?cè)谝獾氖菣C(jī)器翻譯系統(tǒng)能否產(chǎn)生一個(gè)合理、精確、流暢的翻譯結(jié)果。機(jī)器翻譯也有自己的衡量方法用以評(píng)價(jià)和提高這些機(jī)器翻譯質(zhì)量，而不是理解翻譯的本質(zhì)。因此套用人工翻譯的評(píng)價(jià)標(biāo)準(zhǔn)和體系(如信、達(dá)、雅)去衡量機(jī)器翻譯的譯文質(zhì)量的做法本身就不可取，也不可信。
從學(xué)科屬性上來(lái)說(shuō)，計(jì)算語(yǔ)言學(xué)到目前為止，理論體系尚未建立，還不能算是一門(mén)理論科學(xué)。一方面，其主流方法(統(tǒng)計(jì)方法和神經(jīng)網(wǎng)絡(luò)方法)是經(jīng)驗(yàn)主義的，這充分表明計(jì)算語(yǔ)言學(xué)還是一門(mén)經(jīng)驗(yàn)科學(xué)。另一方面，計(jì)算語(yǔ)言學(xué)又的確是一門(mén)實(shí)驗(yàn)科學(xué)。其理論和方法的正確性都需要通過(guò)在計(jì)算機(jī)上做實(shí)驗(yàn)來(lái)得到證明。而理論語(yǔ)言學(xué)則不是一門(mén)實(shí)驗(yàn)科學(xué)，有些問(wèn)題本質(zhì)上無(wú)法通過(guò)實(shí)驗(yàn)來(lái)研究，例如語(yǔ)言的發(fā)展規(guī)律。
近年來(lái)，隨著人工智能的崛起。自然語(yǔ)言處理也走向了智能化。出現(xiàn)了計(jì)算語(yǔ)言學(xué)的另外三種主義符號(hào)主義(symbolicism)、連接主義(connectionism)和行為主義(actionism)。符號(hào)主義又稱為邏輯主義、心理學(xué)派或計(jì)算機(jī)學(xué)派，原理主要為物理符號(hào)系統(tǒng)(即符號(hào)操作系統(tǒng))假設(shè)和有限合理性原理。連接主義又稱為仿生學(xué)派或生理學(xué)派，主要原理為神經(jīng)網(wǎng)絡(luò)及神經(jīng)網(wǎng)絡(luò)間的連接機(jī)制與學(xué)習(xí)算法。行為主義又稱為進(jìn)化主義或控制論學(xué)派，原理為控制論及感知-動(dòng)作型控制系統(tǒng)。
符號(hào)主義認(rèn)為人工智能源于數(shù)理邏輯。數(shù)理邏輯從19世紀(jì)末起得以迅速發(fā)展，到20世紀(jì)30年代開(kāi)始用于描述智能行為。計(jì)算機(jī)出現(xiàn)后，又在計(jì)算機(jī)上實(shí)現(xiàn)了邏輯演繹系統(tǒng)。其有代表性的成果為啟發(fā)式程序LT邏輯理論家，它證明了38條數(shù)學(xué)定理，表明了可以應(yīng)用計(jì)算機(jī)研究人的思維過(guò)程，模擬人類智能活動(dòng)。正是這些符號(hào)主義者，早在1956年首先采用人工智能這個(gè)術(shù)語(yǔ)，后來(lái)又發(fā)展了啟發(fā)式算法、專家系統(tǒng)、知識(shí)工程理論與技術(shù)等，并在20世紀(jì)80年代取得很大發(fā)展。符號(hào)主義曾長(zhǎng)期一枝獨(dú)秀，為人工智能的發(fā)展作出重要貢獻(xiàn)，尤其是專家系統(tǒng)的成功開(kāi)發(fā)與應(yīng)用，對(duì)人工智能走向工程應(yīng)用和實(shí)現(xiàn)理論聯(lián)系實(shí)際具有特別重要的意義。在人工智能的其他學(xué)派出現(xiàn)之后，符號(hào)主義仍然是人工智能的主流派別。這個(gè)學(xué)派的代表人物有Newell、Simon、Nilsson等。
連接主義認(rèn)為人工智能源于仿生學(xué)，特別是對(duì)人胸模型的研究。它的代表性成果是1943年由生理學(xué)家McCulloch和數(shù)理邏輯學(xué)家Pits創(chuàng)立的腦模型，即MP模型，開(kāi)創(chuàng)了用電子裝置模仿人腦結(jié)構(gòu)和功能的新途徑。它從神經(jīng)元開(kāi)始研究神經(jīng)網(wǎng)絡(luò)模型和腦模型，開(kāi)辟了人工智能的又一發(fā)展道路。20世紀(jì)60~70年代，連接主義，尤其是對(duì)以感知機(jī)為代表的腦模型的研究出現(xiàn)過(guò)熱潮，由于受到當(dāng)時(shí)的理論模型、生物原型和技術(shù)條件的限制，腦模型研究在20世紀(jì)70年代后期至80年代初期落入低潮。直到Hopfield教授在1982年和1984年發(fā)表兩篇重要論文，提出用硬件模擬神經(jīng)網(wǎng)絡(luò)以后，連接主義才又重新抬頭。1986年，Rumelhart et al.(1986)提出多層網(wǎng)絡(luò)中的反向傳播(backpropogation, BP)算法。此后，連接主義勢(shì)頭大振，從模型到算法。
從理論分析到工程實(shí)現(xiàn)，為神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)走向市場(chǎng)打下基礎(chǔ)�，F(xiàn)在，對(duì)人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN)的研究熱情仍然較高，但研究成果未達(dá)預(yù)期。
行為主義認(rèn)為人工智能源于控制論�？刂普撍枷朐缭�20世紀(jì)40～50年代就成為時(shí)代思潮的重要部分，影響了早期的人工智能工作者。Wiener et al.(1948)提出的控制論和自組織系統(tǒng)以及錢(qián)學(xué)森等人提出的工程控制論和生物控制論，影響了許多領(lǐng)域。控制論把神經(jīng)系統(tǒng)的工作原理與信息理論、控制理論、邏輯以及計(jì)算機(jī)聯(lián)系起來(lái)。早期的研究工作重點(diǎn)是模擬人在控制過(guò)程中的智能行為和作用，如對(duì)自尋優(yōu)、自適應(yīng)、自鎮(zhèn)定、自組織和自學(xué)習(xí)等控制論系統(tǒng)的研究，并進(jìn)行控制論動(dòng)物的研制。到20世紀(jì)60年代，上述控制論系統(tǒng)的研究取得一定進(jìn)展，播下了智能控制和智能機(jī)器人的種子，并在20世紀(jì)80年代誕生了智能控制和智能機(jī)器人系統(tǒng)。行為主義是20世紀(jì)末才以人工智能新學(xué)派的面孔出現(xiàn)的，引起許多人的興趣。這一學(xué)派的代表作者首推Brooks的六足行走機(jī)器人，它被看作新一代的控制論動(dòng)物,是基于感知-動(dòng)作模式模擬昆蟲(chóng)行為的控制系統(tǒng)。
近來(lái)學(xué)界對(duì)自然語(yǔ)言處理領(lǐng)域發(fā)展的反思和態(tài)度轉(zhuǎn)變可以總結(jié)為兩種理論構(gòu)建視角，即自底向上(bottom-up)和自頂向下(top-down)的理論構(gòu)建。在自底向上的視角下，學(xué)術(shù)界研究是通過(guò)發(fā)現(xiàn)和解決具體的研究挑戰(zhàn)驅(qū)動(dòng)的，如果科學(xué)研究能完全解決一個(gè)具體挑戰(zhàn)，或者部分解決，那就可以被視作一項(xiàng)學(xué)術(shù)成果，只要這些讓人滿意的成果是頻繁出現(xiàn)且不斷攀升的，就會(huì)帶來(lái)一種持續(xù)進(jìn)步的總體氛圍。與之相對(duì)的自頂向下視角則聚焦遠(yuǎn)期終極目標(biāo)，為整個(gè)領(lǐng)域提供一套完整統(tǒng)一的理論體系。自頂向下的視角會(huì)帶來(lái)焦慮感，因?yàn)槲覀冞�不能完全解釋所有現(xiàn)象，還會(huì)出現(xiàn)更加棘手的問(wèn)題，那就是自底向上的進(jìn)步到底有沒(méi)有把我們領(lǐng)向正確的方向。同樣的任務(wù)從自底向上的視角看是自然語(yǔ)言處理問(wèn)題，而從自頂向下的視角看就成了計(jì)算語(yǔ)言學(xué)的問(wèn)題。毫無(wú)疑問(wèn)，自然語(yǔ)言處理正以飛速攀登的速度進(jìn)步，每年各領(lǐng)域自然語(yǔ)言處理任務(wù)的解決辦法都通過(guò)更好預(yù)訓(xùn)練的語(yǔ)言模型得到顯著改進(jìn)，都能達(dá)到目前最好的水平(state-of-the-art,SOTA)。但是，如果從自頂向下的角度看，我們?nèi)绱孙w速攀登的山峰，究竟是不是正確的山呢?不知道當(dāng)今飛速進(jìn)步會(huì)把我們帶向什么樣的最終目標(biāo)，是普遍語(yǔ)言智能(general linguistic intelligence ),還是一個(gè)可以通過(guò)圖靈測(cè)試(Turing test)的系統(tǒng)?
但計(jì)算語(yǔ)言學(xué)與自然語(yǔ)言處理的學(xué)科屬性的爭(zhēng)論和各自研究重點(diǎn)的區(qū)別仍然懸而未決，或許無(wú)法解決。不管爭(zhēng)論的結(jié)果是什么,都是有益的，因?yàn)橛懻摃?huì)促使人們反復(fù)思考自己的觀點(diǎn)。因此，大部分學(xué)者對(duì)計(jì)算語(yǔ)言學(xué)和自然語(yǔ)言處理這兩個(gè)術(shù)語(yǔ)的使用只是遵循各自的使用習(xí)慣而未作細(xì)致區(qū)分，甚至有時(shí)兩者是混用的。如果非要給兩者加以界定，那可能計(jì)算語(yǔ)言學(xué)更理論,而自然語(yǔ)言處理更偏向應(yīng)用。
縱觀計(jì)算語(yǔ)言學(xué)發(fā)展史，計(jì)算語(yǔ)言學(xué)家經(jīng)歷了多次主流變革�；�于語(yǔ)法規(guī)則和專家知識(shí)的方法讓位于統(tǒng)計(jì)方法，如今大部分研究又吸收了神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)方法。每一代研究者都覺(jué)得他們解決了相關(guān)問(wèn)題并且不斷進(jìn)步，但是當(dāng)每種范式出現(xiàn)不可解決的致命缺陷，該范式隨即就會(huì)被拋棄。那么,應(yīng)該如何盡量讓計(jì)算語(yǔ)言學(xué)的科研攀登是在一座正確的山上呢?Bender &Koller在論文中提出了五種爬山攻略(hillclimbing diagnostics ):
第一，對(duì)語(yǔ)言問(wèn)題保持謙卑與敬畏，多問(wèn)一些自頂向下的問(wèn)題。神經(jīng)網(wǎng)絡(luò)并不是自然語(yǔ)言處理領(lǐng)域第一個(gè)取得成功的方法，應(yīng)該也不會(huì)是最后一個(gè)。
第二，了解自然語(yǔ)言處理下游任務(wù)的局限性。比如CAMRP這樣的人工賽道任務(wù)(見(jiàn)第6章)可以幫助某一個(gè)領(lǐng)域的研究盡早取得突破，但是不要妄想測(cè)試數(shù)據(jù)的語(yǔ)言分布能完全模擬現(xiàn)實(shí)語(yǔ)言世界的整體分布。
第三，重視和支持新賽道，但要慎重選擇和創(chuàng)建新任務(wù)。比如，在第十三屆語(yǔ)言資源與評(píng)測(cè)國(guó)際會(huì)議(LREC 2020)上舉行的第一屆古代漢語(yǔ)分詞和詞性標(biāo)注國(guó)際評(píng)測(cè)(EvaHan)就大力推動(dòng)了古漢語(yǔ)信息處理和古籍?dāng)?shù)字人文研究(見(jiàn)第2章)。