最具“情商”的新一代智能機(jī)器人來了！能讀懂上下文

　 域名預(yù)訂/競價，好“米”不錯過

也許你也有過這樣的經(jīng)歷，向智能客服咨詢問題，卻陷入毫無進(jìn)展的對話里：

-你們家的面膜都是純天然的?

-親親，我們家的面膜都是蘆薈精華提取，純天然的哦~

-我皮膚有點干，推薦一款唄~

-冬天皮膚干燥推薦給親親我們的保濕精華乳~

-我是要買面膜，你是機(jī)器人吧，讓人來說話。

作為顧客，此時你大概要嘆一句“人工智能真不智能”。這些所謂“智能”客服們往往只能做到一問一答，一旦對話涉及稍微復(fù)雜的情境，它們就開始答非所問。

讓人工智能學(xué)會根據(jù)上下文去處理信息，是自然語言處理技術(shù)一個關(guān)鍵的門檻，也是多年來整個學(xué)術(shù)界和工業(yè)界都在努力攻克的難題。盡管在通用NLP領(lǐng)域，gpt-2，BERT等算法模型的出現(xiàn)，讓語義理解取得了重大進(jìn)展，但是由于專業(yè)性強(qiáng)、垂直語料庫不足等原因，某些亟待落地的應(yīng)用場景，例如高強(qiáng)度的客服對話，還深陷在開頭出現(xiàn)的“人工智障”泥潭中。

最近，這個難題迎來了新進(jìn)展。曉多科技(下稱“曉多”)開發(fā)的基于上下文的語義識別項目，以深度學(xué)習(xí)的方式，讓智能問答機(jī)器人能夠像人類一樣，結(jié)合語境去理解復(fù)雜場景下的對話，并且進(jìn)行持續(xù)的自我學(xué)習(xí)，無需人工設(shè)置規(guī)則，也能不斷擴(kuò)展和覆蓋更多的場景。

從一問一答到讀懂語境

 

為什么人工智能會有這些“不智能”的表現(xiàn)?這是因為目前市面上主流的智能問答機(jī)器人，大部分都是根據(jù)單個句子來識別顧客的意圖，從而進(jìn)行一問一答的任務(wù)型對話。但在日常聊天對話中，我們習(xí)慣口語化表達(dá)，尤其在打字時，一般不會大段大段地發(fā)送，而會使用很多斷句，這種零碎的表達(dá)使得機(jī)器人無法從單個句子中準(zhǔn)確識別出你的真實意圖，造成答非所問的情況。

這對于服務(wù)業(yè)來說是一個致命傷。

和普通的閑聊機(jī)器人不同，智能客服必須做到對各種場景的精準(zhǔn)識別。因為智能客服面對的工作，是要及時地、明確地解決顧客的問題。

當(dāng)你和閑聊機(jī)器人逗趣的時候，它答非所問的話并不會讓你煩躁，反而覺得很有趣味;但當(dāng)你只想趕緊退貨或者得到賠償時，智能客服的胡言亂語足夠讓煩躁的顧客給這家店鋪打上0星，并在評論區(qū)洋洋灑灑好幾百字，控訴店鋪服務(wù)不到位。

在商品售前階段也是這樣，智能客服錯誤的回復(fù)或答非所問，都會影響顧客的體驗度，平臺商家競爭激烈的情況下，得不到滿意答復(fù)的顧客可能會很快放棄，選擇另外一家店鋪，從而造成顧客的大量流失。

單句識別與上下文識別的差別

解決這一問題的關(guān)鍵，在于要讓機(jī)器人像人一樣，學(xué)會聯(lián)系上下文，結(jié)合語境來對話，而不僅僅對單個句子作出反應(yīng)。

目前市面上其他機(jī)器人都不支持上下文語義，他們是在靠規(guī)則和流程設(shè)置關(guān)鍵詞。也就是說，這個情景中需要什么信息，就要設(shè)計出對應(yīng)的問題，讓機(jī)器人按照固定的順序提問，顧客按照要求回答完所有問題，機(jī)器人才能根據(jù)所有信息來進(jìn)行回應(yīng)。

例如，顧客要購買飛機(jī)票，就要設(shè)定機(jī)器人首先詢問顧客起點、終點、時間，再問顧客想要什么等級的座位等等，通過這些固定問題的答案，把需要的信息補(bǔ)充完整，最終給出推薦。

在這種情況下，每一個場景都需要人工去設(shè)定對應(yīng)的規(guī)則，效率十分低下。尤其在電商領(lǐng)域，從售前到售中，再到售后，涉及到的問題是方方面面的，更別說還有購物品類的區(qū)別，場景的擴(kuò)展是指數(shù)級的，靠人工設(shè)定規(guī)則去做到全覆蓋，說是天方夜譚也不為過。

如果能夠?qū)⒛壳叭斯ぶ悄茴I(lǐng)域大熱的深度學(xué)習(xí)應(yīng)用到這一問題的解決上，讓機(jī)器人能夠通過自己學(xué)習(xí)，掌握基于上下文的語義理解，并持續(xù)學(xué)習(xí)擴(kuò)展到各個場景中，就可以大大地提高智能機(jī)器人面對復(fù)雜場景的精準(zhǔn)應(yīng)對能力，同時提高它覆蓋各種場景的效率。懷著這樣的想法，曉多開始了上下文語義項目。

讓機(jī)器人自己“劃重點”：記住重要信息，忘記不重要的

 

機(jī)器人自己學(xué)會理解上下文，困難在哪里?曉多算法工程師、本次上下文語義項目的負(fù)責(zé)人張翀向大數(shù)據(jù)文摘介紹，最關(guān)鍵的問題在于要讓機(jī)器人像人一樣記得上文的重要信息，并且知道這些信息和當(dāng)前問句的關(guān)聯(lián)。

在這個問題上，目前學(xué)術(shù)界和業(yè)界并沒有現(xiàn)成的解決方案。對此，張翀介紹，曉多為新一代問答機(jī)器人創(chuàng)新設(shè)計了一個深度學(xué)習(xí)模型，包含四個模塊：記憶與遺忘、提煉、融合、輸出。

記憶與遺忘模塊賦予機(jī)器人記住上文關(guān)鍵信息的能力。沒有記憶能力的機(jī)器人，只會對最近的一句話作出反應(yīng)，而曉多的模型可以幫助機(jī)器人把前后的訴求關(guān)聯(lián)起來，及時作出準(zhǔn)確的推薦。

點擊圖片查看詳細(xì)內(nèi)容

在技術(shù)上，曉多做出了一個此前業(yè)界還沒有實現(xiàn)過的創(chuàng)新應(yīng)用，參照一個名叫長短期記憶網(wǎng)絡(luò)(LSTM)的結(jié)構(gòu)，設(shè)計實現(xiàn)會話級別的記憶和遺忘。

曉多的又一創(chuàng)新，是應(yīng)用于提煉模塊的注意力機(jī)制。它會自動對上文的每一條信息進(jìn)行計算，算出這些信息與當(dāng)前句子對應(yīng)的重要程度，重要程度高的，就會被保留下來。

假如顧客得到了滿意的產(chǎn)品推薦之后，又提出“什么時候發(fā)貨”的問題，注意力機(jī)制通過計算，就會發(fā)現(xiàn)上文的重要程度并不高，這樣，無用的信息就會被過濾，與當(dāng)前對話有關(guān)聯(lián)的上文信息被選取出來，進(jìn)入下一個模塊中。

在融合模塊中，機(jī)器人會對提煉出的上文關(guān)鍵信息和當(dāng)前聊天消息結(jié)合，來識別顧客的意圖。曉多采用的方式是在向量空間做梳理，簡單來說，可以理解為提取上文關(guān)鍵信息是在機(jī)器人大腦內(nèi)部的一個操作，這之后，再在一個抽象的空間里，把提取出來的關(guān)鍵信息與當(dāng)前的單句進(jìn)行綜合，最終輸出一個結(jié)合上文信息和當(dāng)前單句所做出的判斷。

這個模型在實驗中得到的數(shù)據(jù)令人驚喜。曉多從真實電商聊天?志中抽取了若?涉及上下?的問答樣本，構(gòu)造兩份意圖識別測試集，分別對應(yīng)兩個電商領(lǐng)域，對?發(fā)現(xiàn)結(jié)合上下?預(yù)測的模型效果遠(yuǎn)超只根據(jù)單句預(yù)測的模型：

recall(召回率)=機(jī)器人正確識別的問題數(shù)/問題總數(shù);

Precision(精確率)=機(jī)器人正確識別的問題數(shù)/機(jī)器人已識別的問題數(shù);f1core=2*precision*recall/(precision + recall) ，表示綜合考慮召回率和精確率的評分;

這些工作并不是想到就可以做到的，對機(jī)器人的訓(xùn)練需要大量的數(shù)據(jù)，遷移學(xué)習(xí)能力是曉多能夠?qū)崿F(xiàn)這些創(chuàng)新的關(guān)鍵。

“人工智能的深度學(xué)習(xí)，突出的特點就是對數(shù)據(jù)的依賴非常大，”張翀說，“因為深度學(xué)習(xí)模型的參數(shù)非常多，你可以理解為它是一個更復(fù)雜的智能體，數(shù)據(jù)是它學(xué)習(xí)的依據(jù)，它要學(xué)習(xí)的東西越多，需要的數(shù)據(jù)就更多，而你給它的數(shù)據(jù)越多，它也越聰明。”

目前，曉多的標(biāo)注團(tuán)隊從上百億的數(shù)據(jù)中進(jìn)行分析提取的價值樣本，提供給機(jī)器學(xué)習(xí)進(jìn)行數(shù)據(jù)訓(xùn)練。

如果每一步都需要人工設(shè)計，從發(fā)現(xiàn)場景、總結(jié)規(guī)律，到最后開發(fā)、測試、上線，可能需要至少兩周的時間才能擴(kuò)展一個場景，張翀介紹說，而使用這樣的數(shù)據(jù)標(biāo)注讓機(jī)器進(jìn)行深度學(xué)習(xí)，只需要幾天的時間，就可以同時擴(kuò)展幾十個場景、幾百個產(chǎn)品。

各個行業(yè)的電商客服需要應(yīng)對的場景雖然有很多差異，但有一些數(shù)據(jù)卻是通用的，包括關(guān)于快遞物流的問答等。曉多對標(biāo)注好的數(shù)據(jù)進(jìn)行了模塊拆分，區(qū)分出通用數(shù)據(jù)，當(dāng)機(jī)器人需要對新行業(yè)進(jìn)行學(xué)習(xí)時，可以直接使用這些標(biāo)注好的通用數(shù)據(jù)，實現(xiàn)迅速的擴(kuò)展學(xué)習(xí)。

談到數(shù)據(jù)、算法和計算能力的關(guān)系，張翀認(rèn)為，數(shù)據(jù)是基礎(chǔ)，大數(shù)據(jù)為機(jī)器學(xué)習(xí)裝上引擎;算法是核心，將人工智能帶到全新高度;而計算能力是保障，為算法的實現(xiàn)提供堅實的后盾。

不止于此，顧客體驗迎來后智能化時代

 

從售前的商品導(dǎo)購，到售中咨詢運(yùn)費(fèi)、活動贈品等，目前，曉多的上下文語義項目已經(jīng)投入使用，覆蓋了多種電商服務(wù)場景。這僅僅只是這項技術(shù)投入應(yīng)用的第一步，曉多的業(yè)務(wù)計劃中，還涉及到更多的業(yè)務(wù)鋪開。在售前，顧客可能會要求客服進(jìn)行商品推薦，他們的需求點信息包含在整個對話過程中。傳統(tǒng)的客服機(jī)器人只能根據(jù)顧客最后的需求進(jìn)行推薦，而曉多機(jī)器人會對顧客的會話信息進(jìn)行分析，更加準(zhǔn)確地識別到顧客的真實需求，推薦給顧客符合心意的產(chǎn)品。

另外，對于電商行業(yè)中熱門的服裝領(lǐng)域來說，售前的服裝尺碼推薦是客服經(jīng)常會遇到的問題，店鋪內(nèi)大量商品的尺碼各不相同，尺碼問題會耗費(fèi)客服大量的人力。通過上下文識別的手段，客服機(jī)器人可以獲取顧客的尺碼信息，準(zhǔn)確地進(jìn)行尺碼推薦。

在銷售過程中，顧客常常要詢問運(yùn)費(fèi)問題，這就涉及到了首次購買和退換貨兩種場景。沒有上文語境，機(jī)器人就只能解讀出“運(yùn)費(fèi)”，而不能準(zhǔn)確地判斷顧客詢問的是首次購物運(yùn)費(fèi)還是退換貨運(yùn)費(fèi)，可能導(dǎo)致錯誤的回復(fù)。而在加入了上下文理解后，機(jī)器人能夠準(zhǔn)確判斷顧客的實際問題，準(zhǔn)確地回復(fù)此類問題。

 

另一個常見的售中場景是關(guān)于活動贈品的問題。當(dāng)?shù)赇佭M(jìn)行活動優(yōu)惠提供贈品時，顧客的提問可能不是針對商品，而是針對贈品，需要機(jī)器人通過語境來識別，防止混淆這兩個方面的提問，給出張冠李戴的答案。

這項技術(shù)不但可以應(yīng)用在智能對話上，智能營銷、智能質(zhì)檢、情緒識別……客服行業(yè)中還存在著更多未被開發(fā)的可能性。

對于曉多來說，這意味著他們?yōu)轭櫩吞峁┑姆?wù)，向超專家級更進(jìn)了一步。“我們現(xiàn)在可能只是把它應(yīng)用在語義識別上，但后續(xù)我們在其它業(yè)務(wù)線上還可以繼續(xù)鋪開。我們把它當(dāng)成一個基礎(chǔ)的能力，一個支撐我們整個公司的算法產(chǎn)品。”張翀說。

曉多也期待著，上下文語義識別可以作為技術(shù)基石應(yīng)用到行業(yè)各個方面，通過推開這項技術(shù)的應(yīng)用，機(jī)器人可以自動生成尺碼表，自動獲取個性化對話內(nèi)容進(jìn)行系統(tǒng)自動萃取對接等等，機(jī)器人行業(yè)一直以來由人工配置的時代可能走向終結(jié)，而迎來一個從數(shù)據(jù)中學(xué)習(xí)后智能化自動生成的時代。

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！