Fluenty是一個聊天機器人，讓你聽起來像詹姆斯邦德正在寫你的自動回復。該團隊于2014年開始構建其智能回復系統(tǒng)。到2015年夏天，應用程序Fluenty能夠響應SMS消息，為支持總共四個外部消息傳遞平臺鋪平了道路。到目前為止，我們已經看到了60,000次下載和13,000個活躍用戶。

學習深度學習

我們的團隊首先觀察了深度遞歸神經網絡技術的進步，同時擔任韓國主要搜索引擎Naver和Daum的工程師。這項技術允許設備解釋短語的含義，并通過決定要記住哪些信息和(如我們的衰老自我)忘記什么來學習以前的條目。

我們對這項技術非常著迷，因為我們認為它可以徹底改變移動應用程序的世界。我們設想了一個聊天機器人可以在處理足夠的會話數據后以類似人的方式響應消息的世界。然而，當時，這項技術遠非完美，我們的愿景還遠未完成。

我們的團隊很早就意識到我們必須創(chuàng)建能夠“思考”自己的機器人，并對傳入的查詢產生相關的響應，以便我們的愿景成為現實。至少可以說這是一項艱巨的任務，但我們對技術的熱愛激發(fā)了我們的動力。出于這個原因，我們研究了遞歸神經網絡(RNN)和長期短期記憶(LSTM)系統(tǒng)，以便我們能夠解決與自然語言技術系統(tǒng)相關的挑戰(zhàn)。

智能手表的興起

雖然我們兩個人試圖找出使聊天機器人更有用的最佳方法，但我們的第三個聯合創(chuàng)始人Sungjae Hwang正在為智能手表設計概念。他還在為他的作品開發(fā)app支持。

2014年，他在2015年4月24日發(fā)布Apple Watch之前差不多一年就完成了大約10個設計。在他的項目工作中，他意識到智能手表的一個主要弱點是他們的小輸入界面。智能手表通過其連接的手機發(fā)送了大量通知，但幾乎沒有能力與收到的消息進行交互。

在Apple宣布他們的智能手表之后，我們開始轉向研究方向。我們看到了普通大眾對Apple Watch的積極態(tài)度，并決定專注于創(chuàng)建支持智能手表設備的應用程序。我們認為，一個優(yōu)化用于生成人聲回復的聊天機器人將成為使用智能手表進行通信的殺手級應用程序。

感謝Google Inbox的智能回復功能，許多人已經熟悉自動生成的回復系統(tǒng)。然而，在2014年，這種技術尚未完成。大多數人甚至都不知道他們日?；拥闹貜托匀绾巍?/p>

我們通過測試測試了這種可預測性。我們的測試樣本包括50位重度WhatsApp用戶，年齡分別為20歲和30歲。我們要求他們通過與他們經常交談的人的對話向我們提供他們的聊天記錄。奇跡般地，他們同意了。

我們團隊的下一步是逐行閱讀傾銷聊天，并根據響應的可預測性標記每個聊天。例如，當我們看到“你好嗎?”時，我們可以很容易地認為答案會像“我很好”或“很棒!”。然而，當我們看到像“我們的小組一個大聲笑”這樣的消息時，我們沒有足夠的上下文來預測接收器接下來會輸入什么。

我們的研究結果令人印象深刻。在所有聊天中，超過30%%的消息是可預測的，并且有一組有限的相應響應。現在是時候讓我們使用我們學到的東西來創(chuàng)建一個能夠始終如一地預測回復的應用程序。

構建智能回復功能

我們不是Facebook Messenger或WhatsApp。當我們開始時，我們沒有大量的會話數據來訓練我們的模型。相反，我們決定在社交媒體上收集公共對話數據，收集2億對話。

正如Voxable聯合創(chuàng)始人馬特巴克 所寫，“直到最近，將先進的自然語言處理技術僅限于最大的公司。”過去，很少有公司能夠聘請研究人員和工程師來創(chuàng)建可靠的測試模型。對我們來說幸運的是，我們之前的工程經驗使我們能夠開發(fā)自己的模型而不是雇用外部公司。

我們開發(fā)了矢量嵌入和深度遞歸神經網絡模型，然后我們對它們進行了微調，以增強建議答復的相關性并減少系統(tǒng)的計算時間。之后，我們開始開發(fā)我們的Android應用程序。

測試smartwatch應用程序

我們在2015年8月發(fā)布了我們的開放測試版Android應用程序后不久，Google Play就在其Android Wear部分中展示了我們。一個月后，我們的智能手表應用程序已被下載3,000次。很快我們開始監(jiān)控用戶的習慣(而不是對話)并考慮他們的反饋。在查看我們的調查結果后，我們得出以下結論：

用戶在使用智能手表時發(fā)現“建議的回復”功能非常有用。

用戶遇到延遲通知問題。根據計算的復雜程度和用戶的網絡連接狀態(tài)，應用程序最多可能需要七秒鐘才能發(fā)送通知。

我們的應用程序應該支持更多的第三方信使。許多用戶表示他們喜歡Talkey(Fluenty的原始名稱)，但他們覺得應用受限，因為他們不經常使用短信。

用戶想要更多“個性化”的回復。

應用程序的布局需要改進。

我們還收到了建立智能手機版Talkey應用程序的請求。

根據用戶的反饋，我們增強了模型，以更快地完成所有流程?，F在，智能手表應用程序最多可以在不到50毫秒的時間內發(fā)送和接收消息。當我們的用戶要求提供移動版本時，我們的團隊持懷疑態(tài)度，但無論如何我們創(chuàng)建了一個，因為修改很簡單，我們沒有什么可失去的。

在發(fā)布Talkey的移動版本后，我們的Google Analytics數據顯示，使用智能手表的用戶在手機上發(fā)送的回復超過80%%。我感到震驚。我們認為現代智能手機易于使用的鍵盤使得自動消息發(fā)生器變得不必要。

什么樣的未來

自從有了這個時刻，我們專注于開發(fā)對我們應用的智能手機版本的支持。為了反映我們的新愿景，我們將應用程序的名稱從Talkey更改為Fluenty，相信此產品可能比鍵盤應用程序更大。我們設想我們的產品可以在許多應用中改善人與機器之間的通信流程。

最近，我們增加了對Kakao，Facebook Messenger，WhatsApp和Google Hangouts的支持。我們也在為其他應用程序開發(fā)更多支持。我們相信Fluenty應用程序有可能成為預測性智能通知工具，它將改變人們思考和接近數字通信的方式。

我們目前正在開發(fā)在客戶服務自動化和汽車中實施API技術的方法。我們希望我們的服務能夠幫助客戶服務代表一鍵回答常規(guī)問題，并允許司機發(fā)送消息和搜索地址，同時密切關注道路。

我們還在嘗試將Fluenty整合到輔助設備和VR耳機中，這樣人們就可以通過查看他們想要發(fā)送的響應項來發(fā)送消息。隨著API和DNN技術的不斷發(fā)展，我們相信一切皆有可能。Fluenty計劃將API技術的使用提升到新的水平。