《性能超群的HTTP服務器 搜狗C++服務器引擎發布》 快科技官方百家號另一方面,對多通信計算資源融為一體的解決方案,進一步提升了Workflow引擎的性能。過去開發者在面臨選擇高吞吐網絡框架時,需要自己面對不同計算資源比例而劃分不同大小的線程池。然而每種計算具體資源需求比例是動態變化的,重要性也不一樣,後端響應時長也是動態變動。如今在workflow的加持下,C++服務器引擎也能像Go語言一樣,實現網絡資源異步調度,並且進一步打通計算,磁盤等資源。 引入任務流概念,是搜狗Workflow引擎的另一亮點。Workflow將資源高度封裝,用戶再也接觸不到連接池、線程池、包括想要做aio時的文件fd與各種異步通知機制。這就意味著,在開發階段開發人員僅僅需要了解業務關系而不用關心內部細節,幫助開發者們實現自己複雜的業務邏輯。開發人員可以利用Workflow封裝好的各種任務來動態或靜態組建自己的業務邏輯,如下圖所示,不同類型的任務都可以被串行、並行到一起: 除了各種創新設計以外,workflow還擁有比其他C++框架更友好的用戶體驗。過去許多企業自己搭建的服務器平台,在設計之初並未考慮到對多平台、多協議的支持,導致當新需求出現之時,開發者不得不通過自定義框架等方式來解決這個問題。Workflow原生實現了對http、redis、mysql和kafka等協議,可以直接作為這些協議的客戶端使用。並且在其基礎上開發了一套更加易用的Sogou RPC,實現與brpc和thrift互通,IDL支持protobuf和thrift,並且可以通過http+json或IDL實現跨語言,Sogou RPC項目也會在不久的將來開源。Http Server性能實測:Sogou C++Workflow VS nginx、brpc為了充分的體現出Workflow在性能上的優勢,搜狗也提供了Workflow和nginx、brpc兩個比較主流知名的系統一起做的http server性能對比,測試環境:這裏選取了最基本的測試場景:wrk或者wrk2跨機做client,單server,長連接,CPU:40核 E5-2630 v4 @ 2.20GHz,內存:192GB,網卡:25000Mb/s。nginx配置了auto的進程數(與核數一致),brpc配置了40個nthreads,workflow配置了16個poller線程和20個handler線程。測試一:不同並發數對QPS的影響(越高越好) 結論:隨著壓測並發數的增加,server的QPS會隨著增高。可以看到Workflow無論是低並發數還是高並發數的情況下,QPS依然比nginx和brpc要高,尤其是並發數超過128的時候優勢更加明顯,Workfow對於小包基本能保證50w的QPS,說明內部對網絡資源的高並發調度做了很多優化。測試二:不同數據大小對QPS的影響(越高越好) 結論:此處的返回包大小是http請求的body大小,隨著返回包增大,QPS會有所下降,我們希望QPS依然盡可能保持平穩不要下降得太快。Workflow在同並發下的性能依然比其他兩個系統要好,說明網絡收發和其他調用之間的調度協調得更好。測試三:固定QPS下的延遲分布CDF圖(越左越好,越直越好) 結論:本測試由wrk2進行固定QPS的壓測,其中還有1%的長尾請求Outiler,長尾請求不計入結果,因為我們關注的是模擬真實情況下普通請求能否被及時處理。由於nginx在其他測試中性能略差一截,因此沒有對其進行CDF對比。可以看到在不同比例的分布中,Workflow的延遲更低、且最慢的那些(0.99到1.00之間)延遲增長也相對緩慢,說明Workflow對長尾處理更及時。通過對比,可以發現Workflow的確在核心性能上有著自己獨到的優勢,對於很多開發者來說,往後也就多了一種選擇,遇到合適的應用場景,Workflow無疑會幫助開發者大大提升開發效率,確保項目成功。開源核心技術,讓搜狗走向開發者生態的前沿開源如此“硬核”的服務器引擎並不常見。許多科技公司都在花費極大精力對自己的產品、技術進行保密,核心算法更是秘而不宣。而近年來,搜狗卻走了一條與大眾相反的道路。不僅是Workflow,之前搜狗還相繼開源了機器閱讀理解工具SMRC、內部項目管理系統Cynthia在內的多項核心技術和工具。事實上,搜狗正是通過的不斷對核心技術的開源,遵守並理解開源社區文化,才能推動企業本身的技術進步,吸納更多優秀的開發者投入其中,為相關產品的後續發展持續輸送技術養料和創造力。想要在日趨激烈的互聯網市場中獲得話語權,就必須積極的制定標准,始終站在開發者生態的前沿,建立可持續的競爭優勢,讓產品被更多用戶喜愛並使用。未來,在開源的道路上,搜狗還會不斷將相關先進技術持續對外開放,發揮自身領域的專業能力與力量,推動開源運動的進一步普及。 《性能超群的HTTP服務器 搜狗C++服務器引擎發布》完,請繼續朗讀精采文章。 喜歡 小編的世界 e4to.com,請記得按讚、收藏及分享!
音調
速度
音量
語言
性能超群的HTTP服務器 搜狗C++服務器引擎發布
精確朗讀模式適合大多數瀏覽器,也相容於桌上型與行動裝置。
不過,使用Chorme瀏覽器仍存在一些問題,不建議使用Chorme瀏覽器進行精確朗讀。