如何提高多線程程序的
如何提高多線程程序的
正如大家所知道的那樣,多核多cpu越來(lái)越普遍了,而且編寫多線程程序也是件很簡(jiǎn)單的事情。那么,如何提高多線程的CPU的一些使用率,下面是學(xué)習(xí)啦小編帶來(lái)的關(guān)于如何提高多線程程序的cpu利用率的內(nèi)容,歡迎閱讀!
如何提高多線程程序的:
首先,我來(lái)講一下多處理的一些知識(shí)。如下圖所示,
多處理器系統(tǒng)也只有一個(gè)待運(yùn)行的線程隊(duì)列,內(nèi)存中也只有一個(gè)操作系統(tǒng)拷貝,而且也只有一個(gè)內(nèi)存系統(tǒng),但是會(huì)有多個(gè)cpu同時(shí)運(yùn)行不同的線程。一個(gè)cpu運(yùn)行一個(gè)線程,那么上圖中的系統(tǒng)最多能在同一時(shí)間運(yùn)行2個(gè)線程。其實(shí),多處理系統(tǒng)需要掌握的知識(shí)不是這些,而是緩存一致性。
現(xiàn)在來(lái)解釋下什么是緩存一致性。由于,還是只有一個(gè)內(nèi)存系統(tǒng)。所有cpu都要和這個(gè)內(nèi)存系統(tǒng)通信,但是只有一條總線,那么這無(wú)疑會(huì)造成總線緊張,限制整體的速度了。那么,你多個(gè)cpu也沒(méi)多少意義了。解決這個(gè)問(wèn)題的辦法還是利用cpu的緩存機(jī)制,學(xué)過(guò)組成原理的同學(xué)都知道,cpu的緩存命中率還是很高的,有90%以上吧。那么,我繼續(xù)利用緩存機(jī)制還是可以降低總線的頻繁使用的。但是,每個(gè)cpu都有自己的緩存。如果有2個(gè)cpu的緩存存儲(chǔ)的是同一內(nèi)存數(shù)據(jù)的內(nèi)容,其中一個(gè)cpu的緩存更新了,另外一個(gè)cpu的緩存也必須更新,這就是所謂的緩存一致性。編程多線程程序的一個(gè)很重要的一點(diǎn)就是避免因?yàn)榫彺嬉恢滦砸鸬木彺娓嘛L(fēng)暴。
現(xiàn)在我舉一個(gè)緩存更新風(fēng)暴的例子。
如圖所示的類定義,
鎖lockHttp和lockSsl中間只有8個(gè)字節(jié),而絕大部分系統(tǒng)上一個(gè)緩存行是128個(gè)字節(jié),那么這2個(gè)鎖很可能就處在同一個(gè)緩存行上面。那么,最壞的情況會(huì)發(fā)生什么事情了。假設(shè)處理器P1在運(yùn)行一個(gè)處理http請(qǐng)求的線程T1,處理器P2在運(yùn)行一個(gè)處理ssl請(qǐng)求的線程T2,那么當(dāng)T1獲得鎖lockHttp的時(shí)候,鎖的內(nèi)容就會(huì)改變,為了保持緩存一致性,就會(huì)更新P2的緩存。那么,T2要獲得鎖lockssl的時(shí)候,發(fā)現(xiàn)緩存已經(jīng)失效了,就必須從內(nèi)存中重新加載緩存之類??傊?,這會(huì)將緩存命中率降低到90%以下,引起性能的嚴(yán)重降低。而且發(fā)生這種事情的原因是因?yàn)槲覀儾涣私庥布捏w系結(jié)構(gòu)。
多cpu不能成倍提高速度的原因是任務(wù)的某些部分是必須串行處理的。比如,矩陣乘法可以分為三個(gè)部分,初始化矩陣,相乘,返回結(jié)果。這三部分第二部分可以用多線程來(lái)處理,第一部分和第三部分則是不可以的。而且第二部分必須在第一部分完成之后,第三部分必須在第一部分完成之后。那么,無(wú)論你添加多少個(gè)處理器,最快的時(shí)間都至少是第一部分和第二部分的時(shí)間之和。這個(gè)事實(shí)好像叫做Amdahl法則。
如果使用多線程,那么就必須考慮線程同步,而線程同步又是導(dǎo)致速度降低的關(guān)鍵。所以下面就講述一些方法來(lái)加快多線程程序的吞吐速度。
方法一,把一個(gè)任務(wù)分解為多個(gè)可以子任務(wù)。
因?yàn)榭傆行┳尤蝿?wù)是可以并發(fā)的,多個(gè)子任務(wù)并發(fā)執(zhí)行了很可能就能夠避免cpu需要io操作的完成了,而且能夠提高系統(tǒng)的吞吐量。
方法二,緩存多線程的共享數(shù)據(jù)。
當(dāng)你已經(jīng)在使用多線程了,很多時(shí)候必須使用共享數(shù)據(jù)。如果,數(shù)據(jù)是只讀的,那么可以在第一次獲取后保存起來(lái),以后就可以重復(fù)使用了。但是,第一次的獲取還是無(wú)法避免的需要線程同步操作的。
方法三,如果線程數(shù)目有限,就不要共享數(shù)據(jù)。
做法是為每一個(gè)線程實(shí)例化一個(gè)單獨(dú)的數(shù)據(jù),其實(shí)就是為每一個(gè)線程分配一塊數(shù)據(jù)使用。這樣沒(méi)有線程同步操作了,速度可以盡可能的提示。
方法四,如果沒(méi)辦法確定線程數(shù)目到底有多少,那么使用部分共享吧。
部分共享其實(shí)就是使用多個(gè)資源池代替一個(gè)資源池,資源池的數(shù)目得更加經(jīng)驗(yàn)來(lái)確定。如下圖所示,
最后在提一個(gè)叫做Thundering Herd的問(wèn)題,該問(wèn)題維基百科有定義。大意是,當(dāng)多個(gè)線程在等待一個(gè)資源的時(shí)候,如果事件等待到了,操作系統(tǒng)是喚醒所有等待的線程讓它們自己去競(jìng)爭(zhēng)資源了還是選擇一個(gè)線程把資源給它。當(dāng)然喚醒所有的線程肯定開(kāi)銷要大,而且所有沒(méi)有搶到資源的線程還得重新進(jìn)入等待狀態(tài),這無(wú)疑造成很多沒(méi)必要的操作,浪費(fèi)了沒(méi)必要的線程上下文切換。總之,會(huì)不會(huì)存在Thundering Herd還是跟不同的操作系統(tǒng)有關(guān)的。萬(wàn)一存在Thundering Herd了,多線程可能就沒(méi)那么好辦了。
到現(xiàn)在我們知道了為什么多cpu并不能成倍提高程序的速度了。首先因?yàn)橛行┤蝿?wù)無(wú)法并行,其次即使是并行cpu之間還是有很多牽制的。
看了如何提高多線程程序的文章內(nèi)容的人還看: