|
Tomcat本身不能直接在計算機上運行，需要依賴于硬件基礎(chǔ)之上的操作系統(tǒng)和一個Java虛擬機。Tomcat的內(nèi)存溢出本質(zhì)就是JVM內(nèi)存溢出，所以在本文開始時，應(yīng)該先對Java JVM有關(guān)內(nèi)存方面的知識進行詳細介紹。 一、Java JVM內(nèi)存介紹 JVM管理兩種類型的內(nèi)存，堆和非堆。按照官方的說法：“Java 虛擬機具有一個堆，堆是運行時數(shù)據(jù)區(qū)域，所有類實例和數(shù)組的內(nèi)存均從此處分配。堆是在 Java 虛擬機啟動時創(chuàng)建的?！薄霸贘VM中堆之外的內(nèi)存稱為非堆內(nèi)存(Non-heap memory)”。簡單來說堆就是Java代碼可及的內(nèi)存，是留給開發(fā)人員使用的；非堆就是JVM留給自己用的，所以方法區(qū)、JVM內(nèi)部處理或優(yōu)化所需的內(nèi)存(如JIT編譯后的代碼緩存)、每個類結(jié)構(gòu)(如運行時常數(shù)池、字段和方法數(shù)據(jù))以及方法和構(gòu)造方法的代碼都在非堆內(nèi)存中，它和堆不同，運行期內(nèi)GC不會釋放其空間。
(1). 堆內(nèi)存分配 初始化堆的大小是JVM在啟動時向系統(tǒng)申請的內(nèi)存的大小。一般而言，這個參數(shù)不重要。但是有的應(yīng)用程序在大負載的情況下會急劇地占用更多的內(nèi)存，此時這個參數(shù)就是顯得非常重要，如果JVM啟動時設(shè)置使用的內(nèi)存比較小而在這種情況下有許多對象進行初始化，JVM就必須重復(fù)地增加內(nèi)存來滿足使用。由于這種原因，我們一般把-Xms和-Xmx設(shè)為一樣大，而堆的最大值受限于系統(tǒng)使用的物理內(nèi)存。一般使用數(shù)據(jù)量較大的應(yīng)用程序會使用持久對象，內(nèi)存使用有可能迅速地增長。當(dāng)應(yīng)用程序需要的內(nèi)存超出堆的最大值時JVM就會提示內(nèi)存溢出，并且導(dǎo)致應(yīng)用服務(wù)崩潰。所以，如果Xms超過了Xmx值，或者堆最大值和非堆最大值的總和超過了物理內(nèi)存或者操作系統(tǒng)的最大限制都會引起服務(wù)器啟動不起來。
(2). 非堆內(nèi)存分配
(3). JVM內(nèi)存限制(最大值) 二、三種內(nèi)存溢出異常介紹 1. OutOfMemoryError： Java heap space 堆溢出 內(nèi)存溢出主要存在問題就是出現(xiàn)在這個情況中。當(dāng)在JVM中如果98％的時間是用于GC且可用的 Heap size 不足2％的時候?qū)伋龃水惓Ｐ畔ⅰ? 2. OutOfMemoryError： PermGen space 非堆溢出（永久保存區(qū)域溢出） 這種錯誤常見在web服務(wù)器對JSP進行pre compile的時候。如果你的WEB APP下都用了大量的第三方j(luò)ar, 其大小超過了jvm默認的大小(4M)那么就會產(chǎn)生此錯誤信息了。如果web app用了大量的第三方j(luò)ar或者應(yīng)用有太多的class文件而恰好MaxPermSize設(shè)置較小，超出了也會導(dǎo)致這塊內(nèi)存的占用過多造成溢出，或者tomcat熱部署時侯不會清理前面加載的環(huán)境，只會將context更改為新部署的，非堆存的內(nèi)容就會越來越多。 3. OutOfMemoryError： unable to create new native thread. 無法創(chuàng)建新的線程 這種現(xiàn)象比較少見，也比較奇怪，主要是和jvm與系統(tǒng)內(nèi)存的比例有關(guān)。這種怪事是因為JVM已經(jīng)被系統(tǒng)分配了大量的內(nèi)存（比如1.5G），并且它至少要占用可用內(nèi)存的一半。
三、Java JVM內(nèi)存配置 1. JVM內(nèi)存分配設(shè)置的參數(shù)有四個 -Xmx Java Heap最大值，默認值為物理內(nèi)存的1/4； -Xms Java Heap初始值，Server端JVM最好將-Xms和-Xmx設(shè)為相同值，開發(fā)測試機JVM可以保留默認值； -Xmn Java Heap Young區(qū)大小，不熟悉最好保留默認值； -Xss 每個線程的Stack大小，不熟悉最好保留默認值； -XX:PermSize：設(shè)定內(nèi)存的永久保存區(qū)域；-XX:MaxPermSize：設(shè)定最大內(nèi)存的永久保存區(qū)域； -XX:PermSize：設(shè)定內(nèi)存的永久保存區(qū)域； -XX:NewSize：設(shè)置JVM堆的‘新生代’的默認大??；
-XX:MaxNewSize：設(shè)置JVM堆的‘新生代’的最大大?。?nbsp; 2. 如何設(shè)置JVM的內(nèi)存分配 （1）當(dāng)在命令提示符下啟動并使用JVM時（只對當(dāng)前運行的類Test生效）：
（2）當(dāng)在集成開發(fā)環(huán)境下（如eclipse）啟動并使用JVM時：
（3）當(dāng)在服務(wù)器環(huán)境下（如Tomcat）啟動并使用JVM時（對當(dāng)前服務(wù)器環(huán)境下所以Java程序生效）：
3. 查看JVM內(nèi)存信息
關(guān)于maxMemory()，freeMemory()和totalMemory()：maxMemory()為JVM的最大可用內(nèi)存，可通過-Xmx設(shè)置，默認值為物理內(nèi)存的1/4，設(shè)置不能高于計算機物理內(nèi)存； totalMemory()為當(dāng)前JVM占用的內(nèi)存總數(shù)，其值相當(dāng)于當(dāng)前JVM已使用的內(nèi)存及freeMemory()的總和，會隨著JVM使用內(nèi)存的增加而增加； freeMemory()為當(dāng)前JVM空閑內(nèi)存，因為JVM只有在需要內(nèi)存時才占用物理內(nèi)存使用，所以freeMemory()的值一般情況下都很小，而JVM實際可用內(nèi)存并不等于freeMemory()，而應(yīng)該等于maxMemory()-totalMemory()+freeMemory()。 4. 實例，以下給出1G內(nèi)存環(huán)境下java jvm 的參數(shù)設(shè)置參考
大型的web工程，用tomcat默認分配的內(nèi)存空間無法啟動，如果不是在myeclipse中啟動tomcat可以對tomcat這樣設(shè)置：
如果要在myeclipse中啟動，上述的修改就不起作用了，可如下設(shè)置：
對于單獨的.class，可以用下面的方法對Test運行時的jvm內(nèi)存進行設(shè)置。 java -Xms64m -Xmx256m Test -Xms是設(shè)置內(nèi)存初始化的大小 -Xmx是設(shè)置最大能夠使用內(nèi)存的大小。 四、JVM內(nèi)存配置與GC 需要考慮的是Java提供的垃圾回收機制。JVM的堆大小決定了JVM花費在收集垃圾上的時間和頻度。收集垃圾可以接受的速度與應(yīng)用有關(guān)，應(yīng)該通過分析實際的垃圾收集的時間和頻率來調(diào)整。如果堆的大小很大，那么完全垃圾收集就會很慢，但是頻度會降低。如果你把堆的大小和內(nèi)存的需要一致，完全收集就很快，但是會更加頻繁。調(diào)整堆大小的的目的是最小化垃圾收集的時間，以在特定的時間內(nèi)最大化處理客戶的請求。在基準(zhǔn)測試的時候，為保證最好的性能，要把堆的大小設(shè)大，保證垃圾收集不在整個基準(zhǔn)測試的過程中出現(xiàn)。如果系統(tǒng)花費很多的時間收集垃圾，請減小堆大小。一次完全的垃圾收集應(yīng)該不超過 3-5 秒。如果垃圾收集成為瓶頸，那么需要指定堆的大小，檢查垃圾收集的詳細輸出，研究垃圾收集參數(shù)對性能的影響。一般說來，你應(yīng)該使用物理內(nèi)存的 80% 作為堆大小。當(dāng)增加處理器時，記得增加內(nèi)存，因為分配可以并行進行，而垃圾收集不是并行的。 Java Heap分為3個區(qū)： 1.Young 2.Old 3.Permanent。Young保存剛實例化的對象。當(dāng)該區(qū)被填滿時，GC會將對象移到Old區(qū)。Permanent區(qū)則負責(zé)保存反射對象，本文不討論該區(qū)。
JVM有2個GC線程：
為什么一些程序頻繁發(fā)生GC？有如下原因： 如果你發(fā)現(xiàn)每次GC后，Heap的剩余空間會是總空間的50%，這表示你的Heap處于健康狀態(tài)許多Server端的Java程序每次GC后最好能有65%的剩余空間。
經(jīng)驗之談：
注意：
tomcat 的Connector配置如下 <</span>Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" maxThreads="800" acceptCount="1000"/>
其中最后兩個參數(shù)意義如下：
maxThreads：tomcat起動的最大線程數(shù)，即同時處理的任務(wù)個數(shù)，默認值為200 acceptCount：當(dāng)tomcat起動的線程數(shù)達到最大時，接受排隊的請求個數(shù)，默認值為100
這兩個值如何起作用，請看下面三種情況 情況1：接受一個請求，此時tomcat起動的線程數(shù)沒有到達maxThreads，tomcat會起動一個線程來處理此請求。 情況2：接受一個請求，此時tomcat起動的線程數(shù)已經(jīng)到達maxThreads，tomcat會把此請求放入等待隊列，等待空閑線程。 情況3：接受一個請求，此時tomcat起動的線程數(shù)已經(jīng)到達maxThreads，等待隊列中的請求個數(shù)也達到了acceptCount，此時tomcat會直接拒絕此次請求，返回connection refused maxThreads如何配置 一般的服務(wù)器操作都包括量方面：1計算（主要消耗cpu），2等待（io、數(shù)據(jù)庫等） 第一種極端情況，如果我們的操作是純粹的計算，那么系統(tǒng)響應(yīng)時間的主要限制就是cpu的運算能力，此時maxThreads應(yīng)該盡量設(shè)的小，降低同一時間內(nèi)爭搶cpu的線程個數(shù)，可以提高計算效率，提高系統(tǒng)的整體處理能力。 第二種極端情況，如果我們的操作純粹是IO或者數(shù)據(jù)庫，那么響應(yīng)時間的主要限制就變?yōu)榈却獠抠Y源，此時maxThreads應(yīng)該盡量設(shè)的大，這樣 才能提高同時處理請求的個數(shù)，從而提高系統(tǒng)整體的處理能力。此情況下因為tomcat同時處理的請求量會比較大，所以需要關(guān)注一下tomcat的虛擬機內(nèi) 存設(shè)置和linux的open file限制。 我在測試時遇到一個問題，maxThreads我設(shè)置的比較大比如3000，當(dāng)服務(wù)的線程數(shù)大到一定程度時，一般是2000出頭，單次請求的響應(yīng)時間就會急劇的增加， 百思不得其解這是為什么，四處尋求答案無果，最后我總結(jié)的原因可能是cpu在線程切換時消耗的時間隨著線程數(shù)量的增加越來越大， cpu把大多數(shù)時間都用來在這2000多個線程直接切換上了，當(dāng)然cpu就沒有時間來處理我們的程序了。 以前一直簡單的認為多線程=高效率。。其實多線程本身并不能提高cpu效率，線程過多反而會降低cpu效率。 當(dāng)cpu核心數(shù)<線程數(shù)時，cpu就需要在多個線程直接來回切換，以保證每個線程都會獲得cpu時間，即通常我們說的并發(fā)執(zhí)行。 所以maxThreads的配置絕對不是越大越好。 現(xiàn)實應(yīng)用中，我們的操作都會包含以上兩種類型（計算、等待），所以maxThreads的配置并沒有一個最優(yōu)值，一定要根據(jù)具體情況來配置。 最好的做法是：在不斷測試的基礎(chǔ)上，不斷調(diào)整、優(yōu)化，才能得到最合理的配置。 acceptCount的配置，我一般是設(shè)置的跟maxThreads一樣大，這個值應(yīng)該是主要根據(jù)應(yīng)用的訪問峰值與平均值來權(quán)衡配置的。 如果設(shè)的較小，可以保證接受的請求較快相應(yīng)，但是超出的請求可能就直接被拒絕 如果設(shè)的較大，可能就會出現(xiàn)大量的請求超時的情況，因為我們系統(tǒng)的處理能力是一定的。
|
|
|
